La pace dipende dalla domanda

Nel film WarGames – se non l’avete mai visto vi consiglio di recuperarlo – in una delle ultime scene, il supercomputer WOPR, dopo aver simulato migliaia di scenari di una guerra termonucleare, arriva a una conclusione disarmante:

«The only winning move is not to play.»
(L’unica mossa vincente è non giocare.)

Per anni quella frase è stata interpretata, anche da me, come una lezione sulla follia della guerra atomica. Oggi, nell’epoca dell’intelligenza artificiale, mi suggerisce una domanda ancora più interessante e inquietante: una moderna IA arriverebbe alla stessa conclusione?

La risposta è: dipende. Non dall’intelligenza della macchina. Dalla domanda che le facciamo.

Immaginiamo infatti una crisi internazionale con coinvolgimento delle potenze nucleari. Le informazioni disponibili sono le stesse, la capacità di calcolo è identica, gli algoritmi pure. Cambia soltanto la funzione obiettivo.

Se chiediamo all’IA di massimizzare la sopravvivenza umana, la conclusione è abbastanza prevedibile. Ogni escalation aumenta il rischio di vittime, ogni errore di valutazione può trasformarsi in catastrofe. La strategia migliore diventa allora ridurre le tensioni, favorire il dialogo, accettare compromessi. La pace emerge come conseguenza logica.

Ma basta modificare leggermente l’obiettivo.

Supponiamo che il compito non sia più proteggere l’umanità, bensì massimizzare la vittoria di uno degli schieramenti. In quel caso la pace perde il suo valore intrinseco e diventa semplicemente uno strumento. Se si presenta una finestra di vantaggio strategico, l’IA potrebbe considerare razionale sfruttarla. Il rischio non scompare: viene contabilizzato.

Il risultato cambia ancora se l’obiettivo diventa preservare la stabilità internazionale. La macchina potrebbe suggerire concessioni reciproche, congelamento dei conflitti, rinunce parziali da parte di uno o più attori. Una soluzione efficiente per il sistema nel suo complesso, ma non necessariamente equa per tutti coloro che ne fanno parte.

Poi c’è il caso più curioso. Immaginiamo che l’IA debba massimizzare non la vittoria, ma la probabilità di vincere. Sembrano concetti simili, ma non lo sono affatto. Per aumentare le probabilità di successo, la macchina potrebbe raccomandare mobilitazioni preventive, dimostrazioni di forza e deterrenza aggressiva. Misure che rafforzano la posizione strategica, ma che allo stesso tempo aumentano il rischio di escalation.

Paradossalmente, nel tentativo di rendere meno probabile la sconfitta, si rende più probabile la guerra.

Infine possiamo allargare l’orizzonte temporale. Se l’obiettivo diventa massimizzare gli anni futuri di esistenza della civiltà umana, anche una piccola probabilità di conflitto nucleare assume un costo enorme. Non si contano più soltanto le vittime immediate, ma tutti i decenni, i secoli e le generazioni che potrebbero non esistere mai.

Ed è qui che il ragionamento torna sorprendentemente vicino a quello del WOPR.

Non perché la macchina abbia sviluppato una coscienza pacifista. Non perché abbia imparato l’etica. Ma perché, dati certi obiettivi, la pace emerge come la soluzione matematicamente più conveniente.

La vera lezione, allora, non riguarda l’intelligenza artificiale. Riguarda noi.

La stessa IA, con gli stessi dati e la stessa capacità di ragionamento, può produrre strategie radicalmente diverse semplicemente perché cambia il traguardo che le abbiamo indicato.

L’intelligenza, artificiale o umana che sia, serve a trovare il modo migliore per raggiungere un obiettivo.

La scelta dell’obiettivo, però, continua a essere una responsabilità tutta nostra.

E forse è proprio questo il messaggio più attuale di WarGames: il problema non è se le macchine saranno abbastanza intelligenti da evitare la guerra.

È capire se noi saremo abbastanza saggi da fare loro la domanda giusta.

Perché una risposta intelligente a una domanda sbagliata resta, semplicemente, la risposta sbagliata.