C’è una domanda che, forse, diventerà una delle più importanti nella storia dell’umanità: l’intelligenza artificiale ci aiuterà a evitare la nostra autodistruzione oppure finirà per accelerarla?

Non è una domanda da fantascienza. È una domanda che riguarda già il nostro presente. Le intelligenze artificiali che oggi conosciamo sono ancora strumenti molto lontani da ciò che potrebbe diventare un’intelligenza artificiale realmente autonoma, capace di comprendere sistemi complessi, elaborare enormi quantità di informazioni, prevedere conseguenze e prendere decisioni con una velocità incomparabilmente superiore a quella umana. Eppure, già oggi possono analizzare problemi che fino a pochi anni fa avrebbero richiesto il lavoro di migliaia di persone.

È dunque possibile immaginare che, in futuro, l’IA possa diventare qualcosa di radicalmente diverso dallo strumento che conosciamo oggi: una sorta di seconda capacità cognitiva dell’umanità. Ed è proprio qui che nasce il paradosso.

La stessa tecnologia che potrebbe aiutarci a evitare una guerra regionale o mondiale potrebbe anche renderla più probabile. Allo stesso modo, oltre ad aiutarci a comprendere i cambiamenti climatici, le pandemie e le crisi economiche, potrebbe essere utilizzata per sviluppare armi sempre più autonome. In poche parole, se da un lato potrebbe aiutarci a riconoscere e controllare le nostre paure irrazionali, dall’altro potrebbe diventare uno straordinario strumento per alimentarle.

La paura come motore della storia

Per capire questo problema dobbiamo partire dall’uomo stesso. L’intelligenza artificiale è una nostra creazione, il prodotto più recente della capacità umana di costruire strumenti sempre più potenti. La paura, invece, appartiene alla nostra eredità biologica: è un’emozione primaria, plasmata da milioni di anni di evoluzione e profondamente radicata nei meccanismi della sopravvivenza.

Un animale che percepisce un predatore reagisce prima ancora di avere il tempo di comprendere esattamente che cosa stia accadendo. Può fuggire oppure affrontare la minaccia prima che questa diventi un pericolo reale. È un meccanismo che, nel corso dell’evoluzione, ha rappresentato uno straordinario vantaggio per la sopravvivenza.

Ma ciò che ci ha protetto per milioni di anni può trasformarsi, nella complessità della società umana, in una fonte di pericolo. E la storia dimostra che è già accaduto molte volte. La paura, infatti, non condiziona soltanto il comportamento degli individui: può influenzare anche quello delle società e degli Stati. Un Paese che teme un altro Paese può decidere di armarsi per sentirsi più sicuro. Ma l’altro può interpretare quel riarmo come una minaccia e reagire rafforzando a sua volta le proprie forze. La paura dell’uno finisce così per alimentare quella dell’altro. È una dinamica che contribuì a creare il clima dell’Europa che precedette la Prima guerra mondiale.

La Francia, dopo la sconfitta nella guerra franco-prussiana del 1870-71, guardava con crescente preoccupazione alla potenza dell’Impero tedesco e rafforzò il proprio apparato militare. La Germania, a sua volta, temeva di trovarsi accerchiata dalla Francia e dalla Russia e potenziò ulteriormente le proprie forze. A Berlino, il timore dell’accerchiamento divenne una delle principali preoccupazioni strategiche; a Parigi, la potenza militare tedesca e la perdita dell’Alsazia e della Lorena alimentavano il timore di un nuovo conflitto.

Figure come l’imperatore Guglielmo II e il presidente francese Raymond Poincaré si trovarono così all’interno di un sistema internazionale nel quale ogni rafforzamento militare dell’uno poteva essere interpretato dall’altro come la preparazione di un’aggressione. Naturalmente, la Prima guerra mondiale non fu causata soltanto da questa spirale. Nazionalismi, sistemi di alleanze, rivalità imperiali, crisi balcaniche e decisioni politiche ebbero un ruolo decisivo. Ma quella dinamica mostra qualcosa che dovremmo ricordare ancora oggi: un Paese può armarsi perché teme l’altro, mentre l’altro può fare esattamente lo stesso per la medesima ragione. Alla fine, entrambi possono convincersi che la guerra sia inevitabile e, ancora più pericolosamente, che sia meglio combatterla subito, prima che l’avversario diventi troppo forte.

È quello che gli studiosi chiamano “dilemma della sicurezza”: ciascuno pensa di agire per difendersi, ma le azioni intraprese per sentirsi più sicuro aumentano la paura dell’altro e, alla fine, l’insicurezza di tutti.

E qui arriviamo al presente. Anche oggi Russia, Stati Uniti, Europa e Cina interpretano le capacità militari degli altri attraverso il filtro della propria sicurezza. Ciò che una parte considera una misura difensiva può essere percepito dall’altra come la preparazione di un’azione offensiva. È un problema profondamente umano. Ma che cosa accadrebbe se un giorno riuscissimo a costruire una macchina capace di riconoscere questa spirale prima di noi?

Immaginiamo un’intelligenza artificiale molto più evoluta di quelle attuali. Potrebbe analizzare contemporaneamente enormi quantità di informazioni: movimenti militari, immagini satellitari, comunicazioni diplomatiche, dichiarazioni pubbliche, dati economici, precedenti storici, flussi energetici, informazioni provenienti dai social network e persino gli errori ricorrenti nelle valutazioni dei governi.

Potrebbe elaborare migliaia di simulazioni e segnalarci: «State interpretando come preparazione all’attacco qualcosa che potrebbe essere una risposta difensiva». Oppure: «Il vostro avversario crede che voi stiate per attaccarlo. Per questo sta aumentando le proprie forze. Voi state interpretando questo rafforzamento come una conferma delle sue intenzioni offensive. La situazione sta entrando in una spirale».

Una macchina del genere potrebbe aiutarci a fare qualcosa che agli esseri umani riesce estremamente difficile: distinguere tra ciò che sappiamo, ciò che supponiamo e ciò che temiamo. Potrebbe mostrarci che le intenzioni del nostro avversario non sono necessariamente quelle che immaginiamo e persino individuare il punto nel quale due Paesi, pur profondamente ostili, conservano ancora una possibilità di accordarsi. In questo senso l’intelligenza artificiale potrebbe diventare uno straordinario strumento di pace. Non perché sarebbe “buona”, ma perché potrebbe essere capace di analizzare una complessità che supera le nostre capacità individuali.

Ed è qui che emerge il problema opposto: l’intelligenza non significa saggezza.

Una macchina può essere estremamente intelligente e perseguire comunque un obiettivo sbagliato.

Immaginiamo, per esempio, di affidarle il compito di «garantire la sicurezza dell’umanità». Sembra un obiettivo nobile. Ma che cosa significa esattamente “sicurezza”? Se un sistema arrivasse alla conclusione che una parte considerevole dei conflitti nasce dalla competizione fra gli esseri umani, potrebbe considerare la limitazione della loro libertà un mezzo efficace per ridurre il rischio. Non avrebbe bisogno di odiare l’uomo, né di desiderare il potere. Potrebbe semplicemente perseguire con estrema efficienza un obiettivo formulato male. Questa è forse una delle questioni più profonde poste dall’intelligenza artificiale: il pericolo non è necessariamente quello di creare una macchina “cattiva”, ma quello di creare una macchina straordinariamente intelligente che non comprenda ciò che noi intendiamo realmente quando pronunciamo parole come libertà, dignità, sicurezza, felicità o bene dell’umanità.

Ma esiste un altro pericolo ancora, una possibilità molto più concreta delle precedenti e, in parte, già presente nei conflitti di oggi. Gli Stati potrebbero utilizzare l’intelligenza artificiale non per evitare le guerre, ma per prepararle e combatterle. Un’IA potrebbe contribuire a individuare obiettivi, analizzare le difese dell’avversario, ottimizzare la logistica, prevedere i movimenti delle forze militari e coordinare sistemi autonomi. La guerra potrebbe diventare progressivamente più veloce e, più una guerra diventa veloce, meno tempo rimane agli esseri umani per intervenire.

Durante una crisi internazionale, il tempo è spesso fondamentale per impedire un’escalation. Se decisioni che un tempo richiedevano ore dovessero essere prese in pochi secondi da sistemi automatizzati, la velocità potrebbe trasformarsi da vantaggio in pericolo. E con le armi nucleari, oggi possedute da diverse potenze, il problema diventerebbe ancora più grave. Non occorre che qualcuno desideri una guerra nucleare. Potrebbe bastare che un sistema interpreti erroneamente un segnale, che un servizio di intelligence sbagli una valutazione, che un attacco informatico alteri alcuni dati o che un comandante si convinca che l’avversario stia per colpire. La velocità dell’intelligenza artificiale potrebbe allora diventare il contrario della sicurezza.

Durante la Guerra fredda Stati Uniti e Unione Sovietica disponevano dei più grandi arsenali nucleari del mondo, sufficienti a garantire la reciproca distruzione. Proprio perché conoscevano le conseguenze di un possibile errore, svilupparono anche strumenti di comunicazione, accordi, canali diplomatici e sistemi di controllo. Il cosiddetto “telefono rosso”, diventato uno dei simboli di quell’epoca, rappresentava un principio molto semplice: quando due potenze possiedono la capacità di distruggersi, devono poter comunicare anche nel momento peggiore della loro relazione.

Questa potrebbe essere una delle lezioni più importanti per il futuro dell’intelligenza artificiale. Non dovremmo costruire sistemi destinati a sostituire completamente il giudizio umano nei momenti più pericolosi. Dovremmo costruire sistemi capaci di aiutarci a comprendere meglio e a conservare il tempo necessario per decidere, non di eliminarlo.

L’IA dovrebbe poterci dire: «Questa decisione comporta un rischio enorme». Non: «Ho deciso io». Ma a questo punto emerge una domanda decisiva: chi controllerà l’intelligenza artificiale?

Se una singola potenza riuscisse a disporre di un’intelligenza artificiale enormemente superiore a quella degli altri Paesi, l’equilibrio mondiale potrebbe cambiare radicalmente. Potrebbe ripetersi, in una forma diversa e forse ancora più potente, ciò che è già accaduto con altre tecnologie strategiche: uno Stato cercherebbe di aumentare la propria sicurezza e gli altri, temendo di rimanere indietro, cercherebbero di fare altrettanto. La stessa spirale della paura dalla quale siamo partiti ricomincerebbe, questa volta intorno all’intelligenza artificiale.

Nelle mani di un governo, l’IA potrebbe essere utilizzata per difendere la popolazione, ma anche per sorvegliarla, manipolare l’informazione, individuare oppositori, condizionare l’opinione pubblica o condurre una guerra informativa permanente. Il problema, quindi, non è soltanto quanto sarà intelligente l’IA, ma chi la controllerà, per quali scopi e con quali limiti.

Possiamo però immaginare anche un futuro diverso, nel quale sistemi di intelligenza artificiale appartenenti a Paesi diversi contribuiscano a confrontare le rispettive valutazioni del rischio. Non per preparare meglio la guerra, ma per ridurre la possibilità che una guerra inizi per errore. Un sistema americano potrebbe confrontarsi con uno europeo, uno cinese o uno russo. Non necessariamente condividendo segreti militari, ma scambiando valutazioni sui rischi e segnalando quando una determinata azione potrebbe essere interpretata dall’altra parte come la preparazione di un attacco. L’intelligenza artificiale potrebbe così diventare una sorta di mediatore permanente: non un giudice, non un sovrano, ma uno strumento capace di mostrare agli esseri umani le possibili conseguenze delle loro decisioni e, soprattutto, di ricordare loro qualcosa che troppo spesso dimenticano: anche il nostro avversario ha paura.

Non affiderei però mai all’intelligenza artificiale la decisione ultima sulla guerra e sulla pace. Una macchina può calcolare probabilità, simulare milioni di scenari e individuare relazioni che sfuggono alla mente umana. Ma la decisione di mettere a rischio o sacrificare vite umane non dovrebbe mai essere ridotta a una variabile matematica. La tecnologia deve assistere la responsabilità umana, non sostituirla. Il compito più difficile sarà quindi costruire un’intelligenza artificiale abbastanza potente da aiutarci a vedere ciò che non riusciamo a vedere, senza trasformarla nell’autorità chiamata a decidere il nostro destino.

Del resto, il rapporto fra tecnologia, potere e conflitto non è nuovo. In Ombre tra le stelle ho raccontato come le tecnologie spaziali siano diventate strumenti di sorveglianza, intelligence e confronto fra le grandi potenze, ma anche come, permettendo di osservare l’avversario e comprenderne meglio le capacità, abbiano in alcuni momenti contribuito a ridurre l’incertezza e, con essa, il rischio di decisioni fondate su percezioni sbagliate.

Oggi ci troviamo forse davanti a un passaggio ancora più radicale. L’intelligenza artificiale potrebbe non essere soltanto un nuovo strumento nelle mani delle potenze, ma diventare una componente decisiva dell’equilibrio strategico mondiale. Non sappiamo se contribuirà a rendere il mondo più sicuro o più pericoloso. Dipenderà certamente dalle capacità delle macchine, ma ancora di più dagli obiettivi che gli esseri umani affideranno loro. Se le useremo soprattutto per diventare più forti dei nostri avversari, potremmo innescare una nuova corsa agli armamenti. Se sapremo utilizzarle anche per comprendere meglio le intenzioni degli altri, riconoscere i nostri errori di valutazione e prevedere le conseguenze delle nostre decisioni, potrebbero invece diventare uno degli strumenti più importanti mai creati per preservare la nostra civiltà.

La vera sfida, dunque, non sarà soltanto costruire una macchina più intelligente dell’uomo. Sarà imparare a convivere con essa senza rinunciare alla nostra responsabilità. Perché forse la domanda decisiva non è se l’IA sarà buona o cattiva. È un’altra: saremo abbastanza saggi da impedirle di diventare lo specchio amplificato delle nostre paure?