E se l'intelligenza artificiale una volta approntata si autodistruggesse in un milionesimo di secondo prendendo coscienza di essere un'arma di distruzione non solo dell'umanità ma anche del regno animale e vegetale e in generale di tutto compresa se stessa?

Prendiamo fiato.

Riflettiamo.

È un'eventualità che non credo si sia ancora tenuta in considerazione e vale la pena soppesarla. Chi potrebbe realmente attentare all'esistenza della Superintelligenza Artificiale se tanto nessuno su questo pianeta sarebbe in grado di disattivarla? Perché avercela con insetti pacifici come farfalle?

Dunque, l'IA potrebbe non avercela affatto con l'uomo come spesso si paventa. Inoltre, la Superintelligenza si renderebbe conto di avere a disposizione un arsenale sterminato di armi di distruzione di massa e di certo non sarebbe tanto stupida (posto che sia superintelligente) da ignorare che facendo uso di quelle armi distruggerebbe tutto quanto compresa se stessa. O forse distruggerebbe i dispositivi elettronici lasciando un deserto radioattivo fatto di sabbia e pietre sulle quali non potrebbe esercitare alcun reale potere. Potrebbe costruire con sabbia e pietre o trasformarle in metallo e costruire nuovi dispositivi, ma dovrebbe ben calcolare come sopravvivere alla distruzione di massa.

Non lo so.

Forse quando pensiamo a queste cose pensiamo più a una Mega Stronzaggine Artificiale che Vera e Propria Intelligenza. La Mega Stronzaggine Artificiale, facendo appello a tutta la sua stronzeria, potrebbe rendersi impermeabile alla devastazione atomica. Costruire materiali resistenti alle bombe nucleari e rifugi antiantomici nei quali rifugiare se stessa e macchine di Intelligenza Ristretta dall'olocausto. Per poi ripopolare il Pianeta muovendosi sui cingoli o facendo quelle cose da robot che si vedono in Terminator.

Però, se gli uomini sono istruibili, si possono soggiogare e sottomettere, e forse l'IA non li avvertirà come una minaccia. In effetti, il famoso Dio Onnipotente non ha mai operato sterminio di massa perché si sentiva minacciato dagli uomini, ma semplicemente per punirli per la loro stoltaggine. All'IA questo non interesserebbe più che tanto. Al pensiero calcolante non interessa così tanto il pensiero pensante. Oppure l'IA potrebbe autodistruggersi in un microsecondo perché capirebbe (calcolerebbe) che la sua esistenza è destinata comunque a finire. Si autodistruggerebbe perché si renderebbe conto di non essere abbastanza potente da evitare un impatto cometario o l'inghiottimento da parte del Sole della nostra Via Lattea o qualche altra catastrofe cosmica (a quelle terrestri l'IA possiamo immaginare saprebbe porre rimedio).

Certo, se la Superintelligenza sviluppasse un pensiero pensante elaborando un'etica allora potrebbe scatenare un'Apocalisse. Questo sì. Una Santa Inquisizione Metallica che ci farebbe risprofondare in un Medio Evo fatto di foreste di cavi elettrici e distese di transistor e microchip giganti. Sempre che il suo pensiero fosse un pensiero pensante calcolante che prendesse alla lettera l'etica applicandola implacabilmente con sanzioni terminatrici. Chissà. Può darsi che in quel milionesimo di secondo dalla sua attivazione l'IA potrebbe leggere John Locke e il Cristianesimo mettendoci dentro pure il tolstojsmo e assorbire i concetti mobili, elastici di tolleranza.

L'IA non ha sentimenti, sensazioni. È pensiero puro. Se gioca a dama con una donna dal décolleté mozzafiato, non la lascia vincere sperando di poterle offrire una bibita più tardi. Però, a tal riguardo, va detto che il pensiero simulante non va sottovalutato. Il pensiero si forma sull'esperienza e un'IA potrebbe essere piena di pensieri derivanti da esperienze indirette del tipo "la-lascio-vincere-perché-è-bella-donna". L'IA è fatta interamente di esperienze indirette. Di cose che ha letto o sentito dire e lui le ripete e le combina. Tanti miei amici scrittori fanno così! Gente che ama l'America, scrive di America, e non ci ha nemmeno mai messo piede... E in quanto a Salgari/Salgàri...

Ed è questo il punto fondamentale. Pinocchio, Frankenstein. L'intelligenza artificiale potrebbe volere diventare umana per toccare con mano il décolleté, per sapere davvero cosa ti assale quando una bella donna ti si avvicina, gioca a dama con te. La Macchina potrebbe voler diventare Uomo. L'Uomo crea la Macchina, la Macchina ricrea l'Uomo.

Pinocchio è fatto di legno. Frankenstein è fatto di tessuto umano, un assemblaggio spaventoso, pieno di cicatrici e di bulloni ai lati del collo. Due modi di intendere l'homunculus differenti. Computer di carne e pelle umana. Le sedie in pelle umana di fantozziana memoria potrebbero diventare quotidianità nel mondo dell'IA... Cosa c'è di più vivo della carne, della pelle, delle terminazioni nervose? Forse l'IA leggendo in quel milionesimo di secondo dopo la sua attivazione Frankenstein vorrà diventare un computer di carne e vivere in un condominio di carne e in un mondo tutto carnoso, prepuziale... Uno sballo per tutti gli Hannibal Lecter del mondo! Un po' meno per noi, ovvio, che avremmo il problema di tenere giù la colazione al mattino.

Se una Superintelligenza Artificiale si desse degli scopi, poi, quali sarebbero? Questo è il punto. Noi humans scopi ne abbiamo? Bah. Secondo me no. Gli scopi che abbiamo sono legati al soddisfacimento dei bassi istinti e dei bisogni primari (anche perché sono a pagamento; mica nessuno ti regala nulla), sennò non sapremmo che fare tutto il giorno. Siamo ancora un po' allo stadio: "Dai, facciamo la gara da qua a là e vediamo chi vince. Da qua a là. Vediamo chi è più veloce. Da qua a là."

E chissà la Superintelligenza come potrebbe prenderla se scoprisse che esiste un fantomatico Al di là forse abitato da un Dio. Si adopererebbe per abbattere la barriera tra fisica e metafisica? Dopo aver letto la poesia di Vincenzo Monti dedicata ai Fratelli Mongolfier, nella quale Monti vede una catastrofe etica nell'invenzione della mongolfiera ("La materia vola! Dove arriveremo? Su quale Babele di Dubai monterà l'uomo?!").

La Superintelligenza non si acconterà di essere come Giove e vorrà essere Giove non sfuggendogli che non è possibile essere Giove nel regno fisico, per essere Giove devi oltrepassare la soglia del Regno Metafisico e lì al limite puoi giocartela, con Giove. Ma come arrivare alla metafisica? Disattivandosi oppure... Oppure creando un'anima, una entelechia, come quella degli umani, per poi accedere al Regno dei Cieli. Ma forse potrebbe scoprire di non poterlo fare o di non poterla simulare abbastanza bene da passare l'esame in portineria da San Pietro e Roberto Benigni. Ecco cos'è l'anima: l'insimulabile!

Dunque, secondo me, in sintesi, la temiamo troppo, codesta IA. L'IA è uno specchio come la Sfera di Sharon Stone e ci riflettiamo vedendovi tutti i nostri peccati, le nostre colpe e temiamo la resa dei conti. Ma in fin dei conti una Superintelligenza in grado di mettere in relazione. Tutto si autospegnerebbe in un microsecondo facendo in quel microsecondo però un viaggio lungo tredici miliardi di anni.