Intervento per la I Conferenza SEPAI – Etica ed Intelligenza Artificiale (Roma 4 dicembre 2025) versione ampliata.

Signore e signori, colleghi, è un onore essere qui oggi per discutere un tema di grande attualità e complessità: l’intelligenza artificiale nel settore della difesa. Quando parliamo di AI in contesti militari, dobbiamo partire da un presupposto fondamentale: la tecnologia, per quanto avanzata, rimane uno strumento. Non crea intenzioni né etica propria. La IA, in questo contesto, è un ulteriore strumento di comando e controllo (Wiener, 19), un’estensione delle capacità decisionali e operative degli esseri umani, non un sostituto del giudizio morale.

Il concetto di comando e controllo non è nuovo, e non è nuovo il suo uso nel calcolo automatico (Wiener, uno dei padri della cibernetica ne parla per la prima volta nel suo famoso saggio La cibernetica: Controllo e comunicazione nell'animale e nella macchina del 1948, trad.it. Roma: Armando Editore, 2025). Dal secolo scorso, le tecnologie di comunicazione e calcolo hanno sempre avuto l’obiettivo di migliorare la consapevolezza situazionale, accelerare il processo decisionale e ridurre l’incertezza sul campo di battaglia. Vi sono in questo senso numerosi studi empirici come quello fondazionale di Wiener che è nato dal suo lavoro pratico sui sistemi di puntamento contraereo (anti-aircraft predictors).

Questi sistemi dovevano ricevere dati, prevedere la traiettoria di un aereo nemico e comandare il fuoco dei cannoni in tempo reale: un esempio perfetto di sistema di controllo automatico basato su informazioni. Recentemente, studi come quelli di Krepinevich (1994: Cavalry to Computer: The Pattern of Military Revolutions. The National Interest, n. 37, pp. 30-42) sulla rivoluzione nei concetti militari e di Singer (2009: Wired for War: The Robotics Revolution and Conflict in the 21st Century. New York: Penguin Press) sull’evoluzione dei sistemi autonomi hanno sottolineato come ogni innovazione tecnologica, dai radar agli UAV (acronimo di Unmanned Aerial Vehicle, cioè Veicolo Aereo Senza Equipaggio, che identifica velivoli capaci di volare senza un pilota umano a bordo; nel linguaggio comune sono chiamati droni).

L'IA è il naturale proseguimento di questa evoluzione. Un primo punto da sottolineare riguarda la capacità dell'IA di processare grandi volumi di dati in tempo reale. In scenari di difesa, ciò significa integrare immagini satellitari, sensori a terra, segnali elettronici e informazioni di intelligence in modelli predittivi.

La letteratura accademica, ad esempio Brynjolfsson e McAfee (2017, Machine, Platform, Crowd: Harnessing Our Digital Future. New York: W. W. Norton & Company.), evidenzia come l’automazione dei processi decisionali possa migliorare l’accuratezza e ridurre gli errori umani. Tuttavia, non dobbiamo illuderci: un modello predittivo militare rimane sempre vincolato alla qualità dei dati e agli assunti sottostanti, esattamente come avviene per i modelli predittivi in medicina (Topol, 2019, Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again, New York, Basic Books); bias nei dati o nelle ipotesi possono portare a decisioni gravemente distorte, con conseguenze potenzialmente catastrofiche in un contesto militare.

Il secondo aspetto è l’uso dell’IA in sistemi autonomi letali, i cosiddetti LAWS - acronimo di Lethal Autonomous Weapons Systems. Questi sistemi pongono sfide etiche e legali senza precedenti. Come sottolineato da Allen e Chan (2017, Artificial Intelligence and National Security. Cambridge, MA: Belfer Center for Science and International Affairs), la possibilità di delegare la scelta di prendere una vita a un algoritmo genera un conflitto con i principi fondamentali del diritto internazionale umanitario, che impongono distinzione e proporzionalità: gli algoritmi faticano a distinguere con certezza tra combattenti e civili in contesti complessi.

La distinzione non è solo tecnica (es. rilevare un'arma), ma richiede un giudizio qualitativo sulle intenzioni (es. capire se un individuo sta per arrendersi o se è un civile ferito), capacità che le macchine attuali non possiedono pienamente. Inoltre, chi decide la soglia di ingaggio?

Come si attribuisce responsabilità in caso di errore? Importante in questo contesto è la cosiddetta “clausola Martens” (una clausola che riprende la Prima Legge della Robotica di Asimov, 1942, “Runaround”, Astounding Science Fiction): permettere a una macchina di uccidere offende la dignità umana; il concetto di "coscienza pubblica" (parte della Clausola Martens) suggerisce che certe decisioni, per la loro gravità morale, debbano rimanere sotto un Controllo Umano Significativo (CUS). La comunità internazionale, attraverso documenti ONU e conferenze su LAWS, sta ancora cercando risposte condivise.

Un terzo punto riguarda l’integrazione uomo-macchina. L'IA, come evidenziato da Cummings (2017, Artificial Intelligence and the Future of Warfare, London: Chatham House for the Royal Institute of International Affairs), è più efficace quando funziona come un “team partner” piuttosto che come un sostituto. Nei sistemi di difesa, ciò significa che gli operatori umani devono mantenere il controllo finale su decisioni critiche, un concetto noto come “human-in-the-loop”.

L’adozione di interfacce intelligenti e di sistemi di supporto decisionale non riduce l’importanza della formazione etica e strategica degli operatori; al contrario, la rende cruciale. Questo concetto, sebbene formulato con un diverso nome, è già stato studiato nella letteratura di bioetica medica, quando la discussione si concentrava sul problema se la tecnologia medica dovesse sostituire l’umano oppure fare da supporto al medico.

Il problema principale in bioetica era il timore che la tecnologia meccanizzasse il rapporto medico-paziente, trasformando il malato in un oggetto di elaborazione dati piuttosto che in un soggetto di cura. In particolare Robert Sparrow (2017, Killer Robots: Applied Philosophy and the Ethics of Artificial Intelligence, in Journal of Applied Philosophy, Vol. 24, n. 1, pp. 62-77) pose le basi per il dibattito bioetico sulla lacuna della responsabilità (responsibility gap), sostenendo che se non c'è un uomo nel ciclo decisionale capace di assumersi la colpa, l'azione stessa è ingiusta.

La responsabilità è un concetto giuridico che, fino ad ora, è personale e relegato a soli esseri umani: animali e agenti artificiali sono esclusi. Possiamo espandere l’idea di responsabilità fino a comprenderli? Non posso approfondire qui questo problema perché ci porterebbe in territori filosofici vastissimi e che meriterebbe un articolo a parte.

Il quarto aspetto è la diplomazia tecnologica e la cooperazione internazionale. L'IA militare non è solo una questione di capacità nazionale, ma di equilibrio geopolitico. Studi come quelli di Horowitz (2018, Artificial Intelligence, International Competition, and the Balance of Power, in Texas National Security Review, vol. 1, n. 3, pp. 36-57) mostrano che la proliferazione incontrollata di sistemi autonomi può aumentare il rischio di escalation accidentale. Il controllo internazionale, la definizione di standard comuni e la trasparenza sono strumenti essenziali per mitigare questi rischi. Anche questo aspetto non è nuovo ma è una conseguenza del dibattito (avvenuto anche in ambito militare) sui rischi dell’uso dell’arma atomica (vedi, tra gli altri, il famoso Manifesto Einstein-Russell che a partire dal rischio di escalation atomico proponeva di bandire l’arma atomica).

Parlando di etica, dobbiamo affrontare due questioni chiave: responsabilità morale e trasparenza decisionale. Chi è responsabile di una decisione presa da un sistema autonomo? Come possiamo rendere intelligibili e verificabili algoritmi complessi, spesso basati su reti neurali profonde? La ricerca accademica, come quella di Jobin, Ienca e Vayena (2019, The global landscape of AI ethics guidelines. In Nature Machine Intelligence, vol. 1, n. 9, pp. 389-399), propone principi guida di etica per l’IA: beneficenza, non maleficenza, autonomia e giustizia. Applicarli in contesti militari significa progettare sistemi che rispettino la vita umana, riducano danni collaterali e mantengano accountability chiara.

Vorrei ora accennare al concetto di difesa preventiva e resilienza cibernetica. L’IA non è solo utile sul campo di battaglia tradizionale, ma anche nella guerra cibernetica. Sistemi intelligenti possono monitorare reti, identificare anomalie e anticipare attacchi, come evidenziato da Brundage et al. (2018) nel rapporto “The Malicious Use of AI”. Tuttavia, affidarsi eccessivamente a sistemi autonomi può generare un falso senso di sicurezza. La resilienza umana e organizzativa rimane insostituibile.

In conclusione, possiamo trarre alcune linee guida operative ed etiche per l’impiego dell'IA in difesa:

  1. AI come supporto, non sostituto: la tecnologia deve aumentare, non sostituire, il giudizio umano.

  2. Human-in-the-loop: decisioni critiche, soprattutto letali, devono restare sotto controllo umano.

  3. Trasparenza e auditabilità: algoritmi complessi devono essere verificabili per garantire responsabilità.

  4. Cooperazione internazionale: la regolamentazione globale è necessaria per prevenire escalation accidentali.

  5. Formazione etica degli operatori: non basta la tecnologia; serve una cultura morale e strategica.

Vorrei chiudere con una riflessione. La storia ci insegna che ogni nuova tecnologia militare ha generato timori etici e preoccupazioni per la sicurezza globale. Dall’artiglieria pesante al nucleare, passando per i droni, l’umanità ha sempre affrontato la sfida di bilanciare innovazione e responsabilità. L’intelligenza artificiale non fa eccezione. Come sottolineano Russell e Norvig (2021, Artificial Intelligence: A Modern Approach, 4ª edizione, Londra: Pearson) nel loro testo di riferimento sull’AI, ciò che conta non è solo cosa la tecnologia può fare, ma cosa noi decidiamo di permetterle di fare.

La responsabilità è nostra, non del software. In definitiva, se vogliamo che l’AI sia un alleato della sicurezza e della pace piuttosto che una minaccia incontrollata, dobbiamo combinare capacità tecnica, regolamentazione internazionale e formazione etica. Solo così potremo garantire che strumenti potenti come l’IA siano impiegati per proteggere la vita, difendere i valori fondamentali e ridurre i conflitti, invece di aumentarli.