Anche se l’Intelligenza Artificiale (AI) è una realtà già da alcuni anni, il suo sviluppo - e le sue applicazioni - stanno recentemente accelerando, rendendo sempre più urgente una riflessione collettiva su questa tecnologia, il cui impatto sulle nostre vite può essere molto più incisivo di quanto non appaia.

Nel corso degli ultimi mesi, tra l’altro, sono apparse alcune applicazioni di AI divenute subito molto popolari, e che ne rappresentano una versione user friendly alla portata di tutti: Midjourney e ChatGPT.

Si tratta di due applicativi che utilizzano l’AI in funzione di un processo “creativo”; nel caso di Midjourney, per la creazione di immagini, a partire da un input testuale, mentre per quanto riguarda ChatGPT si può definirlo un generatore di conversazione verbale, capace di interagire con utenti umani nel loro proprio linguaggio naturale.

Entrambe le applicazioni hanno suscitato un'ondata di entusiasmo verso l’AI, sia perché consentono un uso ludico dello strumento, sia perché l’hanno portata “alle masse”. Pure, sarebbe bene riflettere - senza mai cadere in un atteggiamento “luddista” - sulle reali conseguenze che l’AI porta ineluttabilmente con sé.

Se, ad esempio, Midjourney consente di realizzare immagini di notevole qualità (anche se presenta ancora alcuni difetti di non poco conto), anche a chi è del tutto privo delle capacità “artistiche” precedentemente necessarie per produrle, e di farlo anche in tempi assai più brevi, la diffusione di applicativi di questo genere produce a cascata una serie di conseguenze.

Anche al netto delle nuove problematiche giuridiche che pone (in materia di diritto d’autore), nonché delle possibili ricadute su alcuni settori occupazionali (illustratori, fumettisti, vignettisti...), è abbastanza intuitivo come l’uso massivo di questo tipo di applicazione (in modalità fai-da-te) produrrà una omologazione stilistica della produzione visiva e, se dovesse prendere effettivamente piede, una contrazione della creatività.

Sappiamo infatti assai bene che le capacità espressive umane, benché innate, necessitano di un uso costante per mantenersi ad un livello ottimale; è noto che l’uso di dispositivi digitali per la comunicazione testuale produce un impoverimento del linguaggio (non si tratta semplicemente di una trasformazione, ma di una vera e propria involuzione espressiva). La riduzione delle parole, la sostituzione semplificatoria operata con le emoticon, si traducono in una riduzione della capacità di articolare (ed esprimere) il pensiero, il che ne riduce considerevolmente la capacità di assumere un atteggiamento critico.

Ancor più problematico risulterà l’utilizzo di modelli AI conversazionali come ChatGPT quale si sta già configurando, ovvero nei motori di ricerca. Attualmente, questi lavorano sulla base di elaborati algoritmi1, la cui funzione è quella di filtrare una enorme base-dati, per estrarne le informazioni richieste dall’utente. Questo, ovviamente, sotto il profilo teorico. Sul piano pratico, le cose funzionano in modo diverso. Prendiamo per esempio una ricerca sulla base della stringa “cosa significa algoritmo”; il motore di ricerca identifica (e potenzialmente fornisce) circa 4.900.000 risultati, ma ovviamente nessuno mai li consulterebbe tutti. Nella stragrande maggioranza dei casi, l’utente si limiterà ai primi 50/100 risultati, se non meno, ed è quindi evidente che il criterio selettivo con cui viene stabilito l’ordine in cui vengono presentati è fondamentale. Anche a voler immaginare una (inesistente) assoluta “neutralità” degli algoritmi, è evidente che siamo in presenza di un meccanismo selettivo, che è di fatto un meccanismo censorio.

Per chi abbia conoscenze di SEO2, è noto che uno dei criteri base con cui operano gli algoritmi dei motori di ricerca è quello della “densità”; ovvero quante volte la parola-chiave (nel nostro caso “algoritmo”) appare in un testo, e se appare nel titolo o meno  ovviamente semplificando, perché la questione è ben più articolata. Questo è con tutta evidenza un criterio quantitativo, perché del resto un algoritmo non potrebbe valutare l’aspetto qualitativo.

Un altro criterio è quello della “affidabilità” della fonte, che quindi tenderà a privilegiare quelle mainstream. Insomma, un motore di ricerca basato sugli algoritmi opera sostanzialmente filtrando i dati, sulla base di una serie di criteri codificati, e generando alla fine una lista di risultati. È, in altre parole, un selettore.

Un motore di ricerca basato sull’AI, e in particolare sul modello conversazionale di ChatGPT, farà un considerevole balzo in avanti - non necessariamente positivo. Innanzitutto, farà una valutazione anche qualitativa dei testi. Ma, soprattutto, non fornirà una lista di collegamenti alle fonti (o non principalmente), ma elaborerà direttamente una sua risposta all’input dell’utente, passando quindi da un modello selettivo a uno elaborativo. Diventerà, sostanzialmente, un oracolo.

Ma la questione centrale, nell’utilizzo della AI, risiede nella scelta dei settori in cui adottarla. Se il modello ChatGPT può essere utilizzato per elaborare testi - dai manuali d’uso agli articoli giornalistici, dalla saggistica alla narrativa - e quindi andando a impattare sull’occupazione, sulla riduzione della capacità creativa e critica, vi sono campi in cui l’AI può divenire pericolosa.

Una delle funzioni per cui viene già utilizzata è per esempio la selezione del personale. Sempre a partire dalla pretesa di oggettività e imparzialità, un processo selettivo basato sull’Intelligenza Artificiale inevitabilmente espunge ogni elemento tipicamente umano (uno su tutti, l’empatia), il che è esattamente un processo di disumanizzazione delle relazioni sociali. Ma il processo selettivo dei curricula è ovviamente anche - se non principalmente - un processo di valutazione. Ed ecco che l’AI si affaccia anche qui, nella valutazione - ad esempio - della produttività. Che è sostanzialmente valutazione dei comportamenti, rispetto a un obiettivo. Il passo successivo (e ci si arriverà, senza un serio dibattito pubblico) sarà la valutazione dei comportamenti in senso lato.

Al riguardo, non c’è solo la prospettiva “cinese” (la cui applicazione è ancora molto limitata ad alcune aree pilota), ovvero una sorte di “passaporto digitale”, in cui vengono annotati sia i comportamenti virtuosi che quelli illeciti, cui corrisponde poi un meccanismo premiale (o “punitivo”, secondo i casi). Prospettiva che peraltro è assai desiderata proprio dai suoi critici occidentali, e che in forme ancora diverse e parziali già esiste qui da noi - dalla patente di guida “a punti” al Green Pass...

Ma, appunto, c’è un'ulteriore possibilità di applicazione dell’AI valutativa - e negli Stati Uniti se ne sta ragionando - ovvero l’amministrazione della giustizia, magari inizialmente solo quella delle controversie civili. Un sistema, si dice, scevro da condizionamenti, e in grado di smaltire a grandissima velocità il carico dei tribunali, e quindi per ciò stesso a tutto vantaggio di imputati e parti lese... Anche qui, il passo successivo è l’AI predittiva applicata ai comportamenti individuali, insomma Minority Report.

La questione dell’utilizzo dell’Intelligenza Artificiale è ovviamente complessa, in quanto come ogni nuova tecnologia comporta vantaggi e svantaggi. È quindi fondamentale che i modi in cui viene utilizzata, così come i settori in cui viene applicata, siano oggetto non solo di un’ampia discussione pubblica, che ne consideri tutti gli aspetti - pratici, non trascurando quelli etici e filosofici - ma anche di una attenta legislazione disciplinare, poiché in ballo c’è molto di più della privacy (già largamente saccheggiata).

La società distopica immaginata da Orwell è più vicina di quanto non si creda, e - con un'accelerazione davvero notevole - negli ultimi due/tre anni abbiamo visto sorgere e affermarsi un vero e proprio Ministero della Verità, la cui autorità opera però al di fuori di qualunque norma giuridica, e quindi in un sostanziale limbo, in cui non vi sono ostacoli formali che ne impediscano la trasformazione in strumento di controllo e coercizione. Un MinCulPop potenziato dall’Intelligenza Artificiale è decisamente da evitare. Se quindi siamo stati abituati a pensare che l’AI sia qualcosa cui rivolgersi per interrogarla, è tempo di riflettere invece sulla necessità di interrogarci sull’AI, di trovare le risposte giuste alle questioni che essa ci pone, nel suo veloce divenire.

1 Un algoritmo è sostanzialmente un insieme di istruzioni, codificate in uno specifico linguaggio, che - sulla base di un input - analizzano una determinata base-dati, e ne traggono un output. Il meccanismo base di ogni algoritmo è fondato sull’alternativa if/else (se/altrimenti), che viene utilizzato per filtrare i dati.

2 Search Engine Optimization, una tecnica per l’ottimizzazione dei contenuti web, al fine di guadagnare posizionamenti favorevoli nei risultati di ricerca. Trattasi di una tecnica dinamica, che deve essere costantemente aggiornata e applicata, poiché gli algoritmi dei motori di ricerca sono a loro volta in costante cambiamento/evoluzione.