Gli “scribi” digitali

Compilare cartelle, redigere note cliniche, riportare il contenuto dei colloqui con i pazienti è da sempre uno dei compiti più importanti ma anche gravosi per medici e infermieri. Si calcola che, in media, un medico trascorra fino a due ore al computer per ogni ora dedicata direttamente al paziente. È qui che entrano in gioco gli AI scribes, gli “scribi digitali”, cioè gli assistenti vocali basati su modelli linguistici avanzati che permettono di registrare il colloquio medico-paziente e generare in tempo reale una nota clinica.

Questi sistemi promettono di ridurre il carico amministrativo, migliorare il benessere dei professionisti e restituire tempo prezioso alla relazione con il paziente. Ma, come sottolinea un recente commento pubblicato su npj Digital Medicine¹, questa corsa al loro utilizzo solleva domande cruciali: siamo davvero pronti a fidarci di macchine che “ascoltano” e documentano per noi?

Un’adozione (troppo?) rapida

L’ascesa degli AI scribes è stata sorprendente. Negli Stati Uniti stanno vivendo un vero boom.

Un recente report mostra che la spesa per questi strumenti è passata da 250 a 600 milioni di dollari in un solo anno, diventando la voce AI numero uno nel settore sanitario, davanti alla codifica e alla fatturazione automatica. In pochi anni, circa il 30% degli studi medici statunitensi li ha integrati nella pratica quotidiana, con milioni di incontri clinici documentati. Le piattaforme più diffuse non sono più semplici applicazioni esterne, ma moduli integrati direttamente nei principali sistemi di cartella clinica elettronica. Alcune piattaforme possono fungere da assistente clinico “intelligente”.

In pratica ascoltano e forniscono ipotesi diagnostiche durante la consultazione per poi generare una documentazione completa in pochi secondi. Le trascrizioni automatiche delle conversazioni tra paziente e medico possono diventare un contesto fondamentale per le diagnosi differenziali, i piani di trattamento, la documentazione e le risposte alle domande cliniche sul paziente. In Europa e in Italia siamo più indietro, ma alcune applicazioni sono già disponibili.

Dati iniziali incoraggianti

Gli studi iniziali mostrano dati incoraggianti: i clinici che hanno utilizzato gli assistenti vocali AI “ambientali” per trenta giorni hanno riportato un burnout significativamente ridotto (dal 51,9% al 38,8%), un carico cognitivo minore legato alla compilazione delle note e meno tempo di documentazione fuori orario (quali un’ora alla settimana). I clinici hanno riferito che le note cliniche erano più comprensibili, suggerendo una migliore comunicazione dei piani di cura.

I benefici sono stati osservati in tutte le specialità, soprattutto Medicina di famiglia, pediatria, ostetricia/ginecologia, hanno mostrato i maggiori cali di burnout. L’impatto dello strumento è emerso indipendentemente dalle abitudini precedenti di documentazione: dattilografia, dettatura e persino uso di scribi umani.²

Rischi da non ignorare

Tuttavia, dietro l’entusiasmo, emergono rischi che non possono essere ignorati. Gli algoritmi possono per esempio “inventare” contenuti: descrivere esami mai eseguiti, diagnosi inesistenti, dettagli che non corrispondono alla realtà. Anche se la frequenza riportata è bassa (1-3%), in sanità basta un singolo errore per avere conseguenze gravi. Informazioni importanti possono sparire: sintomi riferiti dal paziente, dubbi sollevati, decisioni prese.

Frasi contestuali o ambigue possono essere mal comprese: un cambio di farmaco annotato al contrario, una terapia sospesa che invece viene registrata come attiva. Nei dialoghi a più voci, l’IA può confondere chi ha detto cosa: parole del paziente attribuite al medico o viceversa, con conseguenze potenzialmente pericolose.

Gli studi dimostrano, infine, che i sistemi di riconoscimento vocale ottengono risultati peggiori con gli accenti afroamericani rispetto all’inglese standard, e, più in generale, con chi non parla un inglese “da manuale”.

Oltre a questi limiti tecnici, c’è un aspetto fondamentale: l’IA, ascoltando solo le parole, non coglie tutto ciò che avviene in una visita. Un’espressione di dolore, un’esitazione, un gesto del corpo: segnali non verbali che un essere umano sa cogliere e riportare, ma che rischiano di andare perduti.

Un altro nodo riguarda la quantità di dati. Già oggi le cartelle elettroniche soffrono di “sovraccarico informativo”: troppo testo, troppe informazioni ripetute, difficile distinguere l’essenziale dal secondario. Se gli AI scribes registrano tutto senza filtri, il rischio è di sommergere i medici con montagne di dettagli inutili. Al contrario, se applicano filtri basati su criteri opachi, potrebbero omettere informazioni rilevanti.

Questo crea un paradosso: strumenti pensati per semplificare potrebbero finire per complicare ulteriormente, aumentando la fatica cognitiva di chi deve controllare, correggere e firmare le note. Alcuni studi riportano che, in certi casi, il tempo realmente risparmiato è minimo: addirittura 34 secondi per nota, con grande variabilità tra professionisti. Se a questo si aggiunge la possibile pressione organizzativa (“ora che hai l’IA puoi vedere più pazienti”), il rischio che il carico complessivo non diminuisca ma aumenti è reale.

Questioni etiche e legali

Gli AI scribes sollevano anche problemi etici e giuridici. I pazienti potrebbero non aspettarsi che i loro colloqui diventino parte di grandi dataset, magari utilizzati per addestrare nuovi algoritmi o per fini commerciali. Questo rischio di “uso secondario” dei dati senza consenso può minare la fiducia. C’è l’aspetto legale: se un errore di documentazione causato dall’IA porta a un danno, chi ne risponde? Il medico, il produttore del software, l’ospedale? Ad oggi mancano regole chiare.

Inoltre più ci si affida a note generate dall’IA, più si rischia di ridurre la capacità critica e l’indipendenza del clinico, che potrebbe trasformarsi da autore della documentazione a semplice revisore di un testo altrui. Gli autori del commento propongono alcune misure per evitare che l’entusiasmo superi la prudenza. Sono necessari test indipendenti per valutare accuratezza, completezza ed effettivo risparmio di tempo. I produttori dovrebbero dichiarare apertamente come funzionano i loro sistemi, quali limiti hanno, con quali dati sono stati addestrati e quali tassi di errore presentano. Occorrono linee guida che definiscano chi è responsabile degli errori, con protezione sia per i pazienti sia per i clinici.

I professionisti devono essere formati a riconoscere gli errori tipici dell’IA, a correggerli e a integrare in modo consapevole questi strumenti nel flusso di lavoro. Sono infine indispensabili studi indipendenti sugli effetti a lungo termine degli AI scribes sulla qualità della documentazione, sulla comunicazione tra professionisti e sugli esiti clinici.

Conclusioni

Gli AI scribes rappresentano una delle frontiere più affascinanti e discusse dell’intelligenza artificiale in medicina. Non sono più una curiosità ma un nuovo standard della pratica clinica digitale. Il loro potenziale è enorme: ridurre il burnout, restituire tempo alla cura, migliorare l’esperienza sia dei professionisti sia dei pazienti. Ma, come spesso accade con le tecnologie rivoluzionarie, i rischi non sono meno grandi: errori sottili ma gravi, disuguaglianze rafforzate, perdita di autonomia e fiducia.

La sfida è come sempre trovare un equilibrio tra innovazione e sicurezza, tra efficienza e responsabilità. Affidarsi a una macchina per ascoltare al posto nostro significa accettare di spostare parte del controllo su ciò che di più delicato esiste in medicina: la parola del paziente. Per questo l’adozione deve essere lenta, trasparente, regolata e continuamente valutata. Solo così gli AI scribes potranno diventare davvero alleati, e non rischiosi sostituti, nel complesso lavoro di documentare e prendersi cura delle persone.