L’intelligenza artificiale sta rapidamente diventando parte integrante del modo in cui le persone cercano, interpretano e utilizzano le informazioni sanitarie. Tuttavia, la tecnologia si sta evolvendo più velocemente delle prove necessarie per stabilire se questi sistemi aiutino effettivamente le persone a comprendere ciò che conta, a prendere decisioni informate in materia di salute e a sapere cosa fare in seguito.
Una nuova prospettiva, guidata dalla professoressa Rebecca K. Ivic, dell’Università dell’Alabama, insieme al docente di spicco della CUNY SPH, Scott C. Ratzan, e alla professoressa emerita della Emory University School of Medicine, Ruth M. Parker, introduce il concetto di intelligenza artificiale “alfabetizzata in ambito sanitario” e propone quattro principi per la progettazione e la gestione della comunicazione sanitaria mediata dall’IA: comprensione, capacità di agire, responsabilità e proporzionalità.
“Stiamo implementando l’intelligenza artificiale in ambito sanitario a un ritmo più veloce di quello con cui raccogliamo le prove necessarie per capire se effettivamente aiuta le persone a comprendere, decidere e agire”, afferma il dottor Ivic.
Poiché i sistemi di intelligenza artificiale vengono utilizzati per rispondere a domande sui sintomi, riassumere le linee guida sanitarie, interpretare il rischio e supportare le decisioni, si può ottenere una risposta tecnicamente plausibile, pur non riuscendo a comunicare l’urgenza della situazione, il grado di certezza delle informazioni, le alternative disponibili, quando è necessario un consulto professionale e come ottenere il parere e il dialogo umano per un processo decisionale appropriato.
Gli autori definiscono l’IA “alfabetizzata in ambito sanitario” come un’IA progettata per allineare informazioni, indicazioni e responsabilità alle capacità, ai contesti e ai bisogni degli utenti. Il quadro concettuale sposta l’attenzione non più solo sull’accuratezza tecnica o sulla comprensibilità delle informazioni prodotte dall’IA, ma anche sulla capacità delle persone di comprenderne il significato, prendere decisioni informate e determinare le azioni da intraprendere.
I quattro componenti sono:
- Comprensione: Le persone sono in grado di interpretare l’output dell’IA in relazione alla propria lingua, alle conoscenze pregresse e alle circostanze?
- Agenzia: Le informazioni supportano un’azione significativa e consapevole, che includa scelte chiare e passi successivi da compiere?
- Responsabilità: sono visibili le prove, l’incertezza, i limiti e le responsabilità?
- Proporzionalità: la quantità e l’urgenza delle linee guida sono commisurate alla gravità della situazione?
Nel loro insieme, questi elementi forniscono una base per valutare se la comunicazione mediata dall’intelligenza artificiale sia idonea allo scopo in contesti rilevanti per la salute.
“Considerate tutte le discussioni e gli avvertimenti sui potenziali pericoli dell’IA, abbiamo bisogno di riflessioni, ricerche e analisi da parte di esperti che proteggano le persone dai potenziali rischi, realizzando al contempo le promesse di questa nuova tecnologia per la salute”, afferma il dottor Ratzan, co-presidente della Commissione di Nature Medicine sulla qualità delle informazioni sanitarie per tutti e caporedattore del Journal of Health Communication.
“L’intelligenza artificiale in ambito sanitario è il Santo Graal o la Torre di Babele?”, si chiede il Dott. Parker. “In medicina, sorgono spontanee alcune domande: tutti sono in grado di comprendere e utilizzare in modo sicuro le informazioni fornite da questi sistemi per migliorare gli esiti sanitari? Il suo utilizzo è economicamente vantaggioso e in linea con i nostri valori umani?”
Il quadro di riferimento si basa su decenni di ricerca sull’alfabetizzazione sanitaria, che ha esaminato sempre più non solo le competenze individuali, ma anche il modo in cui governi, organizzazioni e sistemi rendono le informazioni sanitarie più facili o più difficili da comprendere e utilizzare. Per oltre 30 anni, i dottori Parker e Ratzan hanno contribuito in modo sostanziale a questo corpus di studi, compresa la ricerca sull’alfabetizzazione sanitaria come questione sistemica e politica. La dottoressa Ivic propone un modello innovativo per l’attuale contesto informativo digitale, esaminando come piattaforme, istituzioni e tecnologie emergenti influenzino la produzione, l’interpretazione e l’utilizzo delle informazioni sanitarie.
Anziché addossare interamente ai singoli individui l’onere di interpretare informazioni automatizzate sempre più complesse, l’intelligenza artificiale applicata alla salute si interroga su come la progettazione e la governance dei sistemi di IA stessi possano favorire la comprensione e un’azione consapevole. Gli autori invitano inoltre i progettisti a immaginare come l’IA potrebbe contribuire a rendere operativa l’accessibilità economica all’assistenza sanitaria, un obiettivo di lunga data e ampiamente riconosciuto che non abbiamo ancora raggiunto.
“Questo modello offre a ricercatori, sviluppatori e autorità di regolamentazione un approccio condiviso per affrontare una questione di maggiore rilevanza”, afferma il Dr. Ivic, commissario della Nature Medicine Commission on Quality Health Information for All e direttore esecutivo del Journal of Health Communication. “La questione non è semplicemente se l’IA possa generare una risposta, ma se le persone siano in grado di comprenderla, utilizzarla e agire di conseguenza in modo appropriato. L’IA in ambito sanitario dovrebbe contribuire maggiormente a rendere le informazioni sanitarie di qualità comprensibili, utilizzabili e verificabili, con la progettazione e la governance che collaborano per promuovere un’IA responsabile in ambito sanitario.”
Gli autori sostengono che ciò sia particolarmente importante in situazioni ad alto rischio o ambigue. I sistemi di intelligenza artificiale dovrebbero distinguere tra informazione, consulenza e decisione, e rendere chiari questi ruoli agli utenti. Quando l’output automatizzato è insufficiente, i sistemi dovrebbero anche identificare quando è necessario il giudizio umano, la valutazione clinica o la riflessione etica.
“L’obiettivo non è quello di rendere le persone più brave a gestire un’intelligenza artificiale sempre più complessa”, afferma Ivic. “L’obiettivo è piuttosto quello di fornire al settore uno strumento per iniziare a misurare se questo processo si sta effettivamente verificando.”
Questa prospettiva sostiene che l’alfabetizzazione sanitaria non dovrebbe semplicemente richiedere alle persone di adattarsi a tecnologie sempre più complesse. Poiché l’intelligenza artificiale sta diventando un intermediario sempre più importante tra le persone e le informazioni sanitarie, i sistemi stessi dovrebbero essere progettati intorno alle persone che devono comprenderli e utilizzarli.
Gli autori auspicano l’adozione dei principi dell’IA applicata alla salute per orientare la progettazione, la valutazione, la ricerca e la governance degli ecosistemi di IA rilevanti per la salute. Sottolineano inoltre un’importante lacuna nelle evidenze: sono necessarie ulteriori ricerche per determinare se l’IA migliori effettivamente la comprensione, il processo decisionale informato e le azioni in ambito sanitario.
“L’intelligenza artificiale in ambito sanitario offre indubbiamente opportunità di innovazione, ma sono necessarie ulteriori ricerche, garanzie e regolamentazioni per assicurare che i suoi benefici superino chiaramente i rischi”, afferma il Dr. Parker. “La sua progettazione e il suo utilizzo devono migliorare la capacità degli utenti di comprendere e prendere decisioni che migliorino la salute, siano economicamente sostenibili e coerenti con i nostri valori umani.”
Nature Human Behaviour