L’intelligenza artificiale nel settore sanitario potrebbe portare rischi insieme alle opportunità

L’IA ha un enorme potenziale nel campo sanitario, in grado di migliorare le diagnosi e di trovare nuovi farmaci più efficaci. Tuttavia, come discusso in un articolo di Scientific American, la velocità con cui l’IA sta penetrando nel settore sanitario apre anche molte nuove sfide e rischi.

Nel corso degli ultimi cinque anni, la Food and Drug Administration degli Stati Uniti ha approvato oltre 40 diversi prodotti basati sull’IA. Tuttavia, come riportato da Scientific American, nessuno dei prodotti autorizzati alla vendita negli Stati Uniti ha avuto la sua prestazione valutata in trial clinici randomizzati e controllati. Molti strumenti medici basati sull’IA non richiedono nemmeno l’approvazione della FDA.

Evan Topol, autore di “Deep Medicine: come l’intelligenza artificiale può rendere la sanità più umana”, ha dichiarato a Scientific American che molti dei prodotti basati sull’IA che affermano di essere efficaci in compiti come la diagnosi di malattie non sono stati testati in modo rigoroso, con il primo trial randomizzato importante di uno strumento di rilevamento e diagnosi basato sull’IA effettuato lo scorso ottobre. Inoltre, pochissimi startup tecnologiche pubblicano i loro articoli di ricerca su riviste peer-review, dove il loro lavoro sarà analizzato da scienziati.

Quando testati e controllati in modo appropriato, i sistemi basati sull’IA possono essere strumenti potenti che aiutano i professionisti sanitari a rilevare sintomi altrimenti inosservati, migliorando gli esiti sanitari.

Ad esempio, uno strumento basato sull’IA per la rilevazione della malattia oculare diabetica è stato testato su centinaia di pazienti e sembra essere risultato affidabile. L’azienda responsabile del test ha lavorato con la FDA per oltre otto anni per perfezionare il prodotto. Il test, IDx-DR, sta facendo il suo ingresso nelle cliniche di assistenza primaria, dove potrebbe aiutare a rilevare i primi segni di retinopatia diabetica, inviando i pazienti a specialisti oculari se si sospettano sintomi.

Se non testati con cura, i sistemi basati sull’IA che i professionisti sanitari possono utilizzare per guidare la diagnosi e il trattamento hanno il potenziale di creare danni invece di evitarli.

L’articolo di Scientific American descrive un potenziale problema legato all’utilizzo dell’IA per diagnosticare le malattie, facendo riferimento all’esempio di un’IA progettata per analizzare le radiografie del torace e rilevare quali pazienti potrebbero sviluppare polmonite. Sebbene il sistema si sia rivelato accurato quando testato presso l’ospedale Mount Sinai di New York, ha fallito quando testato su immagini scattate in altri ospedali. I ricercatori hanno scoperto che l’IA stava distinguendo tra immagini create da sistemi di radiografia portatili e quelle create in un reparto di radiologia. I medici utilizzano sistemi di radiografia del torace portatili su pazienti che sono spesso troppo malati per lasciare il letto, e questi pazienti sono a maggior rischio di sviluppare polmonite.

Le false allarme sono anche una preoccupazione. DeepMind ha creato un’app mobile basata sull’IA in grado di prevedere l’insufficienza renale acuta nei pazienti ricoverati fino a 48 ore in anticipo. Tuttavia, il sistema ha segnalato anche due falsi allarmi per ogni insufficienza renale correttamente prevista. I falsi positivi possono essere dannosi poiché possono spingere i medici a spendere tempo e risorse inutili per esami ulteriori o alterare i trattamenti prescritti.

In un altro incidente, un sistema basato sull’IA ha concluso erroneamente che i pazienti che avevano polmonite erano più probabili di sopravvivere se avevano asma, il che potrebbe portare i medici a modificare i trattamenti per i pazienti con asma.

I sistemi basati sull’IA sviluppati per un ospedale spesso non funzionano bene quando vengono utilizzati in un altro ospedale. Ci sono molte cause per questo. Innanzitutto, i sistemi basati sull’IA vengono spesso addestrati su registri elettronici sanitari, ma molti registri elettronici sanitari sono spesso incompleti o errati poiché il loro scopo principale è spesso la fatturazione e non l’assistenza sanitaria. Ad esempio, un’indagine condotta da KHN ha scoperto che occasionalmente c’erano errori che mettevano a rischio la vita nei registri medici dei pazienti, come elenchi di farmaci che contenevano farmaci errati. Oltre a ciò, le malattie sono spesso più complesse e il sistema sanitario più complesso di quanto possa essere previsto dagli ingegneri e dagli scienziati dell’IA.

Man mano che l’IA diventa sempre più diffusa, sarà importante che gli sviluppatori di IA lavorino a fianco delle autorità sanitarie per assicurarsi che i loro sistemi basati sull’IA siano testati a fondo e che gli organismi regolatori assicurino che vengano stabiliti e seguiti standard per l’affidabilità degli strumenti di diagnosi basati sull’IA.