Settore Sanitario
Chi è responsabile se l'IA sanitaria fallisce?
Chi è responsabile quando gli errori dell'IA in ambito sanitario causano incidenti, infortuni o peggio? A seconda della situazione, potrebbe essere lo sviluppatore dell'IA, un operatore sanitario o persino il paziente. La responsabilità è una preoccupazione sempre più complessa e seria man mano che l'IA diventa più comune nel settore sanitario. Chi è responsabile dell'IA andata male e come si possono prevenire gli incidenti?
Il rischio di errori di intelligenza artificiale nell'assistenza sanitaria
Ci sono molti vantaggi sorprendenti per l'IA nel settore sanitario, da una maggiore precisione e accuratezza a tempi di recupero più rapidi. L'intelligenza artificiale aiuta i medici a fare diagnosi, condurre interventi chirurgici e fornire la migliore assistenza possibile ai loro pazienti. Sfortunatamente, gli errori dell'IA sono sempre una possibilità.
Esiste un'ampia gamma di scenari in cui l'IA è andata male nel settore sanitario. Medici e pazienti possono utilizzare l'intelligenza artificiale come uno strumento decisionale puramente basato su software o l'intelligenza artificiale può essere il cervello di dispositivi fisici come i robot. Entrambe le categorie hanno i loro rischi.
Ad esempio, cosa succede se un robot chirurgico alimentato dall'intelligenza artificiale non funziona correttamente durante una procedura? Ciò potrebbe causare gravi lesioni o addirittura uccidere il paziente. Allo stesso modo, cosa succede se un algoritmo di diagnosi farmacologica consiglia il farmaco sbagliato per un paziente e questi subisce un effetto collaterale negativo? Anche se il farmaco non danneggia il paziente, una diagnosi errata potrebbe ritardare un trattamento adeguato.
Alla radice di errori di intelligenza artificiale come questi c'è la natura dei modelli di intelligenza artificiale stessi. La maggior parte delle AI oggi utilizza la logica della "scatola nera", il che significa che nessuno può vedere come l'algoritmo prende le decisioni. La scatola nera AI manca di trasparenza, portando a rischi come il bias logico, discriminazioni e risultati imprecisi. Sfortunatamente, è difficile rilevare questi fattori di rischio fino a quando non hanno già causato problemi.
AI andata male: di chi è la colpa?
Cosa succede quando si verifica un incidente durante una procedura medica basata sull'intelligenza artificiale? La possibilità che l'IA sia andata male sarà sempre nelle carte in una certa misura. Se qualcuno si fa male o peggio, è colpa dell'intelligenza artificiale? Non necessariamente.
Quando la colpa è dello sviluppatore AI
È importante ricordare che l'IA non è altro che un programma per computer. È un programma per computer altamente avanzato, ma è pur sempre un codice, proprio come qualsiasi altro software. Poiché l'IA non è senziente o indipendente come un essere umano, non può essere ritenuta responsabile per incidenti. Un'intelligenza artificiale non può andare in tribunale o essere condannata al carcere.
Gli errori di intelligenza artificiale nel settore sanitario sarebbero molto probabilmente responsabilità dello sviluppatore di intelligenza artificiale o del medico che monitora la procedura. Quale parte sia responsabile di un incidente potrebbe variare da caso a caso.
Ad esempio, lo sviluppatore sarebbe probabilmente in colpa se la distorsione dei dati inducesse un'intelligenza artificiale a dare decisioni o trattamenti ingiusti, imprecisi o discriminatori. Lo sviluppatore è responsabile di garantire che l'IA funzioni come promesso e offre a tutti i pazienti il miglior trattamento possibile. Se l'IA non funziona correttamente a causa di negligenza, svista o errori da parte dello sviluppatore, il medico non sarà responsabile.
Quando il medico o il medico è in colpa
Tuttavia, è ancora possibile che il medico o anche il paziente possano essere responsabili dell'IA andata male. Ad esempio, lo sviluppatore potrebbe fare tutto bene, dare al medico istruzioni dettagliate e delineare tutti i possibili rischi. Quando arriva il momento della procedura, il medico potrebbe essere distratto, stanco, smemorato o semplicemente negligente.
Indagine sui sondaggi oltre il 40% dei medici esperienza di esaurimento sul lavoro, che può portare a disattenzione, riflessi lenti e scarso richiamo della memoria. Se il medico non affronta i propri bisogni fisici e psicologici e la loro condizione causa un incidente, è colpa del medico.
A seconda delle circostanze, il datore di lavoro del medico potrebbe essere in ultima analisi incolpato per gli errori di intelligenza artificiale nell'assistenza sanitaria. Ad esempio, cosa succede se un dirigente di un ospedale minaccia di negare a un medico una promozione se non accetta di fare gli straordinari? Questo li costringe a lavorare troppo, portando al burnout. Il datore di lavoro del medico sarebbe probabilmente ritenuto responsabile in una situazione unica come questa.
Quando la colpa è del paziente
E se sia lo sviluppatore dell'IA che il dottore facessero tutto bene, però? Quando il paziente utilizza in modo indipendente uno strumento di intelligenza artificiale, un incidente può essere colpa sua. L'intelligenza artificiale andata male non è sempre dovuta a un errore tecnico. Può anche essere il risultato di un uso scorretto o improprio.
Ad esempio, forse un medico spiega a fondo uno strumento di intelligenza artificiale al proprio paziente, ma ignora le istruzioni di sicurezza o inserisce dati errati. Se questo uso negligente o improprio provoca un incidente, la colpa è del paziente. In questo caso, erano responsabili dell'utilizzo corretto dell'IA o della fornitura di dati accurati e hanno trascurato di farlo.
Anche quando i pazienti conoscono le loro esigenze mediche, potrebbero non seguire le istruzioni del medico per una serie di motivi. Per esempio, Il 24% degli americani assume farmaci da prescrizione riferiscono di avere difficoltà a pagare i farmaci. Un paziente potrebbe saltare i farmaci o mentire a un'intelligenza artificiale sull'assunzione di uno perché è imbarazzato per non essere in grado di pagare la prescrizione.
Se l'uso improprio del paziente era dovuto a una mancanza di guida da parte del proprio medico o dello sviluppatore dell'IA, la colpa potrebbe essere altrove. Alla fine dipende da dove si è verificato l'incidente o l'errore alla radice.
Norme e possibili soluzioni
C'è un modo per prevenire gli errori dell'IA nell'assistenza sanitaria? Sebbene nessuna procedura medica sia completamente priva di rischi, esistono modi per ridurre al minimo la probabilità di esiti avversi.
Le normative sull'uso dell'IA nell'assistenza sanitaria possono proteggere i pazienti da strumenti e procedure ad alto rischio basati sull'IA. La FDA lo ha già fatto quadri normativi per i dispositivi medici IA, delineando i requisiti di prova e di sicurezza e il processo di revisione. Le principali organizzazioni di supervisione medica potrebbero anche intervenire per regolamentare l'uso dei dati dei pazienti con algoritmi di intelligenza artificiale nei prossimi anni.
Oltre a normative rigorose, ragionevoli e approfondite, gli sviluppatori dovrebbero adottare misure per prevenire scenari di AI andati male. L'intelligenza artificiale spiegabile, nota anche come intelligenza artificiale della scatola bianca, può risolvere i problemi di trasparenza e distorsione dei dati. I modelli Explainable AI sono algoritmi emergenti che consentono a sviluppatori e utenti di accedere alla logica del modello.
Quando gli sviluppatori di intelligenza artificiale, i medici e i pazienti possono vedere come un'intelligenza artificiale sta arrivando alle sue conclusioni, è molto più facile identificare la distorsione dei dati. I medici possono anche rilevare inesattezze fattuali o informazioni mancanti più rapidamente. Utilizzando l'intelligenza artificiale spiegabile anziché l'intelligenza artificiale della scatola nera, gli sviluppatori e gli operatori sanitari possono aumentare l'affidabilità e l'efficacia dell'IA medica.
IA sanitaria sicura ed efficace
L'intelligenza artificiale può fare cose straordinarie in campo medico, potenzialmente anche salvare vite umane. Ci sarà sempre qualche incertezza associata all'IA, ma gli sviluppatori e le organizzazioni sanitarie possono intervenire per ridurre al minimo tali rischi. Quando si verificano errori di intelligenza artificiale nell'assistenza sanitaria, i consulenti legali probabilmente determineranno la responsabilità in base all'errore alla radice dell'incidente.
