Chi è responsabile se l’intelligenza artificiale sanitaria fallisce?

Chi è responsabile quando gli errori dell’intelligenza artificiale sanitaria causano incidenti, lesioni o peggio? A seconda della situazione, potrebbe essere lo sviluppatore dell’intelligenza artificiale, un professionista sanitario o addirittura il paziente. La responsabilità è una preoccupazione sempre più complessa e seria mentre l’intelligenza artificiale diventa più comune nella sanità. Chi è responsabile quando l’intelligenza artificiale va storta e come possono essere prevenuti gli incidenti?

Il rischio degli errori dell’intelligenza artificiale nella sanità

Ci sono molti benefici incredibili dell’intelligenza artificiale nella sanità, dalla precisione e accuratezza aumentate ai tempi di recupero più rapidi. L’intelligenza artificiale aiuta i medici a fare diagnosi, eseguire interventi chirurgici e fornire le migliori cure possibili ai loro pazienti. Purtroppo, gli errori dell’intelligenza artificiale sono sempre una possibilità.

Ci sono molti scenari in cui l’intelligenza artificiale può fallire nella sanità. I medici e i pazienti possono utilizzare l’intelligenza artificiale come strumento di decisione basato sul software o l’intelligenza artificiale può essere il cervello di dispositivi fisici come i robot. Entrambe le categorie presentano rischi.

Ad esempio, cosa succede se un robot chirurgico alimentato da intelligenza artificiale si guasta durante un intervento? Ciò potrebbe causare una lesione grave o addirittura uccidere il paziente. Allo stesso modo, cosa succede se un algoritmo di diagnosi di farmaci consiglia il farmaco sbagliato per un paziente e questi soffre di un effetto collaterale negativo? Anche se il farmaco non danneggia il paziente, una diagnosi errata potrebbe ritardare il trattamento appropriato.

Alla base degli errori dell’intelligenza artificiale come questi c’è la natura stessa dei modelli di intelligenza artificiale. La maggior parte dell’intelligenza artificiale di oggi utilizza una logica “scatola nera”, il che significa che nessuno può vedere come l’algoritmo prende le decisioni. L’intelligenza artificiale “scatola nera” manca di trasparenza, portando a rischi come pregiudizi logici, discriminazione e risultati inaccurati. Purtroppo, è difficile rilevare questi fattori di rischio fino a quando non hanno già causato problemi.

L’intelligenza artificiale va storta: chi è in colpa?

Cosa succede quando si verifica un incidente in una procedura medica alimentata da intelligenza artificiale? La possibilità che l’intelligenza artificiale vada storta sarà sempre presente in una certa misura. Se qualcuno si fa male o peggio, è l’intelligenza artificiale in colpa? Non necessariamente.

Quando lo sviluppatore dell’intelligenza artificiale è in colpa

È importante ricordare che l’intelligenza artificiale non è altro che un programma per computer. È un programma per computer molto avanzato, ma è ancora codice, proprio come qualsiasi altro software. Poiché l’intelligenza artificiale non è senziente o indipendente come un essere umano, non può essere ritenuta responsabile per gli incidenti. Un’intelligenza artificiale non può andare in tribunale o essere condannata al carcere.

Gli errori dell’intelligenza artificiale nella sanità sarebbero probabilmente responsabilità dello sviluppatore dell’intelligenza artificiale o del professionista sanitario che monitora la procedura. La parte responsabile per un incidente potrebbe variare da caso a caso.

Ad esempio, lo sviluppatore sarebbe probabilmente in colpa se i pregiudizi dei dati causassero all’intelligenza artificiale di prendere decisioni ingiuste, inaccurate o discriminatorie. Lo sviluppatore è responsabile del fatto che l’intelligenza artificiale funzioni come promesso e fornisca a tutti i pazienti il miglior trattamento possibile. Se l’intelligenza artificiale si guasta a causa della negligenza, della mancanza di controllo o degli errori da parte dello sviluppatore, il medico non sarebbe responsabile.

Quando il medico o il professionista sanitario è in colpa

Tuttavia, è ancora possibile che il medico o addirittura il paziente possano essere responsabili dell’intelligenza artificiale che va storta. Ad esempio, lo sviluppatore potrebbe fare tutto correttamente, fornire al medico istruzioni accurate e delineare tutti i possibili rischi. Quando si tratta di eseguire la procedura, il medico potrebbe essere distratto, stanco, dimentico o semplicemente negligente.

I sondaggi mostrano che oltre il 40% dei medici sperimenta il burnout sul lavoro, il che può portare a distrazione, riflessi lenti e scarsa memoria. Se il medico non affronta le proprie esigenze fisiche e psicologiche e la sua condizione causa un incidente, è colpa del medico.

A seconda delle circostanze, il datore di lavoro del medico potrebbe essere incolpato per gli errori dell’intelligenza artificiale nella sanità. Ad esempio, cosa succede se un manager in un ospedale minaccia di negare al medico una promozione se non accetta di lavorare oltre il normale orario? Ciò costringe il medico a lavorare troppo, portando al burnout. Il datore di lavoro del medico sarebbe probabilmente ritenuto responsabile in una situazione unica come questa.

Quando il paziente è in colpa

Cosa succede se sia lo sviluppatore dell’intelligenza artificiale che il medico fanno tutto correttamente, però? Quando il paziente utilizza in modo indipendente uno strumento di intelligenza artificiale, un incidente può essere colpa del paziente. L’intelligenza artificiale che va storta non è sempre dovuta a un errore tecnico. Può essere il risultato di un uso scorretto o improprio.

Ad esempio, forse un medico spiega accuratamente allo strumento di intelligenza artificiale al paziente, ma il paziente ignora le istruzioni di sicurezza o immette dati errati. Se questo uso negligente o improprio provoca un incidente, è colpa del paziente. In questo caso, il paziente era responsabile dell’uso corretto dell’intelligenza artificiale o della fornitura di dati accurati e non ha fatto ciò.

Anche quando i pazienti conoscono le proprie esigenze mediche, potrebbero non seguire le istruzioni del medico per vari motivi. Ad esempio, il 24% degli americani che assumono farmaci su prescrizione riferisce di avere difficoltà a pagare per i propri farmaci. Un paziente potrebbe saltare la medicina o mentire all’intelligenza artificiale sul fatto di aver preso un farmaco perché è imbarazzato di non poter permettersi la prescrizione.

Se l’uso improprio del paziente è stato causato dalla mancanza di indicazioni da parte del medico o dello sviluppatore dell’intelligenza artificiale, la colpa potrebbe essere altrove. Dipende ultimamente da dove si è verificato l’incidente o l’errore alla radice.

Regolamentazioni e soluzioni potenziali

C’è un modo per prevenire gli errori dell’intelligenza artificiale nella sanità? Mentre nessuna procedura medica è completamente priva di rischi, ci sono modi per minimizzare la probabilità di esiti avversi.

Le regolamentazioni sull’uso dell’intelligenza artificiale nella sanità possono proteggere i pazienti da strumenti e procedure alimentate da intelligenza artificiale ad alto rischio. La FDA ha già quadri regolamentari per i dispositivi medici basati sull’intelligenza artificiale, che delineano i requisiti di test e sicurezza e il processo di revisione. Le principali organizzazioni di controllo sanitario potrebbero anche intervenire per regolamentare l’uso dei dati dei pazienti con algoritmi di intelligenza artificiale nei prossimi anni.

Oltre a regolamentazioni strette, ragionevoli e approfondite, gli sviluppatori dovrebbero adottare misure per prevenire scenari in cui l’intelligenza artificiale va storta. L’intelligenza artificiale “spiegabile” – anche nota come intelligenza artificiale “scatola bianca” – potrebbe risolvere le preoccupazioni relative alla trasparenza e ai pregiudizi dei dati. I modelli di intelligenza artificiale “spiegabile” sono algoritmi emergenti che consentono agli sviluppatori e agli utenti di accedere alla logica del modello.

Quando gli sviluppatori dell’intelligenza artificiale, i medici e i pazienti possono vedere come l’intelligenza artificiale arriva alle sue conclusioni, è molto più facile identificare i pregiudizi dei dati. I medici possono anche rilevare più rapidamente errori fattuali o informazioni mancanti. Utilizzando l’intelligenza artificiale “spiegabile” anziché l’intelligenza artificiale “scatola nera”, gli sviluppatori e i fornitori di servizi sanitari possono aumentare l’affidabilità e l’efficacia dell’intelligenza artificiale medica.

Intelligenza artificiale sanitaria sicura ed efficace

L’intelligenza artificiale può fare cose incredibili nel campo sanitario, potenzialmente salvando vite. Ci sarà sempre una certa incertezza associata all’intelligenza artificiale, ma gli sviluppatori e le organizzazioni sanitarie possono adottare misure per minimizzare quei rischi. Quando si verificano errori dell’intelligenza artificiale nella sanità, i consulenti legali determineranno probabilmente la responsabilità in base all’errore alla radice dell’incidente.