Studio esamina come ridurre il rischio dell’uso dell’AI in medicina

I programmi di intelligenza artificiale sono in grado di migliorare la sanità in una varietà di modi diversi. Ad esempio, le applicazioni AI possono utilizzare la visione computerizzata per aiutare i medici a diagnosticare condizioni da radiografie e risonanze magnetiche. Gli algoritmi di apprendimento automatico possono anche essere utilizzati per aiutare a ridurre i tassi di falsi positivi estraendo modelli sottili dai dati che gli esseri umani potrebbero non essere in grado di trovare nei dati medici. Tuttavia, con le possibilità arrivano nuove sfide e recentemente è stato pubblicato un nuovo articolo su Science che ha esaminato i possibili rischi e le strategie regolamentari per le tecniche di apprendimento automatico medico al fine di minimizzare gli effetti collaterali negativi dell’uso dell’AI in un contesto medico.

Applicazioni in espansione per l’AI nel settore sanitario

L’AI sta vedendo le sue applicazioni nel settore sanitario espandersi rapidamente. Sviluppi recenti nel settore sanitario, guidati dall’AI, includono la creazione di una nuova società farmaceutica che mira a utilizzare l’AI per creare nuovi farmaci, la creazione di sensori di salute remoti guidati da AI e app di visione computerizzata che analizzano le radiografie e le tomografie computerizzate.

Per essere più precisi, Genesis Therapeutics è una startup che mira a utilizzare l’AI per accelerare il processo di scoperta di farmaci, sperando di creare farmaci in grado di ridurre la gravità di malattie debilitanti. Genesis Therapeutics è solo una delle quasi 170 società che utilizzano l’AI per ricercare nuove formulazioni di farmaci. Nel frattempo, in termini di dispositivi di monitoraggio della salute, iRhythm (IRTC ) e la startup francese di AI Cardiologs stanno utilizzando algoritmi di apprendimento automatico per analizzare i dati EEG e monitorare la salute di coloro che hanno problemi di salute cardiaca e sono a rischio di complicazioni. Il software progettato dalle società può rilevare i sussurri cardiaci, una condizione causata dal flusso sanguigno turbolento.

Infine, uno studio recente che ha indagato su come la visione computerizzata possa essere applicata alle immagini mediche ha scoperto che i sistemi di visione computerizzata si eseguono almeno altrettanto bene o meglio degli radiologi esperti quando esaminano le tomografie computerizzate per trovare piccole emorragie. Gli algoritmi utilizzati nello studio sono stati in grado di fornire previsioni dopo aver esaminato le tomografie computerizzate per solo un secondo. I sistemi di visione computerizzata sono stati anche in grado di localizzare l’emorragia all’interno del cervello.

Quindi, mentre i benefici potenziali dell’uso dell’AI nel settore sanitario sono chiari, ciò che è meno chiaro sono le nuove sfide e i rischi che possono sorgere come effetto collaterale dell’uso dell’AI all’interno del settore sanitario.

Regolamentazione di un settore in espansione

Come ha riportato TechXplore, al fine di valutare gli svantaggi potenziali dell’uso dell’AI nel settore sanitario, un gruppo di ricercatori ha recentemente pubblicato un articolo su Science, con l’obiettivo di derivare risposte per anticipare possibili problemi con l’AI e esplorare possibili soluzioni a questi problemi. I problemi che possono sorgere dall’uso dell’AI nel settore sanitario includono la raccomandazione inappropriata di trattamenti che possono causare lesioni, preoccupazioni sulla privacy e pregiudizi algoritmici/disuguaglianza.

La FDA ha approvato solo l’AI medica che utilizza “algoritmi bloccati”, algoritmi che producono sempre lo stesso risultato ogni volta che vengono eseguiti. Tuttavia, gran parte del potenziale dell’AI risiede nella sua capacità di apprendere e rispondere a nuovi tipi di input. Al fine di consentire l’uso di “algoritmi adattivi” e ottenere l’approvazione della FDA, gli autori dell’articolo hanno esaminato in dettaglio come i rischi legati all’aggiornamento degli algoritmi possano essere mitigati.

Gli autori sostengono che gli ingegneri e i ricercatori di apprendimento automatico dovrebbero concentrarsi sul monitoraggio continuo dei modelli durante l’intera durata della loro distribuzione. Tra gli strumenti suggeriti per monitorare i sistemi AI c’è l’AI stesso, che potrebbe aiutare a fornire rapporti automatizzati su come si comporta un sistema AI. È anche possibile che più dispositivi AI possano monitorarsi a vicenda.

“Per gestire i rischi, i regolatori dovrebbero concentrarsi in particolare sul monitoraggio continuo e sulla valutazione dei rischi, e meno sulla pianificazione dei futuri cambiamenti algoritmici”, hanno detto gli autori dell’articolo.

Gli autori dell’articolo raccomandano inoltre che i regolatori si concentino sullo sviluppo di nuovi metodi per identificare, monitorare, valutare e gestire i rischi. L’articolo applica molte delle tecniche che la FDA ha utilizzato per regolamentare altre forme di tecnologia medica.

Come hanno spiegato gli autori del documento:

“Il nostro obiettivo è sottolineare i rischi che possono sorgere da cambiamenti inaspettati nel modo in cui i sistemi AI/ML medici reagiscono o si adattano al loro ambiente. Aggiornamenti parametrici sottili e spesso non riconosciuti o nuovi tipi di dati possono causare errori grandi e costosi.”