Studio esamina come ridurre il rischio dell’uso dell’IA in medicina

I programmi di intelligenza artificiale sono in grado di migliorare l’assistenza sanitaria in una varietà di modi diversi. Ad esempio, le applicazioni di IA possono utilizzare la visione computerizzata per aiutare i medici a diagnosticare condizioni da radiografie e risonanze magnetiche. Gli algoritmi di apprendimento automatico possono anche essere utilizzati per aiutare a ridurre i tassi di falsi positivi estraendo pattern sottili dai dati che gli esseri umani potrebbero non essere in grado di trovare nei dati medici. Tuttavia, con le possibilità arrivano nuove sfide e recentemente è stato pubblicato un nuovo articolo su Science che esamina possibili rischi e strategie regolamentari per le tecniche di apprendimento automatico medico al fine di minimizzare gli effetti collaterali negativi dell’uso dell’IA in un contesto medico.

Espansione delle applicazioni dell’IA nel settore sanitario

L’IA sta vedendo le sue applicazioni nel settore sanitario espandersi rapidamente. Gli sviluppi recenti nel campo dell’assistenza sanitaria, guidati dall’IA, includono la creazione di una nuova società farmaceutica che mira a utilizzare l’IA per creare nuovi farmaci, la creazione di sensori di salute remoti basati su IA e app di visione computerizzata che analizzano le radiografie e le tomografie computerizzate.

Per essere più precisi, Genesis Therapeutics è una startup che mira a utilizzare l’IA per accelerare il processo di scoperta di farmaci, sperando di creare farmaci che possano ridurre la gravità di malattie debilitanti. Genesis Therapeutics è solo una delle quasi 170 società diverse che utilizzano l’IA per ricercare nuove formule di farmaci. Nel frattempo, in termini di dispositivi di monitoraggio della salute, iRhythm e la startup francese di IA Cardiologs stanno utilizzando algoritmi di IA per analizzare i dati EEG e monitorare la salute di coloro che hanno malattie cardiache e sono a rischio di complicazioni. Il software progettato dalle società può rilevare i sussurri cardiaci, una condizione causata dal flusso sanguigno turbolento.

Infine, uno studio recente che ha indagato su come la visione computerizzata possa essere applicata alle immagini mediche ha scoperto che i sistemi di visione computerizzata si eseguono almeno altrettanto bene o meglio degli radiologi esperti quando esaminano le tomografie computerizzate per trovare piccole emorragie. Gli algoritmi utilizzati nello studio sono stati in grado di rendere previsioni dopo aver esaminato le tomografie computerizzate per solo un secondo. I sistemi di visione computerizzata sono stati in grado di localizzare l’emorragia all’interno del cervello.

Quindi, mentre i benefici potenziali dell’uso dell’IA nel settore sanitario sono chiari, ciò che è meno chiaro sono le nuove sfide e i rischi che sorgeranno come effetto collaterale dell’uso dell’IA all’interno del settore sanitario.

Regolamentazione di un settore in espansione

Come ha riportato TechXplore, al fine di valutare gli svantaggi potenziali dell’uso dell’IA nel settore sanitario, un gruppo di ricercatori ha recentemente pubblicato un articolo su Science, con l’obiettivo di derivare risposte per anticipare potenziali problemi con l’IA e esplorare soluzioni potenziali a questi problemi. I problemi che possono sorgere dall’uso dell’IA nel settore sanitario includono la raccomandazione inappropriata di trattamenti che possono causare lesioni, problemi di privacy e pregiudizi algoritmici/disuguaglianze.

La FDA ha approvato solo l’IA medica che utilizza “algoritmi bloccati”, algoritmi che producono sempre lo stesso risultato ogni volta che vengono eseguiti. Tuttavia, gran parte del potenziale dell’IA risiede nella sua capacità di apprendere e rispondere a nuovi tipi di input. Al fine di consentire l’uso di “algoritmi adattivi” e ottenere l’approvazione della FDA, gli autori dell’articolo hanno esaminato in profondità come i rischi legati all’aggiornamento degli algoritmi possano essere mitigati.

Gli autori sostengono che gli ingegneri e i ricercatori di apprendimento automatico dovrebbero concentrarsi sul monitoraggio continuo dei modelli durante l’intera durata del loro utilizzo. Tra gli strumenti suggeriti per monitorare i sistemi di IA c’è l’IA stessa, che potrebbe aiutare a fornire rapporti automatizzati su come si comporta un’IA. È anche possibile che più dispositivi di IA possano monitorarsi a vicenda.

“Per gestire i rischi, i regolatori dovrebbero concentrarsi in particolare sul monitoraggio continuo e sulla valutazione dei rischi, e meno sulla pianificazione dei futuri cambiamenti algoritmici”, hanno detto gli autori dell’articolo.

Gli autori dell’articolo raccomandano inoltre che i regolatori si concentrino sullo sviluppo di nuovi metodi per identificare, monitorare, valutare e gestire i rischi. L’articolo applica molte delle tecniche che la FDA ha utilizzato per regolamentare altre forme di tecnologia medica.

Come hanno spiegato gli autori dell’articolo:

“Il nostro obiettivo è sottolineare i rischi che possono sorgere da cambiamenti inaspettati nel modo in cui i sistemi di IA/ML medici reagiscono o si adattano al loro ambiente. Aggiornamenti parametrici sottili e non riconosciuti o nuovi tipi di dati possono causare errori grandi e costosi.”