L’intelligenza artificiale generativa nel settore sanitario ha bisogno di una dose di spiegabilità

La velocità sorprendente con cui gli strumenti di intelligenza artificiale generativa basati sul testo possono completare compiti di scrittura e comunicazione di alto livello ha colpito le aziende e i consumatori allo stesso modo. Tuttavia, i processi che si verificano dietro le quinte per consentire queste capacità impressionanti possono rendere rischioso per settori sensibili e regolamentati dal governo, come assicurazioni, finanza o sanità, utilizzare l’intelligenza artificiale generativa senza esercitare una considerevole cautela.

Alcuni degli esempi più istruttivi di ciò si possono trovare nel settore sanitario.

Questi problemi sono solitamente legati ai vasti e diversificati set di dati utilizzati per addestrare i Large Language Model (LLM) – i modelli che gli strumenti di intelligenza artificiale generativa basati sul testo utilizzano per eseguire compiti di alto livello. Senza un intervento esterno esplicito da parte dei programmatori, questi LLM tendono a raccogliere dati indiscriminatamente da varie fonti su Internet per ampliare la loro base di conoscenze.

Questo approccio è più adatto per casi d’uso orientati al consumatore a basso rischio, in cui l’obiettivo finale è quello di indirizzare i clienti verso offerte desiderabili con precisione. Tuttavia, sempre più spesso, i vasti set di dati e le vie confuse attraverso cui i modelli di intelligenza artificiale generano i loro output stanno oscurando la spiegabilità che gli ospedali e i fornitori di servizi sanitari richiedono per tracciare e prevenire potenziali inesattezze.

In questo contesto, la spiegabilità si riferisce alla capacità di comprendere le vie logiche di qualsiasi LLM dato. I professionisti sanitari che desiderano adottare strumenti di intelligenza artificiale generativa assistiva devono avere i mezzi per comprendere come i loro modelli producono risultati in modo che i pazienti e il personale siano dotati di piena trasparenza in tutti i processi decisionali. In altre parole, in un settore come la sanità, in cui le vite sono in gioco, le poste in gioco sono semplicemente troppo alte perché i professionisti possano fraintendere i dati utilizzati per addestrare i loro strumenti di intelligenza artificiale.

Fortunatamente, esiste un modo per superare il dilemma della spiegabilità dell’intelligenza artificiale generativa – richiede solo un po’ più di controllo e focalizzazione.

Mistero e scetticismo

Nell’intelligenza artificiale generativa, il concetto di comprensione di come un LLM arrivi da un punto A – l’input – a un punto B – l’output – è molto più complesso rispetto agli algoritmi non generativi che seguono schemi più definiti.

Gli strumenti di intelligenza artificiale generativa creano innumerevoli collegamenti mentre si spostano dall’input all’output, ma per l’osservatore esterno, come e perché creano una serie di collegamenti dati rimane un mistero. Senza un modo per vedere il “processo di pensiero” che un algoritmo di intelligenza artificiale segue, gli operatori umani mancano di un mezzo approfondito per indagare il suo ragionamento e tracciare potenziali inesattezze.

Inoltre, i set di dati in continua espansione utilizzati dagli algoritmi di apprendimento automatico complicano ulteriormente la spiegabilità. Più grande è il set di dati, più probabile è che il sistema apprenda da informazioni sia rilevanti che irrilevanti e produca “allucinazioni dell’IA” – falsità che deviano dai fatti esterni e dalla logica del contesto, per quanto convincenti.

Nel settore sanitario, questo tipo di esiti difettosi può scatenare una serie di problemi, come diagnosi errate e prescrizioni incorrecte. A parte le conseguenze etiche, legali e finanziarie, tali errori potrebbero facilmente danneggiare la reputazione dei fornitori di servizi sanitari e delle istituzioni mediche che rappresentano.

Pertanto, nonostante il suo potenziale per migliorare gli interventi medici, migliorare la comunicazione con i pazienti e rafforzare l’efficienza operativa, l’intelligenza artificiale generativa nel settore sanitario rimane avvolta nello scetticismo, e a ragione – il 55% dei clinici non crede che sia pronta per l’uso medico e il 58% non si fida di essa. Tuttavia, le organizzazioni sanitarie stanno procedendo, con il 98% che integra o pianifica una strategia di implementazione dell’intelligenza artificiale generativa nel tentativo di compensare l’impatto della carenza di personale in corso nel settore.

Controllare la fonte

Il settore sanitario è spesso colto alla sprovvista nel clima dei consumatori attuale, che valorizza l’efficienza e la velocità più della garanzia di misure di sicurezza inespugnabili. Le recenti notizie sui pericoli della raccolta indiscriminata di dati per addestrare gli LLM, portando a cause legali per violazione del copyright, hanno portato questi problemi alla ribalta. Alcune aziende affrontano anche denunce secondo cui i dati personali dei cittadini sono stati utilizzati per addestrare questi modelli linguistici, violando potenzialmente le leggi sulla privacy.

Gli sviluppatori di intelligenza artificiale per settori altamente regolamentati dovrebbero quindi esercitare il controllo sulle fonti di dati per limitare gli errori potenziali. Ciò significa dare priorità all’estrazione di dati da fonti attendibili e verificate dal settore, piuttosto che raccoglierli esternamente e senza autorizzazione. Per il settore sanitario, ciò significa limitare gli input di dati a pagine di FAQ, file CSV e banche dati mediche – tra le altre fonti interne.

Se questo suona un po’ limitante, provate a cercare un servizio sul sito web di un grande sistema sanitario. Le organizzazioni sanitarie statunitensi pubblicano centinaia, se non migliaia, di pagine informative sulle loro piattaforme; la maggior parte è sepolta così in profondità che i pazienti non possono mai realmente accedervi. Le soluzioni di intelligenza artificiale generativa basate su dati interni possono fornire queste informazioni ai pazienti in modo conveniente e senza soluzione di continuità. Questo è un vantaggio per tutte le parti, poiché il sistema sanitario vede finalmente un ritorno sugli investimenti per questo contenuto, e i pazienti possono trovare i servizi di cui hanno bisogno istantaneamente e senza sforzo.

Cosa c’è dopo per l’intelligenza artificiale generativa nei settori regolamentati?

Il settore sanitario può trarre vantaggio dall’intelligenza artificiale generativa in diversi modi.

Considerate, ad esempio, l’ampio burnout che colpisce il settore sanitario statunitense di recente – quasi il 50% della forza lavoro è previsto lasciare il proprio posto entro il 2025. I chatbot potenziati dall’intelligenza artificiale generativa potrebbero aiutare ad alleviare gran parte del carico di lavoro e preservare l’accesso dei pazienti ai team di assistenza.

Sul lato dei pazienti, l’intelligenza artificiale generativa ha il potenziale per migliorare i servizi di call center dei fornitori di servizi sanitari. L’automazione dell’IA ha il potere di affrontare una vasta gamma di richieste attraverso vari canali di contatto, tra cui FAQ, problemi di IT, rifornimenti di farmaci e referenze mediche. A parte la frustrazione che deriva dall’attesa in linea, solo circa la metà dei pazienti statunitensi risolve con successo i propri problemi al primo tentativo, risultando in alti tassi di abbandono e accesso ridotto alle cure. La bassa soddisfazione del cliente che ne deriva crea ulteriore pressione sull’industria perché agisca.

Perché l’industria possa trarre realmente vantaggio dall’implementazione dell’intelligenza artificiale generativa, i fornitori di servizi sanitari devono facilitare la ristrutturazione intenzionale dei dati a cui accedono i loro LLM.