L’intelligenza artificiale generativa nel settore sanitario ha bisogno di una dose di spiegabilità

La velocità sorprendente con cui gli strumenti di intelligenza artificiale generativa basati su testo possono completare compiti di scrittura e comunicazione di alto livello ha colpito le aziende e i consumatori allo stesso modo. Ma i processi che si verificano dietro le quinte per consentire queste capacità impressionanti possono rendere rischioso per settori sensibili e regolamentati dal governo, come assicurazioni, finanza o sanità, sfruttare l’intelligenza artificiale generativa senza esercitare una considerevole cautela.

Alcuni degli esempi più illustrativi di ciò si possono trovare nel settore sanitario.

Tali problemi sono generalmente legati ai vasti e diversificati set di dati utilizzati per addestrare i Large Language Model (LLM) – i modelli che gli strumenti di intelligenza artificiale generativa basati su testo utilizzano per eseguire compiti di alto livello. Senza un intervento esplicito esterno da parte dei programmatori, questi LLM tendono a raccogliere dati indiscriminatamente da varie fonti in tutta la rete per ampliare la loro base di conoscenze.

Questo approccio è più adatto per casi d’uso orientati al consumatore a basso rischio, in cui l’obiettivo finale è quello di dirigere i clienti verso offerte desiderabili con precisione. Tuttavia, i grandi set di dati e i percorsi confusi attraverso i quali i modelli di intelligenza artificiale generano i loro output stanno oscurando la spiegabilità che gli ospedali e i fornitori di servizi sanitari richiedono per tracciare e prevenire potenziali inesattezze.

In questo contesto, la spiegabilità si riferisce alla capacità di comprendere i percorsi logici di qualsiasi LLM dato. I professionisti sanitari che desiderano adottare strumenti di intelligenza artificiale generativa assistiva devono avere i mezzi per comprendere come i loro modelli producono risultati in modo che i pazienti e il personale siano dotati di piena trasparenza in tutti i processi decisionali. In altre parole, in un settore come la sanità, in cui le vite sono in gioco, le poste in gioco sono semplicemente troppo alte perché i professionisti interpretino male i dati utilizzati per addestrare i loro strumenti di intelligenza artificiale.

Fortunatamente, esiste un modo per superare il dilemma della spiegabilità dell’intelligenza artificiale generativa – richiede solo un po’ più di controllo e focalizzazione.

Mistero e scetticismo

Nell’intelligenza artificiale generativa, il concetto di comprensione di come un LLM passi dal punto A – l’input – al punto B – l’output – è molto più complesso che con algoritmi non generativi che seguono schemi più fissi.

Gli strumenti di intelligenza artificiale generativa creano innumerevoli connessioni mentre si spostano dall’input all’output, ma per l’osservatore esterno, come e perché fanno una serie di connessioni date rimane un mistero. Senza un modo per vedere il “processo di pensiero” che un algoritmo di intelligenza artificiale segue, gli operatori umani mancano di un mezzo approfondito per indagare la sua ragione e tracciare potenziali inesattezze.

Inoltre, i set di dati in continua espansione utilizzati dagli algoritmi di apprendimento automatico complicano ulteriormente la spiegabilità. Più grande è il set di dati, più probabile è che il sistema apprenda da informazioni sia rilevanti che irrilevanti e produca “allucinazioni di intelligenza artificiale” – falsità che deviano dai fatti esterni e dalla logica del contesto, per quanto convincenti.

Nel settore sanitario, questo tipo di risultati errati può scatenare una serie di problemi, come diagnosi errate e prescrizioni errate. A parte le conseguenze etiche, legali e finanziarie, tali errori potrebbero facilmente danneggiare la reputazione dei fornitori di servizi sanitari e delle istituzioni mediche che rappresentano.

Quindi, nonostante il suo potenziale per migliorare gli interventi medici, migliorare la comunicazione con i pazienti e rafforzare l’efficienza operativa, l’intelligenza artificiale generativa nel settore sanitario rimane avvolta nello scetticismo, e a ragione – il 55% dei clinici non ritiene che sia pronto per l’uso medico e il 58% non si fida. Eppure, le organizzazioni sanitarie stanno procedendo, con il 98% che integra o pianifica una strategia di distribuzione di intelligenza artificiale generativa nel tentativo di compensare l’impatto della carenza di personale in corso nel settore.

Controllare la fonte

Il settore sanitario è spesso colto alla sprovvista nel clima dei consumatori attuale, che valorizza l’efficienza e la velocità rispetto all’assicurazione di misure di sicurezza inespugnabili. Le recenti notizie sui pericoli della raccolta di dati senza limiti per l’addestramento degli LLM, che portano a cause per violazione del copyright, hanno portato questi problemi alla ribalta. Alcune aziende affrontano anche accuse secondo cui i dati personali dei cittadini sono stati utilizzati per addestrare questi modelli linguistici, violando potenzialmente le leggi sulla privacy.

Gli sviluppatori di intelligenza artificiale per settori altamente regolamentati dovrebbero quindi esercitare il controllo sulle fonti di dati per limitare gli errori potenziali. Ciò significa dare priorità all’estrazione di dati da fonti attendibili e verificate dal settore, anziché raccogliere pagine web esterne in modo indiscriminato e senza permesso espresso. Per il settore sanitario, ciò significa limitare gli input di dati a pagine di FAQ, file CSV e banche dati mediche – tra altre fonti interne.

Se questo suona un po’ limitante, prova a cercare un servizio sul sito web di un grande sistema sanitario. Le organizzazioni sanitarie statunitensi pubblicano centinaia, se non migliaia, di pagine informative sui loro piattaforme; la maggior parte è sepolta così in profondità che i pazienti non possono mai accedervi. Le soluzioni di intelligenza artificiale generativa basate sui dati interni possono fornire queste informazioni ai pazienti in modo conveniente e senza soluzione di continuità. Ciò è un vantaggio per tutte le parti, poiché il sistema sanitario vede finalmente il ritorno sull’investimento per questo contenuto e i pazienti possono trovare i servizi di cui hanno bisogno istantaneamente e senza sforzo.

Cosa c’è dopo per l’intelligenza artificiale generativa nei settori regolamentati?

Il settore sanitario trae vantaggio dall’intelligenza artificiale generativa in una serie di modi.

Considera, ad esempio, l’ampio burnout che colpisce il settore sanitario statunitense di recente – quasi il 50% della forza lavoro è previsto lasciare entro il 2025. I chatbot di intelligenza artificiale generativa potrebbero aiutare ad alleviare gran parte del carico di lavoro e preservare l’accesso dei pazienti ai team sovraccarichi.

Sul lato dei pazienti, l’intelligenza artificiale generativa ha il potenziale per migliorare i servizi di call center dei fornitori di servizi sanitari. L’automazione dell’intelligenza artificiale ha il potere di affrontare una vasta gamma di richieste attraverso vari canali di contatto, tra cui FAQ, problemi di IT, rifornimenti di farmaci e riferimenti medici. A parte la frustrazione che deriva dall’attesa in linea, solo circa la metà dei pazienti statunitensi risolve con successo i propri problemi al primo tentativo, risultando in alti tassi di abbandono e accesso limitato alle cure. La conseguente bassa soddisfazione del cliente crea ulteriore pressione sull’industria per agire.

Perché l’industria possa truly trarre vantaggio dall’implementazione dell’intelligenza artificiale generativa, i fornitori di servizi sanitari devono facilitare la ristrutturazione intenzionale dei dati a cui accedono i loro LLM.