Affrontare lo scetticismo sull’AI nel settore sanitario: superare gli ostacoli per una comunicazione sicura

I leader del settore sanitario sono desiderosi di adottare l’AI, in parte per stare al passo con i concorrenti e le altre industrie, ma soprattutto per aumentare l’efficienza e migliorare le esperienze dei pazienti. Tuttavia, solo il 77% dei leader del settore sanitario effettivamente si fida dell’AI per trarre beneficio per il proprio business.

Mentre i chatbot AI eccellono nel gestire compiti di routine, elaborare dati e riassumere informazioni, l’industria sanitaria altamente regolamentata si preoccupa soprattutto dell’affidabilità e dell’accuratezza dei dati che vengono alimentati e interpretati da questi strumenti. Senza un utilizzo e una formazione appropriati per i dipendenti, le violazioni dei dati diventano minacce aggiuntive.

Tuttavia, il 95% dei leader del settore sanitario prevede di aumentare i budget per l’AI del 30% nel 2025, con i modelli linguistici di grandi dimensioni (LLM) che emergono come uno degli strumenti più affidabili. Mentre i LLM maturano, il 53% dei leader del settore sanitario ha già implementato politiche formali per aiutare i propri team ad adattarsi, e un altro 39% prevede di implementare politiche presto.

Per i fornitori di servizi sanitari che desiderano semplificare i servizi di comunicazione con l’AI ma sono ancora diffidenti nel farlo, ecco alcune raccomandazioni per superare gli ostacoli più comuni.

1. Formare l’AI con fonti mediche affidabili

Mentre i leader del settore sanitario potrebbero non essere direttamente coinvolti nella formazione dell’AI, devono svolgere un ruolo fondamentale nella sua implementazione. Devono assicurarsi che i fornitori di chatbot stiano formando e aggiornando regolarmente la loro AI con fonti credibili.

I dati strutturati ricchi catturati dai registri elettronici di salute (EHR) obbligatori offrono vasti repository di dati sanitari digitali che possono ora servire come base per la formazione degli algoritmi AI. I LLM avanzati possono comprendere la ricerca medica, l’analisi tecnica, le revisioni della letteratura e le valutazioni critiche. Tuttavia, anziché formare questi strumenti con tutti i dati contemporaneamente, nuove prove mostrano che concentrarsi su un numero limitato di intersezioni massimizza le prestazioni dell’AI mentre mantiene basso il costo di formazione.

2. Garantire pratiche di dati conformi a HIPAA

Il Health Insurance Portability and Accountability Act (HIPAA) stabilisce gli standard per la protezione delle informazioni sanitarie sensibili dei pazienti (PHI). Per allinearsi con queste norme, i leader del settore sanitario dovrebbero assicurarsi che i fornitori di servizi di terze parti:

• Raccolgano solo la quantità minima di PHI necessaria per raggiungere lo scopo del chatbot.
• Concedano l’accesso a PHI solo al personale autorizzato con politiche di password e autenticazione robuste.
• Impieghino tecniche di crittografia robuste per proteggere PHI sia in stato di riposo che in transito.
• Conservino i dati necessari su server conformi a HIPAA con controlli di accesso robusti.
• Si assicurino che firmino accordi di associate business (BAAs) per conformarsi a HIPAA.
• Chiedano il loro piano di risposta per incidenti di sicurezza.

I leader del settore sanitario che utilizzano questi strumenti dovrebbero verificare regolarmente i rapporti di accesso – un passaggio che è anche facile da automatizzare con l’AI – e inviare avvisi alla gestione se si verifica un’attività insolita.

Inoltre, devono ottenere il consenso chiaro e informato dei pazienti prima di raccogliere e utilizzare le loro PHI. Quando richiedono il consenso, devono comunicare come i dati dei pazienti saranno utilizzati e protetti.

3. Interfacce ben progettate che migliorano i flussi di lavoro

Uno degli ostacoli più grandi quando si passa ai registri elettronici di salute (EHR) obbligatori era l’usabilità della tecnologia. I medici erano insoddisfatti della quantità di tempo trascorso su compiti amministrativi mentre si adattavano ai flussi di lavoro complicati, aumentando il loro rischio di burnout professionale e la possibilità di commettere errori che possono influire sul trattamento dei pazienti.

Quando si lavora con fornitori di servizi di terze parti, è necessario richiedere una demo e un parere secondario prima di selezionare una piattaforma o una soluzione software AI. Non dimenticare di chiedere se il loro prodotto consente la personalizzazione che si adatta ai programmi attuali in modo da poter integrare le funzionalità pronte all’uso che meglio si adattano ai vostri flussi di lavoro.

La progettazione centrata sull’utente e i formati di dati standardizzati e i protocolli aiuteranno a facilitare lo scambio di informazioni senza soluzione di continuità tra la tecnologia sanitaria e le piattaforme AI. Con questi standard in atto, gli algoritmi AI possono essere significativamente integrati nell’assistenza clinica in vari ambienti sanitari. I protocolli stabiliti aiutano anche questi strumenti a funzionare meglio facilitando l’interoperabilità e consentendo l’accesso a set di dati più grandi e diversificati.

4. Utilizzo e formazione appropriati per i dipendenti

Uno studio del 2024 ha scoperto che i consigli medici forniti da ‘medici umani e AI’ erano in realtà più completi ma meno empatici di quelli forniti da ‘medici umani’ soli. Per colmare il divario, i leader del settore sanitario devono comprendere le capacità e i limiti dell’AI e assicurarsi di un’adeguata supervisione umana e intervento.

I leader del settore sanitario possono integrare i chatbot nei propri siti web e nelle app dei pazienti per offrire agli utenti l’accesso istantaneo alle informazioni mediche, aiutando nell’auto-diagnosi e nell’istruzione sanitaria. Questi strumenti possono inviare promemoria tempestivi ai pazienti per rinnovare le loro prescrizioni, aiutando i pazienti ad attenersi ai piani di trattamento. Possono anche aiutare a classificare i pazienti in base alla gravità della loro condizione, aiutando i fornitori di servizi sanitari a priorizzare i casi e allocare le risorse in modo efficiente.

Tuttavia, questi strumenti possono ancora “hallucinare”, ed è fondamentale che un validatore umano sia coinvolto in compiti complessi. Lavorare con esperti di terze parti per definire la visione degli strumenti di comunicazione AI e creare i flussi di lavoro desiderati. Una volta che si è raggiunto un accordo sui casi d’uso, i processi di gestione del cambiamento operativo e culturale – come il modello di cambiamento di Kotter in 8 passaggi – offrono una roadmap per l’onboarding dei dipendenti, migliorando in ultima analisi gli esiti dei pazienti.

5. Chiedere al chatbot di rilevare gli errori

Nessun leader aziendale vuole commettere errori, ma il settore sanitario è un ambiente ad alto rischio in cui anche errori minori possono portare a conseguenze gravi. Eppure, anche i migliori clinici non sono immuni da errori medici. L’AI può essere uno strumento potente per migliorare l’assistenza ai pazienti rilevando errori e colmando le lacune.

Un’indagine del 2023 utilizzando GPT-4 per trascrivere e riassumere una conversazione tra un paziente e un clinico ha successivamente impiegato il chatbot per esaminare la conversazione per errori. Durante la convalida, ha rilevato un errore nell’indice di massa corporea (BMI) del paziente. Il chatbot ha anche notato che le note del paziente non menzionavano i test del sangue che erano stati ordinati, né la ragione per cui erano stati ordinati.

Questo esempio indica che l’AI può essere utilizzata come strumento per aiutare i medici a gestire le “allucinazioni” dell’AI, le omissioni e gli errori che possono essere utilizzati per formare e migliorare le applicazioni AI.

L’AI sanitaria esiste per supportare i medici e le infermiere, semplificare i flussi di lavoro, migliorare l’accessibilità dei pazienti alle cure e minimizzare le omissioni. Mentre non possono sostituire completamente l’empatia, l’intuizione e l’esperienza nel mondo reale che i fornitori di servizi sanitari umani portano alla tavola, questi strumenti offrono benefici analitici e di risparmio di tempo eccellenti. Quando i leader del settore sanitario prendono il tempo per assicurarsi di un’attenta aderenza alle norme HIPAA, una comunicazione trasparente con i pazienti e una formazione appropriata per i dipendenti, possono implementare questi strumenti in modo sicuro e fiducioso.