Het aanpakken van AI-scepsis in de gezondheidszorg: het overwinnen van obstakels voor veilige communicatie

Gezondheidsleiders zijn enthousiast om AI te omarmen, deels om gelijke tred te houden met concurrenten en andere industrieën, maar vooral om efficiëntie te verhogen en de ervaring van patiënten te verbeteren. Echter, slechts 77% van de gezondheidsleiders vertrouwt echt op AI om hun bedrijf te laten profiteren.

Terwijl AI-chatbots uitstekend zijn in het uitvoeren van routine-taken, het verwerken van gegevens en het samenvatten van informatie, maakt de zeer gereguleerde gezondheidszorg zich vooral zorgen over de betrouwbaarheid en nauwkeurigheid van de gegevens die in en door deze tools worden geïnterpreteerd. Zonder een juist gebruik en medewerkersopleiding, worden gegevenslekken een extra dringende bedreiging.

Desondanks zijn 95% van de gezondheidsleiders van plan om hun AI-begroting met maximaal 30% te verhogen in 2025, waarbij grote taalmodellen (LLM’s) een van de meest vertrouwde tools zijn. Naarmate LLM’s volwassen worden, hebben 53% van de gezondheidsleiders al formele beleidsregels geïmplementeerd om hun teams te helpen zich aan te passen, en nog eens 39% zijn van plan om beleidsregels binnenkort te implementeren.

Voor gezondheidszorgverleners die hun communicatiediensten met AI willen stroomlijnen, maar nog steeds huiverig zijn om dit te doen, zijn hier enkele aanbevelingen om de meest voorkomende obstakels te overwinnen.

1.   Train AI met betrouwbare medische bronnen

Hoewel gezondheidsleiders mogelijk niet rechtstreeks betrokken zijn bij de training van AI, moeten ze een cruciale rol spelen bij de implementatie ervan. Ze moeten ervoor zorgen dat chatbot-aanbieders hun AI trainen en regelmatig updaten met geloofwaardige bronnen.

De rijke, gestructureerde gegevens die worden vastgelegd door verplichte elektronische gezondheidsdossiers (EHR’s) bieden een enorme repository van digitale gezondheidsgegevens die nu als basis kunnen dienen voor het trainen van AI-algoritmen. Geavanceerde LLM’s kunnen medisch onderzoek, technische analyse, literatuurstudies en kritische beoordelingen begrijpen. Echter, in plaats van deze tools te trainen met alle gegevens tegelijk, toont nieuw bewijs aan dat het focussen op een kleinere aantal intersecties de prestaties van AI maximaliseert en de trainingskosten laag houdt.

2.   Zorg voor HIPAA-conforme gegevenspraktijken

De Health Insurance Portability and Accountability Act (HIPAA) schetst normen voor de bescherming van gevoelige patiëntgegevens (PHI). Om in overeenstemming te zijn met deze regelgeving, moeten gezondheidsleiders ervoor zorgen dat derde partijen:

• Slechts de minimale hoeveelheid PHI verzamelen die nodig is om de doelstelling van de chatbot te bereiken.
• Toegang tot PHI alleen verlenen aan geautoriseerd personeel met sterke wachtwoord- en verificatiebeleid.
• Robuuste encryptietechnieken gebruiken om PHI te beschermen, zowel in rust als in transit.
• Noodzakelijke gegevens opslaan op HIPAA-conforme servers met sterke toegangscontroles.
• Ervoor zorgen dat ze overeenkomsten voor zakenpartners (BA’s) ondertekenen om te voldoen aan HIPAA.
• Vragen naar hun reactieplan voor beveiligingsincidenten.

Gezondheidsleiders die deze tools gebruiken, moeten regelmatig toegangsrapporten controleren – een stap die ook gemakkelijk kan worden geautomatiseerd met AI – en waarschuwingen sturen naar het management als ongebruikelijke activiteit optreedt.

Bovendien moeten ze duidelijke en geïnformeerde toestemming van patiënten verkrijgen voordat ze hun PHI verzamelen en gebruiken. Wanneer ze toestemming vragen, moeten ze communiceren hoe patiëntgegevens zullen worden gebruikt en beschermd.

3.   Goed ontworpen interfaces die workflows verbeteren

Een van de grootste obstakels bij de overgang naar verplichte EHR’s was de gebruiksvriendelijkheid van de technologie. Artsen waren on tevreden met de hoeveelheid tijd die ze besteedden aan administratieve taken toen ze zich aanpasten aan de ingewikkelde workflows, waardoor hun risico op professionele burn-out en de kans op het maken van fouten die de behandeling van patiënten kunnen beïnvloeden, toenam.

Wanneer u samenwerkt met derde partijen, vraag dan een demo en een tweede mening voordat u een AI-platform of softwareoplossing selecteert. Vergeet niet te vragen of hun product aanpasbaar is aan uw huidige programma’s, zodat u de kant-en-klare functies kunt integreren die het beste bij uw workflows passen.

Gebruikersgerichte ontwerp en gestandaardiseerde gegevensformaten en -protocollen zullen helpen om een naadloze informatie-uitwisseling tussen gezondheidszorgtechnologie en AI-platforms te faciliteren. Met deze normen op hun plaats kunnen AI-algoritmen zinvol worden geïntegreerd in de klinische zorg in verschillende gezondheidszorginstellingen. Gevestigde protocollen helpen ook om deze tools beter te laten functioneren door interoperabiliteit te faciliteren en toegang te bieden tot grotere, meer diverse datasets.

4.   Juist gebruik en medewerkersopleiding

Een onderzoek uit 2024 toonde aan dat medisch advies dat werd verstrekt door ‘menselijke artsen en AI’ in feite uitgebreider was, maar minder empathisch dan dat wat werd verstrekt door ‘menselijke artsen’ alleen. Om deze kloof te overbruggen, moeten gezondheidsleiders de mogelijkheden en beperkingen van AI begrijpen en ervoor zorgen dat er een juiste menselijke toezicht en interventie is.

Gezondheidsleiders kunnen chatbots integreren in hun websites en patiëntapps om gebruikers direct toegang te bieden tot medische informatie, waardoor ze zelfdiagnose en gezondheidseducatie kunnen ondersteunen. Deze tools kunnen patiënten tijdig herinneringen sturen om hun recepten aan te vullen, waardoor patiënten zich beter aan hun behandelingsplannen kunnen houden. Ze kunnen ook helpen om patiënten te classificeren op basis van de ernst van hun aandoening, waardoor gezondheidszorgverleners hun gevallen kunnen prioriteren en middelen efficiënt kunnen toewijzen.

Desondanks kunnen deze tools nog steeds hallucineren, en het is essentieel dat een menselijke validator betrokken is bij complexe taken. Werk samen met derde partijen om uw visie voor AI-communicatietools te definiëren en uw gewenste workflows te creëren. Zodra u overeenstemming heeft bereikt over uw use-cases, bieden operationele en culturele veranderingsprocessen – zoals Kotter’s 8-stappen veranderingsproces – een roadmap voor het onboarden van medewerkers, waardoor uiteindelijk de resultaten voor patiënten worden verbeterd.

5.   Vraag de chatbot om fouten te detecteren

Geen enkele zakenleider wil fouten maken, maar de gezondheidszorg is een omgeving met hoge inzet waar zelfs kleine nalatigheid ernstige gevolgen kan hebben. Toch zijn zelfs de beste klinici niet immuun voor medische fouten. AI kan een krachtig instrument zijn om de zorg voor patiënten te verbeteren door fouten te detecteren en lacunes op te vullen.

Een onderzoek uit 2023 dat GPT-4 gebruikte om een gesprek tussen een patiënt en een arts te transcriberen en samen te vatten, en vervolgens de chatbot gebruikte om het gesprek te controleren op fouten, toonde aan dat de chatbot een fout detecteerde in de body mass index (BMI) van de patiënt. De chatbot merkte ook op dat de patiëntgegevens geen melding maakten van de bloedtesten die waren besteld, noch de reden voor het bestellen ervan.

Dit voorbeeld toont aan dat AI kan worden gebruikt als een aanvulling om artsen te helpen bij het omgaan met AI-hallucinaties, weglatingen en fouten die kunnen worden gebruikt om AI-toepassingen te trainen en te verbeteren.

Gezondheidszorg-AI bestaat om artsen en verpleegkundigen te ondersteunen, workflows te vereenvoudigen, de toegang van patiënten tot zorg te verbeteren en nalatigheid te minimaliseren. Hoewel ze de empathie, intuïtie en praktische ervaring van menselijke gezondheidszorgverleners niet volledig kunnen vervangen, bieden deze tools uitstekende analytische en tijdbesparende voordelen. Wanneer gezondheidsleiders de tijd nemen om zorgvuldig te voldoen aan de HIPAA-regelgeving, transparante communicatie met patiënten en een juiste medewerkersopleiding, kunnen ze deze tools veilig en met vertrouwen implementeren.