Å håndtere AI-skeptisisme i helsevesenet: Overvinning av hindringer for sikker kommunikasjon

Helseledere er ivrige etter å omfavne AI, delvis for å holde tritt med konkurrenter og andre industrier, men viktigere, for å øke effektivitet og forbedre pasientopplevelsene. Imidlertid stoler bare 77% av helseledere faktisk på at AI kan være til nytte for deres virksomhet.

Mens AI-chatboter utmerker seg ved å håndtere rutineoppgaver, prosessere data og sammenfatte informasjon, er det høyt regulerte helseindustrien mest bekymret for påliteligheten og nøyaktigheten av dataene som mates inn i og tolkes av disse verktøyene. Uten riktig bruk og ansattopplæring, blir datalækasjer ytterligere presserende trusler.

Likevel planlegger 95% av helselederne å øke AI-budsjettene med opptil 30% i 2025, med store språkmodeller (LLMs) som en av de mest pålitelige verktøyene. Etterhvert som LLMs modnes, har 53% av helselederne allerede implementert formelle politikker for å hjelpe teamene deres til å tilpasse seg dem, og ytterligere 39% planlegger å implementere politikker snart.

For helseleverandører som ønsker å strømlinje kommunikasjonstjenester med AI, men fortsatt er skeptiske til å gjøre det, er her noen anbefalinger for å overvinne de vanligste hindringene.

1.   Trening av AI med pålitelige medisinske kilder

Mens helseledere kanskje ikke er direkte involvert i AI-trening, må de spille en avgjørende rolle i å overvåke implementeringen. De bør sikre at chatbot-tilbydere trener og regelmessig oppdaterer sin AI med troverdige kilder.

De rike, strukturerte dataene som er fanget av obligatoriske elektroniske helsejournaler (EHRs) tilbyr store lagre av digitale helsedata som nå kan tjene som grunnlag for trening av AI-algoritmer. Avanserte LLMs kan forstå medisinsk forskning, teknisk analyse, litteraturgjennomgang og kritiske vurderinger. Imidlertid, i stedet for å trene disse verktøyene med alle dataene på en gang, viser nye bevis at fokus på et mindre antall sammenstøt maksimerer AI-ytelse samtidig som treningkostnadene holdes lav.

2.   Sikre HIPAA-samsvarige datapraksiser

Health Insurance Portability and Accountability Act (HIPAA) fastsetter standarder for beskyttelse av følsomme pasienthelseopplysninger (PHI). For å være i samsvar med disse reguleringene, bør helseledere sikre at tredjepartsleverandører:

• Samler bare det minimum av PHI som er nødvendig for å oppfylle chatbotens formål.
• Tilbyr tilgang til PHI bare til autorisert personale med sterke passord- og autentiseringspolitikker.
• Anvender robuste krypteringsteknikker for å beskytte PHI både i ro og under overføring.
• Lagrer nødvendig data på HIPAA-samsvarige servere med sterke tilgangskontroller.
• Sikrer at de undertegner avtaler om forretningsforbindelser (BAAs) for å være i samsvar med HIPAA.
• Spør om deres responsplan for sikkerhets hendelser.

Helseledere som bruker disse verktøyene bør regelmessig sjekke tilgangsrapporter – et steg som også er lett å automatisere med AI – og sende varsler til ledelsen hvis uvanlig aktivitet skjer.

I tillegg må de få klar og informert samtykke fra pasienter før de samler inn og bruker deres PHI. Når de ber om samtykke, må de kommunisere hvordan pasientdataene vil bli brukt og beskyttet.

3.   Veldesignede grensesnitt som forbedrer arbeidsflyter

En av de største hindringene da man gikk over til obligatoriske EHRs var brukervennligheten av teknologien. Lege var misfornøyd med mengden tid som ble brukt på administrative oppgaver mens de justerte seg til de kompliserte arbeidsflytene, økende risikoen for profesjonell utbrenning og sjansen for å gjøre feil som kan påvirke pasientbehandling.

Når de samarbeider med tredjepartsleverandører, må de be om en demo og en annen mening før de velger en AI-plattform eller programvareløsning. Ikke glem å spørre om produktet deres tillater tilpasning som tilpasser seg nåværende programmer så at de kan integrere de ferdige funksjonene som best passer deres arbeidsflyter.

Brukervennlig design og standardiserte dataformater og protokoller vil hjelpe med å fasilitere sømløs informasjonsutveksling mellom helse-teknologi og AI-plattformer. Med disse standardene på plass, kan AI-algoritmer være meningsfullt integrert i klinisk omsorg over ulike helse-institusjoner. Etablerede protokoller hjelper også disse verktøyene til å fungere bedre ved å fasilitere interoperabilitet og å gi tilgang til større, mer diverse datamengder.

4.   Riktig bruk og ansattopplæring

En studie fra 2024 fant at medisinsk råd gitt av ‘menneskelige leger og AI’ faktisk var mer omfattende, men mindre empatisk enn det gitt av ‘menneskelige leger’ alene. For å brokke gapet, må helseledere forstå AI-s muligheter og begrensninger og sikre riktig menneskelig tilsyn og inngripen.

Helseledere kan innbygge chatboter i nettstedene og pasientappene for å tilby brukerne umiddelbar tilgang til medisinsk informasjon, som hjelper med selvdiagnose og helseopplæring. Disse verktøyene kan sende varslinger til pasienter for å fylle på reseptene deres, som hjelper pasienter å holde seg til behandlingsplanene. De kan også hjelpe med å klassifisere pasienter basert på alvorlighetsgraden av deres tilstand, som hjelper helseleverandører med å prioritere saker og allokerer ressurser effektivt.

Likevel kan disse verktøyene fortsatt hallucinere, og det er avgjørende at en menneskelig validerer er involvert i komplekse oppgaver. Samarbeid med tredjeparts-eksperter for å definere visjonen for AI-kommunikasjonsverktøy og skape de ønskede arbeidsflytene. Når de er enige om brukstilfellene, tilbyr operasjonelle og kulturelle endringsprosesser – som Kotters 8-trinns endringsprosess – en veikart for å påbegynne ansatte, til slutt forbedrer pasientresultatene.

5.   Be chatboten om å fange feil

Ingen bedriftsleder ønsker å gjøre feil, men helseindustrien er en høyrisikomiljø hvor selv mindre oversettelser kan føre til alvorlige konsekvenser. Likevel er selv de beste klinikere ikke immune mot medisinske feil. AI kan være et kraftig verktøy for å forbedre pasientbehandling ved å fange feil og fylle hullene.

En undersøkelse fra 2023 som brukte GPT-4 til å transkribere og sammenfatte en samtale mellom en pasient og en kliniker, anvendte senere chatboten til å gjennomgå samtalen for feil. Under valideringen fanget den en feil i pasientens kroppsmasseindeks (BMI). Chatboten merket også at pasientnotatene ikke nevnte blodprøvene som var bestilt, eller grunnene for å bestille dem.

Dette eksemplet indikerer at AI kan brukes som et supplement for å hjelpe leger med å håndtere AI-hallusinasjoner, utelatelser og feil som kan brukes til å trene og forbedre AI-applikasjoner.

Helse-AI eksisterer for å støtte leger og sykepleiere, forenkle arbeidsflyter, forbedre pasienttilgang til omsorg og minimere oversettelser. Mens de ikke kan fullstendig erstatte empati, intuisjon og virkelighets erfaring som menneskelige helseleverandører bringer til bordet, tilbyr disse verktøyene utmerkede analytiske og tidssparende fordeler. Når helseledere tar sin tid til å sikre forsiktig overholdelse av HIPAA-reguleringer, åpen kommunikasjon med pasienter og riktig ansattopplæring, kan de implementere disse verktøyene trygt og med tillit.