Å håndtere AI-skeptisisme i helsevesenet: Overvinning hindringer for sikker kommunikasjon

Lederne i helsevesenet er ivrige etter å omfavne AI, delvis for å holde tritt med konkurrenter og andre bransjer, men viktigere, for å øke effektivitet og forbedre pasientopplevelsene. Likevel stoler bare 77% av lederne i helsevesenet på at AI vil være til nytte for deres virksomhet.

Mens AI-chatboter er dyktige til å håndtere rutineoppgaver, prosessere data og sammenfatte informasjon, er det høyt regulerte helsevesenet mest bekymret for påliteligheten og nøyaktigheten av dataene som mates inn i og tolkes av disse verktøyene. Uten riktig bruk og ansattopplæring, blir datatyverier ytterligere presserende trusler.

Likevel planlegger 95% av lederne i helsevesenet å øke AI-budsjettene med opptil 30% i 2025, med store språkmodeller (LLM) som en av de mest troverdige verktøyene. Mens LLM-modellene modnes, har 53% av lederne i helsevesenet allerede implementert formelle politikker for å hjelpe teamene deres til å tilpasse seg dem, og ytterligere 39% planlegger å implementere politikker snart.

For helsepersonell som ønsker å strømlinje kommunikasjonstjenester med AI, men fortsatt er skeptiske til å gjøre det, er her noen anbefalinger for å overvinne de vanligste hindringene.

1.   Trening av AI med pålitelige medisinske kilder

Lederne i helsevesenet må spille en avgjørende rolle i å overvåke implementeringen av AI, selv om de ikke er direkte involvert i AI-treningen. De bør sikre at chatbot-leverandørene trener og oppdaterer AI med troverdige kilder.

De rike, strukturerte dataene som er fanget av obligatoriske elektroniske helsejournaler (EHR) tilbyr store lagre av digitale helsedata som nå kan fungere som grunnlag for trening av AI-algoritmer. Avanserte LLM kan forstå medisinsk forskning, teknisk analyse, litteraturgjennomgang og kritiske vurderinger. Likevel, i stedet for å trene disse verktøyene med all data på en gang, viser nye bevis at fokusering på et mindre antall sammenstøt maksimerer AI-ytelsen samtidig som den holder treningkostnadene lav.

2.   Sikre HIPAA-samsvarige dataprosedyrer

Den amerikanske loven om portabilitet og ansvar for helseforsikring (HIPAA) fastsetter standarder for å beskytte følsomme pasienthelseopplysninger (PHI). For å være i samsvar med disse reguleringene, bør lederne i helsevesenet sikre at tredjepartsleverandører:

• Samler inn bare det minimum av PHI som er nødvendig for å oppfylle chatbotens formål.
• Tillater tilgang til PHI bare for autorisert personale med sterke passord- og autentiseringspolitikker.
• Bruker robuste krypteringsteknikker for å beskytte PHI både i ro og under overføring.
• Lagrer nødvendig data på HIPAA-samsvarige servere med sterke tilgangskontroller.
• Sikrer at de undertegner avtaler om forretningsassociering (BAAs) for å være i samsvar med HIPAA.
• Spør om deres responsplan for sikkerhets hendelser.

Lederne i helsevesenet som bruker disse verktøyene bør jevnlig sjekke tilgangsrapporter – et steg som også er lett å automatisere med AI – og sende varsler til ledelsen hvis det skjer uvanlig aktivitet.

Likevel må de også få klar og informert samtykke fra pasienter før de samler inn og bruker deres PHI. Når de ber om samtykke, må de kommunisere hvordan pasientdataene vil bli brukt og beskyttet.

3.   Veldesignede grensesnitt som forbedrer arbeidsflyter

En av de største hindringene da man gikk over til obligatoriske EHR var brukervennligheten til teknologien. Lege var misfornøyd med mengden tid de tilbrakte på administrative oppgaver mens de tilpasset seg de kompliserte arbeidsflytene, økende risikoen for profesjonell utbrenning og muligheten for å gjøre feil som kan påvirke pasientbehandlingen.

Når man arbeider med tredjepartsleverandører, må man be om en demo og en annen mening før man velger en AI-plattform eller programvareløsning. Glem ikke å spørre om produktet deres tillater tilpasning som tilpasser seg eksisterende programmer, slik at du kan integrere de ferdige funksjonene som best passer dine arbeidsflyter.

Brukervennlig design og standardiserte dataformater og protokoller vil hjelpe til å fasilitere en sømløs informasjonsutveksling over helsevesenet og AI-plattformer. Med disse standardene på plass, kan AI-algoritmer meningsfullt integreres i klinisk behandling over ulike helsevesen. Etablerte protokoller hjelper også disse verktøyene til å fungere bedre ved å fasilitere samarbeid og åpne opp for større og mer diverse datamengder.

4.   Riktig bruk og ansattopplæring

En studie fra 2024 fant at medisinsk råd gitt av ‘menneskelige leger og AI’ var faktisk mer omfattende, men mindre empatisk enn det gitt av ‘menneskelige leger’ alene. For å lukke gapet, må lederne i helsevesenet forstå AI sine muligheter og begrensninger og sikre riktig menneskelig tilsyn og inngripen.

Lederne i helsevesenet kan integrere chatboter i sine nettsider og pasientapper for å gi brukerne umiddelbar tilgang til medisinsk informasjon, hjelpende i selvdiagnose og helseopplæring. Disse verktøyene kan sende timelige påminnelser til pasienter om å fylle på reseptene sine, hjelpende pasienter til å holde seg til behandlingsplanene. De kan også hjelpe med å klassifisere pasienter basert på alvorlighetsgraden av deres tilstand, hjelpende helsepersonell til å prioritere saker og allokerer ressurser effektivt.

Likevel kan disse verktøyene fortsatt hallucinere, og det er avgjørende at en menneskelig validerer er involvert i komplekse oppgaver. Arbeid med tredjeparts eksperter for å definere visjonen for AI-kommunikasjonsverktøy og skape ønskede arbeidsflyter. Når du er enige om brukstilfeller, tilbyr operasjonelle og kulturelle endringsprosesser – som Kotter’s 8-trinns endringsprosess – en veiviser for å påmelding av ansatte, til slutt forbedrer pasientresultater.

5.   Be chatboten om å fange feil

Ingen forretningsleder ønsker å gjøre feil, men helsevesenet er en høyrisikomiljø hvor selv mindre oversikt kan føre til alvorlige konsekvenser. Likevel er selv de beste klinikerne ikke immune mot medisinske feil. AI kan være et kraftig verktøy for å forbedre pasientbehandlingen ved å fange feil og fylle hullene.

En undersøkelse fra 2023 som brukte GPT-4 til å transkribere og sammenfatte en samtale mellom en pasient og en kliniker, anvendte senere chatboten til å gjennomgå samtalen for feil. Under valideringen fant den en feil i pasientens kroppsmasseindeks (BMI). Chatboten merket også at pasientnotatene ikke nevnte blodprøver som var bestilt, eller begrunnelsen for å bestille dem.

Dette eksemplet indikerer at AI kan brukes som et supplement for å hjelpe leger med å håndtere AI-hallusinasjoner, utelatelser og feil som kan brukes til å trene og forbedre AI-applikasjoner.

AI i helsevesenet eksisterer for å støtte leger og sykepleiere, forenkle arbeidsflyter, forbedre pasienttilgang til behandling og minimere oversikt. Mens de ikke kan fullstendig erstatte empati, intuition og virkelighets erfaring som menneskelige helsepersoner bringer til bordet, tilbyr disse verktøyene utmerkede analytiske og tidssparende fordeler. Når lederne i helsevesenet tar sin tid til å sikre forsiktig overholdelse av HIPAA-reguleringer, åpen kommunikasjon med pasienter og riktig ansattopplæring, kan de implementere disse verktøyene trygt og med tillit.