Håndtering af AI-skepsis i sundhedssektoren: Overvindelse af hindringer for sikker kommunikation

Sundhedsledere er ivrige efter at omfavne AI, dels for at følge med konkurrenterne og andre brancher, men mere væsentligt for at øge effektiviteten og forbedre patientoplevelserne. Dog stoler kun 77% af sundhedslederne på, at AI kan være til gavn for deres virksomhed.

Mens AI-chatbots er dygtige til at håndtere rutineopgaver, behandle data og sammenfatte information, er den strengt regulerede sundhedssektor mest bekymret for pålideligheden og nøjagtigheden af de data, der indføres i og fortolkes af disse værktøjer. Uden ordentlig brug og medarbejdertræning bliver datalækager yderligere presserende trusler.

Alligevel planlægger 95% af sundhedslederne at øge AI-budgetterne med op til 30% i 2025, med store sprogmodeller (LLM’er) som en af de mest troværdige værktøjer. Da LLM’er modnes, har 53% af sundhedslederne allerede implementeret formelle politikker for at hjælpe deres teams med at tilpasse sig dem, og yderligere 39% planlægger at implementere politikker snart.

For sundhedsydelere, der ønsker at strømline kommunikationstjenester med AI, men stadig er betænkelige ved at gøre det, her er nogle anbefalinger for at overvinde de mest almindelige hindringer.

1.   Træn AI med pålidelige medicinske kilder

Mens sundhedsledere måske ikke er direkte involveret i AI-træning, skal de spille en afgørende rolle i at overvåge dens implementering. De skal sikre, at chatbot-udbydere træner og opdaterer deres AI med troværdige kilder.

De rige, strukturerede data, der er fanget af obligatoriske elektroniske sundhedsjournaler (EHR’er), tilbyder store lagre af digitale sundhedsdata, der nu kan fungere som grundlag for træning af AI-algoritmer. Avancerede LLM’er kan forstå medicinsk forskning, teknisk analyse, litteraturgennemgang og kritisk vurdering. Dog viser nye beviser, at fokus på et mindre antal intersectioner maksimerer AI-ydelse, samtidig med at træningsomkostningerne holdes lavt.

2.   Sikr HIPAA-kompatible datapraksis

Lov om sundhedsforsikringsportabilitet og ansvarlighed (HIPAA) fastlægger standarder for beskyttelse af følsomme patienthelseoplysninger (PHI). For at være i overensstemmelse med disse regler skal sundhedsledere sikre, at tredjepartsudbydere:

• Indsamlere kun det minimum af PHI, der er nødvendigt for at opfylde chatbot-formålet.
• Tildele adgang til PHI kun til autoriseret personale med stærke adgangskoder og godkendelsespolitikker.
• Anvende robuste krypteringsmetoder til at beskytte PHI både i hvile og under overførsel.
• Gemme nødvendige data på HIPAA-kompatible servere med stærke adgangskontroller.
• Sikre, at de undertegner forretningsassocieringsaftaler (BA’er) for at være i overensstemmelse med HIPAA.
• Bed om deres reaktionsplan for sikkerhedsincidenser.

Sundhedsledere, der bruger disse værktøjer, skal løbende kontrollere adgangsrapporter – et skridt, der også let kan automatiseres med AI – og sende beskeder til ledelsen, hvis der opstår usædvanlig aktivitet.

Desuden skal de opnå klare og informerede samtykker fra patienter, før de indsamler og bruger deres PHI. Når de beder om samtykke, skal de kommunikere, hvordan patientdata vil blive brugt og beskyttet.

3.   Velfunderede grænseflader, der forbedrer arbejdsgange

En af de største hindringer, da man overgår til obligatoriske EHR’er, var brugervenligheden af teknologien. Læger var utilfredse med den tid, de tilbragte på kontoropgaver, da de tilpassede sig de komplekse arbejdsgange, hvilket øgede deres risiko for professionel udbrændthed og muligheden for at begå fejl, der kan påvirke patientbehandlingen.

Når man arbejder med tredjepartsudbydere, skal man bede om en demo og en anden mening, før man vælger en AI-platform eller softwareløsning. Glem ikke at spørge, om deres produkt tillader tilpasning, der tilpasser sig nuværende programmer, så du kan integrere de færdige funktioner, der bedst passer dine arbejdsgange.

Brugervenlige design og standardiserede dataformater og protokoller vil hjælpe med at lette informationsudveksling på tværs af sundhedsteknologi og AI-platforme. Med disse standarder på plads kan AI-algoritmer meningsfuldt integreres i klinisk behandling på tværs af forskellige sundhedsindstillinger. Etablerede protokoller hjælper også disse værktøjer med at fungere bedre ved at lette samarbejdende og give adgang til større, mere diverse datasæt.

4.   Ordentlig brug og medarbejdertræning

En undersøgelse fra 2024 fandt, at medicinsk rådgivning, der blev givet af ‘menneskelige læger og AI’, faktisk var mere omfattende, men mindre empatisk end den, der blev givet af ‘menneskelige læger’ alene. For at brobygge dette gap skal sundhedsledere forstå AI’s muligheder og begrænsninger og sikre ordentlig menneskelig overvågning og indgriben.

Sundhedsledere kan integrere chatbots i deres websites og patientapps for at give brugerne øjeblikkelig adgang til medicinsk information, hvilket hjælper med selvdiagnose og sundhedsundervisning. Disse værktøjer kan sende rettidige påmindelser til patienter om at genopfylde deres recepter, hvilket hjælper patienter med at overholde behandlingsplaner. De kan også hjælpe med at klassificere patienter efter alvoren af deres tilstand, hvilket hjælper sundhedsydelere med at prioritere sager og allokkere ressourcer effektivt.

Dog kan disse værktøjer stadig hallucinere, og det er afgørende, at en menneskelig validator er involveret i komplekse opgaver. Arbejd med tredjepartseksperter for at definere jeres vision for AI-kommunikationsværktøjer og skabe jeres ønskede arbejdsgange. Når I er enige om jeres brugsændringer, tilbyder operationelle og kulturelle ændringsprocesser – som Kotter’s 8-trins ændringsproces – en vejviser for at påbegynde medarbejdertræning, hvilket i sidste ende forbedrer patientresultater.

5.   Bed chatboten om at fange fejl

Ingen forretningsleder ønsker at begå fejl, men sundhedssektoren er en højrisiko-omgivelse, hvor selv mindre oversighter kan føre til alvorlige konsekvenser. Dog er selv de bedste kliniske læger ikke immune over for medicinske fejl. AI kan være et kraftfuldt værktøj til at forbedre patientpleje ved at fange fejl og udfylde huller.

En undersøgelse fra 2023 undersøgelse, der brugte GPT-4 til at transkribere og sammenfatte en samtale mellem en patient og en kliniker, og derefter brugte chatboten til at gennemgå samtalen for fejl. Under valideringen fandt den en fejl i patientens body mass index (BMI). Chatboten bemærkede også, at patientnotaterne ikke nævnte de blodprøver, der var bestilt, eller rationalet bag at bestille dem.

Dette eksempel viser, at AI kan bruges som et supplement til at hjælpe læger med at håndtere AI-hallucinationer, udeladelser og fejl, der kan bruges til at træne og forbedre AI-applikationer.

Sundheds-AI findes for at støtte læger og sygeplejersker, simplificere arbejdsgange, forbedre patientadgang til behandling og minimere oversighter. Selv om de ikke kan fuldstændigt erstatte den empati, intuition og virkelige erfaring, som menneskelige sundhedsydelere bringer til bordet, tilbyder disse værktøjer fremragende analytiske og tidssparende fordele. Når sundhedsledere tager sig tid til at sikre omhyggelig overholdelse af HIPAA-regler, gennemsigtig kommunikation med patienter og ordentlig medarbejdertræning, kan de implementere disse værktøjer sikkert og selvbevidst.