Tilgang til AI-skepsis i sundhedssektoren: Overvindelse af hindringer for sikker kommunikation

Sundhedsledere er ivrige efter at omfavne AI, dels for at følge med konkurrenterne og andre brancher, men vigtigere, for at øge effektiviteten og forbedre patientoplevelserne. Dog har kun 77% af sundhedslederne faktisk tillid til, at AI kan være til fordel for deres virksomhed.

Mens AI-chatbots er dygtige til at håndtere rutineopgaver, behandle data og sammenfatte information, er den strengt regulerede sundhedssektor mest bekymret for pålideligheden og nøjagtigheden af de data, der indføres i og fortolkes af disse værktøjer. Uden korrekt brug og medarbejdertræning bliver datalækager yderligere presserende trusler.

Alligevel planlægger 95% af sundhedslederne at øge AI-budgetterne med op til 30% i 2025, med store sprogmodeller (LLMs) som en af de mest troværdige værktøjer. Da LLMs modnes, har 53% af sundhedslederne allerede implementeret formelle politikker for at hjælpe deres hold med at tilpasse sig dem, og yderligere 39% planlægger at implementere politikker snart.

For sundhedsydelere, der ønsker at strømline kommunikationstjenester med AI, men stadig er betænkelige ved at gøre det, her er nogle anbefalinger for at overvinde de mest almindelige hindringer.

1.   Træn AI med pålidelige medicinske kilder

Mens sundhedslederne måske ikke er direkte involveret i AI-træning, skal de spille en afgørende rolle i at overvåge dens implementering. De skal sikre, at chatbot-udbydere træner og regelmæssigt opdaterer deres AI med troværdige kilder.

De rige, strukturerede data, der er fanget af obligatoriske elektroniske patientjournaler (EHRs), tilbyder store lagre af digital sundhedsdata, der nu kan fungere som grundlag for træning af AI-algoritmer. Avancerede LLMs kan forstå medicinsk forskning, teknisk analyse, litteraturgennemgang og kritisk vurdering. Dog viser nye beviser, at fokus på et mindre antal intersectioner maksimerer AI-præstationen, samtidig med at træningsomkostningerne holdes lave.

2.   Sikr på HIPAA-kompatible datapraksisser

Health Insurance Portability and Accountability Act (HIPAA) fastlægger standarder for beskyttelse af følsomme patienthelbredelsesoplysninger (PHI). For at være i overensstemmelse med disse regler skal sundhedslederne sikre, at tredjeparts-udbydere:

• Indsamler kun det minimum af PHI, der er nødvendigt for at opfylde chatbot-formålet.
• Tildeles adgang til PHI kun til autoriseret personale med stærke adgangskoder og godkendelsespolitikker.
• Anvender robuste krypteringsteknikker til at beskytte PHI både i hvile og under overførsel.
• Gemmer nødvendige data på HIPAA-kompatible servere med stærke adgangskontroller.
• Sikrer, at de undertegner erhvervsassocieringsaftaler (BAAs) for at være i overensstemmelse med HIPAA.
• Beder om deres reaktionsplan for sikkerhedsincidenser.

Sundhedsledere, der bruger disse værktøjer, skal regelmæssigt kontrollere adgangsrapporter – et skridt, der også let kan automatiseres med AI – og sende beskeder til ledelsen, hvis der opstår usædvanlig aktivitet.

Desuden skal de opnå klare og informerede samtykker fra patienter, før de indsamler og bruger deres PHI. Når de anmoder om samtykke, skal de kommunikere, hvordan patientdata vil blive brugt og beskyttet.

3.   Veludformede grænseflader, der forbedrer arbejdsgange

En af de største hindringer, da man overgår til obligatoriske EHRs, var brugervenligheden af teknologien. Læger var utilfredse med den tid, de tilbragte på kontorarbejde, da de tilpassede sig de komplicerede arbejdsgange, hvilket øgede risikoen for professionel udbrændthed og muligheden for at begå fejl, der kan påvirke patientbehandlingen.

Når man arbejder med tredjeparts-udbydere, skal man anmode om en demo og en anden mening, før man vælger en AI-platform eller softwareløsning. Glem ikke at spørge, om deres produkt tillader tilpasning, der tilpasser sig nuværende programmer, så du kan integrere de færdige funktioner, der bedst passer dine arbejdsgange.

Brugercentreret design og standardiserede dataformater og protokoller vil hjælpe med at facilitere en gnidningsfri informationsudveksling på tværs af sundhedsteknologi og AI-platforme. Med disse standarder på plads kan AI-algoritmer meningsfuldt integreres i klinisk pleje på tværs af forskellige sundhedsindstillinger. Etablerede protokoller hjælper også disse værktøjer med at fungere bedre ved at facilitere interoperabilitet og give adgang til større, mere diverse datasæt.

4.   Korrekt brug og medarbejdertræning

En studie fra 2024 fandt, at medicinske råd givet af ‘menneskelige læger og AI’ faktisk var mere omfattende, men mindre medfølende end dem, der blev givet af ‘menneskelige læger’ alene. For at brobygge dette gap skal sundhedslederne forstå AI’s kapaciteter og begrænsninger og sikre korrekt menneskelig overvågning og intervention.

Sundhedsledere kan integrere chatbots i deres websites og patientapps for at give brugerne øjeblikkelig adgang til medicinsk information, hvilket hjælper med selvdiagnose og sundhedsuddannelse. Disse værktøjer kan sende timelige påmindelser til patienter om at genopfylde deres recepter, hvilket hjælper patienter med at overholde behandlingsplaner. De kan også hjælpe med at klassificere patienter efter sværhedsgraden af deres tilstand, hvilket hjælper sundhedsydelere med at prioritere sager og allokerer ressourcer effektivt.

Alligevel kan disse værktøjer stadig hallucinere, og det er afgørende, at en menneskelig validator er involveret i komplekse opgaver. Arbejd med tredjeparts-eksperter for at definere jeres vision for AI-kommunikationsværktøjer og oprette jeres ønskede arbejdsgange. Når I er enige om jeres brugsændringer, tilbyder operationelle og kulturelle ændringsprocesser – som Kotter’s 8-trins ændringsproces – en vejviser for at ombord på medarbejdere, hvilket i sidste ende forbedrer patientresultater.

5.   Bed chatbot om at fange fejl

Ingen forretningsleder ønsker at begå fejl, men sundhedssektoren er en højrisiko-miljø, hvor selv mindre oversights kan føre til alvorlige konsekvenser. Dog er selv de bedste kliniske læger ikke immune over for medicinske fejl. AI kan være et kraftfuldt værktøj til at forbedre patientpleje ved at fange fejl og udfylde huller.

En undersøgelse fra 2023, der brugte GPT-4 til at transkribere og sammenfatte en samtale mellem en patient og en læge, anvendte derefter chatbot til at gennemgå samtalen for fejl. Under valideringen fangede den en fejl i patientens body mass index (BMI). Chatbot’en lagde også mærke til, at patientnotaterne ikke nævnte de blodprøver, der var bestilt, eller årsagen til at bestille dem.

Dette eksempel viser, at AI kan anvendes som et supplement til at hjælpe læger med at håndtere AI-hallucinationer, udeladelser og fejl, der kan anvendes til at træne og forbedre AI-applikationer.

Sundheds-AI findes for at støtte læger og sygeplejersker, simplificere arbejdsgange, forbedre patientadgang til pleje og minimere oversights. Mens de ikke kan fuldstændigt erstatte den medfølelse, intuition og virkelighedsoplevelse, som menneskelige sundhedsydelere bringer til bordet, tilbyder disse værktøjer fremragende analytiske og tidssparende fordele. Når sundhedslederne tager sig tid til at sikre omhyggelig overholdelse af HIPAA-regler, gennemsigtig kommunikation med patienter og korrekt medarbejdertræning, kan de implementere disse værktøjer sikkert og med tillid.