Att möta AI-skepticism inom hälso- och sjukvården: Övervinna hinder för säker kommunikation

Hälso- och sjukvårdsledare är angelägna om att anta AI, dels för att hålla jämna steg med konkurrenter och andra branscher, men framför allt för att öka effektiviteten och förbättra patientupplevelserna. Men endast 77% av hälso- och sjukvårdsledarna litar faktiskt på att AI kan gynna deras verksamhet.

Medan AI-chattbotar excellerar i att hantera rutinuppgifter, bearbeta data och sammanfatta information, är den starkt reglerade hälso- och sjukvårdsbranschen mest orolig för tillförlitligheten och noggrannheten i de data som matas in i och tolkas av dessa verktyg. Utan ordentlig användning och personalutbildning, blir dataintrång ytterligare ett allvarligt hot.

Trots detta planerar 95% av hälso- och sjukvårdsledarna att öka AI-budgeten med upp till 30% under 2025, med stora språkmodeller (LLM) som en av de mest betrodda verktygen. När LLM-mognar, har 53% av hälso- och sjukvårdsledarna redan infört formella policys för att hjälpa sina team att anpassa sig till dem, och ytterligare 39% planerar att införa policys snart.

För hälso- och sjukvårdsleverantörer som vill strömlinjeforma kommunikationstjänster med AI men fortfarande är tveksamma till att göra det, finns här några rekommendationer för att övervinna de vanligaste hindren.

1.   Utbilda AI med tillförlitliga medicinska källor

Medan hälso- och sjukvårdsledare kanske inte är direkt involverade i AI-utbildning, måste de spela en avgörande roll i att övervaka dess implementering. De bör säkerställa att chattbot-leverantörer utbildar och regelbundet uppdaterar sin AI med trovärdiga källor.

De rika, strukturerade data som fångas av obligatoriska elektroniska hälsoregister (EHR) erbjuder omfattande datalager för digital hälsoinformation som nu kan fungera som grund för att utbilda AI-algoritmer. Avancerade LLM kan förstå medicinsk forskning, teknisk analys, litteraturöversikter och kritiska bedömningar. Men snarare än att utbilda dessa verktyg med all data på en gång, visar ny bevis att fokus på ett mindre antal sammanflätningar maximalt AI-prestanda samtidigt som utbildningskostnaderna hålls låga.

2.   Säkerställ HIPAA-kompatibla datahanteringspraxis

Lagen om hälso- och sjukvårdens portabilitet och ansvar (HIPAA) fastställer standarder för skydd av känslig patienthälsoinformation (PHI). För att anpassa sig till dessa regler, bör hälso- och sjukvårdsledare säkerställa att tredjepartsleverantörer:

• Samlar endast in den minimala mängden PHI som krävs för att uppfylla chattbotens syfte.
• Tilldelar åtkomst till PHI endast till auktoriserad personal med starka lösenord och autentiseringspolicys.
• Använder robusta krypteringsmetoder för att skydda PHI både i vila och under överföring.
• Lagrar nödvändiga data på HIPAA-kompatibla servrar med starka åtkomstkontroller.
• Säkerställer att de undertecknar affärspartneravtal (BAAs) för att följa HIPAA.
• Begär deras responsplan för säkerhetsincidenter.

Hälso- och sjukvårdsledare som använder dessa verktyg bör regelbundet kontrollera åtkomstrapporter – ett steg som också är lätt att automatisera med AI – och skicka larm till ledningen om ovanlig aktivitet inträffar.

Dessutom måste de få tydligt och informerat samtycke från patienter innan de samlar in och använder deras PHI. När de begär samtycke, bör de kommunicera hur patientdata kommer att användas och skyddas.

3.   Väl utformade gränssnitt som förbättrar arbetsflöden

Ett av de största hindren när man övergår till obligatoriska EHR var användbarheten av tekniken. Läkare var missnöjda med den tid som tillbringades på administrativa uppgifter när de anpassade sig till de komplicerade arbetsflödena, vilket ökade deras risk för professionell utbrändhet och chansen att göra misstag som kan påverka patientbehandlingen.

När man arbetar med tredjepartsleverantörer, bör man begära en demo och en second opinion innan man väljer en AI-plattform eller programvarulösning. Glöm inte att fråga om deras produkt tillåter anpassning som anpassar sig till nuvarande program så att man kan integrera de färdiga funktionerna som bäst passar för arbetsflödena.

Användarcentrerad design och standardiserade dataformat och protokoll kommer att underlätta en smidig informationsutbyte mellan hälso- och sjukvårdsteknologi och AI-plattformar. Med dessa standarder på plats kan AI-algoritmer integreras meningsfullt i klinisk vård i olika hälso- och sjukvårdsmiljöer. Etablerade protokoll hjälper också dessa verktyg att fungera bättre genom att underlätta samverkan och möjliggöra tillgång till större, mer varierade datamängder.

4.   Rätt användning och personalutbildning

En studie från 2024 fann att medicinska råd som gavs av “mänskliga läkare och AI” faktiskt var mer omfattande men mindre empatiska än de som gavs av “mänskliga läkare” ensamma. För att överbrygga gapet, måste hälso- och sjukvårdsledare förstå AI:s förmågor och begränsningar och säkerställa ordentlig mänsklig övervakning och ingripande.

Hälso- och sjukvårdsledare kan införliva chattbotar i sina webbplatser och patientappar för att erbjuda användarna omedelbar tillgång till medicinsk information, vilket underlättar självdiagnos och hälsoupplysning. Dessa verktyg kan skicka timliga påminnelser till patienter att fylla på sina recept, vilket hjälper patienter att följa behandlingsplaner. De kan också hjälpa till att klassificera patienter baserat på svårighetsgraden av deras tillstånd, vilket underlättar för hälso- och sjukvårdsleverantörer att prioritera fall och allokera resurser effektivt.

Trots detta kan dessa verktyg fortfarande hallucinera, och det är av avgörande betydelse att en mänsklig validator är involverad i komplexa uppgifter. Arbeta med tredjeparts experter för att definiera er vision för AI-kommunikationsverktyg och skapa era önskade arbetsflöden. När ni enas om era användningsfall, erbjuder operativa och kulturella förändringsprocesser – som Kotters 8-stegs förändringsprocess – en vägkarta för att onboarda anställda, vilket i slutändan förbättrar patientresultat.

5.   Be chattboten att upptäcka misstag

Ingen affärsledare vill göra misstag, men hälso- och sjukvårdsbranschen är en högriskmiljö där till och med mindre försummelser kan leda till allvarliga konsekvenser. Men även de bästa kliniska läkarna är inte immuna mot medicinska fel. AI kan vara ett kraftfullt verktyg för att förbättra patientvård genom att upptäcka fel och fylla i luckor.

En utredning från 2023 som använde GPT-4 för att transkribera och sammanfatta en konversation mellan en patient och kliniker, använder sedan chattboten för att granska konversationen för fel. Under valideringen upptäckte den ett misstag i patientens body mass index (BMI). Chattboten noterade också att patientanteckningarna inte nämnde de blodprover som beställdes, eller skälen till att de beställdes.

Detta exempel visar att AI kan användas som ett komplement för att hjälpa läkare hantera AI-hallucinationer, utelämnanden och fel som kan användas för att träna och förbättra AI-applikationer.

Hälso- och sjukvårds-AI existerar för att stödja läkare och sjuksköterskor, förenkla arbetsflöden, förbättra patienttillgänglighet till vård och minimera försummelser. Medan de inte kan ersätta den empati, intuition och verkliga världserfarenhet som mänskliga hälso- och sjukvårdsleverantörer bringar till bordet, erbjuder dessa verktyg utmärkta analytiska och tidssparande fördelar. När hälso- och sjukvårdsledare tar sig tid att säkerställa noggrann efterlevnad av HIPAA-regler, transparent kommunikation med patienter och ordentlig personalutbildning, kan de implementera dessa verktyg på ett säkert och tryggt sätt.