När man bör undvika AI inom hälso- och sjukvården

När en ny teknisk framsteg gör sitt intåg i en bransch, kan det finnas en frestelse att kröna den nya leksaken som en lösning på alla branschens problem. AI inom hälso- och sjukvården är ett bra exempel. Allteftersom tekniken har fortsatt att utvecklas, har den antagits för användningsfall inom läkemedelsutveckling, vårdkoordinering och ersättning, för att nämna några. Det finns många legitima användningsfall för AI inom hälso- och sjukvården, där tekniken är betydligt bättre än något annat tillgängligt alternativ.

Men AI – som den är idag – excellerar bara vid vissa uppgifter, som att förstå stora mängder data och fatta beslut baserat på väldefinierade regler. Andra situationer, särskilt där ytterligare sammanhang är nödvändigt för att fatta rätt beslut, är inte väl lämpade för AI. Låt oss undersöka några exempel.

Nekande anspråk och vård

Oavsett om det gäller ett anspråk eller vård, är nekanden komplexa beslut, och för viktiga för att hanteras av AI på egen hand. När man nekade ett anspråk eller vård, finns det ett uppenbart moraliskt krav på att göra det med yttersta försiktighet, och baserat på AI:s förmågor idag, kräver det mänsklig inmatning.

Utöver det moraliska elementet, utsätter sig hälso- och sjukvårdsplaner för risker när de förlitar sig för mycket på AI för att fatta nekande beslut. Planer kan, och står, inför rättegång, för att ha använt AI på ett olämpligt sätt för att neka anspråk, med rättegång som anklagar planer för att inte ha uppfyllt de minimikrav som krävs för läkarundersökning, eftersom AI användes i stället.

Förtroende för tidigare beslut

Att lita på AI för att fatta beslut baserat enbart på hur det fattade ett tidigare beslut har en uppenbar brist: ett felaktigt beslut från det förflutna kommer att leva vidare och påverka andra. Dessutom, eftersom policyregler som informerar AI ofta är distribuerade över system eller ofullständigt kodade av människor, kan AI-system hamna i att anta, och sedan upprätthålla, en ofullständig förståelse av dessa regler. För att undvika detta, behöver organisationer skapa en enda källa till policy-sanning, så att AI kan referera till och lära sig från en tillförlitlig dataset.

Bygga på äldre system

Som en relativt ny teknologi, bringar AI en känsla av möjligheter, och många hälso- och sjukvårdsplaners datavetenskapliga team är angelägna om att snabbt utnyttja den möjligheten genom att använda AI-verktyg som redan är byggda in i befintliga företagsplattformar. Problemet är att hälso- och sjukvårdsanspråksprocesser är extremt komplexa, och företagsplattformar förstår ofta inte de intrikata detaljerna. Att lägga till AI på toppen av dessa äldre plattformar som en lösning som passar alla (som inte tar hänsyn till alla de olika faktorerna som påverkar anspråksbehandling) leder till förvirring och inkonsekvens, snarare än att skapa mer effektiva processer.

Luta sig mot gammal data

En av de största fördelarna med AI är att den blir allt bättre på att samordna uppgifter allteftersom den lär sig, men den inlärningen kan bara äga rum om det finns en konstant återkopplingsloop som hjälper AI att förstå vad den har gjort fel, så att den kan justera sig. Den återkopplingen måste inte bara vara konstant, den måste också baseras på ren och exakt data. Efter allt, AI är bara så bra som den data den lär sig från.

När AI inom hälso- och sjukvården ÄR fördelaktig

Användningen av AI i en sektor där resultaten är så konsekvensrika som hälso- och sjukvården kräver utan tvekan försiktighet, men det betyder inte att det inte finns användningsfall där AI är meningsfullt.

För det första, finns det ingen brist på data inom hälso- och sjukvården (tänk på att en persons medicinska journal kan vara tusentals sidor), och mönstren inom den datan kan berätta mycket om att diagnostisera sjukdomar, hantera anspråk korrekt och mer. Detta är där AI excellerar, letar efter mönster och föreslår åtgärder baserat på dessa mönster som mänskliga granskare kan arbeta med.

En annan område där AI excellerar är i katalogisering och inkorporering av policys och regler som styr hur anspråk betalas. Generativ AI (GenAI) kan användas för att omvandla denna policyinnehåll från olika format till maskinläsbar kod som kan tillämpas konsekvent över alla patientanspråk. GenAI kan också användas för att sammanfatta information och visa den i ett lättläst format för en mänsklig granskare.

Den viktiga tråden genom alla dessa användningsfall är att AI används som en co-pilot för människor som övervakar den, inte som den som styr showen på egen hand. Så länge organisationer kan hålla den idén i åtanke när de implementerar AI, kommer de att vara i en position att lyckas under denna era då hälso- och sjukvården förändras av AI.