När ska man undvika AI i vården

Varje gång ett nytt tekniskt framsteg gör sitt intåg i en bransch, kan det finnas en frestelse att smörja den där glänsande nya leksaken som en anekdot till alla branschens missförhållanden. AI inom vården är ett bra exempel. Allt eftersom tekniken har fortsatt att utvecklas har den använts för användningsfall inom läkemedelsutveckling, vårdsamordning och ersättning, för att nämna några. Det finns ett stort antal legitima användningsfall för AI inom vården, där tekniken är överlägset bättre än något tillgängligt alternativ.

Men AI – som det ser ut idag – utmärker sig bara vid vissa uppgifter, som att förstå stora mängder data och göra bedömningar baserade på väldefinierade regler. Andra situationer, särskilt där extra sammanhang är avgörande för att fatta rätt beslut, är inte väl lämpade för AI. Låt oss utforska några exempel.

Avslå anspråk och vård

Oavsett om det gäller ett anspråk eller vård är avslag komplexa beslut och för viktiga för att hanteras av AI på egen hand. När man förnekar ett påstående eller omsorg finns det ett uppenbart moraliskt imperativ att göra det med största försiktighet, och baserat på AI:s kapacitet idag, som kräver mänsklig insats.

Utöver moralelementet utsätter hälsoplaner sig själva i fara när de förlitar sig för mycket på AI för att fatta beslut om förnekande. Planer kan, och står inför stämningar, för att använda AI på ett felaktigt sätt för att neka anspråk, med rättstvister anklagar planer för att inte uppfylla minimikraven för läkargranskning eftersom AI istället användes.

Förlitar sig på tidigare beslut

Att lita på AI för att fatta beslut enbart baserat på hur det fattade ett tidigare beslut har en uppenbar brist: ett felaktigt beslut från det förflutna kommer att leva vidare för att påverka andra. Dessutom, eftersom policyregler som informerar AI ofta distribueras över system eller felaktigt kodifierade av människor, kan AI-system sluta anta, och sedan vidmakthålla, en inexakt förståelse av dessa policyer. För att undvika detta måste organisationer skapa en enda källa till policysanning, så att AI kan referera och lära av en tillförlitlig datauppsättning.

Bygger på äldre system

Som en relativt ny teknik ger AI en känsla av möjlighet, och många hälsoplansdatavetenskapsteam är angelägna om att snabbt utnyttja den möjligheten genom att utnyttja AI-verktyg som redan är inbyggda i befintliga företagsplattformar. Problemet är att processer för sjukvårdsanspråk är extremt komplexa och företagsplattformar förstår ofta inte krångligheterna. Att slå AI ovanpå dessa äldre plattformar som en lösning som passar alla (en som inte tar hänsyn till alla de olika faktorerna som påverkar prövningen av anspråk) orsakar till slut förvirring och felaktigheter, snarare än att skapa mer effektiva processer.

Lutar på gamla data

En av de största fördelarna med AI är att den blir allt bättre på att orkestrera uppgifter när den lär sig, men att inlärning bara kan ske om det finns en konsekvent återkopplingsslinga som hjälper AI att förstå vad det är för fel så att det kan anpassa sig därefter. Den återkopplingen måste inte bara vara konstant, den måste baseras på ren, korrekt data. När allt kommer omkring är AI bara så bra som den data den lär sig av.

När AI i vården ÄR fördelaktigt

Användningen av AI i en sektor där resultaten är lika betydelsefulla som sjukvård kräver verkligen försiktighet, men det betyder inte att det inte finns användningsfall där AI är vettigt.

För en, det råder ingen brist på data inom vården (tänk på att en persons journal kan vara tusentals sidor), och mönstren i den informationen kan berätta mycket om att diagnostisera sjukdom, bedöma påståenden korrekt och mer. Det är här AI utmärker sig, letar efter mönster och föreslår åtgärder baserat på de mönster som mänskliga granskare kan köra med.

Ett annat område där AI utmärker sig är inom katalogisering och intag av policyer och regler som styr hur fordringar betalas. Generativ AI (GenAI) kan användas för att omvandla detta policyinnehåll från olika format till maskinläsbar kod som kan tillämpas konsekvent över Alla Produkter patientanspråk. GenAI kan också användas för att sammanfatta information och visa den i ett lättläst format för en människa att granska.

Den viktigaste tråden genom alla dessa användningsfall är att AI används som en co-pilot för människor som övervakar det, inte kör showen på egen hand. Så länge organisationer kan ha den idén i åtanke när de implementerar AI, kommer de att vara i en position att lyckas under denna tid då sjukvården förvandlas av AI.