Når man skal undgå AI i sundhedssektoren

Når en ny teknologisk udvikling finder vej ind i en branche, kan der være en fristelse til at udnævne den nye legetøj til en kur mod alle branchens sygdomme. AI i sundhedssektoren er et godt eksempel. Da teknologien har fortsat med at udvikle sig, er den blevet anvendt i brugssager som lægemiddeludvikling, samordning af patientpleje og refusion, for at nævne nogle få. Der er et stort antal legitime brugssager for AI i sundhedssektoren, hvor teknologien er langt bedre end nogen anden tilgængelig alternativ.

Men AI – som den står i dag – er kun god til visse opgaver, som at forstå store mængder data og træffe beslutninger baseret på veldefinerede regler. Andre situationer, især hvor tilføjet kontekst er afgørende for at træffe den rigtige beslutning, er ikke velegnede til AI. Lad os udforske nogle eksempler.

Afvise krav og patientbehandling

Uanset om det er et krav eller patientbehandling, er afvisninger komplekse beslutninger, og for vigtige til at blive behandlet af AI alene. Når man afviser et krav eller patientbehandling, er der en åbenbar moralsk imperativ til at gøre det med den største forsigtighed, og baseret på AI’s kapaciteter i dag, kræver det menneskelig indput.

Ud over det moralske element, sætter sundhedsplaner sig selv i risiko, når de afhænger for meget af AI til at træffe afvisningsbeslutninger. Planer kan og står over for retsager for at bruge AI på en forkert måde til at afvise krav, med retsager, der anklager planer for ikke at opfylde de minimale krav til lægegennemgang, fordi AI blev brugt i stedet.

At stole på tidligere beslutninger

At stole på, at AI træffer beslutninger udelukkende baseret på, hvordan det har truffet en tidligere beslutning, har en åbenbar fejl: en forkert beslutning fra fortiden vil fortsætte med at påvirke andre. Plus, fordi politikregler, der informerer AI, ofte er fordelt over systemer eller ufuldkomment kodificeret af mennesker, kan AI-systemer ende med at antage og derefter fastholde en upræcis forståelse af disse politikker. For at undgå dette, skal organisationer oprette en enkelt kilde til politiksandheden, så AI kan henvises til og lære fra en pålidelig dataset.

At bygge på eksisterende systemer

Som en relativt ny teknologi bringer AI en følelse af muligheder, og mange sundhedsplaners datavidenskabsteams er ivrige efter at tage del i denne mulighed hurtigt ved at udnytte AI-værktøjer, der allerede er bygget ind i eksisterende virksomhedsplatforme. Problemet er, at sundhedskravprocesser er ekstremt komplekse, og virksomhedsplatforme forstår ofte ikke kompleksiteten. At sætte AI på toppen af disse eksisterende platforme som en løsning, der passer til alle (en løsning, der ikke tager hensyn til alle de forskellige faktorer, der påvirker kravbehandling), resulterer i forvirring og uændrelighed i stedet for at skabe mere effektive processer.

At læne sig op ad gamle data

En af de største fordele ved AI er, at det bliver bedre og bedre til at koordinere opgaver, efterhånden som det lærer, men denne læring kan kun finde sted, hvis der er en konstant feedback-løkke, der hjælper AI med at forstå, hvad det har gjort forkert, så det kan justere derefter. Denne feedback skal ikke kun være konstant, men skal også være baseret på rene, præcise data. AI er kun så god som de data, det lærer fra.

Når AI i sundhedssektoren ER nyttigt

Brugen af AI i en sektor, hvor output er så konsekvensfuld som sundhedssektoren, kræver uden tvivl forsigtighed, men det betyder ikke, at der ikke er brugssager, hvor AI giver mening.

For det første er der ingen mangel på data i sundhedssektoren (betrænk, at en persons medicinske journal kan være tusinder af sider), og mønstrene i disse data kan fortælle os meget om at diagnostisere sygdomme, afvikle krav korrekt og mere. Dette er, hvor AI udmærker sig, ved at lede efter mønstre og foreslå handlinger baseret på disse mønstre, som menneskelige anmeldere kan følge.

Et andet område, hvor AI udmærker sig, er ved katalogisering og indtagelse af politikker og regler, der styrer, hvordan krav betales. Generativ AI (GenAI) kan bruges til at omdanne denne politikindhold fra forskellige formater til maskinlæsbart kode, der kan anvendes konsekvent på alle patientkrav. GenAI kan også bruges til at sammenfatte information og fremvise den i en letlæselig format for en menneskelig anmelder.

Den vigtigste tråd gennem alle disse brugssager er, at AI bruges som en co-pilot for mennesker, der overvåger det, og ikke driver showet alene. Så længe organisationer kan fastholde denne idé, mens de implementerer AI, vil de være i stand til at lykkes under denne æra, hvor sundhedssektoren forvandles af AI.