Når man skal undgå brug af AI i sundhedssektoren

Når en ny teknologisk fremgang trænger ind i en branche, kan der være en tilbøjelighed til at udnævne den nye teknologi som en kur mod alle branchens problemer. AI i sundhedssektoren er et godt eksempel. Da teknologien har fortsat med at udvikle sig, er den blevet taget i brug i forskellige sammenhænge, som f.eks. lægemiddeludvikling, koordination af patientpleje og refusion, for at nævne nogle få. Der er mange legitime brugsområder for AI i sundhedssektoren, hvor teknologien er langt bedre end nogen anden tilgængelig alternativ.

Men AI – som den er i dag – er kun god til bestemte opgaver, som f.eks. at forstå store mængder af data og træffe beslutninger baseret på veldefinerede regler. Andre situationer, især hvor kontekst er afgørende for at træffe den rigtige beslutning, er ikke velegnede til AI. Lad os se på nogle eksempler.

Afvise krav og patientpleje

Uanset om det er et krav eller patientpleje, er afvisninger komplekse beslutninger, og for vigtige til at blive behandlet af AI alene. Når man afviser et krav eller patientpleje, er der en åbenbar moralsk imperativ til at gøre det med den største forsigtighed, og baseret på AI’s kapaciteter i dag, kræver det menneskelig input.

Ud over det moralske aspekt, sætter sundhedsplaner sig selv i en risikabel situation, når de for meget baserer sig på AI til at træffe afvisningsbeslutninger. Planerne kan og bliver sagsøgt for at bruge AI på en forkert måde til at afvise krav, med retsager, der anklager planerne for ikke at opfylde de minimale krav til lægegennemgang, fordi AI blev brugt i stedet.

At stole på tidligere beslutninger

At stole på, at AI kan træffe beslutninger baseret kun på, hvordan det tidligere har truffet beslutninger, har en åbenbar fejl: én forkert beslutning fra fortiden vil fortsætte med at påvirke andre. Og fordi politikregler, der informerer AI, ofte er fordelt over systemer eller ufuldkomment kodificeret af mennesker, kan AI-systemer ende med at antage og derefter fastholde en ufuldkommen forståelse af disse regler. For at undgå dette, har organisationer brug for at oprette en enkelt kilde til politiksandheden, så AI kan henvise til og lære fra en pålidelig dataset.

At bygge på eksisterende systemer

Som en relativt ny teknologi, bringer AI en fornemmelse af muligheder, og mange sundhedsplaners datavidenskabsHold er ivrige efter at udnytte denne mulighed hurtigt ved at benytte AI-værktøjer, der allerede er bygget ind i eksisterende virksomhedsplatforme. Problemet er, at sundhedskravprocesser er ekstremt komplekse, og virksomhedsplatforme ofte ikke forstår nuancerne. At sætte AI oven på disse eksisterende platforme som en løsning, der ikke tager hensyn til alle de forskellige faktorer, der påvirker kravbehandling, resulterer i forvirring og uændrelighed i stedet for at skabe mere effektive processer.

At læne sig op ad gamle data

En af de største fordele ved AI er, at det bliver bedre og bedre til at koordinere opgaver, efterhånden som det lærer, men dette læringsprocess kan kun finde sted, hvis der er en konstant feedback-løkke, der hjælper AI med at forstå, hvad det har gjort forkert, så det kan justere efterfølgende. Denne feedback skal ikke kun være konstant, men også baseret på rene og præcise data. AI er kun så god som de data, det lærer af.

Når AI i sundhedssektoren ER nyttigt

Brugen af AI i en sektor, hvor output er så konsekvensrig som sundhedssektoren, kræver bestemt forsigtighed, men det betyder ikke, at der ikke er brugsområder, hvor AI giver mening.

For det første er der ingen mangel på data i sundhedssektoren (betrakt, at en enkelt persons sundhedsjournal kan være tusinder af sider), og mønstrene i disse data kan fortælle os meget om at diagnostisere sygdomme, afvikle krav korrekt og mere. Dette er, hvor AI udmærker sig, ved at finde mønstre og foreslå handlinger baseret på disse mønstre, som menneskelige anmeldere kan arbejde med.

Et andet område, hvor AI udmærker sig, er ved katalogisering og indtagelse af regler og politikker, der styrer, hvordan krav betales. Generativ AI (GenAI) kan bruges til at omdanne denne politikindhold fra forskellige formater til maskinlæsbart kode, der kan anvendes konsekvent på alle patientkrav. GenAI kan også bruges til at sammenfatte information og præsentere den i en letlæselig format for en menneskelig anmelder.

Nøgletråden gennem alle disse brugsområder er, at AI bruges som en co-pilot for mennesker, der overvåger det, og ikke driver showet alene. Så længe organisationer kan fastholde denne idé, mens de implementerer AI, vil de være i stand til at lykkes i denne æra, hvor sundhedssektoren forvandles af AI.