Når du bør unngå AI i helsevesenet

Når en ny teknologisk fremgang kommer inn i en bransje, kan det være en fristelse å utrope den nye leken som en kur for alle bransjens sykdommer. AI i helsevesenet er et godt eksempel. Ettersom teknologien har fortsatt å utvikle seg, har den blitt tatt i bruk for brukssituasjoner som legemiddelutvikling, omsorgskoordinering og refusjon, for å nevne noen. Det finnes en rekke legitime brukssituasjoner for AI i helsevesenet, der teknologien er langt bedre enn noen nåværende alternativ.

Men AI – som den er i dag – er kun god på visse oppgaver, som å forstå store mengder data og gjøre avgjørelser basert på veldefinerte regler. Andre situasjoner, særlig der tilleggsinformasjon er essensiell for å gjøre riktige avgjørelser, er ikke godt egnet for AI. La oss se på noen eksempler.

Negativt utvalg og omsorg

Uansett om det er for et krav eller omsorg, er avslag komplekse avgjørelser, og for viktige til å bli behandlet av AI alene. Når du avslår et krav eller omsorg, er det en åpenbar moralsk imperativ å gjøre det med den største forsiktighet, og basert på AI sin kapasitet i dag, det nødvendiggjør menneskelig innsats.

Forbi moralaspektet, setter helseplanene seg selv i risiko når de for mye på AI for å gjøre avgjørelser om avslag. Planene kan, og blir, saksøkt for å bruke AI på en ukorrekt måte til å avslå krav, med rettslige saker som anklager planene for ikke å møte minimumskravene for legegjennomgang fordi AI ble brukt i stedet.

Avhengighet av tidligere avgjørelser

Å stole på AI til å gjøre avgjørelser basert bare på hvordan det tok en tidligere avgjørelse, har en åpenbar feil: en feil avgjørelse fra fortiden vil fortsatt å påvirke andre. I tillegg, fordi politiregler som informerer AI ofte er distribuert over systemer eller ufullstendig kodifisert av mennesker, kan AI-systemer ende opp med å adoptere og deretter videreføre en ufullstendig forståelse av disse reglene. For å unngå dette, må organisasjonene opprette en enkelt kilde for politi-sannhet, så AI kan referere og lære fra en pålitelig datasett.

Bygging på legacy-systemer

Som en relativt ny teknologi, bringer AI en følelse av mulighet, og mange helseplanens datasvitteam er ivrige etter å utnytte denne muligheten raskt ved å bruke AI-verktøy som allerede er bygget inn i eksisterende bedriftsplattformer. Problemet er at helsekravprosesser er ekstremt komplekse, og bedriftsplattformene ofte ikke forstår kompleksiteten. Å legge AI på toppen av disse legacy-plattformene som en en-size-fits-all-løsning (som ikke tar hensyn til alle de forskjellige faktorene som påvirker kravbehandling) ender opp med å skape forvirring og uakkuratheit, i stedet for å skape mer effektive prosesser.

Avhengighet av gamle data

En av de største fordelene med AI er at det blir stadig bedre til å koordinere oppgaver ettersom det lærer, men denne læringen kan bare finne sted hvis det er en konstant tilbakemeldingsloop som hjelper AI å forstå hva det har gjort feil, så det kan justere seg etter hvert. Denne tilbakemeldingen må ikke bare være konstant, men også basert på ren og nøyaktig data. Ettersom AI er kun så god som dataene det lærer fra.

Når AI i helsevesenet ER nyttig

Bruken av AI i en sektor der utgangene er like konsekvensrike som helsevesenet, krever uten tvil forsiktighet, men det betyr ikke at det ikke finnes brukssituasjoner der AI har mening.

For det første, finnes det ingen mangel på data i helsevesenet (tenk på at en persons medisinske journal kan være tusenvis av sider), og mønsterene i disse dataene kan fortelle oss mye om å diagnostisere sykdom, behandle krav korrekt og mer. Dette er der AI excellerer, ved å se etter mønster og foreslå handlinger basert på disse mønstrene som menneskelige gjennomgåere kan jobbe med.

Et annet område der AI excellerer, er i katalogisering og innmatning av regler og retningslinjer som styrer hvordan krav blir betalt. Generativ AI (GenAI) kan brukes til å transformere denne politi-innholdet fra forskjellige formater til maskinlesbar kode som kan brukes konsekvent over alle pasientkrav. GenAI kan også brukes til å sammenfatte informasjon og vise den i en enkel å lese format for en menneskelig gjennomgang.

Nøkkeltråden gjennom alle disse brukssituasjonene er at AI brukes som en co-pilot for mennesker som overvåker det, ikke som en som kjører showet på egen hånd. Så lenge organisasjonene kan holde dette i mente når de implementerer AI, vil de være i en posisjon til å lykkes i denne tiden da helsevesenet blir transformert av AI.