Den mulige undergangen av et føderalt program er ikke en avvisning av AI i helsevesenet

Takk til AI står amerikansk helsevesen ved et veiskille.

På den ene siden løper helseorganisasjoner for å transformere måten helse blir levert på. Investorer har innsett at AI har potensialet til å snu markedet og bringe massive gevinster. I min egen sektor – helseadministrasjon – tar dette formen av automatisert papirarbeid. I andre, som radiologi, identifiserer og diagnostiserer LLM-er medisinske tilstander.

Massiv finansiering pumpes inn i AI i helsevesenet. Bare i fjor sikret amerikanske helse-AI-selskaper over 18 milliarder dollar i venture-investering – opp nesten 10% fra 2024. Dette raske veksten er prognostisert å fortsette og vil endre mye av det vi vet om helsevesen.

På den andre siden er det en styringsutfordring. Regulatorer sliter med å forstå AI og lovgive effektivt. Vi vet alle at staten har en plikt til sine borgere. Men hvis industrien endrer seg raskt, kan det være vanskelig for myndighetene å holde tritt.

Ingensteds ser vi denne dynamikken mer enn med helseforsikring. I USA må sykehus og leger ofte få forhåndsgodkjenning fra pasientens forsikringsselskap før de kan levere helsehjelp. Forsikringsselskapene forbeholder seg retten til å avslå behandling de mener ikke er medisinsk nødvendig.

AI-helse-teknologi lover å øke hele sektorens effisiens, men den må håndteres med omsorg. CMS (Centers for Medicare & Medicaid Services) estimerer at 25% av alle kostnader i industrien er administrativt sløseri. AI kan redusere denne byrden og gagne offentligheten. Likevel trenger vi riktige prinsipper for suksess.

Her kommer WISeR inn. Innført av CMS i begynnelsen av dette året, er Wasteful and Inappropriate Services Reduction (WISeR)-programmet ett av de største pilotprosjektene i AI-helse-teknologi. Ved å bruke AI-modeller til å sammenfatte bevis, forsøker kvalifiserte kliniske ansatte å avgjøre krav i det tradisjonelle Medicare-programmet mye raskere. Eksperimentet er for tiden i gang i seks stater.

I juni stemte Representantenes hus’ budsjettkomité enstemmig for å blokkere WISeR’s finansiering. Budsjetten må ennå godkjennes av Kongressen, og piloten forblir aktiv. Men dens fremtid etter 30. september forblir uklar.

Hva jeg ønsker å si her er at – uansett hva vi synes om WISeR-avgjørelsen – pilotens grunnleggende prinsipp forblir fast. “AI flagger, kliniker bekrefter” fortsatt å gi grunnlaget for god styring i AI-helse-teknologi.

Lovgivere ba om bedre prosesser

Mens det er lett å lese denne avgjørelsen som en avvisning av AI i helsevesenet, ville det være en feil. Avgjørelsen om å fratrze WISeR ble gjort blant bekymringer over implementering og incitamensstrukturer – ikke fordi lovgivere motsatte seg AI-tilpasning i klinisk gjennomgang.

Hovedgrunnen til at Representantenes hus’ komité ga for sin avgjørelse var at det innførte forhåndsgodkjenning i tradisjonelt Medicare. De 13 medisinske tjenestene som var valgt ut for piloten, hadde tidligere bare krevd en leges samtykke, ikke forsikringsselskapets godkjenning. Lovgivere avviste derfor WISeR fordi de mente det økte den administrative kompleksiteten og endret føderale incitamenter.

Dette er ikke en kritikk av AI-helse-teknologi. I stedet er det en kritikk av hvordan prosessen er designet.

“AI flagger, kliniker bekrefter” er fortsatt helse-teknologiens grunnlag

Mens skjebnen til WISeR nå er uklar, er dens sentrale prinsipp ikke det. Prinsippet om at “AI flagger, en kliniker bekrefter” fortsatt å gi grunnlaget for moderne helse-teknologi.

Dette prinsippet er sentralt på grunn av AI-ens status som et emergent system. I motsetning til andre former for automatisering, har LLM-er potensialet til å fatte beslutninger som deres skapere ikke hadde til hensikt. Dette er ved design. Emergens tillater AI å oppføre seg fleksibelt og kreativt, men det bringer også risiko. Uansett hvor raffinerte disse systemene blir, vil regulatorer alltid trenge en “menneske i løkken” for å fange tilfeldige beslutninger og sikre pasientens sikkerhet.

I praksis betyr dette at en kvalifisert kliniker beholder all juridisk og etisk ansvar når de bruker AI. LLM-er samler og sammenfatter bevis på maskin-hastighet, og høydepunkter viktige funn. Klinikere gjennomgår dataene, som er presentert på en sammenfattningsvis måte, og bruker dem til å informere sin dømmekraft. Denne prosessen lover å øke effisiensen samtidig som den beholder maksimal nøyaktighet. Klinisk dømmekraft styrkes fordi mennesker forblir sentrale i prosessen, ikke på tross av deres involvering, men på grunn av den.

For tiden kan vi se denne konsensusen bygges opp på alle nivåer i helseindustrien.

I fjor lovet landets største helseforsikringsselskaper å forbedre forhåndsgodkjenning-prosessen. Dette inkluderer å øke transparensen og akselerere beslutningstidene, med fokus på umiddelbare godkjenninger for visse urgente eller klinisk standardbehandlinger, noe som har ført til at AI er blitt en virtuell nødvendighet for mange forsikringsselskaper. Den ledende bransjeorganisasjonen for uavhengige gjennomgangsorganer har også definert sin posisjon på bruk av AI.

Statens regulering er også i ferd med å øke. Allerede har statene relevante forbrukerbeskyttelseslover, som nå tilpasses AI. Så langt i 2026 har 43 stater innført 240 helse-AI-lover. Av disse forbys ni å bruke AI som eneste avgjørende faktor for å avslå krav.

Hvis WISeR-programmet til slutt stoppes, vil det ikke påvirke konsensusen om at “AI flagger, kliniker bekrefter”. Med det har vi alt vi trenger for suksess i industrien. Vi må bare finjustere strukturen for AI-implementering.

AI-tilpasning er ikke forhandlingsbart

Gitt AI-ens potensiale for effisiens, vil helseenheter som er sene til å tilpasse teknologien, bli raskt utkonkurrert.

Lektien å trekke fra WISeR er ikke at vi ikke kan ha AI i helsevesenet. Langt derfra. I stedet må vi erkjenne potensialet LLM-er har til å forbedre effisiensen i helsevesenet. For denne endringen å skje, må kvalifiserte fagfolk forblir sentrale. Konsensusen om “AI flagger, kliniker bekrefter” gir grunnlaget for overgangen, og setter allerede standarden på mye av industrien.

AI lover betydelig forbedring av effisiens og tilgang til helse, men den kan ikke fungere uten menneskelig gjennomgang. WISeR viser at vi kan, og må, forblir i løkken. Ikke som et tillegg, men som en nødvendighet.