Det mulige sammenbrud af et føderalt program er ikke en afvisning af AI i sundhedssektoren

Takket være AI står den amerikanske sundhedssektor ved en skillevej.

På den ene side løber sundhedsorganisationer for at transformere måden, hvorpå sundhedsydelser leveres på. Investorer har indset, at AI har potentialet til at ændre markedet og bringe massive gevinster. I min egen sektor – sundhedsadministration – tager dette formen af automatiseret papirarbejde. I andre, som radiologi, identificerer og diagnosticerer LLM’er medicinske tilstande.

Massive investeringer pumpes ind i AI i sundhedssektoren. Sidste år sikrede amerikanske sundheds-AI-virksomheder mere end 18 milliarder dollars i ventureinvestering – op næsten 10% fra 2024. Denne hurtige vækst forventes at fortsætte og vil ændre meget af, hvad vi kender om sundhedsydelser.

På den anden side er der udfordringen med styring. Regulatorer kæmper for at forstå AI og lovgive effektivt. Vi ved alle, at staten har en ansvarlig rolle over for sine borgere. Men hvis industrien ændrer sig hurtigt, kan det være svært for regeringer at følge med.

Ingen steder ser vi denne dynamik mere end med sundhedsforsikring. I USA skal hospitaler og læger ofte få forhåndsgodkendelse fra patientens forsikringsselskab, før de kan yde sundhedsydelser. Forsikringsselskaber forbeholder sig retten til at afvise behandlinger, som de ikke anser for medicinsk nødvendige.

AI-sundheds-teknologi lover at øge hele sektorens effektivitet, men den skal håndteres omhyggeligt. CMS (Centers for Medicare & Medicaid Services) estimerer, at 25% af alle omkostninger i industrien er administrativt spild. AI kan reducere denne byrde og gavne offentligheden. Alligevel har vi brug for de rigtige principper for succes.

Her kommer WISeR ind. Introduceret af CMS i begyndelsen af dette år, er Wasteful and Inappropriate Services Reduction (WISeR)-programmet en af de største pilotprojekter i AI-sundheds-teknologi. Ved hjælp af AI-modeller til at sammenfatte beviser, forsøger kvalificerede kliniske specialister at afgøre krav i det traditionelle Medicare-program hurtigere. Eksperimentet er i øjeblikket live i seks stater.

I juni stemte Repræsentanternes Hus’ Udvalg for Anvendelse enstemmigt for at blokere WISeR’s finansiering. Budgettet skal stadig godkendes af Kongressen, og pilotprojektet forbliver aktivt. Men dets fremtid efter den 30. september forbliver uklar.

Hvad jeg gerne vil sige her, er, at – uanset hvad vi mener om WISeR-afstemningen – pilotprojektets grundlæggende princip forbliver fast. “AI markerer, kliniker bekræfter” fortsætter med at give grundlaget for god styring i AI-sundheds-teknologi.

Lovgivere krævede bedre processer

Selv om det er let at læse denne beslutning som en afvisning af AI i sundhedssektoren, ville det være en fejl. Afstemningen om at fratage WISeR finansiering blev foretaget på baggrund af bekymringer over implementering og incitamentsstrukturer – ikke fordi lovgivere var imod AI-adopterings kliniske gennemgang.

Hovedårsagen til, at Repræsentanternes Hus’ Udvalg for Anvendelse tog denne beslutning, var, at det introducerede forhåndsgodkendelse til det traditionelle Medicare. De 13 medicinske ydelser, der var valgt til pilotprojektet, havde tidligere kun krævet en læges samtykke, ikke forsikringsselskabets godkendelse. Lovgivere afviste derfor WISeR på grund af, hvad de anså for at være en øget administrativ kompleksitet og ændring af føderale incitamenter.

Dette er ikke en kritik af AI-sundheds-teknologi. Det er en kritik af, hvordan processen er designet.

“AI markerer, kliniker bekræfter” er stadig sundheds-teknologiens grundlag

Selv om WISeR’s skæbne nu er tvivlsom, er dets centrale princip ikke. Principperne om, at “AI markerer, en kliniker bekræfter”, forbliver grundlaget for moderne sundheds-teknologi.

Dette princip er centralt på grund af AI’s status som et emergent system. I modsætning til andre former for automatisering har LLM’er potentialet til at træffe beslutninger, som deres skabere ikke havde til hensigt. Dette er ved design. Emergens tillader AI at opføre sig fleksibelt og kreativt, men det bringer også risiko. Uanset, hvor raffinerede disse systemer bliver, vil regulatorer altid have brug for en “menneske i løkken” for at fange tilfældige beslutninger og sikre patientens sikkerhed.

I praksis betyder dette, at en kvalificeret kliniker beholder alle juridiske og etiske ansvar, når de bruger AI. LLM’er samler og sammenfatter beviser med maskinehastighed, fremhæver vigtige fund og klinikerne gennemgår dataene, præsenterer dem koncist og bruger dem til at informere deres dømmekraft. Denne proces lover at øge effektiviteten, mens den fastholder maksimal nøjagtighed. Klinisk dømmekraft styrkes, fordi mennesker forbliver centrale i processen, ikke på trods af deres involvering, men på grund af den.

I øjeblikket kan vi se, at denne konsensus bygges op på alle niveauer i sundhedssektoren.

Sidste år lovede landets største sundhedsforsikringsselskaber at forbedre processen med forhåndsgodkendelse. Dette inkluderer at øge transparensen og accelerere beslutningstiderne, med fokus på øjeblikkelige godkendelser for visse akutte eller klinisk standardbehandlinger, hvilket har ført til, at AI er blevet en virtuel nødvendighed for mange forsikringsselskaber. Den førende brancheorganisation for uafhængige gennemgangsorganisationer fastlagde sin holdning til brugen af AI.

Statens niveau for regulering stiger også. Allerede har staterne relevante forbrugerbeskyttelseslove, som nu tilpasses til AI. Indtil videre i 2026 har 43 stater indført 240 sundheds-AI-love. Af disse forbinder ni at bruge AI som den eneste afgørende faktor for afvisning af krav.

Hvis WISeR-programmet til sidst stoppes, ville det ikke påvirke konsensus om, at “AI markerer, kliniker bekræfter”. Med det har vi alt, hvad vi har brug for til succes i branchen. Vi skal bare finpudse strukturen for AI-implementering.

AI-adopterings er ikke forhandelbar

Givet AI’s potentiale for effektivitet, vil sundhedsenheder, der er langsomme til at adoptere teknologien, hurtigt blive overgået.

Lektien at tage fra WISeR er ikke, at vi ikke kan have AI i sundhedssektoren. Langt derfra. I stedet skal vi erkende, at LLM’er har potentialet til at forbedre effektiviteten i sundhedssektoren. For at denne ændring kan ske, skal kvalificerede fagfolk forblive centrale. Konsensus om “AI markerer, kliniker bekræfter” giver grundlaget for overgangen og har allerede sat standarden på store dele af branchen.

AI lover en betydelig forbedring af effektivitet og adgang til sundhedsydelser, men det kan ikke fungere uden menneskelig gennemgang. WISeR viser, at vi kan og må forblive i løkken. Ikke som et tilføjelse, men som en nødvendighed.