Hvorfor AI-modeller ikke løser radiologiens kerneproblemer

De fleste AI-arbejder i radiologien i dag er centreret om diagnostiske modeller. Fokus er på at forbedre nøjagtigheden ved at træne på mere data og forfine modellerne. Denne tilgang behandler radiologien primært som en visuel genkendelsestask, hvor bedre detektion forventes at forbedre hele systemet. Ved første øjekast synes dette rimeligt: hvis detektionen forbedres, burde diagnostisk kvalitet også forbedres. Denne synsvinkel overser dog det primære problem.

Det primære problem i radiologien er, hvordan diagnosen selv er struktureret. Det er ikke en begrænsning af mønstergenkendelse, men af, hvordan arbejdet er organiseret, og beslutninger produceres. Og forbedring af modellerne løser ikke dette problem. Herunder ser vi på, hvorfor dette sker, og hvad der skal ændres ud over modelnøjagtigheden.

Problemet er strukturelt

CV-modeller hjælper med at genkende mønstre i billeder. I kontrollerede studier kan de opnå en præstation, der er sammenlignelig med radiologer, med AUC ofte over 0,90 og, i nogle screeningsætninger, matcher eller overgår specialistpræstationen. I mange domæner er evnen til at detektere fund ikke længere den primære begrænsning.

Sammen med dette fungerer de kun med billeddata. De fremhæver mulige fund, men deltager ikke i den diagnostiske proces selv. De kombinerer ikke forskellige input i en enkelt diagnose eller vejleder, hvordan beslutninger tages. I mange domæner er evnen til at detektere fund ikke længere den primære begrænsning. De er designet til at genkende mønstre, ikke til at deltage i diagnose som en proces.

I praksis betyder dette, at strukturen ikke ændres. Radiologer forbliver ansvarlige for at gennemgå resultater og træffe endelige beslutninger, og AI-udgangspunkter kræver ofte yderligere verificering. Ansvarligehed forbliver hos lægen. Arbejdsgangen ændres ikke. Flaskehalsen forbliver. Hver undersøgelse tildeles stadig en enkelt radiolog, der forventes at gennemgå, fortolke, validere og rapportere. Studier viser, at klinikerpræstation stadig afhænger meget af, hvordan AI-fejl håndteres, og forkerte udgangspunkter kan have en negativ indvirkning på beslutningstagningen.

En model kan ikke omgøre sin egen beslutning. Hvis den begår en fejl, er der ingen mulighed for at genoverveje sagen med yderligere kontekst. Resultatet forbliver fast, mens reel diagnostik kræver kontinuerlig tilpasning. Deres udgangspunkter er statiske, mens klinisk resonnering er indreibt instruktiv.

Som følge heraf forbliver flaskehalsen, variationen består, og processen fortsætter med at afhænge af en enkelt radiolog. Da billedvolumenerne vokser, når et system bygget omkring en specialist per sag uundgåeligt sin begrænsning.

En tillidskrise

AI i radiologien rejser også et tillidsproblem.

En radiolog stiller ikke kun spørgsmål ved en models udgangspunkt. De stiller spørgsmål ved systemet bagved, især når AI præsenteres som en erstatning snarere end et værktøj, de kan kontrollere. Tillid til modellen er ustabil. Mindre erfarne læger kan stole for meget på den og overse fejl. Mere erfarne læger kan, efter en enkelt fejl, stoppe med at bruge den. Disse to mønstre — overafhængighed og frakobling — introducerer begge nye risici snarere end reducerer dem.

Efter en fejl dropper modellen ofte ud af beslutningstagelsen. Den bruges ikke længere som et værktøj, men blot ignoreres. Dette bryder kontinuiteten og begrænser dens praktiske værdi. I praksis fører dette til inkonsistent brug snarere end stabil integration i arbejdsgangen.

Dette afspejler en dybere konflikt med, hvordan medicinen fungerer. En radiolog kan ikke overdrage ansvar for en diagnose til et system. Klinisk og juridisk ansvar forbliver hos lægen. At behandle AI som en erstatning går imod medicinsk praksis’ struktur.

Dette skaber en strukturel konflikt, hvor modellen foreslår, men lægen må verificere. Genkendelse kan automatiseres. Ansvar kan ikke. Og så længe ansvar ikke kan overdrages, må hver models udgangspunkt kontrolleres, hvilket begrænser dens evne til at reducere arbejdsmængden.

Illusionen om effektivitet

AI fjerner ikke arbejde fra radiologen. Det tilføjer et lag af kontrol. Lægen må stadig fortolke undersøgelsen og også verificere modellens udgangspunkt. Dette skaber dobbelt arbejde snarere end at spare tid. I stedet for at eliminere indsats fordeler AI ofte indsatsen i yderligere trin af validering og korrektion.

Systemet kan synes hurtigere, men i praksis flyttes tiden til yderligere kontroller snarere end reduceres. Over tid øger denne akkumulation af værktøjer operationel overhead uden at fundamentalt forbedre, hvordan diagnose produceres.

AI introducerer også fragmentering. De fleste modeller er bygget til en snæver opgave: en enkelt anatomisk region, modalitet eller patologi. For at dække reelle kliniske behov må en klinik bruge multiple modeller. I stedet for et samlet system fører dette til et fragmenteret sæt af værktøjer.

Hver model medfører sin egen interface, integration og vedligeholdelseskrav. Dette øger systems kompleksitet og tilføjer flere interaktionspunkter.

Som følge heraf bliver systemet sværere at håndtere, mens den primære diagnostiske proces forbliver uændret.

Grænser for AI-skalerbarhed

Med hver ny version af en model skal tillid genopbygges. Arbejdsgangen begynder at tilpasse sig modellen, i stedet for at støtte lægen. Dette flytter fokus yderligere væk fra at forbedre systemet selv mod at tilpasse sig enkeltværktøjer.

Dette gøres sværere af de fleste modellers snævre fokus. Hver model er designet til en specifik opgave eller anatomisk region. I praksis betyder dette, at en klinik har brug for flere modeller på én gang, hver med sine egne begrænsninger, integrationer og omkostninger. Systemet bliver sværere at operere.

Samtidig bliver det klart, hvor AI har den største indvirkning i dag. Ikke i fortolkning af billeder, men i forbedring af systemet omkring det — routing af undersøgelser, håndtering af køer, tildeling af sager til den rette specialist og forudsigelse af arbejdsmængde. Disse områder nyder godt af koordination snarere end isoleret prædiktionsmulighed.

Hvad skete i praksis

I vores netværk af klinikker, med over en million MRI- og CT-undersøgelser årligt på over 40 klinikker i tre lande, implementerede vi flere AI-modeller, herunder FDA-godkendte løsninger. Opsætningen var simpel: modellen analyserede billedundersøgelser, genererede en rapport, og radiologen gennemgik og bekræftede den. Den forventede udfald var hurtigere omsætning og færre fejl.

I praksis fortsatte erfarne radiologer med at fortolke hver undersøgelse selv, før de kiggede på modellens udgangspunkt. Arbejde med genereret tekst tog ofte mere indsats end at skrive fra scratch, da det ikke matchede deres rapportstil. Processen accelererede ikke og blev i mange tilfælde langsommere. I nogle tilfælde tilføjede interaktion med modellen mere friktion end værdi.

Brugernes adfærd skabte også risiko. Når modellen begik en fejl, havde erfarne radiologer tendens til at miste tillid og stoppe med at bruge den. Mindre erfarne læger var mere tilbøjelige til at stole på systemet, hvilket øgede chancen for oversete fejl og relateret klinisk og juridisk eksponering.

Disse observationer peger på et dybere problem. Forbedring af enkeltværktøjer ændrer ikke, hvordan systemet fungerer. Flaskehalsen ligger i en arbejdsgang bygget omkring en enkelt radiolog, der håndterer en sag fra start til slut. Disse begrænsninger gør det svært at forbedre systemet ved at tilføje mere værktøj alene.

Hos DICO tilgangen vi dette anderledes. I stedet for at tilføje AI til den eksisterende arbejdsgang fokuserede vi på strukturen selv. Sager kan brydes ned i dele, hvor hver håndteres af den relevante specialist, der arbejder direkte inden for billeddata. Den endelige rapport samles fra disse input, med AI, der støtter koordination. Diagnose er i denne model ikke længere skrevet af én person — den samles fra multiple bidrag.

Dette var ikke spørgsmål om modelkvalitet. Det var spørgsmål om struktur.

Omstrukturering af diagnostisk system

Moderne radiologi er bygget på en enkelt antagelse. En undersøgelse, en radiolog. Dette skaber flaskehalse, variation og begrænser skalerbarhed. Det primære problem er ikke, at modeller begår fejl. Systemet er ikke bygget til at arbejde med dem. Det er bygget på en ikke-skalerbar grund.

Et ikke-iterativt værktøj placeres i en proces, der afhænger af iteration. I klinisk praksis er radiologi ikke en enkelt-gennemgangsbeslutning. Studier viser, at uenighed mellem initial og anden fortolkning forekommer i ~30% af tilfældene, og klinisk signifikante diskrepanser kan påvirke håndtering i ~18-20% af tilfældene. Andenmeninger er ikke en undtagelse, men en rutine del af diagnostisk arbejde.

I bredere forstand, på tværs af medicin, fører andenmeninger til en ændring i diagnose i 10-62% af tilfældene, afhængigt af indstillingen.

Uden evnen til at revidere, koordinere og genoverveje med kontekst, forbliver modellens udgangspunkter statiske, mens reel diagnostik kræver kontinuerlig tilpasning.

Næste skridt er ikke mere nøjagtige modeller. Det er en omstrukturering af diagnostisk system.

Skiftet er fra separate AI-værktøjer til en samlet måde at håndtere diagnostik på — hvor diagnose ikke er en enkelt beslutning, men en proces, der rutes og fortolkes på tværs af multiple trin. Begrænsningen er ikke manglen på intelligente modeller, men fraværet af et system, der kan koordinere diagnostisk arbejde som en proces.