Hvorfor AI-modeller ikke løser radiologiens kjerneproblemer

De fleste AI-arbeid i radiologi i dag er sentrert rundt diagnostiske modeller. Fokuset ligger på å forbedre nøyaktigheten ved å trene på mer data og finjustere modellene. Dette tilrettelegger radiologi hovedsakelig som en visuell gjenkjennelseoppgave, der bedre gjenkjennelse forventes å forbedre hele systemet. Ved første øyekast ser dette ut til å være rimelig: hvis gjenkjennelsen forbedres, burde diagnostisk kvalitet også forbedres. Denne synsmåten overser hovedproblemet.

Hovedproblemet i radiologi er hvordan diagnosen i seg selv er strukturert. Det er ikke en begrensning av mønstergjenkjenning, men av hvordan arbeidet er organisert og beslutninger produseres. Og å forbedre modellene løser ikke dette. Under ser vi på hvorfor dette skjer og hva som må endres utover modellnøyaktighet.

Problemet er strukturelt

CV-modeller hjelper med å gjenkjenne mønster i bilder. I kontrollerte studier kan de nå en ytelse som er sammenlignbar med radiologer, med AUC ofte over 0,90 og, i noen skjermingssettinger, matcher eller overgår spesialistytelse. I mange domener er evnen til å gjenkjenne funn ikke lenger hovedbegrensningen.

Samtidig fungerer de bare med bilde-data. De fremhever mulige funn, men deltar ikke i den diagnostiske prosessen i seg selv. De kombinerer ikke ulike inndata til en enkelt diagnose eller veileder hvordan beslutninger tas. I mange domener er evnen til å gjenkjenne funn ikke lenger hovedbegrensningen. De er designet for å gjenkjenne mønster, ikke for å delta i diagnose som en prosess.

I praksis betyr dette at strukturen ikke endres. Radiologer forblir ansvarlige for å gjennomgå resultater og ta endelige beslutninger, og AI-utdata krever ofte ekstra verifisering. Ansvarlig ligger hos legen. Arbeidsflyten endrer ikke. Flaskehalsen forblir. Hver studie er fremdeles tildelt en enkelt radiolog som forventes å gjennomgå, tolke, verifisere og rapportere. Studier viser at klinikerprestasjon fortsatt avhenger sterkt av hvordan AI-feil håndteres, og feil utdata kan negativt påvirke beslutningstaking.

En modell kan ikke se på sin egen beslutning igjen. Hvis den gjør en feil, er det ingen måte å vurdere saken på nytt med ekstra kontekst. Resultatet forblir fast, mens ekte diagnostikk krever kontinuerlig justering. Utdataene er statiske, mens klinisk resonnering er innebygget iterativ.

Som resultat forblir flasker, variasjonen består, og prosessen fortsetter å avhenge av en enkelt radiolog. Ettersom bildevolumer vokser, når et system bygget rundt en spesialist per sak uunngåelig når grensene.

Krisen av tillit

AI i radiologi reiser også et problem av tillit.

En radiolog spør ikke bare om en modells utdata. De spør om systemet bak det, spesielt når AI presenteres som en erstatning snarere enn et verktøy de kan kontrollere. Tillit til modellen er ustabil. Mindre erfarne leger kan stole for mye på det og overse feil. Mer erfarne, etter en enkelt feil, kan slutte å bruke det. Disse to mønster — overavhengighet og frakobling — begge introduserer nye risikoer i stedet for å redusere dem.

Når modellen gjør en feil, faller den ofte ut av beslutningsprosessen. Den brukes ikke lenger som et verktøy, men bare ignoreres. Dette bryter kontinuitet og begrenser dens praktiske verdi. I praksis fører dette til inkonsistent bruk i stedet for stabil integrasjon i arbeidsflyten.

Dette reflekterer en dypere konflikt med hvordan medisin fungerer. En radiolog kan ikke overføre ansvar for en diagnose til et system. Klinisk og juridisk ansvar ligger hos legen. Å behandle AI som en erstatning går mot strukturen i medisinsk praksis.

Dette skaper en strukturell konflikt der modellen foreslår, men legen må verifisere. Gjenkjenning kan automatiseres. Ansvar kan ikke. Og så lenge ansvar ikke kan overføres, må hver modellutdata verifiseres, begrensning evnen til å redusere arbeidsmengden.

Illusjonen av effisiens

AI fjerner ikke arbeid fra radiologen. Det legger til en kontrolllag. Legen må fortsatt tolke studiet og også verifisere modellens utdata. Dette skaper dobbelt arbeid i stedet for å spare tid. I stedet for å eliminere innsats, fordeler AI ofte innsatsen inn i ekstra steg av verifisering og korreksjon.

Systemet kan se ut til å være raskere, men i praksis flytter tiden seg inn i ekstra sjekker i stedet for å reduseres. Over tid øker denne ansamlingen av verktøy operasjonell overhead uten å fundamentalt forbedre hvordan diagnose produseres.

AI introduserer også fragmentering. De fleste modeller er bygget for en smal oppgave: en enkelt anatomisk region, modalitet eller patologi. For å dekke reelle kliniske behov, må en klinikke bruke flere modeller. I stedet for et samlet system, fører dette til et fragmentert sett av verktøy.

Hver modell bringer sin egen grensesnitt, integrasjon og vedlikeholdsbehov. Dette øker systemkompleksitet og legger til flere punkter for interaksjon.

Som resultat blir systemet vanskeligere å håndtere, mens den grunnleggende diagnostiske prosessen forblir uendret.

Begrensningene ved å skalerer AI

Med hver ny versjon av en modell, må tillit bygges opp igjen. Arbeidsflyten begynner å tilpasse seg modellen, i stedet for å støtte legen. Dette flytter fokus ytterligere bort fra å forbedre systemet selv mot å tilpasse seg enkeltverktøy.

Dette gjøres vanskeligere av den smale fokuseringen på de fleste modeller. Hver enkelt er designet for en spesifikk oppgave eller anatomisk region. I praksis betyr dette at en klinikke må ha flere modeller samtidig, hver med sine egne begrensninger, integrasjoner og kostnader. Systemet blir vanskeligere å operere.

Samtidig blir det klart hvor AI har mest innvirkning i dag. Ikke i tolkning av bilder, men i å forbedre systemet rundt det — routing studier, håndtering av køer, tildeling av saker til riktig spesialist og prognostisering av arbeidsmengde. Disse områdene nyter godt av koordinering i stedet for isolert prediksjon.

Hva skjedde i praksis

I vårt nettverk av klinikker, med over en million MRI- og CT-studier utført årlig over 40 klinikker i tre land, implementerte vi flere AI-modeller, inkludert FDA-godkjente løsninger. Oppsettet var enkelt: modellen analyserte bildestudier, genererte en rapport, og radiologen gjennomgikk og bekreftet den. Forventet resultat var raskere omgang og færre feil.

I praksis fortsatte erfarne radiologer å tolke hver studie selv før de så på modellens utdata. Arbeid med generert tekst tok ofte mer tid enn å skrive fra scratch, da det ikke matchet deres rapporteringsstil. Prosessen ble ikke raskere og ble i mange tilfeller langsommere. I noen tilfeller la interaksjon med modellen til mer friksjon enn verdi.

Brukeratferd skapte også risiko. Når modellen gjorde en feil, tenderte erfarne radiologer til å miste tillit og slutte å bruke den. Mindre erfarne leger var mer sannsynlig å stole på systemet, økende sjansen for overse feil og relatert klinisk og juridisk eksponering.

Disse observasjonene peker på et dypere problem. Å forbedre enkeltverktøy endrer ikke hvordan systemet fungerer. Flaskehalsen ligger i en arbeidsflyt bygget rundt en enkelt radiolog som håndterer en studie fra start til slutt. Disse begrensningene gjør det vanskelig å forbedre systemet ved å legge til flere verktøy alene.

Hos DICO, tilnærmet vi dette annerledes. I stedet for å legge til AI til den eksisterende arbeidsflyten, fokuserte vi på strukturen i seg selv. Saker kan deles inn i deler, med hver håndtert av den relevante spesialisten som arbeider direkte innenfor bilde-data. Den endelige rapporten settes sammen fra disse inndata, med AI som støtter koordinering. Diagnose, i denne modellen, er ikke lenger skrevet av en person — den settes sammen fra flere bidrag.

Dette var ikke spørsmål om modellkvalitet. De var spørsmål om struktur.

Omtenkning av diagnostisk system

Moderne radiologi er bygget på en enkelt antakelse. En studie, en radiolog. Dette skaper flasker, variasjon og begrensninger i skalerbarhet. Hovedproblemet er ikke at modeller gjør feil. Systemet er ikke bygget for å fungere med dem. Det er bygget på en ikke-skalerbar grunn.

Et ikke-iterativt verktøy plasseres i en prosess som avhenger av iterasjon. I klinisk praksis er radiologi ikke en enkelt-gjennomgangsbeslutning. Studier viser at uenighet mellom første og andre tolkninger skjer i ~30% av tilfellene, og klinisk signifikante diskrepanser kan påvirke håndtering i ~18-20% av tilfellene. Andre meninger er ikke unntak, men en rutine del av diagnostisk arbeid.

I bredere forstand, over hele medisin, fører andre meninger til en endring i diagnose i 10-62% av tilfellene, avhengig av settingen.

Uten evnen til å revidere, koordinere og vurdere på nytt med kontekst, forblir modellutdata statiske, mens ekte diagnostikk krever kontinuerlig justering.

Neste skritt er ikke mer nøyaktige modeller. Det er en omstrukturering av diagnostisk system.

Skiftet er fra separate AI-verktøy til en samlet måte å håndtere diagnostikk på — hvor diagnose ikke er en enkelt beslutning, men en prosess som rutes og tolkes over flere steg. Begrensningen er ikke mangelen på intelligente modeller, men fraværet av et system som kan koordinere diagnostisk arbeid som en prosess.