Varför AI-modeller inte löser radiologins kärnproblem

De flesta AI-arbeten inom radiologi idag är inriktade på diagnostiska modeller. Fokus ligger på att förbättra noggrannheten genom att träna på mer data och förfinansera modellerna. Detta tillvägagångssätt behandlar radiologi främst som en visuell igenkänningsuppgift, där bättre upptäckt förväntas förbättra hela systemet. Vid första anblicken verkar detta rimligt: om upptäckten förbättras, bör diagnostisk kvalitet också förbättras. Denna syn missar det viktigaste problemet.

Det grundläggande problemet inom radiologi är hur diagnosen i sig är strukturerad. Det är inte en begränsning av mönsterigenkänning, utan av hur arbetet är organiserat och beslut fattas. Och att förbättra modellerna löser inte det. Nedan undersöker vi varför detta händer och vad som behöver ändras utöver modellens noggrannhet.

Problemet är strukturellt

CV-modeller hjälper till att känna igen mönster i bilder. I kontrollerade studier kan de uppnå prestanda som är jämförbar med radiologer, med AUC ofta över 0,90 och, i vissa screeningsammanhang, matchar eller överträffar specialistprestanda. I många områden är förmågan att upptäcka fynd inte längre den viktigaste begränsningen.

Samtidigt fungerar de bara med bilddata. De markerar möjliga fynd, men deltar inte i den diagnostiska processen i sig. De kombinerar inte olika indata till en enda diagnos eller vägleder hur beslut fattas. I många områden är förmågan att upptäcka fynd inte längre den viktigaste begränsningen. De är utformade för att känna igen mönster, inte för att delta i diagnos som en process.

I praktiken innebär detta att strukturen inte ändras. Radiologer förblir ansvariga för att granska resultaten och fatta slutliga beslut, och AI-utdata kräver ofta ytterligare verifikation. Ansvaret ligger kvar hos läkaren. Arbetsflödet ändras inte. Flaskhalsen kvarstår. Varje studie tilldelas fortfarande en enskild radiolog som förväntas granska, tolka, validera och rapportera. Studier visar att klinisk prestanda fortfarande beror starkt på hur AI-fel hanteras, och felaktiga utdata kan negativt påverka beslutsfattandet.

En modell kan inte ompröva sitt eget beslut. Om den gör ett misstag, finns det inget sätt att ompröva fallet med ytterligare sammanhang. Resultatet förblir fast, medan riktiga diagnostik kräver kontinuerlig justering. Deras utdata är statiska, medan kliniskt resonemang är inherenterat iterativt.

Som ett resultat kvarstår flaskhalsar, variationer består och processen fortsätter att bero på en enskild radiolog. När volymen av bildundersökningar ökar, når ett system som bygger på en specialist per fall oundvikligen sina gränser.

En kris av förtroende

AI inom radiologi väcker också ett problem av förtroende.

En radiolog ifrågasätter inte bara en modells utdata. De ifrågasätter systemet bakom det, särskilt när AI presenteras som en ersättning snarare än ett verktyg de kan kontrollera. Förtroendet för modellen är ostadigt. Mindre erfarna läkare kan lita för mycket på det och missa fel. Mer erfarna, efter ett enda misstag, kan sluta använda det. Dessa två mönster — överberoende och avkoppling — introducerar båda nya risker istället för att minska dem.

När modellen gör ett fel, tenderar den att försvinna ur beslutsprocessen. Den används inte längre som ett verktyg, utan ignoreras helt enkelt. Detta bryter kontinuiteten och begränsar dess praktiska värde. I praktiken leder detta till inkonsekvent användning snarare än stabil integration i arbetsflödet.

Detta speglar en djupare konflikt med hur medicin fungerar. En radiolog kan inte överlåta ansvaret för en diagnos till ett system. Kliniskt och juridiskt ansvar ligger kvar hos läkaren. Att behandla AI som en ersättning strider mot den struktur som medicinsk praxis bygger på.

Detta skapar en strukturell konflikt där modellen föreslår men läkaren måste verifiera. Erkännande kan automatiseras. Ansvaret kan inte. Och så länge ansvaret inte kan överlåtas, måste varje modellutdata kontrolleras, vilket begränsar dess förmåga att minska arbetsbelastningen.

Illusionen av effektivitet

AI tar inte bort arbete från radiologen. Det lägger till ett lager av kontroll. Läkaren tolkar fortfarande studien och måste också verifiera modellens utdata. Detta skapar dubbelarbete snarare än att spara tid. Istället för att eliminera ansträngning, fördelar AI ofta om arbetet till ytterligare steg av validering och korrigering.

Systemet kan verka snabbare, men i praktiken förskjuts tiden till ytterligare kontroller snarare än att minskas. Över tiden ackumuleras verktygen operativa överhuvuden utan att grundligt förbättra hur diagnosen produceras.

AI introducerar också fragmentering. De flesta modeller är byggda för en smal uppgift: en enda anatomisk region, modalitet eller patologi. För att täcka verkliga kliniska behov måste en klinik använda flera modeller. Istället för ett enhetligt system, leder detta till en fragmenterad uppsättning verktyg.

Varje modell medför sin egen gränssnitt, integration och underhållskrav. Detta ökar systemkomplexiteten och lägger till fler interaktionspunkter.

Som ett resultat blir systemet svårare att hantera, medan den grundläggande diagnostiska processen förblir oförändrad.

Begränsningar av att skala AI

Med varje ny version av en modell, måste förtroendet återuppbyggas. Arbetsflödet börjar anpassa sig till modellen, istället för att stödja läkaren. Detta förskjuter fokus ytterligare bort från att förbättra systemet i sig mot att anpassa sig till enskilda verktyg.

Detta försvåras av den smala fokus som de flesta modeller har. Var och en är utformad för en specifik uppgift eller anatomisk region. I praktiken innebär detta att en klinik behöver flera modeller samtidigt, var och en med sina egna begränsningar, integrationer och kostnader. Systemet blir svårare att operera.

Samtidigt blir det tydligt var AI har den största påverkan idag. Inte i tolkning av bilder, utan i att förbättra systemet runt det — dirigering av studier, hantering av köer, tilldelning av fall till rätt specialist och prognostisering av arbetsbelastning. Dessa områden gynnas av samordning snarare än isolerad förutsägelse.

Vad som hände i praktiken

I vår nätverk av kliniker, med mer än en miljon MRI- och CT-studier som utförs årligen över 40 kliniker i tre länder, implementerade vi flera AI-modeller, inklusive FDA-godkända lösningar. Uppställningen var enkel: modellen analyserade bildstudier, genererade en rapport och radiologen granskade och bekräftade den. Den förväntade utgången var snabbare omsättning och färre fel.

I praktiken fortsatte erfarna radiologer att tolka varje studie själva innan de tittade på modellens utdata. Att arbeta med genererad text tog ofta mer ansträngning än att skriva från scratch, eftersom det inte matchade deras rapporteringsstil. Processen accelererade inte och blev i många fall långsammare. I vissa fall lade interaktionen med modellen till mer friktion än värde.

Användarbeteende skapade också risk. När modellen gjorde ett fel, tenderade erfarna radiologer att förlora förtroendet och sluta använda den. Mindre erfarna läkare var mer benägna att lita på systemet, vilket ökade chansen att missa fel och relaterad klinisk och juridisk exponering.

Detta pekar på ett djupare problem. Att förbättra enskilda verktyg ändrar inte hur systemet fungerar. Flaskhalsen ligger i ett arbetsflöde byggt runt en enskild radiolog som hanterar en studie från början till slut. Dessa begränsningar gör det svårt att förbättra systemet genom att lägga till fler verktyg ensamt.

Hos DICO angrep vi detta på ett annat sätt. Istället för att lägga till AI till det befintliga arbetsflödet, fokuserade vi på strukturen i sig. Fallen kan brytas ned i delar, med varje hanterad av den relevanta specialisten som arbetar direkt inom bilddata. Den slutliga rapporten sätts samman från dessa indata, med AI som stödjer samordning. Diagnos, i detta modell, skrivs inte längre av en person — den sätts samman från flera bidrag.

Detta var inte frågor om modellkvalitet. De var frågor om struktur.

Omstrukturera det diagnostiska systemet

Modern radiologi bygger på en enda antagande. En studie, en radiolog. Detta skapar flaskhalsar, variation och begränsar skalbarhet. Det viktigaste problemet är inte att modeller gör fel. Systemet är inte byggt för att fungera med dem. Det är byggt på en icke-skalibar grund.

En icke-iterativ verktyg placeras i en process som beror på iteration. I klinisk praxis är radiologi inte ett enkelt beslut. Studier visar att oenighet mellan initiala och andra tolkningar förekommer i ~30% av fallen, och kliniskt signifikanta diskrepanser kan påverka hantering i ~18-20% av fallen. Andra åsikter är inte undantag, utan en rutinmässig del av diagnostiskt arbete.

I bredare mening, över hela medicinen, leder andra åsikter till en ändring av diagnosen i 10-62% av fallen, beroende på sammanhanget.

Utan förmågan att ompröva, samordna och omvärdera med sammanhang, förblir modellutdata statiska, medan riktig diagnostik kräver kontinuerlig justering.

Nästa steg är inte mer exakta modeller. Det är en omstrukturering av det diagnostiska systemet.

Skiftet är från separata AI-verktyg till en enhetlig metod för att hantera diagnostik — där diagnos inte är ett enda beslut, utan en process som dirigeras och tolkas över flera steg. Begränsningen är inte bristen på intelligenta modeller, utan avsaknaden av ett system som kan samordna diagnostiskt arbete som en process.