Waarom AI-modellen de kernproblemen van radiologie niet oplossen

De meeste AI-werk in de radiologie is vandaag gericht op diagnostische modellen. De focus ligt op het verbeteren van de nauwkeurigheid door meer gegevens te trainen en modellen te verfijnen. Deze aanpak behandelt radiologie voornamelijk als een visuele herkenningstaak, waarbij betere detectie verwacht wordt het hele systeem te verbeteren. Op het eerste gezicht lijkt dit redelijk: als detectie verbetert, zou de diagnostische kwaliteit ook moeten verbeteren. Dit standpunt mist het belangrijkste punt.

Het kernprobleem in de radiologie is hoe de diagnose zelf is gestructureerd. Het is geen beperking van patroonherkenning, maar van hoe het werk is georganiseerd en beslissingen worden genomen. En het verbeteren van modellen lost dat niet op. Hieronder bekijken we waarom dit gebeurt en wat er nodig is om veranderingen aan te brengen buiten de modelnauwkeurigheid om.

Het Probleem Is Structureel

CV-modellen helpen bij het herkennen van patronen in afbeeldingen. In gecontroleerde studies kunnen ze prestaties bereiken die vergelijkbaar zijn met die van radiologen, met een AUC van vaak boven 0,90 en, in sommige screeningsituaties, specialistenprestaties evenaren of overtreffen. In veel domeinen is de mogelijkheid om bevindingen te detecteren niet langer de belangrijkste beperking.

Zij werken alleen met beeldgegevens. Zij benadrukken mogelijke bevindingen, maar nemen niet deel aan het diagnostische proces zelf. Zij combineren geen verschillende invoer in een enkele diagnose of leiden niet hoe beslissingen worden genomen. In veel domeinen is de mogelijkheid om bevindingen te detecteren niet langer de belangrijkste beperking. Zij zijn ontworpen om patronen te herkennen, niet om deel te nemen aan de diagnose als een proces.

In de praktijk betekent dit dat de structuur niet verandert. Radiologen blijven verantwoordelijk voor het beoordelen van resultaten en het nemen van finale beslissingen, en AI-uitvoer vereist vaak aanvullende verificatie. De verantwoordelijkheid blijft bij de arts. De workflow verandert niet. De bottleneck blijft. Elke studie wordt nog steeds toegewezen aan een enkele radioloog die verwacht wordt om te beoordelen, te interpreteren, te valideren en te rapporteren. Studies laten zien dat de prestaties van clinici nog steeds sterk afhankelijk zijn van hoe AI-fouten worden afgehandeld, en onjuiste uitvoer kan de besluitvorming negatief beïnvloeden.

Een model kan zijn eigen beslissing niet herzien. Als het een fout maakt, is er geen manier om de zaak opnieuw te beoordelen met aanvullende context. Het resultaat blijft vast, terwijl echte diagnostiek continue aanpassing vereist. Hun uitvoer is statisch, terwijl klinische redenering inherent iteratief is.

Als gevolg daarvan blijven bottlenecks bestaan, variabiliteit blijft bestaan en het proces blijft afhankelijk van een enkele radioloog. Als de hoeveelheid beelden toeneemt, bereikt een systeem dat is gebouwd rond één specialist per geval onvermijdelijk zijn limiet.

Een Crisis van Vertrouwen

AI in de radiologie roept ook een vertrouwensprobleem op.

Een radioloog vraagt niet alleen de uitvoer van een model. Hij vraagt het systeem achter het, vooral wanneer AI wordt gepresenteerd als een vervanging in plaats van een instrument dat hij kan controleren. Vertrouwen in het model is onstabiel. Minder ervaren artsen kunnen er te veel op vertrouwen en fouten missen. Meer ervaren artsen stoppen mogelijk met het gebruik ervan na één fout. Deze twee patronen — overmatig vertrouwen en desinteresse — introduceren nieuwe risico’s in plaats van ze te verminderen.

Na een fout wordt het model vaak uit het beslissingsproces verwijderd. Het wordt niet langer gebruikt als een instrument, maar gewoon genegeerd. Dit breekt de continuïteit en beperkt de praktische waarde. In de praktijk leidt dit tot inconsistent gebruik in plaats van stabiele integratie in de workflow.

Dit weerspiegelt een dieper conflict met de manier waarop de geneeskunde werkt. Een radioloog kan de verantwoordelijkheid voor een diagnose niet overdragen aan een systeem. Clinische en juridische verantwoordelijkheid blijft bij de arts. AI behandelen als een vervanging gaat tegen de structuur van de medische praktijk in.

Dit creëert een structureel conflict waarin het model voorstelt, maar de arts moet verifiëren. Herkenning kan geautomatiseerd worden. Verantwoordelijkheid kan dat niet. En zolang verantwoordelijkheid niet kan worden overgedragen, moet elke modeluitvoer worden gecontroleerd, waardoor de mogelijkheid om de werklast te verminderen wordt beperkt.

De Illusie van Efficiëntie

AI verwijdert geen werk van de radioloog. Het voegt een laag van controle toe. De arts interpreteert de studie nog steeds en moet ook de uitvoer van het model verifiëren. Dit creëert dubbele arbeid in plaats van tijd te besparen. In plaats van inspanning te elimineren, voegt AI vaak extra stappen van validatie en correctie toe.

Het systeem kan sneller lijken, maar in de praktijk verschuift de tijd naar aanvullende controles in plaats van te worden verminderd. Na verloop van tijd verhoogt deze opeenstapeling van instrumenten de operationele overhead zonder fundamenteel de manier waarop de diagnose wordt gegenereerd te verbeteren.

AI introduceert ook fragmentatie. De meeste modellen zijn gebouwd voor een smalle taak: een enkel anatomisch gebied, modaliteit of pathologie. Om echte klinische behoeften te dekken, moet een kliniek meerdere modellen gebruiken. In plaats van een geïntegreerd systeem leidt dit tot een gefragmenteerd set van instrumenten.

Elk model brengt zijn eigen interface, integratie en onderhoudsvereisten met zich mee. Dit verhoogt de systeemcomplexiteit en voegt meer interactiepunten toe.

Als gevolg daarvan wordt het systeem moeilijker te beheren, terwijl het diagnostische proces zelf ongewijzigd blijft.

De Beperkingen van het Schalen van AI

Met elke nieuwe versie van een model moet het vertrouwen opnieuw worden opgebouwd. De workflow begint zich aan te passen aan het model, in plaats van de arts te ondersteunen. Dit verschuift de focus verder weg van het verbeteren van het systeem zelf naar het aanpassen aan individuele instrumenten.

Dit wordt moeilijker gemaakt door de smalle focus van de meeste modellen. Elk model is ontworpen voor een specifieke taak of anatomisch gebied. In de praktijk betekent dit dat een kliniek meerdere modellen tegelijk nodig heeft, elk met zijn eigen beperkingen, integraties en kosten. Het systeem wordt moeilijker te bedienen.

Tegelijkertijd wordt het duidelijk waar AI vandaag de meeste impact heeft. Niet in het interpreteren van beelden, maar in het verbeteren van het systeem eromheen — het routeren van studies, het beheren van wachtrijen, het toewijzen van gevallen aan de juiste specialist en het voorspellen van de werklast. Deze gebieden profiteren van coördinatie in plaats van geïsoleerde voorspelling.

Wat Er in de Praktijk Gebeurde

In ons netwerk van klinieken, met meer dan één miljoen MRI- en CT-studies die jaarlijks worden uitgevoerd in meer dan 40 klinieken in drie landen, hebben we meerdere AI-modellen geïmplementeerd, waaronder door de FDA goedgekeurde oplossingen. De setup was eenvoudig: het model analyseerde beeldstudies, genereerde een rapport en de radioloog beoordeelde en bevestigde het. Het verwachte resultaat was een snellere doorlooptijd en minder fouten.

In de praktijk bleven ervaren radiologen elke studie zelf interpreteren voordat ze naar de uitvoer van het model keken. Het werken met gegenereerde tekst nam vaak meer moeite dan het schrijven van scratch, omdat het niet overeenkwam met hun rapportagestijl. Het proces versnelde niet en werd in veel gevallen zelfs langzamer. In sommige gevallen voegde de interactie met het model meer wrijving toe dan waarde.

Gebruikersgedrag creëerde ook risico’s. Wanneer het model een fout maakte, neigden ervaren radiologen ertoe het vertrouwen te verliezen en te stoppen met het gebruik ervan. Minder ervaren artsen waren meer geneigd om op het systeem te vertrouwen, waardoor de kans op gemiste fouten en daarmee samenhangende klinische en juridische blootstelling toenam.

Deze observaties wijzen op een dieper probleem. Het verbeteren van individuele instrumenten verandert niet hoe het systeem werkt. De bottleneck ligt in een workflow die is gebouwd rond één radioloog die een studie van begin tot eind afhandelt. Deze beperkingen maken het moeilijk om het systeem te verbeteren door alleen maar meer instrumenten toe te voegen.

Bij DICO hebben we dit anders aangepakt. In plaats van AI toe te voegen aan de bestaande workflow, hebben we ons gericht op de structuur zelf. Gevallen kunnen worden opgesplitst in delen, waarbij elk deel wordt afgehandeld door de relevante specialist die rechtstreeks werkt met de beeldgegevens. Het eindrapport wordt samengesteld uit deze invoer, met AI die de coördinatie ondersteunt. Diagnose, in dit model, wordt niet langer geschreven door één persoon — het wordt samengesteld uit meerdere bijdragen.

Dit waren geen kwesties van modelkwaliteit. Het waren kwesties van structuur.

Het Diagnostische Systeem Opnieuw Bekijken

De moderne radiologie is gebouwd op één veronderstelling. Één studie, één radioloog. Dit creëert bottlenecks, variabiliteit en beperkt de schaalbaarheid. Het belangrijkste probleem is niet dat modellen fouten maken. Het systeem is niet gebouwd om met hen te werken. Het is gebouwd op een niet-schaalbare basis.

Een niet-iteratief instrument wordt geplaatst in een proces dat afhankelijk is van iteratie. In de klinische praktijk is radiologie geen enkele beslissing. Studies laten zien dat meningsverschillen tussen de eerste en tweede interpretaties voorkomen in ~30% van de gevallen, en klinisch significante discrepanties kunnen de behandeling beïnvloeden in ~18-20% van de gevallen. Tweede meningen zijn geen uitzondering, maar een routineonderdeel van diagnostisch werk.

Breder, in de hele geneeskunde, leiden tweede meningen tot een verandering in de diagnose in 10-62% van de gevallen, afhankelijk van de setting.

Zonder de mogelijkheid om te herzien, te coördineren en opnieuw te evalueren met context, blijven modeluitvoer statisch, terwijl echte diagnostiek continue aanpassing vereist.

De volgende stap is niet het creëren van nauwkeurigere modellen. Het is een herontwerp van het diagnostische systeem.

De verschuiving is van afzonderlijke AI-instrumenten naar een geïntegreerde manier van diagnostiekbeheer — waar diagnose niet één beslissing is, maar een proces dat wordt gerouteerd en geïnterpreteerd over meerdere stappen. De beperking is niet het gebrek aan intelligente modellen, maar het ontbreken van een systeem dat diagnostisch werk als een proces kan coördineren.