Warum KI-Modelle die Kernprobleme der Radiologie nicht lösen

Die meisten KI-Arbeiten in der Radiologie konzentrieren sich heute auf diagnostische Modelle. Der Fokus liegt auf der Verbesserung der Genauigkeit durch die Verwendung von mehr Daten und die Verfeinerung von Modellen. Dieser Ansatz behandelt die Radiologie hauptsächlich als eine visuelle Erkennungsaufgabe, bei der eine bessere Erkennung erwartet wird, um das gesamte System zu verbessern. Auf den ersten Blick scheint dies vernünftig: Wenn die Erkennung verbessert wird, sollte die diagnostische Qualität auch verbessert werden. Diese Sichtweise verfehlt jedoch das Hauptproblem.

Das Kernproblem in der Radiologie ist, wie die Diagnose selbst strukturiert ist. Es ist nicht eine Einschränkung der Mustererkennung, sondern wie die Arbeit organisiert ist und Entscheidungen getroffen werden. Und die Verbesserung von Modellen löst dieses Problem nicht. Im Folgenden gehen wir auf die Gründe ein, warum dies passiert und was über die Verbesserung der Modellgenauigkeit hinaus geändert werden muss.

Das Problem ist strukturell

CV-Modelle helfen bei der Erkennung von Mustern in Bildern. In kontrollierten Studien können sie eine Leistung erzielen, die mit der von Radiologen vergleichbar ist, mit einem AUC-Wert oft über 0,90 und in einigen Screening-Situationen sogar die Leistung von Spezialisten erreichen oder übertreffen. In vielen Bereichen ist die Fähigkeit, Befunde zu erkennen, nicht länger die Hauptbeschränkung.

Gleichzeitig arbeiten sie nur mit Bilddaten. Sie heben mögliche Befunde hervor, nehmen aber nicht am diagnostischen Prozess selbst teil. Sie kombinieren keine unterschiedlichen Eingaben zu einer einzelnen Diagnose oder leiten nicht, wie Entscheidungen getroffen werden. In vielen Bereichen ist die Fähigkeit, Befunde zu erkennen, nicht länger die Hauptbeschränkung. Sie sind darauf ausgelegt, Muster zu erkennen, nicht an der Diagnose als Prozess teilzunehmen.

In der Praxis bedeutet dies, dass die Struktur nicht geändert wird. Radiologen bleiben für die Überprüfung der Ergebnisse und die endgültigen Entscheidungen verantwortlich, und KI-Ausgaben erfordern oft eine zusätzliche Überprüfung. Die Verantwortung bleibt beim Arzt. Der Arbeitsablauf ändert sich nicht. Die Engstelle bleibt. Jede Studie wird immer noch einem einzelnen Radiologen zugewiesen, der die Überprüfung, Interpretation, Validierung und Berichterstattung durchführen soll. Studien zeigen, dass die Leistung von Klinikern immer noch stark von der Art und Weise abhängt, wie KI-Fehler gehandhabt werden, und dass falsche Ausgaben die Entscheidungsfindung negativ beeinflussen können.

Ein Modell kann seine eigene Entscheidung nicht überdenken. Wenn es einen Fehler macht, gibt es keine Möglichkeit, den Fall mit zusätzlichem Kontext zu überdenken. Das Ergebnis bleibt fest, während reale Diagnostik eine kontinuierliche Anpassung erfordert. Ihre Ausgaben sind statisch, während klinisches Denken von Natur aus iterativ ist.

Dadurch bleiben Engstellen bestehen, Variabilität bleibt erhalten und der Prozess bleibt von einem einzelnen Radiologen abhängig. Wenn die Bildvolumina wachsen, erreicht ein System, das um einen einzelnen Spezialisten pro Fall aufgebaut ist, unweigerlich seine Grenzen.

Ein Vertrauenskrisis

KI in der Radiologie wirft auch ein Vertrauensproblem auf.

Ein Radiologe stellt nicht nur die Ausgabe eines Modells in Frage. Er stellt das System hinter ihm in Frage, besonders wenn KI als Ersatz und nicht als Werkzeug dargestellt wird, das er kontrollieren kann. Das Vertrauen in das Modell ist instabil. Weniger erfahrene Ärzte verlassen sich möglicherweise zu sehr auf es und übersehen Fehler. Erfahrenere Ärzte hören nach einem einzigen Fehler auf, es zu verwenden. Diese beiden Muster – Übervertrauen und Desinteresse – führen beide zu neuen Risiken, anstatt sie zu verringern.

Nach einem Fehler wird das Modell oft aus dem Entscheidungsprozess ausgeschlossen. Es wird nicht länger als Werkzeug verwendet, sondern einfach ignoriert. Dies unterbricht die Kontinuität und begrenzt seinen praktischen Wert. In der Praxis führt dies zu inkonsistenter Nutzung anstatt stabiler Integration in den Arbeitsablauf.

Dies spiegelt einen tieferen Konflikt mit der Funktionsweise der Medizin wider. Ein Radiologe kann die Verantwortung für eine Diagnose nicht an ein System übertragen. Klinische und rechtliche Verantwortung bleibt beim Arzt. Die Behandlung von KI als Ersatz widerspricht der Struktur der medizinischen Praxis.

Dies schafft einen strukturellen Konflikt, bei dem das Modell vorschlägt, aber der Arzt die Verantwortung übernehmen muss. Erkennung kann automatisiert werden. Verantwortung nicht. Und solange Verantwortung nicht übertragen werden kann, muss jede Modellausgabe überprüft werden, was ihre Fähigkeit, die Arbeitsbelastung zu verringern, begrenzt.

Die Illusion der Effizienz

KI entfernt keine Arbeit von dem Radiologen. Sie fügt eine Kontrollschicht hinzu. Der Arzt interpretiert die Studie und muss auch die Ausgabe des Modells überprüfen. Dies schafft doppelte Arbeit anstatt Zeit zu sparen. Anstatt den Aufwand zu eliminieren, verteilt KI ihn oft auf zusätzliche Schritte der Überprüfung und Korrektur.

Das System kann schneller erscheinen, aber in der Praxis verschiebt sich die Zeit in zusätzliche Überprüfungen anstatt reduziert zu werden. Im Laufe der Zeit erhöht sich der operativen Overhead durch die Ansammlung von Tools, ohne grundlegend zu verbessern, wie die Diagnose produziert wird.

KI führt auch zu Fragmentierung. Die meisten Modelle sind für eine enge Aufgabe konzipiert: eine einzelne anatomische Region, Modalität oder Pathologie. Um reale klinische Bedürfnisse abzudecken, muss eine Klinik mehrere Modelle verwenden. Anstatt eines einheitlichen Systems führt dies zu einem fragmentierten Satz von Tools.

Jedes Modell bringt seine eigene Oberfläche, Integration und Wartungsanforderungen mit. Dies erhöht die Systemkomplexität und fügt weitere Interaktionspunkte hinzu.

Dadurch wird das System schwerer zu verwalten, während der diagnostische Prozess selbst unverändert bleibt.

Grenzen der Skalierung von KI

Mit jeder neuen Version eines Modells muss Vertrauen aufgebaut werden. Der Arbeitsablauf beginnt, sich an das Modell anzupassen, anstatt den Arzt zu unterstützen. Dies verschiebt den Fokus weiter weg von der Verbesserung des Systems selbst hin zur Anpassung an einzelne Tools.

Dies wird durch die enge Ausrichtung der meisten Modelle erschwert. Jedes ist für eine bestimmte Aufgabe oder anatomische Region konzipiert. In der Praxis bedeutet dies, dass eine Klinik mehrere Modelle gleichzeitig benötigt, jedes mit seinen eigenen Einschränkungen, Integrationen und Kosten. Das System wird schwerer zu bedienen.

Gleichzeitig wird deutlich, wo KI heute den größten Einfluss hat. Nicht bei der Interpretation von Bildern, sondern bei der Verbesserung des Systems darum herum – der Weiterleitung von Studien, der Verwaltung von Warteschlangen, der Zuweisung von Fällen an den richtigen Spezialisten und der Vorhersage der Arbeitsbelastung. Diese Bereiche profitieren von Koordination anstatt isolierter Vorhersage.

Was in der Praxis passierte

In unserem Netzwerk von Kliniken, mit über einer Million MRT- und CT-Studien pro Jahr in über 40 Kliniken in drei Ländern, haben wir mehrere KI-Modelle implementiert, einschließlich FDA-zugelassener Lösungen. Die Einrichtung war einfach: Das Modell analysierte die Bildstudien, generierte einen Bericht und der Radiologe überprüfte und bestätigte ihn. Das erwartete Ergebnis war eine schnellere Bearbeitungszeit und weniger Fehler.

In der Praxis setzten erfahrene Radiologen ihre eigene Interpretation jeder Studie fort, bevor sie die Ausgabe des Modells ansahen. Die Arbeit mit generiertem Text erforderte oft mehr Aufwand als das Schreiben von Grund auf, da es nicht ihrem Berichtsstil entsprach. Der Prozess wurde nicht schneller und wurde in vielen Fällen sogar langsamer. In einigen Fällen fügte die Interaktion mit dem Modell mehr Reibung als Wert hinzu.

Das Nutzerverhalten schuf auch Risiken. Wenn das Modell einen Fehler machte, neigten erfahrene Radiologen dazu, das Vertrauen zu verlieren und aufzuhören, es zu verwenden. Weniger erfahrene Ärzte neigten eher dazu, sich auf das System zu verlassen, was das Risiko von übersehenen Fehlern und damit verbundenen klinischen und rechtlichen Risiken erhöhte.

Diese Beobachtungen deuten auf ein tieferes Problem hin. Die Verbesserung einzelner Tools ändert nicht, wie das System funktioniert. Die Engstelle liegt in einem Arbeitsablauf, der um einen einzelnen Radiologen aufgebaut ist, der einen Fall von Anfang bis Ende bearbeitet. Diese Einschränkungen machen es schwierig, das System durch das Hinzufügen von Tools allein zu verbessern.

Bei DICO haben wir dies anders angegangen. Anstatt KI in den bestehenden Arbeitsablauf zu integrieren, haben wir uns auf die Struktur selbst konzentriert. Fälle können in Teile aufgeteilt werden, die von dem relevanten Spezialisten direkt innerhalb der Bilddaten bearbeitet werden. Der endgültige Bericht wird aus diesen Beiträgen zusammengestellt, wobei KI die Koordination unterstützt. Die Diagnose ist in diesem Modell nicht länger von einer Person geschrieben – sie wird aus mehreren Beiträgen zusammengestellt.

Dies waren keine Fragen der Modellqualität. Sie waren Fragen der Struktur.

Die diagnostische System neu denken

Die moderne Radiologie basiert auf einer einzigen Annahme. Eine Studie, ein Radiologe. Dies schafft Engstellen, Variabilität und begrenzt die Skalierbarkeit. Das Hauptproblem ist nicht, dass Modelle Fehler machen. Das System ist nicht darauf ausgelegt, mit ihnen zu arbeiten. Es basiert auf einer nicht skalierbaren Grundlage.

Ein nicht-iteratives Tool wird in einen Prozess eingefügt, der von Iteration abhängt. In der klinischen Praxis ist die Radiologie keine Einmalentscheidung. Studien zeigen, dass Uneinigkeit zwischen der ersten und zweiten Interpretation in etwa 30% der Fälle auftritt und dass klinisch signifikante Diskrepanzen die Behandlung in etwa 18-20% der Fälle beeinflussen können. Zweitmeinungen sind keine Ausnahme, sondern ein regelmäßiger Teil der diagnostischen Arbeit.

Im weiteren Sinne führen Zweitmeinungen in der Medizin zu einer Änderung der Diagnose in 10-62% der Fälle, je nach Umgebung.

Ohne die Fähigkeit, zu überdenken, zu koordinieren und mit Kontext neu zu bewerten, bleiben die Ausgaben der Modelle statisch, während reale Diagnostik eine kontinuierliche Anpassung erfordert.

Der nächste Schritt ist nicht die Entwicklung genauerer Modelle. Es ist eine Neugestaltung des diagnostischen Systems.

Der Schritt geht von getrennten KI-Tools zu einer einheitlichen Art der Diagnoseverwaltung – wo die Diagnose nicht als einzelne Entscheidung, sondern als Prozess verstanden wird, der über mehrere Schritte hinweg geroutet und interpretiert wird. Die Einschränkung liegt nicht im Mangel an intelligenten Modellen, sondern in der Abwesenheit eines Systems, das diagnostische Arbeit als Prozess koordinieren kann.