Dlaczego modele AI nie rozwiązują podstawowych problemów radiologii

Większość pracy nad AI w radiologii koncentruje się obecnie na modelach diagnostycznych. Główny nacisk kładziony jest na poprawę dokładności poprzez szkolenie na większej ilości danych i udoskonalanie modeli. Podejście to traktuje radiologię głównie jako zadanie rozpoznawania wizualnego, gdzie lepsze wykrywanie powinno poprawić cały system. Na pierwszy rzut oka wydaje się to uzasadnione: jeśli wykrywanie się poprawia, jakość diagnostyki powinna się również poprawić. Ten punkt widzenia pomija jednak główny problem.

Główny problem w radiologii dotyczy struktury samej diagnostyki. Nie jest to ograniczenie rozpoznawania wzorców, ale sposób, w jaki organizowana jest praca i podejmowane są decyzje. Poprawa modeli nie rozwiązuje tego problemu. Poniżej przyjrzymy się, dlaczego tak się dzieje i jakie zmiany są potrzebne, aby wyjść poza dokładność modeli.

Problem jest strukturalny

Modele CV pomagają w rozpoznawaniu wzorców w obrazach. W kontrolowanych badaniach mogą one osiągnąć wyniki porównywalne z wynikami radiologów, z AUC często powyżej 0,90, a w niektórych przypadkach nawet przewyższających wyniki specjalistów. W wielu dziedzinach zdolność do wykrywania wyników nie jest już głównym ograniczeniem.

Jednocześnie modele te działają tylko z danymi obrazowymi. Podkreślają możliwe wyniki, ale nie biorą udziału w samym procesie diagnostycznym. Nie łączą różnych danych wejściowych w jedną diagnozę ani nie kierują tym, jak podejmowane są decyzje. W wielu dziedzinach zdolność do wykrywania wyników nie jest już głównym ograniczeniem. Są one zaprojektowane do rozpoznawania wzorców, a nie do uczestniczenia w diagnostyce jako procesie.

W praktyce oznacza to, że struktura nie ulega zmianie. Radiolodzy nadal są odpowiedzialni za przeglądanie wyników i podejmowanie ostatecznych decyzji, a dane wyjściowe AI często wymagają dodatkowej weryfikacji. Odpowiedzialność pozostaje po stronie lekarza. Przepływ pracy nie ulega zmianie. Wąskie gardło pozostaje. Każde badanie jest nadal przydzielane do jednego radiologa, który ma za zadanie przeglądać, interpretować, weryfikować i sporządzać raport. Badania pokazują, że wyniki lekarzy nadal zależą w dużej mierze od tego, jak błędy AI są obsługiwane, a nieprawidłowe dane wyjściowe mogą negatywnie wpłynąć na podejmowanie decyzji.

Model nie może ponownie rozpatrzyć swojej decyzji. Jeśli popełni błąd, nie ma możliwości ponownego rozpatrzenia przypadku z dodatkowym kontekstem. Wynik pozostaje stały, podczas gdy rzeczywista diagnostyka wymaga ciągłej korekty. Dane wyjściowe modelu są statyczne, podczas gdy kliniczne rozumowanie jest z natury iteracyjne.

W wyniku tego wąskie gardło pozostaje, zmiennność się utrzymuje, a proces nadal zależy od jednego radiologa. Gdy objętość obrazowania rośnie, system zbudowany wokół jednego specjalisty na przypadku nieuchronnie osiąga swoje granice.

Kryzys zaufania

AI w radiologii podnosi również problem zaufania.

Radiolog nie tylko kwestionuje dane wyjściowe modelu. Kwestionuje system, który stoi za nim, zwłaszcza gdy AI jest przedstawiany jako zastępstwo, a nie jako narzędzie, które można kontrolować. Zaufanie do modelu jest niestabilne. Mniej doświadczeni lekarze mogą zbyt mocno polegać na nim i przegapić błędy. Bardziej doświadczeni, po jednym błędzie, mogą przestać go używać. Te dwa wzorce — nadmierne poleganie i wyłączenie — oba wprowadzają nowe ryzyka zamiast je redukować.

Po błędzie model często wypada z procesu decyzyjnego. Nie jest już używany jako narzędzie, ale po prostu ignorowany. To łamie ciągłość i ogranicza jego praktyczną wartość. W praktyce prowadzi to do niespójnego użytkowania zamiast stabilnej integracji z przepływem pracy.

To odzwierciedla głębszy konflikt z tym, jak działa medycyna. Radiolog nie może przenieść odpowiedzialności za diagnozę na system. Odpowiedzialność kliniczna i prawna pozostaje po stronie lekarza. Traktowanie AI jako substytutu jest sprzeczne ze strukturą praktyki medycznej.

To tworzy strukturalny konflikt, w którym model sugeruje, ale lekarz musi zweryfikować. Rozpoznawanie może być zautomatyzowane. Odpowiedzialność nie. I tak długo, jak odpowiedzialność nie może być przeniesiona, każde dane wyjściowe modelu muszą być sprawdzane, co ogranicza jego zdolność do redukowania obciążenia pracy.

Iluzja wydajności

AI nie usuwa pracy z radiologa. Dodaje warstwę kontroli. Lekarz nadal interpretuje badanie i musi również zweryfikować dane wyjściowe modelu. To tworzy podwójną pracę zamiast oszczędzać czas. Zamiast eliminować wysiłek, AI często redistribute go w dodatkowe kroki weryfikacji i korekty.

System może się wydawać szybszy, ale w praktyce czas przenosi się w dodatkowe sprawdzanie zamiast być redukowany. Z czasem ten przyrost narzędzi zwiększa operacyjne obciążenie bez fundamentalnej poprawy, w jaki sposób diagnostyka jest produkowana.

AI również wprowadza fragmentację. Większość modeli jest budowana dla wąskiego zadania: jednego regionu anatomicznego, modalności lub patologii. Aby pokryć rzeczywiste potrzeby kliniczne, klinika musi używać wielu modeli. Zamiast zintegrowanego systemu, prowadzi to do fragmentowanego zestawu narzędzi.

Każdy model przychodzi ze swoim interfejsem, integracją i wymaganiami konserwacyjnymi. To zwiększa złożoność systemu i dodaje więcej punktów interakcji.

W wyniku tego system staje się trudniejszy do zarządzania, podczas gdy podstawowy proces diagnostyczny pozostaje niezmieniony.

Ograniczenia skalowania AI

Z każdą nową wersją modelu, zaufanie musi być odbudowane. Przepływ pracy zaczyna dostosowywać się do modelu, zamiast wspierać lekarza. To dalej przenosi focus od poprawy samego systemu w kierunku adaptacji do poszczególnych narzędzi.

To jest utrudnione przez wąskie skupienie większości modeli. Każdy z nich jest zaprojektowany dla konkretnego zadania lub regionu anatomicznego. W praktyce oznacza to, że klinika potrzebuje kilku modeli jednocześnie, każdy z własnymi ograniczeniami, integracjami i kosztami. System staje się trudniejszy do operowania.

Jednocześnie staje się jasne, gdzie AI ma największy wpływ dzisiaj. Nie w interpretowaniu obrazów, ale w poprawie systemu wokół nich — routing badania, zarządzanie kolejkami, przydzielanie przypadków do odpowiedniego specjalisty i prognozowanie obciążenia. Te obszary korzystają z koordynacji zamiast izolowanego przewidywania.

Co się wydarzyło w praktyce

W naszej sieci klinik, z ponad milionem badań MRI i CT przeprowadzonych rocznie w ponad 40 klinikach w trzech krajach, wdrożyliśmy kilka modeli AI, w tym rozwiązania zatwierdzone przez FDA. Ustawienie było proste: model analizował badania obrazowe, generował raport, a radiolog przeglądał i potwierdzał go. Oczekiwany wynik był szybszy obrót i mniej błędów.

W praktyce doświadczeni radiolodzy nadal interpretowali każde badanie samodzielnie przed spojrzeniem na dane wyjściowe modelu. Praca z wygenerowanym tekstem często wymagała więcej wysiłku niż pisanie od podstaw, ponieważ nie odpowiadało ich stylowi raportowania. Proces nie przyspieszył i w wielu przypadkach stał się wolniejszy. W niektórych przypadkach interakcja z modelem dodawała więcej tarcia niż wartości.

Zachowanie użytkownika również tworzyło ryzyko. Gdy model popełniał błąd, doświadczeni radiolodzy skłonni byli stracić zaufanie i przestać go używać. Mniej doświadczeni lekarze byli bardziej skłonni polegać na systemie, zwiększając szansę na pominięcie błędów i związane z tym kliniczne i prawne narażenie.

Te obserwacje wskazują na głębszy problem. Poprawa poszczególnych narzędzi nie zmienia, w jaki sposób działa system. Wąskie gardło leży w przepływie pracy zbudowanym wokół jednego radiologa, który obsługuje badanie od początku do końca. Te ograniczenia utrudniają poprawę systemu przez dodanie więcej narzędzi.

W DICO podejście było inne. Zamiast dodawać AI do istniejącego przepływu pracy, skupiliśmy się na samej strukturze. Przypadki mogą być podzielone na części, z których każda jest obsługiwana przez odpowiedniego specjalistę pracującego bezpośrednio w danych obrazowych. Ostateczny raport jest składany z tych danych wejściowych, z AI wspierającym koordynację. Diagnoza, w tym modelu, nie jest już pisana przez jedną osobę — jest składana z wielu wkładów.

To nie były kwestie jakości modelu. Były to kwestie struktury.

Ponowne rozważenie systemu diagnostycznego

Nowoczesna radiologia opiera się na jednym założeniu. Jedno badanie, jeden radiolog. To tworzy wąskie gardło, zmiennność i ogranicza skalowalność. Główny problem nie polega na tym, że modele popełniają błędy. System nie jest zbudowany do pracy z nimi. Jest zbudowany na nie skalowalnej podstawie.

Nieiteracyjne narzędzie jest umieszczone w procesie, który zależy od iteracji. W praktyce klinicznej radiologia nie jest decyzją jednorazową. Badania pokazują, że niezgodność między pierwszą a drugą interpretacją występuje w ~30% przypadków, a klinicznie istotne rozbieżności mogą wpłynąć na zarządzanie w ~18-20% przypadków. Drugie opinie nie są wyjątkiem, ale rutynową częścią pracy diagnostycznej.

Szerzej, w całej medycynie, drugie opinie prowadzą do zmiany diagnozy w 10-62% przypadków, w zależności od ustawienia.

Bez możliwości rewizji, koordynacji i ponownej oceny z kontekstem, dane wyjściowe modelu pozostają statyczne, podczas gdy rzeczywista diagnostyka wymaga ciągłej korekty.

Następny krok nie polega na tworzeniu bardziej dokładnych modeli. Jest to przebudowa systemu diagnostycznego.

Przesunięcie jest od oddzielnych narzędzi AI do zintegrowanego sposobu zarządzania diagnostyką — gdzie diagnoza nie jest jedną decyzją, ale procesem, który jest kierowany i interpretowany na wielu etapach. Ograniczeniem nie jest brak inteligentnych modeli, ale brak systemu, który może koordynować pracę diagnostyczną jako proces.