Proč modely AI nevyřeší základní problémy radiologie

Většina práce s umělou inteligencí v radiologii se dnes soustředí na diagnostické modely. Cílem je zlepšit přesnost tím, že se bude učit na více datech a modely budou zdokonaleny. Tento přístup považuje radiologii hlavně za úkol rozpoznávání obrazů, kde lepší detekce by měla zlepšit celý systém. Na první pohled se to zdá rozumné: pokud se detekce zlepšuje, měla by se zlepšit i diagnostická kvalita. Tento pohled ale přehlíží hlavní problém.

Hlavním problémem v radiologii je struktura samotné diagnózy. Není to omezení rozpoznávání vzorců, ale o tom, jak je práce organizována a rozhodnutí jsou učiněna. A zlepšování modelů tento problém nevyřeší. Níže se podíváme, proč k tomu dochází a co je potřeba změnit além přesnosti modelů.

Problém je strukturální

Modely CV pomáhají s rozpoznáváním vzorců v obrazech. V kontrolovaných studiích mohou dosáhnout výkonu srovnatelného s radiology, s AUC často nad 0,90 a v některých screeningových nastaveních dokonce překonávají nebo překračují výkon specialistů. V mnoha oblastech již není schopnost detekovat nálezy hlavním omezením.

V同 době ale tyto modely pracují pouze s daty z obrazů. Označují možné nálezy, ale neúčastní se samotného diagnostického procesu. Nezkombinují různé vstupy do jediné diagnózy ani neřídí, jak jsou rozhodnutí učiněna. V mnoha oblastech již není schopnost detekovat nálezy hlavním omezením. Jsou navrženy pro rozpoznávání vzorců, ne pro účast v diagnostice jako procesu.

V praxi to znamená, že struktura se nemění. Radiologové zůstávají zodpovědní za přezkoumání výsledků a konečná rozhodnutí, a výstupy AI často vyžadují další ověření. Odpovědnost zůstává u lékaře. Pracovní postup se nemění. Úzké místo zůstává. Každá studie je stále přiřazena jedinému radiologovi, který má za úkol přezkoumat, interpretovat, ověřit a nahlásit. Studie ukazují, že výkon klinika stále závisí na tom, jak jsou chyby AI řešeny, a nesprávné výstupy mohou negativně ovlivnit rozhodování.

Model nemůže přehodnotit své vlastní rozhodnutí. Pokud udělá chybu, není žádný způsob, jak přehodnotit případ s dalšími kontexty. Výsledek zůstává pevný, zatímco skutečná diagnostika vyžaduje nepřetržitou úpravu. Jejich výstupy jsou statické, zatímco klinické myšlení je inherentně iterativní.

To vede k tomu, že úzká místa zůstávají, variabilita přetrvává a proces stále závisí na jediném radiologovi. Jak se zvyšuje objem zobrazovacích studií, systém postavený kolem jednoho specialisty na případ nevyhnutelně dosáhne svých limitů.

Krizi důvěry

AI v radiologii také vyvolává problém důvěry.

Radiolog se neptá pouze na výstup modelu. Ptá se na systém za ním, zejména když je AI prezentován jako náhrada, a not jako nástroj, který může ovládat. Důvěra v model je nestabilní. Méně zkušení lékaři se mohou příliš spoléhat na něj a přehlédnout chyby. Více zkušení lékaři, po jediné chybě, mohou přestat ho používat. Tyto dva vzorce — přílišná závislost a odpojení — obě zavedou nové rizika místo toho, aby je snižovaly.

Po chybě modelu často vypadne z procesu rozhodování. Není již používán jako nástroj, ale prostě ignorován. To porušuje kontinuitu a omezuje jeho praktickou hodnotu. V praxi to vede k nekonzistentnímu použití místo stabilní integrace do pracovního postupu.

To odráží hlubší konflikt s tím, jak medicína funguje. Radiolog nemůže přenést odpovědnost za diagnózu na systém. Klinická a právní odpovědnost zůstává u lékaře. Léčba AI jako náhrady jde proti struktuře lékařské praxe.

To vytváří strukturální konflikt, kde model navrhuje, ale lékař musí ověřit. Rozpoznávání lze automatizovat. Odpovědnost nelze. A dokud odpovědnost nelze přenést, musí být každý výstup modelu ověřen, což omezuje jeho schopnost snižovat pracovní zátěž.

Iluze efektivity

AI neodebírá práci radiologovi. Přidává vrstvu kontroly. Lékař stále interpretuje studii a také musí ověřit výstup modelu. To vytváří dvojí práci místo toho, aby šetřilo čas. Místo odstranění úsilí AI často redistribuuje úsilí do dalších kroků ověření a korekce.

Systém může vypadat rychlejší, ale v praxi se čas přesouvá do dalších kontrol místo toho, aby byl snížen. S časem se tato akumulace nástrojů zvyšuje provozní režii bez toho, aby fundamentálně zlepšila, jak je diagnostika produkována.

AI také zavádí fragmentaci. Většina modelů je postavena pro úzkou úlohu: jeden anatomický region, modalita nebo patologie. Aby byly pokryty skutečné klinické potřeby, musí klinika použít několik modelů. Místo jednotného systému to vede k fragmentovanému sadě nástrojů.

Každý model přináší svou vlastní rozhraní, integraci a požadavky na údržbu. To zvyšuje složitost systému a přidává další body interakce.

To vede k tomu, že systém se stává těžším na řízení, zatímco základní diagnostický proces zůstává nezměněn.

Omezení škálovatelnosti AI

S každou novou verzí modelu musí být důvěra znovu vybudována. Pracovní postup začíná přizpůsobovat se modelu, místo aby podporoval lékaře. To dále přesouvá zaměření od zlepšování systému samotného směrem k přizpůsobení se jednotlivým nástrojům.

To je ještě obtížnější kvůli úzkému zaměření většiny modelů. Každý z nich je navržen pro specifickou úlohu nebo anatomický region. V praxi to znamená, že klinika potřebuje několik modelů najednou, každý s vlastními omezeními, integracemi a náklady. Systém se stává těžším na provoz.

V同 době se stává jasné, kde AI má dnes největší dopad. Ne v interpretaci obrazů, ale ve zlepšování systému kolem nich — směrování studií, řízení front, přiřazování případů správnému specialistovi a předpověď pracovní zátěže. Tyto oblasti profitují z koordinace spíše než izolovaného předpovídání.

Co se stalo v praxi

V naší síti klinik, s více než milionem MRI a CT studií provedených ročně v více než 40 klinikách ve třech zemích, jsme implementovali několik modelů AI, včetně schválených FDA. Nastavení bylo jednoduché: model analyzoval zobrazovací studie, generoval zprávu a radiolog přezkoumal a potvrdil ji. Očekávaným výsledkem byla rychlejší doba zpracování a méně chyb.

V praxi zkušení radiologové pokračovali v interpretaci každé studie sami předtím, než se podívali na výstup modelu. Práce s generovaným textem často vyžadovala více úsilí než psaní od začátku, protože neodpovídala jejich stylu reportování. Proces se nezrychlil a v mnoha případech se stal dokonce pomalejším. V některých případech interakce s modelem přidala více tření než hodnoty.

Chování uživatelů také vytvořilo riziko. Když model udělal chybu, zkušení radiologové měli tendenci ztratit důvěru a přestat ho používat. Méně zkušení lékaři byli více pravděpodobně závislí na systému, což zvyšovalo šanci na přehlédnuté chyby a související klinické a právní expozici.

Tyto pozorování ukazují na hlubší problém. Zlepšování jednotlivých nástrojů nezmění, jak systém funguje. Úzké místo leží v pracovním postupu postaveném kolem jediného radiologa, který zpracovává studii od začátku do konce. Tyto omezení činí obtížným zlepšovat systém pouze přidáním dalších nástrojů.

V DICO jsme se k tomu přistupovali jinak. Místo přidání AI do stávajícího pracovního postupu jsme se soustředili na strukturu samotnou. Případy lze rozdělit na části, přičemž každá část je zpracována relevantním specialistou přímo v rámci zobrazovacích dat. Konečná zpráva je sestavena z těchto vstupů, přičemž AI podporuje koordinaci. Diagnóza, v tomto modelu, již není psána jedním člověkem — je sestavena z více příspěvků.

Tyto nebyly problémy kvality modelu. Byly to problémy struktury.

Přemýšlení o diagnostickém systému

Moderní radiologie je postavena na jediném předpokladu. Jedna studie, jeden radiolog. To vytváří úzká místa, variabilitu a omezuje škálovatelnost. Hlavním problémem není, že modely dělají chyby. Systém není navržen pro práci s nimi. Je postaven na neskalovatelném základě.

Neiterativní nástroj je umístěn do procesu, který závisí na iteraci. V klinické praxi není radiologie jednorázovým rozhodnutím. Studie ukazují, že nesouhlas mezi počáteční a druhou interpretací se vyskytuje u ~30% případů, a klinicky významné rozdíly mohou ovlivnit management u ~18-20% případů. Druhé názory nejsou výjimkou, ale rutinní součástí diagnostické práce.

Širší, napříč medicínou, druhé názory vedou ke změně diagnózy u 10-62% případů, v závislosti na prostředí.

Bez schopnosti revidovat, koordinovat a re-evalovat s kontextem zůstávají výstupy modelu statické, zatímco skutečná diagnostika vyžaduje nepřetržitou úpravu.

Další krok není lepší modely. Je to redesign diagnostického systému.

Přechod je od samostatných nástrojů AI k jednotnému způsobu řízení diagnostiky — kde diagnóza není jediným rozhodnutím, ale procesem, který je směrován a interpretován napříč několika kroky. Omezení není nedostatek inteligentních modelů, ale absence systému, který může koordinovat diagnostickou práci jako proces.