De ce modelele AI nu rezolvă problemele de bază ale radiologiei

Cea mai mare parte a lucrărilor de inteligență artificială în radiologie se concentrează astăzi pe modelele de diagnostic. Accentul se pune pe îmbunătățirea acurateței prin antrenarea pe mai multe date și rafinarea modelelor. Acest abordaj tratează radiologia în principal ca o sarcină de recunoaștere vizuală, unde o detectare mai bună se așteaptă să îmbunătățească întregul sistem. La prima vedere, acest lucru pare rezonabil: dacă detectarea se îmbunătățește, calitatea diagnosticului ar trebui să se îmbunătățească și ea. Această perspectivă ratează problema principală.

Problema de bază în radiologie este structura în sine a diagnosticului. Nu este o limitare a recunoașterii de modele, ci a modului în care este organizat și produs procesul de luare a deciziilor. Și îmbunătățirea modelelor nu rezolvă această problemă. Mai jos, vom examina de ce se întâmplă acest lucru și ce schimbări sunt necesare dincolo de acuratețea modelelor.

Problema este structurală

Modelele de recunoaștere a pattern-urilor ajută la recunoașterea pattern-urilor în imagini. În studii controlate, ele pot atinge performanțe comparabile cu cele ale radiologilor, cu AUC adesea peste 0,90 și, în unele setări de screening, egalând sau depășind performanța specialiștilor. În multe domenii, capacitatea de a detecta rezultate nu mai este principala constrângere.

În același timp, ele funcționează doar cu date de imagine. Ele evidențiază posibile rezultate, dar nu participă la procesul de diagnostic în sine. Ele nu combină diferite intrări într-un singur diagnostic sau nu ghidează modul în care se iau deciziile. În multe domenii, capacitatea de a detecta rezultate nu mai este principala constrângere. Ele sunt proiectate pentru a recunoaște pattern-uri, nu pentru a participa la diagnostic ca un proces.

În practică, acest lucru înseamnă că structura nu se schimbă. Radiologii rămân responsabili pentru revizuirea rezultatelor și luarea deciziilor finale, iar ieșirile AI adesea necesită verificări suplimentare. Responsabilitatea rămâne cu medicul. Fluxul de lucru nu se schimbă. Blocajul rămâne. Fiecare studiu este încă atribuit unui singur radiolog care trebuie să revizuiască, să interpreteze, să valideze și să raporteze. Studii arată că performanța clinicianului depinde în continuare puternic de modul în care sunt gestionate erorile AI, iar ieșirile incorecte pot afecta negativ luarea deciziilor.

Un model nu poate reexamina propria decizie. Dacă face o greșeală, nu există nicio modalitate de a reevalua cazul cu context suplimentar. Rezultatul rămâne fix, în timp ce diagnosticarea reală necesită ajustări continue. Ieșirile lor sunt statice, în timp ce raționamentul clinic este în mod inerent iterativ.

Ca urmare, blocajele rămân, variabilitatea persistă, iar procesul continuă să depindă de un singur radiolog. Pe măsură ce volumul de imagini crește, un sistem construit în jurul unui singur specialist pe caz inevitabil ajunge la limitele sale.

O criză de încredere

Inteligența artificială în radiologie ridică și o problemă de încredere.

Un radiolog nu numai că pune sub semn de întrebare ieșirea unui model, ci și sistemul din spatele acestuia, mai ales atunci când AI este prezentat ca o înlocuire, și nu ca un instrument pe care îl pot controla. Încrederea în model este instabilă. Medicii mai puțin experimentați se pot baza prea mult pe el și pot pierde din vedere erorile. Cei mai experimentați, după o singură greșeală, pot înceta să-l mai folosească. Aceste două tipare — supraponderare și dezangajare — introduc riscuri noi, în loc să le reducă.

După o eroare, modelul este adesea eliminat din procesul de luare a deciziilor. El nu mai este folosit ca instrument, ci pur și simplu ignorat. Acest lucru rupe continuitatea și limitează valoarea sa practică. În practică, acest lucru duce la o utilizare inconsistentă, mai degrabă decât la o integrare stabilă în fluxul de lucru.

Acest lucru reflectă un conflict mai profund cu modul în care funcționează medicina. Un radiolog nu poate transfera responsabilitatea pentru un diagnostic către un sistem. Responsabilitatea clinică și juridică rămâne cu medicul. Tratarea AI ca înlocuitor merge împotriva structurii practicii medicale.

Acest lucru creează un conflict structural în care modelul sugerează, dar medicul trebuie să verifice. Recunoașterea poate fi automatizată. Responsabilitatea nu poate fi transferată. Și atâta timp cât responsabilitatea nu poate fi transferată, fiecare ieșire a modelului trebuie verificată, limitând capacitatea sa de a reduce sarcina de lucru.

Iluzia eficienței

Inteligența artificială nu elimină munca de la radiolog. Ea adaugă un strat de control. Medicul trebuie să interpreteze în continuare studiul și, de asemenea, să verifice ieșirea modelului. Acest lucru creează o muncă dublă, în loc să economisească timp. În loc să elimine efortul, AI adesea redistribuie efortul în pași suplimentari de validare și corectare.

Sistemul poate părea mai rapid, dar în practică timpul se transformă în verificări suplimentare, mai degrabă decât să fie redus. În timp, această acumulare de instrumente crește suprasarcina operațională fără a îmbunătăți fundamental modul în care se produce diagnosticul.

Inteligența artificială introduce, de asemenea, fragmentarea. Cele mai multe modele sunt construite pentru o sarcină îngustă: o singură regiune anatomică, o singură modalitate sau o singură patologie. Pentru a acoperi nevoile clinice reale, o clinică trebuie să folosească multiple modele. În loc de un sistem unificat, acest lucru duce la un set fragmentat de instrumente.

Fiecare model aduce propria interfață, integrare și cerințe de întreținere. Acest lucru crește complexitatea sistemului și adaugă puncte de interacțiune suplimentare.

Ca urmare, sistemul devine mai greu de gestionat, în timp ce procesul de diagnostic în sine rămâne neschimbat.

Limitările extinderii AI

Cu fiecare nouă versiune a unui model, încrederea trebuie reconstruită. Fluxul de lucru începe să se adapteze la model, în loc să sprijine medicul. Acest lucru schimbă și mai mult accentul de la îmbunătățirea sistemului însuși către adaptarea la instrumente individuale.

Acest lucru este îngreunat de focalizarea îngustă a celor mai multe modele. Fiecare dintre ele este proiectat pentru o sarcină specifică sau o regiune anatomică. În practică, acest lucru înseamnă că o clinică are nevoie de mai multe modele deodată, fiecare cu propriile constrângeri, integrări și costuri. Sistemul devine mai greu de operat.

În același timp, devine clar unde are AI cel mai mare impact astăzi. Nu în interpretarea imaginilor, ci în îmbunătățirea sistemului din jurul acestora — dirijarea studiilor, gestionarea cozilor, atribuirea cazurilor către specialistul potrivit și previziunea sarcinii de lucru. Aceste domenii beneficiază de coordonare, mai degrabă decât de predicție izolată.

Ce s-a întâmplat în practică

În rețeaua noastră de clinici, cu peste un milion de studii de rezonanță magnetică și tomografie computerizată efectuate anual în peste 40 de clinici din trei țări, am implementat mai multe modele AI, inclusiv soluții aprobate de FDA. Configurația a fost simplă: modelul a analizat studiile de imagistică, a generat un raport, iar radiologul a revizuit și a confirmat. Rezultatul așteptat a fost un timp de întoarcere mai rapid și mai puține erori.

În practică, radiologii experimentați au continuat să interpreteze fiecare studiu în sine înainte de a examina ieșirea modelului. Lucrul cu textul generat a necesitat adesea mai mult efort decât scrierea de la zero, deoarece nu a corespuns stilului lor de raportare. Procesul nu s-a accelerat și, în multe cazuri, a devenit mai lent. În unele cazuri, interacțiunea cu modelul a adăugat mai multă fricțiune decât valoare.

Comportamentul utilizatorilor a creat, de asemenea, riscuri. Când modelul a făcut o greșeală, radiologii experimentați au tendința să piardă încrederea și să înceteze să-l mai folosească. Medicii mai puțin experimentați au fost mai predispuși să se bazeze pe sistem, creșterea șanselor de a pierde din vedere erorile și de a crește expunerea clinică și juridică.

Aceste observații atrag atenția asupra unei probleme mai profunde. Îmbunătățirea instrumentelor individuale nu schimbă modul în care funcționează sistemul. Blocajul se află într-un flux de lucru construit în jurul unui singur radiolog care gestionează un studiu de la început până la sfârșit. Aceste constrângeri fac dificilă îmbunătățirea sistemului prin adăugarea de instrumente suplimentare.

La DICO, am abordat acest lucru diferit. În loc să adăugăm AI la fluxul de lucru existent, ne-am concentrat asupra structurii în sine. Cazurile pot fi divizate în părți, fiecare gestionat de specialistul relevant care lucrează direct cu datele de imagistică. Raportul final este asamblat din aceste intrări, cu AI care sprijină coordonarea. Diagnosticul, în acest model, nu mai este scris de o singură persoană — el este asamblat din multiple contribuții.

Acesta nu a fost un problemă de calitate a modelului. A fost o problemă de structură.

Reevaluarea sistemului de diagnostic

Radiologia modernă se bazează pe o singură presupunere. Un studiu, un radiolog. Acest lucru creează blocaje, variabilitate și limitează scalabilitatea. Problema principală nu este că modelele fac erori. Sistemul nu este proiectat să funcționeze cu ele. El este construit pe o fundație nelimitată.

Un instrument neliterativ este plasat într-un proces care depinde de iterare. În practica clinică, radiologia nu este o decizie unică. Studii arată că dezacordul între interpretările inițiale și cele de a doua ocazie apare în ~30% din cazuri, iar discrepanțele clinic semnificative pot afecta managementul în ~18-20% din cazuri. Opiniile de a doua ocazie nu sunt o excepție, ci o parte obișnuită a muncii de diagnostic.

Mai larg, în întreaga medicină, opiniile de a doua ocazie duc la o schimbare a diagnosticului în 10-62% din cazuri, în funcție de context.

Fără capacitatea de a reexamina, coordona și reevalua cu context, ieșirile modelului rămân statice, în timp ce diagnosticarea reală necesită ajustări continue.

Următorul pas nu este reprezentat de modele mai precise. Este o redesenare a sistemului de diagnostic.

Schimbarea este de la instrumente AI separate la o modalitate unificată de gestionare a diagnosticului — unde diagnosticul nu este o decizie unică, ci un proces care este dirijat și interpretat pe multiple etape. Limitarea nu este lipsa modelelor inteligente, ci absența unui sistem care poate coordona munca de diagnostic ca un proces.