Perché i modelli di intelligenza artificiale non risolvono i problemi fondamentali della radiologia

La maggior parte del lavoro svolto con l’intelligenza artificiale nella radiologia oggi si concentra sui modelli diagnostici. L’obiettivo è migliorare l’accuratezza formando su più dati e raffinando i modelli. Questo approccio tratta la radiologia principalmente come un compito di riconoscimento visivo, dove una migliore rilevazione dovrebbe migliorare l’intero sistema. A prima vista, questo sembra ragionevole: se la rilevazione migliora, la qualità diagnostica dovrebbe migliorare anch’essa. Questa visione perde di vista il problema principale.

Il problema fondamentale nella radiologia è come la diagnosi stessa è strutturata. Non è una limitazione del riconoscimento di pattern, ma di come il lavoro è organizzato e le decisioni sono prodotte. E migliorare i modelli non risolve questo problema. Di seguito, esaminiamo perché questo accade e cosa è necessario cambiare al di là dell’accuratezza del modello.

Il problema è strutturale

I modelli di computer vision aiutano nel riconoscimento di pattern nelle immagini. In studi controllati, possono raggiungere prestazioni paragonabili a quelle dei radiologi, con AUC spesso sopra 0,90 e, in alcuni contesti di screening, che eguagliano o superano le prestazioni degli specialisti. In molti domini, la capacità di rilevare reperti non è più il principale vincolo.

Allo stesso tempo, funzionano solo con dati di immagini. Evidenziano possibili reperti, ma non partecipano al processo diagnostico stesso. Non combinano diversi input in una singola diagnosi o guidano come le decisioni sono prese. In molti domini, la capacità di rilevare reperti non è più il principale vincolo. Sono progettati per riconoscere pattern, non per partecipare alla diagnosi come processo.

Nella pratica, ciò significa che la struttura non cambia. I radiologi rimangono responsabili della revisione dei risultati e della presa di decisioni finali, e gli output dell’AI spesso richiedono ulteriore verifica. La responsabilità rimane con il medico. Il flusso di lavoro non cambia. Il collo di bottiglia rimane. Ogni studio è ancora assegnato a un singolo radiologo che è atteso a revisionare, interpretare, convalidare e segnalare. Gli studi mostrano che le prestazioni del clinico dipendono ancora fortemente da come gli errori dell’AI sono gestiti, e gli output errati possono influenzare negativamente la presa di decisioni.

Un modello non può rivedere la propria decisione. Se commette un errore, non c’è modo di riconsiderare il caso con ulteriore contesto. Il risultato rimane fisso, mentre la diagnostica reale richiede un continuo adattamento. I loro output sono statici, mentre il ragionamento clinico è intrinsecamente iterativo.

Ciò comporta che i collo di bottiglia rimangano, la variabilità persista e il processo continui a dipendere da un singolo radiologo. Man mano che i volumi di imaging crescono, un sistema costruito intorno a uno specialista per caso inevitabilmente raggiunge i suoi limiti.

Una crisi di fiducia

L’AI nella radiologia solleva anche un problema di fiducia.

Un radiologo non mette in discussione solo l’output di un modello. Mette in discussione il sistema dietro di esso, soprattutto quando l’AI è presentata come un sostituto piuttosto che come uno strumento che possono controllare. La fiducia nel modello è instabile. I medici meno esperti possono affidarsi troppo a esso e perdere gli errori. Quelli più esperti, dopo un solo errore, possono smettere di utilizzarlo. Questi due modelli — eccessiva dipendenza e disimpegno — introducono entrambi nuovi rischi invece di ridurli.

Dopo un errore, il modello spesso esce dal processo decisionale. Non viene più utilizzato come strumento, ma semplicemente ignorato. Ciò interrompe la continuità e limita il suo valore pratico. Nella pratica, ciò porta a un utilizzo inconsistente piuttosto che a una stabile integrazione nel flusso di lavoro.

Ciò riflette un conflitto più profondo con il modo in cui funziona la medicina. Un radiologo non può trasferire la responsabilità per una diagnosi a un sistema. La responsabilità clinica e legale rimane con il medico. Trattare l’AI come un sostituto va contro la struttura della pratica medica.

Ciò crea un conflitto strutturale in cui il modello suggerisce ma il medico deve verificare. Il riconoscimento può essere automatizzato. La responsabilità non può essere trasferita. E finché la responsabilità non può essere trasferita, ogni output del modello deve essere verificato, limitando la sua capacità di ridurre il carico di lavoro.

L’illusione dell’efficienza

L’AI non rimuove il lavoro dal radiologo. Aggiunge uno strato di controllo. Il medico deve ancora interpretare lo studio e anche verificare l’output del modello. Ciò crea un doppio lavoro invece di risparmiare tempo. Invece di eliminare lo sforzo, l’AI spesso ridistribuisce lo sforzo in ulteriori passaggi di convalida e correzione.

Il sistema può sembrare più veloce, ma nella pratica il tempo si sposta in ulteriori controlli piuttosto che essere ridotto. Nel tempo, questo accumulo di strumenti aumenta l’onere operativo senza migliorare fondamentalmente come la diagnosi è prodotta.

L’AI introduce anche la frammentazione. La maggior parte dei modelli è costruita per un compito ristretto: una singola regione anatomica, modalità o patologia. Per coprire le esigenze cliniche reali, una clinica deve utilizzare più modelli. Invece di un sistema unificato, ciò porta a un insieme frammentato di strumenti.

Ogni modello porta la sua interfaccia, integrazione e requisiti di manutenzione. Ciò aumenta la complessità del sistema e aggiunge più punti di interazione.

Ciò comporta che il sistema diventi più difficile da gestire, mentre il processo diagnostico fondamentale rimane invariato.

I limiti della scalabilità dell’AI

Con ogni nuova versione di un modello, la fiducia deve essere ricostruita. Il flusso di lavoro inizia ad adattarsi al modello, invece di supportare il medico. Ciò sposta ulteriormente l’attenzione lontano dal miglioramento del sistema stesso verso l’adattamento a singoli strumenti.

Ciò è reso più difficile dalla stretta focalizzazione della maggior parte dei modelli. Ognuno è progettato per un compito specifico o una regione anatomica specifica. Nella pratica, ciò significa che una clinica ha bisogno di più modelli contemporaneamente, ognuno con le sue limitazioni, integrazioni e costi. Il sistema diventa più difficile da operare.

Allo stesso tempo, diventa chiaro dove l’AI ha il maggior impatto oggi. Non nell’interpretazione delle immagini, ma nel miglioramento del sistema intorno ad esso — instradando gli studi, gestendo le code, assegnando i casi allo specialista giusto e prevedendo il carico di lavoro. Queste aree traggono beneficio dalla coordinazione piuttosto che dalla previsione isolata.

Cosa è successo nella pratica

Nella nostra rete di cliniche, con oltre un milione di studi MRI e TC eseguiti ogni anno in oltre 40 cliniche in tre paesi, abbiamo implementato diversi modelli di AI, comprese soluzioni approvate dalla FDA. L’allestimento era semplice: il modello analizzava gli studi di imaging, generava una relazione e il radiologo revisionava e confermava. L’esito atteso era un tempo di risposta più veloce e meno errori.

Nella pratica, i radiologi esperti hanno continuato a interpretare ogni studio di persona prima di guardare l’output del modello. Lavorare con testo generato spesso richiedeva più sforzo che scrivere da zero, poiché non corrispondeva al loro stile di relazione. Il processo non si è velocizzato e in molti casi è diventato più lento. In alcuni casi, l’interazione con il modello ha aggiunto più attrito che valore.

Il comportamento degli utenti ha anche creato un rischio. Quando il modello commetteva un errore, i radiologi esperti tendevano a perdere fiducia e smettere di utilizzarlo. I medici meno esperti erano più propensi ad affidarsi al sistema, aumentando la possibilità di errori mancati e relative esposizioni cliniche e legali.

Queste osservazioni puntano a un problema più profondo. Migliorare gli strumenti individuali non cambia il modo in cui funziona il sistema. Il collo di bottiglia si trova in un flusso di lavoro costruito intorno a un singolo radiologo che gestisce uno studio dall’inizio alla fine. Queste limitazioni rendono difficile migliorare il sistema aggiungendo solo più strumenti.

Presso DICO, abbiamo affrontato questo problema in modo diverso. Invece di aggiungere l’AI al flusso di lavoro esistente, ci siamo concentrati sulla struttura stessa. I casi possono essere suddivisi in parti, con ogni parte gestita dallo specialista rilevante che lavora direttamente all’interno dei dati di imaging. La relazione finale è assemblata da questi input, con l’AI che supporta la coordinazione. La diagnosi, in questo modello, non è più scritta da una sola persona — è assemblata da più contributi.

Questi non erano problemi di qualità del modello. Erano problemi di struttura.

Ripensare il sistema diagnostico

La radiologia moderna si basa su un’unica assunzione. Uno studio, un radiologo. Ciò crea collo di bottiglia, variabilità e limiti di scalabilità. Il problema principale non è che i modelli commettono errori. Il sistema non è costruito per lavorare con essi. È costruito su una base non scalabile.

Uno strumento non iterativo è inserito in un processo che dipende dall’iterazione. Nella pratica clinica, la radiologia non è una decisione a singola passata. Gli studi mostrano che il disaccordo tra le interpretazioni iniziali e quelle di seconda istanza si verifica nel ~30% dei casi, e le discordanze clinicamente significative possono influenzare la gestione nel ~18-20% dei casi. Le seconde opinioni non sono un’eccezione, ma una parte routinaria del lavoro diagnostico.

Più in generale, in tutta la medicina, le seconde opinioni portano a un cambiamento di diagnosi nel 10-62% dei casi, a seconda del contesto.

Senza la capacità di rivedere, coordinare e rivalutare con contesto, gli output del modello rimangono statici, mentre la diagnostica reale richiede un continuo adattamento.

Il prossimo passo non è quello di avere modelli più precisi. È una ridisegnazione del sistema diagnostico.

Il passaggio è da strumenti AI separati a un modo unificato di gestire la diagnostica — dove la diagnosi non è una singola decisione, ma un processo che è instradato e interpretato attraverso più passaggi. La limitazione non è la mancanza di modelli intelligenti, ma l’assenza di un sistema che possa coordinare il lavoro diagnostico come un processo.