Pourquoi les modèles d’IA ne résolvent pas les problèmes fondamentaux de la radiologie

La plupart des travaux d’IA en radiologie aujourd’hui sont axés sur les modèles diagnostiques. L’objectif est d’améliorer la précision en formant sur plus de données et en affinant les modèles. Cette approche traite la radiologie principalement comme une tâche de reconnaissance visuelle, où une meilleure détection est censée améliorer l’ensemble du système. À première vue, cela semble raisonnable : si la détection s’améliore, la qualité diagnostique devrait également s’améliorer. Cette vision ignore le problème principal.

Le problème fondamental en radiologie est la façon dont le diagnostic lui-même est structuré. Il ne s’agit pas d’une limitation de la reconnaissance de motifs, mais de la façon dont le travail est organisé et les décisions sont prises. Et l’amélioration des modèles ne résout pas ce problème. Ci-dessous, nous examinons pourquoi cela se produit et quels changements sont nécessaires au-delà de la précision des modèles.

Le problème est structurel

Les modèles de vision par ordinateur aident à reconnaître les motifs dans les images. Dans des études contrôlées, ils peuvent atteindre des performances comparables à celles des radiologues, avec un AUC souvent supérieur à 0,90 et, dans certains contextes de dépistage, égalant ou dépassant les performances des spécialistes. Dans de nombreux domaines, la capacité à détecter les résultats n’est plus la principale contrainte.

En même temps, ils ne fonctionnent qu’avec des données d’images. Ils mettent en évidence les résultats possibles, mais ne participent pas au processus diagnostique lui-même. Ils ne combinent pas différentes entrées en un seul diagnostic ou ne guident pas la façon dont les décisions sont prises. Dans de nombreux domaines, la capacité à détecter les résultats n’est plus la principale contrainte. Ils sont conçus pour reconnaître les motifs, et non pour participer au diagnostic en tant que processus.

En pratique, cela signifie que la structure ne change pas. Les radiologues restent responsables de l’examen des résultats et de la prise de décisions finales, et les sorties d’IA nécessitent souvent une vérification supplémentaire. La responsabilité reste avec le médecin. Le flux de travail ne change pas. Le goulet d’étranglement reste. Chaque étude est toujours attribuée à un seul radiologue qui est censé examiner, interpréter, valider et signaler. Des études montrent que les performances des cliniciens dépendent toujours fortement de la façon dont les erreurs d’IA sont gérées, et les sorties incorrectes peuvent affecter négativement la prise de décision.

Un modèle ne peut pas réexaminer sa propre décision. S’il fait une erreur, il n’y a pas de moyen de réexaminer l’affaire avec un contexte supplémentaire. Le résultat reste fixe, tandis que la véritable diagnostique nécessite un ajustement continu. Leurs sorties sont statiques, tandis que la raison clinique est inhérentement itérative.

En conséquence, les goulets d’étranglement restent, la variabilité persiste et le processus continue de dépendre d’un seul radiologue. À mesure que les volumes d’imagerie augmentent, un système construit autour d’un seul spécialiste par cas atteint inévitablement ses limites.

Une crise de confiance

L’IA en radiologie soulève également un problème de confiance.

Un radiologue ne remet pas seulement en question la sortie d’un modèle. Il remet en question le système derrière lui, en particulier lorsque l’IA est présentée comme un remplacement plutôt qu’un outil qu’il peut contrôler. La confiance dans le modèle est instable. Les médecins moins expérimentés peuvent s’appuyer trop sur lui et manquer des erreurs. Les médecins plus expérimentés, après une seule erreur, peuvent cesser de l’utiliser. Ces deux modèles — surestimation et désengagement — introduisent de nouveaux risques au lieu de réduire les risques existants.

Après une erreur, le modèle est souvent éliminé du processus de prise de décision. Il n’est plus utilisé comme outil, mais simplement ignoré. Cela brise la continuité et limite sa valeur pratique. En pratique, cela conduit à une utilisation incohérente plutôt qu’à une intégration stable dans le flux de travail.

Ceci reflète un conflit plus profond avec la façon dont la médecine fonctionne. Un radiologue ne peut pas transférer la responsabilité d’un diagnostic à un système. La responsabilité clinique et juridique reste avec le médecin. Traiter l’IA comme un substitut va à l’encontre de la structure de la pratique médicale.

Cela crée un conflit structurel où le modèle suggère mais le médecin doit vérifier. La reconnaissance peut être automatisée. La responsabilité ne peut pas l’être. Et tant que la responsabilité ne peut pas être transférée, chaque sortie de modèle doit être vérifiée, limitant sa capacité à réduire la charge de travail.

L’illusion d’efficacité

L’IA n’enlève pas de travail au radiologue. Elle ajoute une couche de contrôle. Le médecin interprète toujours l’étude et doit également vérifier la sortie du modèle. Cela crée un double travail au lieu d’économiser du temps. Au lieu d’éliminer l’effort, l’IA redistribue souvent l’effort dans des étapes supplémentaires de validation et de correction.

Le système peut sembler plus rapide, mais en pratique, le temps se déplace dans des vérifications supplémentaires plutôt que d’être réduit. Au fil du temps, cette accumulation d’outils augmente les coûts opérationnels sans améliorer fondamentalement la façon dont le diagnostic est produit.

L’IA introduit également la fragmentation. La plupart des modèles sont conçus pour une tâche étroite : une région anatomique, une modalité ou une pathologie unique. Pour couvrir les besoins cliniques réels, une clinique doit utiliser plusieurs modèles. Au lieu d’un système unifié, cela conduit à un ensemble fragmenté d’outils.

Chaque modèle apporte son propre interface, son intégration et ses exigences de maintenance. Cela augmente la complexité du système et ajoute des points d’interaction.

En conséquence, le système devient plus difficile à gérer, tandis que le processus diagnostique fondamental reste inchangé.

Les limites de la mise à l’échelle de l’IA

Avec chaque nouvelle version d’un modèle, la confiance doit être reconstruite. Le flux de travail commence à s’adapter au modèle, au lieu de soutenir le médecin. Cela déplace davantage l’attention de l’amélioration du système lui-même vers l’adaptation à des outils individuels.

Ceci est rendu plus difficile par la focalisation étroite de la plupart des modèles. Chacun est conçu pour une tâche ou une région anatomique spécifique. En pratique, cela signifie qu’une clinique a besoin de plusieurs modèles à la fois, chacun avec ses propres contraintes, intégrations et coûts. Le système devient plus difficile à exploiter.

En même temps, il devient clair où l’IA a le plus d’impact aujourd’hui. Non pas dans l’interprétation des images, mais dans l’amélioration du système qui les entoure — acheminer les études, gérer les files d’attente, attribuer les cas au spécialiste approprié et prévoir la charge de travail. Ces domaines bénéficient de la coordination plutôt que de la prédiction isolée.

Ce qui s’est passé en pratique

Dans notre réseau de cliniques, avec plus d’un million d’études d’IRM et de CT réalisées chaque année dans plus de 40 cliniques de trois pays, nous avons mis en œuvre plusieurs modèles d’IA, y compris des solutions approuvées par la FDA. La configuration était simple : le modèle analysait les études d’imagerie, générant un rapport, et le radiologue examinait et confirmait. Le résultat attendu était un délai de réponse plus rapide et moins d’erreurs.

En pratique, les radiologues expérimentés ont continué à interpréter chaque étude eux-mêmes avant d’examiner la sortie du modèle. Travailler avec du texte généré a souvent pris plus d’effort que d’écrire à partir de zéro, car il ne correspondait pas à leur style de rapport. Le processus n’a pas accéléré et, dans de nombreux cas, est devenu plus lent. Dans certains cas, l’interaction avec le modèle a ajouté plus de friction que de valeur.

Le comportement des utilisateurs a également créé des risques. Lorsque le modèle faisait une erreur, les radiologues expérimentés avaient tendance à perdre confiance et à cesser de l’utiliser. Les médecins moins expérimentés étaient plus susceptibles de s’appuyer sur le système, augmentant le risque d’erreurs manquées et d’exposition clinique et juridique connexe.

Ces observations pointent vers un problème plus profond. L’amélioration des outils individuels ne change pas la façon dont le système fonctionne. Le goulet d’étranglement se trouve dans un flux de travail construit autour d’un seul radiologue gérant une étude de début à fin. Ces contraintes rendent difficile l’amélioration du système en ajoutant simplement plus d’outils.

Chez DICO, nous avons abordé cela différemment. Au lieu d’ajouter l’IA au flux de travail existant, nous nous sommes concentrés sur la structure elle-même. Les cas peuvent être divisés en parties, avec chaque partie gérée par le spécialiste pertinent travaillant directement dans les données d’imagerie. Le rapport final est assemblé à partir de ces entrées, avec l’IA soutenant la coordination. Le diagnostic, dans ce modèle, n’est plus écrit par une seule personne — il est assemblé à partir de plusieurs contributions.

Ces problèmes n’étaient pas liés à la qualité du modèle. Ils étaient liés à la structure.

Repenser le système diagnostique

La radiologie moderne est construite sur une hypothèse unique. Une étude, un radiologue. Cela crée des goulets d’étranglement, une variabilité et des limites de mise à l’échelle. Le problème principal n’est pas que les modèles font des erreurs. Le système n’est pas conçu pour fonctionner avec eux. Il est construit sur une fondation non évolutivaire.

Un outil non itératif est placé dans un processus qui dépend de l’itération. En pratique clinique, la radiologie n’est pas une décision unique. Les études montrent que les désaccords entre les interprétations initiales et secondaires se produisent dans environ 30 % des cas, et les discordances cliniquement significatives peuvent affecter la gestion dans environ 18-20 % des cas. Les secondes opinions ne sont pas une exception, mais une partie routinière du travail diagnostique.

Plus largement, à travers la médecine, les secondes opinions conduisent à un changement de diagnostic dans 10-62 % des cas, selon le contexte.

Sans la capacité de réviser, de coordonner et de réévaluer avec un contexte, les sorties de modèle restent statiques, tandis que la véritable diagnostique nécessite un ajustement continu.

La prochaine étape n’est pas des modèles plus précis. C’est une refonte du système diagnostique.

Le déplacement est de passer d’outils d’IA distincts à une façon unifiée de gérer les diagnostics — où le diagnostic n’est pas une décision unique, mais un processus qui est acheminé et interprété à travers plusieurs étapes. La limitation n’est pas le manque de modèles intelligents, mais l’absence d’un système qui peut coordonner le travail diagnostique en tant que processus.