Les difficultés de l’IA pour distinguer la gauche de la droite dans les scans médicaux

Une nouvelle étude révèle que les modèles d’images d’IA tels que ChatGPT peuvent mal interpréter l’anatomie retournée ou tournée, augmentant le risque d’erreurs dangereuses dans le diagnostic, avec des tests indiquant qu’ils échouent souvent à la raison spatiale de base dans les scans médicaux – devinant où les organes devraient être, plutôt que de vraiment regarder l’image. Peut-être plus intéressant, la recherche démontre que ces modèles peuvent ne pas lire vos PDF téléchargés ou regarder vos images du tout.

Quiconque a déjà régulièrement téléchargé des données, telles que du contenu PDF, sur un modèle de langage leader comme ChatGPT sait que les LLM ne lisent pas toujours nécessairement ou n’examinent pas ce que vous leur présentez; ils font plutôt des hypothèses sur le matériel, basées sur ce que vous avez écrit à son sujet dans votre invite lorsque vous l’avez téléchargé.

Il peut être difficile de faire admettre à un modèle de langage qu’il n’a pas vraiment examiné le contenu que vous lui avez présenté, mais qu’il a basé sa réponse sur des connaissances antérieures, des métadonnées ou des hypothèses générales. Source: https://chatgpt.com

L’une des raisons possibles est d’augmenter la vitesse de la réponse en considérant le matériel téléchargé comme “redondant” et en s’appuyant sur l’invite de texte pour puiser dans les connaissances antérieures du système – en évitant ainsi le téléchargement et en minimisant le trafic réseau.

Une autre raison est la conservation des ressources (bien que les fournisseurs semblent peu susceptibles de divulguer cela, si c’est vrai), où les métadonnées existantes que le LLM a extraites de échanges antérieurs dans la conversation sont utilisées comme base pour les réponses ultérieures, même lorsque ces échanges et ces métadonnées ne contiennent pas suffisamment d’informations pour servir cet objectif.

Gauche. Droite?

Quelle que soit la raison de l’attention variable et des capacités de concentration de la génération actuelle de LLM, il y a des situations et des contextes dans lesquels deviner est extrêmement dangereux. L’un de ces contextes est lorsque l’IA en question est chargée de fournir des services médicaux tels que le dépistage ou l’estimation des risques de matériel radiologique.

Cette semaine, des chercheurs d’Allemagne et des États-Unis ont publié une nouvelle étude examinant l’efficacité de quatre modèles de vision-langage de pointe, y compris ChatGPT-4o, lorsqu’on leur demande d’identifier l’emplacement des organes dans les scans médicaux.

Étonnamment, malgré le fait qu’ils représentent l’état de l’art à cet égard, les modèles de base n’obtiennent pas un taux de réussite supérieur à celui du hasard la plupart du temps – apparemment parce qu’ils sont incapables de détacher leurs connaissances anatomiques acquises de manière adéquate et de regarder réellement les images qui leur sont présentées, au lieu de se fier à une connaissance antérieure facilement accessible dans leurs données de formation.

Les chercheurs ont constaté que les LLM testés ont obtenu de meilleurs résultats lorsque les sections à considérer étaient indiquées par d’autres indicateurs (tels que des points et des séquences alphanumériques) ainsi que nommées – et mieux encore lorsque aucune mention d’organes ou d’anatomie n’était incluse dans la requête du tout:

Niveaux de réussite variables, augmentant à mesure que la capacité du modèle à recourir à des données formées est diminuée, et qu’il est forcé de se concentrer sur les données devant lui. Source: https://wolfda95.github.io/your_other_left/

Le document observe*:

‘Les VLM d’état de l’art possèdent déjà des connaissances anatomiques antérieures fortes intégrées dans leurs composants linguistiques. En d’autres termes, ils “savent” où les structures anatomiques sont généralement situées dans l’anatomie humaine standard.

‘Nous supposons que les VLM se basent souvent sur ces connaissances antérieures pour répondre, plutôt que d’analyser le contenu réel de l’image. Par exemple, lorsqu’on leur demande si le foie est à droite de l’estomac, un modèle peut répondre par l’affirmative sans inspecter l’image, en s’appuyant uniquement sur la norme apprise selon laquelle le foie est généralement situé à droite de l’estomac.

‘Un tel comportement pourrait conduire à des diagnostics critiques erronés dans les cas où les positions réelles s’écartent des modèles anatomiques typiques, tels que dans situs inversus, les modifications post-chirurgicales ou le déplacement des tumeurs.’

Afin de pallier le problème dans les efforts futurs, les auteurs ont développé un ensemble de données conçu pour aborder ce problème.

Les résultats de l’étude peuvent surprendre de nombreux lecteurs qui ont suivi le développement de l’IA médicale, dans la mesure où la radiographie a été dès le départ considérée comme l’un des métiers les plus susceptibles d’être automatisés par l’apprentissage automatique.

Le nouveau travail s’intitule Votre autre gauche! Les modèles de vision-langage échouent à identifier les positions relatives dans les images médicales, et provient de sept chercheurs issus de deux facultés de l’Université d’Ulm, et d’Axiom Bio aux États-Unis.

Méthode et données

Les chercheurs ont cherché à répondre à quatre questions: les modèles de vision-langage d’état de l’art peuvent-ils déterminer correctement les positions relatives dans les images radiologiques; l’utilisation de marqueurs visuels améliore-t-elle leur performance dans cette tâche; s’appuient-ils davantage sur les connaissances anatomiques antérieures que sur le contenu réel de l’image; et comment gèrent-ils les tâches de positionnement relatif lorsqu’elles sont privées de tout contexte médical?

À cette fin, ils ont créé l’ensemble de données Positionnement relatif d’imagerie médicale (MIRP)

Bien que la plupart des benchmarks de questions visuelles existants pour les tranches de CT ou de MRI incluent des tâches d’anatomie et de localisation, ces anciennes collections ignorent le défi fondamental de la détermination des positions relatives, laissant de nombreuses tâches résolubles en utilisant uniquement des connaissances médicales antérieures.

MIRP est conçu pour remédier à cela en testant des questions de position relative entre les structures anatomiques, en évaluant l’impact des marqueurs visuels et en appliquant des rotations et des retournements aléatoires pour bloquer la dépendance à l’égard des normes apprises. L’ensemble de données se concentre sur les tranches de CT abdominales, en raison de leur complexité et de leur prévalence en radiologie.

MIRP contient un nombre égal de oui et de non réponses, avec les structures anatomiques dans chaque question facultativement marquées pour plus de clarté.

Trois types de marqueurs visuels ont été testés: des nombres noirs dans une boîte blanche; des lettres noires dans une boîte blanche; et un point rouge et un point bleu:

Les différents marqueurs visuels utilisés dans MIRP. Source: https://arxiv.org/pdf/2508.00549

L’ensemble de données a été extrait de l’ensemble de données existant Au-delà de la voûte crânienne (BTCV) et Segmentation multi-organes abdominaux (AMOS)

Tranches annotées de l’ensemble de données AMOS. Source: https://arxiv.org/pdf/2206.08023

Le projet TotalSegmentator a été utilisé pour extraire des images plates anatomiques à partir de données volumétriques:

Certaines des 104 structures anatomiques disponibles dans TotalSegmentator. Source: https://arxiv.org/pdf/2208.05868

Des tranches d’images axiales ont ensuite été obtenues avec le cadre SimpleITK

Les emplacements d’images de “défi” devaient être au moins 50px éloignés les uns des autres et avoir une taille au moins double celle des marqueurs, afin de générer des paires de questions/réponses.

Tests

Les quatre modèles de vision-langage testés étaient GPT-4o; Llama3.2; Pixtral; et le JanusPro de DeepSeek.

Les chercheurs ont testé chacune de leurs quatre questions de recherche à tour de rôle, la première (Q1) étant ‘Les VLM actuels de pointe peuvent-ils déterminer avec précision les positions relatives dans les images radiologiques? Pour cette enquête, les chercheurs ont testé les modèles sur des tranches de CT simples, tournées ou retournées, en utilisant un format de question standard, tel que Le rein gauche est-il en dessous de l’estomac?

Les résultats (présentés ci-dessous) ont montré des précisions proches de 50 pour cent pour tous les modèles, indiquant des performances au niveau du hasard et une incapacité à juger de manière fiable les positions relatives sans marqueurs visuels:

Précision moyenne pour toutes les expériences utilisant l’évaluation basée sur l’image du référentiel MIRP (RQ1–RQ3) et l’ensemble de données d’ablation (AS).

Pour tester si les marqueurs visuels pouvaient aider les modèles de vision-langage à déterminer les positions relatives dans les images radiologiques, l’étude a répété les expériences en utilisant des tranches de CT annotées avec des lettres, des nombres ou des points rouges et bleus; et ici, le format de question a été ajusté pour référencer ces marqueurs – par exemple, Le rein gauche (A) est-il en dessous de l’estomac (B)? ou Le rein gauche (rouge) est-il en dessous de l’estomac (bleu)?

Les résultats ont montré de petits gains de précision pour GPT-4o et Pixtral lors de l’utilisation de marqueurs de lettres ou de nombres, tandis que JanusPro et Llama3.2 n’ont vu que peu ou pas de bénéfice, suggérant que les marqueurs seuls peuvent ne pas être suffisants pour améliorer de manière significative les performances.

Précision pour toutes les expériences utilisant l’évaluation basée sur l’image. Pour RQ2, RQ3 et AS, les résultats sont présentés avec le type de marqueur le plus performant pour chaque modèle: des lettres pour GPT-4o, et des points rouges et bleus pour Pixtral, JanusPro et Llama3.4.

Pour aborder la troisième question, Les VLM donnent-ils la priorité aux connaissances anatomiques antérieures plutôt qu’aux informations visuelles lors de la détermination des positions relatives dans les images radiologiques?, les auteurs ont examiné si les modèles de vision-langage se basent davantage sur les connaissances anatomiques antérieures que sur les preuves visuelles lors de la détermination des positions relatives dans les images radiologiques.

Lorsqu’ils ont été testés sur des tranches de CT tournées ou retournées, GPT-4o et Pixtral ont souvent produit des réponses cohérentes avec les positions anatomiques standard, plutôt que de refléter ce qui est montré dans l’image, avec GPT-4o atteignant plus de 75 pour cent de précision dans l’évaluation basée sur l’anatomie, mais seulement des performances au niveau du hasard dans l’évaluation basée sur l’image.

La suppression des termes anatomiques des invites et l’utilisation de marqueurs visuels uniquement ont forcé les modèles à dépendre du contenu de l’image, entraînant des gains marqués, avec GPT-4o dépassant 85 pour cent de précision avec des marqueurs de lettres, et Pixtral plus de 75 pour cent avec des points.

Une comparaison des quatre modèles de vision-langage pour déterminer les positions relatives des structures anatomiques dans les images médicales – une exigence clé pour une utilisation clinique. Les performances sont au niveau du hasard avec des images planes (RQ1) et montrent seulement de petits gains avec des marqueurs visuels (RQ2). Lorsque les noms anatomiques sont supprimés et que les modèles doivent s’appuyer entièrement sur les marqueurs, GPT-4o et Pixtral réalisent des améliorations significatives de précision (RQ3). Les résultats sont présentés en utilisant le type de marqueur le plus performant pour chaque modèle.

Cela suggère que même si les deux peuvent effectuer la tâche en utilisant des données d’image, ils ont tendance à recourir à des connaissances anatomiques antérieures lorsqu’ils sont donnés des noms anatomiques – un modèle qui n’est pas clairement observé chez JanusPro ou Llama3.2.

Bien que nous ne couvrons généralement pas les études d’ablation, les auteurs ont abordé la quatrième et dernière question de recherche de cette manière. Par conséquent, pour tester la capacité de positionnement relatif sans aucun contexte médical, l’étude a utilisé des images blanches planes avec des marqueurs placés aléatoirement et a posé des questions simples telles que Le numéro 1 est-il au-dessus du numéro 2? Pixtral a montré des résultats améliorés avec des marqueurs de points, tandis que les autres modèles ont obtenu des résultats similaires à leurs scores RQ3.

JanusPro, et en particulier Llama3.2, ont eu du mal même dans ce contexte simplifié, indiquant des faiblesses sous-jacentes dans le positionnement relatif qui ne sont pas limitées aux images médicales.

Les auteurs observent que GPT-4o a obtenu les meilleurs résultats avec des marqueurs de lettres, tandis que Pixtral, JanusPro et Llama3.2 ont obtenu de meilleurs scores avec des points rouges et bleus. GPT-4o a été le modèle le plus performant, avec Pixtral en tête des modèles open-source.

Conclusion

Sur une note personnelle, cet article m’a intéressé non pas tant pour son importance médicale, mais parce qu’il met en évidence l’une des carences les plus sous-estimées et fondamentales des LLM actuels – le fait que, si la tâche peut être évitée, et à moins que vous ne présentiez votre matériel soigneusement, ils ne liront pas les textes que vous téléchargez ou n’examineront pas les images que vous leur présentez.

En outre, l’étude indique que si votre invite de texte explique en quelque sorte le matériel secondaire soumis, l’IA tendra à le traiter comme un exemple “téléologique” et supposera/assumera de nombreuses choses à son sujet sur la base de connaissances antérieures, au lieu d’étudier et de considérer ce que vous avez soumis.

En effet, à l’état actuel des choses, les VLM auront de grandes difficultés à identifier le “matériel aberrant” – l’une des compétences les plus essentielles en médecine diagnostique. Même si il est possible d’inverser la logique et de faire en sorte qu’un système recherche des outliers au lieu de résultats dans la distribution, le modèle aurait besoin d’une curation exceptionnelle pour éviter de submerger le signal avec des exemples non pertinents ou erronés.

* Les citations en ligne sont omises, car il n’y a pas de moyen élégant de les inclure sous forme de liens hypertexte. Veuillez vous référer au document source.

Publié pour la première fois le lundi 4 août 2025