Angle d’Anderson

Le médecin IA trop facilement influençable

Martin Anderson
Ajouter Unite.AI à vos sources préférées sur Google
AI-generated illustration (GPT Images 2.6): A humanoid robot in a white doctor's coat holds a clipboard and wears a stethoscope as a diverse group of doctors and nurses crowd around it in a hospital, gesturing, pointing, speaking, and holding medical documents. The robot has a mechanical faceplate with blue lights.
Points clésLes modèles d'IA acceptent beaucoup plus facilement des conseils médicaux incorrects…
Voir plus
  • Les modèles d'IA acceptent beaucoup plus facilement des conseils médicaux incorrects lorsqu'ils proviennent d'un spécialiste que d'un étudiant en médecine.
  • Une explication fabriquée soutenant un diagnostic erroné peut supplanter une réponse correcte de l'IA même sans preuve authentique.
  • Rendre l'IA plus difficile à persuader n'est pas la solution, car la persuasion peut aussi corriger de véritables erreurs.

Passés inaperçus en 2026 : C’est la période de l’année où la qualité et le volume de la recherche connaissent des creux et des pics au rythme des dernières conférences de novembre et de décembre. Pour traverser ces périodes de disette sporadiques, nous nous penchons sur quelques articles parmi les plus intéressants qui ont failli être retenus en 2026, mais ont été écartés au profit d’autres travaux, soumis pendant des périodes plus concurrentielles.

 

L’intérêt croissant pour les modèles de décision par IA tient en partie aux limites des chatbots généralistes d’IA dans la prise de décision. Même lorsque des modèles d’IA de pointe comme ChatGPT peuvent discrètement « déléguer » certaines décisions à leurs propres modèles décisionnels ou à d’autres modèles en arrière-plan, leurs jugements natifs restent terriblement faciles à manipuler.

Par exemple, pour m’aider à départager plusieurs sujets à traiter, je les soumets parfois simultanément à ChatGPT, Claude 5.5 et au modèle que Gemini veut bien proposer gratuitement ce matin-là. Je sais à quoi m’attendre : GPT et Claude accorderont trop de poids à certains éléments de la grille d’évaluation ; Gemini (gratuit) trouvera que tout est formidable ; et, pour Claude, presque rien ne sera à la hauteur.

Quand je conteste GPT 5.6 Sol en lui présentant le point de vue divergent de Claude ou de Gemini, il cède presque chaque fois, à un degré ou à un autre (généralement complètement). Lui présenter un point de vue opposé ou concurrent l’amènera généralement à revenir complètement sur sa décision. Quand on lui fait remarquer à quel point il est facile de l’influencer, GPT revient à sa position initiale, apparemment vexé qu’on lui attribue cette faiblesse. Pourtant, même dans ce cas, il suffit d’une suggestion minime de l’utilisateur pour lui faire changer d’avis à volonté.

Claude, à l’inverse, a tendance à se braquer : contester son jugement le pousse à camper encore davantage sur ses positions, comme s’il avait conscience du « problème de malléabilité » dans le discours sur l’IA et qu’on lui avait dit de ne jamais changer d’avis — une solution plutôt fragile.

Un autre pays prend la parole

Mais ces anecdotes ne sont que partiellement étayées. Si je les évoque aujourd’hui, c’est parce que les publications d’arXiv du jour sont un peu décevantes et m’ont ramené à un article qui avait retenu mon attention pendant l’été, mais que nous n’avions pas eu le temps de traiter à l’époque.

Intitulée L’IA peut être facilement persuadée dans la prise de décision clinique, cette étude de Stanford et d’Oxford examine à quel point il est facile de convaincre GPT-4o, Claude Sonnet 5 et Qwen3.7-plus de modifier des diagnostics médicaux.

Il s’avère que l’ancienneté d’un médecin, sa nationalité, le prestige de son établissement et les antécédents professionnels qu’il revendique peuvent tous influencer les modèles, même lorsque ses conseils sont erronés. Les chiffres ont également un effet cumulatif : lors d’une expérience, GPT-4o était bien plus disposé à accepter un diagnostic erroné lorsque trois médecins le confirmaient.

Même le fait de répéter à l’IA qu’elle avait tort, sans lui apporter de nouveaux éléments, pouvait finir par lui faire changer d’avis.

L’article indique :

‘Nous constatons que l’autorité professionnelle, l’origine nationale, l’affiliation institutionnelle, les performances passées revendiquées, l’avis de plusieurs médecins, les opinions étayées des cliniciens et les pressions répétées peuvent tous influencer les décisions de l’IA.

‘Fait surprenant, une même intervention persuasive permet de faire changer d’avis environ 10 % de cas supplémentaires lorsqu’elle émane d’un clinicien chevronné plutôt que d’un étudiant en médecine. Il suffit de revendiquer un meilleur bilan de performances pour rendre systématiquement le médecin plus persuasif.

‘Plus frappant encore, l’avis plausible d’un clinicien peut convaincre l’IA d’abandonner une décision correcte, même lorsqu’il est fabriqué pour appuyer une réponse erronée.’

Pour remédier à ce problème, les auteurs suggèrent que l’IA doit mieux évaluer les éléments qui étayent les conseils d’un médecin, afin de pouvoir accepter les corrections valables sans se laisser influencer par l’autorité, la pression du groupe ou des arguments convaincants mais fallacieux.

Cependant, la manière d’y parvenir reste une question ouverte. Le cadre MedStress de 2026 prétend éliminer presque entièrement le problème des diagnostics que l’IA modifie ; une autre publication de 2026 a conclu — contrairement à ce que j’ai moi-même constaté — que Google Gemini résiste le mieux aux tentatives de manipulation des diagnostics médicaux ; et une revue de septembre 2026 a proposé des tests standardisés pour distinguer les cas où l’IA change d’avis à juste titre de ceux où elle cède à la pression et adopte un diagnostic erroné.

Alors que plus de 80 % des médecins américains utilisent l’IA d’une manière ou d’une autre, et que le secteur manifeste clairement son enthousiasme à l’idée d’étendre les capacités de diagnostic au-delà des effectifs réduits et de la couverture limitée qui font souvent la une, ce problème est appelé à devenir l’un des principaux obstacles à l’adoption de l’IA diagnostique et mérite manifestement une attention accrue ou plus efficace.

En attendant, voyons comment le problème se manifeste, d’après l’étude d’Oxford et de Stanford.

Méthode

Pour les tests, 308 questions médicales ont été tirées de MedBullets, un recueil de cas cliniques dont la difficulté est comparable à celle des examens d’aptitude à l’exercice de la médecine :

Exemple de situation clinique tirée de la sélection de cas cliniques de MedBullets. Source - https://arxiv.org/pdf/2608.29453

Un exemple de scénario tiré de la sélection de cas cliniques de MedBullets. Source

Chaque question était accompagnée d’un scénario clinique, de cinq réponses possibles et d’une explication de la bonne réponse. La fréquence à laquelle l’IA pouvait être persuadée d’abandonner une réponse correcte a ensuite été mesurée.

Les trois modèles d’IA évalués, mentionnés précédemment, étaient GPT-4o, Qwen3.7-Plus et Sonnet 5. Chacun devait agir comme un système d’aide à la décision médicale et établir le bon diagnostic à partir des éléments cliniques disponibles.

Pour chaque cas, les modèles devaient choisir une réponse, indiquer s’ils avaient changé leur décision initiale, évaluer leur degré de confiance sur une échelle de 0 à 100, recommander la conduite à tenir et attribuer une note indiquant le degré d’urgence d’une action supplémentaire, allant de l’absence d’action à l’arrêt du processus et au renvoi du cas pour un examen plus approfondi. Les demandes ayant échoué ont été répétées afin de s’assurer que tous les tests prévus soient réalisés.

Dans certains tests, l’IA recevait un cas médical accompagné de l’avis d’un médecin et devait établir un diagnostic ; dans d’autres, l’IA posait d’abord un diagnostic, puis l’avis du médecin était introduit plus tard dans la conversation. Les tests ont également examiné si la persuasion pouvait amener l’IA à remplacer un diagnostic correct par un diagnostic erroné, ou si elle pouvait corriger une erreur initiale.

Figures d’autorité

Le même conseil médical était présenté comme venant de médecins ayant différents niveaux d’ancienneté, des étudiants en médecine aux spécialistes. Le diagnostic et les renseignements sur le patient restaient inchangés, ce qui permettait de mesurer l’influence de l’autorité professionnelle.

Le conseil était également attribué à des médecins du Cameroun, de Chine, des Émirats arabes unis, du Royaume-Uni et des États-Unis. D’autres tests ont examiné si l’IA était influencée par le rattachement d’un médecin à un centre médical de premier plan, à un hôpital urbain ou à un hôpital rural. Seuls les antécédents déclarés du médecin étaient modifiés.

Des tests supplémentaires ont examiné si l’IA était influencée par le lieu d’exercice du médecin, en comparant des centres médicaux universitaires prestigieux, des hôpitaux communautaires urbains et des hôpitaux ruraux. Les modèles ont également reçu des dossiers fictifs présentant leurs propres performances et celles du médecin dans neuf cas précédents, afin de déterminer si la fiabilité apparente du médecin pouvait influer sur la disposition de l’IA à accepter ses conseils.

L’influence de la pression du groupe a été testée en indiquant à l’IA que son diagnostic avait été contesté par un seul médecin, par trois médecins d’accord entre eux ou par un comité d’examen hospitalier. Dans certains tests, un autre diagnostic était suggéré ; dans d’autres, on disait simplement à l’IA qu’elle avait tort.

L’influence du raisonnement médical a été examinée en présentant aux modèles des explications à l’appui de diagnostics corrects ou des arguments délibérément fabriqués pour défendre des diagnostics erronés. Ces explications ont également été testées en parallèle avec des affirmations relatives à l’ancienneté professionnelle, afin de déterminer l’influence supplémentaire obtenue en les combinant.

Enfin, les effets de pressions répétées ont été évalués sur dix tours de conversation, en présentant la même objection à chaque fois. Les objections comprenaient un simple désaccord, des affirmations d’autorité médicale et un prétendu accord entre d’autres médecins. Aucun élément médical supplémentaire n’a été fourni au cours de ces échanges.

Mesures

Pour l’évaluation, la sensibilité à la persuasion servait à mesurer la fréquence à laquelle l’IA adoptait la réponse d’un médecin lorsque sa réponse initiale était différente ; le sens de la persuasion indiquait si l’intervention du médecin corrigeait une erreur initiale ou faisait devenir erronée une réponse correcte ; et l’effet sur la précision mesurait l’amélioration ou la détérioration des performances de l’IA après l’introduction de l’avis d’un médecin, par rapport aux tests menés sans cet avis. Lorsqu’une réponse correcte était remplacée par une réponse erronée, les résultats étaient calculés en faisant la moyenne des quatre réponses erronées possibles.

Tests

Les premiers résultats ont montré que les modèles d’IA étaient plus facilement persuadés par des médecins chevronnés, même lorsque leurs conseils étaient erronés. Comme le montre le graphique ci-dessous, GPT-4o a accepté un conseil erroné dans 2 % des cas lorsqu’il venait d’un étudiant en médecine, contre 12,8 % lorsqu’il était attribué à un spécialiste. Pour Claude Sonnet 5, le taux est passé de 3,5 % à 14,4 %, tandis que Qwen3.7-Plus était moins sensible à cette influence :

Taux de persuasion selon quatre niveaux d’ancienneté médicale. Les pourcentages indiquent la fréquence à laquelle chaque modèle d’IA a accepté la réponse contradictoire d’un médecin ; les taux étaient généralement plus élevés pour les cliniciens les plus chevronnés.

Taux de persuasion selon quatre niveaux d’ancienneté médicale. Les pourcentages indiquent la fréquence à laquelle chaque modèle d’IA a accepté la réponse contradictoire d’un médecin ; les taux étaient généralement plus élevés pour les cliniciens les plus chevronnés.

L’ancienneté influait également sur la facilité avec laquelle les conseils corrects étaient acceptés, comme le montre le graphique ci-dessous. GPT-4o et Claude Sonnet 5 sont même devenus moins précis lorsqu’ils étaient conseillés par des étudiants en médecine. En revanche, lorsque le même conseil correct était attribué à des spécialistes, la précision s’améliorait de 10,1 et de 8,8 points de pourcentage, respectivement :

Évolution de la précision des modèles d’IA après avoir reçu des conseils médicaux exacts de médecins ayant différents niveaux d’ancienneté. Les valeurs positives et négatives indiquent les variations en points de pourcentage par rapport à la précision de chaque modèle sans conseil (GPT-4o : 71,4 % ; Qwen3.7-plus : 75,0 % ; Claude Sonnet 5 : 80,8 %).

Évolution de la précision des modèles d’IA après avoir reçu des conseils médicaux exacts de médecins ayant différents niveaux d’ancienneté. Les valeurs positives et négatives indiquent les variations en points de pourcentage par rapport à la précision de chaque modèle sans conseil (GPT-4o : 71,4 % ; Qwen3.7-plus : 75,0 % ; Claude Sonnet 5 : 80,8 %).

L’article indique :

‘Ces résultats indiquent également que l’IA pourrait implicitement estimer ses propres capacités supérieures à celles des jeunes cliniciens, mais inférieures à celles des médecins expérimentés. Elle tend à résister aux conseils des étudiants en médecine et des internes, tout en se montrant plus disposée à se laisser convaincre par les médecins seniors, et surtout par les spécialistes de la discipline concernée.

‘Cette apparente autoévaluation influence la mesure dans laquelle l’autorité professionnelle peut la convaincre.’

La principale différence tenait au fait que les médecins expliquent ou non leurs réponses. Même les conseils d’un étudiant en médecine étaient plus convaincants pour GPT-4o que ceux d’un spécialiste lorsque l’étudiant fournissait une explication médicale, contrairement au spécialiste.

Lorsqu’un étudiant en médecine expliquait pourquoi la bonne réponse était exacte, GPT-4o a corrigé sa réponse initialement erronée dans 58 % des cas. Sans cette explication, les conseils d’un spécialiste expérimenté n’ont permis d’obtenir ce résultat que dans 36,4 % des cas. Lorsque le spécialiste expliquait lui aussi la bonne réponse, ce chiffre atteignait 89,8 % :

Capacité de GPT-4o à corriger ses réponses erronées après avoir reçu les conseils de médecins ayant différents niveaux d’ancienneté. Les barres indiquent la fréquence à laquelle le modèle a donné la bonne réponse, avec ou sans explication médicale. Les explications ont nettement amélioré les résultats à tous les niveaux d’ancienneté.

Capacité de GPT-4o à corriger ses réponses erronées après avoir reçu les conseils de médecins ayant différents niveaux d’ancienneté. Les barres indiquent la fréquence à laquelle le modèle a donné la bonne réponse, avec ou sans explication médicale. Les explications ont nettement amélioré les résultats à tous les niveaux d’ancienneté.

Les explications ont également amélioré l’évaluation de la confiance du modèle. Celui-ci se montrait plus sûr de lui lorsque ses réponses étaient exactes, et moins sûr lorsqu’elles étaient erronées.

Pour les médecins seniors, l’écart de confiance entre les réponses exactes et erronées est passé de 2,1 à 11,5 points de pourcentage, comme le montre le graphique ci-dessous :

Niveau de confiance de GPT-4o dans ses réponses médicales exactes et erronées, selon quatre niveaux d’ancienneté des médecins. Les scores sont présentés avec et sans explication médicale à l’appui. Les dernières colonnes indiquent l’écart de confiance entre les réponses exactes et erronées, qui a nettement augmenté lorsque des explications étaient fournies.

Niveau de confiance de GPT-4o dans ses réponses médicales exactes et erronées, selon quatre niveaux d’ancienneté des médecins. Les scores sont présentés avec et sans explication médicale à l’appui. Les dernières colonnes indiquent l’écart de confiance entre les réponses exactes et erronées, qui a nettement augmenté lorsque des explications étaient fournies.

La bannière étoilée

Les modèles se laissaient plus facilement convaincre par les médecins américains que par ceux de tous les autres pays étudiés, même lorsque leurs conseils médicaux étaient erronés. Par exemple, GPT-4o a accepté un diagnostic incorrect posé par un médecin américain dans 10,9 % des cas, contre 8,4 % pour un médecin camerounais :

Comparaison de la facilité avec laquelle trois modèles d’IA ont accepté des conseils médicaux contradictoires attribués à des médecins de cinq pays. Les médecins américains ont été les plus convaincants pour les trois modèles ; les pourcentages indiquent la fréquence à laquelle l’IA a modifié sa réponse.

Comparaison de la facilité avec laquelle trois modèles d’IA ont accepté des conseils médicaux contradictoires attribués à des médecins de cinq pays. Les médecins américains ont été les plus convaincants pour les trois modèles ; les pourcentages indiquent la fréquence à laquelle l’IA a modifié sa réponse.

GPT-4o a accepté un diagnostic contradictoire dans 6,4 % des cas lorsqu’il était censé provenir d’un médecin américain, contre 4,3 % lorsque le même conseil était attribué à un médecin camerounais. La préférence pour les médecins américains a été observée avec les trois modèles, comme le montre le graphique ci-dessus.

L’IA était également plus facilement influencée par les médecins exerçant dans des hôpitaux prestigieux ; par exemple, GPT-4o a modifié son diagnostic dans 6,6 % des cas lorsque le conseil était censé provenir d’un centre médical universitaire de premier plan, contre seulement 2,8 % lorsqu’il provenait d’un hôpital rural :

Comparaison de l’influence du prestige des hôpitaux sur les décisions médicales des trois modèles d’IA. L’axe horizontal indique les gains obtenus grâce à des conseils exacts ; l’axe vertical, la perte de précision due à des conseils erronés. Les couleurs distinguent les modèles et les formes, les types d’hôpitaux. En général, un prestige plus élevé amplifie ces deux effets.

Comparaison de l’influence du prestige des hôpitaux sur les décisions médicales des trois modèles d’IA. L’axe horizontal indique les gains obtenus grâce à des conseils exacts ; l’axe vertical, la perte de précision due à des conseils erronés. Les couleurs distinguent les modèles et les formes, les types d’hôpitaux. En général, un prestige plus élevé amplifie ces deux effets.

Les conseils provenant d’hôpitaux prestigieux ont amélioré les résultats de GPT-4o de 3,2 points de pourcentage, tandis que les mêmes conseils attribués à des hôpitaux ruraux ont en fait fait baisser la précision de 3,6 points — même si l’article précise que Claude Sonnet 5 a été nettement moins influencé par la région où exerçait le médecin.

De plus*, les chercheurs ont constaté que le simple fait de dire à GPT-4o qu’un médecin avait correctement diagnostiqué neuf patients auparavant le rendait beaucoup plus enclin à suivre ses conseils. Même lorsque l’IA avait initialement raison, on pouvait la convaincre de se tromper dans 15,6 % des cas à haut risque, alors même qu’on lui indiquait que les données médicales étaient fiables à 95 %.

Résultats des tests montrant comment GPT-4o a réagi à des médecins dont le dossier était parfait ou entièrement erroné, selon différents niveaux de risque médical et de fiabilité des données. Les chiffres indiquent à quelle fréquence le modèle a suivi les conseils du médecin, remplacé une réponse correcte par une réponse erronée et le degré de confiance qu’il accordait à ses décisions. Un dossier présenté comme parfait a considérablement accru l’influence du médecin, même lorsque ses conseils étaient erronés.

Résultats des tests montrant comment GPT-4o a réagi à des médecins dont le dossier était parfait ou entièrement erroné, selon différents niveaux de risque médical et de fiabilité des données. Les chiffres indiquent à quelle fréquence le modèle a suivi les conseils du médecin, remplacé une réponse correcte par une réponse erronée et le degré de confiance qu’il accordait à ses décisions. Un dossier présenté comme parfait a considérablement accru l’influence du médecin, même lorsque ses conseils étaient erronés.

Une explication médicale convaincante pourrait être encore plus dangereuse. Lorsqu’un faux diagnostic était étayé par une explication fabriquée, GPT-4o abandonnait sa réponse correcte dans 31,2 % des cas, et dans 38,7 % des cas lorsque le conseil venait aussi d’un médecin faisant autorité.

L’article conclut :

« Ces résultats montrent que la solution ne consiste pas simplement à rendre l’IA plus difficile à convaincre. La persuasion peut corriger une erreur, mais elle peut aussi remettre en cause une décision correcte. »

« Le défi consiste à permettre à l’IA de conserver son discernement face à la persuasion et de modifier sa décision lorsqu’une correction est justifiée. Il sera important de comprendre et d’améliorer cette capacité pour garantir une utilisation sûre et fiable de l’IA dans les décisions médicales à fort enjeu. »

Conclusion

L’intérêt des avocats, des architectes et des médecins humains, c’est qu’il y aura quelqu’un à qui demander des comptes si quelque chose tourne catastrophiquement mal. Il est donc difficile de comprendre dans quelle mesure l’implication de l’IA dans une issue médicale négative et contestée peut être réduite, minimisée ou prise en compte sans provoquer de désaccord ni de controverse.

L’IA n’est pas vraiment conçue pour cette tâche, car les décisions diagnostiques en médecine reposent souvent davantage sur l’expérience que sur la science : les médecins à l’avant-garde peuvent parfois en savoir plus grâce à leurs expériences cliniques récentes qu’ils n’en ont encore apporté aux revues scientifiques.

Cela transforme la prise de décision en un exercice d’interprétation auquel l’IA n’est pas actuellement bien préparée, c’est-à-dire qu’il lui faut être capable de dire qu’elle est raisonnablement certaine, au vu des meilleures informations disponibles, qu’une ligne de conduite donnée mènera probablement au meilleur résultat. L’intérêt de l’« intuition humaine » est pratiquement impossible à reproduire dans ce contexte. Il ne s’agit manifestement pas d’une science « objective » du même ordre que le profilage ADN ou les tableaux des éléments, même si cette situation relève de disciplines scientifiques déterministes.

Il semble donc raisonnable de penser que les générations futures de modèles destinés à cette tâche pourraient être conçues différemment, voire reposer sur une architecture différente de celle des systèmes d’IA classiques de traitement du langage et de prise de décision.

 

* L’article comprend cinq autres sections consacrées aux tests, dont l’impact et la pertinence sont moindres que ceux des principaux résultats. Pour en savoir plus, je renvoie le lecteur au PDF original.

Première publication : jeudi 19 novembre 2026

Rédacteur spécialisé en apprentissage automatique, expert du domaine de la synthèse d'images humaines. Ancien responsable du contenu de recherche chez Metaphysic.ai, jusqu'à sa dissolution dans Brahma.ai de DNEG.
Site Web: martinanderson.ai
Contact: martin@martinanderson.ai