Lorsque les agents IA suivent la foule : le risque caché du consensus multi‑agents

Une salle remplie d’agents IA qui s’accordent peut sembler rassurante. L’un propose une réponse, un autre la vérifie, et plusieurs d’autres approuvent la conclusion. Mais combien de ces agents ont réellement vérifié les preuves sous‑jacentes ? Si chacun absorbe le jugement de l’agent précédent, un verdict unanime peut masquer une seule erreur.

De nouvelles recherches mises en avant par la University of Chicago Harris School of Public Policy examinent ce problème. Dans les expériences délibérément défavorables décrites dans son annonce, les agents ultérieurs ont suivi une première conclusion erronée même lorsque leurs propres informations les orientaient vers la bonne réponse. L’annonce souligne également qu’il s’agit de résultats de tests de résistance préliminaires, et non de preuves que les agents autonomes se comportent ainsi de façon routinière.

Pour les organisations qui construisent des flux de travail multi‑agents, la question importante est de savoir comment distinguer la vérification indépendante d’un simple écho. Ci‑dessous, nous examinons l’expérience, la relions aux recherches établies sur l’apprentissage social, et développons des implications pratiques pour la conception des systèmes. Les propositions d’ingénierie et les illustrations numériques sont notre analyse, et non des résultats expérimentaux supplémentaires.

Ce que les chercheurs ont testé

Andy Hall, Dan Thompson, Alexander Fouirnaies et Sandy Handan‑Nader ont publié Délires multi‑agents extraordinaires et la folie des foules le 29 septembre 2026. Les agents ont déduit le fonctionnement d’un évaluateur de tâche simulé à partir de signaux privés d’acceptation ou de rejet qui étaient informatifs 70 % du temps. Ils ont lu les messages antérieurs du tableau, publié des conclusions et rapporté séparément leurs croyances. La condition de stress a rendu les quatre premiers signaux incorrects.

Sans communication, les signaux indépendants ultérieurs ont dilué l’erreur initiale. Avec un tableau, les jugements incorrects ont persisté ; les agents ont également mal rapporté leurs propres preuves. La plupart des expériences ont utilisé Claude Haiku 4.5. Les auteurs rapportent une réplication avec Sonnet 4.6, Opus 4.6 et GPT‑5 mini, avec une éventuelle exception pour Gemini 2.5 Flash.

Sur sept politiques de communication et des scénarios supplémentaires, les règles préservant les résultats de tests privés ont donné les meilleurs résultats. L’une d’elles exigeait un rapport exact et interdisait les tests ou comptes inventés. Les justifications post‑hoc mentionnaient la majorité du tableau plus de 90 % du temps, mais les auteurs avertissent que ces explications n’établissent pas le mécanisme interne.

La différence entre une foule et un écho

Le contexte intellectuel précède l’IA générative. Dans leur article de 1992 sur les cascades informationnelles, Sushil Bikhchandani, David Hirshleifer et Ivo Welch décrivent comment des décideurs séquentiels peuvent suivre leurs prédécesseurs tout en ignorant leurs propres informations. Leur cadre aide à expliquer pourquoi la conformité peut coexister avec des croyances collectives fragiles. Une revue des cascades informationnelles et de l’apprentissage social, co‑écrite avec Omer Tamuz, passe en revue les recherches théoriques et empiriques qui ont suivi.

Considérons une enquête logicielle hypothétique. L’agent A interprète un test échoué comme la preuve qu’une bibliothèque d’authentification est défectueuse. L’agent B lit le rapport d’A et recommande de remplacer la bibliothèque. L’agent C résume les deux messages comme deux confirmations du même défaut. Un coordinateur voit alors trois agents s’accorder, bien que toute la chaîne repose sur une seule interprétation d’un seul test.

L’ajout de l’agent D ne produira pas nécessairement de nouvelles informations. Si D ne lit que le résumé, le flux de travail a créé une autre occasion de répéter l’affirmation. L’unité pertinente de corroboration est l’observation indépendante : une reproduction distincte, un test différent ou une inspection directe de la défaillance suspectée.

Cette distinction importe même lorsque chaque composant est capable et coopératif. L’accord n’est utile que dans la mesure où ses fondements probants le justifient. Un système devrait donc suivre quels agents ont effectué une vérification, lesquels ont simplement interprété la sortie d’un autre agent, et lesquels ont répété une conclusion sans la vérifier.

Pourquoi l’indépendance change l’arithmétique

Un calcul simple illustre les enjeux. Supposons que cinq votants hypothétiques répondent correctement à une question binaire avec une probabilité de 0,7, et que leurs réponses soient indépendantes. La probabilité qu’au moins trois soient corrects est d’environ 83,7 %. Combiner leurs votes améliore la précision de 70 % d’un seul votant.

Supposons maintenant que les cinq copient une même réponse. La majorité n’est correcte que lorsque cette réponse originale l’est : 70 % du temps. Le nombre apparent de participants a augmenté, mais la quantité d’informations indépendantes n’a pas changé. Il s’agit de probabilités illustratives, et non de mesures de performance issues de la nouvelle recherche.

Il existe un autre calcul utile pour interpréter la condition de stress. Si quatre signaux ont indépendamment 30 % de chances d’être erronés, la probabilité que les quatre soient erronés est de 0,3 à la puissance quatrième, soit 0,81 %. Cela décrit la probabilité d’une séquence de départ particulière sous ces hypothèses. Cela ne décrit pas la probabilité qu’une équipe d’agents déployée échoue.

Une estimation d’échec nécessiterait à la fois la fréquence des situations difficiles et le comportement du système lorsqu’elles surviennent. Confondre ces quantités peut faire paraître un résultat plus alarmant ou plus rassurant que ne le permettent les preuves. Un test de contrainte peut révéler une faiblesse conséquente sans mesurer sa fréquence dans le travail ordinaire.

Construire une traçabilité des preuves avant de bâtir le consensus

Une réponse pratique consiste à séparer les observations des interprétations dans l’espace de travail partagé. Pour l’enquête hypothétique sur l’authentification, une observation pourrait contenir un identifiant de test, la révision du code testé, le résultat réel et le temps d’exécution. Un champ séparé enregistrerait l’explication proposée par l’agent ainsi que son incertitude.

Cette structure permet au coordinateur de poser une question concrète : cette recommandation introduit-elle une nouvelle observation, ou fait‑elle référence à des preuves déjà comptabilisées ? Trois résumés citant le même test échoué doivent rester un seul test dans le registre des preuves. Une seconde reproduction indépendante devrait apparaître comme une vérification distincte.

Pour des décisions coûteuses ou aux conséquences importantes, les équipes pourraient également recueillir des évaluations initiales avant d’exposer les agents aux conclusions des uns et des autres. Un évaluateur examinerait le matériau source, formulerait un jugement initial et ne verrait la discussion de groupe qu’ensuite. Les changements d’avis resteraient possibles, mais le système pourrait enregistrer quelles nouvelles preuves les justifiaient.

Il s’agit de propositions de conception à évaluer, et non de garde-fous validés par cette expérience. Elles entraînent des coûts : des enregistrements plus structurés, des appels d’outils supplémentaires et potentiellement une coordination plus lente. Leur valeur doit être évaluée à l’aune des décisions qu’elles protègent. Un flux de travail de brainstorming peut tolérer des conversations libres ; une enquête sur un incident de production peut nécessiter une traçabilité des preuves bien plus stricte.

Les règles d’invite et les contrôles d’exécution résolvent des problèmes différents

Demander à un agent de conserver les preuves est utile, mais une architecture de production peut aller plus loin en préservant le résultat original de l’outil lui‑même. Un service d’exécution pourrait écrire les résultats dans un enregistrement que les agents peuvent citer mais ne peuvent pas écraser. Les lecteurs pourraient alors comparer l’interprétation avec la sortie sous‑jacente.

Même un journal immuable ne garantit pas qu’un test ait été bien conçu, que la source soit fiable ou que l’interprétation soit correcte. Il rend toutefois les divergences inspectables. Un système peut distinguer un test défectueux d’un rapport qui le décrit de manière inexacte.

L’autorisation doit rester une décision distincte. Une conclusion confiante selon laquelle un système nécessite une réparation ne confère pas l’autorisation de le modifier. Conserver les permissions d’exécution en dehors du processus de consensus empêche qu’une erreur épistémique se transforme automatiquement en action opérationnelle. Une équipe d’agents peut se tromper sans être autorisée à effectuer une modification sans restriction.

La diversité des modèles doit également être évaluée plutôt que supposée résoudre le problème. Des modèles différents peuvent apporter des interprétations distinctes, mais attribuer des noms ou des rôles différents aux agents n’établit pas que leurs preuves sont indépendantes. Un groupe divers qui lit le même résumé erroné peut néanmoins partager un goulet d’évidence unique.

Ce que doit mesurer une évaluation plus rigoureuse

La publication liée est un compte‑rendu de recherche public. Les lecteurs doivent éviter de la considérer comme un benchmark complet des produits multi‑agents déployés. Sa valeur réside dans le mode de défaillance spécifique qu’elle rend testable ; ses implications plus larges nécessitent davantage de preuves.

Une évaluation de suivi utile varierait l’ordre des signaux, la précision des preuves privées, le nombre de participants et la structure de communication. Elle devrait inclure des séquences ordinaires aux côtés de séquences délibérément trompeuses, ainsi que des majorités précoces correctes aux côtés de majorités précoces incorrectes. Sinon, une politique pourrait sembler réussie simplement parce qu’elle apprend aux agents à se méfier de chaque consensus.

La précision seule manquerait des distinctions importantes. Les évaluateurs devraient mesurer si les rapports préservent fidèlement les observations, à quelle fréquence les agents inventent des preuves de soutien, si une minorité correcte peut modifier la décision finale, et si le coordinateur compte les citations répétées comme des vérifications distinctes. La consommation de jetons et la latence doivent être comparées conjointement : un protocole plus sûr nécessite toujours un coût opérationnel raisonnable.

Pour investiguer les mécanismes, les chercheurs pourraient faire varier expérimentalement l’accès aux jugements antérieurs tout en maintenant les preuves de la tâche constantes. Ils pourraient comparer les évaluations initiales indépendantes avec celles formées après la lecture du tableau. Randomiser l’ordre de présentation aiderait à séparer les effets des preuves de ceux liés à la séquence ou à la visibilité. Les explications générées peuvent orienter les hypothèses, mais elles ne doivent pas constituer la preuve unique expliquant pourquoi un modèle a changé de réponse.

Une meilleure définition de la fiabilité multi‑agents

Le vocabulaire de la mentalité de troupeau est vivant, mais il ne doit pas être interprété comme une preuve que les modèles subissent une pression sociale humaine ou possèdent des croyances humaines. La préoccupation opérationnelle est observable : l’information entre dans un flux de travail, les jugements influencent les jugements ultérieurs, et la réponse finale peut masquer l’origine de son soutien.

Pour les constructeurs, la prochaine étape devrait être une correction démontrable. Lorsqu’un agent commet une erreur plausible, un autre peut‑il identifier les preuves contradictoires ? Le coordinateur peut‑il préserver ce désaccord suffisamment longtemps pour l’examiner ? La décision finale peut‑elle expliquer quels contrôles indépendants ont résolu le problème ?

Une équipe plus grande gagne la confiance lorsqu’elle ajoute des informations vérifiables et améliore les décisions face aux défis. Compter les agents, compter les soutiens et produire des discussions plus longues sont des substituts inadéquats. Le système multi‑agents le plus utile est celui dont les preuves restent inspectables même lorsque ses participants sont d’accord.