当 AI 代理跟随大众时：多代理共识中的隐藏风险

一间充满一致的 AI 代理的房间看起来可能令人安心。一个提出答案，另一个进行检查，还有更多的代理支持该结论。但到底有多少代理真正检查了背后的证据？如果每个代理都吸收了前一个代理的判断，统一的裁决可能掩盖一次错误。

由芝加哥大学哈里斯公共政策学院强调的新研究审视了该问题。在其公告中描述的故意不利实验中，后来的代理即使自身信息指向正确答案，也会跟随早期的错误结论。公告还强调，这些是早期压力测试结果，而非自主代理常规表现的证据。

对于构建多代理工作流的组织而言，关键问题在于如何区分独立验证与回声。下面，我们审视该实验，将其与已有的社会学习研究联系，并提出对系统设计的实际意义。工程方案和数值示例是我们的分析，而非额外的实验发现。

研究人员测试了什么

Andy Hall、Dan Thompson、Alexander Fouirnaies 和 Sandy Handan-Nader 于 2026 年 9 月 29 日发表了 非凡的多代理妄想与群体疯狂。代理从私有的接受或拒绝信号中推断出模拟任务评分器的工作方式，这些信号在 70% 的情况下是有信息量的。他们阅读了早期的看板帖子，发布结论并分别报告了信念。压力条件使前四个信号出现错误。

如果没有通信，后续的独立信号会稀释最初的错误。使用看板时，错误判断仍然持续；代理还会错误报告自己的证据。大多数实验使用 Claude Haiku 4.5。作者报告了使用 Sonnet 4.6、Opus 4.6 和 GPT-5 mini 的复制实验，唯一可能的例外是 Gemini 2.5 Flash。

在七种通信策略及其他情景中，保留私有测试结果的规则表现最佳。其中一项要求精确报告并禁止捏造测试或计数。事后理由在超过 90% 的情况下提到了看板多数，但作者提醒，这些解释并未确定内部机制。

群体与回声的区别

这一本质背景早于生成式 AI。在他们的 1992 年关于信息级联的论文中，Sushil Bikhchandani、David Hirshleifer 和 Ivo Welch 描述了顺序决策者如何在忽视自身信息的情况下跟随前任。他们的框架有助于解释为何从众行为可以与脆弱的集体信念共存。随后与 Omer Tamuz 合著的 信息级联与社会学习综述概述了此后出现的理论和实证研究。

设想一次假设的软件调查。代理 A 将一次失败的测试解释为认证库已损坏的证据。代理 B 阅读 A 的报告并建议更换该库。代理 C 将两条信息汇总为对同一缺陷的两次确认。协调者现在看到三位代理达成一致，尽管整个链条仅基于一次测试的单一解释。

加入代理 D 并不一定会产生新信息。如果 D 只阅读摘要，工作流就产生了另一次重复该主张的机会。相关的佐证单位是独立观察：一次独立的复现、不同的测试或对疑似故障的直接检查。

即使每个组件都具备能力并且协作，这一区别仍然重要。协议只有在其证据基础得到充分支持时才有价值。因此系统应记录哪些代理执行了检查，哪些仅解释了其他代理的输出，哪些在未进行检查的情况下重复了结论。

为何独立性改变算术

一个简单的计算说明了其中的利害。假设五位假设选民每人以 0.7 的概率正确回答二元问题，且他们的答案相互独立。至少三人正确的概率约为 83.7%。将他们的投票结合起来，可提升单个选民 70% 的准确率。

现在假设全部五人复制同一个答案。多数正确仅在原始答案正确时成立：占 70% 的情况。参与者的表面数量增加了，但独立信息的量并未增加。这些是示例性的概率，并非新研究的性能测量。

还有另一个有用的计算用于解释压力条件。如果四个信号独立地有 30% 的错误概率，则四者全部错误的概率为 0.3 的四次方，即 0.81%。这描述了在该假设下特定起始序列的概率，并不描述部署的代理团队会失败的概率。

要估计失败率，需要同时了解困难情境出现的频率以及系统在这些情境下的表现。混淆这两个量可能导致结果看起来比证据所允许的更令人担忧或更令人安心。压力测试可以在不衡量其在日常工作中出现频率的情况下，揭示出具有重要影响的弱点。

在达成共识之前先建立证据链

一种实用的做法是将共享工作区中的观察与解释分离。以假设的身份验证调查为例，观察项可能包括测试标识符、被测试的代码版本、实际输出以及执行时间。另设一个字段用于记录代理提出的解释及其不确定性。

这种结构使协调者能够提出具体问题：该建议是引入新的观察，还是引用已有的证据？三份引用同一次失败测试的摘要应在证据账本中仅计为一次测试。第二次独立复现应显示为单独的检查。

对于高成本或影响重大的决策，团队还可以在让代理相互看到对方结论之前收集初始评估。审阅者先检查源材料，作出初步判断，然后才参与小组讨论。意见的改变仍然是可能的，但系统可以记录是哪项新证据支撑了这些改变。

这些是待评估的设计方案，而非本实验验证的安全措施。它们会带来成本：更结构化的记录、额外的工具调用以及可能更慢的协调。其价值应相对于所保护的决策来评估。头脑风暴的工作流程可能容忍松散的对话；而生产事故调查则可能需要更严格的证据链。

提示规则与运行时控制解决不同的问题

要求代理保留证据是有益的，但生产架构可以进一步保留原始工具输出本身。执行服务可以将结果写入记录，供代理引用但不可覆盖。随后，阅读者可以将解释与底层输出进行对比。

即使是不可变的日志也不能保证测试设计良好、来源可信或解释正确。不过，它可以使差异可供检查。系统能够区分有缺陷的测试和对该测试描述不准确的报告。

授权应保持为独立的决策。即使有充分的结论认为系统需要修复，也不等同于获得修改权限。将执行权限置于共识过程之外，可防止认知错误自动转化为操作行为。代理团队即使判断错误，也不应被允许进行不受限制的更改。

模型多样性同样需要评估，而不是假设它能解决问题。不同模型可能提供不同的解释，但仅为代理分配不同的名称或角色并不能证明它们的证据是独立的。即使是多样化的团队阅读同一错误摘要，也仍可能共享同一个证据瓶颈。

更强评估应衡量的内容

所链接的出版物是一篇公开的研究报告。读者应避免将其视为已部署多代理产品的全面基准。它的价值在于提供了可测试的特定失效模式；其更广泛的意义仍需进一步证据支持。

有价值的后续评估应变动信号顺序、私有证据的准确性、参与者数量以及通信结构。评估应同时包含普通序列和故意误导的序列，并对比正确的早期多数与错误的早期多数。否则，政策可能仅因教会代理不信任所有共识而显得成功。

仅凭准确率会遗漏重要区别。评估者应衡量报告是否忠实保留观察、代理编造支持证据的频率、正确的少数派是否能改变最终决策，以及协调者是否将重复引用计为独立检查。令牌消耗和延迟应放在同一比较中：更安全的协议仍需具备可操作的成本效益。

为研究机制，研究者可以在保持任务证据不变的情况下，实验性地改变对早期判断的访问权限。他们可以比较独立的初始评估与阅读板块后形成的评估。随机化呈现顺序有助于将证据效应与序列或突出度效应区分开来。生成的解释可以为假设提供线索，但不应作为模型为何改变答案的唯一证据。

对多代理可靠性的更佳定义

“群体思维”这一表述形象生动，但不应被解读为模型受到人类社会压力或拥有人的信念的证据。关注的操作层面是可观察的：信息进入工作流，判断影响后续判断，最终答案可能掩盖其支持来源。

对于构建者而言，下一个里程碑应当是可验证的纠正。当一个代理出现看似合理的错误时，另一个能否识别出相矛盾的证据？协调者能否将这种分歧保留足够长的时间以进行调查？最终决策能否解释是哪项独立检查解决了问题？

当更大的团队加入可验证的信息并在挑战下改进决策时，便能赢得信任。仅仅统计代理、统计背书或产生更长的讨论都不足以替代。最有价值的多代理系统是即使其参与者达成一致，其证据仍然可供检查的系统。