多智能体悖论：为何更多AI智能体会导致更差的结果
在过去两年的大部分时间里，多智能体系统被视为人工智能自然发展的下一步。如果一个大型语言模型能够推理、规划和行动，那么多个模型协同工作应该会做得更好。这种信念推动了编码、研究、金融和工作流自动化等领域智能体团队的兴起。但新的研究揭示了一个反直觉的悖论。向系统中添加更多智能体似乎并不总能带来更好的性能。相反，它会使系统变得更慢、更昂贵且准确性更低。我们称之为“多智能体悖论”的这种现象表明，更多的协调、更多的通信和更多的推理单元并不总能带来更好的智能。相反，添加更多智能体会引入新的故障模式，其代价超过了收益。理解这个悖论很重要，因为智能体系统正迅速从演示走向部署。构建AI产品的团队需要明确的指导，以了解协作何时有益、何时有害。在本文中，我们将探讨为何更多智能体会导致更差的结果，以及这对基于智能体的AI系统的未来意味着什么。为何多智能体系统变得如此流行多智能体系统的理念灵感来源于人类在团队中的协作方式。面对复杂问题时，工作被划分为多个部分，由专家处理各自的任务，然后将他们的输出结果整合起来。早期实验支持这种方法。在数学问题或代码生成等静态任务上，多个进行辩论或投票的智能体通常比单个模型表现更好。然而，许多这些早期的成功来自于未能反映现实世界部署条件的任务。它们通常涉及较短的推理链、与外部系统的有限交互，以及没有演化状态的静态环境。当智能体在需要持续交互、适应和长期规划的环境中运行时，情况会发生巨大变化。此外，随着工具的进步，智能体获得了浏览网页、调用API、编写和执行代码以及随时间更新计划的能力。这使得向系统中添加更多智能体变得越来越诱人。智能体任务与静态任务不同重要的是要认识到，智能体任务与静态推理任务有着根本的不同。静态任务可以一次性解决：模型接收到一个问题，产生一个答案，然后停止。在这种设置下，多个智能体的功能很像一个集成模型，多数投票等简单策略通常能产生更好的结果。相比之下，智能体系统运行在一个非常不同的环境中。它们需要与环境进行反复交互，智能体必须探索、观察结果、更新计划并再次行动。例子包括网络导航、金融分析、软件调试以及模拟世界中的战略规划。在这些任务中，每一步都依赖于前一步，使得这个过程本质上是顺序性的，并且对早期错误高度敏感。在这种环境下，多个智能体所犯的错误不会像在集成模型中那样相互抵消。相反，它们会累积。过程中早期的一个错误假设就可能使后续一切偏离正轨，而当涉及多个智能体时，这些错误会迅速在系统中扩散。协调是有代价的每个多智能体系统都需要支付协调成本。智能体必须分享他们的发现、协调目标并整合部分结果。这个过程从来都不是没有代价的。它消耗令牌、时间和认知带宽，并且随着智能体数量的增加，可能迅速成为瓶颈。在固定的计算预算下，这种协调成本变得尤为关键。如果四个智能体共享与一个智能体相同的总预算，那么每个智能体进行深度推理的能力就更少。系统可能还需要将复杂的想法压缩成简短的摘要以便沟通，而在这个过程中，可能会丢失重要细节，从而进一步削弱系统的整体性能。这就造成了多样性与连贯性之间的权衡。单智能体系统将所有推理集中在一个地方。它们在任务全程保持一致的内部状态。多智能体系统提供了多样化的视角，但代价是割裂了上下文。随着任务变得更加顺序化和状态依赖性强，这种割裂成为一个关键的弱点，其代价常常超过多个智能体带来的好处。当更多智能体主动损害性能时近期的对照研究表明，在顺序规划任务上，多智能体系统的表现往往不如基于单智能体的系统。在每个行动都会改变状态并影响未来选项的环境中，智能体之间的协调会打断它们的推理、减缓进度，并增加错误累积的风险。当智能体在没有通信的情况下并行操作时，这种情况尤其明显。在这种设置下，智能体的错误得不到检查，当结果合并时，错误会累积而不是被纠正。即使是具有结构化协调的系统也无法完全避免失败。拥有专用协调器的集中式系统有助于控制错误，但它们也引入了延迟和瓶颈。协调器成为一个压缩点，扩展的推理被简化为摘要。这通常会导致在长的、交互式任务上做出比单一、专注的推理循环更错误的决策。这就是多智能体悖论的核心：协作引入了单智能体系统中不存在的新故障模式。为何某些任务仍受益于多个智能体这个悖论并不意味着多智能体系统毫无用处。相反，它强调了它们的益处是有条件的。当任务能够清晰地划分为并行、独立的子任务时，这些系统最有效。金融分析就是此类任务的一个例子。在这个任务中，可以使用一个智能体来分析收入趋势，另一个来检查成本，第三个来比较竞争对手。这些子任务在很大程度上是独立的，它们的输出可以在无需仔细协调的情况下进行组合。在这种情况下，集中式协调通常能提供更好的结果。动态网页浏览是另一个例子，让多个智能体独立工作可能是有用的。当一项任务需要同时探索多条信息路径时，并行探索会有所帮助。一个关键的启示是，当任务能够被划分为不需要紧密协调的独立部分时，多智能体系统效果最好。对于涉及逐步推理或需要仔细跟踪变化条件的任务，一个专注的单智能体通常表现更好。能力天花板效应另一个重要发现是，更强的基础模型减少了对协调的需求。随着单智能体能力变得更强，添加更多智能体所带来的潜在收益会缩小。超过某个性能水平后，添加智能体通常会导致收益递减，甚至产生更差的结果。这是因为协调成本大致保持不变，而收益却在减少。当一个单智能体已经能够处理大部分任务时，额外的智能体往往会增加噪音而非价值。在实践中，这意味着多智能体系统对较弱模型更有用，而对前沿模型效果较差。这挑战了模型智能会随着更多智能体而自然扩展的假设。在许多情况下，改进核心模型比围绕它增加额外智能体能带来更好的结果。错误放大是隐藏的风险近期研究最重要的见解之一是多智能体系统中错误如何被放大。在多步骤任务中，一个早期的错误可能会在整个过程中传播。当多个智能体依赖于共同的假设时，该错误会传播得更快，并且更难控制。独立的智能体尤其容易受到这个问题的影响。如果没有内置的验证机制，错误的结论可能会反复出现并相互强化，产生一种虚假的信心。集中式系统通过增加验证步骤有助于降低这种风险，但无法完全消除它。相比之下，单智能体通常具有内在优势。因为所有推理都在单一上下文中进行，矛盾更容易被发现和纠正。这种微妙的自我纠正能力很强大，但在评估多智能体系统时常常被忽视。核心要点多智能体悖论的关键教训不是要避免协作，而是要更有选择性。问题不应该是使用多少个智能体，而是对于该任务而言，协调是否合理。具有强顺序依赖性的任务往往更适合单智能体，而具有并行结构的任务可以受益于小型、协调良好的团队。工具繁重的任务需要仔细规划，因为协调本身会消耗本可用于行动的资源。最重要的是，智能体架构的选择应由可衡量的任务属性来指导，而非直觉。在实现有效结果方面，诸如可分解性、容错性和交互深度等因素比团队规模更重要。
