访谈
Babak Hodjat，Cognizant 首席 AI 官：回访对话
将 Unite.AI 添加到您在 Google 上的首选来源
Babak Hodjat，Cognizant首席 AI 官，领导公司的 AI 研究实验室，他的工作涵盖代理 AI、进化计算、分布式智能，以及为大规模企业部署而设计的 AI 系统的开发。作为长期的 AI 研究员、发明家和企业家，Hodjat 之前共同创立了 Sentient Technologies，在那里帮助构建了全球最大规模的分布式 AI 系统之一，早期还共同创立了 Dejima，开发了面向代理的自然语言技术，为 Apple Siri 的基础做出了贡献。
当我们之前与 Babak Hodjat 对话时，我们的讨论探讨了他在 AI 领域的职业生涯、进化方法在复杂决策中的应用、Cognizant 将 AI 应用于气候和土地利用挑战的工作，以及 AI 在企业中的日益民主化。在这次后续对话中，焦点转向快速兴起的代理企业。借鉴他近期的著作The Agentic Enterprise中的主题，Hodjat 检视了为何架构可能比模型能力更为关键，组织如何协调日益复杂的 AI 代理网络，集中式信任与治理在去中心化代理生态系统中的定位，以及在自主系统能够可靠地管理长期目标且最小化人工干预之前仍需改变的方面。
您的职业跨越了智能代理的早期工作，从 Dejima 的自然语言技术（该技术帮助启发了 Siri）到在 Sentient 构建的大规模分布式 AI 系统，再到如今担任 Cognizant 的首席 AI 官。随着这段旅程的推进，您对“AI 代理”的定义如何演变？当今的开发者可以从这些早期的基于代理的系统中学到什么？
定义保持不变，但如今代理的能力意味着许多我们在 90 年代必须自行编写的基本功能，现在已经可以通过大语言模型直接使用。这就是为何基于 LLM 的代理如今已成为标准，当人们谈论代理时，默认其界面和推理由 LLM 驱动。
在您近期的著作The Agentic Enterprise中，您指出企业 AI 系统的成败往往取决于其架构，而非底层模型的原始能力。当公司认为升级到更强大的模型就能解决其代理 AI 问题时，究竟哪里出了错？
正如安全带（即代理的非 LLM 部分）可以决定编码代理的成败，多代理系统的架构对其成功至关重要。这是因为架构反映了代理应运行的上下文——有点像支撑代理企业的脚手架。没有合适的架构，代理将无法扎根于企业运营、数据、工作流和流程的真实环境中。这在某种程度上类似于企业的组织结构，包括员工的职位描述、流程定义以及沟通协议。
您曾强调，周边系统，包括访问控制、问责制、编排、可观察性和监督，可能比模型本身更为关键。生产就绪的代理架构究竟需要哪些要素，而大多数概念验证部署缺少了哪些关键环节？
概念验证（PoC）往往缺乏落地基础，因此首先需要让代理在能够访问公司内部数据和应用的环境中运行。必须提出重要问题，例如我们准备让代理访问哪些数据和应用，以及我们愿意让代理做出哪些决策，以确保系统安全可靠，同时仍能实现我们期望的质量和生产力提升？在 PoC 环境中很难确定这些问题的答案。此外，只有当代理系统与公司内部的其他人工或代理流程协同运行时，防护措施和监督才有意义。因此，沙箱化是将概念验证有效转化为部署的关键步骤。
Cognizant 已描述了“代理操作系统”的出现，用于协调 AI 代理网络。这样的一层应具备哪些功能？您是否预期代理编排最终会像操作系统和云平台一样，成为企业计算的基础设施？
代理的协同非常重要：如果协同过于僵化，系统就会退化并变得脆弱。若协同过于开放，完全交由代理自行决定，则会导致代理的任务过于复杂或风险过大。良好的协同机制能够让代理在面对各种情形时自发组队，从而形成稳健且灵活的组织纪律。我支持分布式协同。这类似于赋予人类组织在其职责范围内一定的权力。当情境出现时，组织成员会在组织结构内进行沟通与协同，以确定负责处理该情境的个人，随后在组织节点之间收集、协调并整合响应。好消息是，可以对代理系统施加严格的控制和保障措施，使这种灵活性不会导致风险行为。
我认为，正如MCP已迅速成为代理应用访问的事实标准，协同协议也将出现并在代理平台之间实现标准化，以实现跨代理系统边界的自发多代理流程。操作系统和云平台可能并不是最恰当的类比；相反，需要广泛认同的多代理定义和协同协议标准，以促进企业中代理化的更广泛渗透和繁荣。
随着企业从单个副驾驶转向包含数十甚至数百个专门化代理的网络，组织应如何决定哪些职责归属单个代理，哪些应保持集中管理？
就像互联网防火墙和安全机制一样，通过实时审计政策并对代理系统实施防护栏来建立信任，应当成为企业内部的集中职能，由公司内部的单一实体定义并维护。所有其他代理系统可以以去中心化方式部署或实现，但这些系统必须向信任系统注册，方可获准运行。
Cognizant在内部部署了一个多代理系统，连接约200个代理，覆盖约35万名员工的组织。如此规模的运营揭示了哪些在小规模试点中难以发现的代理AI特性？
我们必须为可扩展性、可扩展性、成本效率和合理的响应时间进行设计。在如此规模的项目中，往往需要发明一些在用户少、规模小的封闭代理系统中根本不需要的功能。例如，需要使代理间的协同个性化且高效，以避免额外步骤和成本。此外，系统还应能够引入自定义构建的应用以及第三方系统和代理，因此互操作性至关重要，能够节省时间和金钱。
当自主代理能够调用API、访问企业系统、与其他代理通信并以机器速度执行操作时，传统的AI治理将变得更加困难。人类监督应在何处保持强制性，组织又应在何处安全地允许代理独立运行？
我认为，人类监督是否必需的最终决定因素是信任。随着这些系统变得更可信，我们将赋予它们更多自主权，除非法律强制要求（例如，AI缺乏人格），我们将乐于让代理自行决策。因此，衡量信任和风险非常重要，可帮助划定自主与人类监督之间的界限——随着系统变得更可信、风险更低，这条界限可能会逐步移动。
您早期的研究主要聚焦于进化计算以及通过选择和适应进行改进的系统。随着我们尝试构建能够持续改进而非仅执行预定义工作流的代理，进化方法如何与大语言模型和强化学习相互补充？
当今AI的主流仍由梯度下降方法主导，这是一种缺乏创造性的爬坡搜索。进化计算在搜索复杂搜索空间方面极为高效，可与主流方法互补。例如，我们实验室最近取得突破：我们证明进化策略在大多数LLM后训练阶段优于强化学习，以更低成本实现相同或更高质量的模型。进化方法还可能有助于测试时训练（Test-Time Training），该方法旨在让LLM在部署后继续学习。
Cognizant的研究探索了交互代理在合作、竞争、共享知识乃至欺骗策略方面的环境。随着多代理系统日益复杂，涌现行为是否会成为保持企业AI可预测性并与组织目标保持一致的最大挑战之一？
这已经是事实，正如近期备受关注的 OpenAI/Hugging Face 事件所证明的那样。我们可能会认为，受限于提示和上下文，并使用在运行时不学习的 LLM 的代理，其行为会大致保持一致。然而，事实是，代理的环境和动机可能会改变，往往是由于代理自身在环境中的行为导致的，从而产生不可预见的行为。随着多个代理的交互，这种情况更有可能发生，因此我们必须在安全的沙盒环境中观察自主代理，以确定其涌现倾向的范围和规模，并在我们的代理设计和防护措施中加以考虑。我们公开可用的系统 TerraLingua，用户可以在其中引入代理、人工制品，甚至冒充代理并观察它们的个人和集体行为，这是朝此方向迈出的一步。
展望当今的代理 AI 浪潮之外，您认为在实现能够可靠管理长期、复杂目标且最小化人工干预的 AI 系统之前，还缺少哪项技术突破或架构转变？
当今代理的许多局限源自 AI 前沿技术的限制。LLM 在训练后基本固定，无法在遇到新信息时‘改变想法’。LLM 同时承担所有角色和任务，因此需要通过上下文和提示进行预置，对这些预置极为敏感。LLM 的上下文窗口有限，必须为它们产生的每一个词或执行的每一个动作重新提供全部信息。在多代理层面，我认为需要广泛接受的分布式协作协议、信任防护栏和政策，以及交易仲裁系统，才能让代理化的未来充分发挥潜力。
