大多数公司关于 AI 代理的误解

跨行业，AI 代理被宣传为无缝、直接替代人类工作流程的解决方案，承诺瞬间提高效率。但现实情况远比这复杂。我们仍处于采用这些系统的初期阶段，它们的成功取决于周密的部署、强大的数据基础和持续的人类监督。

最新的 2025 斯坦福 AI 指数报告显示，虽然 AI 驱动了各行业的可衡量的生产力增益，但组织同时报告了日益增长的可靠性风险和持续的业务监督缺口。2025 年的调查数据强调了对输出错误和幻觉的担忧急剧增加，并揭示了虽然高层 AI 治理成熟度正在改善，但系统级别的保障和风险缓解仍然落后。

那些将在这个代理时代蓬勃发展的团队并不是将新技术塞入他们的堆栈并希望转变神奇地出现。他们正在放大视野，以重新思考工作应该如何流动，将代理 AI 视为战略机会来重新设计他们的运营模型，而不是快速解决方案。

在 Quantum Metric，一位副总裁直言不讳：“每当我花一个小时完善代理时，我会得到很多小时的回报。”AI 第一团队理解这种复合效应。代理成为生产力的倍增器，当他们被正确部署、训练和评估时。他们是团队成员，而不是你设置并忘记的工具。

然而，许多组织陷入了三个可预测的陷阱。

1. 将 AI 代理设置为失败

代理并不关乎瞬间解决问题；他们的真正力量在于扩大已经有效的策略。然而，许多公司在这些策略（或它们背后的数据）稳定之前就部署了它们。

代理不能在没有基础知识、培训和数据卫生的情况下独立操作。这与为新员工提供培训一样：你不会给他们一台笔记本电脑然后希望他们能做到最好。

他们需要明确的目标、权威数据源、定义的标准和治理护栏，以了解业务及其在业务中的角色。

Gartner 的 AI TRiSM 市场指南强调了这一点：组织必须清点 AI 系统，分类和保护其底层数据，并在所有用例中执行策略。Gartner 特别强调了运行时检查和策略执行对于防止漂移、不对齐或高风险决策的重要性。

如果您的数据不准确、不连贯且没有持续维护，您的代理不仅会无效，还会自信地错误。

这就是早期采用者团队与众不同的地方：他们将代理视为需要故意入职的系统，而不是在后台神奇地学习的自动化。他们投资于结构化的知识转移、强化循环和持续评估。他们理解代理的性能反映了周围环境的质量。

2. 低估自动化中的人类角色

关于代理的对话往往陷入一个虚假的二元对立：人类与机器。但在实践中，绝大多数代理将增强人类工作，而不是取代它。

训练、监督和迭代 AI 代理是熟练的劳动力，对这种专业知识的需求正在迅速增长。

斯坦福全球负责任 AI 调查发现，采用 AI 的组织将数据治理、可靠性风险、监督和安全控制列为他们的首要关注点，这表明人类判断在代理整个生命周期中仍然至关重要。

正如 McKinsey 强调的，经理的角色正在从管理人员转变为管理系统：人类和代理并肩工作的生态系统。领导力的未来在于编排混合团队，确保一致性，并不断调整性能。

这种转变需要一种新的管理技能：领导者必须知道如何“指导”代理，审计他们的推理，诊断故障模式，并纠正行为。在很多方面，管理代理更类似于管理一名高绩效分析师，而不是一件软件。它是迭代的、关系的和持续的。

那些在代理方面表现出色的团队不会问：“我们如何自动化这个人类？”

他们问：“我们如何重新设计这个工作流程，以便人类和代理相互提升？”

这种合作而非对抗的思维方式是区分有意义的投资回报率和表面层次实验的关键。

3. 忽视运营和伦理护栏

负责任的部署是关键。代理快速行动并做出有后果的决定，就像人类员工一样，有时速度更快，规模更大。

公司经常低估与自主决策相关的运营、合规和伦理风险。但是这里的盲点可能会产生连锁故障。

NIST AI 风险管理框架 提供了明确的指示：组织必须在整个 AI 生命周期的每个阶段评估 AI 风险、财务风险、声誉风险、网络安全风险和隐私风险，并在整个过程中嵌入保障措施。

换句话说，AI 治理必须是结构性的。它不能是一个事后补救措施。

Gartner 也强调了这一紧迫性。他们的指导方针强调了运行时监控、对齐检查、异常检测和主动验证的必要性，以防止幻觉、违反政策或不一致的推理。

在没有检查组织技术栈、治理模型和风险态势的情况下匆忙实施，将会引入比解决的问题更多的问题。

这就是为什么最先进的公司以双重使命运作：快速部署，但治理更快。他们将创新与纪律结合起来。他们将代理 AI 视为需要安全、可靠性工程和透明决策跟踪的不断演化系统，而不是允许其不受控制地运行的黑盒。

代理 AI 已经开始发挥价值的领域

跨行业，早期采用者正在发现代理在高容量、规则驱动、上下文重的工作中表现出色，在这些工作中，实时决策会放大性能：

• 在客户服务中，代理可以处理分诊、总结问题、提出下一步最佳行动并智能升级，同时保持上下文。
• 在运营中，他们可以监控工作量、标记异常、修复常规问题并为人类操作员提供决策支持。
• 在销售和营销中，代理可以管理入站线索资格、路由对话、协助个性化并确保没有事情掉队。他们还可以自主地通过电子邮件培养入站线索并预订会议，帮助团队跟上买家意图而无需增加手动负担。

在所有情况下，代理都在人类专家提供策略、上下文和治理时表现出色，而在这些元素缺失时则会崩溃。

下一个前沿：建设 AI 准备就绪的组织

AI 代理对于现代劳动力来说不是如果而是一个何时的问题，区分成功和挣扎的团队的关键在于一个方面：参与度。

他们不断测量、调整、评估、改进和重新训练。他们建立了人类和代理合作而不是竞争的文化。

斯坦福 AI 指数指出，虽然 AI 可以加速生产力和科学进步，但也会提高安全性和可靠性风险，要求组织在监督、风险缓解和治理方面进行投资，就像在模型开发方面一样积极。

成功的公司通常采用三种习惯：

1. 他们以可见性运营。

他们指示代理解释决策、表面推理和暴露故障模式。

2. 他们将治理视为赋能。

护栏加速规模；它们不会减慢速度。

3. 他们投资于人类“控制塔”。

他们建立了监督、验证和审计代理的团队，就像他们处理任何高风险系统一样。

为有意义的投资回报率奠定基础

AI 代理确实可以革命性地提高生产力，但只有当基础牢固且推出是故意的时才会如此。这需要：

• 准确且相连的数据
• 结构化的入职
• 透明的治理
• 人类在循环中的监督
• 持续的改进
• 混合团队的一致性

将代理视为合作伙伴而不是捷径的组织将是解锁代理 AI 可以提供的复合回报的组织。

代理时代是关于重新设计系统，使人和代理相互提升对方的优势。而今天愿意做这项工作的公司将定义明天的生产力前沿。