企业人工智能需要先积累上下文，才能获得自主性

设想一下：现在是周一早上，距离季度预测会议还有几个小时。一位财务负责人问一个人工智能智能体：“毛利率为什么下降了？哪些假设需要调整？公司接下来应该怎么做？”几秒钟内，智能体便从多个系统中提取信息，找出几个关键驱动因素，并建议削减可自由支配支出或重新审视招聘计划。它给出的回答清晰、详尽、听起来也合情合理。这个回答看起来没有明显的问题。

这正是它如此危险的原因。 

深入调查后，会发现其中遗漏了好几项关键信息。智能体使用了错误版本的预测数据。它没有考虑上一季度一项已获批准的会计调整。它也未能顾及某个地区遵循不同的业务规则。底层数据未必有错；智能体只是不知道组织如何解读这些数据，也不了解各部分之间如何相互关联。问题不在于模型本身有误，以至于换一个模型就能轻易解决。问题在于，模型不了解这家企业的业务。 

企业人工智能的发展很大程度上聚焦于模型能力和智能体自主性。但除非模型理解组织如何定义各项数据，以及这些数据如何与业务运营方式相联系，否则它就无法得出可靠且符合企业实际情况的结论。 

缺失的这一层，就是累积的业务上下文，也就是对企业数据含义的、经过治理的理解：包括数据的定义、关联、假设、计算方式、工作流程、例外情况，以及围绕这些数据随着时间推移不断积累的决策。

这种上下文会在规划、预测、情景建模、差异分析、纠正、反馈、结账工作和获批决策的过程中逐步形成。缺少这种上下文，组织就可能在没有赋予人工智能足够业务理解能力的情况下，便让它承担更多责任，因而无法确保它可靠地履行这些职责。 

人工智能能力的发展正快于企业的准备进度

根据斯坦福大学的《2026年人工智能指数》，接受调查的组织中有88%在2025年使用了人工智能，但几乎所有业务职能领域的智能体部署比例仍处于个位数水平。 

这些数据表明，企业已经能够使用人工智能能力，但许多企业尚未准备好让人工智能承担影响重大的工作。领导者知道企业需要借助人工智能开展建设，但仍需判断自己是否选对了问题层面来着手。

模型能够读取数据，却未必理解业务

基础模型擅长识别模式、综合信息、用自然语言交互，以及探索大型数据集。这些进步意义重大，但模型本身正变得越来越难以形成差异化优势。 

企业面临的更大难题，是教会人工智能理解公司信息的含义，更重要的是，理解这些信息如何用于决策和分析。

围绕人工智能治理的许多讨论都聚焦于数据清理。尽管这是必要的一步，但若要在企业内大规模推广人工智能，仅做到这一点还远远不够。即使是两套干净的数据集，也可能采用不同的定义、时间范围和业务规则。 

IBM《2025年CEO研究》发现，25%的人工智能项目实现了预期的投资回报率，只有16%的项目扩展至整个企业。这一结果反映了更大的实施难题：能够使用模型和数据，并不意味着人工智能系统就能协调组织规则，进而确定应如何使用信息。

更强大的模型很容易采购，而对特定企业的理解则必须逐步构建。 

检索时提供的上下文，并非累积性上下文

在企业人工智能领域，许多被称为“上下文”的内容，仍是在收到请求时通过检索提供的。系统会找到相关文档、记录或数据点，并据此生成答案；下次收到请求时，又会从头开始。 

检索固然有价值，但仅靠检索无法形成累积性的组织记忆。由于几乎没有信息能延续下来，人工智能每次与企业互动时，都可能像个陌生人一样重新认识企业。

这就像每天早上都要为一位才华横溢的新分析师办理入职。分析师懂财务，也知道如何分析数据集，但仍需要了解这家公司如何定义各项指标、哪一版预测数据具有权威性、某项例外为何获批，以及哪些假设一再被证明是错误的。

累积性上下文发挥着不同的作用。上下文不会随着每次提示或规划周期而重置，而是会随时间不断积累。每一次调查、情景分析、纠正、审批和决策，都有助于形成经过治理的组织运营理解。这意味着，后续周期可以建立在前期周期已经确定的内容之上，而不必每次收到提示都重新发现同样的关联、逻辑和工作方式。 

这并不意味着要无限期保留所有信息。对企业有用的上下文必须明确界定范围、可以纠正、考虑权限，并且能够追溯到来源。组织需要保留重要信息，同时确保能够识别并随着时间推移修正过时的假设、临时例外和错误解读。

信任建立在模型之下

模型是AI系统中最显眼的部分，但它很少是决定企业能否信任结果的关键所在。

能力出色的模型可以调查差异、探索可能的解释并提出行动建议。企业能否依赖这些建议，取决于模型周围的架构。

Gartner发现，报告称AI项目取得成功的组织投入最多可达四倍（按收入占比计算），用于数据质量、治理、具备AI应用能力的人才和变革管理等基础领域，超过成效不佳的组织。

受治理的上下文层是这一基础的一部分，位于源系统、模型和业务行动之间。

智能与确定性也必须在此处分开。AI可以调查、起草并提出建议。某项行动经过审核和批准后，执行就应通过受治理的计算、权限检查、写回控制和审计跟踪来完成。让模型能够灵活探索的特性，在落实业务变更时未必合适。

模型可以建议应该采取什么行动。周围的架构，包括人工审批和系统控制，则决定实际允许采取什么行动。

让智能体发挥作用的约束

智能体的部署速度正快于配套控制措施的完善速度。KPMG发现，部署至少部分AI智能体的组织占比从2025年第一季度的11%上升至第三季度的42%。然而，Gartner报告称，只有13%的组织强烈认同自己已建立适当的智能体治理结构。

这一差距很重要，因为能力和权限是两项独立的设计决策。系统在技术上或许能够访问数据库、修订预测或触发工作流，但这并不意味着它应该获准独立执行这些操作。

在委派重要工作之前，组织应施加三项约束。

• 统一认知

在智能体能够基于这些信息进行一致推理之前，必须先统一定义、指标、层级、财年日历和计算规则。

不应指望AI悄无声息地解决组织自身尚未处理的分歧。缺乏统一认知时，它可能会把相互冲突的定义视为可以互换，从而给出逻辑连贯、但在运营层面错误的答案。

• 确定哪些信息应延续使用

组织必须明确哪些纠正、审批、决策和结果应成为可重复使用的上下文，还需要制定有关保留、访问和纠正的政策。

有用的记忆需要经过筛选和治理，而不是不加区分地累积。否则，过时的假设或一次性例外就可能悄然改变未来的建议。

• 将建议与实际执行分开

分析、提出建议、拟议变更、经人工批准后执行，以及受限的自主执行，代表不同的权限级别。智能体应具备与各级别相适应的身份和权限。

评估还必须覆盖完整的行动链：检索了哪些信息、使用了哪些上下文、调用了哪些工具、发生了哪些变更，以及这些变更能否撤销。

只测试最终答案，会忽略智能体工作流可能出错的大多数环节。

能力说明智能体能做什么，治理则界定它获准做什么。

自主性不止需要能力

在开篇提到的利润率情境中，只有当系统还知道哪一版预测具有权威性、哪项例外已获批准、自己可以采取什么行动，以及由谁继续承担责任时，速度才有价值。

我认为，只有能够延续使用恰当的上下文，并说明自己如何得出重大结果，企业AI才能赢得信任。

组织应先构建这一上下文与控制层，再扩大智能体的自主权。工作方式会改变，但问责责任不会改变。