地图和轨道：为企业AI构建安全架构

第一部分结束时提出了一个说法：企业AI将在机构学会构建循环本身时取得成功。本文讨论的是循环所依赖的基础。一个在真正的公司内部工作的代理需要两件公司几乎肯定今天没有的事情：工作地图和后果轨道。

地图

以下是一个令人不舒服的事实，隐藏在大多数 停滞的AI项目中：公司无法为代理提供对其自身工作的描述，因为这样的描述不存在。大多数公司已经 映射了它们的名词 — 客户、发票、索赔、合同的数据库。但是，几乎没有公司映射了工作：可以对这些事物执行什么操作、由谁执行、在什么条件下以及之后会发生什么。这种知识存在于经验丰富的人的头脑中和一个五年前设计的工作流程图中，而不是今天的工作流程。

新员工通过学徒制来弥补这一差距 —— 观察、尝试、提问。代理不能那样学习。它需要工作被写下来：业务处理的对象和每个对象的当前状态、执行的工作、选择路径的决策、谁可以推进事物、以及当他们这样做时会发生什么 —— 会发生变化的记录、需要的批准、如何撤消。这种书面描述就是地图。

三个规则使地图保持活力。它必须由拥有工作的人编写并由工程师确保安全 —— 只有工程师可以更新的地图会过时，只有操作员可以编辑的地图会变得不安全。它必须有版本，因为代理永远不应该对默默改变的含义采取行动。并且它必须被发布 —— 可以被代理、审查者和审计员阅读。如果代理必须通过拼接API调用来发现您的业务，您就暴露了系统，而不是描述工作。API是执行事物的方式。地图是工作被理解的方式。

地图之所以重要，是因为它超越了任何产品周期的原因：代理不是持久的资产。地图才是。模型会改进并被替换，代理框架会来来去去 —— 而您自己的工作描述，包括其规则、例外和累积的更正，是每个未来代理在第一天继承的东西。

轨道

地图说明了可能发生的事情。轨道使其精确发生。

代理接触的工作中有一部分是判断：阅读混乱的电子邮件、权衡例外、推荐路径。但是，它的大部分是重复 —— 同样的检查、同样的更新、同样的发布，成千上万次。重复不需要智能。它需要精确。模型在设计上是概率的，执行需要精确：支付发布没有可接受的变异，无论模型有多好。稳定的工作属于轨道 —— 确定的自动化，每次运行相同，成本为零，并留下干净的审计痕迹。

这是两个曲线正在分散的地方。构建轨道变得更容易，因为描述工作、生成代码、编写测试和修复破碎的路径正是AI加速的工作类型。部署自由漫游的代理到后果过程中并没有以相同的速度变得更容易，因为代理越接近行动，就越需要边界、证据、批准、审计和所有者。后果很难，且保持困难。因此，让代理探索，让它们帮助您的团队学习工作 —— 然后将每条路径移到轨道上，当它停止变化时。不要因为代理很时髦而将高容量、稳定的工作留在概率循环中。

按照后果治理

地图和轨道就位后，代理接触真正工作之前还剩下一个问题：它应该被允许做什么？行业的习惯是用管道术语回答 —— 代理“使用工具” —— 就像查找策略、计算差异、草拟信件、批准发票和支付它是一种事情一样。它们不是。查找策略的模型与拒绝索赔的模型不同。计算金额的模型与支付金额的模型不同。读取信息、采取立场、准备行动、更改记录和转移资金是不同类型的工作，区别在于后果：当步骤出错时，公司的代价。

治理应该遵循该梯度，而不是管道。只读取信息的工作需要 访问控制。需要人工决定的工作需要推荐。需要更改记录的工作需要许可、审计痕迹、撤消方式和指定所有者。需要转移资金的工作需要所有这些，加上保证半完成的更改不会让公司处于错误的状态。 按照后果治理，AI的安全使用迅速打开；以相同的方式治理一切，你会得到瘫痪或事件。

工作流程中的信任

该梯度也是信任增长的方式。有了地图和轨道，信任不再是对模型的感觉，而成为工作的属性。工作流程 —— 描述的一部分业务，具有来自第一部分的门槛 —— 获得许可，一步一步地攀登同样的梯度：首先它只草拟，接着它可以推荐，接着它可以准备人工批准的行动，接着它可以执行常规案例并升级异常，最终它在审计下运行，人们观察结果，而不是点击每个案例。

每一步都是通过门槛的证据获得的 —— 检查的决定、更正、原因 —— 每一步都是自动的，当性能下降时。更好的模型不会获得行动权。

不要提升模型。提升工作流程。

从一个工作流程开始

这并不需要一个企业范围的程序，它也不应该从那里开始。选择一个具有真实容量、真实错误成本和一个想要解决它的所有者的后果工作流程。映射这一个工作。将其稳定的步骤放在轨道上。设置其门槛。然后将描述与九个简单的问题进行检查：

• 哪些业务对象正在移动？
• 每个对象目前的状态是什么？
• 正在执行什么工作？
• 什么决定选择下一个路径？
• 如果这是批准的，会发生什么？
• 代理可以使用什么？
• 什么是自动运行的？
• 谁提出，谁批准，谁执行，谁负责？
• 如果出了问题，下一次运行之前会发生什么变化？

如果工作的所有者可以回答这九个问题，代理可以在其中安全工作 —— 提出、验证并让轨道执行。如果他们不能，任何模型质量都无法拯救部署。

失败也同样容易识别：一个具有敏感系统访问权限但没有工作地图的聊天机器人。一个可以回答策略问题但无法显示策略来源的检索层。一个可以批准工作但无法说明谁拥有批准的代理。一个可以看到推荐但无法看到批准后果的审查者。由于模型改进而不是工作流程获得信任而被提升到自治的工作流程。

地图、轨道和门槛：这是架构。剩下的问题是如何在一个工作流程中构建它 —— 而这就是 第三部分。