思想领袖

你的 AI 代理可能会失败,因为它们不了解你的业务

将 Unite.AI 添加到您在 Google 上的首选来源

去年,Absa ,非洲最大的银行之一,需要 120 天的时间来将新的金融犯罪检测模型从构建到生产。虽然当时这接近于行业平均水平,但同一家银行现在可以在 15 天内部署新的模型,即使在相同的监管环境、交易量和合规性要求下。

然而,普华永道的一项调查 发现 ,56% 的企业 CEO 没有从他们的 AI 投资中看到任何显著的财务收益。每一位企业领导者我都听过这样的说法:如果你部署 AI 代理并自动化你的工作流程,你很快就会看到 ROI。但是,18 个月和几百万美元后,业务影响力却不见了。缺失的成分是领域背景,即操作性地理解给代理提供了内部业务决策所需的信息,以及当它出错时该怎么办。

代理停止建议开始行动时

Gartner 估计 ,到 2027 年,50% 的业务决策将由 AI 代理增强或自动化,以实现决策智能。直到最近,AI 在企业中的角色是建议,留给员工做出决定。最坏的情况是错过了一个洞察,延迟了决定,或者没有对警报做出反应。代理的后果要大得多。

在一个全球制药公司的生物制品工厂中,当检查员扫描实验室门时,正确的检查工作流程会自动启动,根据该房间的设备和规格进行定制。代理序列检查,提供参考材料,并让检查员确认。在一个 GxP 监管的工厂中,每次检查必须是审计就绪的,这意味着代理承担了一部分操作负载,在一个如果代理序列错误会产生真正后果的环境中。

大多数今天存在的治理框架是为前一个建议世界构建的:周期性的模型审查,人类检查一个系统的输出。现在我们有代理可以将任务交给其他代理,协调工作流程,并在有人注意到之前将一个坏的早期调用复合到整个过程链中。

为什么通用代理会遇到障碍

一个通用代理在受控条件下看起来可能非常令人印象深刻。然而,在企业运营中,它开始挣扎,企业运营中有约束、相互依赖和判断呼叫,这些对于任何曾经在现场工作过的人来说都是显而易见的,对于一个从未被教导去看它们的模型来说是不可见的。

一家全球前五大食品和饮料公司的类别经理面临着同样的问题,但规模不同:96% 的市场渗透率,没有传统的杠杆可以拉动。类别经理通过统一超过 100 个数据源,跨越每个商店的 1,000 多个属性,并让 AI 模型将商店组装成购物者行为配置文件,使类别团队可以采取行动。结果是什么?三个购物者集群,每周与零售合作伙伴的冲刺,8% 的增量销售额,35% 更快的货架重置。

这是因为代理已经知道什么是 计划ogram ,什么是购物者集群,促销变化如何波及邻近类别。一个通用模型必须被教导行业特定的词汇,这需要 12 到 18 个月的大多数企业没有的时间。

为什么治理必须被架构

大多数企业今天拥有的责任框架是围绕解释模型输出和定期审查而构建的。它们不是为代理触发工作流程中的不可逆转动作而构建的。

我曾与一家在中东欧市场运营的保险公司合作,该公司在做出合规决策时必须考虑每个市场的监管要求。每个客户的尽职调查决策都是一个实时记录,包括输入、模型、输出和签署人员。该公司的 AI 系统可以在一个市场中路由一个符合的交易,但在另一个市场中不符合,而无需合规分析师的手动裁定。

这就是 Absa 能够在 15 天内部署其生产 AML 系统而不是 120 天的相同架构。速度是内置的,因此银行可以立即将每个决策的政策版本交给监管机构。

我们看到的企业在早期投资这些治理层,18 个月后仍然在大规模运行代理。那些将其视为在部署后附加的合规性练习的企业是那些不得不不断重新架构的企业。

领域智能不是微调

能够的基础模型不能可靠地单独提供企业结果,因为它们的设计是广泛有用。企业运营需要深入、狭窄的专业化。混淆这两个已经花费了行业的时间和资源,但它仍然是我看到的最常见的错误。

领域智能不是应用检索增强生成 (RAG) 或微调一个通用模型。它是代理可以处理有关杂货店的信息和理解业务如何在 750 多个商店中构建和部署 5,000 个个性化计划ogram之间的区别,而无需中央团队触摸每个位置。

这种运营流畅来自于多年的领域特定训练数据、围绕真实运营约束构建的决策逻辑,以及一个包括如何影响利润率、如何影响货架可用性以及如何影响购物者忠诚度的知识层。对于一家大型美国杂货连锁店,这种关联推理产生了 2 亿美元的增量利润。

建立这种基础或从已经完成这项工作的合作伙伴那里获得它是一种真正的前期成本,包括数据、领域专业知识和编码机构判断而不是跳过到试点的纪律。如果这种基础是匆忙的,一个看起来在概念验证中领域感知的代理仍然可能在第一个生产边缘情况下崩溃。

真正实现企业代理的含义

继续将有能力的模型放入现有的工作流程中的企业将不得不继续向他们的董事会承认 ROI 没有出现。麻省理工学院 得出结论 ,尽管企业在生成 AI 上进行了投资,但 95% 的组织没有获得任何回报。如果你不想成为其中之一,请在第一天之前建立领域智能,嵌入治理,并让代理为特定的结果负责。

任何给定代理背后的模型是这种等式中最不持久的部分。一个更好的模型将在下个季度发布,来自构建您正在使用的模型的公司或其竞争对手。下一个模型发布时不变的是您的代理是否了解您的业务。您必须故意建立它。您的环境中成功的代理不会是市场上最有能力的通用代理,但它们将赢得您的信任,越来越多地为您的业务做更多事情。

Sanjay Dhawan 是 SymphonyAI 的 CEO,他领导公司在零售、金融服务、制造和 IT 等行业的企业 AI 战略。作为一位拥有超过 30 年领导经验的技术专家和连续创业者,他曾担任 Cerence 的 CEO,并在 HARMAN、Symphony Teleca、Aricent 和 AMD 等公司担任高级领导职务,推动 AI、连接系统和企业软件的创新。