阿里·萨拉菲，Kovant 首席执行官兼创始人 – 采访系列

阿里·萨拉菲，Kovant 首席执行官兼创始人，是一位位于斯德哥尔摩的资深技术和人工智能高管，具有建立和扩展高增长人工智能公司的成功经验。自 2024 年末创立 Kovant 以来，他利用在企业人工智能战略、市场执行和运营扩展方面的深厚经验。之前，他曾在 Silo AI担任战略副总裁，负责制定企业人工智能战略和推动大规模采用。在此之前，他曾共同创立 Combient Mix，并领导该公司经历快速增长和被 Silo AI 收购，并曾在教育和人工智能初创公司担任顾问和董事，反映出他致力于将先进的人工智能转化为现实世界的商业影响的承诺。

Kovant 是一家企业人工智能公司，专注于使组织能够从实验性人工智能使用转变为完全运营的自治商业流程。该公司开发了一种基于代理的平台，旨在协调复杂运营领域（如采购、供应链、合规和客户运营）中的人工智能代理。通过强调安全、企业级别的部署和快速的价值实现时间，Kovant 将自己定位为战略性人工智能雄心和日常执行之间的桥梁，帮助大型组织将人工智能直接嵌入核心工作流程，而不是将其视为独立工具或试点项目。

您曾在 Spotify 领导主要的人工智能计划，在 Combient Mix 扩张和退出，并在 Silo AI 制定企业人工智能战略，然后创立 Kovant。在这些角色中，您遇到了哪些特定的差距或挫折，促使您认为是时候建立一个自治企业平台了？Kovant 的核心设计理念如何受到这些经历的影响？

在我之前的角色中，几个一致的差距不断出现。首先，大多数“垂直”人工智能工具实际上被困在单一软件栈中：它们在该边界内做某一件事略微好一点，但是一旦工作流需要跨越多个系统，它们就会挣扎。同时，企业数据分散在许多工具中，许多自动化解决方案根本无法访问这些数据。加上多年的点对点集成，您就会得到经典的意大利面条式架构：复杂性增加，变化变得更慢，团队最终会自动化个别步骤，而不是重新想象工作流的末端。

Kovant 的设计就是对这种现实的回应。我们的核心理念是，代理应该表现得更像雇员：它们可以跨多个工具工作，被“雇佣”来完成任务，而不是仅仅自动化单一的预编写脚本。因此，集成和编排功能被内置，我们假设企业数据通常是混乱和无结构的——它需要更像人类的方法来处理异常和模糊性。

我们使用基础代理来实现速度和规模，同时将数据主权放在首位：企业可以在不离开其场所的情况下横向访问和使用自己的数据。

Kovant 将自己定位为能够运行整个运营和部门的自治企业平台。您如何在企业环境中定义“自治”，以及这与公司今天正在尝试的自动化和代理工具有何不同？

在企业环境中，当我们说“自治”时，我们的意思不是“无监督”。我们是指人工智能代理可以在整个运营中端到端地采取真正的行动，具有明确的目标和防护栏，并在需要监督时升级到人类。

使 Kovant 与众不同的，是我们的基础代理。与其自动化单一的固定流程或遵循预先构建的序列，Kovant 代理可以使用仅仅是指令和我们称为蓝图的运营概述，作为一个团队（或群体）在一个运营中工作。它们不是为单一狭窄任务而设计的；它们可以协作解决复杂的工作流程，适应不断变化的条件，并在情况需要时将任务交给人类。

例如，库存管理代理团队可以在不需要从头开始构建的情况下执行以下所有任务：通过电子邮件与供应商进行通信，监控库存水平和缺货信号，跟踪发货和采购订单，跨系统更新状态，创建库存规划师批准的差异票，重新分配仓库之间的库存，并整合库存报告。

因此，转变是从“聊天 + 工具”或脆弱的自动化（在规模上会破裂）到企业从构建代理转变为在规模上运行它们。

尽管人们对代理人工智能非常感兴趣，但许多组织仍然停留在试验模式。根据您在实际部署中看到的情况，公司在将代理人工智能从实验转变为大规模生产时遇到的主要原因是什么？

我们看到的大多数组织并不是因为想法本身而陷入试验模式；它们陷入试验模式是因为环境对扩展不友好。

第一个阻塞器是企业技术景观的碎片化。工作流程跨越多个系统，数据存储在多个地方，将所有内容可靠地连接起来很困难。代理人工智能通常被添加到现有工具中，而不是重新思考工作流程应该如何运行。

还存在真正的架构和数据问题。许多 SaaS 供应商仍试图锁定数据，从而在系统之间创建不兼容性，并限制代理可以执行的操作。许多团队低估了大多数企业数据是无结构的（电子邮件、文档、票据、PDF、聊天记录）这一事实。如果您的方法假设干净、结构化的数据，价值实现时间就会变得漫长、痛苦、难以复制超出试验范围。

简而言之：碎片化、锁定和无结构数据会产生阻力——直到这些现实得到解决，试验永远不会转变为生产。

可靠性通常被认为是部署人工智能代理在现实世界中的最大阻碍。为什么许多代理系统在离开受控环境后会失败，而 Kovant 的方法如何减少幻觉和不可预测行为等问题？

一些代理系统在演示中看起来很好，但在现实世界中会失败，因为环境是混乱和不可预测的。数据不完整或不一致，边缘情况不断出现（退款、争议、特殊批准）。工作流程跨越多个工具、平台和随时间变化的集成，权限也各不相同。当人工智能代理被要求处理大任务并一次性获得太多上下文时，幻觉和奇怪行为的风险会增加。

Kovant 通过设计减少了这一问题。我们的独特架构缩小了模型工作的问题空间、决策空间和上下文，从而减少了幻觉。我们还将操作分解为狭窄、专注的任务，每个代理和每个步骤都有明确的权限和有限的影响半径。这使得行为更加可预测，并且使性能更容易监控和改进。

我们还添加了三个东西：可观察性、操作日志和人类守门。代理执行的所有操作都应是可追踪的，因此您可以检查发生了什么并快速调查。对于高影响或高风险的操作，我们在工作流程中添加了一个人类审批步骤，因此代理可以提出和准备，但只有在有人签署后才会执行。

这使事情进展顺利。如果需要，人类监督步骤只会稍微减慢速度，但这是过程中的一个重要部分。人类不必监督每个点击，但他们仍然控制着重要时刻。结果是安全时的速度和必要时的监督。

可解释性是人工智能代理开始在业务系统中采取真实行动时的一个主要问题。详细的操作日志如何改变围绕信任、合规性和运营风险的对话？

通过详细的操作日志，我们可以看到发生了什么、为什么会发生以及接下来会发生什么。

详细的日志将代理从一个神秘的机器人变成一个可以检查的系统。

在 Kovant，我们的任何人工智能代理部署都会有一个风险地图，组织可以采取行动，我们内置了对高风险操作的人类守门，这意味着代理只能在人类审查和批准决策后执行这些任务。所有这些都以与系统记录相同的方式记录和可追踪。

我们认为，将操作日志与人类监督和可观察性相结合以最小化风险至关重要。这意味着您仍然可以获得代理运行实际操作的速度和规模的好处。

关于人工智能代理是否可以被保险的讨论越来越多，因为它们的决策过程不透明。通过使代理工作流程可审计和可重现，如何解决“黑盒”问题并打开通往可保费性的大门？

“黑盒”问题使得保险变得困难。如果您无法清楚地展示代理做了什么、为什么做以及控制措施是什么，那么对于任何人来说，尤其是对于保险公司来说，很难对风险进行定价。

我们的方法基本上是上一个答案中问责性设置的扩展。我们将决策范围和行动的影响分解为更小的块，因此模型不会做出一个巨大、不透明的决定来影响整个操作。每个步骤都更狭窄、更可预测、更容易评估。

我们还添加了详细的日志、可观察性和人类监督。对于最重要和最有影响力的决定，我们使用人类守门，因此代理只能在审查和批准后继续。这样就为工作流程的行为提供了更大的可见性。

使工作流程可审计和可重现是最后一块。 如果出了问题，您可以重现发生了什么，快速调查，验证修复，并展示人类批准的频率和安全措施所在的位置。 在承保方面，这将神秘的 AI 行为转变为更类似于标准的运营风险。

随着诸如代理人工智能基金会（Agentic AI Foundation）等计划旨在为代理系统创建共享标准，您认为这些努力最有前途的方面是什么，以及它们在哪里仍然不足以满足真正的企业运营？

标准化通常是一件好事。AAIF 可以做一些不太光鲜但至关重要的工作，即使代理系统能够使用相同的语言，这应该会使集成更容易，并随着时间的推移减少供应商锁定。

我谨慎的地方是谁的视角塑造了标准。如果大部分工作都是由模型创建者和科技公司领导的，那么存在“标准”优化为最容易构建或演示的东西，而不是大型组织实际需要运行代理的东西的风险。

对于真正的企业运营，差距往往不在连接器上，而在控制上：代理可以访问和改变什么，高影响操作的批准工作流程，审计日志和可观察性，以便团队可以监视行为，调查事件，并证明合规性。企业还需要实际的标准来操作混乱的现实：测试边缘情况，处理不断变化的系统，并能够安全地暂停、包含或回滚操作，跨遗留工具和受监管的数据环境。

所以，这是一个有前途的方向，但影响将受到限制，除非企业要求和运营风险控制不被视为附加内容。

Kovant 已经在大型北欧企业中产生了大量收入，同时基本上处于隐身状态。今天，哪些类型的业务功能或工作流程被证明最适合自治人工智能代理？

从我们在实际部署中看到的情况来看，今天最“准备好”的工作流程是由反应性白领工作组成的工作流程：监控、追踪、检查、更新系统、处理异常并在多个工具中保持运营。

在制造业和更广泛的企业供应链中，这些工作流程体现在以下方面：

• 采购/采购：原材料的可用性、可持续采购、合规运营、供应商选择（包括双重/多供应商）、合同管理、供应商风险管理和投标管理。
• 生产：容量规划、生产调度、维护管理、质量管理、瓶颈管理和损失预防。
• 仓库管理：接收和检查、库存管理、库存轮换（先进先出/先过期先出）、周期计数/审计。
• 运输/物流：模式和承运商选择、海关清关/文件、跟踪和可见性、排放监测和贸易合规性。
• 销售和服务：产品可用性、缺货预防、销售/退货管理、消费者行为分析，以及售后领域，如维修、产品生命周期跟踪、车间运营和服务合同。

当企业在关键运营中部署人工智能代理时，您建议如何平衡自治性与人类监督，以确保控制而不减慢一切的速度？

平衡是由管辖的自治性决定的。你必须让代理快速处理低风险工作，并在明确的防护栏内工作，并在操作跨越定义的风险阈值时升级到人类。

许多失败都是由于给模型过多的范围和过多的上下文一次性给予所致。 我建议将操作分解为狭窄、专注的决策，每个步骤都有明确的权限和有限的影响范围。 这减少了不可预测的行为，使性能更容易监控和改进。

然后你结合三件事：可观察性、操作日志和人类守门。代理执行的所有操作都应是可追踪的，因此您可以检查发生了什么并快速调查。对于高影响或高风险的操作，您将人类审批步骤放入工作流程中，因此代理可以提出和准备，但只有在有人签署后才会执行。

这使事情进展顺利。如果需要，人类监督步骤只会稍微减慢速度，但这是过程中的一个重要部分。人类不必监督每个点击，但他们仍然控制着重要时刻。结果是安全时的速度和必要时的监督。

展望未来，您预计人工智能代理在大型组织内的角色将如何演变，您认为哪些因素将区分成功和挣扎的公司？

在接下来的几年里，自治人工智能代理将从有趣的实验转变为大型组织内真正的运营层。它们将被用于运营、客户服务、财务和人力资源。随着可靠性、治理和监督的改进，我们将看到企业从孤立的试验转变为在端到端工作流程中大规模运行代理团队。

最大的变化是速度、敏捷性、规模、效率和成本将成为更直接的竞争优势。我认为企业即将迎来一场“优步运动”。真正掌握代理人工智能的企业将能够比落后者以根本上更快的速度运营，能够更快地占领市场，并在没有通常的运营阻力的情况下应对变化。

区分赢家和输家的不是部署代理，而是部署得好。管辖的自治、强大的可观察性和操作日志以及缩小决策范围的架构将是这一点的关键。将代理人工智能视为核心运营能力的企业，具有正确的控制、集成和所有权，将使用它来做更多事情，而不是更少的事情。这将使团队摆脱行政工作的束缚，专注于增长和创新。简而言之，根本性的速度和效率将成为企业规模上的真正竞争优势。

感谢您接受这次精彩的采访，希望您阅读本文的读者可以访问 Kovant 了解更多信息。