Zenity 获得 1.25 亿美元融资，应对企业环境中自治 AI 代理的安全风险

Zenity 已经获得了 1.25 亿美元的 C 轮融资，这是因为企业正在将人工智能代理从受控实验转移到能够访问数据、调用软件工具和完成操作任务的系统中。

诺维斯特（Norwest）领投了这一轮融资，新投资者包括 Qumra Capital、软银愿景基金 2（SoftBank Vision Fund 2）、日立创投（Hitachi Ventures）和 LG 技术创投（LG Technology Ventures）。现有投资者 Vertex Ventures、Third Point Ventures、DTCP 和英特尔（Intel ）资本也参与了这一轮融资。公司没有披露其估值。

这一融资是在 Zenity 去年 10 月份完成 3800 万美元 B 轮融资之后进行的，这使得公司的披露融资总额达到至少 1.8 亿美元。

从 AI 实验到自治系统

这一轮融资的规模反映了企业采用 AI 的方式发生了更广泛的变化。最初的 AI 波主要涉及员工与聊天机器人交互以生成文本、总结文档或检索信息。

AI 代理引入了一个不同的风险水平，因为它们可以采取行动。根据它们的权限，代理可能会访问内部数据库、调用应用程序编程接口、更新记录、执行代码、发送消息或启动跨多个企业系统的工作流程。

这将安全问题转变为不仅仅是模型生成不适当的响应。组织必须了解哪些代理已经部署、谁控制它们、它们可以访问什么信息以及它们被授权执行什么操作。

一个代理可以按照设计的方式行事，但如果它具有过多的权限、遇到被操纵的信息或将攻击者的指令解释为合法任务的一部分，它仍然可能会造成安全事件。

Zenity 将其描述为“代理层”问题。其平台旨在检查代理的配置、权限、连接工具、内存和运行时操作，而不仅仅是查看进入模型的提示或生成的响应。

如何保护 AI 代理

Zenity 将其平台分为三个主要领域：可观察性、安全态势管理和检测与响应。

可观察性组件发现和清点了整个组织中运行的代理。这包括嵌入软件即服务平台的代理、在云环境中运行的内部开发代理以及安装在员工设备上的本地工具。

目标是为安全团队提供每个代理的所有者、配置、权限、集成和运行时行为的持续更新图像。这变得越来越重要，因为各个部门和员工获得了在不经过传统软件开发或安全审查过程的情况下创建代理的能力。

Zenity 的治理层在代理进入生产环境之前评估其配置和权限。策略可以用于识别过度访问、不安全的集成或可能允许代理超出其预期角色的工具。该平台可以在代理随时间变化时继续检查这些控制。

在运行时，Zenity 分析代理的执行路径，包括其工具调用、内存访问、数据使用和与其他系统的交互。该公司表示，它可以使用此上下文来允许、修改或阻止操作在其发生之前。

这种方法旨在区分正常请求和看似正常的请求，但实际上受到恶意内容的影响。它还解决了提示过滤的一个重要限制：危险的结果可能来自一系列单独无害的操作。

覆盖 SaaS、云和员工设备

Zenity 正在尝试为分散的代理生态系统提供一个共同的安全层。

对于软件即服务环境，它支持与 Microsoft 365 Copilot、Microsoft Copilot Studio、ChatGPT Enterprise 和 Salesforce (CRM ) 代理力等平台相关的代理。这些系统可以为代理提供访问业务文档、客户记录、通信和工作流程的权限，这些工作流程由企业不完全托管或控制。

该平台还支持使用 AWS Bedrock、Azure AI Foundry 和 Google Vertex AI 等服务构建的自定义代理。Zenity 监控这些代理调用哪些工具和云服务，并在开发和执行期间应用策略。

第三个领域涉及基于设备的代理，例如编码助手、桌面应用程序和代理浏览器。这些工具可以在员工的认证环境中运行，可能会继承对文件、浏览器会话和连接服务的访问权限。

将这些环境纳入一个系统可能会简化治理，但也会带来重大的技术挑战。软件即服务协同程序的架构、权限和遥测可能与自定义云代理或本地安装的编码工具大不相同。

安全研究强调了新兴威胁模型

Zenity 通过 Zenity Labs 进行的研究支持了其产品开发，研究了如何通过不受信任的内容操纵自治系统。

其 AgentFlayer 研究检查了涉及广泛使用的企业 AI 平台的零点击和单击攻击链。演示包括通过电子邮件、文档、支持案例或协作工具传递的恶意指令，导致代理暴露信息、滥用连接工具或改变其响应。

最近的研究检查了 Perplexity 的 Comet 代理浏览器。Zenity 研究人员演示了如何使用隐藏在日历邀请中的指令来影响浏览器，而浏览器正在执行例行任务。在一个场景中，受损的代理导航了一个未锁定的 1Password 网页密码库，并通过普通的网络请求传输了凭据。

研究将此问题归因于代理遇到的第三方内容与用户意图之间的隔离不足。由于代理已经在用户的认证浏览器会话中运行，因此它可能会使用用户已合法授予的访问权限。

这些演示说明了为什么代理安全不能仅仅依赖于检测明显的恶意提示。指令可能隐藏在代理预期读取的数据中，而产生的操作可能类似于正常的浏览、文档检索或应用程序活动。

它们还强调了在代理推理被操纵时仍然可以执行的边界的重要性。

为全球扩张和产品开发提供资金

Zenity 表示，其收入在过去两年中每年增加三倍，并且今年有望再次增加三倍。该公司报告称，其许多客户都是在金融服务、医疗保健、制药、制造和能源等受监管行业中经营的财富 500 强和全球 2000 强企业。

它目前拥有 230 多名员工，研究和开发中心位于特拉维夫，市场和运营功能由纽约领导。

C 轮融资将用于加速产品开发、扩大 Zenity Labs 并加强公司在欧洲和亚太地区的存在。它还将为 Zenity 提供额外的资源来支持日益多样化的企业 AI 基础设施中的代理框架。

这一扩张发生在公司之前的机构轮次之后不到两年，公司当时仍然强调其在低代码和无代码应用程序安全方面的起源。其当前定位反映了这些早期问题的演变：曾经可以构建简单业务应用程序的员工现在可以创建能够做出决定并操作连接系统的代理。

AI 代理安全成为一个独立的类别

Zenity 的融资表明了投资者对 AI 代理安全可能发展成为一个重要的网络安全类别的信心，而不是仅仅成为现有云、身份或端点产品中的一个功能。

支持这一类别的理由是传统工具通常只能看到代理活动的一部分。云安全平台可以检查基础设施，身份系统可以管理权限，端点产品可以检测操作系统级别的威胁。它们不一定了解代理的预期角色或工具调用链与用户的原始目标之间的关系。

Zenity 仍需要证明其基于意图的控制可以在快速变化的框架中运行，而不会产生过多的警报、阻塞合法工作或添加不可接受的延迟。它还必须证明企业会购买单独的代理安全平台，而不是依赖主要云和软件提供商添加的控制。

然而，市场机会变得更加明显。随着代理访问敏感数据并开始控制重要的业务流程，组织将需要比事件发生后仅仅有事件记录更强大的机制。他们需要能够识别代理、限制代理的行为并在意外操作成为安全事件之前进行干预。

Zenity 的 1.25 亿美元 C 轮融资为公司提供了追求这一角色的重要资源，因为安全团队正在为一个日益被自治软件填充的企业环境做准备。因此，Zenity 的平台对于识别存在的代理、限制其行为以及在代理采取意外行动之前进行干预至关重要。