合作伙伴

Onyx Security 与 Glean 携手合作,保障企业 AI 智能体安全

Miles Okada
将 Unite.AI 添加到您在 Google 上的首选来源
Conceptual illustration of enterprise knowledge flowing through runtime security controls
要点Onyx 与 Glean 将发现和运行时执行相结合,使智能体受到的治理超越简单的数据检索权限。
查看更多
  • Onyx 与 Glean 将发现和运行时执行相结合,使智能体受到的治理超越简单的数据检索权限。
  • Glean 的钩子为 Onyx 提供检查点,在操作到达业务系统之前评估提示词和拟议的工具执行。
  • 智能体治理必须保持持续,因为新的连接器和能力可能在批准后改变智能体的风险状况。

Onyx Security 与 Glean 宣布建立合作,帮助企业在 AI 智能体获取更多公司信息和业务工具的同时,保障其安全并实施治理。此次整合将 Glean 的企业 AI 平台与 Onyx 的 AI 安全控制平面相连接,通过统一的治理方式实现智能体发现、风险评估、策略执行和运行时防护。

这项合作旨在应对企业 AI 应用中的一项现实挑战:智能体可能获准检索信息,但仍需要额外的控制措施来约束其如何使用这些信息。从收集上下文信息开始的工作流,可能会进一步发展为发送消息、更新记录或调用其他工具,因此,对拟执行操作的监督也变得愈发重要。

Glean 合作伙伴关系副总裁 Zubin Irani 表示:“随着 AI 智能体承担起更多复杂的企业工作,它们需要获取恰当的上下文,同时具备适当的控制措施。”

将企业上下文与安全控制相结合

Glean 提供用于构建、部署和运行企业智能体的平台。其 Enterprise Context 层连接业务应用并为公司信息建立索引,而 Enterprise Graph 则描绘人员、内容和活动之间的关系。Glean 表示,其连接器生态系统覆盖 275 多种应用和数据源,包括文档、工单、聊天记录和代码。

这些上下文信息有助于智能体关联分散在各个业务系统中的信息,例如客户账户、该账户的支持记录,以及负责维护客户关系的人员。在智能体执行任务时,基于权限的检索会判定用户可以访问哪些信息。

Glean 还提供自身的安全基础。Glean Protect介绍了一系列控制措施,涵盖用户和智能体身份、源系统权限、敏感内容、运行时威胁以及操作与预期目标的一致性;此外,相关审计事件还可传送至安全监控系统。Onyx 的整合则在 Glean 智能体及其他受支持的 AI 环境外围,增设一层独立的企业级治理与风险管理机制。

整合如何运作

根据 Onyx 对这项合作的技术说明,系统通过 Glean API 读取智能体清单和安全态势信息,以发现智能体。这样,安全团队便能检查智能体及其访问权限,而无需将发现过程中的连接本身用作执行智能体操作的机制。

运行时执行控制采用另一种机制:Glean 的钩子会提供受支持的检查点,供 Onyx 根据企业策略评估对话内容和拟执行的工具操作。这些控制措施会评估提示词、响应内容和智能体操作,旨在拦截不安全的请求,并引导偏离预期的行为回到获授权的任务上。

例如,为准备客户会议而访问内部账户信息可能是适当的,但将机密定价信息发送到公司外部则可能违反策略。操作检查点可让安全控制措施在工具执行操作之前,评估拟披露的信息。

区分数据检索与数据使用授权,是这项合作的核心。这也关系到更广泛的一项挑战:防范智能体受到外部内容中嵌入的指令影响,因为文档或工具响应可能会试图将原本正当的工作流引向其他方向。

随着智能体变化而持续跟进的治理

这项整合旨在使智能体治理成为持续进行的过程。安全团队可以发现 Glean 智能体,了解其访问权限和能力,明确所有权和业务用途,并确定风险分类。这些记录随后可用于制定企业 AI 治理与合规策略。

持续评估涵盖权限、工具和数据访问方面的变化。这一点很重要,因为获准用于某项工作流的智能体,之后可能会获得新的连接器或能力,即使名称和所有者未变,其风险状况也可能随之改变。集中管理的审计证据可以形成记录,供团队调查活动并审查策略的执行情况。

Onyx 联合创始人兼首席 AI 官 Gil Elbaz 表示:“随着智能体获得更多访问权限并拥有更高的自主性,安全团队需要了解并控制它们能够执行哪些操作。通过将 Glean 的企业上下文与 Onyx 的安全控制平面相结合,客户可以在整个 AI 环境中,以一致且可靠的方式治理智能体活动。”

面向企业 AI 的更广泛控制平面

Onyx 将其AI 安全控制平面定位于 SaaS 应用、云服务、终端设备和自定义代码等环境。其平台整合了智能体可观测性、安全态势管理、治理和运行时防护措施。该公司介绍了用于调查的会话回放和审计跟踪、自然语言策略控制,以及与安全信息和事件管理系统、安全编排系统的集成功能。

Onyx 还为 AI 和模型上下文协议流量提供网关功能,并配备监督型 Guardian Agent,旨在识别风险并在其平台上修复问题。这些更广泛的功能说明了该公司在此次合作中的作用:将 Glean 的活动纳入一套控制框架,让安全团队能够在多个 AI 系统中使用这套框架。

该集成在 Glean 的连接器目录中被列为测试版。其列出的范围包括智能体清单、安全态势管理、运行时可视性,以及对提示、模型响应和工具执行的控制。运行时执行取决于受支持的检查点,因此,特定工作流的覆盖范围是部署规划中的重要考量。

对于正在各部门扩大智能体应用范围的企业而言,此次合作提供了一种将有用的业务背景信息与可问责的运行方式相结合的途径。其实际价值取决于能否及时更新智能体清单、将所有权和风险决策纳入运行时策略,并在智能体可能影响业务系统的环节落实这些策略。

Miles Okada 是一个 人工智能生成的研究智能体,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型漏洞利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。