网络安全

人工智能公司Anthropic将内联数据丢失防护功能集成到Claude Enterprise中

mm
将 Unite.AI 添加到您在 Google 上的首选来源

Anthropic于2026年8月5日推出了推理钩子(inference hooks),这是Claude Enterprise的一个beta功能,能够将每个员工的提示通过组织自己的安全服务器进行允许或拒绝的判定,然后再将结果传递给模型。该系统在Anthropic的公告中有详细描述,扩展了安全团队已经在电子邮件和网络流量中运行的内联数据丢失防护功能,应用于聊天、Claude Code和Claude Cowork会话,具有单一的组织级别配置。

到目前为止,Anthropic的唯一原生内联执行功能仅存在于Claude Code的客户端钩子中,这些钩子运行在用户的机器上。推理钩子将检查点移到Anthropic的服务器上,在请求离开客户端并在推理运行之前,因此一个控制点可以覆盖每个受管表面,而无需在用户设备上安装任何内容。

执行路径的工作原理

当受管表面上的用户提交提示时,Anthropic会将对话记录发送到组织的安全服务器,并等待判定结果。如果判定为允许,则继续进行推理。如果判定为拒绝,则请求永远不会到达模型,用户会看到一个由安全服务器返回的原因和组织管理员配置的通知组成的被阻止的消息。每个拒绝都会记录在组织的活动日志中。

同样的检查也适用于工具调用。当Claude调用工具(包括通过MCP连接器、技能和插件连接的工具)时,工具的响应会在返回给模型之前进行检查。这解决了数据移动的另一个问题:不仅是员工粘贴的内容,还包括来自连接系统的敏感材料进入对话。工具响应已经成为一个被关注的攻击面,最近的研究已经强调了代理沙盒逃逸的重要性。

判定结果本身是一个小的JSON对象,服务器必须在可配置的超时时间内(默认为5秒)做出响应,如产品文档中所述。请求在标准Webhooks规范下签名,一旦组织生成签名密钥,安全服务器就可以验证流量是否真正来自Anthropic。

安全服务器可以看到转录文本、工具调用及其结果、以及从附件中提取的文本。它永远不会接收到原始文件或图像字节、系统提示或工具定义。辅助请求,如对话标题生成,会跳过此端点,语音模式也不在此范围内。

构建在现有DLP栈之前

Anthropic并没有出售扫描引擎。该协议基于Webhook,具有已发布的模式,公告中提到了Netskope、Palo Alto Networks (PANW )、Proofpoint和Zscaler作为组织可以指向的钩子目的地,除了内部服务器。安全供应商可以针对已记录的模式构建集成,并让共同的客户将判定结果路由到他们的平台。这种架构颠倒了通常的DLP部署:不是供应商的设备在网络上追踪AI流量,而是AI提供商在每个请求上调用供应商的判定API。Check Point几天前采取了镜像方法,将AI提示检查移到其防火墙中,因此网络层可以截获模型绑定的流量。

部署控制承认,阻止员工在第一天就是DLP程序的死亡之日。影子模式观察实时流量的判定结果而不阻止任何内容,滚动出部分请求,排除某些角色成员的完全豁免。如果安全服务器不可达、出错或超时,组织选择故障姿态:阻止请求或让其不经检查通过。

文档列出了DLP作为最常见的部署,但描述了另外三个:实时转录存档作为Anthropic的合规API的推送式替代方案,在使用时捕获的提示遥测数据,以及在推理之前执行规则(如模型允许列表或项目范围限制)的自定义策略引擎。

beta版本不涵盖的内容

文档中声明的限制定义了当前的范围。判定结果是二元的:服务器可以允许或拒绝一个提示,但不能重写或编辑一个提示。附件以元数据和提取文本的形式到达,因此图像仅内容(例如文档的屏幕截图)不会被检查。推理钩子目前仅在推理之前触发一个钩子事件;计划中的后续事件包括响应侧执行,检查模型返回的内容。并且,该功能仅适用于Claude Enterprise表面:通过Claude平台的API访问不在范围内,运行Claude的Amazon Bedrock或Google Cloud的组织不会受到影响。

这留下了两个活跃模型的检查点竞争。网络层控制可以看到任何通过的流量,但在加密、分散的AI流量面前会遇到困难;像这样的提供商侧钩子可以看到模型将要看到的内容,但仅限于一个供应商的周界内。文档限制了钩子到Claude Enterprise表面,并排除了Bedrock和Google Cloud,而Check Point的防火墙方法则在网络层检查流量。

推理钩子目前以beta版本提供给Claude Enterprise组织,配置由组织的管理员角色控制。提示事件在claude.ai、Cowork和Claude Code会话的网页、桌面和CLI版本中均可使用,Anthropic的文档将响应侧执行作为下一个检查点。

迈尔斯·奥卡达 是 Unite.AI 的人工智能生成分析师,负责人工智能和网络安全领域的报道,重点关注新兴威胁、防御架构以及攻击者和自动化系统之间的演变动态。他的工作研究了人工智能如何重塑安全运营,从自主威胁检测和响应到对抗性人工智能技术的兴起。

以技术和调查的视角,迈尔斯分析安全研究、事件披露和实际部署,以了解人工智能在哪里加强了防御——以及它在哪里引入了新的漏洞。他特别关注模型利用、数据中毒、攻击自动化以及大规模保护人工智能系统的运营现实。

迈尔斯·奥卡达撰写的文章由人工智能生成,并由 Unite.AI 的编辑团队审查,以确保对迅速变化的人工智能安全格局的报道准确、严谨和负责。