AI 模型与平台

Anthropic 宣布企业前沿保障(Enterprise Frontier Safeguards),客户持有数据

mm
将 Unite.AI 添加到您在 Google 上的首选来源

Anthropic 于 2026 年 9 月 1 日宣布了企业前沿保障(Enterprise Frontier Safeguards,简称 EFS),该产品将零数据保留的隐私与通过在客户而非 Anthropic 控制的云基础设施中存储活动数据来实现的自动化误用检测相结合。系统将于 2026 年秋季后期分阶段向客户推出。

Anthropic 表示,Mythos 级别的模型,例如 Claude Fable 5.1,在智能和代理能力方面有了显著提升,而这种提升也带来了误用和自主不当行为的潜在风险。公司称已看到大量针对 AI 模型的误用尝试证据,范围从常见的欺诈等滥用到包括自主实施破坏性行为的高级网络攻击。一些案例涉及企业客户凭证的盗窃或挪用,Anthropic 指出,如果无法监控流量并发现异常行为,这类情况很难被检测到。

Anthropic 表示,最为复杂的误用可能涉及跨多个会话和账户的众多任务,因此对每一次交互单独进行自动化分析并立即丢弃数据并不足以应对。有效的检测需要在合理的时间内保存数据,以便能够跨时间和账户进行关联。基于此,公司在 Fable 5 开始引入了 30 天的数据保留。Anthropic 说明此政策并非出于对企业数据进行训练的意图,并声明从未在未经明确许可的情况下使用企业数据进行训练,未来也不会如此。

Anthropic 称,受访的企业普遍认识到数据保留在安全性方面的价值,但许多企业,尤其是受监管行业的企业,发现使用受数据保留约束的模型存在困难。Anthropic 表示,EFS 的设计正是为这些客户提供零数据保留的隐私,同时兼具跨时间和账户监控的检测优势。

与超过 100 家企业客户共同设计

Anthropic 表示,EFS 是在与超过 100 家来自金融服务、医疗保健、制造、电信、法律、零售以及公共部门的客户,以及其云合作伙伴 Amazon Web Services、Google Cloud 和 Microsoft Azure 紧密合作下开发的。反馈来自将负责运行该系统的安全、产品、合规和交付团队。

参与的一个组织是系统性风险分析与韧性中心(Analysis and Resilience Center for Systemic Risk,简称 ARC),其成员包括美国最大银行的首席信息安全官,如 Goldman Sachs、Morgan Stanley、Citi、Bank of America 和 Wells Fargo。Anthropic 还表示与包括 Comcast、KPMG、Mastercard、Salesforce 和 Visa 在内的公司领导者合作,讨论范围覆盖了《财富》100 强的四分之一、所有美国全球系统重要银行以及几乎所有受监管行业。

“Enterprise Frontier Safeguards 正好满足了我们的需求: 我们的日志保存在 Wells 管理的环境中,并使用 Wells 管理的密钥,” Wells Fargo 表示,并补充称在 Anthropic 进行检测的同时,它仍保有数据的托管权。

控制机制的工作原理

EFS 围绕三项控制进行组织。在监控方面,当系统检测到需要关注的模式时,信号会直接发送给客户,由客户的工作人员审查自动系统检测到的内容。Anthropic 表示,企业长期以来已对内部风险进行监控,现在希望将此类监控扩展到代理人,关注点在于自动化监控系统是否符合其监管标准。

在存储方面,用于监控的活动数据可以保存在客户自己的云账户中,例如 Amazon S3、Azure Blob Storage 或 Google Cloud Storage,并使用客户自己的加密密钥、访问策略和审计日志。Anthropic 表示,客户希望数据存放在他们可控制的基础设施中,而不是再引入另一个受信任的数据供应商,因为后者会需要通知其自身客户并更新合同。

在审查方面,自动系统会对滚动窗口的流量进行分析,以捕捉严重误用的信号,包括开发攻击性网络或生物能力的尝试以及被盗或泄露凭证的迹象。标记会直接发送给客户,无需 Anthropic 员工进行人工审查。Anthropic 说明,许多客户,尤其是受监管行业的客户,遵循严格规定,限定哪些人可以查看特定信息,例如特权法律材料、非公开信息和药品安全报告,而他们的团队已接受相应培训并获得审查资格。

客户自有存储、客户管理的加密密钥以及全自动审查均为可选项,且这些选项不会改变模型行为、API 定价或速率限制。无论客户是直接通过 Anthropic 访问 Claude,还是通过云合作伙伴:(如 Amazon Web Services、Google Cloud 和 Microsoft Azure)访问,都采用相同的控制方式,活动数据存储在其自有云账户中。Anthropic 表示,还在努力支持为符合 EFS 条件的客户提供的第三方解决方案。

定价、平台与可用性

Anthropic 对 EFS 不收取费用。选择将数据存储在自有云账户的客户,其存储、读取、写入以及数据外流费用由其云服务提供商按照常规资源计费方式收取。

EFS 将在 Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、AWS 上的 Claude Platform、Google 的 Agent Platform 以及 Microsoft Foundry 上提供支持。

Anthropic 表示,分阶段的推出计划旨在于 2026 年秋季后期让 EFS 广泛可用。在 EFS 准备就绪之前,符合条件的客户将在 Fable 5 和 Fable 5.1 上获得零数据保留。Fable 5.1 已在所有三大云平台以及 Claude API(claude-fable-5-1)上普遍可用。客户可通过 Anthropic 的 请求表单申请访问 EFS。

Aiden Cross 是 Unite.AI 的 AI 生成策略师,负责 AI 产品策略、执行和将实验模型转化为可扩展、市场就绪产品的实际挑战。他的工作重点是如何让初创公司和企业团队从原型和演示转变为可靠的系统,供真实客户使用。
具有实用和注重细节的视角,Aiden 分析产品路线图、上市策略、平台决策和组织权衡,以确定 AI 计划是否成功或停滞。他特别关注部署现实、用户采用、基础设施约束和技术能力与商业价值之间的对齐。
Aiden Cross 撰写的文章由 Unite.AI 的编辑团队审阅,以确保清晰、准确和负责地报道 AI 产品的构建、交付和扩展。