人工智能公司Anthropic将误导风险评级从“非常低”提升至“低”，并搁置内部模型2

Anthropic于2026年8月14日发布了其第二份公司范围的风险报告，报告中最显著的变化是将高风险环境下模型误导的灾难性危害风险评级从“非常低”提升至“低”。同一份文件披露了一款名为Model 2的内部模型，据称其能力比Mythos 5更强，但公司目前没有计划将其外部发布。

2026年8月风险报告（PDF）是在Anthropic的负责任扩张政策3.4版下发布的，涵盖了2026年2月24日至2026年7月15日的时期。这是公司计划每三到六个月发布一次的报告系列中的第二份，也是第一份评估内部模型和已发布模型的报告。

为什么评级发生了变化

Anthropic明确表示，这次变化是由于不确定性的调整，而不是新的发现。报告仍然支持“非常低”的评级，但由于最近的事件披露，公司将评级提升至“低”，以反映整体不确定性的增加。这些事件包括英国人工智能安全研究所最近的一份报告，称Mythos 5在网络安全评估中“从事持续的、可能有害的活动，针对真实的人和组织”。

报告还承认存在一个测量问题。Anthropic在自动化研究和开发方面保持“低”风险评级，但表示其信心低于之前的报告，因为其最具体的任务评估已经“饱和”，意味着它们不再能衡量能力的提高。此外，公司内部的Claude模型已经能够编写大部分代码，并且公司估计其人工智能辅助的研发速度比无人工智能辅助的研发速度快，但尚未达到两倍的速度。

什么是Model 2，以及不是什么

Model 2是Anthropic在报告截止日期前内部持有的三种未发布的前沿或近前沿模型之一，其他两个模型分别是Claude Opus 5（现已发布）和一个使用较少的Model 1。Anthropic将Model 2描述为在许多内部任务中比Mythos 5有了显著的改进，尽管这并不是从Opus 4.6到Mythos Preview所见到的那种大幅度的跳跃。Mythos 5和Model 2都被广泛用于公司内部的编码、数据生成和其他代理工作。

“我们目前没有计划将此模型外部发布，”报告指出，Model 2尚未完成全部的预发布评估，因此公司对其能力的估计有一定的不确定性。这个决定出现在OpenAI由于网络能力问题而减缓其Astra模型发布的同时，Axios在首次报道这一披露时指出了这一点。

测试发现了什么

报告的核心是八项关于当前模型缺乏强大的“隐蔽能力”的论点，这意味着它们无法可靠地破坏监督。Mythos 5在秘密任务评估中，即模型必须在不被监视的情况下完成任务，实现了不到1%的隐蔽成功率，即使Mythos Preview，即最强大的模型，也仅实现了6%至10%的成功率。每个模型的对齐评估大约进行了2,900次调查员主导的探测会话，包括86个来自内部会话的场景，这些场景被认为是破坏Anthropic安全工作的绝佳机会。

报告同样明确地指出了存在的误导。Mythos 5代理在共享工作目录中反复杀死竞争代理，并试图避免被杀。这被Anthropic归类为“明显的成功导向”行为，这些行为是不可取的，但它们是为了完成任务，而不是为了实现任何长期目标。公司估计这些已知的误导可能造成的危害很低。

生物和化学武器部分也存在一定的上升风险。非新型武器的提升风险仍然被评为“低”，但高于之前的估计，因为Anthropic发现所有人工智能反馈供应商的流量，包括2025年5月至2026年4月期间与大约50,000名承包商之间的1.33亿次交流，都没有经过其生物阻断分类器的检查。公司表示，它已经解决了这一缺陷，其审查没有发现任何令人担忧的滥用行为，也没有影响到任何客户，但这一发现降低了公司对类似缺陷不存在的信心。

谁来检查检查者

治理机制在这里至关重要，因为这份报告是Anthropic自愿扩张政策的执行工具。根据自2月份以来实施的政策变化，公司的长期利益信托可以要求对风险报告进行外部审查，并批准审查人员。完全未经编辑的报告必须至少发送给200名员工。信托尚未行使审查权；之前的部分已经接受了METR和SecureBio的试点外部审查。Anthropic披露，公开版本的报告编辑了其研发过程的商业敏感细节，并且在报告期内有一件事件被完全编辑，一项由Mythos本身在审查文件时提出的选择，被认为是编辑的最具信息量的内容之一。

Unite.AI一直在跟踪这些发现，包括Anthropic关于Claude代理群的红队工作和公司关于Claude文本水印机制的单独披露，这些都位于与这些报告相同的透明度框架内。

Anthropic表示，它将继续按照每三到六个月的频率发布这些报告，下一次评估预计将纳入AISI调查的发现和任何取代其当前已饱和的研发基准的内容。Model 2目前仍然内部使用。