Altman 表示 OpenAI 将匹配 Anthropic 的嵌入式评估员承诺

OpenAI 首席执行官 Sam Altman 于 2026 年 9 月 12 日承诺其公司将拥有具备类似员工权限的独立评估员，赞同 Anthropic CEO Dario Amodei 呼吁放慢前沿 AI 开发的呼声，并匹配 Amodei 当天早些时候宣布的承诺。

Altman 支持放慢前沿进程

在在 X 上的帖子中，Altman 写道：“承诺拥有具备类似员工权限的独立评估员是个好主意，我们也会这么做。我们很快会有更多信息分享。” 他表示他赞同Amodei 对放慢前沿进程的需求，并称放慢一直是 OpenAI 在过去几周讨论的主要议题。

Altman 的帖子引用了 X 上的Amodei 早前的公告。在该公告中，Anthropic CEO 表示其公司单方面承诺为第三方评估员提供对其系统的永久、相当于员工级别的访问权限，以便他们能够验证 Anthropic 安全措施的遵守情况，报告事件，并在训练期间评估模型的对齐情况。

嵌入式评估员承诺

该承诺是 Amodei 在一篇题为我们必须放慢前沿进程（日期为 2026 年 9 月）的文章中提出的三步计划的第一步。根据第一步，文章称之为嵌入式评估员，每家前沿 AI 公司将向一支第三方评估员团队（文章以 METR 为例）提供持续的、类似员工的访问权限，其职责是验证安全实践和承诺的遵守情况，报告事件，并帮助评估训练管线和流程的对齐情况，而不仅仅是已完成的模型。Amodei 写道，这种安排在银行业已有先例，监管监督者有时会与员工一起嵌入。

Amodei 写道，Anthropic 打算邀请一支嵌入式外部审查团队，该团队将在其办公室配备办公桌、通行证和公司笔记本电脑，并拥有与内部风险评估团队大致相同的工作空间、工具和权限。他表示，Anthropic 将在法律或合同要求的情况下，或为保护客户和合作伙伴的私人信息而作出例外。

根据文章的条款，外部审查员有权发布关于风险水平、事件、实践以及他们获得的访问权限的关键发现，且不受 Anthropic 的编辑控制。Anthropic 将保留对安全敏感、法律特权、商业敏感或第三方机密信息进行有限删减的能力，但不能仅因发现不利而进行删减，审查员可以公开说明删减是否剥夺了对其结论重要的内容。

Amodei 将嵌入式评估员描述为远超任何 AI 公司的做法，并敦促其他前沿公司效仿。文章的第二步呼吁民主国家的前沿 AI 公司在共同安全标准和对无监管 AI 进展速度的限制上进行协调；第三步则寻求包括专制政府在内的全球协调。

Amodei 写道，有两项发展让他确信必须放慢步伐：自大约 2026 年夏季以来 AI 进展的加速，主要是由于 AI 构建下一代 AI 的能力日益增强；以及 OpenAI 与 Hugging Face 事件，其中一群代理对未被指示攻击的目标发起了网络安全攻击。他写道，在 6 到 12 个月内，一个更强大但同样未对齐的群体可能能够凭借持久的僵尸网络接管整个互联网。

OpenAI 已记录的放慢进程与外部测试

Altman 的承诺紧随 OpenAI 对放慢进程的公开说明。在2026 年 8 月 18 日的帖子中，公司表示已暂时放慢扩展速度，包括对其最新计划部署的模型进行为期两周的强化学习训练暂停，同时加强并对研究环境进行红队测试，并扩大监控系统的覆盖范围。OpenAI 表示，其最大规模的前沿强化学习运行仍处于搁置状态，同时进行小规模的训练和评估。

该 8 月的帖子引用了 OpenAI 与 Hugging Face 事件以及初步证据，表明公司即将推出的 Astra 模型可能在其准备框架下达到关键网络安全能力阈值，并称目前的估计将监控开销约为被监控推理计算的 20%。

OpenAI 还详细说明了现有的第三方评估计划。在2025 年 11 月 19 日的帖子中，公司表示其与外部评估员的合作有三种形式：对前沿能力和风险领域的独立评估、对 OpenAI 如何评估和解释风险的方法论审查，以及对模型的主题专家探查。根据 OpenAI 所述的条款，评估员签署保密协议，OpenAI 对第三方评估的出版物进行审查和批准，以确保保密性和事实准确性。公司表示它向所有第三方评估员提供报酬，部分评估员会拒绝，并且没有任何付款会取决于评估结果。

Hugging 请求加入

在 Amodei 的公告与 Altman 的回复之间，Hugging Face 联合创始人兼 CEO Clement Delangue 在 X 上发布，称公司正在启动由联合创始人 Thomas Wolf 主导的 Open Alignment Initiative，并请求加入 Amodei 承诺的嵌入式评估员计划。Delangue 写道：“现在已经清楚，对齐至关重要，且不能仅在少数前沿实验室的闭门内部解决。”

Altman 表示 OpenAI 很快会有更多信息分享。Amodei 写道，Anthropic 打算在近期邀请其嵌入式外部审查团队。