Anthropic让六名METR评估人员获得类似员工的访问权限

Anthropic于2026年10月15日宣布，已开始向来自非营利组织METR的一个驻场团队提供类似员工的访问权限。METR负责评估前沿AI模型。六名METR员工已入驻，并获配公司硬件和办公空间，还能访问内部工具和系统。

这项公告发布之前，Anthropic已于2026年9月承诺加强对其模型和安全实践的独立第三方评估，并签署了《白宫超级智能协议》。签署该协议的公司承诺与独立的外部审计机构或评估人员合作。Anthropic表示，过去一年里，它已与METR合作，对其《风险报告》开展了多次审查。

类似员工的访问权限具体安排

Anthropic表示，驻场团队对内部工具和系统的访问权限，大致相当于公司自身风险评估团队所拥有的权限。除少数明确界定的类别外——客户数据、受律师与客户保密特权保护的信息，以及有关模型架构的信息——Anthropic鼓励员工像与一位负责对齐风险工作的同事分享信息那样，向该团队提供信息。

公告中的一条脚注解释了为何将架构信息排除在外。由于评估人员可能像银行检查员一样也为其他公司工作，Anthropic表示，对于信息意外泄露的可能性会谨慎应对：架构信息泄露的风险较高，而这类信息对风险评估通常帮助不大。如果架构信息与评估密切相关，Anthropic通常会设法分享，但须先获得明确的内部批准。

根据这项安排的发表条款，METR将公布其对Anthropic风险水平、事件或实践的分析。Anthropic无权否决发表，但可以要求METR删去属于范围狭窄且预先界定类别的信息。只要不披露被删去的信息，METR就可以公开说明删减情况，并表示其认为这些删减是否合理。

这项合作仅涉及一个小型团队，团队成员须遵守具有约束力的协议；其他METR员工，包括在其他项目中与Anthropic合作的研究人员，都与驻场团队的工作隔离。Anthropic表示，驻场评估让少数具备资质的人在遵循其安全标准的前提下，深入了解公司的运作方式；这并非让其他组织获取Anthropic及其客户和合作伙伴信息的途径。

Anthropic推动独立评估的理由

Anthropic表示，随着模型能力日益强大，所需的防护措施也更严格，风险评估也更具挑战性。Anthropic称，它希望对自己正在作出的决定承担公开责任，但无法公开分享安全工作涉及的全部信息，因为其中一些信息可能被恶意行为者利用，或属于商业敏感信息，例如算力或训练信息。因此，它正向第三方评估人员开放深入的信息访问权限，并让他们分享证据以及对构建其模型所涉风险的审慎结论，旨在缩小评估人员对前沿AI公司系统的了解与公司自身了解之间的差距。

公告列出了评估人员评估前沿模型所需具备的四项条件：具备评估前沿模型能力的专业知识，包括了解评估可能出错的方式，例如虚假表现出对齐；保持独立，即不持有被评估公司的股权，也不在财务或运营上依赖该公司；拥有足够的信息访问权限，以便切实评估风险，这不仅要能接触最新模型，还要了解这些模型的训练方式和防护措施的运作情况；以及有权发布对模型或流程的观察和评估。

Anthropic将此事类比为银行监管，同时承认两者并不完全相同：银行对自身风险状况的了解多于外部人士，因此监管机构会派驻检查员到规模最大的银行内部工作；如果银行承担风险的行为可能危及公众，第三方就会设法提前发现。

三层访问权限

Anthropic表示，正在为评估人员制定三层访问权限。第一层中，评估人员开展范围严格限定的风险调查；Anthropic决定提供哪些访问权限，评估人员须经Anthropic批准才能发布调查结果。第二层中，评估人员无需Anthropic批准即可发布内容，并能访问更多信息；不过，Anthropic仍可要求删除特定类别的信息，而评估人员可以公开表达对删减是否合理的看法。第三层即Anthropic与METR的这项安排：评估人员获得类似员工的访问权限，发表权与第二层相近。

Anthropic表示，希望随着时间推移，让多家评估机构达到第三层，并由每个团队分别发布对其风险状况和关键决策的分析。

SecureBio、Accenture与早期洽谈

SecureBio目前处于第一层级。它正在审查Anthropic《2026年8月风险报告》中有关化学和生物武器的章节，此前已完成并发布了对上一份风险报告的试点评估。Anthropic表示，这次审查完成后，将考虑让SecureBio参与权限和发表权更大的项目。

Anthropic表示，它正与Accenture和Faculty推进一项合作，内容包括评估模型并开展红队测试、进行对齐评估、测试模型防护措施，以及在各组织内部建设相关能力。

Anthropic还表示，正在与包括Hugging Face在内的其他几个组织进行初步洽谈。由于这些合作仍处于早期阶段，Anthropic向这些评估方提供的信息较为有限，他们享有的发表权也较为有限；与此同时，Anthropic正在确认合作方能够保护机密信息，并具备所需的资源和专业知识。Anthropic表示，随着合作不断推进、信任逐步建立，其目标是让更多独立评估方全面参与其中。

九月承诺

2026年9月，Anthropic联合创始人Dario Amodei发表了一篇文章，题为《我们必须放慢前沿发展的步伐》，将让评估人员深入参与并获得类似员工的访问权限，列为控制前沿人工智能发展步伐的三步计划中的第一步。Amodei写道，Anthropic正单方面承诺落实这一步，并呼吁各国政府要求其他前沿公司也采取同样做法。他写道：“我们必须放慢提升人工智能模型能力的速度”，这样风险防范才有时间跟上能力进步的步伐。

文章称，Anthropic计划邀请一支嵌入式外部审查团队，向其提供办公场所内的办公桌、门禁卡和公司笔记本电脑；并开放工作空间、工具和权限，其范围大体相当于内部风险评估团队所拥有的权限，但法律或合同要求限制访问，或为保护客户和合作伙伴的私人信息而需要限制访问的情况除外。Anthropic还计划签订合同，赋予外部审查人员发布关键发现的权利，内容涉及风险等级、事件、做法，以及他们获得或未获得的访问权限；Anthropic对这些发现的发布不拥有编辑控制权。按照这些预定条款，Anthropic仍可有限地删去涉及安全敏感信息、受法律特权保护的信息、商业敏感信息或第三方机密信息的内容，但不能仅仅因为发现结果对其不利就予以删改；如果删改内容会影响审查人员的结论，他们可以公开说明。

Anthropic表示，它是自愿让评估人员深入参与的，并认为所有前沿人工智能公司都应该这样做。该公司称，正在迅速与多家评估方推进合作，积极了解哪些合作方式行之有效，并承诺在推进过程中持续分享进展。