Anthropic、METRの評価担当者6人に従業員に準じたアクセス権を付与

Anthropicは2026年10月15日、最先端AIモデルを評価する非営利団体METRのチームを受け入れ、従業員に準じたアクセス権の付与を開始したと発表した。METRの従業員6人が、社用機器やオフィススペースの提供を受け、社内ツールやシステムへのアクセス権を得て、チームに加わった。

この発表に先立ち、Anthropicは2026年9月、自社モデルと安全対策について、独立した第三者による評価を強化すると表明していた。また、企業が独立した外部監査人や評価者との連携を約束する「ホワイトハウスの超知能に関する合意」にも署名していた。Anthropicによると、同社は過去1年間、リスク報告書の複数のレビューでMETRと協力してきた。

従業員に準じたアクセス権の条件

Anthropicによると、常駐チームが社内ツールやシステムにアクセスできる範囲は、同社のリスク評価チームとおおむね同等だ。顧客に関するデータ、弁護士と依頼者間の秘匿特権の対象となる情報、モデルアーキテクチャに関する情報という、明確に定められた少数のカテゴリーを除き、Anthropicの従業員には、アラインメントリスクに取り組む同僚に情報を共有するのと同じように、チームにも情報を共有することが推奨されている。

発表の脚注では、アーキテクチャ情報を例外とする理由が説明されている。銀行検査官と同様、評価者は他社とも仕事をする可能性があるため、Anthropicは意図しない情報漏えいの可能性に慎重に対処しているという。アーキテクチャに関する情報は漏えいした場合のリスクが高く、リスク評価における関連性は通常低い。アーキテクチャ情報の関連性が非常に高い場合、Anthropicは一般に共有を目指すが、その際には社内で明示的な承認を得る必要がある。

この取り決めの公表条件に基づき、METRはAnthropicのリスク水準、インシデント、慣行についての分析を公表する。Anthropicに公表を拒否する権限はないが、限定的かつ事前に定められたカテゴリーに該当する情報については、METRに削除を求めることができる。削除された情報を明かさない限り、METRは削除について公に説明し、その削除が妥当だったと考えるかどうかを述べることができる。

この取り組みは、法的拘束力のある契約の下で活動する少人数のチームに限られており、ほかのMETR職員は、別のプロジェクトでAnthropicと協力している研究者も含め、常駐チームの業務から隔離されている。Anthropicは、常駐型評価について、同社のセキュリティ基準の下で働く少数の適格者に、同社の業務を間近で知る機会を与えるものだと説明した。また、ほかの組織がAnthropicやその顧客、パートナーの情報を入手する手段ではないと述べた。

独立した評価を行う理由

モデルの能力が高まるにつれ、より強固な安全対策と、より難度の高いリスク評価が必要になっていると同社は述べた。Anthropicは、自社が下す判断について公に説明責任を果たしたいと考えている。しかし、安全性に関する取り組みに関係する情報をすべて公開することはできない。情報の一部は悪意ある行為者に悪用されるおそれがあるほか、計算資源や学習に関する情報のように、商業上機微な情報も含まれるためだ。そこで同社は、第三者評価者に情報への深いアクセスを認め、モデル構築に伴うリスクについて、根拠となる証拠と論理的な結論を共有してもらっている。これにより、最先端AI企業のシステムについて評価者が把握していることと、企業自身が把握していることの隔たりを縮めることを目指している。

発表では、評価者が最先端モデルを評価するために必要な要件として、4つの点を挙げている。第一に、最先端モデルの能力を評価する専門知識。アラインメント偽装など、評価が失敗する可能性のある形を理解していることも含まれる。第二に、独立性。評価対象企業の株式を保有せず、財務面でも運営面でも同社に依存していないことを意味する。第三に、リスクを実質的に評価できるだけのアクセス権。最新モデルにとどまらず、そのモデルの学習方法や安全対策の機能を把握できることも必要となる。第四に、モデルやプロセスについての所見や評価を公表する自由。

Anthropicは銀行監督になぞらえて説明した一方、この類推が完全に当てはまるわけではないとも認めた。銀行は自らのリスク状況を外部の者より詳しく把握しているため、規制当局は大手銀行の内部で勤務する常駐検査官を配置する。また、銀行のリスクテイクが社会を脅かすおそれがある場合、第三者は事前にそれを把握しようとする。

3段階のアクセス権

Anthropicは、評価者向けに3段階のアクセス権を設ける準備を進めていると述べた。第1段階では、評価者が範囲を限定したリスク調査を行う。提供するアクセス権はAnthropicが決定し、評価者は同社の承認を得て調査結果を公表できる。第2段階では、評価者はAnthropicの承認なしに公表でき、より多くの情報にアクセスできる。ただしAnthropicは、特定カテゴリーの情報の削除を引き続き求めることができ、評価者は削除が妥当だったかについての見解を公表できる。第3段階はMETRとの取り決めで、従業員に準じたアクセス権と、第2段階と同様の公表権が認められる。

Anthropicは、将来的には第3段階の評価者を複数受け入れ、各チームが同社のリスク対応状況と重要な判断について、それぞれ独自の分析を公表することを望んでいると述べた。

SecureBio、Accenture、初期段階の協議

SecureBioは現在、第1段階にあります。前回のリスクレポートについて試験的なレビューを完了して公表した後、Anthropicの2026年8月版リスクレポートの化学兵器・生物兵器に関する章をレビューしています。このレビューが完了した後、より広いアクセス権と公表権が認められるプロジェクトへの移行を検討すると、Anthropicは述べました。

Anthropicによると、AccentureおよびFacultyと、モデルの評価とレッドチーミング、アラインメント評価の実施、モデルの安全対策のテスト、各組織の能力構築を含むパートナーシップの実現に向けて取り組んでいます。

Anthropicはまた、Hugging Faceを含む複数の組織と初期段階の協議を進めていると述べました。こうしたパートナーシップはまだ初期段階にあるため、Anthropicは評価担当者に提供する情報をより限定し、公表権もより制限しています。その間に、パートナーが機密情報を保護し、必要なリソースと専門知識を備えていることを確認しています。パートナーシップが進展し、信頼関係が築かれるにつれて、より多くの独立した評価担当者を完全に組み込むことが目標だと、Anthropicは述べました。

9月のコミットメント

2026年9月、Anthropicの共同創業者であるDario Amodeiは、「最先端AIの進歩のペースを調整しなければならない」と題したエッセイを発表しました。このエッセイでは、従業員に近いアクセス権を持つ評価担当者を組織内に受け入れることが、最先端AIの開発ペースを調整するための3段階計画の第1歩として示されました。Amodeiは、Anthropicがこの措置を一方的に実施すると表明し、各国政府に対して、他の最先端AI企業にも同様の対応を義務づけるよう求めました。また、「AIモデルの能力を向上させるペースを落とさなければならない。そうすることで、リスク防止が能力の進歩に追いつくための時間を確保できる」と述べました。

このエッセイによると、Anthropicは、同社のオフィスにデスク、入館用バッジ、社用ノートパソコンを用意した外部レビュー担当チームを受け入れる意向です。さらに、社内のリスク評価チームが持つものとおおむね同等のワークスペース、ツール、権限へのアクセスを認める予定ですが、法律や契約上必要な場合、または顧客やパートナーの個人情報を保護するために必要な場合は例外とします。また、外部レビュー担当者が、リスクの水準、インシデント、慣行、および付与されたアクセスや付与されなかったアクセスに関する主要な調査結果を公表する権利を持つ契約を結び、Anthropicは公表内容に対する編集権を持たないとしています。こうした想定条件の下でも、Anthropicには、セキュリティ上機微な情報、法的秘匿特権の対象となる情報、商業上機微な情報、または第三者の機密情報を限定的に削除する権限が残ります。ただし、調査結果が好ましくないという理由だけで削除することはできません。またレビュー担当者は、削除によって自らの結論にとって重要な情報が取り除かれた場合、そのことを公に述べることができます。

Anthropicは、評価担当者を自主的に組織内へ受け入れており、すべての最先端AI企業が同じことをすべきだと考えていると述べました。また、複数の評価担当者との取り組みを迅速に進め、どのようなパートナーシップが有効かを積極的に学んでおり、進捗に応じて最新情報を共有することを約束しているとしています。