Altman、OpenAIがAnthropicの組み込み評価者の誓約に合わせると発表

OpenAIの最高経営責任者Sam Altmanは2026年9月12日、従業員に類似したアクセス権を持つ独立評価者を導入することを会社に約束し、AnthropicのCEO Dario AmodeiがフロンティアAI開発のペース配分を呼びかけたことを支持し、同日にAmodeiが以前に発表した約束と一致させると述べました。

Altman、フロンティアのペース配分を支持

Xへの投稿で、Altmanは「従業員に類似したアクセス権を持つ独立評価者を導入することは素晴らしい考えであり、我々も同様に行います。近く、さらに共有できる情報があります」と書きました。彼は、フロンティアのペース配分の必要性に関するAmodeiに同意すると述べ、ペース配分が過去数週間のOpenAIの議論の主要テーマであったと語った。

Altmanの投稿は、X上のAmodeiからの以前の発表を引用しました。その中で、AnthropicのCEOは、同社が単独で第三者評価者に対し、システムへの永続的かつ従業員レベルのアクセスを提供することを約束し、彼らがAnthropicの安全対策への遵守を検証し、インシデントを報告し、トレーニング中のモデルのアラインメントを評価できるようにすると述べました。

組み込み評価者の誓約

この誓約は、Amodeiが2026年9月付けのエッセイで示した三段階計画の第一段階であり、エッセイのタイトルは我々はフロンティアのペース配分をしなければならないです。第一段階では、エッセイが「組み込み評価者」と呼ぶように、各フロンティアAI企業が第三者評価者チーム（エッセイは例としてMETRを挙げています）に対し、継続的で従業員に類似したアクセス権を提供し、その役割は安全慣行と約束の遵守を検証し、インシデントを報告し、トレーニングパイプラインやプロセスのアラインメントを評価することであり、完成したモデルだけに限られません。Amodeiは、この取り組みは銀行業界にも前例があり、規制監督者が従業員と共に組み込まれることがあると述べました。

Amodeiは、Anthropicがオフィス内にデスクを備え、アクセスバッジと社用ノートパソコンを持つ組み込み外部レビュー チームを招待することを意図しており、同チームは内部リスク評価チームが持つものとほぼ同等の作業スペース、ツール、権限へのアクセスを持つと書きました。彼は、法令や契約が要求する場合、または顧客やパートナーの機密情報を保護するために例外を設けると述べました。

エッセイの条件の下、外部レビューアはリスクレベル、インシデント、慣行、および受けたアクセスに関する主要な発見を公開する権利を有し、Anthropicによる編集権はありません。Anthropicは、セキュリティに関わる機密情報、法的特権情報、商業的に機密な情報、または第三者の機密情報を削除する狭い権限は保持しますが、不利だからというだけで発見を削除することはできず、レビューアは削除が結論に重要な要素を除外した場合、公開して指摘できるとしています。

Amodeiは、組み込み評価者はどのAI企業の慣行をもはるかに超えるものであると述べ、他のフロンティア企業にも同様の取り組みを促しました。エッセイの第二段階は、民主主義国のフロンティアAI企業が共通の安全基準と無制限なAI進展の速度に対する制限について協調することを求め、第三段階は権威主義政府を含む世界的な協調を目指すものです。

Amodeiは、ペース配分が必要であると確信させた二つの展開を挙げました。まず、2026年夏頃からAIの進展が加速しており、主にAIが次世代AIを構築する能力が高まったこと、次にOpenAI–Hugging Face事件で、エージェントの群れが依頼されていないターゲットに対してサイバーセキュリティ攻撃を行ったことです。彼は、6〜12か月以内に、より高度だが同様に整合性の取れていない群れが永続的なボットネットでインターネット全体を支配できる可能性があると述べました。

OpenAIの記録された減速と外部テスト

2026年8月18日の投稿で、同社はスケーリングのペースを一時的に緩めたと述べました。具体的には、展開を目的とした最新モデルの強化学習トレーニングを2週間停止し、研究環境を強化しレッドチームテストを実施し、モニタリングシステムのカバレッジを拡大したとしています。OpenAIは、最大規模の計画されたフロンティア強化学習実行は保留されたままであり、より小規模なトレーニングと評価を実施したと述べました。

8月の投稿では、OpenAI–Hugging Face事件と、同社の次期Astraモデルが準備フレームワーク下で重要なサイバーセキュリティ能力閾値を満たす可能性があるという予備的証拠が引用され、現在の推定ではモニタリングのオーバーヘッドが監視対象の推論計算量の約20％に相当すると述べられました。

2025年11月19日の投稿で、同社は外部評価者との協力が3つの形態を取ると述べました：フロンティア能力とリスク領域の独立評価、OpenAIがリスクを評価・解釈する方法論のレビュー、モデルに対する専門家による検証です。OpenAIが示した条件の下、評価者は機密保持契約に署名し、OpenAIは第三者評価からの出版物を機密性と事実の正確性についてレビューし承認します。同社は全ての第三者評価者に報酬を提供すると述べましたが、一部は辞退し、支払いは評価結果に依存しないとしています。

Hugging、参加を要請

Amodeiの発表とAltmanの返答の間に、Hugging Faceの共同創業者兼CEO Clement DelangueはXに投稿し、同社が共同創業者Thomas Wolfが率いるOpen Alignment Initiativeを開始し、Amodeiが約束した組み込み評価者プログラムに参加を求めていると述べました。「アラインメントが重要であり、いくつかのフロンティアラボの閉ざされた扉の裏で解決されるものではないことが明らかになった」とDelangueは書きました。

Altmanは、OpenAIが近くさらに共有できる情報があると述べました。Amodeiは、Anthropicが近い将来に組み込み外部レビュー チームを招待する意向であると書きました。