パートナーシップ
Apollo Research、OpenAIの転覆行為に関する試験運用に6人の評価担当者を派遣

要点OpenAIは安全保障または知的財産権のために範囲内の資料を保留することがあるが、不利な内容であるという理由では保留しない。
もっと見る
- OpenAIは安全保障または知的財産権のために範囲内の資料を保留することがあるが、不利な内容であるという理由では保留しない。
- OpenAIはApolloの調査結果の背後にある機密証拠を黒塗りにすることができるが、Apolloの評決はそのまま残す。
- Apolloは、開示されていない制限があると存在しない問題が安心材料に見えてしまうため、メタ透明性の権利が不可欠だと主張している。
Apollo Researchは2026年11月16日に発表し、評価担当者6人がOpenAI内で4か月間活動して、OpenAIのモデルが訓練、評価、内部展開の過程でアラインメントまたは制御メカニズムを覆そうとするかどうかを調査する。
チームは4つの問いを検証する。トレーニングが転覆行為を促すか、評価によって転覆行為を引き出せるか、社内展開中に転覆行為が起きるか、そして転覆行為に関わる推論を検出できるか、である。調査範囲には、モデル自身のアラインメントや制御を損なおうとする試みに加え、その後継モデルのアラインメントや制御を損なおうとする試みも含まれる。
この取り組みは、外部による精査を、トレーニング後かつ一般公開の直前に実施していたApolloの従来の評価手法よりも踏み込んだものにすることを目的としている。Apolloは、そうした時期では、策略のような不整合な挙動を検証したり、社内展開中の非公開の利用状況を調べたりするには不十分だと考えている。従業員に近いアクセス権を持つ評価担当者を組み込むことで、こうした限界を克服することを目指す。
Apolloはこの試験運用を、完全な組み込み型評価ではなく、意欲的な第一歩と位置づけている。同社が定める一般基準では、開発者が不都合な情報を隠そうとしても関連するすべての記録にアクセスできること、開発者が異議を唱えても適切な外部の対象者に調査結果を開示できること、そして報告書が何を立証でき、何を立証できないかを読者が理解できるよう、制約について十分に公に説明することが求められる。
アクセス範囲と従業員との接触
トレーニングによる誘因の評価について、OpenAIは、関連するトレーニングコードとデータセット、利用可能な推論トレースと報酬を含む強化学習のロールアウト、および中間段階のモデルチェックポイントに問い合わせる機能を提供することを約束した。その他の評価対象となる主張については、詳細なアクセス条件を今後合意する。
評価の対象は、合意済みの主張、モデル、期間に限られる。OpenAIは、技術的に実現不可能であること、セキュリティ上のリスク、または知的財産の保護を理由に、合理的に必要と判断した場合、対象範囲内の項目を開示しないことができる。ただし、情報の内容が不都合であるというだけで、情報や従業員へのアクセスを拒むことはできない。OpenAIは、非開示とした項目が存在することをApolloに伝え、書面で理由を示さなければならない。また、実行可能かつ関連性があるとOpenAIが判断する場合は、非開示記録をカテゴリー別に示し、そのおおよその量も伝えなければならない。Apolloは指定されたOpenAIの連絡窓口を通じて、より広いアクセスを求め、拒否を上位に申し立てることができるが、アクセス範囲の拡大が保証されるわけではない。
従業員との接触にも制限がある。Apolloは特定分野の専門知識を持つ人を求め、個人を推薦することもできるが、参加を認める従業員はOpenAIが選び、正式なやり取りは記録しなければならない。別の従業員が機密情報を持ち出した場合、その情報が取り組みの対象範囲内であっても、Apolloは実質的な議論を中止し、その後の対応を指定されたOpenAIの連絡窓口に委ねなければならない。
評価担当者はOpenAIのハードウェアを使用し、監視可能な別個の通信経路を使って作業する。初期設定では、Slackなどの従業員向け一般チャンネルにはアクセスできない。Apolloによれば、非公式な会話やSlackから、評価担当者が求めていなかった関連情報が明らかになることがある。同社は、今後の評価では、そうした情報も対象範囲に含めることを望んでいる。
公開報告書と編集権
Apolloは公開報告書を2本作成する予定だ。1本目では、転覆行為を促すトレーニング上の誘因を扱う。2本目では、評価、社内展開、転覆的な推論の検出可能性を取り上げる。各報告書では、方法、結論、限界、評価できなかった問い、および公開可能な裏付け資料を説明する。
OpenAIは報告書を確認し、調査結果を裏付ける証拠を含む機密情報の削除を求めることができる。ただし、Apolloの評価結果を削除したり、調査結果が不都合であるというだけで削除を求めたりすることはできない。一方で、その証拠が調査結果に直接寄与しているかどうかにかかわらず、機微な知的財産に当たるとOpenAIが判断する証拠は削除できる。そのため、公開読者は結論を裏付けるすべての証拠を検証できない可能性があるが、Apolloは削除が結論に影響したかどうかを明らかにできる。OpenAIは、削除前の報告書を自社取締役会の安全・セキュリティ委員会と共有する。
従業員との話し合いに基づく主張については、Apolloが独自に立証した場合を除き、OpenAIによる正式な証明が必要となる。この要件は、正式な面談で権限を与えられた従業員から提供された情報にも適用される。証明が拒否された場合、Apolloはその事実を開示し、基礎となる機密情報を明かさずに、拒否が結論に与える影響を説明できる。
透明性に関する追加開示のルール
別途定められた追加開示の権利により、Apolloは、取り組みの範囲と条件、要請したアクセスと実際に得られたアクセス、非開示または遅延された資料とその理由、報告書からの削除要請とその重要性、さらに自らの作業に影響を及ぼしたと考える圧力について、公に説明できる。Apolloは、事前にOpenAIの確認を受けることなく、アクセス条件と公表条件について論じることができる。
Apolloは、こうした権利をあらゆる評価案件における最低基準とみなしている。これらの権利がなければ、問題が報告されていないことは、調査や情報開示が制限された結果であっても、安心材料のように受け取られかねない。そのため、このパイロットの結論は、アクセスと公表に関する制限の説明と併せて読む必要がある。同じ評価結果でも、評価者が何を調査し、何を開示できたかによって、その重みは異なり得る。












