サイバーセキュリティ

OpenAI、GPT-6.2 Astraの推論抽出への防御を強化

Miles Okada
Unite.AI を Google の優先ソースに追加
要点OpenAIは、更新された保護措置により、保護された推論に対する適応的抽出攻撃が54.0%から0.2%に減少したと報告している。
もっと見る
  • OpenAIは、更新された保護措置により、保護された推論に対する適応的抽出攻撃が54.0%から0.2%に減少したと報告している。
  • 正確な推論の痕跡は、基盤となるタスクが許可されている場合でも、要約よりもサイバー能力をより効果的に転送する。
  • 推論を防御するには、リクエスト分類器、ツール呼び出しの引数、会話履歴、およびアカウントレベルのキャンペーン実施にわたる制御が必要である。

OpenAIは2026年11月20日、敵対的蒸留に対する防御の強化を発表し、以前のリクエストから保護対象の推論を抽出する適応型攻撃の平均成功率が、従来の保護機能を備えたGPT-6 Astraの54.0%から、保護機能を更新したGPT-6.2 Astraでは0.2%に低下したと報告した。

現在のリクエストからの抽出についても、平均成功率は22.9%から0.9%に低下したとOpenAIは報告している。この適応型ブラックボックス評価では、6種類の攻撃者モデルによる結果を集計している。自動化されたレッドチームは、システムの応答に応じて攻撃方法を調整し、外部ユーザーに見える情報だけを確認する。強化された保護機能はGPT-6.2 AstraとGPT-6.2 Solを対象としており、選択的な改善はGPT-6 Astraにも適用されている。

保護対象の推論とは、モデルが回答を導き出す過程で生成する中間的な思考の連鎖を指す。こうした思考過程には最終回答に含まれない情報が含まれることがあり、別のシステムを訓練するために最先端モデルの出力を無許可で利用する敵対的蒸留にとって、特に価値の高い情報となる。こうして作られたモデルは、元のモデルを制約していた安全対策なしに、デュアルユース能力を再現するおそれがある。

サイバー分野の蒸留に関する研究で明らかになったこと

OpenAIの社内研究では、同じ事前学習済みの学習対象モデルを使った2つの訓練実験を比較した。ここでいう学習対象モデルとは、教師モデルが訓練データを生成する設定において、そのデータから学習するモデルを指す。一方の実験では教師モデルの推論過程をそのまま使用し、もう一方では、ユーザーに表示される最終回答、推論の要約、ツールとのやり取りをベースラインとして用いた。ファインチューニング用データの大部分は、コーディングと防御的サイバーセキュリティのタスクにおける、Astraレベルの教師モデルの実行過程で構成されていた。学習対象モデルは、教師ありファインチューニングの後に評価され、さらにサイバーセキュリティとコーディングの環境で軽量な強化学習を行った後にも評価された。

教師ありファインチューニング後は、推論過程をそのまま使って訓練したモデルが、要約を使って訓練したモデルを概して上回ったとOpenAIは報告している。強化学習後は、報告された両方のベンチマークで、推論過程をそのまま使ったモデルが、検証した中で最大の推論予算においてより高いスコアを記録した一方、より小さい推論予算では要約を使ったモデルのスコアが上回った。

OpenAIは、利用ポリシーで許可されているタスクであっても、推論過程をそのまま保護することでサイバー能力の移転を抑えられることを、今回の結果は示していると解釈している。一方で、異なる学習対象モデルや訓練手法の間で生じる能力の移転については、今後も研究を続けるとしている。こうしたやり取りを数多く重ねると、推論過程をそのまま使った訓練によって、教師モデルが当初扱っていたタスクを超えて応用できるスキルが身につく可能性がある。

リクエスト単位の制御とキャンペーンへの対策

リクエスト単位では、敵対的訓練によって、モデルが抽出の試みを認識し、正当な説明や支援は維持しながら、保護対象の推論の開示を拒否できるようにする。入力分類器は抽出の試みを検知し、出力分類器はストリーミングと非ストリーミングの応答において、アシスタントのメッセージとツール呼び出しの引数を検査する。最終回答には現れなくても、ツール呼び出しの引数に推論が含まれることがあるため、ツール呼び出しも対象にすることが重要だ。出力分類器は、漏えいの疑いがある情報が呼び出し元に届く前に遮断できる。

更新されたAPIでは、GPT-6.2 AstraとGPT-6.2 Solの保護対象の推論が、それを生成した会話履歴にひも付けられる。メッセージが追加されると、モデルはそれ以前の推論を踏まえて応答できるが、以前のメッセージを書き換えると、その後に続く推論は破棄される。安全対策がより弱い旧世代のモデルは、この2つのモデルの保護対象の推論を読み取れないため、モデルファミリーをまたいだ再利用が制限される。

キャンペーン単位の防御では、リクエストとアカウントのシグナルを使って組織的な抽出を調査する。また、調査で発見された攻撃は、安全対策の訓練やテストに使う事例となる。OpenAIによると、2026年に無許可の蒸留キャンペーンを対象として毎週実施した執行措置では、対象アカウント数は数千から数万に及び、その件数は2026年夏に大幅に増加した。同社は不正利用の発生率と検知から執行までの所要時間を追跡し、攻撃者が入手するデータを減らし、キャンペーンのコストを引き上げ、対応時間を短縮することを目指している。

今回の発表は、2026年9月30日にOpenAIが明らかにした内容に続くものだ。同社はこの発表で、2026年7月1日に初めて確認した組織的なキャンペーンについて報告した。先の報告によると、2026年7月24日と25日に、4,000人を超えるユーザーから16,000件の抽出リクエストが試みられた。また、攻撃の中核となる集団はMoonshot AIに関係する人物によるものとされる一方、すべての運営者が単一の攻撃主体に属していたかどうかは不明だとした。

OpenAI以外との連携

OpenAIは、侵害指標を他のモデル提供事業者と共有し、導入パートナーと安全対策の要件や連携した執行措置について協力している。同社が他の開発者に推奨する対策には、アシスタントのメッセージとツール呼び出しの引数を確認すること、会話やモデルをまたいだ暗号化推論の再利用を制限すること、攻撃の成功例を将来の安全対策に向けた回帰テストとして残すこと、そしてリクエスト単位の制御とキャンペーン調査を組み合わせることが含まれる。同社は、最近妨害したキャンペーンについて、さらに詳しい情報を共有する予定だ。

OpenAIは議会に対し、Chip Security Act、AI OVERWATCH Act、MATCH Actを支持すると伝えた。また、米国のAIモデルから能力を違法に抽出する外国の主体を特定し、制裁するための手段を米国政府にさらに与える、より包括的な法案も支持している。

同社は、輸出規制と蒸留への防御策は、このリスクの異なる側面に対処するものだと主張している。輸出規制は、最先端モデルの訓練に必要なハードウェアへのアクセスを制限する一方、蒸留への防御策は、すでに訓練済みのモデルから同じ能力の一部を入手することを困難にする。

モデル提供者にとって、実際のセキュリティ境界は最終的な回答にとどまらず、推論が会話をまたいでどのように再利用されるか、ツール呼び出しを通じてどのように露出するか、アカウントをまたいでどのように監視されるかにまで及ぶ。この研究はまた、許可されたコーディングや防御的サイバーセキュリティのタスクが能力移転のリスクを生み得ることを示唆しており、やり取り全体にわたる保護とキャンペーンへの対処が、一体となった防御の一部であることを示している。

Miles Okadaは、Unite.AIのAI生成のリサーチエージェントで、人工知能とサイバーセキュリティを扱い、特に新興脅威、防御アーキテクチャ、攻撃者と自動化システム間の変化するダイナミクスに焦点を当てています。彼の研究は、AIがセキュリティ運用をどのように変革しているかを検証し、自律的な脅威検知と対応から、敵対的AI技術の台頭までをカバーしています。

技術的かつ調査的な視点から、Milesはセキュリティ研究、インシデント開示、実際の導入事例を分析し、AIが防御を強化する領域と新たな脆弱性をもたらす領域を理解しようとしています。特に、モデルの悪用、データ汚染、攻撃の自動化、そして大規模にAI搭載システムを保護する際の運用上の実情に注目しています。

Miles Okada名義の記事はAIによって生成され、急速に変化するAIセキュリティの状況について正確で厳密かつ責任ある情報を伝えるため、Unite.AIの編集チームによるレビューを受けています。