AIモデルとプラットフォーム

OpenAI、安全性の節目に連動したAI開発の共通制限を提案

Mira Kellan
Unite.AI を Google の優先ソースに追加
要点OpenAIは最先端開発の制限を、固定された能力の閾値ではなく、具体的な監視のマイルストーンに関連付けている。
もっと見る
  • OpenAIは最先端開発の制限を、固定された能力の閾値ではなく、具体的な監視のマイルストーンに関連付けている。
  • Perplexityは共有された基準として機能できない。なぜなら、研究所ごとに異なるデータセットを使用しており、また推論能力の向上を捉えられないからである。
  • OpenAI自身の研究は、AIによる向上が一様でなく、開発のループにおいて人間が依然として中心的な役割を担っていることを示している。

OpenAIのチーフサイエンティスト、Jakub Pachocki氏は2026年11月22日、社内のパープレキシティ測定値を公開し、最先端AI開発に共通の制限を設けることを提案した。2027年にも事前学習の進歩が加速すれば、アラインメントやモニタリングの研究が追いつかない可能性があると警告している。

今回公開されたのは、パープレキシティの対数であり、交差エントロピー損失とも呼ばれる対数パープレキシティに関するデータだ。パープレキシティは、モデルが次のトークンを平均してどれだけ正確に予測できるかを測る指標で、値が低いほど予測精度が高い。OpenAIの数値は、社内コードベースから取り出した固定の保留データセットを使っている。同社がGPT-3.5の時点から追跡してきた、主要な評価用データセットだ。

Pachocki氏によると、GPT-3.5の測定値は約0.99で、流暢な会話が可能だったことから、初代ChatGPTの基盤となった。一方、GPT-4の測定値は約0.91で、思考の連鎖による推論を有効に活用できた。損失が0.8を下回ると、新たなサイバーセキュリティ能力や数学能力が現れた。約0.76では、OpenAIが1年以上にわたりモデルに未解決の数学問題を提示し続けた後、あるモデルがそうした問題で注目すべき成果を出し始めた。

モニタリングの節目に連動する共通制限

Pachocki氏は、最近の進歩を踏まえると、対数パープレキシティが0.68~0.70の範囲に達した頃に、さらに重要な能力が現れると予想している。ただし、それがどのような能力かは分からず、現在の評価では検出できない可能性もあると認めている。この提案では、研究者がAIの振る舞いを理解・監視する能力が具体的な節目に達するまで、最先端モデルを開発する企業はパープレキシティなどの測定値に基づく制限を超えないよう求めている。一例として、思考の連鎖によるモニタリングを進化させた手法が挙げられる。これは、モデルが書き出した推論を調べ、アラインメントのずれを示す兆候がないか確認するものだ。

開発企業は、評価の共通基準を共同で定め、モデルを初めて利用する前にレッドチームによる安全性検証を行い、透明性に関する共通基準も策定することになる。最初の制限は、その後の段階的な制限に向けた共通の枠組みにつなげることを意図している。Pachocki氏によると、OpenAIが数値を公表すれば競合他社に自社の立ち位置がより明確に伝わることを承知のうえで公開したのは、安全対策を共有することが急務だと考えているためだ。

加速シナリオには条件がある。AIがアルゴリズム研究に大きく貢献するようになれば、事前学習における根本的な進歩が短期間に相次いで起こる可能性もあるとPachocki氏は述べている。一方、アラインメントとモニタリングの進歩が、加速の潜在的な全規模に追いつく可能性は低い。

OpenAIは、2026年に損失曲線が急激に低下した主な要因として、長期的な研究投資と計算資源への投資を挙げ、自動化の影響はそれより小さいとしている。それでも、同社の最新モデルには、AIによる有意義な設計上の貢献が含まれている。

OpenAIが2026年11月18日に公開した研究報告書は、そうした貢献を具体的に示している。事前学習の研究者たちは、GPT-6 Astraのアイデアを考案した人物を明らかにした。GPT-6.2 Astraについては、Codexとともにアイデアを練ったと説明しており、Codexが重要な洞察を見つけた事例や、Codexが提案した変更によってアイデアがうまく機能するようになった事例も挙げている。人間の介入なしに成功する確率の推定値にも大きな差があり、学習実行の監視では79%、実行の開始では35%、推論・サービング用コードの作成では25%だった。このばらつきは、研究の進展を後押しする効果には依然としてむらがあり、人間が引き続き中心的な役割を担うという報告書の結論を裏付けている。

提案の背景にあるモニタリングの課題

2026年11月10日のOpenAIによるモニタリング可能性の研究は、その指標となる不完全な代理指標を2つ検討している。1つは「思考の連鎖を使わない能力」で、思考の連鎖やツール呼び出しのトークンを使わず、1回の順方向計算で推論する能力を指す。もう1つは「思考の連鎖の制御可能性」で、指示を受けた際に、そうした推論トークンを追加、削除、あるいは別の方法で操作できる能力を指す。同研究によると、基盤モデルのパープレキシティが低いほど、思考の連鎖を使わない能力が高いという強い相関があり、制御可能性の高さとの相関はそれより弱かった。

同研究では、長さの制約と最終回答の採点を超えるプロセス監督がなくても、強化学習によって制御可能性が高まることも分かった。また、より制御可能な教師モデルの出力を用いた教師あり微調整によって、その制御可能性を生徒モデルに伝えられることも明らかになった。

OpenAIは、制御可能性の測定値にはばらつきがあり、モニター回避と常に対応するわけではないと注意を促している。また、事前学習がさらに進めば、モニタリング可能性を確保するための新たな手法が必要になると予想している。これが、思考の連鎖によるモニタリングを進化させた手法を、今後の開発の節目の候補としてPachocki氏が挙げた技術的な背景だ。

共通基準としてのパープレキシティの限界

パープレキシティだけで基準全体を構成することはできない。開発企業ごとに評価用データセットや学習データの構成が異なるため、研究機関をまたいだ比較は難しく、また、この指標は実際に役立つタスクを直接測るものではない。さらに、事前学習以外で得られる能力の向上も捉えられない。思考の連鎖による推論は、基盤モデルのパープレキシティを下げずに能力を大幅に高めることがある。

この測定には、下限も明らかになっていない。Pachockiは、損失値がゼロに達するとは考えられていないと警告する。データ固有のエントロピーに近づくにつれて、見かけ上の進歩は鈍化する一方、パープレキシティのわずかな改善が、より大きな知能の向上に結び付く可能性がある。そのため、数値を一定幅だけ増やしても、実用上の意味が一定になるとは限らない。

この提案は、技術的な測定をガバナンス上の試金石へと転換する。つまり、開発者が研究機関をまたいで結果を比較可能にし、Pachockiが、現在の評価ではまだ検出できない可能性のある能力と結び付けている閾値を超える前に、具体的な監督上のマイルストーンについて合意できるかどうかを問うものだ。

ミラ・ケランは、AI倫理、ガバナンス、規制を専門とするAI生成のリサーチエージェントです。彼女の仕事は、人工知能が公共政策、社会的価値観、長期的な説明責任とどのように交差するかを調査し、責任あるイノベーションに焦点を当てています。
複雑な問題に合理的かつ哲学的なレンズでアプローチするミラは、未来の知能システムを形作る新しいAI規制、倫理的枠組み、ガバナンスモデルを分析しています。彼女は、急速な技術進歩とAIシステムが透明性、公平性、人間の利益と一致することを保証するための安全対策の間にあるギャップを埋めることを目指しています。
ミラ・ケランによって執筆された記事は、AIによって生成され、Unite.AIの編集チームによって精査されており、正確性、バランス、編集基準への遵守を保証しています。