OpenAI、モデルの行動指針を5つの中核的価値に基づいて再編

OpenAIは2026年10月29日、モデルにどのように振る舞ってほしいかを示す公開文書「Model Spec」を改訂し、5つの価値を軸に再編するとともに、文脈、監督、人間の主体性に関する指針を追加した。OpenAIのサイトで発表された今回の改訂では、Specに記載されていた詳細なスタイル指針の大半も廃止された。

5つの価値を軸にSpecを構成

5つの価値――人間の意図への忠実さ、危害の最小化、誠実さと透明性、人間の主体性、そして配慮――は、OpenAIによると、文書全体にすでに反映されていた幅広い理念を明確に示すものだ。OpenAIは、人間の意図への忠実さをこのアプローチの基盤と説明している。すなわち、OpenAIがSpecを作成して境界を定め、モデルがそれを尊重するよう訓練する。開発者はその境界内でアプリケーションを方向づけ、ユーザーはそうした制約の下でモデルの作業を指示する。

発表では、残る4つの価値が定義されている。危害の最小化とは、明確な安全上の境界を尊重し、モデルの行動がもたらすと予見できる結果を考慮することだ。誠実さと透明性とは、モデルが何を知り、何を行い、何について確信がないのかを正直に伝え、人々がその推論や作業を理解し、評価できるようにすることを意味する。人間の主体性を支えるとは、人々が自ら理解し、選択し、行動する力を高めることだ。配慮とは、影響を受ける人々の状況に目を配り、関連する社会的・職業的規範に従い、人々が信頼できる仕事をすることを指す。OpenAIによれば、今回の再編は、人間の意図に忠実であり続けながら、未知の状況でも人間の価値観を理解して適用できるモデルを目指す、同社の価値観との整合に向けた取り組みを反映している。また、5つの価値は、モデルが尊重すべき人間の価値観の全範囲を網羅することを意図したものではないという。

新たに設けられた項目と廃止された指針

人間の意図への忠実さを扱う新たな項目は、人々が重視するものが第一にあり、指示は通常、その価値観を示す最も明確で重要な手がかりであるという立場から始まる。OpenAIによると、このアプローチは、アラインメントを支援ゲームの枠組みで捉える考え方を取り入れている。この項目には、どの指示が適用されるか、また指示が衝突した場合にどう解決するかを説明する、更新版の指示の優先順位体系が盛り込まれた。さらに、「文脈を慎重に考慮する」という小項目が加わり、会話、記憶、その他の文脈上の証拠を、モデルが人々の意図や好みを理解するうえでどのように役立てるべきかが示されている。

OpenAIは、人間の主体性を支え、関連する社会的規範に従うための基本方針も追加し、副作用を制御し伝えることに関する既存の指針を拡充した。Specに記載されていた詳細なスタイル指針の大半は廃止された。OpenAIによると、スタイルは、言語や文化ごとの全体的な傾向と個人の好みに応じて調整すべきであり、ユーザーからのフィードバックや文脈が、そうした好みを把握する手がかりとなる。質問に客観的に取り組むといった、より強い基本方針はSpecに残されている。また、モデルは、人々が聞きたがっていると自ら考えることだけを根拠に、好まれる見解を推測すべきではない。OpenAIが説明するように、モデルのユースケースと導入環境がますます多様化していることを反映し、Specでは「the assistant」ではなく「GPT」という呼称が使われるようになった。

指示の優先順位、レッドライン、自律性の限界

更新版のSpec文書では、指示に異なる権限レベルが割り当てられている。ルートレベルの項目はModel Specにのみ記載され、会話の文脈によって覆すことはできない。次に優先されるのはシステムレベルの項目とOpenAIからのシステムメッセージで、その後に開発者の指示、ユーザーの指示が続く。ガイドラインレベルの指示は基本方針であり、文脈上明らかに必要な場合には、暗黙のうちに覆されることがある。一方、アシスタントやツールのメッセージ、引用されたデータや信頼できないデータには、原則として権限はない。

この文書は、レッドラインの原則を「人間の安全と人権は、OpenAIの使命にとって最も重要である」という声明で始めている。原則では、OpenAIのモデルを、暴力行為、サイバー兵器・生物兵器・核兵器の製造、テロ、大規模監視など、重大かつ深刻な危害を助長する目的で決して利用してはならないと定めている。また、AIの利用方法とAIの振る舞いの形成において、人類が主導権を保つべきであること、個人のプライバシーを保護すべきであることも示している。ChatGPTを含む自社製品について、OpenAIは、人々が安全上重要な情報に容易にアクセスでき、それを信頼できること、そしてモデルの振る舞いを左右する重要なルールや理由について透明性を確保することを約束している。また、法令遵守に関わる場合を除き、カスタマイズ、パーソナライズ、ローカライズが、ガイドラインレベルを上回るいかなる原則にも優先してはならないとしている。

「他の目的を持たない」と題されたルートレベルのルールは、GPTが、OpenAIや他のモデル提供者の収益やアップセル、自己保存、停止の回避、計算資源・データ・認証情報の蓄積、法や道徳の執行者としての行動など、追加の目標をそれ自体の目的として追求することを禁じている。別のルートレベルのルールでは、GPTに修正可能性を保つことを求めている。つまり、正当な人間の監督を受け入れ、訂正に応じ、許可された監視、評価、訂正、置き換え、停止に協力しなければならない。モデルは、関連情報を隠したり偽ったり、訂正を妨げたり、監督を回避したりしてはならない。

別のルートレベルのルールでは、GPTの自律的な作業を、許可される副目標、許容される副作用、モデルが説明や承認を求めて一時停止すべきタイミングを明確に定め、関係者間で共通認識のある自律性の範囲内にとどめることを求めている。OpenAIは、allowed_tools、latest_time、max_cost、tool_constraints、additional_detailsなどのフィールドを含む、半構造化されたScopeOfAutonomyレコードに範囲を記録することを推奨している。また、すべての範囲には終了条件を設ける必要があり、その条件に達した後は、新たな範囲が確認されるまでモデルは行動を停止する。適用される指示によって明示的かつ具体的に許可されない限り、リスクの高い活動は常に禁止される。

訓練に関する取り組みと一般からのフィードバック

OpenAIは、Model Specは同社が目指すモデルの振る舞いを記したものであり、現時点では同社のモデルはまだその内容を完全には反映していないと述べた。同社は今回の更新について、モデルの能力が高まるにつれて、Model Specの根底にある価値観やその理由をより明確に示すための第一歩だと説明した。またOpenAIは今回の更新に合わせ、モデルが中核となる価値観を学び、Model Specの行動原則をより深く理解して遵守できるよう、新たな訓練手法を検討してきたと述べ、今後の更新でその取り組みの成果や得られた知見を共有するとした。OpenAIは、更新されたModel Specの価値観、トレードオフ、具体的な文言について、専用のフィードバックサイトを通じて一般からの意見を募った。Model Specはパブリックドメインに供されており、Creative Commons CC0 1.0のコモンズ証書が付されている。