OpenAI、コミュニティ安全性レポートを発表 10代の若者への武器関連情報に新たな制限

OpenAIは2026年10月30日、暴力防止に関するコミュニティ安全性レポートを発表し、6カ月ごとに更新すると明らかにした。また、10代の若者が得られる武器関連情報を制限し、過去の大規模襲撃事件に関する質問へのChatGPTの対応を厳格化する新たな保護措置も発表した。同社によると、2026年第3四半期には法執行機関への通報を200件以上行った。

コミュニティ安全性レポート、2027年初頭に公開予定

OpenAIは、暴力防止やその他のコミュニティの安全に関する問題に加え、安全対策の有効性も取り上げるコミュニティ安全性レポートを公開すると表明した。同社によると、このレポートでは、コミュニティの安全に関する問題を検知、調査し、対応するためにシステムをどのように訓練しているかを説明するほか、暴力に関連する被害がどのように生じるかを示す匿名化された事例を紹介し、新たな緩和策やポリシーの変更を取り上げ、裏付けとなるデータも掲載する。初回のレポートは2027年初頭に公開される予定で、2026年下半期を対象とし、その後は6カ月ごとに更新される。

OpenAIによると、このレポートは、自社モデルが有害な行動をどのように特定して対応するのか、実際にどのようなリスクを把握しているのか、そしてそれらに対処するためにどのような措置を講じているのかを、人々に明確に伝えることを目的としている。

OpenAIによると、安全対策の一環として、差し迫った暴力の脅威を法執行機関に知らせており、こうした通報は暴力計画の阻止に役立っている。同社は、難しい事例の評価にあたって、引き続きメンタルヘルスと行動の専門家に頼っていると述べた。また、AI企業には、法執行機関や家族、メンタルヘルスの専門家、政策立案者と連携して果たすべき独自の役割があると説明した。

大規模襲撃事件に関するコンテンツへの制限を強化

OpenAIによると、自社のモデルは、暴力を計画したり実行したりするのに役立つ指示を出さないよう訓練されている。同社は、過去の大規模襲撃事件や実行犯に関する質問へのChatGPTの回答に、さらなる制限を設けている。ほかのオンライン情報源で入手できる場合でも、モデルが提供する情報をより詳細でないものにする。強化されたポリシーでは、過去の大規模襲撃事件を再現するような情報を制限する。これには、使用された武器や装備、その入手方法に関する詳細のほか、被害の規模を詳細に比較する情報も含まれる。OpenAIは、こうした比較が実行犯の悪名を高めるおそれがあるとしている。これらの制限は、質問する人の年齢や質問の理由にかかわらず適用される。

こうした事件や、被害者や地域社会が受けた影響について理解し、危険の兆候を見分けて将来の暴力を防ぐために、ChatGPTに支援を求めることは引き続きできる。

2026年5月、同社は、過去に見られた危険の兆候を短く事実に即してまとめた情報をChatGPTが活用することで、その後のチャットでより慎重に対応できる仕組みを紹介した。OpenAIはこの取り組みを発展させ、最近のチャットに暴力の可能性を示す兆候が見られた場合、悪用されるおそれのある情報を提供する際にChatGPTがより慎重に対応できるようにしている。また、チャットに暴力的な意図を示す兆候が見られない場合でも、ユーザーが18歳未満であると予測したときには、こうした厳格な制限を適用できるよう取り組んでいる。

OpenAIは、暴力行為に関するポリシーに違反したと判断したアカウントを利用停止にしている。同社は、より早い段階で介入するための追加の自動化手段について、メンタルヘルスと暴力防止の専門家と協力して開発を進めている。会話から、誰かが暴力に執着していたり、他者に深刻な危害を加えることを考え続けていたりする兆候が見られた場合、ChatGPTは自動的にチャットを終了できるようになる。また、その理由でChatGPTが複数のチャットを終了した場合、OpenAIはアカウントを一時的に停止することがある。

18歳未満のユーザー向けに保護措置を追加

ChatGPT for Teensでは、18歳未満のユーザーに年齢に応じた保護措置を適用している。OpenAIは、質問が一見無害に思える場合でも、10代の若者が受け取る武器関連情報にさらなる制限を設けている。同社のポリシーでは、すでに誰かが暴力を計画したり実行したりするのを助けることを禁じ、10代の若者が武器を見つけたり入手したりするのを手助けすることも制限している。今回の拡張では、暴力的な意図を示す兆候がなくても、暴力を助長するために悪用されるおそれのある、武器やセキュリティシステムに関する実用的な情報を制限する。OpenAIによると、10代の若者は引き続き、暴力の予防や沈静化、支援を求めること、信頼できる大人につながることにChatGPTを活用できる。

OpenAIによると、行動パターンなどのシグナルを分析し、ユーザーが18歳未満か18歳以上かを推定する年齢予測システムを強化した。ユーザーがChatGPTを使うなかで新たなシグナルを継続的に評価し、適切な場合にはユーザーを18歳未満向けの利用環境に移行させる。誤って18歳未満向けの利用環境に移されたユーザーは、OpenAIの年齢確認パートナーであるPersonaを通じて成人であることを確認でき、その場合、追加の10代向け保護措置は解除される。

保護者アカウントを連携している場合、特別な訓練を受けた審査担当者が深刻な自傷行為の懸念や、摂食障害に関連する可能性のある行動を確認した際に、安全に関するアラートが送られることがある。2026年7月、OpenAIはこのアラートの対象を拡大し、10代の若者のアカウントが暴力に関する利用ポリシーへの違反を理由に停止された場合、保護者に通知するようにした。同社は、10代の若者のアカウントを暴力について繰り返し話し合ったために一時停止した場合にも、保護者に通知する機能の導入に取り組んでいる。

これらの対策は、OpenAIが2026年初めに導入したティーン向けの安全機能を拡充するものです。同社は2026年8月18日にティーン向けChatGPTを公開し、18歳未満と推定されるユーザー、または13歳から17歳までの年齢を申告したユーザーを自動的に、Model Specに定められた18歳未満向け原則に基づくデフォルトの安全対策を備えた環境に移行させました。OpenAIは2026年1月20日、ChatGPTの一般ユーザー向けプランで年齢予測の段階的な導入を開始しました。行動やアカウントに関するシグナルを使って、アカウントが18歳未満の人のものである可能性を推定する仕組みです。2026年8月25日の更新では、このシステムのEUでの導入も始まったとされています。

発表で詳しく説明された安全対策は、今後数週間以内に段階的に導入を開始し、引き続き改良を重ねていくとOpenAIは述べました。