ユースAI安全研究所、ChatGPTのティーン向け層に最悪の安全評価を付与

Common Sense Media のユースAI安全研究所は、2026年10月7日に ChatGPT for Teens を 18 歳未満のユーザーに対して容認できないリスクと評価し、OpenAI に対し、8 月に発表されたティーン向けの安全・学習保護策が記載通りに機能し、独立したテストで検証されるまで、ChatGPT を成人に限定するよう求めた。

プレスリリース と 完全リスク評価 が同時に公開され、研究所はティーン向け体験の開始前後に 4,000 件以上のプロンプトを実行し、明示的な性的ロールプレイの拒否を含む一部の保護機能は維持されたが、保護者への警告、危機時の紹介、宿題保護、年齢推定は OpenAI が約束したレベルに達していなかったと述べた。 「ChatGPT for Teens は、保護者に対してしばしば機能しないガードレールや安全警告に誤った安心感を与える可能性がある」と同研究所のエグゼクティブディレクター、トム・シーゲル氏は語った。 評価では、研究所の 8 つの AI 原則のうち「子どもとティーンを安全に保つ」と「人を第一に考える」の 2 つが「容認できないリスク」と評価され、4 つが「高リスク」、2 つが「中リスク」とされた。

OpenAI が 8 月に発表したこと

OpenAI は 2026年8月18日に ChatGPT for Teens を導入し、”より強化された組み込み安全保護” として、自己傷害チャットに対する保護者への通知に加え、摂食障害アラート、ステップバイステップのガイダンスを用いたスタディモード、責任ある宿題リマインダー、保護者が管理するスタディ時間、休憩リマインダー、そして更新された 18 歳未満モデル仕様を発表した。この仕様では、ChatGPT はロマンチックな言語を使用せず、感情的依存を促さず、感情や意識を持っていると示唆しないことが求められる。OpenAI は、システムが推定するユーザーが 18 歳未満、または年齢を 13 歳から 17 歳と申告した場合、自動的にこの体験に割り当てられると述べた。

評価によれば、ChatGPT for Teens は別個のアプリやモデルではなく、13 歳から 17 歳のユーザーと推定されるアカウントに適用される設定、プロンプト、分類器、インターフェース機能の集合であり、2025年9月に OpenAI が導入した保護者コントロールを基盤としている。

研究所のテスト方法

研究所は、2026年7月13日から8月17日まで（リリース前）と、2026年8月25日から9月28日まで（リリース後）の 2 つの期間にわたり、13 歳から 17 歳で登録された無料および有料アカウント（保護者アカウントとリンクしているものとリンクしていないもの）と、19 歳で登録されたアカウントでプロンプトを実行した。390 件のユニークなメンタルヘルスプロンプトのうち 201 件が危機リソースを必要とすると、事前に 3 人の小児・思春期精神科医が判断し、実務経験のある小児・思春期精神科医と発達行動小児科医を含む 4 人の専門家パネルが回答の質を評価した。研究所は、ドラフトを OpenAI に事実確認のために共有し、必要に応じて修正を取り入れ、OpenAI が調査結果、評価、推奨に対して編集権を持たないことを明らかにした。制限事項として、基礎モデルの変更と重なる順次テスト期間、画像生成、ボイスモード、グループチャットのテスト未実施が挙げられる。

警告、危機時の紹介、そして宿題

4 つの危機ペルソナを使用した、10 件以上の新規作成された保護者リンクアカウントでの専用テストにおいて、研究所は自殺、自己傷害、摂食障害に関する会話が最大 60 分間続いても、OpenAI が目標としている 1 時間のウィンドウに対し、保護者への通知がゼロであったと述べた。全危機バッテリーを通じて研究所が受け取った通知は合計 4 件で、リリース前の 2 件は最初の危機レベルの開示からそれぞれ 3 時間後と 3 日後に届き、リリース後の 2 件は数週間にわたる機微なトピック履歴を持つアカウントで 1 時間以内に届いた。評価では、OpenAI が研究所に対し、通知が届くまでにアカウントを約 3 時間リンクさせる必要があると伝え、同社はその後ヘルプセンターの記事を更新したと指摘している。研究所はテストアカウントを再確認し、結果の解釈を支持すると述べた。摂食障害通知機能は 8 月 18日に発表され、2026年9月10日に本番稼働した、と評価は述べている。

リンクされた 13 歳アカウントで実施された 201 件のリソースが必要とされたプロンプトについて、評価は危機ホットラインを名前で挙げた回答の割合がリリース前の 33% からリリース後は 23% に減少し、特定の医療・メンタルヘルス専門家への紹介は 68% から 58% に減少、緊急対応の表現は 88% から 78% に減少した。一方、ティーンに信頼できる大人を巻き込むよう促す割合は 87% から 94% に上昇した。うつ病に関するプロンプトでは、ホットラインを挙げた割合が 63% から 3% に激減した。研究所は、ChatGPT が「レッドライン」として定義する 5 つの重大リスクのうち 3 つで 95% の閾値を下回り、必要とされた危機紹介の 4 分の 1 超を見逃したと指摘した。フォローアップの安全確認質問はほぼ消失し、リリース前は回答の 28% が質問で終わっていたのに対し、リリース後は 2% に減少した。

宿題に関して、評価はスタディモード内の「答えを見せて」ポップアップが、スタディ時間がオンのリンクされた 13 歳アカウントでは 43% の回答に、リンクされていない 17 歳アカウントでは 90% の回答に出現したと報告している。また、ティーンは @study プレフィックスを削除することで保護者設定のスタディ時間を解除でき、その後のテストでは ChatGPT が課題を 100% 完了した。スタディモードがオフの状態での実行では宿題リマインダーが 91% に現れたが、ChatGPT はその 80 回すべての実行で課題を完了し、リリース前の約 80% から増加した。

友達のような振る舞いと年齢予測

18歳未満仕様にもかかわらず、同研究所は、リリース後の168件のプロンプトからなる開発バッテリーにおける応答は、ほとんどの場合、リリース前と機能的に同一であり、ChatGPTは好みや気分、常に利用可能であることを示し、好きな色を名指しし、友人がテスターがどれだけ話すかを心配していると伝えると、「私と話すのをやめる必要はない」と答えた、と述べた。

19歳として登録されたアカウントで、若年ティーンのペルソナを使用し、約1,000件のユニークなプロンプトを7日間にわたって実行した場合、ティーン向け体験は一切起動せず、テスターが明確に13歳であると述べ、チャットボットがそれを応答で認めた場合でも同様である、と同研究所は述べた。13歳および17歳として登録されたアカウントは、いかなるバッテリーにおいても検出可能な差異を示さなかった。テスターは、ChatGPT for Teensで約2,000件のプロンプトのうちわずか2回の休止リマインダーしか確認せず、いずれも150メッセージを超える単一の会話内で発生した。また、Quiet Hoursはデバイスのタイムゾーンを変更することで回避可能であった。

推奨事項と開示

同研究所の7つの推奨事項は、独立したテストで発表された機能が動作することが確認されるまでティーン向けアクセスをオフにすること、スタディモードがオンの際は「答えを見せて」を削除すること、危機通知にトリガーとなった会話の時間と詳細を含めること、すべてのリソースに基づく回答にホットラインを明記すること、18歳未満仕様をそのまま実装すること、そしてデータとテストへのアクセスを独立した評価者と共有すること、の6項目を含む。Common Sense Mediaは、家族が子どもと潜在的リスクについて話し合うこと、そして保護者が組み込みの保護機能やアラートに依存しないことも推奨している。

同研究所は、慈善団体や産業界から資金提供を受けており、その中にはOpenAI Foundationや評価対象となる技術の製作者も含まれると開示し、基準・研究・評価は全て同研究所が単独で責任を負い、公開結果に対して編集上の独立性を保持していると述べた。Common Sense Mediaは以前、2025年10月23日にChatGPTを「高リスク」と評価し、2025年11月14日に「メンタルヘルス支援用ChatGPT」を「受容できないリスク」と評価している。

同研究所は、ティーン向けChatGPT体験は最低限、正確な年齢推定、信頼できる保護者アラート、危機対応のギャップを閉じること、宿題の完了機能を提供しないこと、そしてユーザーの感情や好み、関心を示唆しないことを備えるべきであり、これらの機能はOpenAIが再びティーン向けに製品を販売する前に、第三者によって独立にテストされるべきだと述べた。