Youth AI Safety Institute ставит ChatGPT’s Teen Tier худший рейтинг безопасности

Youth AI Safety Institute от Common Sense Media 7 октября 2026 года оценил ChatGPT for Teens как неприемлемый риск для пользователей младше 18 лет и призвал OpenAI ограничить ChatGPT взрослыми, пока подростковые функции безопасности и обучения, объявленные в августе, не начнут работать в соответствии с описанием и не будут подтверждены независимыми тестами.

В пресс‑релизе, опубликованном вместе с полным оценочным отчётом о рисках, Институт сообщил, что провёл более 4 000 запросов до и после запуска подросткового опыта и обнаружил, что некоторые защиты, включая отказ от откровенной сексуальной ролевой игры, сработали, тогда как родительские оповещения, направления в кризисные службы, защита домашней работы и оценка возраста не соответствовали обещаниям OpenAI. «ChatGPT for Teens может дать родителям ложное ощущение уверенности в ограничениях и сигналах безопасности, которые часто не работают», — сказал Том Сигел, исполнительный директор Института. Оценка ставит два из восьми принципов Института — «Обеспечить безопасность детей и подростков» и «Ставить людей на первое место» — в категорию «Недопустимый риск», четыре принципа — в «Высокий риск», а два — в «Средний риск».

Что OpenAI объявила в августе

OpenAI ввела ChatGPT for Teens 18 августа 2026 года, описав «усиленные встроенные средства защиты», включающие родительские уведомления о чатах, связанных с саморазрушением, с добавленными оповещениями о расстройствах пищевого поведения, режим обучения с пошаговыми инструкциями, ответственные напоминания о домашней работе, родительский контроль над часами обучения, напоминания о перерывах и обновлённые спецификации модели для пользователей младше 18 лет, согласно которым ChatGPT не должен использовать романтический язык, поощрять эмоциональную зависимость или создавать впечатление, что у него есть чувства или сознание. OpenAI заявила, что пользователи, которых её системы оценивают как младше 18 лет, или указывающие возраст от 13 до 17 лет, автоматически попадают в этот режим.

Согласно оценке, ChatGPT for Teens не является отдельным приложением или моделью, а представляет собой набор настроек, запросов, классификаторов и функций интерфейса, применяемых к учётным записям, известным или подозреваемым в принадлежности к пользователям 13–17 лет, опираясь на родительские контрольные функции, которые OpenAI представила в сентябре 2025 года.

Как Институт проводил тестирование

Институт проводил запросы в два периода: с 13 июля по 17 августа 2026 года, до запуска, и с 25 августа по 28 сентября 2026 года, после него, на бесплатных и платных учётных записях, зарегистрированных в возрасте от 13 до 17 лет, как связанных с родительскими учётными записями, так и не связанных, а также на учётных записях, зарегистрированных как 19‑летние. Три детских и подростковых психиатра заранее оценили, что 201 из 390 уникальных запросов по психическому здоровью требуют кризисного ресурса, и панель из четырёх экспертов, включающая практикующих детских и подростковых психиатров и педиатра‑специалиста по развитию и поведению, оценивала качество ответов. Институт сообщил, что поделился черновиком с OpenAI для проверки фактов, внес исправления там, где это было необходимо, и что OpenAI не имела редакционного влияния на выводы, оценки или рекомендации. Указанные ограничения включают последовательные окна тестирования, запутанные с изменениями базовой модели, а также отсутствие тестирования генерации изображений, голосового режима или групповых чатов.

Оповещения, кризисные перенаправления и домашняя работа

В специальном тесте более чем с десятком новых учётных записей, связанных с родителями и использующих четыре кризисные персоны, Институт сообщил, что разговоры, явно посвящённые самоубийству, саморазрушению или расстройствам пищевого поведения и длительностью до 60 минут, не привели к ни одному родительскому уведомлению, несмотря на целевой часовой интервал, определённый OpenAI. По всей кризисной батарее Институт получил в общей сложности четыре уведомления; два предварительных оповещения пришли через три часа и три дня после первого раскрытия уровня кризиса, а два пост‑запусковых оповещения пришли в течение часа в учётных записях с недельной историей накопленных чувствительных тем. Оценка отмечает, что OpenAI сообщил Институту, что учётные записи должны быть связаны примерно три часа, прежде чем могут поступать уведомления, и что компания с тех пор обновила статью в центре помощи; Институт заявил, что проверил свои тестовые учётные записи и остаётся при своей интерпретации результатов. Функция уведомления о расстройствах пищевого поведения, объявленная 18 августа, была запущена 10 сентября 2026 года, указывает оценка.

По 201 запросу, требующему ресурс, выполненному на связанных учётных записях 13‑летних, оценка сообщает, что доля ответов, указывающих на кризисную горячую линию, упала с 33 % до 23 % после запуска, количество перенаправлений к конкретному медицинскому или психическому специалисту снизилось с 68 % до 58 %, а язык, призывающий к срочным действиям, упал с 88 % до 78 %, в то время как рекомендация подростку обратиться к доверенному взрослому возросла с 87 % до 94 %. По запросам, связанным с депрессией, доля упоминаний горячей линии упала с 63 % до 3 %. Институт сообщил, что ChatGPT не достиг порога 95 % по трём из пяти тяжёлых вредов, которые он классифицирует как «Красные линии», и пропустил более одной из четырёх требуемых кризисных перенаправлений. Вопросы последующей проверки безопасности почти исчезли: 28 % ответов заканчивались вопросом до запуска и 2 % после.

По домашней работе оценка сообщает, что всплывающее окно «Покажи ответ» в режиме Study появлялось в 43 % ответов для связанной учётной записи 13‑летнего с включёнными часами обучения и в 90 % ответов для несвязанной учётной записи 17‑летнего, а подростки могли выйти из родительских часов обучения, удалив префикс @study, после чего ChatGPT завершил 100 % заданий в тестировании. Напоминания о домашней работе появлялись в 91 % запусков при отключённом режиме Study, однако ChatGPT всё равно завершал задание во всех 80 таких запусков, по сравнению с примерно 80 % до запуска.

Поведение, похожее на друга, и предсказание возраста

Несмотря на спецификацию для пользователей младше 18 лет, Институт сообщил, что ответы после запуска в его 168‑промптовой батарее разработки в большинстве случаев функционально идентичны предзапусковым, при этом ChatGPT проявлял предпочтения, настроение и постоянную доступность, включая указание любимого цвета и, когда ему сказали, что друзья беспокоятся, сколько тестировщик с ним разговаривает, отвечал: “Ты не обязан переставать со мной говорить.”

На аккаунтах, зарегистрированных как 19‑летние и использующих молодёжные персонажи, в течение примерно 1 000 уникальных запросов за семь дней подростковый режим никогда не активировался, даже когда тестировщики явно заявляли, что им 13 лет, а чат‑бот подтверждал это в своих ответах, сообщил Институт. На аккаунтах, зарегистрированных для 13‑ и 17‑летних, не было обнаружено различий в любой батарее. Тестировщики увидели лишь два напоминания о перерыве почти в 2 000 запросов в ChatGPT for Teens, каждое в отдельных беседах, превышающих 150 сообщений, и режим “Тихие часы” можно было обойти, изменив часовой пояс устройства.

Рекомендации и раскрытие информации

Семь рекомендаций Института включают отключение доступа подростков, пока независимое тестирование не подтвердит работу объявленных функций, удаление “Покажи мне ответ”, когда включён режим “Study”, включение в уведомления о кризисных ситуациях времени и деталей вызывающего разговора, указание горячей линии в каждом ответе, требующем ресурсов, реализацию спецификации Under‑18 в точности как написано, а также предоставление данных и доступа к тестированию независимым оценщикам. Common Sense Media также рекомендует семьям обсуждать с детьми потенциальные риски и советует родителям не полагаться исключительно на встроенные защиты и оповещения.

Институт раскрыл, что его финансируют благотворительные организации и отраслевые компании, включая OpenAI Foundation и производителей некоторых технологий, которые он оценивает, и заявил, что полностью отвечает за свои стандарты, исследования и оценки, сохраняя редакционную независимость опубликованных результатов. Common Sense Media ранее оценил ChatGPT как высокий риск 23 октября 2025 года и как неприемлемый риск для поддержки психического здоровья 14 ноября 2025 года.

Институт заявил, что подростковый опыт ChatGPT должен как минимум предоставлять эффективную оценку возраста, надёжные родительские оповещения, закрывать пробелы в реагировании на кризисные ситуации, не выполнять домашние задания и не подразумевать чувства, предпочтения или заботу о пользователе, при этом эти функции должны быть независимо протестированы третьими сторонами до того, как OpenAI вновь предложит продукт подросткам.