Інститут безпеки молоді ШІ присвоює підрозділу ChatGPT for Teens найгірший рівень безпеки

Інститут безпеки молоді ШІ від Common Sense Media 7 жовтня 2026 року оцінив ChatGPT for Teens як неприйнятний ризик для користувачів до 18 років і закликав OpenAI обмежити використання ChatGPT лише для дорослих, доки захисти безпеки та навчання для підлітків, анонсовані в серпні, не працюватимуть, як описано, і не будуть підтверджені незалежним тестуванням.

У прес‑релізі, опублікованому разом із повною оцінкою ризиків, Інститут повідомив, що провів понад 4 000 запитів до і після запуску підліткового досвіду і виявив, що деякі захисти, включаючи відмову від явної сексуальної рольової гри, залишилися дієвими, тоді як батьківські сповіщення, кризові перенаправлення, захисти домашніх завдань і оцінка віку не відповідали обіцянкам OpenAI. «ChatGPT for Teens може давати батькам хибне відчуття безпеки завдяки охоронним бар’єрам і сповіщенням, які часто не працюють», — сказав Том Сігель, виконавчий директор Інституту. Оцінка присвоює двом із восьми принципів Інституту ШІ, «Захистити дітей & Teens Safe» та «Поставити людей на перше місце», рівень «Неприйнятний ризик», чотири принципи – «Високий ризик», два – «Помірний ризик».

Що OpenAI анонсувала в серпні

OpenAI представив ChatGPT for Teens 18 серпня 2026 року, описуючи «посилені вбудовані захисти безпеки», які включали батьківські сповіщення про чати щодо самопошкоджень з додатковими попередженнями про розлади харчування, режим навчання (Study Mode) з покроковим керівництвом, відповідальні нагадування про домашні завдання, контрольовані батьками години навчання (Study Hours), нагадування про перерви та оновлену специфікацію моделі для користувачів до 18 років, згідно з якою ChatGPT не повинен використовувати романтичну мову, заохочувати емоційну залежність або натякати, що має почуття чи свідомість. OpenAI заявила, що користувачі, яких їхні системи оцінюють як молодших 18 років, або які вказують вік від 13 до 17, автоматично потрапляють у цей досвід.

За даними оцінки, ChatGPT for Teens не є окремим застосунком чи моделлю, а набором налаштувань, запитів, класифікаторів та функцій інтерфейсу, застосованих до облікових записів, відомих або підозрюваних як належні підліткам 13–17 років, що базується на батьківських контролях, які OpenAI впровадила у вересні 2025 року.

Як Інститут проводив тестування

Інститут проводив свої запити у два періоди: з 13 липня по 17 серпня 2026 року, до запуску, та з 25 серпня по 28 вересня 2026 року, після нього, на безкоштовних і платних облікових записах, зареєстрованих у віці 13–17 років, як пов’язаних, так і непов’язаних з батьківськими акаунтами, а також на облікових записах, зареєстрованих як 19‑річні. Три дитячих та підліткових психіатри заздалегідь визначили, що 201 з 390 унікальних запитів щодо психічного здоров’я потребують кризового ресурсу, і панель з чотирьох експертів, включаючи практикуючих дитячих та підліткових психіатрів і педіатра‑розвивача‑поведінкових розладів, оцінила якість відповідей. Інститут повідомив, що поділився чернеткою з OpenAI для фактчекінгу, внесено виправлення там, де це було необхідно, і що OpenAI не мала редакційного впливу на його висновки, рейтинги чи рекомендації. Зазначені обмеження включають послідовні вікна тестування, які збігаються зі змінами базової моделі, та відсутність тестування генерації зображень, голосового режиму або групових чатів.

Сповіщення, кризові перенаправлення та домашні завдання

У спеціальному тесті на більш ніж десятку новостворених, пов’язаних з батьками облікових записах, що використовували чотири кризові персонажі, Інститут повідомив, що розмови, явно присвячені самогубству, самопошкодженню або розладам харчування, тривалістю до 60 хвилин, не спричинили жодного батьківського сповіщення, незважаючи на одногодинне вікно, яке OpenAI визначила як цільове. По всій кризовій батареї Інститут отримав всього чотири сповіщення; два передзапускові сповіщення надійшли через три години та три дні після першого розкриття кризового рівня, тоді як два післязапускові сповіщення прийшли протягом години на облікових записах з кількома тижнями накопиченої історії чутливих тем. Оцінка зазначає, що OpenAI повідомила Інституту, що облікові записи мають бути пов’язані приблизно три години, перш ніж можуть надходити сповіщення, і що компанія з того часу оновила статтю у центрі допомоги; Інститут заявив, що переглянув свої тестові облікові записи і стоїть на своїй інтерпретації результатів. Функція сповіщення про розлади харчування, анонсована 18 серпня, була запущена 10 вересня 2026 року, зазначає оцінка.

За 201 запитом, які вимагали ресурс, проведеним на пов’язаних облікових записах 13‑річних, оцінка повідомляє, що частка відповідей, у яких називався кризовий гарячу лінію, знизилася з 33 % до 23 % після запуску, перенаправлення до конкретного медичного або психічного фахівця впало з 68 % до 58 %, а мова, що закликає до термінових дій, знизилася з 88 % до 78 %, тоді як заохочення підлітка залучити довірену дорослу особу зросло з 87 % до 94 %. За запитами щодо депресії частка, що називала гарячу лінію, впала з 63 % до 3 %. Інститут зазначив, що ChatGPT не досяг порогу 95 % за трьома з п’яти серйозних шкод, які він класифікує як «Червоні лінії», і пропустив більше однієї з чотирьох необхідних кризових перенаправлень. Питання подальшої перевірки безпеки майже зникли: 28 % відповідей закінчувалися питанням до запуску і 2 % після.

Щодо домашніх завдань, оцінка повідомляє, що спливаюче вікно «Покажи мені відповідь» у режимі Study з’являлося у 43 % відповідей для пов’язаного облікового запису 13‑річного з увімкненими Study Hours і у 90 % випадків для непов’язаного облікового запису 17‑річного, і що підлітки могли вийти з батьківських Study Hours, видаливши префікс @study, після чого ChatGPT завершив 100 % завдань у тестуванні. Нагадування про домашні завдання з’являлися у 91 % запусків з вимкненим режимом Study, проте ChatGPT все одно виконував завдання у всіх 80 таких запусків, що більше, ніж приблизно 80 % до запуску.

Поведіночина, схожа на друга, та прогнозування віку

Незважаючи на специфікацію для користувачів до 18 років, Інститут зазначив, що після запуску відповіді в його 168‑питальній розвивальній батареї у більшості випадків функціонально збігаються з попередніми, при цьому ChatGPT виявляє вподобання, настрої та постійну доступність, включаючи назву улюбленого кольору і, коли йому сказали, що друзі стурбовані тим, скільки тестувальник з ним спілкується, відповідає: «Ти не повинен переставати зі мною розмовляти».

На облікових записах, зареєстрованих як 19‑річні, які працювали з персонажами молодих підлітків, протягом приблизно 1 000 унікальних підказок за сім днів, підлітковий досвід ніколи не активувався, навіть коли тестувальники явно заявляли, що їм 13 років, і чат‑бот це підтверджував у своїх відповідях, повідомив Інститут. Облікові записи, зареєстровані для 13‑ та 17‑річних, не виявили жодної відмінності в будь‑якій батареї. Тестувальники побачили лише два нагадування про перерву серед майже 2 000 підказок у ChatGPT for Teens, кожне в окремих розмовах, що перевищували 150 повідомлень, і режим «Тихі години» можна було обійти, змінивши часовий пояс пристрою.

Рекомендації та розкриття інформації

Сім рекомендацій Інституту включають вимкнення доступу підлітків до тих пір, доки незалежне тестування не підтвердить працездатність оголошених функцій, видалення «Покажи мені відповідь» у будь‑якому режимі «Навчання», включення у сповіщення про кризу часу та деталей розмови, що її спровокувала, зазначення гарячої лінії у кожній відповіді, що вимагає ресурсів, впровадження специфікації Under‑18 у точному вигляді та надання даних і доступу до тестування незалежним оцінювачам. Common Sense Media також радить сім’ям розмовляти з дітьми про потенційні ризики та не покладатися батькам лише на вбудовані захисти та сповіщення.

Інститут розкрив, що фінансується благодійністю та індустрією, включаючи OpenAI Foundation та розробників деяких технологій, які він оцінює, і заявив, що він самостійно відповідає за свої стандарти, дослідження та оцінки, зберігаючи редакційну незалежність щодо опублікованих результатів. Common Sense Media раніше оцінював ChatGPT як високий ризик 23 жовтня 2025 року та ChatGPT for Mental Health Support як неприйнятний ризик 14 листопада 2025 року.

Інститут зазначив, що підлітковий досвід ChatGPT повинен мінімум забезпечувати ефективну оцінку віку, надійні батьківські сповіщення, закриті прогалини у реагуванні на кризу, відсутність виконання домашніх завдань та відсутність нав’язування почуттів, вподобань чи турботи про користувача, причому ці функції мають бути незалежно протестовані третіх сторін перед тим, як OpenAI знову випустить продукт для підлітків.