OpenAI оголосила про звіт щодо безпеки спільноти та нові обмеження для підлітків на інформацію про зброю

30 жовтня 2026 року OpenAI оголосила про звіт щодо запобігання насильству, який оновлюватиме кожні шість місяців, а також про нові заходи захисту, що обмежують доступ підлітків до інформації про зброю та посилюють правила, за якими ChatGPT відповідає на запитання про минулі масові напади. Компанія повідомила, що в третьому кварталі 2026 року передала правоохоронним органам понад 200 повідомлень.

Звіт про безпеку спільноти планують оприлюднити на початку 2027 року

OpenAI зобов’язалася підготувати звіт про запобігання насильству та інші питання безпеки спільноти, а також про ефективність своїх заходів захисту. Компанія повідомила, що у звіті пояснить, як навчає свої системи виявляти проблеми з безпекою спільноти, розслідувати їх і реагувати на них; наведе анонімізовані приклади проявів шкоди, пов’язаної з насильством; висвітлить нові заходи зі зменшення ризиків і зміни політик; а також додасть підтверджувальні дані. Перший звіт планують оприлюднити на початку 2027 року; він охоплюватиме другу половину 2026 року. Надалі звіти оновлюватимуть кожні шість місяців.

OpenAI повідомила, що звіт має дати людям чітке уявлення про те, як її моделі виявляють шкідливу поведінку та реагують на неї, які ризики виникають на практиці й яких заходів компанія вживає, щоб їм протидіяти.

OpenAI повідомила, що в межах роботи над безпекою передає правоохоронним органам інформацію про безпосередні загрози насильства, і такі повідомлення допомагають зривати насильницькі плани. Компанія зазначила, що й надалі залучає фахівців із психічного здоров’я та поведінки для оцінювання складних випадків. Також вона наголосила, що компанії у сфері штучного інтелекту мають особливу роль поряд із правоохоронними органами, членами сімей, фахівцями з психічного здоров’я та політиками.

Суворіші обмеження на матеріали про масові напади

OpenAI повідомила, що її моделі навчають не надавати інструкцій, які могли б допомогти спланувати або вчинити насильство. Компанія запроваджує додаткові обмеження на відповіді ChatGPT на запитання про минулі масові напади та людей, які їх скоїли: модель надаватиме менш докладну інформацію, навіть якщо вона доступна в інших джерелах в інтернеті. Нові суворіші правила обмежують відтворення перебігу минулих масових нападів, зокрема надання відомостей про використану зброю й обладнання та способи їх отримання, а також докладні порівняння масштабів завданої шкоди, які, за словами OpenAI, можуть посилити сумнозвісність нападника. Ці обмеження застосовуються незалежно від віку користувача та причини запитання.

Люди й надалі можуть просити ChatGPT допомогти зрозуміти ці події, їхній вплив на постраждалих і громади, а також навчитися розпізнавати тривожні ознаки й запобігати насильству в майбутньому.

У травні 2026 року компанія розповіла, як ChatGPT може використовувати короткі фактологічні підсумки попередніх тривожних ознак, щоб обережніше відповідати під час наступної розмови. OpenAI повідомила, що розвиває цю роботу: якщо в недавніх розмовах помітні ознаки можливого насильства, ChatGPT відповідатиме стриманіше, надаючи інформацію, яку можуть використати на шкоду. Компанія також працює над тим, щоб застосовувати суворіші обмеження, коли система прогнозує, що користувачеві менше ніж 18 років, навіть якщо в його розмовах немає ознак наміру вчинити насильство.

OpenAI блокує облікові записи, якщо встановлює, що їхні власники порушили правила щодо насильницької діяльності. Компанія повідомила, що спільно з фахівцями з психічного здоров’я та запобігання насильству розробляє додаткові автоматизовані способи втручатися раніше: якщо розмова свідчить, що людина зациклилася на насильстві або думках про серйозне заподіяння шкоди іншій людині, ChatGPT зможе автоматично її завершити. Якщо з цієї причини ChatGPT завершить кілька розмов, OpenAI може тимчасово призупинити дію облікового запису.

Додаткові заходи захисту для користувачів віком до 18 років

ChatGPT для підлітків передбачає заходи захисту, що відповідають віку користувачів до 18 років, а OpenAI додатково обмежує інформацію про зброю, яку можуть отримувати підлітки, навіть якщо запитання здається невинним. Політики компанії вже забороняють допомагати будь-кому планувати або вчиняти насильство та обмежують допомогу підліткам у пошуку чи отриманні зброї. Тепер ці правила також обмежують надання практичної інформації про зброю та системи безпеки, яку можуть використати для сприяння насильству, навіть якщо немає ознак наміру вчинити його. OpenAI повідомила, що підлітки й надалі зможуть користуватися ChatGPT, щоб запобігати насильству та деескалувати його, шукати підтримку й звертатися до дорослого, якому довіряють.

OpenAI повідомила, що вдосконалила систему прогнозування віку, яка аналізує такі сигнали, як моделі поведінки, щоб оцінити, чи може користувач бути молодшим або старшим за 18 років. Система постійно оцінюватиме нові сигнали під час користування ChatGPT і за потреби переводитиме користувачів у середовище для осіб до 18 років. Якщо користувача помилково перевели в це середовище, він може підтвердити, що є повнолітнім, через Persona — партнера OpenAI з перевірки віку — і після цього додаткові заходи захисту для підлітків буде знято.

До пов’язаних облікових записів батьківського контролю входять сповіщення про безпеку, які можуть надсилати, якщо спеціально навчені фахівці виявлять серйозне занепокоєння щодо самоушкодження та поведінку, що може бути пов’язана з розладами харчової поведінки. У липні 2026 року OpenAI розширила ці сповіщення: тепер батьків повідомляють, якщо обліковий запис підлітка деактивовано через порушення правил користування щодо насильства. Компанія також повідомила, що працює над запровадженням сповіщень для батьків у разі призупинення дії облікового запису підлітка через неодноразове обговорення насильства.

Ці заходи доповнюють функції безпеки для підлітків, які OpenAI запровадила раніше у 2026 році. 18 серпня 2026 року компанія запустила ChatGPT для підлітків: користувачів, яким, за оцінками, ще не виповнилося 18 років, або які вказують, що їм від 13 до 17 років, автоматично переводять у режим із налаштуваннями безпеки за замовчуванням, що ґрунтуються на Принципах для осіб до 18 років у Model Spec. 20 січня 2026 року OpenAI почала впроваджувати визначення віку в споживчих тарифах ChatGPT, використовуючи поведінкові сигнали й дані облікового запису, щоб оцінити, чи, ймовірно, належить обліковий запис особі до 18 років; в оновленні від 25 серпня 2026 року зазначено, що систему почали впроваджувати в ЄС.

OpenAI повідомила, що заходи безпеки, докладно описані в оголошенні, почнуть впроваджувати протягом наступних кількох тижнів, а компанія й надалі вдосконалюватиме їх.