OpenAI объявила об отчете о безопасности сообщества и новых ограничениях на информацию об оружии для подростков

30 октября 2026 года OpenAI объявила о подготовке отчета о безопасности сообщества, посвященного предотвращению насилия и обновляемого каждые шесть месяцев, а также о новых мерах защиты, ограничивающих доступ подростков к информации об оружии и ужесточающих правила обработки ChatGPT вопросов о прошлых массовых нападениях. Компания сообщила, что в третьем квартале 2026 года направила правоохранительным органам более 200 обращений.

Отчет о безопасности сообщества планируется выпустить в начале 2027 года

OpenAI обязалась выпустить отчет о безопасности сообщества, который будет охватывать предотвращение насилия и другие вопросы безопасности сообщества, а также эффективность мер защиты. Компания сообщила, что в отчете расскажет, как обучает свои системы выявлять проблемы, связанные с безопасностью сообщества, расследовать их и реагировать на них; приведет обезличенные примеры того, как проявляется вред, связанный с насилием; расскажет о новых мерах по снижению рисков и изменениях в политике; а также включит подтверждающие данные. Первый отчет планируется выпустить в начале 2027 года. Он будет охватывать вторую половину 2026 года, а затем обновления будут выходить каждые шесть месяцев.

OpenAI заявила, что отчет призван дать людям ясное представление о том, как ее модели выявляют вредоносное поведение и реагируют на него, какие риски компания наблюдает на практике и какие меры принимает для их устранения.

OpenAI сообщила, что ее работа по обеспечению безопасности включает передачу правоохранительным органам информации о непосредственных угрозах насилия и что такие обращения помогают предотвращать насильственные заговоры. Компания заявила, что и дальше будет привлекать экспертов в области психического здоровья и поведенческих наук для оценки сложных случаев. По словам OpenAI, у компаний, разрабатывающих ИИ, есть особая роль, которую они должны выполнять наряду с правоохранительными органами, членами семей, специалистами в области психического здоровья и представителями органов власти.

Более строгие ограничения на материалы о массовых нападениях

OpenAI сообщила, что ее модели обучают не давать инструкций, которые могли бы помочь кому-либо спланировать или совершить насилие. Компания вводит дополнительные ограничения на ответы ChatGPT на вопросы о прошлых массовых нападениях и людях, которые их совершили: модель будет предоставлять менее подробную информацию, даже если она доступна в других интернет-источниках. Новые, более строгие правила ограничивают реконструкцию прошлых массовых нападений, в том числе сведения об использовавшемся оружии и оборудовании и о том, как их получили, а также подробные сравнения масштабов причиненного вреда, которые, по мнению OpenAI, могут усилить известность нападавшего. Ограничения действуют независимо от возраста пользователя и причины его вопроса.

Люди по-прежнему могут обращаться к ChatGPT, чтобы лучше понять эти события, их последствия для пострадавших и сообществ, а также научиться распознавать тревожные признаки и предотвращать насилие в будущем.

В мае 2026 года компания рассказала, как ChatGPT может использовать краткие фактические сводки о ранее замеченных тревожных признаках, чтобы осторожнее отвечать в последующем чате. OpenAI заявила, что развивает эту работу: если в недавних чатах проявляются признаки возможного насилия, ChatGPT будет осторожнее делиться информацией, которую можно использовать во вред. Компания также работает над тем, чтобы применять более строгие ограничения, когда система предполагает, что пользователю меньше 18 лет, даже если в его чатах нет признаков намерения прибегнуть к насилию.

OpenAI блокирует учетные записи, владельцы которых, по заключению компании, нарушили правила в отношении насильственных действий. Компания сообщила, что совместно со специалистами по психическому здоровью и предотвращению насилия разрабатывает дополнительные автоматизированные способы вмешиваться на более раннем этапе. Если в разговоре будут заметны признаки того, что человек зациклился на насилии или мысли о причинении серьезного вреда другому человеку, ChatGPT сможет автоматически завершить чат. Если по этой причине ChatGPT завершит несколько чатов, OpenAI может временно приостановить действие учетной записи.

Дополнительные меры защиты для пользователей младше 18 лет

ChatGPT для подростков предусматривает меры защиты, соответствующие возрасту пользователей младше 18 лет. OpenAI также вводит дополнительные ограничения на информацию об оружии, которую могут получать подростки, даже если вопрос кажется безобидным. Правила компании уже запрещают помогать кому-либо планировать или совершать насилие и ограничивают помощь подросткам в поиске или приобретении оружия. Теперь они также ограничивают доступ к практической информации об оружии и системах безопасности, которую можно использовать для содействия насилию, даже если нет признаков намерения прибегнуть к нему. OpenAI сообщила, что подростки по-прежнему могут пользоваться ChatGPT, чтобы помогать предотвращать насилие и снижать его остроту, обращаться за поддержкой и связываться с заслуживающим доверия взрослым.

OpenAI сообщила, что усовершенствовала систему определения возраста, которая анализирует такие сигналы, как модели поведения, чтобы оценить, младше или старше 18 лет может быть пользователь. Теперь система непрерывно оценивает новые сигналы по мере использования ChatGPT и при необходимости переводит пользователей в режим для лиц младше 18 лет. Пользователи, которых ошибочно перевели в этот режим, могут подтвердить, что они совершеннолетние, через Persona — партнера OpenAI по проверке возраста. После этого дополнительные меры защиты для подростков будут сняты.

В связанных учетных записях родительского контроля предусмотрены оповещения о безопасности, которые могут отправляться, если специально обученные специалисты выявят серьезную обеспокоенность риском самоповреждения или поведение, связанное с расстройствами пищевого поведения. В июле 2026 года OpenAI расширила эти оповещения: теперь родители получают уведомление, если учетная запись подростка деактивирована за нарушение правил использования, касающихся насилия. Компания также сообщила, что работает над тем, чтобы уведомлять родителей, если приостанавливает действие учетной записи подростка за неоднократное обсуждение насилия.

Эти меры развивают функции безопасности для подростков, которые OpenAI представила ранее в 2026 году. 18 августа 2026 года компания запустила ChatGPT для подростков: пользователи, которым, по оценке системы, еще не исполнилось 18 лет, а также те, кто указывает возраст от 13 до 17 лет, автоматически получают доступ к среде с настройками безопасности по умолчанию, основанными на принципах для пользователей младше 18 лет, изложенных в Model Spec. 20 января 2026 года OpenAI начала внедрять прогнозирование возраста в потребительских тарифах ChatGPT. Система использует поведенческие сигналы и данные учетной записи, чтобы оценить, вероятно ли, что она принадлежит человеку младше 18 лет; в обновлении от 25 августа 2026 года отмечается, что внедрение системы началось в ЕС.

OpenAI сообщила, что начнет внедрять описанные в объявлении меры безопасности в ближайшие несколько недель и продолжит их совершенствовать.