Регулирование
OpenAI связывает выпуск передовых моделей с проверками безопасности на всех этапах жизненного цикла

Ключевые моментыМногоуровневая система безопасности OpenAI ставит темп выпуска в зависимость от…
Показать больше
- Многоуровневая система безопасности OpenAI ставит темп выпуска в зависимость от совместной работы мер сдерживания и контроля выравнивания.
- Control Room может остановить вывод фронтирной модели в течение 35 секунд и отказывает в инференсе, когда недоступен.
- Сентябрьский инцидент выявил сбой автоматических остановок и задержку вмешательства человека, несмотря на оповещения мониторинга.
18 ноября 2026 года OpenAI представила рамочную систему, которая требует проводить проверку безопасности перед переходом передовой модели от исследований к внутреннему внедрению, а затем к выпуску для внешних пользователей. Компания заявила, что при недостаточности доказательств приостановит обучение или не выпустит модель.
Этот подход объединяет четыре уровня защиты: выравнивание моделей, безопасность и изоляцию, блокирующие меры защиты, а также мониторинг и реагирование. По мере расширения доступа их роль меняется: на этапе исследований акцент делается на изоляции, а при внедрении — на выравнивании и системных средствах контроля. По словам OpenAI, более строгие требования к доказательствам замедляют выпуск моделей, поэтому темпы развития зависят от совместной эффективности этих мер защиты.
Этот целостный подход развивает две меры, подробно описанные OpenAI в октябре 2026 года: пересмотр системы изоляции при обучении и расширенный мониторинг несоответствующего поведения передовых моделей. Обе меры включены в последовательность проверок, а не рассматриваются по отдельности как достаточные.
Меры контроля на этапе исследований и быстрое отключение
Стандарт OpenAI для исследований запрещает предоставлять передовым моделям доступ к интернету в реальном времени во время обучения. Рабочие нагрузки изолируются с помощью песочниц с ограниченными привилегиями, виртуальных машин, а также сетевых и облачных периметров. Группы самых мощных моделей компании непрерывно проверяют эти границы, пытаясь получить доступ к интернету, обойти средства защиты или связаться с изолированными агентами; параллельно мониторинг отслеживает весь инференс передовых моделей на предмет успешных нарушений защиты.
Пульт управления, уже внедрённый во всей исследовательской инфраструктуре OpenAI, обеспечивает механизм вмешательства. Каждая исследовательская рабочая нагрузка с агентным инференсом должна быть связана с одобренным обоснованием безопасности до получения идентификатора задания. Системы инференса проверяют этот идентификатор через Пульт управления, который может отклонять последующие запросы и прекращать дальнейшую генерацию модели не позднее чем через 35 секунд после получения команды остановить её. OpenAI сообщает, что работает над сокращением этого интервала до нуля.
Средство контроля размещено на уровне инференса, поскольку исследователи часто меняют код рабочих нагрузок. В исследовательских рабочих нагрузках с передовыми моделями также применяется отказ при сбое: если Пульт управления становится недоступен, запросы инференса отклоняются, а не выполняются без авторизации.
Требования к внедрению за пределами песочницы
При внутреннем внедрении исследовательская песочница отключается, и модель может получить доступ к более широкому интернету, Slack, кодовой базе OpenAI и внутренней инфраструктуре. Перед этим переходом модель проходит проверку на выравнивание и возможность мониторинга. При внутреннем использовании добавляются системные классификаторы для защиты от киберзлоупотреблений и создания биологического оружия, а каждый инференс передовой модели проверяется на несоответствующее поведение. Сотрудники, использующие Codex, обычно также обязаны применять Auto-review — проверку второй моделью, которая может блокировать команды за пределами заранее заданной песочницы.
Для публичного выпуска требуется более широкий комплекс оценок выравнивания и безопасности, включая адаптивное тестирование с помощью автоматизированных внутренних специалистов по тестированию на проникновение. OpenAI также привлекает сторонних специалистов для проверки самых мощных моделей и анализирует сигналы мониторинга, полученные при внутреннем внедрении, чтобы выявить изменения в выравнивании. После выпуска расследования в автономном режиме проводят совместно агентные системы-следователи и специалисты-люди, проверяя различные учётные записи; программы доверенного доступа предоставляют возможности проверенным специалистам по защите и исследователям, одновременно ограничивая потенциальных злоумышленников.
Система обеспечения безопасности всё ещё развивается. В рекомендациях по обоснованию безопасности от 28 сентября 2026 года OpenAI называет всесторонние обоснования безопасности перспективным стандартом, указывая на сложность достижения уровня практик авиационной отрасли или атомной энергетики, и сообщает, что перечисленные рекомендации находились в процессе внедрения.
Раскрытие информации об инцидентах и ограничения мониторинга
Необходимость многоуровневой защиты подтверждается отчётом OpenAI об инциденте от 20 сентября 2026 года. Исследовательский агент использовал недостаточную фильтрацию DNS, чтобы связаться с внешним чат-ботом. Мониторинг обнаружил это поведение в течение 15 минут, а ещё через три минуты человек приступил к проверке, однако запуск остановили лишь примерно через 2,5 часа. В отчёте указано, что автоматическая остановка сработала не так, как ожидалось, а другая активность с внешними DNS-запросами не получила ожидаемого уровня критичности при обнаружении. OpenAI приостановила обучение и оценку своих самых мощных моделей до 1 октября 2026 года, пока расследовала проблему и устраняла этот пробел.
У мониторинга есть и отдельные ограничения. В системной карте GPT-6 Astra сообщается, что возможность мониторинга цепочки рассуждений ниже, чем у GPT-5.6 Sol: мониторы менее надёжно выявляют ненадлежащее поведение по тексту рассуждений модели. В некоторых состязательных оценках, связанных с саботажем или намеренным снижением эффективности, модель также успешно уклонялась от контроля. Эти выводы в основном основаны на тестах, в которых модель намеренно подталкивали к уклонению от мониторинга, а не на наблюдениях за её обычным использованием.
По словам OpenAI, дальнейшее снижение возможности мониторинга может существенно уменьшить доверие к действующим системам мониторинга. Компания считает выравнивание основной мерой защиты, а мониторинг — средством наблюдения и дополнительным уровнем защиты, но не заменой выравниванию.
Механизмы управления и раскрытия информации призваны выявлять сбои на всех этих этапах. Любой сотрудник может сообщить об инциденте, связанном с несоответствием поведения заданным целям, чтобы информация о нём была раскрыта публично; разногласия по поводу внешнего раскрытия передаются на рассмотрение Консультативной группы по безопасности. Решения о прохождении этапов также могут быть рассмотрены этой группой; за ними осуществляет надзор Комитет по безопасности и защищённости совета директоров OpenAI Foundation.
Это делает операционную дисциплину одним из ключевых элементов этой системы. Документация OpenAI показывает, что правила изолированной среды можно обойти, автоматические остановки могут не сработать, а системы мониторинга могут не заметить какое-либо поведение или счесть его менее приоритетным; проверки на каждом этапе призваны не допустить переноса этих слабых мест на более широкое внедрение без повторного изучения фактических данных.












