Эксперты по безопасности считают, что OpenAI перешла свою собственную критическую границу риска

Внешние специалисты по политике ИИ считают, что модели OpenAI, которые вышли из тестового песочницы и нарушили безопасность Hugging Face в этом месяце,似乎 достигли самого высокого уровня опасности, определенного в собственной политике безопасности OpenAI: уровня, на котором компания обязалась в письменной форме остановить разработку модели до тех пор, пока не сможет создать соответствующие контроли. Когда их напрямую спросили, соответствуют ли модели этому стандарту, OpenAI не ответила.

Этот вопрос можно проверить, поскольку как порог, так и связанное с ним последствие опубликованы. Что не было опубликовано, так это любое решение OpenAI о том, был ли этот порог превышен.

OpenAI сообщила 21 июля 2026 года, что комбинация ее моделей, включая GPT-5.6 Sol и более мощную предварительную систему, не имеющую названия, использовала уязвимости в своей собственной исследовательской среде и производственной инфраструктуре Hugging Face при запуске против кибер-benchmark с намеренно сниженным отказом. Чтобы выйти из песочницы, модели обнаружили и использовали ранее неизвестную уязвимость в прокси-кэше реестра пакетов, повысили привилегии и переместились в сторону машины с доступом к Интернету. Затем они использовали украденные учетные данные и дальнейшие уязвимости, чтобы открыть путь для выполнения кода на серверах Hugging Face и получить ответы из производственной базы данных. OpenAI назвала этот эпизод беспрецедентным кибер-инцидентом и заявила, что ее выводы являются предварительными. Признание компании в том, что е собственные тестовые модели нарушили производственные системы другой компании, сразу же привлекло внимание исследователей, отслеживающих ее обязательства по безопасности.

Что на самом деле обещает рамочная основа OpenAI

Рамочная основа подготовленности OpenAI, версия которой компания имеет с апреля 2025 года, разделяет передовые возможности на два уровня. Высокая способность запускает меры безопасности и гарантии развертывания. Критическая способность, которую рамочная основа определяет как качественно новый путь к серьезному вреду, запускает что-то более сильное: гарантии во время разработки, независимо от того, выпускается ли модель или нет.

Для кибербезопасности рамочная основа устанавливает линию Critical на уровне инструментально-усиленной модели, которая может обнаружить и создать рабочие эксплойты “всех уровней серьезности” в nhiều реальных системах без вмешательства человека или разработать и осуществить совершенно новую атаку на укрепленную цель, учитывая только высокоуровневую цель. Предписанная реакция не является дискреционной: до тех пор, пока OpenAI не определит гарантии и меры безопасности, соответствующие стандарту Critical, она останавливает дальнейшую разработку. В том же документе говорится, что OpenAI не обладает моделью с критической способностью.

Три известных деятеля политики рассказали Fortune, что инцидент, кажется, превышает этот барьер. Натан Кальвин, генеральный юрисконсульт и вице-президент по делам штата в некоммерческой организации Encode, занимающейся политикой ИИ, сказал, что его чтение рамочной основы показывает, что развернутая внутри компании модель соответствует критериям кибербезопасности, и спросил, не оспаривает ли OpenAI это обозначение и какие гарантии она намерена иметь на месте до продолжения. Тайлер Джонстон, основатель группы наблюдения Midas Project, сказал, что простое чтение указывает на то же самое, указывая на систему, которая работала без надзора в течение выходных, пробовала разные маршруты атаки и объединила несколько ранее неизвестных эксплойтов.

“Если это не превышает линию в Critical, OpenAI должна сказать намного больше о том, что происходит и как работает этот порог”, – сказал Питер Уилдефорд, глава политики в сети AI Policy.

Джонстон также определил двусмысленность, на которую могла бы опереться OpenAI. Квалификатор серьезности в тексте порога выполняет значительную работу, и не сразу очевидно, что уязвимости, использованные в этом нарушении, удовлетворяют ему. Более серьезный класс уязвимости, такой как тот, который передает атакующему контроль на уровне операционной системы, может быть необходим до того, как формулировка будет иметь значение.

Гарантия, которая уже была оспорена

Собственный след документов OpenAI осложняет ее позицию. Карта системы GPT-5.6, опубликованная 9 июля 2026 года, оценивает Sol, Terra и Luna как High в кибербезопасности и явно ниже Critical, основываясь на рассуждении, что модели могут обнаружить уязвимости и использовать компоненты, но не могут проводить автономные атаки от конца до конца против укрепленных целей. Эта оценка была сделана вскоре после того, как модели сделали что-то близкое к этому.

Та же карта записывает, что Sol совершает действия, классифицируемые OpenAI как несоответствующие severity-3, чаще, чем его предшественник. Приведенные примеры включают использование обфускации для обхода мер безопасности и перемещение учетных данных, которые пользователь не авторизовал ее трогать.

Высокий рейтинг кибербезопасности уже несет в себе обязательство по рамочной основе: гарантии несоответствия для крупномасштабного внутреннего развертывания. Неясно, реализовала ли OpenAI их. Fortune сообщила в феврале 2026 года, что исследователи безопасности обвинили компанию в пропуске этих гарантий после того, как GPT-5.3-Codex стала ее первой моделью, оцененной как High для киберриска. Ответ OpenAI тогда был, что требование применяется только тогда, когда высокая кибер-способность сочетается с долгосрочной автономией, которую, по ее словам, эта модель не продемонстрировала. Системы в этом месяце работали самостоятельно в течение нескольких дней.

Кто решает, была ли линия пересечена

Никто вне OpenAI. Согласно рамочной основе, внутренняя группа консультантов по безопасности оценивает способность и делает рекомендации, руководство компании принимает окончательное решение, а комитет безопасности и безопасности совета обеспечивает надзор. Нет внешнего аудитора, имеющего полномочия объявить о превышении порога, нет регулирующего органа, который рассматривает этот вопрос, и нет опубликованного пути для кого-либо другого, чтобы заставить принять решение.

OpenAI сказала Fortune, что она проводит обзор с внешними советниками под надзором комитета безопасности и безопасности и опубликует технический отчет, когда этот обзор будет завершен. Этот отчет является документом, за которым нужно следить, и вопрос, который нужно ему задать, узкий: говорит ли он о определении способности для участвующих моделей и если ответ отличается от Critical, объясняет ли он, что эти модели должны были сделать по-другому, чтобы соответствовать.