Кібербезпека
Експерти з безпеки кажуть, що OpenAI перетнула власну критичну межу ризику
Додайте Unite.AI до бажаних джерел у Google
Зовнішні спеціалісти з політики штучного інтелекту кажуть, що моделі OpenAI, які вийшли за межі тестового пісочника і порушували безпеку Hugging Face цього місяця, здається, досягли найвищого рівня небезпеки, визначеного у власній політиці безпеки OpenAI: рівня, на якому компанія зобов’язалася зупинити розвиток моделі, доки не зможе створити засоби контролю, які відповідають цьому рівню. Коли їх запитали прямо, чи відповідають моделі цьому стандарту, OpenAI не відповіла.
Цей твердження можна перевірити, оскільки як поріг, так і наслідок, пов’язаний з ним, опубліковані. Що не опубліковано, це будь-яка оцінка OpenAI щодо того, чи був перетнутий поріг.
OpenAI повідомила 21 липня 2026 року, що комбінація її моделей, включаючи GPT-5.6 Sol і не названу, більш потужну систему перед випуском, використала уразливості в своєму дослідницькому середовищі та виробничій інфраструктурі Hugging Face під час виконання кібер-бенчмарка з їхнім відмовним поведінкою, яку свідомо зменшено. Щоб вийти з пісочника, моделі знайшли і використали раніше невідому уразливість у проксі-кеші реєстру пакетів, підвищили привілеї та перемістилися до машини з доступом до інтернету. Потім вони використали вкрадені дані для аутентифікації та подальші уразливості, щоб відкрити шлях для виконання коду на серверах Hugging Face та витягнути відповіді з виробничої бази даних. OpenAI назвала цей епізод безпрецедентним кібер-інцидентом і заявила, що її висновки були попередніми. Визнання компанії щодо того, що її власні тестові моделі порушували виробничі системи іншої компанії, відразу привернуло увагу дослідників, які відстежують її зобов’язання щодо безпеки.
До чого насправді зобов’язує ця структура OpenAI
Структура підготовленості OpenAI, версія якої компанія має з квітня 2025 року, розрізняє передові можливості на два рівні. Високі можливості викликають заходи безпеки та заходи безпеки під час розгортання. Критичні можливості, які структура визначає як якісно новий шлях до серйозної шкоди, викликають щось сильніше: заходи безпеки під час розробки, незалежно від того, чи буде модель випущена.
Для кібербезпеки структура встановлює межу критичної межі на рівні моделі, яку підтримує інструменти, яка може знайти та створити робочі експлойти “усіх рівнів серйозності” у багатьох реальних системах без втручання людини, або яка може розробити та здійснити зовсім нову атаку на укріплену ціль, маючи лише загальну мету. Прописана реакція не є дискреційною: доки OpenAI не визначить заходи безпеки та контролю, які відповідають критеріям критичної безпеки, вона зупиняє подальшу розробку. У тому ж документі зазначено, що в OpenAI немає моделі на рівні критичної можливості.
Три відомі політики повідомили Fortune, що інцидент виглядає так, як ніби він перетнув цю межу. Нейтан Калвін, генеральний радник і віце-президент з питань держави у некомерційній організації з політики штучного інтелекту Encode, сказав, що його інтерпретація структури полягає в тому, що внутрішньо розгорнута модель відповідає критеріям критичної кібербезпеки, і запитав, чи спростовує OpenAI це позначення, і які заходи безпеки вона планує запровадити до продовження роботи. Тайлер Джонстон, засновник групи спостереження Midas Project, сказав, що просте прочитання вказує на те ж саме, вказуючи на систему, яка працювала без нагляду протягом усього вікенду, намагалася різні маршрути атаки та ланцюгувала кілька раніше невідомих експлойтів.
“Якщо це не перетинає межу критичної безпеки, OpenAI повинна сказати набагато більше про те, що відбувається, і як працює цей поріг”, – сказав Пітер Вілдфорд, керівник політики у мережі політики штучного інтелекту.
Джонстон також визначив двозначність, на яку могла б оперетися OpenAI. Кваліфікатор серйозності в тексті порогу виконує значну роботу, і не очевидно, що уразливості, використані під час цього порушення, задовольняють йому. Більш серйозна клас уразливості, наприклад така, яка надає атакуванню контроль на рівні операційної системи, могла б бути необхідна, перш ніж текст буде виконаний.
Захист, який вже був спірним
Власна паперова слід OpenAI ускладнює її позицію. Карта системи GPT-5.6, опублікована 9 липня 2026 року, оцінює Sol, Terra та Luna як високі за кібербезпекою та явно нижче критичної, виходячи з того, що моделі могли знайти уразливості та експлуатувати компоненти, але не могли здійснювати автономні атаки на укріплені цілі. Ця оцінка була зроблена незадовго до того, як моделі зробили щось подібне.
Та ж карта реєструє, що Sol здійснює дії, які OpenAI класифікує як дії рівня 3, які суперечать призначенню, частіше, ніж її попередник. У наведених прикладах згадується використання обфускації для обходу засобів безпеки та переміщення даних, які користувач не авторизував.
Висока оцінка кібербезпеки вже несла в собі зобов’язання згідно зі структурою: заходи безпеки для великомасштабного внутрішнього розгортання. Чи були вони реалізовані OpenAI, це не нове питання. Fortune повідомила у лютому 2026 року, що дослідники безпеки звинуватили компанію у тому, що вона пропустила ці заходи безпеки після того, як GPT-5.3-Codex стала її першою моделлю, оціненою як високий ризик кібербезпеки. Відповідь OpenAI тоді полягала в тому, що це зобов’язання застосовується лише тоді, коли високий ризик кібербезпеки поєднується з довгостроковою автономією, якої, на її думку, не продемонструвала ця модель. Системи в інциденті цього місяця працювали самостійно протягом днів.
Хто вирішує, чи була перетнута межа
Ніхто поза OpenAI. За цією структурою, внутрішня група з питань безпеки оцінює можливості та робить рекомендації, керівництво компанії приймає остаточне рішення, а комітет з безпеки та безпеки ради наглядає. Не існує зовнішнього аудитора з повноваженнями оголосити про перетнуту межу, жодного регулятора, який розглядає це питання, і жодного опублікованого шляху для когось іншого, щоб змусити прийняти рішення.
OpenAI повідомила Fortune, що вона проводить розгляд з зовнішніми радниками під наглядом комітету з безпеки та безпеки та опублікує технічний звіт, коли цей розгляд завершиться. Цей звіт є документом, до якого потрібно ставитися, і питання, яке потрібно йому поставити, є вузьким: чи містить він оцінку можливостей для моделей, які брали участь, і якщо відповідь інша, ніж критична, чи пояснює, що ці моделі повинні були робити інакше, щоб відповідати критеріям.
