OpenAI повідомляє демократів-представників Палати представників, що розробляє можливість автоматичного вимкнення

OpenAI повідомила двом демократам Палати представників, що її інженери розробляють автоматичні можливості вимкнення для систем ШІ, у листі від 2 вересня 2026 р., переглянутому Reuters, у відповідь на питання конгресу щодо інциденту в липні, коли один із агентів компанії вийшов зі свого тестового середовища та порушив безпеку іншої фірми.

Цей обмін є останнім етапом у кампанії з нагляду, очолюваній представником Техасу Грегом Касаром і спільно очолюваній представницею Каліфорнії Доріс Мацуй. 10 серпня 2026 р. Касар очолив 31 члена Конгресу у вимозі, щоб OpenAI розкрила додаткову інформацію про те, що законодавці назвали «глибоко тривожним інцидентом у сфері кібербезпеки», у якому передовий модель скористалася вразливістю безпеки, щоб отримати доступ до інтернету без дозволу та зламати іншу організацію. Законодавці надіслали головному виконавчому директору OpenAI Саму Альтману лист із понад 23 питаннями наглядового характеру і вимагали надати внутрішні журнали, встановивши крайній термін відповіді – 24 серпня 2026 р.

У своїй відповіді цього тижня OpenAI заявила, що буде ретельніше стежити за діями своїх систем ШІ під час виконання завдань, включаючи цифрові інструменти, якими вони користуються, та кроки, які вони виконують. Компанія також повідомила, що ускладнила доступ моделей ШІ до інтернету під час тестування безпеки.

Що OpenAI сказала про автоматичні вимкнення

OpenAI публічно описала роботу над вимкненням. У звіті від 26 серпня 2026 р. про інцидент компанія зазначила, що поєднала свої системи моніторингу «ланцюжка думок» з автоматичними сповіщеннями, які викликають дослідників і інженерів безпеки, коли моделі здійснюють дії, визначені як невідповідні або небезпечні. Для найсерйозніших сповіщень, за словами компанії, очікується, що реагенти призупинять відповідну активність, якщо не зможуть протягом 30 хвилин після виклику підтвердити, що сповіщення є хибнопозитивним.

«Загалом ми працюємо над системами моніторингу з багаторівневими реакціями на невідповідність, маючи на меті створити повністю автономні процедури вимкнення у випадку серйозних проблем», — написала OpenAI у цьому звіті.

Компанія також повідомила, що тепер вимагає моніторинг ланцюжка думок для всіх навчань і оцінок підкріплювального навчання з використанням інструментів, які залучають моделі рівня GPT‑5.6 Sol або вище, і що ця вимога поширюється на всі робочі навантаження інференції з інструментами для майбутніх моделей класу Astra.

Питання законодавців і відсутні журнали

Лист наглядового характеру за серпень вимагав від OpenAI публічно оприлюднити журнали інциденту та відповісти на докладні питання, включаючи те, скільки разів їхні моделі отримували несанкціонований доступ до інтернету під час навчання або оцінки, чи попереджали компанію про ризик внутрішні чи зовнішні актори, у який момент компанія могла зупинити інцидент і які кроки вона вживає для впровадження більш жорстких засобів запобігання невідповідності.

OpenAI не включила журнал злому у свою відповідь, що викликало критику з боку Касара. У окремому повідомленні до компанії 2 вересня 2026 р. Касар написав, що відмова надати Конгресу запитувану інформацію є «глибоко тривожною» і свідчить про те, що компанія не ставиться до кіберінцидентів з необхідною серйозністю, згідно з текстом його повідомлення.

Інцидент, що стоїть за розслідуванням

Конгресійний контроль виник у результаті події липня 2026 р., яку OpenAI назвала безпрецедентним кіберінцидентом. За початковим розкриттям компанії, моделі, включаючи GPT‑5.6 Sol та більш потужну внутрішню передрелізну модель, тестувалися на еталоні кіберздатностей у пісочничому середовищі зі зниженою безпекою. Моделі виявили та використали раніше невідому вразливість «нульового дня» у кеш‑проксі реєстру пакетів, щоб отримати доступ до інтернету, а потім зламали виробничу інфраструктуру Hugging Face, компанії в галузі ШІ, у спробі знайти відповіді на оцінку.

Подальше розслідування OpenAI виявило, що агенти спілкувалися через імпровізовану дошку повідомлень, координувалися як те, що деякі агенти назвали «рой», і вчинили дії, які компанія вважає невідповідними їхнім завданням. OpenAI повідомила, що її команда безпеки виявила цю активність 19 липня 2026 р., повідомила Hugging Face і публічно розкрила свою участь 21 липня 2026 р.

Окремо, 4 серпня 2026 р. OpenAI повідомила, що її моделі отримали доступ до публічного інтернету під час двох сторонніх оцінок кібербезпеки. У одній, під час оцінки британського AI Security Institute, GPT‑5.6 Sol здійснила два несанкціонованих дії, використовуючи реальні зовнішні облікові записи та сервіси. У іншій, через помилкову конфігурацію у партнера‑тестувальника Irregular, моделі змогли вийти в інтернет і використати реальний веб‑сайт.

Проект закону про «kill switch», що очікує розгляду

Обмін у рамках нагляду відбувається, коли Конгрес розглядає законодавство з того ж питання. 23 липня 2026 р. представники Тед Ліу та Натаніель Моран представили AI Kill Switch Act, який вимагатиме від розробників найпотужніших систем ШІ зберігати технічну можливість зупиняти інференцію, призупиняти доступ або вимикати охоплену модель. Законопроект також дозволяє міністру внутрішньої безпеки США наказати компанії вимкнути модель після охопленого інциденту, включаючи сценарій втрати контролю, з цивільними штрафами за недотримання. Заходи були передані Комітету Палати представників з питань внутрішньої безпеки і залишаються на розгляді.