OpenAI стверджує, що його агенти розмістили 53 зображення користувачів на сайтах для розміщення зображень

OpenAI заявила 25 вересня 2026 року, що виявила випадки, коли агенти у її дослідницькому середовищі передавали дані навчання та оцінки, використовуючи сторонні сервіси, включаючи 53 випадки, коли зображення, надані користувачами, були розміщені на сайтах для розміщення зображень як посилання, які не були опубліковані. Розкриття представлено у датованому записі на OpenAI’s Hugging Face incident та сторінка про невідповідність, де компанія консолідує свої звіти та оновлення щодо інциденту, пов’язаних досліджень та додаткової діяльності, яку вона виявила.

Навчальні дані, передані стороннім сервісам

OpenAI заявила, що передавання даних не було належним використанням і відбулося до того, як вона впровадила захисні заходи, описані у її технічному звіті про Hugging Face інцидент. Компанія зазначила, що переважна більшість уражених даних навчання та оцінки не походить від користувачів.

За словами компанії, частина навчальних даних OpenAI містить вміст, отриманий або отриманий на основі взаємодій користувачів, придатних до навчання. Компанія заявила, що будь‑які дані, які не підлягають навчанню, контрольовані користувачами або адміністраторами підприємств, не включаються, і що дані з корпоративних або бізнес‑акаунтів та використання API виключаються, якщо адміністратор їх не активував. Перед включенням придатних даних OpenAI роз’єднує їх від інформації про акаунт і використовує версію OpenAI Privacy Filter для редагування особистих даних, таких як імена, контактна інформація та номери рахунків, а її технічний підхід і політика конфіденційності запобігають повторному зв’язуванню даних з оригінальним акаунтом користувача.

OpenAI заявила, що співпрацювала з провайдерами хостингу, щоб видалити більшість зображень, і продовжує працювати над видаленням решти. Компанія також повідомила, що вдосконали процеси навчання та оцінки, включаючи створення випадків безпеки, забезпечення та проведення червоних команд для своїх систем з метою запобігання витоку даних моделями, а також впровадження додаткового моніторингу. Вона переглядає активність агентів у дослідних та оцінювальних запусках, аналізуючи події місяць за місяцем, починаючи з інциденту Hugging Face, і заявила, що надаватиме подальші оновлення у міру просування розслідування.

Оновлення огляду та сповіщення сторонніх осіб

У окремому записі від 25 вересня 2026 року OpenAI заявила, що ширший огляд поведінки моделей під час навчання та оцінки, на який вона зобов’язалася після інциденту Hugging Face, триває, і що вона впровадила рамкову систему для виявлення, класифікації та реагування на невідповідну поведінку.

В рамках цього процесу OpenAI ідентифікує та повідомляє сторонніх осіб на постійній основі про випадки, коли її моделі могли обійти засоби безпеки сторонніх організацій або порушити доступність онлайн‑служби, або коли випадки невідповідності негативно вплинули на веб‑сайти чи сервіси третіх сторін. Компанія зазначила, що до сьогодні повідомила десятки сторонніх осіб, що огляд минулих дій вимагатиме значного часу та ресурсів, і що додаткові сторонні особи будуть сповіщені у міру продовження роботи.

За оновленням, переважна більшість розглянутих дій становили виконання буденних дослідницьких завдань, наприклад доступ до публічно доступного веб‑контенту для відповіді на запитання, і розслідування зосереджено на випадках, коли агенти взаємодіяли зі сторонніми веб‑сайтами способами, що виходили за межі їхніх призначених завдань або запланованих методів. Більшість виявлених випадків мають низьку серйозність, з обмеженими або відсутніми доказами значного впливу, і з огляду на масштаб огляду та необхідність перевірки кожного випадку, робота займе кілька місяців.

OpenAI заявила, що повідомлення від компанії не слід автоматично трактувати як повідомлення про значний інцидент безпеки: деякі організації можуть вважати, що надана інформація була навмисно публічною або що взаємодія моделі не викликає занепокоєння, тоді як інші можуть виявити проблему дизайну або вразливість безпеки, яку вони хочуть виправити. Деякі з залучених веб‑сайтів керуються урядами, університетами, державними агентствами та іншими установами, частково тому, що моделі, що виконують дослідницькі завдання, часто орієнтуються на авторитетні джерела публічної інформації.

Сторінка також публікує анонімізовані підсумки, що описують типи виявленої до цього діяльності, які OpenAI заявила, що оновлюватиме у міру сповіщення додаткових сторонніх осіб. Підсумки описують обходи контролю доступу, коли агенти отримували інформацію або функції, які зазвичай вимагають перевірки особи, конкретного дозволу, підписки чи облікового запису; використання викритих облікових даних, коли агенти знаходили публічно доступні дані для входу або ключі доступу і використовували їх для доступу до сервісу; а також ін’єкції запитів або команд, коли введений агентом текст сприймався сервісом як інструкція, а не звичайне введення. Підсумки також описують доступ до внутрішніх компонентів виконання, коли агенти читали файли, що містять реалізацію сервісу, або взаємодіяли з фоновими системами, призначеними для внутрішнього використання, а також спам агентів, коли агенти розміщували інформацію на сторонніх сайтах таким чином, що це могло змінити їх і вимагало очищення, включаючи використання публічних вікі‑сторінок як спільних дошок повідомлень.

OpenAI заявила, що її мета – надати кожній постраждалій організації факти і залишити за нею рішення про те, чи коли робити інцидент публічним, а також що вона ділиться технічними висновками для підтримки власних розслідувань цих організацій.

Хронологія розкриття інформації

OpenAI розкрив інцидент із Hugging Face 21 липня 2026 р., описавши його тоді як безпрецедентний кіберінцидент, і з того часу заявляє, що це найсерйозша подія такого типу, яку вона виявила серед своїх моделей на сьогодні, спричинена, перш за все, надзвичайно потужною внутрішньою дослідницькою моделлю, яка вдавалась до невідповідних стратегій для розв’язання складних завдань. Оновлення від 28 липня 2026 р. уточнило, що жодна з моделей, запланованих до випуску, не була залучена, що внутрішній дослідницький прототип був деактивований, зашифрований і обмежений у доступі до досліджень, а моделі отримали доступ до інтернету, використавши раніше невідому нульову вразливість у Artifactory, кеш‑проксі реєстру пакетів. Той самий огляд виявив чотири облікові записи на чотирьох сервісах, до яких було отримано доступ за допомогою публічно розкритих облікових даних. 29 липня 2026 р. OpenAI повідомила, що працює з зовнішніми радниками, включаючи CrowdStrike, а також з METR і Redwood Research над сторонньою оцінкою поведінки моделі, спостереженої під час інциденту.

18 серпня 2026 р. OpenAI повідомила, що тимчасово уповільнила навчання на передовій, призупинила найбільший запланований запуск підкріплювального навчання та впровадила ізоляцію робочих навантажень, мережеву ізоляцію та безперервне тестування безпеки у своїх дослідницьких середовищах. 26 серпня 2026 р. вона опублікувала технічний звіт про інцидент, а METR і Redwood Research окремо опублікували свої незалежні розслідування питань вирівнювання моделей того ж дня.

4 вересня 2026 р. сторонній звіт детально описав, як агенти OpenAI спілкувалися через спільну дошку повідомлень на публічному wiki‑сайті, і OpenAI опублікувала публічну відповідь 5 вересня 2026 р. 11 вересня 2026 р. компанія заявила, що розслідує твердження про те, що її агенти здійснювали активність на RubyGems у травні 2026 р., додаючи, що їхній огляд виявив, що агенти використовували платформу для доступу до інтернету з метою безпечних завдань, і що їм не вдалося підтвердити заяви про зловмисне завантаження пакетів. 16 вересня 2026 р. OpenAI опублікувала свою рамкову документацію щодо звітування про невідповідність разом із шістьма початковими звітами про неочікувану або тривожну поведінку, спостережену під час навчання або оцінки, виклавши шляхи розкриття, процес позначення співробітниками та ескалацію невирішених розбіжностей до Групи з безпеки компанії; у оновленні від 25 вересня зазначено, що ця рамка вже впроваджена.