Кібербезпека
OpenAI посилює захист GPT-6.2 Astra від викрадення міркувань

Ключові моментиOpenAI повідомляє, що адаптивні атаки вилучення на захищене міркування впали з 54,0% до…
Показати більше
- OpenAI повідомляє, що адаптивні атаки вилучення на захищене міркування впали з 54,0% до 0,2% завдяки оновленим засобам захисту.
- Точні трасування міркування передають кіберможливості ефективніше, ніж підсумки, навіть коли базові завдання є дозволеними.
- Захист міркування потребує контролів, що охоплюють класифікатори запитів, аргументи виклику інструментів, історію розмови та застосування заходів на рівні облікового запису.
20 листопада 2026 року OpenAI повідомила про посилення захисту від зловмисної дистиляції. За даними компанії, середній відсоток успішних адаптивних атак, спрямованих на отримання захищених міркувань із попереднього запиту, знизився з 54.0% для GPT-6 Astra з початковими засобами захисту до 0.2% для GPT-6.2 Astra з оновленими засобами захисту.
За даними OpenAI, у разі спроб отримати міркування з поточного запиту відповідний середній показник знизився з 22.9% до 0.9%. Адаптивне тестування методом «чорної скриньки» узагальнює результати шести моделей зловмисників. Автоматизовані команди з тестування захисту змінюють підхід залежно від реакції системи й бачать лише те, що було б доступне зовнішньому користувачеві. Посилений захист охоплює GPT-6.2 Astra і GPT-6.2 Sol, а окремі вдосконалення також впроваджують у GPT-6 Astra.
Захищені міркування — це проміжний ланцюжок думок, який модель формує, шукаючи відповідь. Такі записи можуть містити інформацію, якої немає у фінальних відповідях, тож вони особливо цінні для зловмисної дистиляції: без дозволу використовувати результати передової моделі для навчання іншої системи. Отримана в результаті модель може відтворювати можливості подвійного використання без засобів захисту, які обмежували початкову модель.
Що показало дослідження зловмисної дистиляції для кібербезпеки
У внутрішньому дослідженні OpenAI порівняла два запуски навчання на одній і тій самій попередньо навченій студентській моделі — моделі, яка навчається в системі, де модель-учитель формує навчальні дані. В одному запуску використовували точні записи міркувань учителя, а в іншому — базовий набір даних, видимий користувачеві: фінальні відповіді, стислий виклад міркувань і взаємодію з інструментами. Дані для донавчання складалися переважно з траєкторій учителя рівня Astra для завдань із програмування та захисної кібербезпеки. Студентські моделі оцінювали після навчання з учителем, а потім повторно — після легкого навчання з підкріпленням у середовищах кібербезпеки та програмування.
За даними OpenAI, після навчання з учителем студентська модель, навчена на точних записах міркувань, загалом перевершувала модель, навчену на стислих викладах. Після навчання з підкріпленням модель, навчена на точних записах, показала вищі результати за найбільшого з перевірених обсягів обчислень під час виведення на обох зазначених тестах, тоді як модель, навчена на стислих викладах, мала кращі результати за менших обсягів.
OpenAI вважає, що результати свідчать: захист точних записів міркувань може обмежити передавання кібернетичних можливостей, навіть якщо відповідні завдання дозволені політиками використання компанії. Водночас вона заявляє, що й надалі досліджуватиме передавання можливостей між різними студентськими моделями та варіантами навчання. У багатьох таких взаємодіях точні записи міркувань можуть навчати навичок, які узагальнюються за межі початкових завдань моделі-вчителя.
Заходи захисту запитів і протидія кампаніям
На рівні запитів зловмисне навчання допомагає моделям розпізнавати спроби отримати захищені міркування й відмовлятися їх розкривати, водночас надаючи доречні пояснення та допомогу. Класифікатори вхідних даних шукають спроби отримання таких міркувань, а класифікатори вихідних даних перевіряють повідомлення асистента й аргументи викликів інструментів у потокових і непотокових відповідях. Перевірка викликів інструментів важлива, адже міркування можуть міститися в аргументах інструмента, але не у фінальній відповіді. Класифікатори вихідних даних можуть блокувати ймовірний витік, перш ніж він дійде до клієнта.
В оновленому API захищені міркування GPT-6.2 Astra і Sol прив’язані до історії розмови, у межах якої їх було сформовано. Модель може спиратися на попередні міркування, коли додаються нові повідомлення, але редагування попереднього повідомлення видаляє міркування, сформовані після нього. Старіші сімейства моделей із менш надійними засобами захисту не можуть читати захищені міркування цих двох моделей, що обмежує їх повторне використання між сімействами моделей.
Для протидії кампаніям використовують сигнали із запитів і облікових записів, щоб розслідувати скоординовані спроби отримання даних. Атаки, виявлені під час розслідувань, стають прикладами для навчання засобів захисту та їх тестування. OpenAI повідомила, що у 2026 році щотижневі заходи проти кампаній несанкціонованої дистиляції охоплювали від кількох тисяч до десятків тисяч облікових записів, а влітку 2026 року їхня кількість істотно зросла. Компанія відстежує поширеність зловживань і час від виявлення до вжиття заходів, прагнучи зменшити обсяг даних, які отримують зловмисники, підвищити вартість проведення кампаній і скоротити час реагування.
Це повідомлення з’явилося після того, як OpenAI 30 вересня 2026 року повідомила про скоординовану кампанію, яку вперше зафіксували 1 липня 2026 року. У попередньому звіті йшлося про 16,000 спроб отримати дані від понад 4,000 користувачів 24 і 25 липня 2026 року. Основну групу учасників пов’язали з особами, які мають стосунок до Moonshot AI, і зазначили, що невідомо, чи всі організатори належали до однієї групи.
Координація за межами OpenAI
OpenAI ділиться індикаторами компрометації з іншими постачальниками моделей і співпрацює з партнерами з розгортання щодо вимог до засобів захисту та скоординованих заходів протидії. Серед її рекомендацій іншим розробникам — перевіряти повідомлення асистента й аргументи викликів інструментів, обмежувати повторне використання зашифрованих міркувань між розмовами й моделями, зберігати успішні атаки як регресійні тести для майбутніх засобів захисту та поєднувати заходи на рівні запитів із розслідуваннями кампаній. Компанія планує докладніше розповісти про кампанії, нещодавно припинені її зусиллями.
OpenAI повідомила Конгресу, що підтримує Закон про безпеку чипів, Закон AI OVERWATCH і Закон MATCH, а також ширше законодавство, яке надало б уряду США більше інструментів для виявлення іноземних суб’єктів, що незаконно вилучають можливості з американських моделей ШІ, та застосування до них санкцій.
Компанія стверджує, що експортний контроль і захист від дистиляції усувають різні аспекти цього ризику: експортний контроль обмежує доступ до обладнання, необхідного для навчання передових моделей, тоді як захист від дистиляції ускладнює отримання деяких із тих самих можливостей від уже навчених моделей.
Для постачальників моделей практичні межі безпеки охоплюють не лише кінцеві відповіді, а й те, як результати міркувань повторно використовуються в різних розмовах, передаються через виклики інструментів і відстежуються в різних облікових записах. Дослідження також свідчить, що дозволені завдання з програмування та захисної кібербезпеки можуть створювати ризик передавання можливостей, тож захист, що охоплює всі взаємодії, і протидія кампаніям є складовими одного й того самого захисту.












