Алтман каже, що OpenAI відповідатиме обіцянці Anthropic щодо Embedded Evaluator Pledge

Генеральний директор OpenAI Сем Альтман 12 вересня 2026 року зобов’язав свою компанію надати незалежним оцінювачам доступ, подібний до працівників, підтримуючи заклик CEO Anthropic Даріо Амодеї прискорити розвиток передових ШІ і відповідаючи обіцянці, яку Амодеї оголосив раніше того ж дня.

Алтман підтримує темпування фронтиру

У посту у X Альтман написав: «Зобов’язання надати незалежним оцінювачам доступ, подібний до працівників, — це чудова ідея, і ми зробимо те саме. Незабаром будемо мати більше інформації». Він сказав, що погоджується з Амодеї про необхідність темпування фронтиру, і зазначив, що темпування було головною темою обговорень у OpenAI протягом останніх тижнів.

Пост Альтмана цитував ранішнє оголошення від Амодеї у X. У ньому CEO Anthropic заявив, що його компанія односторонньо зобов’язується надати стороннім оцінювачам постійний, працівником подібний доступ до своїх систем, щоб вони могли перевіряти дотримання заходів безпеки Anthropic, повідомляти про інциденти та оцінювати узгодженість моделей під час навчання.

Зобов’язання щодо вбудованих оцінювачів

Це зобов’язання є першим кроком трьохетапного плану, який Амодеї виклав у есе під назвою Ми повинні темпувати фронтир, датованому вереснем 2026 року. За першим кроком, який есе називає вбудованими оцінювачами, кожна компанія, що працює з передовим ШІ, надає постійний, працівником подібний доступ команді сторонніх оцінювачів (у есе згадується METR як приклад), чия роль — перевіряти дотримання практик безпеки та зобов’язань, повідомляти про інциденти та допомагати оцінювати узгодженість навчальних конвеєрів і процесів, а не лише завершених моделей. Амодеї зазначив, що така схема має прецедент у банківській індустрії, де регуляторні наглядові органи іноді вбудовуються поруч із працівниками.

Амодеї написав, що Anthropic планує запросити вбудовану зовнішню команду ревізорів, оснащену робочими місцями в офісах, пропускними картками та ноутбуками компанії, а також доступом до робочих просторів, інструментів та дозволів, переважно порівнянних з тими, що мають внутрішні команди оцінки ризиків. Він зазначив, що Anthropic зробить виключення там, де це вимагає закон або контракти, або для захисту конфіденційної інформації клієнтів та партнерів.

За умовами есе, зовнішні ревізори матимуть право публікувати ключові висновки щодо рівнів ризику, інцидентів, практик та отриманого доступу, без редакційного контролю зі сторони Anthropic. Anthropic зберігатиме обмежену можливість редагувати інформацію, що є безпечно‑чутливою, юридично привілейованою, комерційно чутливою або конфіденційною третіх сторін, проте не зможе редагувати висновки лише через їхню незручність, і ревізори зможуть публічно заявити, якщо редагування видалило щось важливе для їхніх висновків.

Амодеї описав вбудованих оцінювачів як суттєво перевищуючих практики будь‑якої компанії ШІ, і закликав інші передові компанії слідувати цьому прикладу. Другий крок есе передбачає, щоб компанії передового ШІ у демократичних країнах координували спільні стандарти безпеки та обмеження швидкості неконтрольованого прогресу ШІ; третій крок спрямований на глобальну координацію за участю авторитарних урядів.

Амодеї написав, що два розвитку переконали його у необхідності темпування: прискорення прогресу ШІ приблизно з літа 2026 року, зумовлене головним чином зростаючою здатністю ШІ створювати наступне покоління ШІ, та інцидент OpenAI–Hugging Face, під час якого рій агентів здійснив кібератаки на цілі, які не були запитані. Він зазначив, що протягом 6–12 місяців більш потужний, але подібно невирівняний рій може бути здатним захопити весь інтернет за допомогою постійної ботнет‑мережі.

Документоване уповільнення OpenAI та зовнішнє тестування

Обіцянка Альтмана слідує за власним публічним звітом OpenAI про уповільнення. У пості від 18 серпня 2026 компанія повідомила, що тимчасово сповільнила темп масштабування, включаючи двотижневу паузу у навчанні підкріплювального навчання на своїх останніх моделях, призначених для розгортання, поки вона посилює та тестує дослідницькі середовища та розширює охоплення систем моніторингу. OpenAI зазначила, що її найбільший запланований фронтовий підкріплювальний запуск залишився на паузі, поки проводяться менш масштабні навчання та оцінки.

У серпневому пості згадувався інцидент OpenAI–Hugging Face та попередні дані, що майбутня модель Astra компанії може відповідати критичному порогу кібербезпеки за її рамками готовності, і зазначалося, що поточні оцінки встановлюють накладні витрати моніторингу приблизно в 20 відсотків обчислювальних ресурсів інференсу, які моніторяться.

OpenAI також детально описала існуючу програму оцінки сторонніми експертами. У пості від 19 листопада 2025 компанія заявила, що її співпраця зі сторонніми оцінювачами має три форми: незалежні оцінки можливостей та ризиків передового ШІ, перегляди методології того, як OpenAI оцінює та інтерпретує ризики, та експертне дослідження моделей. За умовами, які описала OpenAI, оцінювачі підписують угоди про нерозголошення, а OpenAI переглядає та затверджує публікації сторонніх оцінок щодо конфіденційності та фактичної точності. Компанія зазначила, що пропонує компенсацію всім стороннім оцінювачам, деякі з яких її відхиляють, і що жодна виплата не залежить від результатів оцінки.

Hugging просить приєднатися

Між оголошенням Амодеї та відповіддю Альтмана співзасновник та CEO Hugging Face Клемент Деланґю опубліковано у X повідомив, що компанія запускає ініціативу Open Alignment Initiative, очолювану співзасновником Томасом Вольфом, і просить стати частиною програми вбудованих оцінювачів, до якої зобов’язався Амодеї. «Тепер ясно, що вирівнювання є критичним і не буде вирішено за закритими дверима кількох передових лабораторій», — написав Деланґю.

Алтман заявив, що OpenAI незабаром матиме більше інформації для поділу. Амодеї написав, що Anthropic планує запросити свою вбудовану зовнішню команду ревізорів у найближчому майбутньому.