Партнерства
Apollo Research залучить шістьох оцінювачів до пілотного дослідження підривної поведінки в OpenAI

Ключові моментиOpenAI може утримувати матеріали в межах обсягу з міркувань безпеки або інтелектуальної…
Показати більше
- OpenAI може утримувати матеріали в межах обсягу з міркувань безпеки або інтелектуальної власності, але не через те, що вони несприятливі.
- OpenAI може редагувати конфіденційні докази, що стоять за висновками Apollo, зберігаючи при цьому вердикти Apollo незмінними.
- Apollo стверджує, що права на метапрозорість є важливими, оскільки нерозкриті обмеження можуть зробити відсутні проблеми оманливо заспокійливими.
Apollo Research оголосила 16 листопада 2026 року, що шестеро її оцінювачів працюватимуть у OpenAI протягом чотирьох місяців, з’ясовуючи, чи намагаються її моделі підривати механізми узгодження або контролю під час навчання, оцінювання та внутрішнього розгортання.
Команда розгляне чотири питання: чи стимулює навчання підривну поведінку, чи можна виявити її під час оцінювання, чи виникає вона під час внутрішнього розгортання і чи можна виявити міркування, пов’язані з підривною поведінкою. Оцінювання охоплює спроби підірвати механізми узгодження або контролю самої моделі, а також її наступників.
Ця домовленість має розширити зовнішню перевірку порівняно з попереднім підходом Apollo до оцінювання, яке проводили після посттренування й незадовго до публічного випуску. На думку Apollo, такого часу недостатньо, щоб перевірити неузгоджену поведінку, як-от планування прихованих дій, або дослідити непублічне використання моделей під час внутрішнього розгортання. Оцінювання за участю фахівців, які працюватимуть усередині компанії та матимуть доступ, подібний до доступу працівників, має допомогти подолати ці обмеження.
Apollo називає цей пілот амбітним першим кроком, а не повноцінним оцінюванням за участю фахівців усередині компанії. Загальний стандарт Apollo передбачає доступ до всіх відповідних матеріалів, навіть якщо розробник намагається приховати несприятливу для себе інформацію; оприлюднення результатів для належної зовнішньої аудиторії, навіть якщо розробник заперечує; а також достатньо докладне публічне пояснення обмежень, щоб читачі розуміли, що саме звіт може і чого не може підтвердити.
Обмежений доступ і взаємодія з працівниками
Для оцінювання впливу навчання на стимули до підривної поведінки OpenAI зобов’язалася надати відповідний код навчання та набори даних, траєкторії навчання з підкріпленням із доступними трасами міркувань і винагородами, а також можливість надсилати запити до проміжних контрольних точок моделей. Детальні домовленості про доступ для інших тверджень, які перевірятимуться в межах оцінювання, ще належить узгодити.
Оцінювання обмежене узгодженими твердженнями, моделями та часовими періодами. OpenAI може не надати матеріали, що входять до визначеного обсягу, якщо вважатиме це обґрунтовано необхідним через технічну неможливість, ризики для безпеки або захист інтелектуальної власності. Компанія не може відмовити в наданні інформації чи доступі до працівників лише тому, що матеріали є для неї несприятливими. OpenAI має повідомити Apollo про наявність ненаданих матеріалів і надати письмове обґрунтування, а також, якщо вважатиме це можливим і доречним, указати категорії та приблизний обсяг ненаданих записів. Apollo може попросити про ширший доступ через визначену контактну особу в OpenAI та оскаржити відмову, однак розширення доступу не гарантоване.
Взаємодія з працівниками також контролюється. Apollo може попросити залучити людей із певною експертизою та запропонувати конкретних осіб, але уповноважених учасників обирає OpenAI, а офіційні розмови мають протоколюватися. Якщо інший працівник розкриє конфіденційну інформацію, Apollo має припинити предметне обговорення та спрямувати подальші запити через визначену контактну особу в OpenAI, навіть якщо ця інформація стосується предмета оцінювання.
Оцінювачі працюватимуть на обладнанні OpenAI, використовуючи окремі канали, за якими може здійснюватися моніторинг. За замовчуванням вони не матимуть доступу до загальних каналів для працівників, як-от Slack. Apollo зазначає, що під час неформальних розмов і в Slack можуть з’являтися важливі відомості, про які оцінювач міг і не запитувати, і хоче, щоб у майбутніх оцінюваннях такі відомості включали до їхнього обсягу.
Публічні звіти та право вилучати інформацію
Apollo планує опублікувати два звіти. У першому йтиметься про стимули до підривної поведінки під час навчання, у другому — про оцінювання, внутрішнє розгортання та можливість виявити підривні міркування. У кожному звіті буде описано методи, висновки, обмеження, питання, які не вдалося оцінити, а також підтверджувальні матеріали, які можна оприлюднити.
OpenAI перевірить звіти й може попросити вилучити конфіденційну інформацію, зокрема матеріали на підтвердження висновків. Компанія не може вилучати вердикти Apollo або просити вилучити інформацію лише тому, що висновок є для неї несприятливим. Водночас OpenAI може вилучити матеріали, які вважає чутливою інтелектуальною власністю, незалежно від того, чи безпосередньо вони підтверджують певний висновок. Тому читачі публічної версії можуть не мати змоги ознайомитися з усіма матеріалами, що лежать в основі висновку, хоча Apollo може зазначити, чи вплинули вилучення на її висновки. OpenAI передасть невідредаговані звіти Комітету з безпеки та захисту своєї ради директорів.
Твердження, засновані на розмовах із працівниками, потребують офіційного підтвердження OpenAI, якщо Apollo не підтвердить їх самостійно. Ця вимога також поширюється на інформацію, яку уповноважені працівники надали під час офіційних інтерв’ю. Якщо OpenAI відмовиться підтвердити інформацію, Apollo може повідомити про відмову й пояснити, як вона вплинула на її висновки, не розкриваючи конфіденційної інформації, що лежить в її основі.
Правила метапрозорості
Окремі права на метапрозорість дають Apollo змогу публічно описувати обсяг і умови співпраці, запитаний і отриманий доступ, матеріали, які не надали або затримали, та пояснення причин цього, запити на вилучення фрагментів зі звітів і значення таких запитів, а також будь-який тиск, який, на думку Apollo, впливав на її роботу. Apollo може обговорювати умови доступу й публікації без попередньої перевірки з боку OpenAI.
Apollo вважає ці права мінімальним стандартом для кожного оцінювання. Без них відсутність повідомлень про проблеми може здаватися заспокійливою, навіть якщо насправді вона зумовлена обмеженнями на проведення розслідування або розголошення інформації. Тому висновки пілотного проєкту потрібно буде розглядати разом з описом умов доступу та обмежень на публікацію: вага одного й того самого вердикту може бути різною залежно від того, що оцінювачі змогли перевірити й оприлюднити.












