Anthropic залучає шістьох оцінювачів METR із доступом на рівні працівників

15 жовтня 2026 року Anthropic оголосила, що почала надавати команді METR, некомерційної організації, яка оцінює передові моделі ШІ, доступ на рівні працівників. Шістьох співробітників METR залучили до роботи, надавши їм корпоративне обладнання, офісні приміщення та доступ до внутрішніх інструментів і систем.

Оголошення з’явилося після того, як у вересні 2026 року Anthropic зобов’язалася посилити незалежне оцінювання своїх моделей і практик безпеки третіми сторонами, а також підписала Угоду Білого дому про суперінтелект, за якою компанії зобов’язалися співпрацювати з незалежними зовнішніми аудиторами або оцінювачами. Anthropic повідомила, що протягом останнього року співпрацювала з METR над кількома перевірками своїх звітів про ризики.

Умови доступу на рівні працівників

Anthropic повідомила, що доступ залученої команди до внутрішніх інструментів і систем приблизно відповідає доступу, який мають її власні команди з оцінювання ризиків. За винятком невеликої кількості чітко визначених категорій — даних про клієнтів, інформації, захищеної адвокатською таємницею, і відомостей про архітектуру моделей, — співробітникам Anthropic рекомендують ділитися з командою інформацією так само, як вони ділилися б нею з колегою, що працює над ризиками узгодження.

У примітці до оголошення пояснюється виняток щодо архітектури. Оскільки оцінювачі, як і банківські інспектори, можуть також працювати з іншими компаніями, Anthropic, за її словами, обережно ставиться до ризику ненавмисного витоку інформації: відомості про архітектуру створюють високий ризик таких витоків, а їхня значущість для оцінювання ризиків зазвичай невелика. Коли інформація про архітектуру має велике значення, Anthropic зазвичай намагається нею поділитися, однак для цього потрібні чіткі внутрішні погодження.

Згідно з умовами публікації, передбаченими домовленістю, METR оприлюднюватиме аналіз рівнів ризику, інцидентів або практик Anthropic. Anthropic не може накласти вето на публікацію, але може вимагати від METR вилучити інформацію, що належить до вузько визначених заздалегідь категорій. METR може публічно описувати такі вилучення й повідомляти, чи вважає їх виправданими, якщо не розкриває вилученої інформації.

До цієї роботи залучено невелику команду, діяльність якої регулюється юридично обов’язковими угодами; інших співробітників METR, зокрема дослідників, які працюють з Anthropic над іншими проєктами, відокремлено від роботи залученої команди. За словами Anthropic, оцінювання за участю команди всередині компанії дає кільком кваліфікованим фахівцям, які працюють за її стандартами безпеки, змогу безпосередньо побачити, як вона функціонує. Це не спосіб для інших організацій отримати інформацію про Anthropic, її клієнтів чи партнерів.

Чому Anthropic обстоює незалежне оцінювання

За словами компанії, що потужнішими ставали моделі, то надійніших заходів захисту вони потребували, а оцінювання ризиків ставало складнішим. Anthropic заявила, що прагне публічно відповідати за рішення, які ухвалює, але не може розкривати всю інформацію, важливу для її роботи з безпеки, оскільки частина цих відомостей може стати в пригоді зловмисникам або становить комерційну таємницю — наприклад, інформація про обчислювальні ресурси чи навчання моделей. Натомість компанія надає стороннім оцінювачам широкий доступ до своєї інформації та просить їх ділитися доказами й обґрунтованими висновками про ризики, пов’язані зі створенням її моделей. Мета — скоротити розрив між тим, що оцінювачі знають про системи компанії, яка розробляє передові моделі ШІ, і тим, що знає сама компанія.

В оголошенні перелічено чотири вимоги до оцінювачів передових моделей: досвід оцінювання можливостей таких моделей, зокрема розуміння того, як оцінювання може давати хибні результати, наприклад через удаване узгодження; незалежність — оцінювачі не повинні володіти часткою в компанії, яку оцінюють, або фінансово чи операційно від неї залежати; достатній доступ для змістовного оцінювання ризиків — не лише до найновіших моделей, а й до інформації про те, як їх навчали та як працюють заходи захисту; свобода публікувати спостереження й оцінки моделі або процесу.

Anthropic провела аналогію з наглядом за банками, водночас визнавши, що вона не цілком точна: банки краще за сторонніх знають про власні ризикові позиції, тому регулятори призначають інспекторів, які працюють безпосередньо в найбільших банках. Якщо схильність банку до ризику може загрожувати суспільству, треті сторони намагаються виявити це заздалегідь.

Три рівні доступу

Anthropic повідомила, що розробляє три рівні доступу для оцінювачів. На першому рівні оцінювачі проводять дослідження ризиків із чітко обмеженою сферою; Anthropic визначає, який доступ надати, а оцінювачі можуть оприлюднювати результати за її згодою. На другому рівні оцінювачі можуть публікувати матеріали без погодження з Anthropic і мають доступ до більшої кількості інформації, хоча Anthropic і надалі може вимагати вилучення окремих категорій інформації; оцінювачі при цьому можуть публікувати свої міркування щодо виправданості таких вилучень. Третій рівень — домовленість із METR: доступ на рівні працівників і права на публікацію, подібні до прав на другому рівні.

За словами Anthropic, з часом вона сподівається залучити кілька оцінювачів на третьому рівні, причому кожна команда публікуватиме власний аналіз її підходу до ризиків і ключових рішень.

SecureBio, Accenture і переговори на ранньому етапі

Наразі SecureBio перебуває на першому рівні. Організація перевіряє розділ про хімічну та біологічну зброю у звіті Anthropic про ризики за серпень 2026 року після завершення й публікації пілотного огляду попереднього звіту про ризики. Anthropic заявила, що після завершення цієї перевірки розгляне можливість переходу до проєктів із ширшим доступом і більшими правами на публікацію.

Anthropic повідомила, що разом з Accenture і Faculty працює над партнерством, яке передбачатиме оцінювання моделей і їхнє тестування методом red teaming, проведення оцінювань узгодженості, перевірку захисних механізмів моделей і розвиток спроможностей у всіх організаціях.

Anthropic також повідомила, що веде попередні переговори з кількома іншими організаціями, зокрема з Hugging Face. Оскільки ці партнерства ще на початковому етапі, Anthropic надає таким оцінювачам обмеженішу інформацію, а їхні права на публікацію є вужчими; водночас Anthropic переконується, що партнери захищають конфіденційну інформацію та мають необхідні ресурси й досвід. За словами Anthropic, у міру розвитку партнерств і зміцнення довіри компанія прагне повністю залучити до роботи більше незалежних оцінювачів.

Зобов’язання у вересні

У вересні 2026 року співзасновник Anthropic Даріо Амодей опублікував есе «Ми маємо контролювати темпи розвитку передового ШІ», у якому залучення зовнішніх оцінювачів із доступом, подібним до доступу працівників, назвав першим кроком триетапного плану з регулювання темпів розвитку передового ШІ. Амодей написав, що Anthropic в односторонньому порядку зобов’язується зробити цей крок, і закликав уряди вимагати того самого від інших компаній, що розробляють передові моделі. Він написав, що «ми маємо сповільнити темпи вдосконалення можливостей моделей ШІ», щоб запобігання ризикам встигало за розвитком їхніх можливостей.

В есе йшлося про намір Anthropic запросити зовнішню команду для постійної роботи в компанії: забезпечити її робочими місцями в офісах, перепустками та корпоративними ноутбуками; надати доступ до робочих просторів, інструментів і прав доступу, здебільшого порівнянний із доступом внутрішніх команд з оцінювання ризиків, за винятком випадків, коли цього вимагають законодавство чи договори або коли потрібно захистити приватну інформацію клієнтів і партнерів; а також укласти договір, за яким зовнішні оцінювачі матимуть право публікувати основні висновки щодо рівнів ризику, інцидентів, практик і наданого або ненаданого їм доступу, а Anthropic не матиме редакційного контролю над публікаціями. За цими запланованими умовами Anthropic матиме обмежене право вилучати інформацію, чутливу з погляду безпеки, захищену правовою таємницею, комерційно чутливу або конфіденційну інформацію третіх сторін, але не зможе вилучати висновки лише тому, що вони несприятливі для компанії. Оцінювачі зможуть публічно повідомити, якщо внаслідок вилучення зникла інформація, важлива для їхніх висновків.

Anthropic заявила, що залучає оцінювачів на добровільних засадах і вважає, що всі компанії, які розробляють передовий ШІ, мають робити так само. Компанія повідомила, що швидко просуває роботу з кількома оцінювачами, активно вивчає, які форми партнерства є ефективними, і прагне регулярно ділитися оновленнями про перебіг цієї роботи.