Anthropic привлекает шестерых оценщиков METR, предоставляя им доступ на условиях, близких к условиям для сотрудников

15 октября 2026 года Anthropic объявила, что начала предоставлять встроенной команде METR — некоммерческой организации, оценивающей передовые модели ИИ, — доступ на условиях, близких к условиям для сотрудников. Шесть сотрудников METR получили оборудование компании, рабочие места в офисе, а также доступ к внутренним инструментам и системам.

Это объявление последовало за обязательством Anthropic, взятым в сентябре 2026 года, расширить независимую оценку своих моделей и методов обеспечения безопасности сторонними экспертами, а также за подписанием ею Соглашения Белого дома о сверхинтеллекте, в котором компании обязались сотрудничать с независимыми внешними аудиторами или оценщиками. Anthropic сообщила, что в течение последнего года сотрудничала с METR при проведении нескольких проверок своих отчетов о рисках.

Условия доступа на правах, близких к правам сотрудников

По словам Anthropic, доступ встроенной команды к внутренним инструментам и системам примерно соответствует доступу собственных команд компании по оценке рисков. За исключением нескольких четко определенных категорий — данных о клиентах, информации, защищенной адвокатской тайной, и сведений об архитектуре моделей, — сотрудникам Anthropic рекомендовано делиться информацией с командой так же, как они делились бы ею с коллегой, работающим над рисками, связанными с согласованием целей ИИ.

В сноске к объявлению поясняется исключение для сведений об архитектуре. Поскольку оценщики, как и банковские инспекторы, могут работать и с другими компаниями, Anthropic, по ее словам, проявляет осторожность из-за риска случайной утечки: сведения об архитектуре сопряжены с высоким риском такой утечки, а их значимость для оценки рисков обычно невелика. Если сведения об архитектуре имеют большое значение, Anthropic, как правило, постарается ими поделиться, однако для этого потребуется явное внутреннее согласование.

Согласно условиям публикации, предусмотренным соглашением, METR опубликует свой анализ уровней рисков Anthropic, инцидентов или практик компании. Anthropic не может наложить вето на публикацию, но вправе потребовать от METR удалить сведения, относящиеся к узким, заранее определенным категориям. METR может публично описать такие изъятия и сообщить, считает ли организация их обоснованными, если при этом не раскрывает удаленную информацию.

К работе привлечена небольшая команда, деятельность которой регулируется юридически обязательными соглашениями; остальные сотрудники METR, включая исследователей, работающих с Anthropic над другими проектами, изолированы от работы встроенной команды. Anthropic охарактеризовала встроенную оценку как возможность для нескольких квалифицированных специалистов, работающих по ее стандартам безопасности, внимательно изучить деятельность компании и подчеркнула, что это не способ предоставить другим организациям доступ к ее информации или информации ее клиентов и партнеров.

Зачем Anthropic нужна независимая оценка

По словам компании, по мере того как модели становились мощнее, для них требовались более строгие меры защиты и более сложная оценка рисков. Anthropic заявила, что хочет нести публичную ответственность за принимаемые решения, но не может раскрывать общественности всю информацию, важную для ее работы в области безопасности: часть таких сведений может быть полезна злоумышленникам или представлять коммерческую тайну, например данные о вычислительных ресурсах или обучении. Вместо этого компания предоставляет сторонним оценщикам широкий доступ к своей информации и поручает им делиться доказательствами и обоснованными выводами о рисках, связанных с созданием ее моделей. Цель — сократить разрыв между пониманием оценщиками систем компании, разрабатывающей передовые модели ИИ, и пониманием этих систем самой компанией.

В объявлении перечислены четыре условия, необходимые оценщикам для проверки передовых моделей: опыт оценки возможностей таких моделей, в том числе понимание того, как оценка может дать сбой, например из-за имитации согласованности; независимость — оценщики не должны владеть долей в оцениваемой компании или финансово либо операционно зависеть от нее; достаточный доступ для содержательной оценки рисков, который распространяется не только на новейшие модели, но и на возможность понять, как они обучались и как работают меры защиты; а также свобода публиковать наблюдения и оценки модели или процесса.

Anthropic провела аналогию с банковским надзором, оговорив, что она не вполне точна: банки лучше сторонних наблюдателей знают о собственных рисках, поэтому регулирующие органы направляют инспекторов для постоянной работы в крупнейшие банки; если рискованные действия банка могут угрожать обществу, третьи стороны стараются заранее это выявить.

Три уровня доступа

Anthropic сообщила, что разрабатывает для оценщиков три уровня доступа. На первом уровне оценщики проводят узко ограниченные исследования рисков; Anthropic решает, какой доступ предоставить, а оценщики могут публиковать результаты с одобрения компании. На втором уровне оценщики могут публиковать результаты без одобрения Anthropic и получают доступ к большему объему информации, хотя Anthropic по-прежнему может потребовать удалить отдельные категории сведений; оценщики при этом вправе публиковать свою оценку обоснованности таких изъятий. Третий уровень — соглашение с METR: доступ на условиях, близких к условиям для сотрудников, и права на публикацию, аналогичные правам второго уровня.

Со временем Anthropic рассчитывает привлечь к работе на третьем уровне нескольких оценщиков, причем каждая команда будет публиковать собственный анализ профиля рисков компании и ее ключевых решений.

SecureBio, Accenture и переговоры на ранней стадии

Сейчас SecureBio входит в первую группу. Компания рассматривает главу о химическом и биологическом оружии в «Отчёте Anthropic о рисках» за август 2026 года после завершения и публикации пилотного обзора предыдущего отчёта о рисках. Anthropic сообщила, что после завершения этой проверки рассмотрит возможность перехода к проектам с расширенным доступом и правом на публикацию.

Anthropic сообщила, что вместе с Accenture и Faculty работает над партнёрством, которое предусматривает оценку моделей и их проверку на устойчивость к атакам, оценку соответствия принципам согласования, тестирование защитных механизмов моделей и развитие возможностей обеих организаций.

Anthropic также сообщила, что ведёт предварительные переговоры с несколькими другими организациями, в том числе с Hugging Face. Поскольку эти партнёрства пока находятся на ранней стадии, Anthropic предоставляет оценщикам более ограниченную информацию, а их права на публикацию более ограничены; при этом Anthropic проверяет, что партнёры защищают конфиденциальную информацию и располагают необходимыми ресурсами и опытом. По мере развития партнёрств и укрепления доверия Anthropic намерена в полной мере интегрировать в свою работу больше независимых оценщиков.

Обязательство, принятое в сентябре

В сентябре 2026 года сооснователь Anthropic Дарио Амодей опубликовал эссе «Мы должны задавать темп развития передовых ИИ-систем», в котором назвал привлечение внешних оценщиков к работе компании с доступом на уровне сотрудников первым шагом трёхэтапного плана по регулированию темпов развития передового ИИ. Амодей написал, что Anthropic в одностороннем порядке обязуется сделать этот шаг, и призвал правительства обязать другие компании, разрабатывающие передовые ИИ-системы, поступить так же. Он написал: «Мы должны замедлить темпы повышения возможностей моделей ИИ», чтобы меры по предотвращению рисков успевали за развитием этих возможностей.

В эссе говорилось, что Anthropic намерена пригласить внешнюю группу для постоянной работы внутри компании: предоставить её участникам рабочие места в офисах, пропуска и корпоративные ноутбуки; доступ к рабочим пространствам, инструментам и разрешениям, в основном сопоставимый с доступом внутренних групп по оценке рисков, за исключением случаев, когда этого требуют закон или договоры либо когда необходимо защитить частную информацию клиентов и партнёров; а также заключить договор, дающий внешним оценщикам право публиковать основные выводы об уровнях риска, инцидентах, практиках и предоставленном или непредоставленном им доступе, без редакционного контроля Anthropic над публикациями. Согласно этим предполагаемым условиям, Anthropic сохранит ограниченное право удалять сведения, чувствительные с точки зрения безопасности, защищённые юридической привилегией, коммерчески чувствительные или конфиденциальные сведения третьих сторон, но не сможет убирать выводы лишь потому, что они неблагоприятны для компании. Оценщики смогут публично сообщить, если при удалении было исключено что-то важное для их выводов.

Anthropic сообщила, что привлекает оценщиков на добровольной основе и считает, что все компании, разрабатывающие передовые ИИ-системы, должны поступать так же. Компания заявила, что активно развивает сотрудничество с несколькими оценщиками, учится на практике выстраивать партнёрства и намерена делиться новостями по мере продвижения.