Anthropic привлекает Faculty компании Accenture для оценки встроенных моделей ИИ

Anthropic заявила 18 сентября 2026 года, что она сотрудничает с Accenture в независимой оценке передовых ИИ, при этом каждая компания ожидает инвестировать не менее $1 billion в создание возможностей в этой области в течение следующих пяти лет.

Партнёрство будет возглавлено подразделением Faculty, специализированным AI‑бизнесом Accenture, и будет включать оценку и red‑team моделей, проведение оценок согласованности и тестирование средств защиты моделей. Anthropic описала работу как шаг к обязательству, сделанному в сентябре 2026 года в эссе CEO Дарио Амодеи, внедрить независимых оценщиков внутри компании.

Anthropic заявила, что Accenture помогает бизнесу и правительствам внедрять ИИ во многих отраслях, и что понимание фирмой того, как предприятия используют ИИ на практике, формирует её подход к безопасности. По словам компании, эта перспектива будет применена при оценке её моделей.

Как будет работать встроенная оценка

Встроенная оценка является новой, и многие детали её функционирования всё ещё уточняются, согласно объявлению. В то время как существующие внешние оценщики работают вне компаний, которые они оценивают, встроенные оценщики будут работать внутри AI‑компаний, имея доступ, сопоставимый с доступом сотрудника.

По словам Anthropic, такой доступ позволяет оценщикам наблюдать за формированием моделей в процессе обучения, отслеживать решения, определяющие, как модели создаются и развёртываются, и напрямую общаться с сотрудниками. Исходя из этой позиции, оценщики могут оценивать работу компании, проверять соблюдение её обязательств по безопасности и выявлять слепые зоны. Они также могут сообщать о происшествиях и предоставлять общественности более информированный отчёт о преимуществах и рисках, заявила компания.

Anthropic заявила, что независимые встроенные оценщики не меняют её ответственности, делая её при этом более проверяемой, а безопасность её моделей остаётся её обязанностью.

Условия доступа и права публикации

В эссе, озаглавленном “Мы должны задавать темп границе”, Амодеи предложил трёхэтапный план: встроенные оценщики, координацию между компаниями передового ИИ в демократических странах и глобальную координацию. Он написал, что Anthropic односторонне обязуется выполнить первый шаг и призвал правительства потребовать от других компаний передового ИИ сделать то же. «Мы должны замедлить темп, с которым мы улучшаем возможности моделей ИИ», — написал он. «Прогресс всё равно будет казаться быстрым, и нам нужно разумно использовать полученное время».

В эссе говорится, что Anthropic планирует пригласить встроенную внешнюю ревизионную команду, оснащённую рабочими местами в её офисах, пропусками и ноутбуками компании, а также доступом к рабочим пространствам, инструментам и правам, в основном сопоставимыми с теми, что имеют внутренние команды по оценке рисков. Исключения будут применяться в случаях, когда это требует закон или контракты, либо для защиты конфиденциальной информации клиентов и партнёров.

Согласно контрактному подходу, описанному в эссе, внешние ревизоры имели бы право публиковать ключевые выводы о уровнях рисков, инцидентах, практиках и о доступе, который они получили или не получили, без редакционного контроля со стороны Anthropic. Компания сохраняла бы ограниченную возможность редактировать информацию, являющуюся безопасностной, юридически привилегированной, коммерчески чувствительной или конфиденциальной третьих сторон, но не могла бы скрывать выводы лишь потому, что они неблагоприятны; ревизоры могли бы публично заявить, если редактирование удалило что‑то важное для их заключений. В эссе указывается на прецедент в банковской отрасли, где регуляторные надзорные органы иногда встраиваются рядом с сотрудниками.

Вопросы финансирования и неэксклюзивная структура

Anthropic заявила, что пока нет стандартов относительно того, к какой информации должны иметь доступ встроенные оценщики, или как они должны отчитываться о своих находках, а также нет установленной системы финансирования независимой оценки. В долгосрочной перспективе компания считает, что финансирование должно поступать из объединённых или государственных источников, как она призывала в своей Advanced AI Framework в июне; поскольку таких источников пока нет, она планирует работать с разными оценщиками при различных схемах финансирования.

Anthropic будет напрямую финансировать работу Accenture. Компания также ведёт диалог с METR и другими некоммерческими оценщиками для пилотного внедрения элементов встроенной оценки с использованием их собственного финансирования, и заявила, что считает, что передовой ИИ в конечном итоге нуждается в экосистеме оценщиков, работающих по общим стандартам.

Партнёрство является неэксклюзивным. Anthropic заявила, что будет сотрудничать с другими оценщиками, которых планирует анонсировать в ближайшие недели, что ожидает, что передовые лаборатории будут работать сразу с несколькими организациями, и что Accenture будет работать с другими разработчиками ИИ в аналогичных ролях. Компания заявила, что продолжит обучать и выпускать передовые модели, делится своими ранними усилиями, чтобы люди и другие разработчики ИИ могли видеть её процесс, ожидает, что её подход будет развиваться по мере созревания отрасли, и будет делиться дополнительной информацией по мере начала работы и привлечения новых оценщиков.

Ранее корпоративное партнёрство

Работа по оценке расширяет более широкие отношения, о которых две компании объявили 9 декабря 2025 года: многолетнее партнёрство, сформировавшее Accenture Anthropic Business Group. По условиям этого соглашения примерно 30 000 специалистов Accenture пройдут обучение работе с Claude, Claude Code будет доступен десяткам тысяч разработчиков Accenture, а компании запустили совместное предложение, предназначенное помочь CIO измерять ценность и ускорять внедрение ИИ в их инженерных организациях. Объявление декабря 2025 года также включало начальные отраслевые решения для регулируемых секторов, среди которых финансовые услуги, науки о жизни, здравоохранение и государственный сектор.