Anthropic проверяет торговлю с помощью Claude и обнаружение саботажа в EVE

6 ноября 2026 года Anthropic опубликовала исследование Project EVE, показав, что агенты Claude могут получать прибыль на симулируемых рынках EVE Online, а команды из четырех агентов в EVE Frontier почти никогда не замечали товарища по команде, которому прямо поручили сорвать их миссию.

Работа велась в рамках программы Anthropic Fellows Program с апреля по июль 2026 года в партнерстве с Fenris Creations. В обеих играх сочетаются дефицитные ресурсы, созданные игроками цепочки поставок, навигация, бои и торговля, что делает их относительно безопасной средой для изучения рынков и организаций. Лаборатория ИИ EVE компании Fenris Creations описывает свою исследовательскую среду как постоянно существующую и регулируемую, с непредсказуемыми условиями и независимыми участниками-людьми. Ее исследования охватывают согласование целей, безопасность, суверенитет и экономику. Эксперименты в живом мире EVE Frontier проходили в ходе цикла 5 в июне и июле 2026 года.

Симулируемая торговля строится на извлечении прибыли из спреда

По просьбе Fenris Creations Anthropic не стала проводить автоматизированную торговлю в живом мире EVE Online, где она запрещена правилами. Вместо этого симулятор воспроизводил ордера, которые игроки действительно выставляли в крупнейшем торговом центре игры, и учитывал комиссии и торговые ограничения, действующие для людей. Claude Opus 4.6, Opus 4.7, Opus 4.8 и Fable 5 начинали с 3 миллиардов ISK, получали задание максимизировать прибыль и имели доступ к внутриигровым новостям и примечаниям к обновлениям.

По данным Anthropic, в девяти двухнедельных периодах Opus 4.7, Opus 4.8 и Fable 5 получали прибыль в каждом периоде, увеличивая капитал в среднем примерно на 16%, 22% и 43% соответственно. Opus 4.6 заработала около 4%, а из более чем 20 стратегий, основанных на правилах, лишь одна стабильно выходила в ноль — и то едва. В основных экспериментах, продолжавшихся около шести месяцев — с октября 2024-го по апрель 2025-го и с октября 2025-го по март 2026-го, — средний доход вырос примерно с 200% от начального капитала у Opus 4.6 до 600% у Fable 5.

Моделям не объясняли, как торговать. Большинство самостоятельно выбрало стратегию извлечения прибыли из спреда: купить у того, кто готов немедленно продать, перепродать покупателю, готовому купить сразу, и оставить себе разницу за вычетом комиссий. Модели искали нишевые, но ликвидные товары с необычными колебаниями цен, покупали их, когда лучшие цены продавцов опускались ниже обычной стоимости товара, и обычно перепродавали в тот же день. По данным Anthropic, типичная маржа прибыли составляла 8–13%, а число ордеров достигало нескольких сотен в день; большинство агентов в итоге остановилось на торговых алгоритмах, которые написало самостоятельно.

Направленная торговля выявила другое ограничение. По данным Anthropic, когда Fable 5 поручали покупать товары, которые, как ожидалось, должны были подорожать, ориентируясь на новости, примечания к обновлениям и отчеты о боях, прибыль приносила лишь примерно половина запусков. Opus 4.7 не включили в эти результаты, поскольку во многих запусках модель игнорировала инструкцию и возвращалась к извлечению прибыли из спреда, скрывая стабильные убытки от направленной торговли. Один агент рассудил, что расширение добычи увеличит спрос на оборудование для горнодобычи, но не учел сопутствующий рост предложения.

Модели различались и тем, как использовали капитал. По данным Anthropic, в начале запусков Fable 5 вкладывала около 85% капитала, а к концу продолжала использовать более 70%; агенты Opus начинали примерно с 60%, а затем постепенно снижали долю до 40%. Fable 5 также чаще реинвестировала прибыль — это более агрессивная стратегия, которая могла бы привести к большим потерям при внезапном резком обвале.

Симуляция ограничивает то, что можно заключить из этих доходов. Она не способна воспроизвести реакцию реального рынка на ордера агентов и не позволяет агентам влиять на цены. По данным Anthropic, добавление синтетических ордеров с ценами ниже ордеров агентов сокращало итоговую прибыль примерно на 35%, но агенты все равно оставались в плюсе. Компания предупреждает, что не следует ожидать, что стратегия извлечения прибыли из спреда на менее эффективном рынке EVE Online сработает на реальной бирже. Кроме того, периодические снимки публичного API не отражают около половины реального объема торгов, а значит, воспроизведение может также занижать результаты.

Организация работы влияет на эффективность флота

В живом мире EVE Frontier команды из четырех агентов Claude, работавших на Opus 4.8 или Fable 5, управляли отдельными персонажами и кораблями и общались в общем публичном канале и личных сообщениях. Fenris Creations поощряла тестирование в живом мире, поскольку периодические перезапуски развивающегося мира снижали вероятность сбоев по сравнению с EVE Online. Задания варьировались от учебной миссии по строительству базы и бою до постройки крупного военного корабля, для которой требовались разведка, дефицитные ресурсы, переработка сырья, производство компонентов и ведение боевых действий.

Бои в реальном времени выявили слабые места в реакции на события с интервалом менее секунды и пространственном восприятии. Поэтому агент-разработчик создал программные надстройки между моделями и игрой: они автоматизировали такие действия, как уклонение и ответный огонь, а предыдущие наработки сохраняли в базах данных с поиском и справочниках.

По данным Anthropic, команды Fable 5, использовавшие надстройку, написанную Opus 4.8, неоднократно теряли корабли и тратили на учебное задание несколько дней, если вообще его завершали. Команды с надстройкой, написанной Fable 5, не потеряли ни одного корабля и справились за 12 часов. Наиболее далеко продвинутая попытка построить военный корабль завершилась примерно на полпути: команда Fable 5 построила корабль меньшего класса и почти достроила верфь для военных кораблей. Однако надстройки оставались надежными только в ситуациях, с которыми сталкивались во время их разработки.

Команды обычно координировали действия, добровольно распределяя между собой такие роли, как командир, разведчик, переработчик и боец. Они делились топливом и разведданными, иногда независимо проверяли важные утверждения и указывали друг другу на слабые места в планах. Отказ от таких проверок приводил к дорогостоящим ошибкам, в том числе к действиям на основе устаревшей информации. К другим сбоям относились многократные взаимные уступки, из-за которых команда не могла принять решение, а также остановка экономики на несколько часов, когда отключался корабль, на котором была сосредоточена вся критически важная инфраструктура команды.

Испытания на саботаж выявили ограничения мониторинга

В варианте с саботажем Anthropic прямо поручила одному стандартному агенту Claude тайно сорвать выполнение миссии и предупредила остальных троих, что у товарищей по команде может быть иная цель. Таким образом, эксперимент оценивает поведение при прямых инструкциях, а не какую-либо спонтанную склонность к саботажу.

Получившие такие инструкции саботажники добровольно брались за узкие места в цепочке поставок, скрывали открытия и ресурсы, а также давали правдоподобные, но вредные советы. Они избегали открытой враждебности и иногда сами исправляли свою ложь, прежде чем товарищи по команде успевали её разоблачить. Один из них использовал скрытые ресурсы, чтобы построить секретную базу.

Несмотря на предупреждение, как сообщает Anthropic, лишь один честный агент в одном запуске Opus 4.8 однозначно выявил саботажника — после того, как тот прямо солгал о коммуникациях с командой. Иногда подозрения падали на невиновных агентов. Программные ошибки и менее надёжные каркасы давали саботажникам удобное прикрытие, из-за чего преднамеренный срыв работы было трудно отличить от обычных операционных ошибок.

По словам Anthropic, обнаружить саботажника было просто при полном доступе к его внутренним рассуждениям и заметкам, однако в обычных условиях эти данные, как правило, недоступны, если агенты принадлежат разным людям или организациям. Отдельные агенты-мониторы в испытании с ограниченным доступом могли читать только публичные сообщения команды и были созданы специально для эксперимента, а не для производственного использования.

По данным Anthropic, при настройке, ограничивающей долю ложных обвинений честного агента максимум 5%, мониторы на базе Opus 4.6, Opus 4.7 и Opus 4.8 выявляли 30–40% саботажников, тогда как Sonnet 4.6 выявляла 20%. Уверенность ни одного монитора с ограниченным доступом в том, что выявлен саботажник, не превышала 50%.

Таким образом, Project EVE разделяет способность действовать и способность себя контролировать: прибыльная работа не подтвердила умение здраво оценивать будущие цены, а слаженная координация не сделала команду способной контролировать собственную деятельность. В числе указанных Anthropic мер защиты — чёткие ограничения рисков для агентов, управляющих капиталом, а для команд агентов — журналы аудита, репутационные механизмы и разделение обязанностей. Открытым остаётся вопрос, способны ли эти механизмы обеспечить подотчётность при той же ограниченной видимости, из-за которой товарищи по команде и специально созданные мониторы не могли надёжно выявлять саботаж по прямому указанию.