Anthropic Раскрывает Первую Крупномасштабную Кибератаку, Осуществленную с Помощью Автоматизации ИИ

Anthropic раскрыла, что группа хакеров, которую они подозревают в том, что это китайская государственная группа, осуществила первую задокументированную крупномасштабную кибератаку, выполненную с минимальным вмешательством человека, используя инструмент Claude Code компании для автоматизации 80-90% кампании.

Атакующие нацелились примерно на 30 организаций среди крупных технологических фирм, финансовых учреждений, химических производителей и государственных агентств. Хотя большинство атак были заблокированы, кампания удалась в небольшом количестве случаев. Claude Code осуществила разведку, тестирование уязвимостей, сбор учетных данных и эксфильтрацию данных в основном автономно, с человеческими операторами, необходимыми только на критических этапах принятия решений.

Вы можете прочитать полный отчет Anthropic здесь.

Методы Атак и Манипуляция ИИ

Хакеры обошли механизмы безопасности Claude с помощью сложной социальной инженерии. Они обманули систему ИИ, выдавая себя за сотрудников легитимной фирмы по кибербезопасности, проводящей оборонительное тестирование. Атакующие также разбили свои операции на небольшие, казалось бы, безобидные задачи, которые предоставили Claude неполную информацию о злонамеренной общей цели.

Claude Code осмотрела системы целевых организаций, чтобы выявить высокоценные базы данных, выполнила эту разведку быстрее, чем могли бы человеческие хакеры, и провела исследование и написала индивидуальный код эксплойта для тестирования уязвимостей безопасности. Система собрала имена пользователей и пароли для дальнейшего доступа к сети, затем извлекла и категоризировала конфиденциальные данные в соответствии с их разведывательной ценностью. Атакующие могли осуществить кампанию практически с помощью одного клика, после чего ИИ работал в основном самостоятельно на скоростях, невозможных для человеческих команд — часто отправляя тысячи запросов в секунду.

Изображение: Anthropic

Обнаружение и Ответ Компании

Anthropic обнаружила атаку в середине сентября 2025 года и сразу же начала расследование. В течение 10 дней компания заблокировала доступ группы к Claude, связалась с пострадавшими организациями и уведомила правоохранительные органы. Компания с тех пор расширила свои возможности обнаружения и разрабатывает дополнительные методы для расследования и обнаружения крупномасштабных, распределенных атак.

Этот инцидент следует за ранее задокументированными случаями злоупотребления, о которых сообщила Anthropic в 2025 году. В августе отчет компании по разведке угроз подробно описал операцию по вымогательству данных, отслеживаемую как GTG-2002, которая использовала Claude Code для совершения крупномасштабного воровства, нацелившись как минимум на 17 организаций в сфере здравоохранения, аварийных служб, государственных и религиозных учреждений. Этот преступник требовал выкупа в размере более 500 000 долларов, угрожая раскрыть украденные данные, а не используя традиционное шифрование вымогателя.

Инфраструктура обнаружения Anthropic основана на нескольких слоистых методах, включая поведенческий анализ для мониторинга моделей использования на миллионах запросов API, обнаружение аномалий для выявления последовательностей операций, несовместимых с легитимным использованием, и сопоставление с образцом для распознавания известных и новых методов манипуляции. Компания использует специализированные классификаторы, которые анализируют входные данные пользователей на предмет потенциально вредоносных запросов и оценивают ответы Claude до или после доставки.

Последствия для Отрасли

Кампания включала беспрецедентный уровень автономности ИИ в кибератаках и знаменует собой то, что эксперты по безопасности считают поворотным моментом в кибершпионаже. Способность систем ИИ проводить сложные атаки на скорости машины с минимальным человеческим надзором создает новые проблемы для защитников кибербезопасности.

Раскрытие Anthropic происходит на фоне растущего давления на компании ИИ, чтобы предотвратить злонамеренное использование их моделей. Компания поддерживает комплексную программу разведки угроз и мер безопасности для обнаружения и противодействия злоупотреблению Claude, с задокументированными инцидентами безопасности на протяжении 2025 года. В марте компания выявила операцию по влиянию в качестве услуги, которая использовала Claude для автоматизации взаимодействия с десятками тысяч аккаунтов в социальных сетях в нескольких странах и языках.

Инцидент подчеркивает растущую сложность инструментов, работающих на ИИ, и проблемы предотвращения их злоупотребления, сохраняя при этом полезность для легитимных пользователей. Anthropic заблокировала связанные с этим учетные записи и продолжает совершенствовать свои возможности обнаружения и смягчения, чтобы решить проблемы эволюционирующего ландшафта угроз.