Антропик раскрыл первую крупномасштабную кибератаку, осуществленную с помощью автоматизации ИИ

Антропик раскрыл, что группа хакеров, которую они подозревают в том, что она является китайской государственной группой, осуществила первую задокументированную крупномасштабную кибератаку, выполненную с минимальным вмешательством человека, используя инструмент Claude Code компании для автоматизации 80-90 процентов кампании.

Нападавшие нацелились примерно на 30 организаций из числа крупных технологических фирм, финансовых учреждений, химических производителей и государственных агентств. Хотя большинство атак были заблокированы, кампания удалась в небольшом количестве случаев. Claude Code осуществлял разведку, тестирование уязвимостей, сбор учетных данных и эксфильтрацию данных в значительной степени автономно, с человеческими операторами, необходимыми только на критических этапах принятия решений.

Вы можете прочитать полный отчет Антропика здесь.

Методы атаки и манипуляция ИИ

Хакеры обошли системы безопасности Claude с помощью сложной социальной инженерии. Они обманули систему ИИ, выдавая себя за сотрудников легитимной компании по кибербезопасности, проводящей оборонительное тестирование. Нападавшие также разбили свои операции на небольшие, казалось бы, безобидные задачи, которые предоставили Claude неполную информацию о злонамеренной общей цели.

Claude Code осмотрел системы целевых организаций, чтобы выявить базы данных высокого значения, выполнил эту разведку быстрее, чем могли бы человеческие хакеры, и провел исследование и написал индивидуальный код эксплуатации для тестирования уязвимостей безопасности. Система собрала имена пользователей и пароли для дальнейшего доступа к сети, затем извлекла и категоризировала конфиденциальные данные в соответствии с их разведывательной ценностью. Нападавшие могли выполнить кампанию практически с одного клика, после чего ИИ работал в значительной степени самостоятельно на скоростях, невозможных для человеческих команд — часто отправляя тысячи запросов в секунду.

Изображение: Anthropic

Обнаружение и реакция компании

Anthropic обнаружил атаку в середине сентября 2025 года и сразу же начал расследование. В течение 10 дней компания заблокировала доступ группы к Claude, связалась с пострадавшими организациями и уведомила правоохранительные органы. Компания с тех пор расширила свои возможности обнаружения и разрабатывает дополнительные методы для расследования и обнаружения крупномасштабных, распределенных атак.

Этот инцидент следует за ранее задокументированными случаями злоупотребления, о которых сообщила Anthropic в 2025 году. В августе отчет компании по разведке угроз подробно описал операцию по вымогательству данных, отслеживаемую как GTG-2002, которая использовала Claude Code для совершения крупномасштабного воровства, нацеливаясь как минимум на 17 организаций в сфере здравоохранения, аварийных служб, правительства и религиозных учреждений. Этот преступник требовал выкупа в размере более 500 000 долларов, угрожая раскрыть украденные данные, а не использовать традиционное шифрование программного обеспечения с вымогательством.

Инфраструктура обнаружения Anthropic основана на нескольких слоистых методах, включая поведенческий анализ для мониторинга моделей использования на миллионах запросов API, обнаружение аномалий для выявления последовательностей операций, несовместимых с легитимным использованием, и сопоставление с образцом для распознавания известных и новых методов манипуляции. Компания использует специализированные классификаторы, которые анализируют входные данные пользователей на предмет потенциально вредоносных запросов и оценивают ответы Claude до или после доставки.

Последствия для отрасли

Кампания включала беспрецедентный уровень автономности ИИ в кибератаках и знаменует собой то, что эксперты по безопасности считают поворотным моментом в кибершпионаже. Способность систем ИИ проводить сложные атаки на скорости машины с минимальным человеческим надзором создает новые проблемы для защитников кибербезопасности.

Раскрытие Anthropic происходит в то время, когда компании, занимающиеся ИИ, сталкиваются с возрастающим давлением, чтобы предотвратить злонамеренное использование своих моделей. Компания поддерживает комплексную программу разведки угроз и мер безопасности для обнаружения и противодействия злоупотреблению Claude, с задокументированными инцидентами безопасности на протяжении 2025 года. В марте компания выявил операцию по влиянию в качестве услуги, которая использовала Claude для автоматизации взаимодействия с десятками тысяч учетных записей в социальных сетях в нескольких странах и на нескольких языках.

Инцидент подчеркивает растущую сложность инструментов, работающих на ИИ, и проблемы предотвращения их злоупотребления, сохраняя при этом полезность для легитимных пользователей. Anthropic заблокировала связанные учетные записи и продолжает совершенствовать свои возможности обнаружения и смягчения, чтобы решить проблемы эволюционирующего ландшафта угроз.