Что на самом деле происходит во время атак, вооруженных ИИ?

В течение многих лет отрасль кибербезопасности говорила об атаках ИИ в будущем времени. Мы представляли себе сверхумных хакеров, разрушающих файрволы с помощью инопланетной логики. Реальность, которую мы открываем в наших лабораториях Simbian, намного менее кинематографична, но намного более опасна.

Угроза не заключается в том, что ИИ сверхумно умён. Она заключается в том, что ИИ делает экспертный уровень настойчивости масштабируемым, мгновенным и бесконечно переменным. Он превращает “постепенное улучшение” скрипта в лавину энтропии, которую никакая команда безопасности не может обработать.

Вот что на самом деле происходит, когда машина берет клавиатуру.

Фаза 1: Разведка – Эра контекста

В старом мире разведка была “спрей и молитва”. Атакующие покупали списки электронных адресов и рассылали общие шаблоны, надеясь на 0,1% кликов.

В атаке, вооруженной ИИ, разведка – это “сPEAR и клон”. Генеративные агенты могут теперь поглощать цифровой след目标а – посты в LinkedIn, недавние твиты, упоминания в новостях и даже публичные коммиты кода – чтобы создать психологический профиль за несколько секунд. Они не просто пишут фишинговые письма; они пишут контекст.

Агент ИИ не отправляет общую ссылку “Сбросить пароль”. Он видит, что вы только что сделали коммит кода в конкретный репозиторий GitHub в 2:00 утра. Он отправляет вам уведомление в Slack от “Старшего разработчика”, имитирующего жалобу на конфликт слияния в этом конкретном репозитории, с ссылкой на “исправление”. Срочность создается, но контекст реален.

Фаза 2: Исполнение – Полиморфный кошмар

Вот где真正но ломается защита. Традиционно, если атакующий написал вредоносный скрипт (например, вариант Mimikatz), поставщики безопасности находили его, хешировали и блокировали. “Подпись” была щитом.

Генеративный ИИ разрушает понятие статической подписи. Атакующий, вооруженный ИИ, не использует статический инструмент. Он использует агент, который пишет инструмент на месте. Если агент обнаруживает датчик EDR (Endpoint Detection and Response), он просто запрашивает у своего бэкенда LLM: “Перепишите эту логику для сброса учетных данных, чтобы избежать этих конкретных хуков API. Переименуйте все переменные. Измените поток управления.”

Намерение кода остается идентичным. Синтаксис полностью меняется. Для системы защиты, основанной на правилах, это выглядит как совершенно новая, ранее не виденная программа.

Фаза 3: Латеральное движение – Скорость абдукции

Как только внутри, скорость человеческой реакции становится нерелевантной. Человеческий злоумышленник движется осторожно, проверяя журналы, набирая команды и останавливаясь, чтобы подумать. Он может перейти к новому серверу за несколько часов.

Агент ИИ переходит за миллисекунды.

Но скорость не является единственным фактором; это абдуктивное рассуждение, или вывод к лучшему объяснению. ИИ удивительно хорош в “угадывании” структуры сети на основе фрагментов. Если он видит сервер с именем US-WEST-SQL-01, он делает вывод о существовании US-EAST-SQL-01 и US-WEST-BAK-01. Он проверяет эти гипотезы мгновенно на тысячах внутренних IP-адресов.

Ему не нужно быть идеальным. Ему просто нужно быть быстрым. Пока аналитик SOC еще триажирует первоначальное предупреждение о фишинге, ИИ уже картографирует контроллер домена, определил серверы резервного копирования и эксфильтровал коронные драгоценности организации.

Фаза 4: Воздействие – Бомба энтропии

Окончательная цель атаки, вооруженной ИИ, не всегда является скрытностью. Иногда это хаос. Мы вступаем в эпоху атак с высокой энтропией. Агент ИИ может генерировать 10 000 реалистичных предупреждений одновременно – неудачные входы, сканирование портов, выполнение приманок-малварей.

Это “Бомба энтропии”. Она наводняет SOC таким количеством сигналов, что аналитики страдают от когнитивной перегрузки. Они борются с приманками, пока настоящая атака происходит тихо на заднем плане. Вызов для защитника меняется от “поиска иголки в стоге сена” к “поиску иголки в стоге иголок”.

Борьба с огнем огнем

Урок из нашего исследования жесток: вы не можете бороться с машиной с помощью очереди билетов.

Если атакующий может итерировать свой код за секунды, а ваша защита требует от человека написать правило обнаружения за несколько часов, вы уже проиграли. Асимметрия математическая. Единственный способ выжить в атаке, вооруженной ИИ, – иметь защитник ИИ, который работает на той же скорости – рассуждая, проверяя и блокируя быстрее, чем атакующий может мутировать.

Нападение эволюционирует. Защита должна теперь сделать то же самое.