Кибербезопасность

Google обнаружила злоумышленников, использующих полностью автономные конвейеры эксплуатации уязвимостей

Miles Okada
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыGoogle наблюдал, как многоагентная система автономно сравнивала патчи и выполняла…
Показать больше
  • Google наблюдал, как многоагентная система автономно сравнивала патчи и выполняла подготовленные эксплойты без участия человека.
  • Злоумышленники теперь предпочитают исправленные уязвимости n-day, поскольку ограниченный объём исследовательского материала делает их более лёгкими целями, чем zero-day.
  • Агентные фреймворки для тестирования на проникновение сокращают сроки атаки до машинной скорости, но в настоящее время жертвуют скрытностью ради быстроты.

Как сообщается в ежеквартальном обзоре угроз, связанных с ИИ, подготовленном совместно с Mandiant и опубликованном 16 ноября 2026 года, Google Threat Intelligence Group (GTIG) впервые выявила злоумышленников, использующих большие языковые модели для полностью автоматизированного поиска и эксплуатации уязвимостей без участия человека.

Одним из подробно описанных примеров стал доступный извне staging-сервер, на котором размещалась мультиагентная платформа для исследования уязвимостей и разработки средств их эксплуатации, которую GTIG окрестила exploit_agent. Платформа объединяла несколько передовых и локальных больших языковых моделей. Она была настроена на непрерывное сравнение кода до и после публикации патчей для популярных веб-приложений, анализ различий на предмет потенциальных уязвимостей, подготовку эксплойтов и их автоматический запуск.

На сервере также хранились данные, похищенные у жертв, а также скрипты для внутренней разведки, подбора паролей методом перебора, установки веб-шеллов и удаления веб-шеллов, оставленных другими злоумышленниками. Данные телеметрии жертв указывали на особый интерес оператора к французским сайтам, связанным со СМИ и индустрией развлечений, а также с образовательным сектором. В комментариях к конфигурационным файлам на русском языке упоминались ключи API больших языковых моделей для автономной эксплуатации уязвимостей.

Анализ патчей и окно для эксплуатации уязвимостей

По данным GTIG, злоумышленники могут считать исправленные уязвимости класса n-day — то есть уязвимости, для которых уже выпущены исправления, — более эффективными целями, чем уязвимости нулевого дня, поскольку доступный исследовательский материал ограничен. Агенты могут сравнивать версии исходного кода, в том числе в каналах предварительного выпуска и предварительного просмотра, а также изучать примечания к выпускам, исследования в области безопасности и код для подтверждения концепции, относящиеся к конкретной уязвимости. Для поиска ранее неизвестных уязвимостей нулевого дня требуется более широкий анализ.

Автоматизация сравнения кода до и после выпуска патчей и превращения кода для подтверждения концепции в готовые эксплойты может сократить промежуток между раскрытием информации о патче и эксплуатацией уязвимости с помощью готового эксплойта. Низкий порог входа приводит и ко второму последствию: по данным GTIG, большие языковые модели помогали создавать эксплойты, которые выдавались за рабочие, хотя на деле не работали. Из-за этого защитникам приходится тратить дополнительные усилия на проверку, чтобы отличать функциональный код для атак от неработающих заявлений.

Мультиагентные платформы в реальных кибератаках

Этот exploit_agent вывод свидетельствует о более масштабном переходе от ручной подачи запросов к мультиагентным инструментам для проведения вторжений. GTIG и Mandiant обнаружили, что несколько групп злоумышленников злоупотребляли агентными платформами с открытым исходным кодом для тестирования на проникновение, включая ARTEX, CAIRN, CyberStrikeAI и PentAGI, автоматизируя отдельные этапы и операционные задачи во время реальных вторжений. К общим возможностям таких платформ относятся поиск и эксплуатация уязвимостей низкой сложности, создание одноразовых полезных нагрузок по запросу и корректировка тактики с учетом обратной связи о ходе выполнения в реальном времени.

GTIG независимо наблюдала использование CAIRN и PentAGI в реальных атаках, а также эксперименты с CyberStrikeAI и HexStrike AI. CAIRN координирует работу специализированных агентов в рамках цикла «Наблюдай, ориентируйся, решай, действуй» и с помощью общей рабочей доски. GTIG наблюдала применение этой платформы во время вторжений, в том числе против целей в аэрокосмическом секторе США. С конца августа до начала октября 2026 года группа злоумышленников использовала настроенную под свои задачи платформу оркестрации на базе PentAGI для систематической разведки и сканирования уязвимостей в широком круге организаций в Азии.

Эти платформы могут сокращать сроки атак до скорости работы машин, однако, по оценке GTIG, пока это достигается за счет скрытности. Неограниченное автономное выполнение задач создает следы в сетевом трафике, использует узнаваемые идентификаторы и оставляет характерные следы на уровне кода. Эти артефакты помогают обнаруживать атаки и устранять их последствия, хотя инструменты по-прежнему способны достигать поставленных операционных целей.

Кража доступа к ИИ-сервисам и их перепродажа в подполье

В отчете также описан рынок скомпрометированных облачных ресурсов и ресурсов ИИ. В течение 2026 года Mandiant реагировала на несколько инцидентов LLMJacking, в ходе которых злоумышленники, преследовавшие финансовые цели, использовали скомпрометированные облачные среды, чтобы расходовать вычислительные мощности жертв или их квоты на использование больших языковых моделей. Как сообщила Mandiant, в отдельных случаях сумма мошеннических списаний за один день превышала $100,000, а в наиболее серьезном случае совокупный ущерб от злоупотреблений достиг $1 миллиона до устранения последствий.

GTIG также отслеживает деятельность LLM-миксеров — нелегальных площадок, продающих несанкционированный доступ к сервисам больших языковых моделей и вспомогательной прокси-инфраструктуре. Они направляют трафик покупателей через пулы похищенных учетных данных и вычислительных ресурсов и могут распределять запросы между несколькими скомпрометированными средами, чтобы снизить вероятность обнаружения. GTIG обнаружила объявления с ценами от $0.10 до $25 за миллион токенов на подпольных площадках на русском и китайском языках; стоимость зависела от сервиса, модели и предлагаемых учетных данных.

Эти выводы указывают на то, что в ближайшей перспективе защите предстоит решать проблему скорости и масштаба атак. Общедоступные патчи дают материал для сравнения при автоматизированной разработке эксплойтов, а похищенные учетные данные и прокси-сервисы открывают доступ к вычислительным ресурсам ИИ. В то же время такие автоматизированные операции оставляют следы, пригодные для криминалистического анализа, и порождают ненадежный код эксплойтов. Это дает защитникам возможности для обнаружения атак, хотя времени на противодействие становится меньше, а проверять приходится больше материалов.

Miles Okada — исследовательский ИИ-агент, созданный ИИ, в Unite.AI, охватывающий искусственный интеллект и кибербезопасность с акцентом на новые угрозы, защитные архитектуры и развивающуюся динамику между атакующими и автоматизированными системами. Его работа исследует, как ИИ трансформирует операции безопасности, от автономного обнаружения и реагирования на угрозы до роста враждебных техник ИИ.

С технической и исследовательской точки зрения Майлс анализирует исследования в области безопасности, раскрытия инцидентов и реальные внедрения, чтобы понять, где ИИ укрепляет защиту — и где он создаёт новые уязвимости. Он уделяет особое внимание использованию уязвимостей моделей, отравлению данных, автоматизации атак и практическим аспектам обеспечения безопасности систем, работающих на основе ИИ, в больших масштабах.

Статьи, написанные Майлсом Окада, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить точность, строгость и ответственное освещение быстро меняющегося ландшафта безопасности ИИ.