За пределами человека: Защита агентного ИИ и нечеловеческих идентификаторов в мире, управляемом нарушениями

Если вы были где-либо рядом с корпоративным SOC в течение последних 18 месяцев, вы видели это. Оповещения, которые не соответствуют человеку. Учетные данные, принадлежащие “чему-то”, а не “кому-то”. Автоматизация, которая работает быстрее, чем может справиться ваша команда реагирования на инциденты.

И недавно это не просто шум, а коренная причина самых громких заголовков в нашей отрасли. От кибер-инцидента Victoria’s Secret, который нарушил продажи и спровоцировал коллективный иск, до нарушений в многоарендном облачном хранилище, которые раскрыли конфиденциальные данные по всем клиентам, растущее число нарушений теперь возникает из идентификаторов, которые мы не видим, не отслеживаем или едва понимаем.

Рост агентного ИИ, автономных систем, которые могут действовать в приложениях, API и инфраструктуре, столкнулся с взрывом нечеловеческих идентификаторов (НЧИ), включая учетные записи сервисов, ботов, ключи API и учетные данные машин. Вместе они создали новую поверхность атаки, которая расширяется быстрее, чем большинство организаций могут обеспечить безопасность.

Что мы подразумеваем под “Агентным ИИ”

Агентный ИИ относится к ИИ-“агентам”, которые могут принимать цели и автономно выполнять многоступенчатые задачи, часто в нескольких системах, без человеческого надзора.

• Могут вызывать API, обновлять базы данных или запускать рабочие процессы.

• Работают на скорости машины – секунды, а не минуты.

• Риски: Внедрение подсказок, отравление обучающих данных, украденные учетные данные.

Масштаб, с которым мы имеем дело

Идентификаторы машин уже превосходят количество людей в большинстве предприятий, в некоторых случаях более чем в 20:1 или более. К 2026 году это соотношение, как ожидается, почти удвоится. Эти НЧИ находятся в ваших облачных рабочих нагрузках, конвейерах CI/CD и интеграциях API, и теперь они запускают автоматизацию на основе LLM.

Проблема: Большинство систем IAM были построены для управления людьми, а не машинами.

• Учетные записи без явного владельца.

• Статические учетные данные, которые никогда не истекают.

• Привилегии, далеко превышающие необходимые.

Это не гипотетически. Нарушения в Uber и Cloudflare были отслежены до скомпрометированных учетных записей машин – тех, которые никогда не получают симуляции фишинга, но могут разблокировать критическую инфраструктуру.

Агентный ИИ: Множитель риска

С одной стороны, агентный ИИ – это операционный прорыв. С другой стороны, если его доступ скомпрометирован, у вас есть автоматизация, работающая для противника.

Рассмотрите:

• ИИ-агент с правами чтения/записи в приложениях SaaS может автоматизировать кражу данных без срабатывания аномалий, ориентированных на человека.

• Если тот же агент может изменить роли IAM или развернуть облачные ресурсы, у вас есть эскалация привилегий на автопилоте.

• Атаки по внедрению подсказок и отравление модели означают, что атакующие могут перенаправить ИИ-агента без кражи его учетных данных.

Мы видели, насколько опасна неуправляемая учетная запись сервиса. Теперь дайте этой учетной записи возможность принимать решения, и ставки умножаются.

Кейсы: Судебная экспертиза нарушений в эпоху ИИ + НЧИ

Victoria’s Secret (май 2025)
В течение выходных в честь Дня поминовения Victoria’s Secret закрыла свой веб-сайт в США и некоторые услуги в магазине в том, что казалось инцидентом, похожим на вымогательство (The Hacker News, Bitdefender). Авария длилась несколько дней и способствовала оценочному снижению дохода в 20 миллионов долларов в 2-м квартале. Последующий коллективный иск утверждает, что ритейлер не смог зашифровать конфиденциальные данные, пропустил критические аудиты безопасности и пренебрег обучением сотрудников по кибербезопасности (Top Class Actions), все пробелы, которые отражают слабости, часто встречающиеся в неуправляемых нечеловеческих идентификаторах с привилегированным доступом.

Нарушение безопасности Google Salesforce (июнь 2025)
В июне атакующие, связанные с группой ShinyHunters (UNC6040), получили доступ к корпоративному экземпляру CRM Salesforce через техники голосового фишинга (вишинга) (ITPro). Как только они оказались внутри, они вывели контактные данные, принадлежащие малым и средним бизнес-клиентам. Хотя это началось с социальной инженерии, ориентированной на человека, точка поворота была связанным приложением – формой идентификатора машины – что позволило вторгшимся перемещаться без срабатывания аналитики поведения пользователя.

Аварии в розничной торговле и люксе (M&S, Cartier, The North Face)
Волна атак на крупных ритейлеров, включая The North Face и Cartier, раскрыла имена клиентов, электронные адреса и некоторые метаданные учетных записей (Sangfor, WSJ). Marks & Spencer был поражен особенно сильно, атака вымогателя и цепочки поставок, приписываемая группе “Scattered Spider”, нарушила услуги “клик и заберите” более чем на 15 недель и, как ожидается, обойдется ритейлеру до 300 миллионов фунтов. В каждом случае третьи интеграции и подключения API, часто поддерживаемые НЧИ, стали молчаливыми пособниками для атакующих.

Что такое нечеловеческий идентификатор (НЧИ)?

НЧИ – это учетные данные и учетные записи, используемые машинами, а не людьми. Примеры:

• Учетные записи сервисов для баз данных или приложений.

• Ключи API для облачной интеграции.

• Учетные данные ботов для автоматизации скриптов.

Риски: Перепривилегированные, недоотслеженные и часто оставленные активными долгое время после использования.

Почему управление отстает

Даже зрелые программы IAM сталкиваются с препятствиями здесь:

• Пробелы в открытии – Многие организации не могут предоставить полный инвентарь НЧИ.

• Халатность в жизненном цикле – НЧИ часто сохраняются в течение лет без регулярного обзора.

• Вакуумы ответственности – Без человеческого владельца очистка падает сквозь трещины.

• Ползучесть привилегий – Разрешения накапливаются по мере изменения ролей, но отзыв отстает.

Это та же самая проблема, с которой мы боролись десятилетиями с учетными записями людей – только теперь каждый НЧИ может работать 24/7, в масштабе, без срабатывания “человеческих” контролей риска.

Плейбук поставщика для защиты НЧИ и ИИ-агентов

1. Комплексное открытие – Отобразите каждый НЧИ и ИИ-агент, включая привилегии, владельцев и интеграции.

2. Назначьте человеческих владельцев – Сделайте кого-то ответственным за жизненный цикл каждого НЧИ.

3. Принудите минимальные привилегии – Сопоставьте разрешения с фактическим использованием; удалите избыточные.

4. Автоматизируйте гигиену учетных данных – Поворачивайте ключи, используйте короткоживущие токены, автоматически истекайте неактивные учетные записи.

5. Непрерывный мониторинг – Обнаруживайте аномалии, такие как неожиданные вызовы API или эскалация привилегий.

6. Интегрируйте управление ИИ – Относитесь к ИИ-агентам как к высокопривилегированным администраторам: журналируйте активность, обеспечивайте соблюдение политики, включайте доступ по мере необходимости.

(Эти шаги соответствуют NIST CSF, CIS Control 5 и возникающим Gartner IVIP лучшие практики.)

Почему это должно произойти сейчас

Это не просто преследование тренда ИИ. Это признание того, что периметр идентификации сместился от людей к процессам. Атакующие знают это. Если мы продолжим рассматривать идентификаторы машин как после мысли, мы даем противникам слепое пятно, которое им нужно для работы незамеченными.

Команды, которые останутся впереди, – это те, кто делает НЧИ и управление агентами первоклассным элементом безопасности идентификации, с видимостью, владением и дисциплиной жизненного цикла на месте до того, как следующее нарушение заставит решить проблему.