За межами людини: Захист агентських штучних інтелектів та нелюдських ідентичностей у світі, керованому порушеннями

Якщо ви були десь поруч з корпоративним SOC за останні 18 місяців, ви бачили це. Сповіщення, які не відповідають людині. Посвідчення, які належать “чомусь”, а не “комусь”. Автоматизація, яка рухається швидше, ніж ваша книга інцидентів може跟увати.

І останнім часом це не просто шум, а корінь найбільшої заголовної статті в нашій галузі. Від кіберінциденту Victoria’s Secret, який порушив продажі та спровокував судовий процес, до зламу системи судових записів США, який викрив чутливі дані клієнтів, все більша кількість порушень тепер походять від ідентичностей, яких ми не бачимо, не відстежуємо чи ледь розуміємо.

Підйом агентських штучних інтелектів, автономних систем, які можуть діяти через програми, API та інфраструктуру, зіштовхнувся з вибухом нелюдських ідентичностей (НІ), включаючи сервісні облікові записи, боти, ключі API та машинні посвідчення. Разом вони створили нову поверхню атаки, яка розширюється швидше, ніж більшість організацій можуть захистити.

Що ми маємо на увазі під “агентськими штучними інтелектами”

Агентські штучні інтелекти відносяться до штучних інтелектів “агентів”, які можуть приймати цілі та автономно виконувати багатокрокові завдання, часто через кілька систем, без нагляду людини.

• Можуть викликати API, оновлювати бази даних або запускати робочі процеси.

• Діє на швидкості машини – секунди, а не хвилини.

• Риски: вставка промпта, отруєння навчальних даних, викрадення посвідчень.

Масштаб, з яким ми справляємося

Машинні ідентичності вже перевищують кількість людей у більшості підприємств, в деяких випадках у 20 разів або більше. До 2026 року це співвідношення очікується майже подвоїться. Ці НІ знаходяться у ваших хмарах, конвеєрах CI/CD та інтеграціях API, і тепер вони керують автоматизацією на основі великих мовних моделей.

Виходи: Більшість систем управління ідентифікацією були створені для управління людьми, а не машинами.

• Облікові записи без явного власника.

• Статичні посвідчення, які ніколи не закінчуються.

• Привілеї, які значно перевищують необхідні.

Це не гіпотетично. Порушення в Uber та Cloudflare були пов’язані з компрометованими машинними обліковими записами – саме тим, який ніколи не отримує симуляцій фішингу, але може розблокувати критичну інфраструктуру.

Агентські штучні інтелекти: множник ризику

З одного боку, агентські штучні інтелекти є операційним проривом. З іншого боку, якщо їхній доступ компрометований, у вас є автоматизація, яка працює на користь противника.

Розгляньте:

• Штучний інтелект-агент з правами читання/запису до програм SaaS може автоматизувати викрадення даних без спрацювання системи виявлення аномалій, орієнтованої на людину.

• Якщо той самий агент може змінити ролі IAM або розгорнути хмарні ресурси, у вас є привілеї, які підвищуються в автопілоті.

• Атаки на вставку промпта та отруєння моделі означають, що нападники можуть перенаправити штучний інтелект-агент без викрадення його посвідчень.

Ми бачили, як небезпечним може бути неуправляемий сервісний обліковий запис. Тепер надайте цьому обліковому запису можливість приймати рішення, і ставки множаться.

Кейс-стаді: Судова експертиза порушень у епоху штучного інтелекту та нелюдських ідентичностей

Victoria’s Secret (травень 2025 р.)
У вихідні дні на честь Дня пам’яті Victoria’s Secret вивела з ладу свій веб-сайт США та деякі послуги в магазині у тому, що виглядало як інцидент із вимогою викупу (The Hacker News, Bitdefender). Відключення тривало кілька днів і призвело до оціненої втрати у 20 мільйонів доларів у доході у другому кварталі. Подальший судовий процес звинувачує рітейлера у відмові від шифрування чутливих даних, пропуску критичних аудитів безпеки та зневаженні навчання працівників щодо кібербезпеки (Top Class Actions), всі прогалини, які віддзеркалюють слабкості, часто бачені у неуправляемих нелюдських ідентичностях (НІ) з привілейованим доступом.

Порушення безпеки Google Salesforce (червень 2025 р.)
У червні нападники, пов’язані з групою ShinyHunters (UNC6040), отримали доступ до корпоративної інстансу CRM Salesforce через техніку фішингу голосом (вішинг) (ITPro). Як тільки вони потрапили всередину, вони вивели контактні дані, що належать клієнтам малих і середніх підприємств. Хоча це почалося з соціальної інженерії, орієнтованої на людину, точка повороту була підключеною програмою – формою машинної ідентичності – яка дозволила порушникам рухатися в бік без спрацювання аналітики поведінки користувача.

Відключення рітейлерів та люксових брендів (M&S, Cartier, The North Face)
Хвиля атак на великих рітейлерів, включаючи The North Face та Cartier, викрила імена клієнтів, електронні адреси та вибрані метадані облікових записів (Sangfor, WSJ). Marks & Spencer постраждав особливо сильно, атака з вимогою викупу та порушення ланцюжка поставок, приписувана групі “Scattered Spider”, порушувала послуги “клік і забери” протягом понад 15 тижнів і, як очікується, коштувала рітейлеру до 300 мільйонів фунтів. У кожному випадку третині інтеграції та з’єднання API, часто підтримувані НІ, стали безшумними пособниками для порушників.

Що таке нелюдська ідентичність (НІ)?

НІ – це посвідчення та облікові записи, які використовуються машинами, а не людьми. Приклади:

• Сервісні облікові записи для баз даних або програм.

• Ключі API для інтеграції хмари з хмарою.

• Посвідчення бота для автоматизації сценаріїв.

Риски: Надмірно привілейовані, недостатньо моніторовані та часто залишаються активними протягом багатьох років після використання.

Чому управління відстає

Даже зрілі програми управління ідентифікацією зустрічають перешкоди тут:

• Пропуски відкриття – Багато організацій не можуть створити повний інвентар НІ.

• Занедбаність життєвого циклу – НІ часто зберігаються протягом років без регулярного огляду.

• Вакуум відповідальності – Без людського власника очистка падає крізь тріщину.

• Розростання привілеїв – Дозволи накопичуються, оскільки ролі змінюються, але відкликання запізнюється.

Це та сама проблема, з якою ми боролися десятиліттями щодо людських облікових записів – тільки тепер кожна НІ може діяти 24/7, у масштабі, без спрацювання “людських” засобів контролю ризику.

Плейбук постачальника для захисту НІ та агентів штучного інтелекту

1. Комплексне відкриття – Прообразуйте кожну НІ та агента штучного інтелекту, включаючи привілеї, власників та інтеграції.

2. Назначте людських власників – Зробіть когось відповідальним за життєвий цикл кожної НІ.

3. Застосуйте мінімальні привілеї – Збігають дозволи з фактичним використанням; видаліть надлишок.

4. Автоматизуйте гігієну посвідчень – Поворотні ключі, використовуйте короткочасні токени, автоматично закінчуйте неактивні облікові записи.

5. Неперервний моніторинг – Виявляйте аномалії, такі як несподівані виклики API або підвищення привілеїв.

6. Інтегруйте управління штучним інтелектом – Лікуйте агентів штучного інтелекту як адміністраторів з високими привілеями: реєструйте діяльність, застосовуйте політику, дозволяйте доступ за запитом.

(Ці кроки узгоджуються з NIST CSF, CIS Control 5 та з’являючись Gartner IVIP найкращі практики.)

Чому це має статися зараз

Це не просто про те, щоб гнатися за трендом штучного інтелекту. Це про те, щоб визнати, що периметр ідентифікації змістився від людей до процесів. Нападники знають це. Якщо ми продовжимо розглядати машинні ідентичності як післядум, ми даємо противникам сліпу пляму, яку їм потрібно для бездіяльної роботи.

Команди, які залишаться попереду, будуть тими, хто робить НІ та управління агентами першим класом елемента безпеки ідентифікації, з видимістю, володінням та дисципліною життєвого циклу на місці до того, як наступне порушення примусить питання.