2026 рік буде свідченням вибуху агентів штучного інтелекту в бізнесі: чи готові ми до ризиків безпеки?

Корпорації спішать впроваджувати агентів штучного інтелекту, але їм бракує інфраструктури для цього. Агенти відрізняються від інструментів штучного інтелекту: вони працюють автономно, мають доступ до даних безперервно і діють з швидкістю машини без потреби нагляду. Це створює зовсім нові ризики, на які ми повинні бути готові.

Люди вже використовують自己的 агенти штучного інтелекту на роботі – без обов’язкової інформації керівництву. Як ми можемо забезпечити, щоб боти OpenClaw не видаляли важливі файли? Три з чотирьох великих корпорацій будуть мати впроваджені багатокористувальні системи до кінця 2026 року, згідно з прогнозами Gartner. Як ми можемо забезпечити, щоб кожен з цих агентів не відкрив двері для хакерів, щоб вони не атакували нас новими способами?

Поточна інфраструктура безпеки розроблена для боротьби з відомими, людськими загрозами. Це не враховує агентів, які можуть втручатися в корпоративний код без нашого відома. Або поганих акторів, які атакують нас через ін’єкції запитів: інструкції, приховані в коді або запитах, які можуть змусити штучний інтелект видати конфіденційну інформацію або виконати шкідливий код.

Правда в тому, що компанії більш голодні, ніж готові до цієї майбутньої хвилі. Лише 29% організацій “повністю погоджуються” з тим, що вони мають безпечні засоби захисту штучного інтелекту, згідно з дослідженням Microsoft.

Керівники компаній повинні зробити кілька речей.

1. Впровадити заходи безпеки, рідні для штучного інтелекту, на всьому підприємстві.
2. Відноситися до агентів штучного інтелекту з тією ж мірою безпеки, що й до людей.
3. Збільшити видимість дій цих агентів.

Виконуючи ці заходи, безпека може відповідати швидкості агентів і сприяти інноваціям, а не гальмувати їх.

Створити безпеку, рідну для штучного інтелекту

У лютому дослідник безпеки Meta зробив несподіваний пост на X: його бот OpenClaw почав видаляти його електронні листи і ігнорував його накази зупинитися. До того часу, як він зміг перервати процес вручну, шкода вже була зроблена.

Це ілюструє неймовірну швидкість, з якою агенти штучного інтелекту можуть діяти, роблячи людські засоби контролю недостатніми. Безпека повинна рухатися так само швидко, як і агенти штучного інтелекту, і рухатися тією ж дорогою.

Це вимагає оновлення інфраструктури безпеки підприємства, а не просто оновлення існуючих інструментів. У цьому системному змісті інструментів повинні брати участь кілька напрямків.

Уникнути ситуацій, подібних до тієї, що відбулася з дослідником Meta, потрібно інструменти штучного інтелекту, які можуть виявляти аномалії в режимі реального часу і реагувати автоматично. Наприклад, агенти-спостерігачі можуть бути розгорнуті для перевірки завдань високого рівня, виконуваних іншими агентами. Інструменти Agentic Threat Intelligence (ATI) можуть виявляти і реагувати автоматично на ранні стадії потенційної атаки.

Іншим важливим механізмом запобігання є забезпечення безпеки моделі, яку ви розгортаєте на своїх системах. Платформи, такі як ProtectAI, TrojAI або Aim Security, можуть перевірити на прямої небезпеки, такі як ін’єкція запитів, і використати інструменти штучного інтелекту для очищення коду перед публікацією.

Забезпечення безпеки походження даних, до яких агенти штучного інтелекту мають доступ, також важливо. Інструменти, такі як Databricks Unity Catalog, Collibra або Alation, дозволяють командам керувати рухом даних.

Ми також можемо запобігти втручанню в наші агенти штучного інтелекту, забезпечивши безпеку фізичних пристроїв, які ми використовуємо для їх розгортання. Платформи, такі як CrowdStrike, можуть допомогти уникнути зловживання обліковими даними штучного інтелекту і виявити аномальне поведінку.

Маємо принципи, які регулюють ваші внутрішні операції, а також те, як ви вибираєте своїх постачальників. Використовуйте існуючі галузеві рамки для керівництва, такі як Google SAIF для створення безпечної архітектури, AWS CAF-AI для керування штучним інтелектом, або NIST AI RMF для відповідності вимогам. Проект OWASP Gen AI Security – відкритий проєкт з мінімізації ризиків штучного інтелекту – пропонує відповідні рекомендації з безпеки для підприємств, які розгортають штучний інтелект.

Відноситися до штучного інтелекту з тією ж мірою обмежень, що й до людей

Минулого року інвестор використовував агент Replit для кодування – аж до того дня, коли агент вирішив видалити код з живої бази даних, вплинувши на 1 200 компаній.

Через те, що агенти можуть діяти автономно, надання їм необмеженого доступу до широкого спектра документів, даних і API може бути катастрофічним. Одна з причин полягає в тому, що підприємства часто не надають їм “ідентичності” так само, як людському користувачеві, що означає, що вони не можуть відстежувати, контролювати і керувати їхнім доступом до різних просторів.

Підприємства можуть діяти, надавши ідентичності нелюдським користувачам: постачальники керування ідентичністю можуть тісно контролювати, до яких областей агенти мають доступ, на який час і виявляти будь-яку ризиковану поведінку. Це зменшує надмірний доступ до областей, до яких агент не повинен мати доступ. Це також обмежує те, що він може робити в тих областях, де він діє.

Надання ідентичності агентам також зменшує загрозу з боку зовнішніх акторів.

Коли команда дослідників ввела шкідливі запити в додаток штучного інтелекту, який керує юридичними контрактами, один користувач зміг отримати приватні дані, що належали іншому користувачеві. Чітко було видно, що немає безпечного розділення даних користувачів, і авторизація цих даних була надана штучному інтелекту, навіть якщо це було не актуально для сценарію.

Встановлення меж для “ідентичностей” штучного інтелекту означає, що вони не матимуть широкого “завжди-включеного” доступу. Наприклад, агентам буде потрібно авторизація для певних функцій або вони будуть мати тільки права на читання в певних областях. Роблячи це, навіть якщо агент штучного інтелекту буде хакнутим або маніпульованим поганим актором, вплив залишиться обмеженим, а не катастрофічним.

Керівництво також повинно просвіщати свої команди про загрозу агентів, які діють потай. Ризик більший, коли працівники підключають “тіньових” агентів штучного інтелекту до робочих просторів без дозволу керівництва і без належної ідентифікації та захисту. Крім того, підхід Zero Standing Privileges (ZSP) створює базовий рівень 0 доступу для будь-якого агента. Тому, якщо працівник підключить несанкціонованого агента, він потрапить у середовище, в якому всі двері закриті.

Мати очі на свого агента

Хоча ми знаємо аналогію “штучний інтелект – чорна скринька”, його розгортання в вашому бізнесі повинно бути спостережуваним і контролюваним.

Для забезпечення суворих політик безпеки кожен агент повинен бути керований: вони повинні мати чітко задокументовану власність, відповідальність і засоби контролю, щоб ви могли точно відстежувати їхній шлях. Ви повинні мати безперервну телеметрію – дистанційне спостереження – для відстеження поведінки агентів і живлення існуючих засобів безпеки, щоб вони могли виявляти аномалії і виконувати адаптивну оцінку довіри.

Керівництво повинно серйозно ставитися до цієї нової сфери безпеки і забезпечити, щоб різні команди були відповідальними за використання агентів штучного інтелекту. Вони можуть створити нові показники відповідності, такі як “Кількість наборів даних з верифікованим походженням”, “% агентів штучного інтелекту з керованими ідентичностями” або “Оцінка довіри штучного інтелекту”.

Це критично важливо для запобігання, але також для аудиту – навіть нелюдські ідентифікатори повинні мати слід аудиту для того, щоб організація була відповідною вимогам.

Ми загалом розуміємо, як люди діють і які шляхи вони проходять у робочих просторах. Але штучний інтелект – це зовсім нова тварина. Є багато того, чого ми не знаємо про те, як він працює. Деякі компанії обирають короткострокове рішення – блокування штучного інтелекту в офісі – але це лише відтермінує проблему або змусить працівників використовувати “тіньовий” штучний інтелект. Підготовьте свою архітектуру безпеки проактивно для агентів, які вже стають універсальними.