Архітектурний зсув, необхідний для управління агентами штучного інтелекту

Штучний інтелект вже не просто чат-бот, який генерує текст. У корпоративних середовищах агенти штучного інтелекту виконують дії, такі як отримання конфіденційних даних, запуск робочих процесів, виклик інструментів та реєстрація діяльності в різних системах. Автономність повністю змінює дискусію щодо управління; контролю та процедур, спочатку розроблених для користувачів та традиційних програм, не були створені для управління програмним забезпеченням, яке може виконувати багатокрокові дії в режимі реального часу.

Ризик не є теоретичним. Незначні прогалини в видимості, контролі доступу та аудитабельності можуть швидко накопичуватися, перетворюючись на помилки в режимі реального часу, які важко виявити та ще важче скасувати.

Щоб відповідати цьому новому етапу, управління агентами штучного інтелекту не може бути здійснено шляхом додавання更多 документів політики. Воно вимагає управління за допомогою дизайну: архітектурного підходу, в якому контролюються контрольні точки та процедури, які застосовуються безперервно в режимі реального часу. Якщо агенти будуть діяти як цифрові колеги, вони повинні успадкувати ті самі корпоративні обмеження, що й люди, плюс сильніше спостереження в режимі реального часу.

Чому управління ламає в епоху конвергенції

Корпоративна архітектура вступила в епоху конвергенції. Дані та робочі процеси тепер охоплюють кілька хмар, приватних центрів даних та середовищ краю.

Є організації, які запускають свої платформи в паралельних системах, оскільки вони мають кілька процесів для управління одночасно. Це включає окремі системи ідентифікації, реєстри журналів, каталоги та затверджені процеси. Результатом є те, що деякі називають “платформою Франкенштейна”, де накладні витрати на інтеграцію збільшуються з кожним новим інструментом або хмарним середовищем. Насправді, ця фрагментація проявляється в повсякденній реальності.

За даними недавнього опитування, 47% респондентів вказують на складні вимоги доступу та процеси, а 44% – на обмежену видимість місця розташування даних як бар’єри для ефективного використання даних.

Це саме той момент, коли лідери підприємств повинні звернути увагу. Агенти розкривають шви між системами.

Щоб відповісти на бізнес-питання, агент може мати besoin витягнути дані з системи ERP на місці, хмарної CRM, операційної телеметрії в іншій хмарі та документів у середовищі співробітництва. Якщо організація застосовує політику по-різному в кожному місці, агент або зазнає невдачі, або, що гірше, успішно діяти способами, яких ви не можете пояснити чи контролювати.

Це момент, коли керівники підприємств повинні звернути увагу. Агенти змушують встановити вищу планку, яка вимагає узгодженості між середовищами та відповідальності в режимі реального часу.

Управління, з цієї причини, потрапляє в центр уваги регуляторів та органів безпеки. Прикладом цього є рамка управління ризиками штучного інтелекту NIST, яка підкреслює управління ризиками на протяженні всього життєвого циклу штучного інтелекту, а не тільки на етапі побудови. Це нагадування про те, що відповідність вимогам та довіра є операційними обов’язками, а не одноразовими перевірками.

Від політики до платформи

Управління за допомогою дизайну означає, що управління супроводжує робочий процес, а не реалізується в кожній окремій системі. На практиці це залежить від трьох основних блоків:

• Єдина контрольна площина

Одне місце для визначення та застосування ідентифікації, доступу, політики, каталогів та повноважень по всім хмарам та центрам даних.

Мета полягає в тому, щоб написати політики один раз і застосовувати їх там, де дані та моделі виконуються, а не перебудовувати системи контролю системно.

Практичний тест простий: якщо користувач не може доступитися до колонки, перевірте, чи не може агент, який діє від імені користувача, доступитися до неї також. Це повинно вказувати на те, чи застосовуються написані політики по всій площині.

• Дані, засновані на відкритих стандартах

Агентам потрібен контекст для виконання. Коли цей контекст розподілений по різних структурах, яким володіють різні команди, тканина даних допомагає стандартизувати семантику та шаблони доступу, щоб агенти не мали вивчати новий набір правил для кожного набору даних.

Відкриті формати таблиць, такі як Apache Iceberg, підтримують це, дозволяючи кільком двигунам спільно використовувати керований дані без копіювання їх у нову систему. Це важливо, оскільки дублікування даних – це місце, де управління зазвичай виходить з ладу. Як тільки команди починають копіювати “тільки те, що потрібно агенту”, ви створили нове, менш кероване середовище.

Якщо агенти можуть діяти по різних наборах даних без введення нових прогалин у доступі, управління працює так, як очікувалося.

• Спостереження в режимі реального часу та походження

Агенти керуються лише тоді, коли ви можете бачити, що вони роблять в режимі реального часу.

Спостереження тут не є просто “бажаним”, а є основою для контролю в режимі реального часу та реагування на інциденти.

Конкретно, необхідно мати повний доказ дій агентів. Агенти повинні能够 довести дії, такі як доступ до якихось даних та виклик якихось інструментів, і звідти походження може з’єднати виходи з входами. Це дозволяє командам проводити аудит цих рішень та розслідування невдач, якщо потрібно, тим самим доводячи загальну відповідність вимогам.

Розглядати агентів як “цифрових колег”

Одна з найбільш корисних моделей розуміння – розглядати агентів як цифрових колег.

Ось порівняння, яке розбиває це: як працівники мають ідентифікаційні картки, які дозволяють їм входити до деяких будівель та кімнат, але не до інших, управління дозволяє агентам мати доступ з обмеженнями. Одним із ключових доповнень є те, що агенти повинні бути ситуаційно обізнані про те, що їм дозволено розкрити.

Розгляньте агента підтримки. Він може потребувати доступу до попередніх випадків підтримки для вирішення проблеми, але він не може розголошувати конфіденційні дані іншого клієнта під час виконання своєї роботи. Інакше кажучи, агент може використовувати обмежені знання для прийняття рішень, але все ж повинен дотримуватися меж розголошення. Це не проблема “письма запиту”, яку ми історично знали, як навігувати; натомість це проблема ідентифікації та застосування обмежень в режимі реального часу.

Що змінюється в 2026 році: агенти переходять з експериментів до виробництва

2026 рік – це рік, коли закінчуються експерименти, а агенти займають місце виробництва.

Цей зсув змушує підприємства працювати на двох швидкостях. Одна – це швидкість інновацій, коли команди тестують нові моделі, інструменти та робочі процеси агентів для отримання конкурентної переваги. А інша – це безпечна швидкість, при якій системи повинні відповідати вимогам відповідності та операційних вимог, які можуть включати суворі контролю доступу та сліпі плями.

Без встановленої архітектури управління ці дві швидкості будуть конфліктувати.

Якщо команди розгортають цих агентів до того, як вони будуть керовані, буде латка окремих контролів та операційних невдач. А якщо відбувається протилежне, ви отримуєте режим невдачі, при якому безпека блокує все, а інновації переходять в тіні ІТ, підірваючи управління.

Мета не полягає в тому, щоб вибрати швидкість. Метою є побудова архітектури, яка підтримує обидві швидкості.

Практичний перелік для управління агентами в режимі реального часу

• Якщо ви будуєте або розширюєте агентів, необхідно поставити собі наступні питання, щоб виявити, чи є управління дійсно архітектурним: Чи можете ви пояснити, від початку до кінця, які дані агент отримав для отримання відповіді чи виконання дії?
• Чи є рішення щодо доступу узгоджені по всім гібридним середовищам, чи вони відрізняються за платформою?
• Чи маєте ви телеметрію для дій агентів, включаючи виклики інструментів, перевірки політики та звернення до людей?
• Чи можете ви обмежити, призупинити або ізолювати агента в режимі реального часу, якщо він поводиться несподівано?
• Чи маєте ви план моніторингу після розгортання, який узгоджується з вашими регуляторними зобов’язаннями та апетитом до ризику?

Якщо ви не можете відповісти на ці питання, розглядайте розгортання агента як очікуваний інцидент виробництва.

Зсув управління повинен бути архітектурним, інакше він не існує

Агенти стануть стандартним доповненням до корпоративних операцій. Питання полягає в тому, чи стануть вони надійною частиною корпоративних операцій.

Якщо агенти не керуються принаймні так само впевнено, як люди та критично важливе програмне забезпечення, наслідки будуть реальними. Ми побачимо ці наслідки в витоці даних, невдачах у відповідності вимогам, операційних збоях та втраті довіри до програм штучного інтелекту.

Лідери повинні припинити розглядати управління агентами як документальний процес. Як можливості платформи розширюються, управління агентами повинно бути одним із тих, хто приймає нагляд за іншими ролями. Це означає впровадження контролю в контрольну площину, роблячи дії спостережуваними та рішення аудитованими. І потім масштабувати.

Це саме той спосіб, яким ви отримуєте агентів, які рухаються швидко без порушення підприємства.