Лідери думок

Архітектурні зміни, необхідні для управління агентами ШІ

Sergio Gago
Додайте Unite.AI до бажаних джерел у Google
A photorealistic widescreen image of a technician viewed from behind, seated at a dark command center with multiple monitors. A large glass wall in front of him displays a complex, glowing architectural blueprint made of blue and green light. The hologram features intricate pathways, interconnected nodes, and two small silhouettes of figures standing together, representing a human and an AI
Ключові моментиСтавтеся до агентів як до цифрових колег із перепустками доступу та межами…
Показати більше
  • Ставтеся до агентів як до цифрових колег із перепустками доступу та межами розголошення, а не як до швидких виправлень за допомогою підказок.
  • Вбудоване управління вимагає єдиної панелі контролю для послідовного застосування політик у всіх середовищах.
  • Без спостережуваності в реальному часі та відстеження походження даних підприємства не можуть аудитувати дії агентів або доводити відповідність вимогам під час виконання.

Штучний інтелект вже не просто чат-бот, який генерує текст. У корпоративних середовищах агенти штучного інтелекту виконують дії, такі як отримання конфіденційних даних, запуск робочих процесів, виклик інструментів та реєстрація діяльності в різних системах. Автономність повністю змінює дискусію щодо управління; механізми контролю та процедури, спочатку розроблені для користувачів-людей і традиційних програм, не були створені для управління програмним забезпеченням, яке може виконувати багатокрокові дії під час виконання.

Ризик не є теоретичним. Незначні прогалини в видимості, контролі доступу та аудитабельності можуть швидко накопичуватися, перетворюючись на помилки під час виконання, які важко виявити та ще важче скасувати.

Щоб відповідати цьому новому етапу, управління агентами штучного інтелекту не може бути здійснено шляхом додавання додаткових документів політики. Воно вимагає управління за допомогою дизайну: архітектурного підходу, у якому механізми контролю вбудовані в площину керування та безперервно застосовуються під час виконання. Якщо агенти будуть діяти як цифрові колеги, вони повинні успадкувати ті самі корпоративні обмеження, що й люди, плюс сильніше спостереження під час виконання.

Чому управління дає збій в епоху конвергенції

Корпоративна архітектура вступила в епоху конвергенції. Дані та робочі навантаження тепер охоплюють кілька хмар, приватних центрів даних та периферійних середовищ.

Є організації, які запускають свої платформи в паралельних системах, оскільки вони мають кілька процесів для управління одночасно. Це включає окремі системи ідентифікації, конвеєри обробки журналів, каталоги та затверджені процеси. Результатом є те, що деякі називають “платформою Франкенштейна”, де накладні витрати на інтеграцію збільшуються з кожним новим інструментом або хмарним середовищем. Насправді, ця фрагментація проявляється в повсякденній реальності.

За даними недавнього опитування, 47% респондентів вказують на складні вимоги доступу та процеси, а 44% – на обмежену видимість місця розташування даних як бар’єри для ефективного використання даних.

Саме тут агенти виявляють місця стику між системами.

Щоб відповісти на бізнес-питання, агент може потребувати даних із локальної системи ERP, хмарної CRM, операційної телеметрії в іншій хмарі та документів у середовищі співробітництва. Якщо організація застосовує політику по-різному в кожному місці, агент або зазнає невдачі, або, що гірше, успішно діятиме способами, яких ви не можете пояснити чи контролювати.

Це момент, коли керівники підприємств повинні звернути увагу. Агенти змушують встановити вищу планку, яка вимагає узгодженості між середовищами та відповідальності під час виконання.

Управління, з цієї причини, потрапляє в центр уваги регуляторів та органів безпеки. Прикладом цього є рамка управління ризиками штучного інтелекту NIST, яка підкреслює управління ризиками протягом всього життєвого циклу штучного інтелекту, а не тільки на етапі побудови. Це нагадування про те, що відповідність вимогам та довіра є операційними обов’язками, а не одноразовими перевірками.

Від політики до платформи

Управління за допомогою дизайну означає, що управління супроводжує робоче навантаження, а не реалізується заново в кожному ізольованому сегменті. На практиці це залежить від трьох основних блоків:

  • Єдина площина керування

Одне місце для визначення та застосування ідентифікації, доступу, політики, каталогів та повноважень в усіх хмарах і центрах даних.

Мета полягає в тому, щоб написати політики один раз і застосовувати їх там, де дані та моделі виконуються, а не перебудовувати механізми контролю для кожної системи окремо. Це запобігає розходженню поведінки агентів, коли той самий агент діє безпечно в одному середовищі, але небезпечно в іншому.

Практичний тест простий: якщо користувач не може доступитися до колонки, перевірте, що агент, який діє від імені користувача, також не може отримати до неї доступ. Це повинно вказувати на те, чи застосовуються написані політики в усій площині керування.

  • Архітектура data fabric на основі відкритих стандартів

Агентам потрібен контекст для виконання. Коли цей контекст розподілений по різних структурах, якими володіють різні команди, архітектура data fabric допомагає стандартизувати семантику та шаблони доступу, щоб агенти не мали вивчати новий набір правил для кожного набору даних.

Відкриті формати таблиць, такі як Apache Iceberg, підтримують це, дозволяючи кільком обчислювальним рушіям спільно використовувати ті самі керовані дані, не копіюючи їх у новий ізольований сегмент. Це важливо, оскільки дублікування даних – це місце, де управління зазвичай виходить з ладу. Як тільки команди починають копіювати “тільки те, що потрібно агенту”, ви створили нове, менш кероване середовище.

Якщо агенти можуть діяти по різних наборах даних без введення нових прогалин у доступі, управління працює так, як очікувалося.

  • Спостережуваність і відстеження походження даних у реальному часі

Агенти керуються лише тоді, коли ви можете бачити, що вони роблять під час виконання.

Спостережуваність тут не є просто “бажаним”, а є основою для контролю під час виконання та реагування на інциденти.

Конкретно, необхідно мати наскрізні докази дій агентів. Агенти повинні мати змогу підтвердити дії, такі як те, до яких даних вони отримали доступ і які інструменти викликали, і звідти відстеження походження даних може пов’язати виходи з входами. Це дозволяє командам проводити аудит цих рішень та розслідування невдач, якщо потрібно, тим самим доводячи загальну відповідність вимогам.

Розглядати агентів як “цифрових колег”

Одна з найбільш корисних моделей розуміння – розглядати агентів як цифрових колег.

Ось порівняння, яке пояснює цю ідею: як працівники мають ідентифікаційні картки, які дозволяють їм входити до деяких будівель та кімнат, але не до інших, управління дозволяє агентам мати доступ з обмеженнями. Одним із ключових доповнень є те, що агенти повинні бути ситуаційно обізнані про те, що їм дозволено розкрити.

Розгляньте агента підтримки. Він може потребувати доступу до попередніх випадків підтримки для вирішення проблеми, але він не може розголошувати конфіденційні дані іншого клієнта під час виконання своєї роботи. Інакше кажучи, агент може використовувати знання з обмеженим доступом для міркування, але все ж повинен дотримуватися меж розголошення. Це не проблема написання промптів того типу, з яким ми вже навчилися працювати; натомість це проблема ідентифікації та застосування обмежень під час виконання.

Що змінюється в 2026 році: агенти переходять з експериментів до виробництва

2026 рік – це рік, коли закінчуються експерименти, а агенти переходять до промислової експлуатації.

Цей зсув змушує підприємства працювати на двох швидкостях. Одна – це швидкість інновацій, коли команди тестують нові моделі, інструменти та робочі процеси агентів для отримання конкурентної переваги. А інша – це безпечна швидкість, при якій системи повинні відповідати вимогам відповідності й експлуатації, які можуть включати суворі механізми контролю доступу та сліпі плями.

Без встановленої архітектури управління ці дві швидкості будуть конфліктувати.

Якщо команди розгортають цих агентів до того, як вони будуть керовані, виникне клаптикова система окремих заходів контролю та операційних збоїв. А якщо відбувається протилежне, ви отримуєте режим невдачі, при якому безпека блокує все, а інновації переходять у тіньові ІТ, підриваючи управління.

Мета не полягає в тому, щоб вибрати швидкість. Метою є побудова архітектури, яка підтримує обидві швидкості.

Практичний перелік для управління агентами під час виконання

  • Якщо ви будуєте або розширюєте агентів, необхідно поставити собі наступні питання, щоб виявити, чи є управління дійсно архітектурним: Чи можете ви пояснити, від початку до кінця, які дані агент отримав для отримання відповіді чи виконання дії?
  • Чи узгоджені рішення щодо доступу в усіх гібридних середовищах, чи вони відрізняються за платформою?
  • Чи маєте ви телеметрію для дій агентів, включаючи виклики інструментів, перевірки політики та звернення до людей?
  • Чи можете ви обмежити, призупинити або ізолювати агента під час виконання, якщо він поводиться несподівано?
  • Чи маєте ви план моніторингу після розгортання, який узгоджується з вашими регуляторними зобов’язаннями та апетитом до ризику?

Якщо ви не можете відповісти на ці питання, розглядайте розгортання агента як інцидент у робочому середовищі, що лише чекає на виникнення.

Зсув управління повинен бути архітектурним, інакше він не існує

Агенти стануть стандартним доповненням до корпоративних операцій. Питання полягає в тому, чи стануть вони надійною частиною корпоративних операцій.

Якщо агенти не керуються принаймні так само впевнено, як люди та критично важливе програмне забезпечення, наслідки будуть реальними. Ми побачимо ці наслідки у витоках даних, невдачах у відповідності вимогам, операційних збоях та втраті довіри до програм штучного інтелекту.

Лідери повинні припинити розглядати управління агентами як документальний процес. У міру розширення можливостей платформи, управління агентами має бути однією з можливостей, які беруть на себе нагляд за іншими ролями. Це означає впровадження контролю в площину керування, роблячи дії спостережуваними та рішення аудитованими. І потім масштабувати.

Це саме той спосіб, яким ви отримуєте агентів, які діють швидко, не порушуючи роботу підприємства.

Серхіо Гаго є CTO компанії Cloudera, маючи понад 20 років досвіду в галузі штучного інтелекту, машинного навчання, квантових обчислень та архітектур, керованих даними. Раніше він обіймав посаду керуючого директора з питань штучного інтелекту, машинного навчання та квантових обчислень у компанії Moody’s Analytics, а також займав посади технічного директора в компаніях Rakuten, Qapacity та Zinio. Серхіо є переконаним прихильником довірчих інфраструктур даних, вважаючи, що штучний інтелект стане операційною системою підприємств до 2030 року.