Wymagany architektoniczny przełom w zarządzaniu agentami AI

AI to już nie tylko czatbot, który generuje tekst. W środowiskach przedsiębiorstw agentów AI wykonujących czynności, takie jak pobieranie wrażliwych danych, uruchamianie workflow, wywoływanie narzędzi i rejestrowanie aktywności w systemach. Autonomia zmienia całkowicie dyskusję na temat zarządzania; kontrola i procedury pierwotnie zaprojektowane dla użytkowników i tradycyjnych aplikacji nie były zaprojektowane do zarządzania oprogramowaniem, które może wykonywać wieloetapowe czynności w czasie wykonywania.

Ryzyko nie jest teoretyczne. Małe luki w widoczności, kontroli dostępu i audytowalności mogą szybko się powiększać, przekształcając się w awarie w czasie wykonywania, które są trudne do wykrycia i jeszcze trudniejsze do odwrócenia.

Aby nadążyć za tą nową erą, zarządzanie agentami AI nie może być wykonane przez dodanie więcej dokumentów z zasadami. Wymaga to zarządzania przez projekt: podejścia architektonicznego, w którym kontrola jest wbudowana w płaszczyznę kontroli i egzekwowana w sposób ciągły w czasie wykonywania. Jeśli agenci mają działać jak cyfrowi koledzy, muszą odziedziczyć te same przedsiębiorcze bariery ochronne, jak ludzie, plus silniejszą kontrolę w czasie wykonywania.

Dlaczego zarządzanie ulega awarii w erze konwergencji

Architektura przedsiębiorstw weszła w erę konwergencji. Dane i obciążenia rozciągają się obecnie na wiele chmur, prywatne centra danych i środowiska brzegowe.

Istnieją organizacje, które uruchamiają swoje platformy w systemach równoległych, ponieważ mają wiele procesów do zarządzania jednocześnie. Obejmuje to oddzielne systemy tożsamości, potoki rejestrowania, katalogi i zatwierdzone procesy. Wynikiem jest to, co niektórzy nazywają „platformą Frankenstein”, gdzie nakład pracy związany z integracją zwiększa się z każdym nowym narzędziem lub środowiskiem chmury. W rzeczywistości ta fragmentacja pojawia się w codziennych realiach.

Zgodnie z niedawnym badaniem, 47% respondentów wymienia skomplikowane wymagania dotyczące dostępu i procesów, a 44% wymienia ograniczoną widoczność miejsca, w którym znajdują się dane, jako bariery dla efektywnego korzystania z danych.

To jest dokładnie miejsce, w którym agenci ujawniają szwy między systemami.

Aby odpowiedzieć na pytanie biznesowe, agent może musieć pobrać dane z systemu ERP na miejscu, chmury CRM, operacyjnych danych telemetrycznych w innej chmury i dokumentów w pakiecie współpracy. Jeśli organizacja egzekwuje zasady w różny sposób w każdym miejscu, agent albo zawiedzie, albo, co gorsza, powiedzie się w sposób, którego nie można wytłumaczyć ani kontrolować.

To jest moment, kiedy liderzy przedsiębiorstw muszą zwrócić uwagę. Agenci zmuszają do wyższej poprzeczki, która wymaga spójności w różnych środowiskach i odpowiedzialności w czasie wykonywania.

Zarządzanie, z tego powodu, jest wprowadzane do centrum uwagi przez organy regulacyjne i agencje bezpieczeństwa. Przykładem jest ramowy model zarządzania ryzykiem AI NIST, który podkreśla zarządzanie ryzykiem w całym cyklu życia AI, a nie tylko w czasie budowy. Jest to przypomnienie, że zgodność i zaufanie są operacyjnymi odpowiedzialnościami, a nie jednorazowymi listami kontrolnymi.

Od polityki do platformy

Zarządzanie przez projekt oznacza, że zarządzanie podróżuje z obciążeniem, a nie jest ponownie wdrażane w każdej izolacji. W praktyce opiera się to na trzech elementach budulcowych:

• Zjednoczona płaszczyzna kontroli

Jedno miejsce do definiowania i egzekwowania tożsamości, dostępu, zasad, katalogów i uprawnień w chmurach i centrach danych.

Celem jest napisanie zasad raz i egzekwowanie ich wszędzie, gdzie dane i modele są uruchamiane, a nie odbudowywanie systemów kontroli system po systemie. Zapobiega to dryfowaniu zachowania agenta, gdzie ten sam agent zachowuje się bezpiecznie w jednym środowisku, ale niebezpiecznie w innym.

Praktyczny test jest prosty: jeśli użytkownik nie może uzyskać dostępu do kolumny, należy potwierdzić, że agent działający w jego imieniu nie może również uzyskać dostępu do niej. To powinno wskazać, czy napisane zasady są egzekwowane w całej płaszczyźnie.

• Tkanina danych oparta na otwartych standardach

Agenci potrzebują kontekstu, aby działać. Kiedy ten kontekst jest rozproszony w różnych strukturach należących do różnych zespołów, tkanina danych pomaga standaryzować semantykę i wzorce dostępu, dzięki czemu agenci nie muszą uczyć się nowego zestawu zasad dla każdego zestawu danych.

Otwarte formaty tabel, takie jak Apache Iceberg, wspierają to, umożliwiając wielu silnikom udostępnianie tych samych zarządzanych danych bez kopiowania ich do nowego silosu. Jest to ważne, ponieważ duplikacja danych jest miejscem, w którym zarządzanie zwykle zawiedzie. Gdy zespoły zaczynają kopiować „tylko to, czego agent potrzebuje”, tworzą nowe, mniej zarządzane środowisko.

Jeśli agenci mogą działać w różnych zestawach danych bez wprowadzania nowych luk w zabezpieczeniach, zarządzanie działa zgodnie z założeniami.

• Obserwowalność i pochodzenie w czasie rzeczywistym

Agenci są tylko zarządzalni, jeśli można zobaczyć, co robią w czasie wykonywania.

Obserwowalność tutaj nie jest tylko „miłym dodatkiem”, ale jest podstawą dla kontroli w czasie wykonywania i reagowania na incydenty.

Konkretnie, musi istnieć dowód końcowy działań agenta. Agenci powinni być w stanie udowodnić swoje działania, takie jak dostęp do danych i wywoływanie narzędzi, a następnie pochodzenie może połączyć dane wyjściowe z danymi wejściowymi. Pozwala to zespołom na audyt tych decyzji i rozwiązywanie awarii, jeśli jest to konieczne, dzięki czemu można udowodnić ogólną zgodność.

Traktuj agenty jak „cyfrowych kolegów”

Jednym z najbardziej przydatnych modeli mentalnych jest traktowanie agentów jako cyfrowych kolegów.

Oto porównanie, które to wyjaśnia: podobnie jak pracownicy mają przepustki, które pozwalają im wejść do niektórych budynków i pomieszczeń, ale nie do innych, zarządzanie pozwala agentom na dostęp z ograniczeniami. Jednym z kluczowych dodatków jest to, że agenci muszą być świadomi sytuacji, co mogą ujawnić.

Rozważ agenta wsparcia. Może on potrzebować dostępu do poprzednich przypadków wsparcia, aby rozwiązać problem, ale nie może ujawnić szczegółów prywatnych innych klientów podczas tego procesu. Innymi słowy, agent może używać ograniczonej wiedzy do podejmowania decyzji, ale nadal musi egzekwować granice ujawniania. To nie jest „problem z pisaniem poleceń”, którego historycznie umieliśmy radzić sobie; jest to raczej problem tożsamości i egzekwowania w czasie wykonywania.

Co się zmienia w 2026: agenci przechodzą z eksperymentów do produkcji

2026 to rok, w którym kończą się eksperymenty, a agenci zajmują miejsce w produkcji.

Ten przełom zmusza przedsiębiorstwa do działania w dwóch prędkościach. Jedna to prędkość innowacji, w której zespoły testują nowe modele, narzędzia i workflow agentów, aby uzyskać przewagę konkurencyjną. A druga to prędkość bezpieczeństwa, w której systemy muszą spełniać wymagania zgodności i operacyjne, które mogą obejmować surowe kontrole dostępu i białe plamy.

Bez ustalonej architektury zarządzania, te dwie prędkości będą się sprzeczać.

Jeśli zespoły wdrożą tych agentów przed ich zarządzaniem, będzie to patchwork kontroli jednorazowych i awarii operacyjnych. A jeśli wystąpi odwrotna sytuacja, wystąpi tryb awaryjny, w którym zabezpieczenia blokują wszystko, a innowacje przechodzą do cieni, podważając zarządzanie.

Celem nie jest wybranie prędkości. Jest to budowanie architektury, która wspiera obie.

Praktyczna lista kontrolna do zarządzania agentami w czasie wykonywania

• Jeśli budujesz lub skalujesz agenty, jest konieczne, aby zadać sobie następujące pytania, aby ujawnić, czy zarządzanie jest naprawdę architektoniczne: Czy możesz wyjaśnić, od początku do końca, jakie dane agent uzyskał, aby wygenerować odpowiedź lub podjąć działanie?
• Czy decyzje dotyczące dostępu są spójne w różnych środowiskach hybrydowych, czy różnią się w zależności od platformy?
• Czy masz telemetrię dla działań agenta, w tym wywołań narzędzi, kontroli zasad i eskalacji do ludzi?
• Czy możesz ograniczyć, zawiesić lub izolować agenta w czasie wykonywania, jeśli zachowuje się nieoczekiwanie?
• Czy masz plan monitorowania po wdrożeniu, który jest zgodny z twoimi zobowiązaniami regulacyjnymi i apetytem na ryzyko?

Jeśli nie możesz odpowiedzieć na te pytania, traktuj wdrożenie agenta jak incydent produkcyjny, który może się wydarzyć.

Przełom w zarządzaniu musi być architektoniczny, w przeciwnym razie nie istnieje

Agenci staną się standardowym dodatkiem do operacji przedsiębiorstw. Pytanie brzmi, czy staną się niezawodną częścią operacji przedsiębiorstw.

Jeśli agenci nie są zarządzani z taką samą pewnością, jak ludzie i oprogramowanie krytyczne dla misji, konsekwencje będą realne. Zobaczymy te konsekwencje w wycieku danych, awariach zgodności, awariach operacyjnych i utracie zaufania do programów AI.

Liderzy muszą przestać traktować zarządzanie agentami jako ćwiczenie dokumentacyjne. Wraz z rozwojem możliwości platformy zarządzanie agentami powinno być jednym z tych, które obejmie nadzór nad innymi rolami. Oznacza to wbudowanie kontroli w płaszczyznę kontroli, uczynienie działań obserwowalnymi i decyzji audytowalnymi. A potem skalować.

To jest sposób, aby agenci poruszali się szybko bez łamania przedsiębiorstwa.