Liderzy opinii
Zmiana architektury niezbędna do zarządzania agentami AI

Kluczowe punktyTraktuj agentów jako cyfrowych współpracowników z kartami dostępu i granicami…
Zobacz więcej
- Traktuj agentów jako cyfrowych współpracowników z kartami dostępu i granicami ujawniania, a nie jako doraźne poprawki promptów.
- Zarządzanie przez projekt wymaga ujednoliconej płaszczyzny kontroli, aby egzekwować polityki spójnie we wszystkich środowiskach.
- Bez obserwowalności i śledzenia pochodzenia w czasie rzeczywistym przedsiębiorstwa nie mogą audytować działań agentów ani udowodnić zgodności w trakcie działania.
AI to już nie tylko czatbot, który generuje tekst. W środowiskach przedsiębiorstw agenci AI wykonują czynności, takie jak pobieranie wrażliwych danych, uruchamianie przepływów pracy, wywoływanie narzędzi i rejestrowanie aktywności w systemach. Autonomia zmienia całkowicie dyskusję na temat zarządzania; mechanizmy kontroli i procedury pierwotnie zaprojektowane dla użytkowników będących ludźmi i tradycyjnych aplikacji nie były zaprojektowane do zarządzania oprogramowaniem, które może wykonywać wieloetapowe czynności w czasie wykonywania.
Ryzyko nie jest teoretyczne. Małe luki w widoczności, kontroli dostępu i audytowalności mogą szybko się powiększać, przekształcając się w awarie w czasie wykonywania, które są trudne do wykrycia i jeszcze trudniejsze do odwrócenia.
Aby nadążyć za tą nową erą, zarządzanie agentami AI nie może polegać na dodawaniu kolejnych dokumentów z zasadami. Wymaga to zarządzania uwzględnionego już na etapie projektowania: podejścia architektonicznego, w którym kontrola jest wbudowana w płaszczyznę sterowania i egzekwowana w sposób ciągły w czasie wykonywania. Jeśli agenci mają działać jak cyfrowi koledzy, muszą odziedziczyć te same firmowe zabezpieczenia co ludzie oraz podlegać silniejszemu nadzorowi w czasie wykonywania.
Dlaczego zarządzanie ulega awarii w erze konwergencji
Architektura przedsiębiorstw weszła w erę konwergencji. Dane i obciążenia rozciągają się obecnie na wiele chmur, prywatne centra danych i środowiska brzegowe.
Istnieją organizacje, które uruchamiają swoje platformy w systemach równoległych, ponieważ mają wiele procesów do zarządzania jednocześnie. Obejmuje to oddzielne systemy tożsamości, potoki rejestrowania, katalogi i zatwierdzone procesy. Wynikiem jest to, co niektórzy nazywają „platformą Frankenstein”, gdzie nakład pracy związany z integracją zwiększa się z każdym nowym narzędziem lub środowiskiem chmury. W rzeczywistości ta fragmentacja pojawia się w codziennych realiach.
Zgodnie z niedawnym badaniem, 47% respondentów wymienia skomplikowane wymagania i procesy dotyczące dostępu, a 44% wymienia ograniczoną widoczność miejsca, w którym znajdują się dane, jako bariery dla efektywnego korzystania z danych.
To jest dokładnie miejsce, w którym agenci ujawniają miejsca styku między systemami.
Aby odpowiedzieć na pytanie biznesowe, agent może musieć pobrać dane z lokalnego systemu ERP, systemu CRM w chmurze, telemetrii operacyjnej w innej chmurze oraz dokumentów w pakiecie do współpracy. Jeśli organizacja egzekwuje zasady w różny sposób w każdym miejscu, agent albo zawiedzie, albo, co gorsza, osiągnie cel w sposób, którego nie można wytłumaczyć ani kontrolować.
To jest moment, kiedy liderzy przedsiębiorstw muszą zwrócić uwagę. Agenci podnoszą poprzeczkę, wymagając spójności w różnych środowiskach i odpowiedzialności w czasie wykonywania.
Zarządzanie, z tego powodu, jest wprowadzane do centrum uwagi przez organy regulacyjne i agencje bezpieczeństwa. Przykładem jest ramowy model zarządzania ryzykiem AI NIST, który podkreśla zarządzanie ryzykiem w całym cyklu życia AI, a nie tylko w czasie budowy. Jest to przypomnienie, że zgodność z wymogami i zaufanie są obowiązkami operacyjnymi, a nie jednorazowymi listami kontrolnymi.
Od polityki do platformy
Zarządzanie uwzględnione już na etapie projektowania oznacza, że zarządzanie podąża za obciążeniem, a nie jest ponownie wdrażane w każdym odizolowanym silosie. W praktyce opiera się to na trzech elementach budulcowych:
-
Ujednolicona płaszczyzna sterowania
Jedno miejsce do definiowania i egzekwowania tożsamości, dostępu, zasad, katalogów i uprawnień w chmurach i centrach danych.
Celem jest napisanie zasad raz i egzekwowanie ich wszędzie, gdzie dane i modele są uruchamiane, a nie odbudowywanie systemów kontroli system po systemie. Zapobiega to dryfowaniu zachowania agenta, gdzie ten sam agent zachowuje się bezpiecznie w jednym środowisku, ale niebezpiecznie w innym.
Praktyczny test jest prosty: jeśli użytkownik nie może uzyskać dostępu do kolumny, należy potwierdzić, że agent działający w jego imieniu nie może również uzyskać dostępu do niej. To powinno wskazać, czy napisane zasady są egzekwowane w całej płaszczyźnie sterowania.
-
Warstwa data fabric oparta na otwartych standardach
Agenci potrzebują kontekstu, aby działać. Kiedy ten kontekst jest rozproszony w różnych strukturach należących do różnych zespołów, warstwa data fabric pomaga standaryzować semantykę i wzorce dostępu, dzięki czemu agenci nie muszą uczyć się nowego zestawu zasad dla każdego zestawu danych.
Otwarte formaty tabel, takie jak Apache Iceberg, wspierają to, umożliwiając wielu silnikom udostępnianie tych samych zarządzanych danych bez kopiowania ich do nowego silosu. Jest to ważne, ponieważ duplikacja danych jest miejscem, w którym zarządzanie zwykle zawodzi. Gdy zespoły zaczynają kopiować „tylko to, czego agent potrzebuje”, tworzą nowe, mniej zarządzane środowisko.
Jeśli agenci mogą działać w różnych zestawach danych bez wprowadzania nowych luk w uprawnieniach, zarządzanie działa zgodnie z założeniami.
-
Obserwowalność i śledzenie pochodzenia danych w czasie rzeczywistym
Agentami można zarządzać tylko wtedy, jeśli można zobaczyć, co robią w czasie wykonywania.
Obserwowalność tutaj nie jest tylko „miłym dodatkiem”, ale jest podstawą dla kontroli w czasie wykonywania i reagowania na incydenty.
Konkretnie, potrzebne są dowody obejmujące cały łańcuch działań agenta. Agenci powinni móc wykazać, do jakich danych uzyskali dostęp i jakie narzędzia wywołali, a śledzenie pochodzenia danych pozwala następnie powiązać wyniki z danymi wejściowymi. Pozwala to zespołom na audyt tych decyzji i rozwiązywanie awarii, jeśli jest to konieczne, dzięki czemu można udowodnić ogólną zgodność.
Traktuj agentów jak „cyfrowych kolegów”
Jednym z najbardziej przydatnych modeli mentalnych jest traktowanie agentów jako cyfrowych kolegów.
Oto porównanie, które to wyjaśnia: podobnie jak pracownicy mają przepustki, które pozwalają im wejść do niektórych budynków i pomieszczeń, ale nie do innych, zarządzanie pozwala agentom na dostęp z ograniczeniami. Jednym z kluczowych dodatków jest to, że agenci muszą być świadomi sytuacji, co mogą ujawnić.
Rozważ agenta wsparcia. Może on potrzebować dostępu do poprzednich przypadków wsparcia, aby rozwiązać problem, ale nie może ujawnić szczegółów prywatnych innych klientów podczas tego procesu. Innymi słowy, agent może używać wiedzy o ograniczonym dostępie do wnioskowania, ale nadal musi egzekwować granice ujawniania. To nie jest „problem z pisaniem poleceń”, z którym wcześniej nauczyliśmy się radzić; jest to raczej problem tożsamości i egzekwowania w czasie wykonywania.
Co się zmienia w 2026: agenci przechodzą z eksperymentów do produkcji
2026 to rok, w którym kończą się eksperymenty, a agenci zajmują miejsce w produkcji.
Ten przełom zmusza przedsiębiorstwa do działania z dwiema prędkościami. Jedna to prędkość innowacji, w której zespoły testują nowe modele, narzędzia i przepływy pracy agentów, aby uzyskać przewagę konkurencyjną. A druga to prędkość bezpieczeństwa, w której systemy muszą spełniać wymagania zgodności i operacyjne, które mogą obejmować surowe kontrole dostępu i białe plamy.
Bez ustalonej architektury zarządzania, te dwie prędkości wejdą ze sobą w konflikt.
Jeśli zespoły wdrożą tych agentów zanim zostaną objęci odpowiednim zarządzaniem, będzie to mieszanka odrębnych mechanizmów kontroli i awarii operacyjnych. A jeśli wystąpi odwrotna sytuacja, wystąpi tryb awaryjny, w którym zabezpieczenia blokują wszystko, a innowacje przenoszą się do niezatwierdzonych rozwiązań IT, podważając zarządzanie.
Celem nie jest wybranie prędkości. Jest to budowanie architektury, która wspiera obie.
Praktyczna lista kontrolna do zarządzania agentami w czasie wykonywania
- Jeśli budujesz agentów lub zwiększasz skalę ich wykorzystania, musisz zadać sobie następujące pytania, by sprawdzić, czy zarządzanie rzeczywiście jest zakorzenione w architekturze: Czy możesz wyjaśnić, od początku do końca, jakie dane agent uzyskał, aby wygenerować odpowiedź lub podjąć działanie?
- Czy decyzje dotyczące dostępu są spójne w różnych środowiskach hybrydowych, czy różnią się w zależności od platformy?
- Czy masz telemetrię dla działań agenta, w tym wywołań narzędzi, kontroli zasad i eskalacji do ludzi?
- Czy możesz ograniczyć, zawiesić lub izolować agenta w czasie wykonywania, jeśli zachowuje się nieoczekiwanie?
- Czy masz plan monitorowania po wdrożeniu, który jest zgodny z twoimi zobowiązaniami regulacyjnymi i apetytem na ryzyko?
Jeśli nie możesz odpowiedzieć na te pytania, traktuj wdrożenie agenta jak incydent produkcyjny, który tylko czeka na wystąpienie.
Przełom w zarządzaniu musi być architektoniczny, w przeciwnym razie nie istnieje
Agenci staną się standardowym dodatkiem do operacji przedsiębiorstw. Pytanie brzmi, czy staną się niezawodną częścią operacji przedsiębiorstw.
Jeśli agenci nie są zarządzani z co najmniej taką samą pewnością, jak ludzie i oprogramowanie krytyczne dla misji, konsekwencje będą realne. Zobaczymy te konsekwencje w wycieku danych, naruszeniach wymogów, awariach operacyjnych i utracie zaufania do programów AI.
Liderzy muszą przestać traktować zarządzanie agentami jako ćwiczenie dokumentacyjne. Wraz z rozwojem możliwości platformy zarządzanie agentami powinno być jednym z tych, które obejmie nadzór nad innymi rolami. Oznacza to wbudowanie kontroli w płaszczyznę sterowania, uczynienie działań obserwowalnymi i decyzji audytowalnymi. A potem zwiększać skalę.
To jest sposób, aby agenci poruszali się szybko bez zakłócania działania przedsiębiorstwa.











