Architektonická změna vyžadovaná pro řízení AI agentů

AI již není pouze chatbot, který generuje text. V podnikových prostředích AI agenti provádějí akce, jako je získání citlivých dat, spouštění pracovních postupů, volání nástrojů a zaznamenávání aktivit napříč systémy. Autonomie zcela mění diskusi o řízení; kontroly a postupy původně navržené pro lidské uživatele a tradiční aplikace nebyly vytvořeny pro řízení softwaru, který může provádět vícekrokové akce v reálném čase.

Riziko není teoretické. Malé mezery ve viditelnosti, kontrole přístupu a auditovatelnosti se mohou rychle zvětšit a proměnit v selhání v reálném čase, která jsou obtížná k detekci a ještě obtížnější k nápravě.

Abychom zůstali v souladu s touto novou érou, řízení AI agentů nelze provádět přidáním dalších dokumentů zásad. To vyžaduje řízení podle designu: architektonický přístup, ve kterém jsou kontroly vloženy do řídicí roviny a vynucovány nepřetržitě v reálném čase. Pokud mají agenti jednat jako digitální kolegové, musí zdědit stejné podnikové zábrany jako lidé, plus silnější dohled v reálném čase.

Proč řízení selhává v éře konvergence

Podniková architektura vstoupila do éry konvergence. Data a pracovní zátěže nyní sahají napříč několika cloudy, privátními datovými centry a edge prostředími.

Existují organizace, které běží své platformy v paralelních systémech, protože mají několik procesů, které musí spravovat současně. To zahrnuje samostatné identifikační systémy, logovací potrubí, katalogy a schválené postupy. Výsledkem je to, co někteří nazývají „Frankensteinovou platformou“, kde se integrační režie zvyšuje s každým novým nástrojem nebo cloudovým prostředím. Ve skutečnosti se tato fragmentace objevuje v každodenní realitě.

Podle nedávného průzkumu 47 % respondentů uvádí, že složitá přístupová požadavky a postupy a 44 % uvádí, že omezená viditelnost do umístění dat jsou bariérami pro efektivní použití dat.

To je přesně tam, kde agenti odhalují švy mezi systémy.

Aby agent odpověděl na obchodní otázku, může být nutné získat data z místního ERP systému, cloudového CRM, provozní telemetrie v jiném cloudu a dokumentů v spolupráci. Pokud organizace vynucuje zásady odlišně na každém místě, agent buď selže, nebo, což je horší, uspěje způsobem, který nelze vysvětlit nebo kontrolovat.

To je okamžik, kdy musí podnikoví lídři věnovat pozornost. Agenti vyžadují vyšší laťku, která vyžaduje konzistenci napříč prostředími a odpovědnost v reálném čase.

Řízení, z tohoto důvodu, je taháno do popředí regulátory a bezpečnostními agenturami. Příkladem toho je NIST AI Risk Management Framework, který zdůrazňuje řízení rizik napříč životním cyklem AI, ne pouze v době sestavení. Je to připomínka, že dodržování předpisů a důvěra jsou provozní odpovědností, ne jednou prověřenou položkou.

Od zásad k platformě

Řízení podle designu znamená, že řízení cestuje s pracovní zátěží, spíše než je reimplementováno v každém silu. V praxi to závisí na třech stavebních blocích:

• Jednotná řídicí rovina

Jedno místo pro definici a vynucení identity, přístupu, zásad, katalogů a oprávnění napříč cloudy a datovými centry.

Cílem je napsat zásady jednou a vynucovat je všude, kde běží data a modely, spíše než přestavovat řídicí systémy systém po systému. To zabraňuje chování agentů, kde stejný agent chová bezpečně v jednom prostředí, ale nebezpečně v jiném.

Praktický test je jednoduchý: pokud uživatel nemůže získat přístup k sloupci, ověřte, zda agent jednající jménem uživatele nemůže získat přístup k němu buď. To by mělo naznačit, zda jsou napsané zásady vynucovány napříč řídicí rovinou.

• Data fabric založený na otevřených standardech

Agenti potřebují kontext, aby mohli fungovat. Když je tento kontext rozložen napříč různými strukturami vlastněnými různými týmy, data fabric pomáhá standardizovat sémantiku a vzorce přístupu, aby agenti nemuseli učit novou sadu pravidel pro každou datovou sadu.

Otevřené formáty tabulek, jako je Apache Iceberg, podporují toto tím, že umožňují několika engineům sdílet stejné řízené data bez kopírování do nové silo. To je důležité, protože duplikace dat je tam, kde řízení obvykle selhává. Jakmile týmy začnou kopírovat „pouze to, co agent potřebuje“, vytvoříte nové, méně řízené prostředí.

Pokud agenti mohou fungovat napříč datovými sadami bez zavedení nových mezer v oprávněních, řízení funguje podle očekávání.

• Observabilita a linie v reálném čase

Agenti jsou pouze říditelní, pokud můžete vidět, co dělají v reálném čase.

Observabilita zde není pouze „hezkou věcí“, ale je základem pro řízení v reálném čase a reakci na incidenty.

Konkrétně je zapotřebí důkaz o akcích agentů. Agenti by měli být schopni prokázat akce, jako je přístup k datům a volání nástrojů, a z toho lze linii spojit výstupy zpět k vstupům. To umožňuje týmům auditovat tyto rozhodnutí a řešit selhání, pokud je potřeba, a tím prokázat celkovou shodu.

Zacházet s agenty jako s „digitálními kolegy“

Jedním z nejúčinnějších mentálních modelů je zacházet s agenty jako s digitálními kolegy.

Zde je srovnání, které to rozbíjí: stejně jako zaměstnanci mají přístupové karty, které umožňují vstup do některých budov a místností, ale ne do jiných, řízení umožňuje agentům mít přístup s omezeními. Jednou z klíčových přírůstků je, že agenti musí být situačně vědomi toho, co jsou povoleni odhalit.

Zvažte podporu agenta. Může být nutné získat přístup k předchozím případům podpory, aby se vyřešil problém, ale nemůže prosáknout soukromé údaje jiného zákazníka, zatímco to dělá. Jinými slovy, agent může použít omezené znalosti k uvažování, ale stále musí vynucovat hranice odhalení. To není „problém psaní podnětů“, který jsme historicky znali, jak navigovat; místo toho je to problém identity a vynucení v reálném čase.

Co se změní v roce 2026: agenti se přesunou z experimentů do produkce

Rok 2026 je rokem, kdy experimenty skončí a agenti se stanou produkčními.

Tato změna nutí podniky fungovat ve dvou rychlostech. Jedna je inovační rychlost, kde týmy testují nové modely, nástroje a pracovní postupy agentů, aby získaly konkurenční výhodu. A druhá je rychlost zabezpečení, kde systémy musí splňovat požadavky na shodu a provozní požadavky, které mohou zahrnovat přísné kontroly přístupu a slepá místa.

Bez architektonického řízení se tyto dvě rychlosti dostanou do konfliktu.

Pokud týmy nasadí tyto agenty předtím, než budou řízeni, bude tam patchwork jednorázových kontrol a provozních selhání. A pokud se stane opak, dostanete selhání, ve kterém zabezpečení blokuje vše, a inovace se přesune do stínového IT, což podkopává řízení.

Cílem není vybrat rychlost. Je to postavit architekturu, která podporuje obě.

Praktická kontrolní seznam pro řízení agentů v reálném čase

• Pokud stavíte nebo škálujete agenty, je nezbytné položit si následující otázky, aby se odhalilo, zda řízení je skutečně architektonické: Můžete vysvětlit, od začátku do konce, která data agent získal k vygenerování odpovědi nebo provedení akce?
• Jsou rozhodnutí o přístupu konzistentní napříč hybridními prostředími, nebo se liší podle platformy?
• Máte telemetrii pro akce agentů, včetně volání nástrojů, kontrol zásad a eskalací na lidi?
• Můžete omezit, pozastavit nebo karanténní agenta v reálném čase, pokud se chová neočekávaně?
• Máte plán monitorování po nasazení, který je v souladu s vašimi regulačními závazky a rizikovou chutí?

Pokud na tyto otázky nemůžete odpovědět, zacházejte s nasazením agenta jako s produkčním incidentem, který čeká na to, aby se udál.

Změna řízení musí být architektonická, jinak neexistuje

Agenti se stanou standardní součástí podnikových operací. Otázkou je, zda se stanou spolehlivou součástí podnikových operací.

Pokud agenti nejsou řízeni alespoň stejně důvěrně jako lidé a kriticky důležité softwarové systémy, důsledky budou reálné. Uvidíme tyto důsledky v úniku dat, selhání shody, provozních výpadcích a ztrátě důvěry v AI programy.

Lídři musí přestat zacházet s řízením agentů jako s dokumentační cvičením. Jakmile se rozšíří schopnosti platformy, řízení agentů by mělo být jednou z těch, které přebírají dohled nad ostatními úlohami. To znamená vkládání kontrol do řídicí roviny, činění akcí pozorovatelnými a rozhodnutí auditovatelnými. A poté škálovat.

To je způsob, jak získat agenty, kteří se pohybují rychle bez rozbití podniku.