Architektonická změna vyžadovaná pro řízení AI agentů

AI již není pouze chatbot, který generuje text. V podnikových prostředích AI agenti provádějí akce, jako je načítání citlivých dat, spouštění pracovních postupů, volání nástrojů a zaznamenávání aktivit napříč systémy. Autonomie zcela mění diskusi o řízení; kontroly a postupy původně navržené pro lidské uživatele a tradiční aplikace nebyly vytvořeny pro řízení softwaru, který může provádět více kroků během běhu.

Riziko není teoretické. Malé mezery ve viditelnosti, kontrole přístupu a auditovatelnosti se mohou rychle zvětšit a proměnit v selhání během běhu, která jsou obtížná k detekci a ještě obtížnější k nápravě.

Abychom zůstali v souladu s touto novou érou, řízení AI agentů nelze provádět pouze přidáním dalších dokumentů zásad. To vyžaduje řízení podle návrhu: architektonický přístup, ve kterém jsou kontroly vloženy do řídicí roviny a vynucovány nepřetržitě během běhu. Pokud mají agenti jednat jako digitální kolegové, musí zdědit stejné podnikové zábrany jako lidé, plus silnější dohled během běhu.

Proč řízení selhává v éře konvergence

Podniková architektura vstoupila do éry konvergence. Data a úlohy nyní sahají napříč několika cloudy, soukromými datovými centry a edge prostředími.

Existují organizace, které běží své platformy v paralelních systémech, protože mají několik procesů, které musí spravovat současně. To zahrnuje samostatné systémy identity, logovací potrubí, katalogy a schválené postupy. Výsledkem je to, co někteří nazývají „Frankensteinovou platformou“, kde se integrační režie zvyšuje s každým novým nástrojem nebo cloudovým prostředím. Ve skutečnosti se tato fragmentace objevuje v každodenní realitě.

Podle nedávného průzkumu 47 % respondentů uvádí, že složitá přístupová požadavky a postupy a 44 % uvádí, že omezená viditelnost do místa, kde se data nachází, jsou bariérami pro efektivní použití dat.

To je přesně místo, kde agenti odhalují švy mezi systémy.

Aby mohli odpovědět na obchodní otázku, agent může muset načíst data z místního ERP systému, cloudového CRM, provozní telemetrie v jiném cloudu a dokumenty v spolupráci. Pokud organizace vynucuje zásady odlišně na každém místě, agent buď selže, nebo, což je horší, uspěje způsoby, které nelze vysvětlit nebo kontrolovat.

To je okamžik, kdy musí podnikoví lídři věnovat pozornost. Agenti vyžadují vyšší laťku, která vyžaduje konzistenci napříč prostředími a odpovědnost během běhu.

Řízení, z tohoto důvodu, je taháno do popředí regulátory a bezpečnostními agenturami. Příkladem toho je NIST AI Risk Management Framework, který zdůrazňuje řízení rizik napříč životním cyklem AI, ne pouze v době sestavení. Je to připomínka, že dodržování předpisů a důvěra jsou provozními odpovědnostmi, ne jednou prověřenými seznamy.

Od politiky k platformě

Řízení podle návrhu znamená, že řízení cestuje s úlohou, spíše než být reimplementováno v každém silu. V praxi závisí na třech stavebních blocích:

• Jednotná řídicí rovina

Jedno místo pro definici a vynucení identity, přístupu, zásad, katalogů a oprávnění napříč cloudy a datovými centry.

Cílem je napsat zásady jednou a vynucovat je všude, kde běží data a modely, spíše než přestavovat kontrolní systémy systém po systému. To zabraňuje chování agentů, kde se stejný agent chová bezpečně v jednom prostředí, ale nebezpečně v jiném.

Praktická zkouška je jednoduchá: pokud uživatel nemůže přístup k sloupci, ověřte, zda agent jednající jeho jménem nemůže přístup k němu také. To by mělo naznačit, zda jsou psané zásady vynucovány napříč rovinou.

• Datová tkanina založená na otevřených standardech

Agenti potřebují kontext k provozu. Když je tento kontext rozložen napříč různými strukturami vlastněnými různými týmy, datová tkanina pomáhá standardizovat semantiku a přístupové vzory, aby agenti nemuseli učit novou sadu pravidel pro každou datovou sadu.

Otevřené formáty tabulek, jako je Apache Iceberg, podporují toto tím, že umožňují několika motorům sdílet stejné řízené data bez kopírování do nového sila. To je důležité, protože duplicita dat je tam, kde řízení obvykle selhává. Jakmile týmy začnou kopírovat „pouze to, co agent potřebuje“, vytvoříte nové, méně řízené prostředí.

Pokud agenti mohou operovat napříč datovými sadami bez zavedení nových mezer v oprávněních, řízení funguje tak, jak je zamýšleno.

• Skutečná observovatelnost a linie

Agenti jsou governovatelní pouze tehdy, pokud můžete vidět, co dělají během běhu.

Observovatelnost zde není pouze „hezkou věcí“, ale je základem pro řízení během běhu a reakci na incidenty.

Konkrétně je třeba mít důkaz o akcích agentů. Agenti by měli být schopni prokázat akce, jako je které data byla přístupná a které nástroje byly volány, a odtud lze linii spojit výstupy zpět k vstupům. To umožňuje týmům audity těch rozhodnutí a řešení selhání, pokud je potřeba, a tím prokazuje celkovou shodu.

Léčte agenty jako „digitální kolegy“

Jedna z nejúžitečnějších mentálních modelů je léčba agentů jako digitálních kolegů.

Zde je srovnání, které to rozkládá: stejně jako zaměstnanci mají přístupové karty, které jim umožňují vstup do některých budov a místností, ale ne do jiných, řízení umožňuje agentům mít přístup s omezeními. Jednou z klíčových přírůstků je, že agenti musí být situačně vědomi toho, co smí odhalit.

Zvažte podporu agenta. Může potřebovat přístup k předchozím případům podpory, aby vyřešil problém, ale nemůže prosázet soukromé údaje jiného zákazníka, zatímco to dělá. Jinými slovy, agent může použít omezené znalosti k rozumu, ale stále potřebuje vynucovat hranice zveřejnění. To není „problém s psaním podnětů“, který jsme historicky znali, jak navigovat; místo toho je to problém identity a vynucení během běhu.

Co se změní v roce 2026: agenti se přesunou z experimentů do produkce

Rok 2026 je rokem, kdy experimenty skončí a agenti zaujmou produkční místo.

Tento posun nutí podniky fungovat ve dvou rychlostech. Jedna je inovační rychlost, kde týmy testují nové modely, nástroje a agentní pracovní postupy, aby získaly konkurenční výhodu. A druhá je zabezpečená rychlost, kde systémy musí splňovat požadavky na shodu a provozní požadavky, které mohou zahrnovat přísné kontroly přístupu a slepá místa.

Bez nastavené architektonické governance se tyto dvě rychlosti dostanou do konfliktu.

Pokud týmy nasadí tyto agenty předtím, než budou governováni, bude tam patchwork jednorázových kontrol a provozních selhání. A pokud se opačné stane, dostanete selhání, ve kterém zabezpečení blokuje vše, a inovace se přesune do stínového IT, podkopávajícího governance.

Cílem není vybrat rychlost. Je to postavit architekturu, která podporuje obě.

Praktická kontrolní seznam pro governance agentů během běhu

• Pokud stavíte nebo škálujete agenty, je nezbytné položit si následující otázky, aby se zjistilo, zda governance je skutečně architektonické: Můžete vysvětlit, od začátku do konce, která data agent načetl, aby produkoval odpověď nebo provedl akci?
• Jsou rozhodnutí o přístupu konzistentní napříč hybridními prostředími, nebo se liší podle platformy?
• Máte telemetrii pro agentní akce, včetně volání nástrojů, kontrol zásad a eskalací pro lidi?
• Můžete zpomalit, pozastavit nebo karanténní agenta během běhu, pokud se chová neočekávaně?
• Máte plán pro monitorování po nasazení, který je v souladu s vašimi regulačními závazky a rizikovou chutí?

Pokud na tyto otázky nemůžete odpovědět, zacházejte s nasazením agenta jako s produkční havárií, která se chystá nastat.

Shift governance musí být architektonický, nebo jinak neexistuje

Agenti se stanou standardní součástí podnikových operací. Otázkou je, zda se stanou spolehlivou součástí podnikových operací.

Pokud agenti nejsou governováni alespoň stejně jako lidé a kriticky důležité software, důsledky budou reálné. Uvidíme tyto důsledky v únicích dat, selháních shody, provozních výpadcích a ztrátě důvěry v AI programy.

Lídři musí přestat zacházet s governance agentů jako s dokumentační cvičení. Jakmile se rozšiřují platformové schopnosti, governance agentů by mělo být jednou z těch, které přebírají dohled nad ostatními úlohami. To znamená vkládání kontrol do řídicí roviny, činění akcí pozorovatelnými a rozhodnutí audiatelnými. A pak škálovat.

To je způsob, jak získat agenty, kteří se pohybují rychle bez rozbití podniku.