Jedna politika, tisíce agentů: Proč správa AI ve firmách při škálování selhává

Velká část diskusí o zavádění autonomních agentů AI se právem soustředí na správu jako na zásadní výzvu. Gartner nedávno předpověděl, že 40 % podniků do roku 2027 sníží význam svých autonomních agentů AI nebo je vyřadí z provozu – ne proto, že by technologie selhala, ale proto, že selhala jejich správa. Podle Shivy Varmy, seniorního ředitele a analytika společnosti Gartner, je viníkem „binární správa“: přístup, který agenty buď zcela uzamkne, nebo jim plně důvěřuje, aniž by připouštěl něco mezi tím.

Mnoho organizací se nyní přiklání buď k úplnému zákazu nástrojů AI, nebo nasazuje agenty bez dostatečných ochranných opatření. Ani jeden přístup nelze dobře škálovat. I když IT zakáže externí nástroje AI, stínová AI se používá dál. Vývojáři přirozeně chtějí vytvářet řešení a řešit problémy; pokud jim bude správa připadat příliš byrokratická, obejdou kontrolní mechanismy a sáhnou po neprověřených nástrojích, aby mohli pokračovat v práci. Nedostatečná ochranná opatření naopak vystavují organizace bezpečnostním, regulatorním a provozním rizikům, která se postupem času násobí. 

Výzvou je, že agenty AI nelze spravovat jednotně pomocí statického univerzálního přístupu.  Éra správy založené na univerzálním přístupu končí, protože tyto systémy nemají stejný rizikový profil: liší se základním softwarem, možnostmi, úrovní přístupu i mírou autonomie. Uplatňování statických kontrol z průmyslové éry na software fungující rychlostí strojů nebude fungovat.  Účinná správa bude záviset na tom, zda organizace porozumějí dodavatelskému řetězci softwaru, na němž každý agent stojí, a přizpůsobí kontrolní mechanismy rizikům, která agent přináší.  

Správa prostředí pro vývoj agentního softwaru

Skutečná kontrola znamená účinně spravovat všechny softwarové prvky, z nichž se agent skládá. Mnoho týmů tyto agenty mylně považuje za „spolehlivé a důvěryhodné“ a přehlíží běžné prvky, které ovlivňují jejich funkčnost a zabezpečení. 

Každý autonomní agent AI je sestaven z dobře známých komponent: základního modelu, serverů MCP (Model Context Protocol), které jej propojují s firemními daty a externími systémy, zásuvných modulů rozšiřujících jeho možnosti a souborů dovedností, které určují jeho chování. Vedoucí pracovníci IT by měli mít na paměti: 

• Agenti AI jsou softwarové ekosystémy: Spoléhají na standardní sestavu, která zahrnuje modely, MCP, nástroje, zásuvné moduly, dovednosti a software s otevřeným zdrojovým kódem.
• Servery MCP mohou představovat riziko: Propojují agenty s firemními daty a lze je stáhnout stejně jako jakýkoli jiný software. Pokud nejsou prověřené, mohou hackerům umožnit proniknout do vašeho systému. Například nedávný bezpečnostní výzkum společnosti JFrog upozorňuje právě na tato rizika v dodavatelském řetězci softwaru v mcp-run-python, včetně chyby typu padělání požadavku na straně serveru (SSRF) (CVE-2026-25904) a zranitelnosti způsobené nedostatečnou izolací (CVE-2026-25905), která může vést k úplnému převzetí kontroly nad MCP.
• Zásuvné moduly mohou přinášet další rizika: Různí agenti potřebují různé zásuvné moduly (například zásuvný modul OpenAI nebude fungovat v Microsoft Copilot), takže firmy často musí spravovat více variant. Jediný škodlivý zásuvný modul přitom může odcizit citlivé informace.
• Dovednosti určují chování agentů: Tyto soubory s pokyny agentovi říkají, jak má pracovat. Vývojáři je získávají ze zdrojů komunity, a proto může poškozená dovednost nenápadně změnit způsob, jakým agent funguje.
• Rizika softwaru s otevřeným zdrojovým kódem: Základem všech funkcí řešení vytvořených pomocí agentního programování je využití binárních souborů s otevřeným zdrojovým kódem. Programovací agenti mohou stejně snadno využít škodlivé balíčky namísto bezpečných, aniž by si uvědomili související riziko.
• Klíčový je přehled: Mnoho týmů o těchto problémech neví, a jejich agenti jsou tak vysoce zranitelní. Organizace stále spravují softwarové závislosti na základě důvěry, nikoli důkladných kontrol.

Role systému evidence v účinné správě AI

Závod v nasazování podnikových agentů AI nelze vyhrát s přístupem ze včerejška. Zavádění těžkopádných, monolitických řetězců ručních schvalování napříč všemi pracovními postupy brzdí inovace, zatímco ponechání agentů bez dohledu vytváří zbytečná rizika.

Mají-li organizace bezpečně rozšiřovat využití AI, musí zavést vícevrstvý přístup ke správě a zabezpečení softwarových komponent, včetně balíčků, binárních souborů, MCP, dovedností a závislostí. Zavedením autoritativního systému evidence mohou podniky spravovat všechny používané komponenty, před použitím vše prověřovat, vynucovat zásady ve správnou chvíli během životního cyklu vývoje a zachovat možnost okamžitého návratu k předchozímu stavu. Až bude zveřejněna další zranitelnost, budou tak znát odpověď na otázku „Jsme ohroženi?“ během minut, nikoli dnů.

Agentní systémy AI však přinášejí širší útočnou plochu, která se mění výrazně rychleji. Vysoce autonomní agenti mohou během minuty učinit stovky rozhodnutí, řetězit volání nástrojů, přistupovat k datům a spouštět kód rychleji, než s nimi tradiční vstupní kontrola dokáže držet krok. Úvodní kontroly a schvalovací procesy sice stále hrají důležitou roli, samy však nedokážou zabezpečit systémy fungující strojovou rychlostí.

Tyto agentní systémy vyžadují dynamické vynucování pravidel za běhu, které dokáže odhalit neobvyklé chování, jakmile k němu dojde, a zasáhnout dříve, než se škody rozšíří. Představte si to jako jistič: odebrání přístupu ke kompromitované dovednosti, odpojení nedůvěryhodného datového kontextu nebo zablokování konkrétního volání nástroje v okamžiku, kdy se něco pokazí.

Překonání přístupu „jedno řešení pro všechny“

Strnulé a jednotné řízení je zaručenou cestou k neúspěchu. Časové okno, kdy lze situaci předejít, se uzavírá a s rychlejším nasazováním agentů narůstá i dluh v oblasti řízení. Bezpečnostní a technické vedení proto může už nyní podnikové systémy posílit těmito čtyřmi kroky:

1. Zmapujte, co už běží. Většina podniků nedokáže úplně zmapovat agentní systémy AI ve své organizaci, natož servery MCP, zásuvné moduly a soubory dovedností, na kterých fungují. Než budete moci vyhodnotit rizika nebo cokoli řídit, musíte vědět, co máte k dispozici.
2. Považujte komponenty AI za softwarové artefakty. Servery MCP, soubory dovedností a zásuvné moduly nejsou pouhou konfigurací — jde o kód se stejnými riziky v dodavatelském řetězci jako u jakékoli open-source závislosti. Uplatňujte při jejich prověřování, skenování a sledování původu stejné postupy jako u jakékoli knihovny třetí strany.
3. Klasifikujte agenty podle míry autonomie a odpovídajícím způsobem nastavte kontroly. Definujte, co pro vaši organizaci znamená „vysoce autonomní“, a vytvořte kolem této definice víceúrovňový rámec zásad. Vysoce autonomní agenti potřebují vynucování pravidel za běhu, nejen vstupní kontroly. Začněte u svých nejcitlivějších systémů a postupujte směrem ven.
4. Nastavte řízení tak rychle, aby ho vývojáři – lidé i agenti – neobcházeli. Stínová AI je problém způsobený překážkami. Pokud schválení nového serveru MCP trvá dva týdny, vývojáři si najdou jinou cestu. Jediným modelem, který dokáže držet krok se skutečným tempem vývoje AI, je automatizované skenování s jasným vynucováním zásad.

Řízení je mnohem účinnější, když zohledňuje skutečná rizika spojená s jednotlivými agenty, místo aby se ke všem přistupovalo stejně. Náskok získají ty podniky, které přizpůsobí řízení konkrétním vlastnostem každého agenta a opřou je o evidenční systém, který vynucuje zásady na každém rozhraní, poskytuje přehled o každé komponentě a umožňuje týmům reagovat hned, jakmile se něco pokazí.