Proč je řízená umělá inteligence dalším hraním na pracovišti

Strávili jsme deset let bojem proti stínovému IT. Neautorizované aplikace SaaS. Rogue tabulky. Neautorizované účty Dropbox. Lídry IT postavili celé programy compliance kolem problému a většina z nich stále prohrála. Reco AI’s 2025 State of Shadow AI Report zjistil, že pouze 47% aplikací SaaS v rámci průměrného podniku je formálně autorizováno — a průměrná organizace nyní spravuje 490 z nich.

To byla stará проблема. Nová je horší.

Problém stínové AI je jiný tentokrát

Když zaměstnanec přihlášení k neautorizované projektové nástroj, poškození je omezené. Úkoly týmu žijí na špatném místě. Možná některé údaje prosákly. Typ úniku údajů je poměrně předvídatelný.

AI je jiný. Zaměstnanci nyní používají nástroje AI k psaní zákaznických komunikací, generování finančních zpráv, souhrnů důvěrných schůzek a vytváření automatizovaných pracovních postupů, často bez toho, aby někdo jiný věděl. Microsoft’s 2024 Work Trend Index zjistil, že 78% uživatelů AI přináší své vlastní nástroje AI do práce. Ne proto, že se snaží být obtížní nebo zlověstní, ale protože nástroje jsou skutečně užitečné a cítí tlak na lepší výkon. Jejich organizace jsou však příliš pomalé na to, aby poskytly procesy, postupy a nástroje.

Výstupy zde jsou problémem. Když nástroj AI vypracuje zákaznickou smlouvu, souhrn právního hovoru nebo vygeneruje čtvrtletní zprávu představenstva, riziko není jen “nevíme, jaký nástroj použili.” Je to, že datové postupy, přesnost a rozhodování obsažené v těchto výstupech jsou zcela neviditelné pro organizaci. Nikdo nepřezkoumal prompt. Nikdo neověřil výsledek. Nikdo ani nevěděl, že se to stalo. A protože AI vypadá tak sebevědomě, většina uživatelů nebude kontrolovat zdroje a bude slepě přijímat výsledky.

KPMG’s 2025 analýza stínové AI uvádí, že 44% zaměstnanců, kteří používají AI v práci, tak učinili způsobem, který porušuje zásady a pokyny jejich společnosti. To není okrajové chování. To je téměř polovina pracovní síly.

Proč autonomní agenti dělají tuto situaci horší (a lepší)

Zde se konverzace stává zajímavou. Nemluvíme již pouze o zaměstnancích, kteří vkládají text do ChatGPT. Vstupujeme do éry agentů AI — autonomních systémů, které mohou běžet nepřetržitě, provádět vícekrokové úkoly, připojovat se k podnikovým nástrojům a činit rozhodnutí bez lidského zásahu pro každé rozhodnutí.

Deloitte’s 2025 Tech Trends report popisuje tuto změnu jako posun směrem k “silikonové pracovní síle” a uvádí, že mnoho raných implementací agentů AI selhává přesně proto, že organizace se snaží automatizovat stávající procesy navržené pro lidi, místo aby přehodnotily, jak by práce měla probíhat.

Toto je rozcestí. Autonomní AI může jít dvěma cestami:

Cesta jedna: více stínového IT, ale horší. Zaměstnanci spustí agenty pomocí osobních účtů, běžících na firemním IT, připojujících se k firemním nástrojům prostřednictvím osobních API klíčů, generujících výstupy, které nikdo jiný na týmu nevidí, nekontroluje ani neopakuje. Agent běží denně. Zpráva je chybná. Nikdo si toho nevšimne po týdny, protože nikdo jiný nevěděl, že existuje. To není hypotetické. Stává se to právě teď v organizacích, které považují přijetí AI za individuální produktivitu.

Cesta dvě: řízená autonomie. Stejný agent běží stejnou denní zprávu — ale v prostředí, kde tým může vidět, co dělá, která data se dotýká, kdo ho nastavil a co vyprodukoval. Agent je sdílen, ne izolován. Jeho výstupy jsou viditelné. Jeho oprávnění jsou omezena. A když něco goes wrong, existuje stopa.

Rozdíl mezi těmito dvěma cestami není technologie. Je to prostředí.

Co řízená AI skutečně vypadá v praxi

Řízení je jedním z těch slov, které dělají buildery nervózní. Obvykle znamená “pomalu”. Více schválení. Více procesů. Více tření mezi lidmi, kteří dělají práci, a lidmi, kteří spravují rizika.

Rižená AI však nemusí fungovat tímto způsobem. Nejlepší implementace, které jsem viděl, sdílejí několik charakteristik:

Veřejnost výchozí. Každý výstup AI — každá zpráva, každé upozornění, každý návrh — je viditelný pro tým, ne pohřbený v někoho osobním chatu. To není o dohledu. Je to o sdíleném kontextu. Když agent vyprodukuje týdenní analýzu konkurence, celý tým by měl být schopen ji vidět, zpochybnit a postavit na ní.

Omezená oprávnění, ne blanketový přístup. Agent, který monitoruje vaše chybové protokoly, nepotřebuje přístup k vašemu CRM. Agent, který vypracovává sociální obsah, nepotřebuje přístup k vašim finančním údajům. Princip nejnižších oprávnění není nový. Je to jen zřídka aplikováno na systémy AI — a mělo by být.

Stopy auditu, které skutečně existují. McKinsey’s playbook on agentic AI security zdůrazňuje, že autonomní agenti představují “řadu nových a složitých rizik a zranitelností, které vyžadují pozornost a akci nyní.” Jedním z nejzákladnějších: pokud nemůžete stopovat, co agent udělal, která data přístup, a která rozhodnutí učinil, nemůžete ho řídit. Plná tečka.

Řízení na úrovni týmu, ne pouze na úrovni IT. To je část, kterou většina rámců pro řízení špatně chápe. Centralizují veškerou kontrolu AI v IT nebo zabezpečení, což vytváří přesně tu úzkou cestu, která vede ke stínové AI. Organizace, které to dělají správně, přesouvají kontrolu na úroveň týmu — umožňují manažerům a vedoucím týmů konfigurovat, omezoovat a monitorovat agenty, které jejich týmy používají, v rámci mantinelů, které IT nastavuje, ale nemusí je mikro-řídit.

Kde organizace dělají správnou věc

Společnosti, které nasazují agenty AI dobře, nejsou ty, které mají nejsložitější modely. Jsou to ty, které mají nejjasnější provozní hranice.

Vidím nejlepší výsledky ve třech oblastech:

Reportování a monitorování. Agenti, kteří běží naplánované zprávy — denní standupy, týdenní souhrny metrik, souhrny chybových protokolů — a dodávají je přímo do kanálů týmu. Hodnota zde není jen automatizace. Je to konzistentní. Zpráva běží každý ráno, ať už někdo vzpomene na data nebo ne. A protože je viditelná pro tým, chyby se chytají rychleji.

Obsah a komunikační pracovní postupy. Návrhy, ne publikace. Agenti, kteří produkují první návrhy interních aktualizací, souhrnů schůzek nebo odchozích obsahů — a poté je předkládají k lidské kontrole. Řízení je zde důležité, protože kvalitativní laťka je jiná, když výstup jde zákazníkovi oproti internímu kanálu Slack.

Analýza a upozornění. Agenti, kteří sledují panely, signalizují anomálie a posílají upozornění, když metriky klesají mimo očekávané rozsahy. To nahrazuje “někdo by měl sledovat” problém, který sužuje každý tým, který ztratil víkend kvůli nezpozorovanému problému v produkci.

Co většina organizací stále dělá špatně

Největší chyba je traitement AI řízení jako politický problém místo infrastruktury.

Můžete napsat všechny politiky přijatelného použití, které chcete. Pokud vaši zaměstnanci nemají schválené, snadno použitelné prostředí pro nasazení AI, které skutečně funguje pro jejich denní potřeby, budou obcházet vaši politiku. To není problém lidí. To je designový problém.

IDC’s analýza stínové AI činí tuto pointu jasně: stealth AI produktivita je “udusuje” podnikové přijetí AI, protože organizace jsou chyceny mezi tím, že chtějí zisky, a strachem z rizik. Výsledkem je nečinnost — což je nejhorší možný výsledek, protože zajišťuje nekontrolované přijetí.

Druhá chyba je traitement řízení a rychlosti jako protikladů. Není tomu tak. Nejlepší řízené prostředí AI jsou také nejrychlejší — protože týmy nemusí trávit čas rekreací práce, která již existuje, laděním agentů, které nevidí, nebo yeniden budováním pracovních postupů, které se rozpadly, protože někdo opustil společnost a jeho osobní účet AI s ním.

Hranice je prostředí, ne model

Pozornost průmyslu je zaměřena na schopnosti modelu. Větší kontextová okna. Lepší uvažování. Multimodální vstupy. To všechno záleží. Ale pro většinu týmů, které se snaží dokončit práci, není úzkým místem model. Je to prostředí, ve kterém model běží.

Může tým vidět, co dělá? Může tým řídit, co přístup? Může tým sdílet, co produkuje? Může tým důvěřovat, že pracuje s správnými údaji a správnými omezeními?

Tyto jsou infrastrukturní otázky, ne modelové otázky. A jsou to ty, které budou oddělovat organizace, které dostanou skutečnou, udržitelnou hodnotu z AI, od těch, které přidají další vrstvu stínového IT.

Hranice není budování chytrějších modelů. Je to budování prostředí, ve kterých chytré modely mohou skutečně být důvěryhodné.