Modely a platformy AI

Dalším problémem Shadow IT budou stínoví agenti

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Shadow IT dříve znamenalo, že zaměstnanec si bez povolení zaregistruje SaaS nástroj, nebo oddělení provozuje vlastní předplatné, dokud to IT nezjistilo těžkým způsobem. To jsme dostali pod kontrolu díky lepší viditelnosti, disciplíně v nákupu a řízení cloudu.

Agenti tento problém přetvoří a budou se pohybovat rychleji než SaaS nebo cloud kdykoli, protože tentokrát neautorizovaný systém jen tak nesedí. Jedná.

Rozrůstání autonomie

Finance vytváří své vlastní agenty. Stejně tak HR, prodej, nákup a zákaznický servis. Zaměstnanci spouštějí osobní agenty. Dodavatelé tiše vkládají agenty do produktů, za které už platíme.

Vynásobte to v celé velké organizaci a CIO už nesleduje dvacet agentů. Je to stovky nebo tisíce softwarových entit, z nichž každá má určitou schopnost zasahovat do systémů a provádět akce. IBM předpovědělo, že velké podniky budou provozovat více než 1 600 AI agentů do konce tohoto roku. Gartner varoval že agenti vytvářejí infrastrukturu, identity a přístupová oprávnění rychleji, než je schopny sledovat proces řízení.

Prioritou CIO v roce 2027 bude provedení skutečného inventáře. Kdo vytvořil každého agenta, co dělá, které systémy ovlivňuje, jaká oprávnění má a kdo je vlastní. Bez toho neexistuje žádný řídící program; jen předpoklad, že to někdo jiný sleduje.

Lidé v cyklu se nedají škálovat

„Udržet člověka v cyklu“ byla rozumná odpověď, když bylo jen pár agentů. Přestane to být rozumné, jakmile podnik provozuje tisíce agentů provádějících obrovské množství akcí. Není k dispozici dostatek lidí ani hodin.

Řešením je autonomie založená na riziku, nikoli plošný dohled. Agent aktualizující interní záznam nepotřebuje takovou kontrolu jako finanční transakce. To, co by mělo určovat úroveň lidského zapojení, je hodnota akce v dolarech, citlivost dat, úroveň důvěry agenta, regulatorní expozice a zda agent jedná mimo očekávané parametry.

Gartner nastínil podobný model, včetně kontrolních bodů od schválení před spuštěním až po zásah během úkolu, revizi po provedení a periodické vzorkování. Cílem není mít člověka v cyklu všude. Jde o člověka na správném místě v cyklu.

Agenti spravují agenty

V současnosti je většina organizací stále ve fázi, kdy jeden člověk řídí jednoho agenta. Další krok jsou systémy s více agenty: specializovaní agenti, kteří spolu komunikují, předávají úkoly a provozují celé pracovní postupy bez osoby uprostřed.

Nákupní agent označí potřebu, zkontroluje s finančním agentem rozpočet a spustí nákupního agenta k provedení; žádný člověk se na tom nijak nepodílí. McKinsey nazývá toto vznikající architekturu „agentní síť“.Deloitte zjistilo, že pouze 15 % organizací rozšířilo adopci napříč funkčními oblastmi multi-agentních řešení a jen 5 % uvádí, že jejich obchodní procesy jsou na to dobře připraveny.

Riziko zde mění podobu. Už nejde o to, „udělal jeden agent chybu“. Jde o to, jak daleko se tato chyba rozšíří skrze síť agentů a systémů, než si ji někdo všimne. CIO budou muset řídit nejen jednotlivé agenty, ale i vztahy a závislosti mezi nimi.

Ekonomika agentů není ekonomika SaaS

Agenti neodpovídají na podnět jednorázově a pak končí. Běží kontinuálně, opakovaně volají modely, přistupují k API, spotřebovávají cloudové zdroje a spouštějí další agenty. To představuje odlišný nákladový profil než přidání SaaS licence a postrádá předvídatelnost.

Pracovní postup, který v pilotním provozu vypadá levně, může rychle stát draho, jakmile ho v produkci kontinuálně spouští stovky agentů. IBM předpovídá, že výdaje na AI porostou z mírně pod 15 % rozpočtů IT v roce 2025 na téměř 25 % do roku 2027, a zjistilo, že 85 % technologických lídrů stále postrádá úplnou přehlednost o reálných výdajích na AI.

Znáte náklady na agenta na úkol, na pracovní postup, na obchodní výsledek. Ne jen cenu podkladového modelu.

Od řízení technologií k řízení autonomie

Desetiletí jsem jako CTO v podstatě řídil systémy, které lidé používají. To se mění. Nyní řídím systémy, které jednají jménem lidí, a to je zcela jiný druh práce.

Takže když přemýšlím, kdo bude v roce 2027 v čele, není to CIO s největším počtem nasazených agentů. Je to ten, který vám dokáže skutečně říct, jaké agenty má, co jim je povoleno dělat, kdo za ně odpovídá, kolik stojí a jaký je návratnost investice.

V roce 2026 jsme se soustředili na to, jak dostat AI do provozu. Rok 2027 bude o tom, co dělat, až bude AI samostatně jednat, a jak ji řídit tak, aby posilovala bezpečnost a soulad s předpisy, aniž by se snižovala efektivita.

Jeremy Ung je hlavním technologickým ředitelem společnosti BlackLine. Dozoruje globální technologický směr společnosti s důrazem na zlepšování jejích řešení pro kancelář finančního ředitele prostřednictvím propojených dat a platform poháněných umělou inteligencí, které urychlí schopnost společnosti škálovat a neustále přinášet zákazníkům hodnotu.