Myslitelé

Skryté náklady AI ve velkém měřítku

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Dne 1. června 2026, GitHub trvale ukončil paušální \”premium requests\” pro Copilot a nahradil je kreditovým systémem založeným na využití AI. Když se o měsíc později objevily první faktury podle nového modelu, někteří agenturní uživatelé viděli účty, na které nebyli připraveni: Jeden vývojář hlásil měsíční náklady skákající z 29 $ na 750 $ pro nejnáročnější agenturní pracovní postupy.

Byl to jeden viditelný příklad širšího posunu na trhu s AI nástroji během roku 2026 – a jeden, který může čekat organizace, které dnes stále platí paušální sazbu.

Organizace počítají hodiny, které ušetří. Mnoho z nich nepočítá to, co paušální sazba drží neviditelné: spotřebu kontextu a opakování po selhání. Další náklady se vůbec neobjevují na faktuře dodavatele, včetně času stráveného kontrolou výstupu a údržbou promptů. Jakmile se fakturace přesune na skutečnou spotřebu, organizace bez disciplíny v nákladech riskují fakturu, která je překvapí podobně jako nový model Copilotu překvapil některé uživatele.

Kontext, který nikdo neocenil

AI zjevně potřebuje kontext; to není otázka. Otázkou je, zda je odesílaný kontext relevantní, nebo jen pohodlně dostupný. Odeslání celého dokumentu je nejrychlejší způsob, jak modelu poskytnout informace. Není to automaticky nejlevnější ani nejlepší způsob.

V květnu 2026 Laboratoř digitální ekonomiky Stanfordu zveřejnila analýzu agenturních programovacích úkolů napříč osmi špičkovými modely a zjistila, že tyto úkoly spotřebují až tisíckrát více tokenů než jednoduchý chat o kódu, přičemž hlavním faktorem není výstup modelu, ale vstupní kontext, který se opakovaně odesílá. Agent znovu čte celou svou historii při každém následujícím kroku. Ten samý úkol, spuštěný vícekrát, se v spotřebě tokenů lišil až třicetinásobně.

Přesnost také nerostlinárně nesouvisí s objemem kontextu: často dosáhne vrcholu při střední úrovni a poté jen zvyšuje náklady bez přidané hodnoty.

Tokenová slepota tedy nesouvisí s tím, že AI nepotřebuje kontext. Jde o fakt, že bez měření si nikdo neklade otázku, zda je veškerý tento kontext skutečně nutný. Při paušální sazbě je otázka snadno přehlédnutelná. Při fakturaci založené na spotřebě se stává součástí nákladů.

Když zaplatíte za selhání dvakrát

Agenturní pracovní postupy nesou další náklad, který se téměř nikdy neobjevuje v výpočtech ROI. Představte si zjednodušený řetězec deseti kroků, z nichž každý má samostatně 95 % šanci běžet správně. To zní dostatečně spolehlivě, ale když jsou spojeny, tento řetězec má jen přibližně 60 % šanci projít celý běh bez jediné chyby.

V pracovním postupu, který při každém volání znovu odesílá nahromaděný kontext, každé selhání a následné opakování nestojí jen opakovaný krok: platíte také znovu za vše, co bylo předtím odesláno.

Je to běžná bolest, kterou téměř každý zažije při budování své první agenturní pipeline. Prošel jsem tím sám. Na začátku, s jen několika agenty, to moc nevadilo. Jakmile pipeline rostla, každé neúspěšné spuštění bylo dražší, a to mě přimělo začít se ptát, jaký kontext každý agent potřebuje a jak jej uložit do cache, místo aby mě zajímalo jen, zda se běh podařil.

Stejná analýza vypočítává, že desetikrokový agent s 95 % spolehlivostí na krok spotřebuje přibližně o 40 % více tokenů na opakování než systém s dokonalou spolehlivostí. Tento náklad uvidíte na faktuře, ale pravděpodobně se neobjeví v žádném ROI výpočtu.

Dohled není chyba. Patří do rozpočtu

Tento bod je třeba formulovat přesně, protože je snadné se zmýlit. Kontrola výstupu AI není selhání systému; je to legitimní, očekávaná součást práce s AI, stejně jako revize kódu je legitimní součástí práce s vývojáři. Problém není v tom, že se výstup kontroluje. Problém je v tom, že tato práce se téměř nikdy nezahrnuje do výpočtu, kolik AI ve skutečnosti ušetřilo.

Institut Work AI společnosti Glean prověřil 6 000 pracovníků a zjistil, že automatizace jim ušetří přibližně 11 hodin týdně, ale téměř šest a půl z těchto hodin jde na údržbové úkoly: poskytování kontextu AI systémům, kontrola jejich práce a odstraňování chyb. Čisté úspory tak činí spíše čtyři a půl hodiny – méně než polovina hlavního čísla. AI stále šetří čas, jen ne tolik, jak první číslo naznačuje.

Promptům je potřeba údržba, ne jen autora

Promptové chování dnes připomíná spíše produkční kód: aktualizace modelu, změna kontextu nebo zdánlivě drobná úprava může změnit jejich výkon. Bez verzování a testování mohou tyto změny tiše zavádět problémy. Regresní testy, které jsou standardní praxí pro kód, jsou při ověřování promptů často vynechány. Změna, která vypadá jako drobná úprava jedné věty, může dosáhnout produkce a snížit přesnost, aniž by si to někdo všiml, dokud se problém nevyvine do viditelné podoby.

Vybudování správného evaluačního rámce – včetně testovací sady a automatizovaných regresních testů při každé změně – je další práce, která se téměř nikdy neobjeví ve výpočtu “AI šetří čas”.

Levnější tokeny, vyšší účty

GitHub Copilot nebyl výjimkou. Průzkum citovaný CFO Dive zjistil, že téměř sedm z deseti amerických firem uvedlo alespoň částečné překročení rozpočtu na AI během uplynulého roku, převážně před úplným přechodem na fakturaci založenou na spotřebě, ne po ní.

Bain & Company ve své červnové analýze tokenové ekonomiky přidává paradox, který situaci nejlépe vystihuje: cena za token klesla během roku o polovinu, zatímco spotřeba ve stejném období vzrostla 4,5‑násobně.

Model se stal levnějším, ale účet zůstává neústupně vysoký. Firmy přešly na novější modely, zadávaly agentům složitější úkoly a našly pro ně více pracovních postupů. Levnější token neznamenal nižší výdaje; znamenal, že existovalo více důvodů k jeho spotřebě.

Jak se připravit, než přijde účet

Rámec, který z toho vyplývá, nespočívá v používání méně AI. Jde o to vědět, jaké náklady na AI jsou, než se rozhodnete je dále rozšiřovat.

  1. Nejprve získat přehled

Dokud nemáte spotřebu rozčleněnou podle týmu, pracovního postupu, aplikace a dokončeného úkolu, každé rozšíření je slepá sázka. Ten přehled také není zadarmo: u agenturních pracovních postupů zejména, sledování každého kroku, zaznamenávání, co se stalo a proč, a monitorování nekontrolovaných smyček vyžaduje vlastní čas inženýrů a nástroje. Zahrňte to do rozpočtu jako součást nákladů na provoz AI, ne jako dodatečnou myšlenku navíc.

  1. Přepočítat ROI na čistém základu

Odečtěte čas strávený revizí, opravami a údržbou promptů od hlášených ušetřených hodin. Pokud je úspora času účelem případu použití a čistý výsledek je záporný nebo neověřitelný, není připraven k rozšíření. Pokud je zamýšlený přínos kvalita, kapacita, snížení rizika nebo příjem, měřte tento výsledek přímo.

  1. Uplatnit disciplínu nákladů, ale ne jednotně

Striktní limit výdajů dává smysl tam, kde je selhání levné: interní nástroje, experimentální agenti, vývojová prostředí. Pro kritické, zákaznické funkce – například asistent zákaznické služby – není striktní limit proveditelný, protože vytváří riziko výpadku. Zde potřebujete stupňované záložní modely a včasná varování, nikoli úplné vypnutí na nulu.

  1. Považovat prompty a evaluace za inženýrské aktiva

Verzovat je, testovat a kontrolovat změny před nasazením, stejně jako byste spravovali produkční kód.

Vstupte do obnovy s vlastními daty

Ceny dodavatelů je těžké vyhodnotit bez vlastních dat o spotřebě. Před obnovou nebo změnou modelu vypočítejte, kolik by vaše stávající pracovní postupy stály za navrhovaných podmínek. Cílem není jen vyjednat nižší cenu. Jde o to vědět, jak se tato cena bude chovat při vaší skutečné úrovni spotřeby, místo aby se to ukázalo na faktuře.

Tři věci, které můžete tento týden udělat: zjistit, zda můžete rozdělit spotřebu AI podle týmu a pracovního postupu; vybrat jeden případ použití a postavit čas strávený revizí vedle hlášených ušetřených hodin; a zjistit, kde by striktní limit výdajů mohl způsobit výpadek místo řízení nákladů.

Náklady na AI lze řídit. Jen ne tehdy, když se o nich poprvé dozvíte z účtu.

Zuzana Drotárová vede business analýzu ve společnosti Avenga, kde dohlíží na ~100 analytiků napříč podnikovými programy v CZ & SK. Zaměřuje se na provozní a rozhodovací struktury, které určují, zda podnikové iniciativy, včetně AI, fungují ve výrobě.