Úspěšné zavedení AI přináší druhou vlnu, kterou firmy plánují jen zřídka

Zhruba před třemi lety jsem si koupil první placené předplatné AI a začal zkoumat, co všechno mi může nabídnout. Postupně se z osobního experimentování stal malý interní projekt, poté firemní předplatné pro všechny zaměstnance a nakonec zavádění AI, které zasáhlo téměř všechna oddělení — vývoj, finance, právní oddělení, marketing i podporu.

První fáze v zásadě fungovala. Rychlost našeho interního vývoje se během zhruba šesti měsíců zvýšila přibližně pětkrát. Zároveň vzrostlo ještě jedno číslo: výdaje za AI se zvýšily zhruba patnáctkrát.

Tehdy mi došlo, že úspěšné zavádění AI může samo o sobě přinášet problémy. Jakmile se tato technologie začala široce využívat, původně nastavená pravidla přestala fungovat. Náklady se mohly vymknout kontrole, protože AI získávala přístup k většímu množství firemních dat a přebírala další úkoly, zatímco mnoho samotných nástrojů stále ovládali externí poskytovatelé.

Co má tedy dělat generální ředitel, když se zavádění AI daří, ale firma už nemá plně pod kontrolou, jak se AI používá? Zkusme na tuto otázku odpovědět.

Nepovažujte aktivní využívání AI za měřítko obchodních výsledků

Hned jsem si všiml, že v první fázi zavádění dávaly ukazatele využívání smysl — například počet aktivních uživatelů nebo četnost používání. Jako vedoucí pracovník chcete vědět, zda zaměstnanci nástroje používají, které konkrétně a zda jim AI skutečně šetří čas. Jakmile se však její používání rozšíří po celé firmě, tyto ukazatele jsou mnohem méně užitečné.

Sami jsme to zažili. Jakmile lidé získali přístup k výkonným modelům, začali je používat téměř na všechno. V jednu chvíli se zaměstnanci začali AI ptát, kolik je hodin v New Yorku. Je to samozřejmě absurdní příklad, ale ukazuje, jak rychle může využívání AI narůstat, aniž by firmě přinášelo nějakou významnou hodnotu.

Podobný problém zaznamenala i společnost Shopify poté, co AI zavedla natolik rozsáhle, že její interní agent River nyní připravuje až polovinu žádostí o začlenění kódu do produkčního prostředí. Generální ředitel Tobi Lütke však nedávno varoval před tím, čemu říká „granáty plné AI odpadu“: práci vytvořenou AI, kterou zaměstnanci předávají dál, aniž by ji řádně zkontrolovali, takže ji pak musí někdo další posoudit, opravit, nebo dokonce shrnout.

Jinými slovy, větší aktivita spojená s AI může snadno znamenat více práce namísto větší hodnoty. Firma může vykazovat působivá čísla o využívání nástrojů a vytvářet obrovské množství výstupů, přičemž část z nich pouze přidělá další úkol někomu jinému.

Právě to musí generální ředitelé změnit. Počty zadávaných pokynů, přihlášení a spotřebovaných tokenů svědčí o značné aktivitě v pracovních procesech. Neříkají však, zda se AI skutečně vyplácí.

Rychlost vytváří nové úzké místo

Říká se, že práce kvapná málo platná. Myslím, že to platí i pro AI, protože jsme zjistili, že když jsou lidé s její pomocí „rychlejší“, neznamená to nutně, že najednou mají méně práce.

AI nyní umožňuje našemu vývojovému týmu vytvořit za stejnou dobu podstatně více kódu. Hlavní ale je, že veškerý tento kód je před nasazením stále nutné zkontrolovat. Automatizovaná kontrola pomáhá, o tom není pochyb.

Stále však máme k plné důvěře v ni daleko. Vývojáři tedy tráví méně času tím, že všechno píší sami, ale na druhou stranu mají mnohem více výstupů, které musí zkontrolovat, otestovat a rozhodnout, co s nimi dál.

Jinými slovy, práce nemizí. Jen se objevuje v jiné podobě.

Díky tomu se naše pětinásobné zrychlení vývoje jeví o něco méně ohromující, protože spolu s ním roste i množství kódu, který vyžaduje lidskou pozornost. Skutečné náklady na pracovní proces využívající AI zahrnují také čas strávený kontrolou jejího výstupu a především rozhodováním, zda mu lze vůbec důvěřovat.

Druhá vlna zavádění je nezbytná

Podle mého názoru firmy potřebují to, čemu bych říkal „druhá“ vlna zavádění AI.

První vlna zavádění se zaměřuje především na využívání: dát lidem přístup, hledat možnosti uplatnění, zjistit, kde technologie skutečně pomáhá a kde ne. Po několika měsících skutečného používání však už máte něco mnohem cennějšího než pouhé předpoklady — vlastní důkazy o tom, kde rostou náklady, které týmy dosahují lepších výsledků a kde lidé tráví příliš mnoho času kontrolou výstupů AI.

Právě v této chvíli podle mě dává smysl změnit pravidla pro využívání AI, místo abychom se pouze snažili její používání rozšířit. V praxi bych se zaměřil na tři věci:

• Vybírejte model podle úkolu. Běžné požadavky lze směrovat k menším a levnějším modelům, zatímco složitější úkoly mohou zpracovávat modely, u nichž vyšší náklady dávají smysl. Konečným cílem je neplatit ceny za nejpokročilejší modely u úkolů s nízkou hodnotou.
• Určete, kde je lidský dohled povinný. U kódu určeného do produkčního prostředí, právních dokumentů a dalších výstupů s významným dopadem stanovte, v jaké fázi musí člověk výsledek schválit, než postoupí dál v pracovním procesu. Samostatně nastavte pravidla přístupu k citlivým údajům, aby zaměstnanci věděli, které modely je mohou přijímat a které ne.
• Vytvořte záložní plán, i když si myslíte, že ho nepotřebujete. Pokud kritický pracovní postup závisí na externím poskytovateli, zdokumentujte zadání, integrace, datové toky a závislosti specifické pro daný model natolik podrobně, aby bylo možné v případě nouze přesunout pracovní zátěž k jinému poskytovateli.

V tom spočívá rozdíl mezi prvním a druhým zaváděním AI. První se ptá: Kde můžeme AI využít? Druhé se ptá: Kde bychom ji měli využívat, podle jakých pravidel a za jakou cenu?

Než zavádění znovu rozšíříte, proveďte jeho audit

Když se využívání AI osvědčí a první fáze zavádění se zdá úspěšná, nepokračoval bych v jejím rozšiřování stejným způsobem další rok. Po přibližně 90 až 180 dnech skutečného používání bych se zastavil a prověřil, co firma ve skutečnosti vybudovala.

To znamená měřit uznané obchodní přínosy, porovnávat model a jeho náklady se skutečnou hodnotou daného úkolu, určovat, kde je lidská kontrola stále povinná a kde lze pracovní postup nějak přiblížit plné automatizaci.

První fáze zavádění dokazuje, že AI může firmu zrychlit. Druhá zabraňuje tomu, aby se tato rychlost proměnila ve zbytečné výdaje, nekontrolovaný přístup nebo závislost na dodavatelích, s níž firma nikdy vědomě nesouhlasila.