Chůze po AI laně: Proč operativní týmy potřebují vyvážit dopad s rizikem

Umělá inteligence se vyvíjí tak dramatickým tempem, že každý krok vpřed je krokem do neznáma. Příležitost je veliká, ale rizika jsou zřejmě ještě větší. Zatímco umělá inteligence slibuje transformovat odvětví – od automatizace rutinních úkolů až po poskytování hlubokých přehledů prostřednictvím analýzy dat – také dává prostor etickým dilematům, bias, obavám o ochranu dat a dokonce i negativnímu návratu na investice (ROI), pokud není správně implementována.

Analytici již činí předpovědi o tom, jak budoucnost umělé inteligence – alespoň zčásti – formována rizikem.

Podle zprávy z roku 2025 od Gartner nazvané Riding The AI Whirlwind, naše vztahy s umělou inteligencí se změní, jakmile se technologie vyvine a toto riziko se projeví. Například zpráva předpovídá, že podniky začnou zahrnovat právní ochranu související s emocionální umělou inteligencí do svých obchodních podmínek – sektor zdravotnictví se očekává, že tyto aktualizace zahájí do dvou let. Zpráva také naznačuje, že do roku 2028 bude více než čtvrtina všech podnikových úniků dat stopována zpět k nějakému typu zneužití agenta umělé inteligence, buď z vnitřních hrozeb nebo z externích zlých aktérů.

Mimo regulaci a bezpečnost dat existuje další – relativně neviditelné – riziko, se stejně vysokými ставkami. Ne všechny podniky jsou „připraveny“ na umělou inteligenci a zatímco může být lákavé spěchat s nasazením umělé inteligence, dělat tak může vést k velkým finančním ztrátám a provozním problémům. Vezměme si například datově náročné odvětví, jako jsou finanční služby. Zatímco umělá inteligence má potenciál superchargovat rozhodování pro operační týmy v tomto sektoru, funguje to pouze tehdy, pokud tyto týmy mohou důvěřovat přehledům, na kterých jednají. V roce 2024 ActiveOps odhalila, že 98 % lídrů finančních služeb uvádí „významné výzvy“ při přijímání umělé inteligence pro shromažďování dat, analýzu a reportování. I po nasazení 9 z 10 stále nachází obtížné získat přehledy, které potřebují. Bez strukturované správy, jasné odpovědnosti a kvalifikované pracovní síly, která může interpretovat doporučení založená na umělé inteligenci, skutečné „riziko“ pro tyto podniky spočívá v tom, že jejich projekty umělé inteligence se mohou stát spíše zátěží než aktivem. Chůze po AI laně není o rychlém pohybu; je to o chůzi moudře.

Vysoká sázka, vysoké riziko

Potenciál umělé inteligence transformovat podnikání je nezpochybnitelný, ale stejně tak je i cena nesprávného použití. Zatímco podniky jsou netrpělivé využít umělou inteligenci pro efektivitu, automatizaci a rozhodování v reálném čase, rizika se kumulují stejně rychle jako příležitosti. Krok špatným směrem v řízení umělé inteligence, nedostatečná kontrola nebo přehnaná závislost na přehledech generovaných umělou inteligencí na základě nedostatečných nebo špatně udržovaných dat může vést k cokoliv od regulačních pokut až po úniky dat zabezpečené umělou inteligencí, poškozené rozhodování a poškození pověsti. S rostoucím počtem modelů umělé inteligence, které dělají – nebo alespoň ovlivňují – kritická obchodní rozhodnutí, je zde naléhavá potřeba, aby podniky priorizovaly správu dat předtím, než rozšíří iniciativy umělé inteligence. Jak McKinsey uvádí, podniky budou muset přijmout „všechno, všude, najednou“ myšlení, aby zajistily, že data napříč celou firmou mohou být použita bezpečně a zabezpečeně, než vyvinou své iniciativy umělé inteligence.

To je zřejmě jedno z největších rizik spojených s umělou inteligencí. Slib automatizace a efektivity může být svůdný, vedoucí podniky k investicím do projektů založených na umělé inteligenci, aniž by zajistily, že jejich data jsou připravena je podporovat. Mnoho organizací spěchá s implementací umělé inteligence, aniž by nejprve zavedly robustní správu dat, mezioborovou spolupráci nebo vnitřní odbornost, což nakonec vede k modelům umělé inteligence, které posilují stávající předpojatosti, produkují nespolehlivé výstupy a nakonec selhávají při generování uspokojivého návratu na investice. Realita je taková, že umělá inteligence není „připoj a hraj“ řešením – je to dlouhodobá strategická investice, která vyžaduje plánování, strukturovanou kontrolu a pracovní sílu, která ví, jak ji účinně používat.

Vytvoření silného základu

Podle provazochodce a obchodního lídra Martyho Wolnera je nejlepší radou, když se učíte chodit po laně, začít malé: „Nesnažte se chodit po laně přes kaňon hned. Začněte s nízkým lanem a postupně zvyšujte vzdálenost a obtížnost, jak budete budovat své dovednosti a sebevědomí.“ Navrhuje, že totéž platí pro podnikání: „Malé výhry mohou připravit vás na větší výzvy.“

Pro dlouhodobou, udržitelnou hodnotu umělé inteligence jsou tyto „malé výhry“ zásadní. Zatímco mnoho organizací se zaměřuje na technologické schopnosti umělé inteligence a snaží se získat náskok před konkurencí, skutečná výzva spočívá ve vybudování správné operační struktury pro podporu přijetí umělé inteligence ve velkém měřítku. To vyžaduje trojúhelníkový přístup: robustní správu, kontinuální učení a závazek k etickému rozvoji umělé inteligence.

Správa: Umělá inteligence nemůže fungovat efektivně bez strukturovaného rámce správy, který diktuje, jak je navržena, nasazena a monitorována. Bez správy iniciativy umělé inteligence riskují, že se stanou fragmentovanými, nezodpovědnými nebo přímo nebezpečnými. Podniky musí stanovit jasnou politiku pro správu dat, transparentnost rozhodování a kontrolu systémů, aby zajistily, že přehledy generované umělou inteligencí lze důvěřovat, vysvětlit a auditovat. Regulátoři již zpřísňují očekávání kolem správy umělé inteligence, s rámci, jako je zákon EU o umělé inteligenci a vyvíjející se americké regulace, které mají podniky zodpovědné za to, jak je umělá inteligence používána v rozhodování. Podle Gartneru budou platformy pro správu umělé inteligence hrát zásadní roli při umožnění podnikům spravovat právní, etické a provozní výkony svých systémů umělé inteligence, zajišťující soulad s předpisy a zachování agility. Podniky, které nyní nezavedou správu umělé inteligence, pravděpodobně budou čelit významným regulačním, reputačním a finančním důsledkům dále po laně.

Lidé: Umělá inteligence je pouze tak efektivní, jako jsou lidé, kteří ji používají. Zatímco podniky se často soustředí na technologii samotnou, schopnost pracovníků porozumět a integrovat umělou inteligenci do denních operací je stejně kritická. Mnoho organizací spadá do pasti, že předpokládají, že umělá inteligence automaticky verbessí rozhodování, když ve skutečnosti zaměstnanci potřebují být školeni, aby mohli interpretovat přehledy generované umělou inteligencí a používat je účinně. Zaměstnanci musí nejen přizpůsobit se procesům řízeným umělou inteligencí, ale také vyvinout kritické myšlení, které je nutné k zpochybnění výstupů umělé inteligence, když je to nutné. Bez toho podniky riskují přehnanou závislost na umělé inteligenci – umožňující vadným modelům nekontrolovaně ovlivňovat strategická rozhodnutí. Školicí programy, iniciativy pro další vzdělávání a mezioborová výchova umělé inteligence musí se stát prioritami, aby zajistily, že zaměstnanci na všech úrovních mohou spolupracovat s umělou inteligencí, spíše než být nahrazeni nebo odstraněni jí.

Etika: Pokud má být umělá inteligence dlouhodobým zajišťovatelem obchodního úspěchu, musí být založena na etických principech. Algoritmická předpojatost, úniky dat a neprůhledné procesy rozhodování již podkopaly důvěru v umělou inteligenci v některých odvětvích. Podniky potřebují zajistit, aby rozhodnutí založená na umělé inteligenci odpovídala právním a regulačním standardům a že zákazníci, zaměstnanci a stakeholdeři mohou mít důvěru v procesy poháněné umělou inteligencí. To znamená, že podniky musí podniknout proaktivní kroky k odstranění předpojatosti, zajištění ochrany soukromí a vybudování systémů umělé inteligence, které fungují transparentně. Podle Světové banky „správa umělé inteligence je o vytváření rovných příležitostí, ochraně práv a – zásadně – budování důvěry v technologii.“

Data: Mít jeden, konsolidovaný datový soubor napříč celou operací je zásadní pro určení začátku a konce zapojení umělé inteligence. Vědět, kde je umělá inteligence již používána, rozumět, kam nasadit umělou inteligenci, a být schopni identifikovat příležitosti pro další zapojení umělé inteligence, jsou zásadní pro dlouhodobý úspěch. Data jsou také nejlepší metrikou, prostřednictvím které lze měřit přínosy umělé inteligence – pokud podniky nerozumí své „počáteční“ pozici a neměřují cestu umělé inteligence, nemohou prokázat její přínosy. Jak Galileo jednou řekl: „Měřte to, co je měřitelné, a co není měřitelné, učiníte měřitelným.“

Chůze po laně je o přípravě, klidu a nalezení rovnováhy s každým krokem vpřed. Podniky, které přistupují k umělé inteligenci s měřenou opatrností, strukturovanou správou dat a kvalifikovanou pracovní silou, budou ty, které projdou bezpečně, zatímco ty, které spěchají vpřed, aniž by zajistily své postavení, riskují drahý pád.