Mezera ve znalostech, kterou vytváří umělá inteligence, je novou bezpečnostní mezerou. Jak ji zaplnit?

Technologické společnosti sázejí na známou představu: že umělá inteligence zvládne práci rychleji a levněji než lidé. I když to v mnoha případech může být pravda, AI slouží také jako snadné zdůvodnění propouštění.

Ve zprávě PwC zveřejněné začátkem letošního roku 56% generálních ředitelů uvedlo, že dosud nezaznamenalo žádný významný finanční přínos svých investic do AI. Pouze 12% hlásilo současně úspory nákladů i růst příjmů díky AI. Únorová studie National Bureau of Economic Research navíc zjistila, že téměř 90% firem uvedlo, že AI v posledních třech letech neměla žádný vliv na zaměstnanost ani produktivitu. To vše podtrhuje výmluvnou skutečnost: mnoho organizací dosud nezaznamenalo původně slibované přínosy AI pro příjmy a produktivitu, a aby pokryly své ztráty, nadále propouštějí tisíce zaměstnanců.

Tady je ale něco, co při telekonferencích o hospodářských výsledcích nezaznívá: když propustíte manažera zákaznických vztahů, který má v hlavě deset let znalostí a souvislostí těchto vztahů, nebo inženýra zajišťování kvality, jehož institucionální znalosti jako jediné umožňují zachytit vady dříve, než se dostanou k zákazníkům, neodstraňujete přebytečný tuk. Bouráte nosné zdi. Náklady na předělávání práce, odliv zákazníků a následné problémy s kvalitou se jen zřídka objeví ve stejné prezentaci, která oslavovala snížení počtu zaměstnanců. Tiše se promítnou do dalších čtvrtletí, připíší se tržním podmínkám a zapomenou se. Rozdíl mezi tím, co restrukturalizace založená na AI slibuje, a tím, co skutečně přináší, je reálný a roste. Mnoho organizací si jej přitom nadále vůbec nepřipouští.

Skutečné náklady tohoto cyklu nedopadají na jediné místo. Rozprostírají se mezi všechny týmy, které po škrtech zůstaly. Vývojáři přebírají práci inženýrů, kteří odešli, a současně dostávají nástroje AI stále příliš nezralé na to, aby nahradily úbytek zaměstnanců. Produktové týmy ztrácejí kontext, který jejich plány ukotvoval v realitě zákazníků. Týmy podpory jsou přetížené a kvalita odpovědí klesá, zatímco zákazníci okamžitě poznají nekvalitní obsah vytvořený AI v odpovědích na své požadavky. Zátěž není soustředěná, ale rozptýlená, a právě toto rozptýlení přispívá k tomu, že ji lze ve čtvrtletní zprávě tak snadno přehlédnout. Uvnitř tohoto širšího rozložení však IT týmy čelí svébytné a zesílené podobě problému. Nejde jen o to zvládnout více s menšími prostředky. Mají spravovat rychle vybudovanou infrastrukturu bez institucionálních znalostí, které jí dávaly soudržnost. Současně zajišťují procesy spojené s odchodem bývalých kolegů a zapracováním jejich nástupců, zatímco firmy tiše ruší škrty, které veřejně oslavovaly.

Jak rok postupuje a organizace se snaží naplnit přísliby AI, je načase si uvědomit, že při omezování lidské odbornosti ve jménu efektivity díky AI ztrácíme mnohem více než jen příjmy. Dobrou zprávou je, že lze získat to nejlepší z obou světů. Vyžaduje to ale praktičtější a pragmatičtější přístup k AI, který ponechává lidi v centru strategie.

Co ztrácíme, když znalosti odejdou ze dveří

Klíčové provozní znalosti jsou v lidech a uplatňují se prostřednictvím lidského úsudku, nikoli systémů. Když tito lidé odejdou, znalosti odejdou s nimi. Bez ohledu na vyspělost modelu nedokáže AI tuto mezeru dnes zaplnit.

I když se schopnosti AI rozšiřují, automatizace bez citlivého porozumění kontextu vytváří nebezpečná slepá místa v klíčových oblastech:

• Úsudek a strategie: Intuice, institucionální znalosti a povědomí o trhu se do datových sad nevejdou tak snadno, a to ani do nestrukturovaných.
• Kontext a situační povědomí: Lidé rozpoznávají jemné rozdíly a záměry a dokážou se pohybovat v šedých zónách, kde pevná pravidla přestávají fungovat.
• Empatie a důvěra: Situace s velkým dopadem nebo silným emočním nábojem, zejména pokud se týkají zákazníků či zaměstnanců, vyžadují reakci zaměřenou na člověka.
• Dohled a odpovědnost: Někdo musí odpovídat za odhalování selhání a zkreslení nebo za předcházení dezinformacím. Po poskytnutí zcela nesprávných informací nestačí jen říct: „Máte pravdu, zkusím to znovu.“
• Institucionální paměť a kontext systémů: Pochopení, proč týmy vybudovaly infrastrukturu určitým způsobem — nebo proč to neudělaly —, co již zkoušely a jaké nezdokumentované okrajové případy existují.
• Vedení a správa: Stanovování pravidel a tolerance rizika a dodržování etických hranic zůstává zásadně lidskou odpovědností.

AI může odhalovat užitečné poznatky, doporučovat kroky a urychlovat jejich provedení, ale nedokáže nahradit institucionální paměť, která předchází katastrofám, ani zajistit odpovědnost, díky níž se zachytí dříve, než se vymknou kontrole.

Co dělají chytré organizace jinak

Organizace, které s AI uspějí, neodstraňují lidi z rovnice. Využívají AI k zefektivnění rutinních, opakujících se procesů, které ztěžují každodenní provoz. Tím uvolňují čas a další klíčové zdroje, aby lidé mohli hledat nové, tvořivé cesty k větším obchodním přínosům. Používají AI jako nástroj, s nímž lze „běžet společně“ a posilovat lidské schopnosti. Vezměme si IT provoz. Tyto týmy jsou již přetížené a spravují rozsáhlou infrastrukturu s omezenými prostředky. AI, nebo možná přesněji strojové učení (ML), zde může přinést skutečnou hodnotu. AI a ML mohou automatizovat rutinní úkoly, které dříve zabíraly mnoho času a zahlcovaly cenné odborníky provozní prací: výzkum a testování oprav, třídění požadavků podpory, generování pracovních postupů, zjišťování a mapování rizik.

Tyto úkoly tvoří základ IT provozu, ale vyžadují ohromné množství času. Platí to zvláště s rozšiřováním digitálních prostředí organizací, proměnami prostředí zranitelností a rostoucím očekáváním zaměstnanců, že práce se služebními zařízeními bude pozitivním digitálním zážitkem. Když týmy kvůli přetížení nezvládají základy — správu nebo sledování těchto schopností a procesů —, důsledky jsou vážné: výpadky, neaplikované opravy, úniky dat a narušení bezpečnosti.

Když naopak AI dobře využijete ke zjednodušení práce v těchto oblastech, dáte IT pracovníkům čas na to, co AI nezvládne: omezovat technický dluh, zlepšovat existující systémy a procesy, přepracovat architekturu pro vyšší odolnost a zachovat institucionální znalosti, které udržují kritické systémy v chodu. To je více než efektivita. Je to zmírňování rizik. A vytváří to pevnější základ dlouhodobého růstu.

Jak správně zavádět AI

Organizace, které začínají promyšleným využitím a zaváděním AI a současně upřednostňují podmínky pro její bezpečné a účinné používání, již dosahují — a nadále budou dosahovat — větších přínosů svých AI strategií. Optimalizace nepramení z propouštění lidí. Pramení z investic do nich, přepracování pracovních postupů a vzdělávání týmů v tom, jak AI nejlépe používat.

To vlastně není nic nového. Technologie se vyvíjí v generačních cyklech již stovky let. Pokaždé máme sklon opakovat stejné chyby. Přeháníme to a snažíme se z konkrétního pokroku udělat všelék na všechno, co nás trápí. Není nouze o šarlatány, kteří využívají této zoufalosti, slibují příliš mnoho a mizí dříve, než lze výsledky změřit. Ve skutečnosti AI a ML dokážou to, co počítače dělaly vždy: vykonávat určité úkoly rychleji a přesněji než člověk. Kdo najde tyto příležitosti a použije AI pragmaticky ke spolupráci, rychle uvidí návratnost investice. V praxi to znamená:

• Využívat AI k odstranění úkolů s nízkou hodnotou, nikoli hodnotného lidského úsudku
• Navrhovat pracovní postupy s účastí člověka ke snížení rizik rozhodnutí s velkým dopadem
• Stanovit jasné eskalační cesty, když systémy AI selžou nebo přinesou nejisté výsledky
• Výslovně přidělovat odpovědnost za rozhodnutí založená na AI
• Školit týmy, aby výstupy AI kriticky posuzovaly, nikoli slepě přijímaly

Skutečná cena nesprávného postupu

Současný cyklus hromadného propouštění v technologickém odvětví následovaného tichým opětovným najímáním není přesunem talentů. Je to přenos rizika. Organizace vyměňují desetiletí institucionální paměti za několik málo měsíců automatizované rychlosti a IT vedoucí pak nesou odpovědnost za zvládání následků.

AI nabízí skutečné přínosy, ale největší hodnotu mají tehdy, když AI slouží k zachování a posílení odbornosti, nikoli k jejímu nahrazení. V éře AI budou nadále prosperovat nikoli firmy, které provedou nejhlubší škrty nebo nasadí nejvíce AI nástrojů, ale ty, které AI promyšleně využívají k automatizaci monotónní práce a posílení lidské tvořivosti, spolupráce a odbornosti.

Až totiž selže další systém nebo přijde další výpadek či kybernetický incident, nebudete chtít robota nebo stroj v čele obnovy systémů nebo komunikace se zákazníky. Tehdy budete chtít — a potřebovat — člověka s hlubokými znalostmi a historickým kontextem, který ve firmě stále pracuje.

Chceme-li uvolnit plný potenciál AI, musíme se soustředit na její využití k monotónním úkolům a přestat ji používat jako omluvu špatných obchodních výsledků.