AI rozhoduje každou minutu. Většina řízení se stále řídí čtvrtletním cyklem

Systém podporovaný AI může ovlivnit stovky provozních rozhodnutí ještě předtím, než řídicí výbor naplánuje další schůzi. Řízení založené na čtvrtletních revizích nebylo pro takové tempo nikdy navrženo a právě kvůli tomuto nesouladu začíná mít mnoho podnikových programů AI potíže.

Obrovské množství času trávíme debatami o tom, které modely nasadit. Gartner však předpovídá, že do roku 2026 organizace opustí 60 % projektů AI, které nejsou podloženy daty připravenými pro AI. Většina neúspěchů podnikových projektů AI má se samotným modelem jen velmi málo společného. Příčina je mnohem zásadnější: organizace nemají důvěryhodný a propojený přehled o vlastním podnikání.

Skryté náklady dat „připravených pro AI“

Většina podniků podceňuje úsilí potřebné k tomu, aby u dat stanovila odpovědnost, nastavila jejich správu a zajistila důvěru v ně i potřebný kontext. Jen málokteré investují do mezifunkčních odborných znalostí a provozního modelu, které jsou nezbytné pro vytvoření rámců řízení zajišťujících transparentnost, vysvětlitelnost a odpovědnost potřebné k tomu, aby se AI dostala za hranice pilotních projektů.

Zákazníkům doporučuji jednoduchý test. Dokáže organizace jasně vysvětlit, kdo odpovídá za data, jak souvisejí s podnikovými procesy, jaká pravidla upravují jejich používání a kdo nese odpovědnost za rozhodnutí podporovaná AI? Pokud ne, jejich iniciativy v oblasti AI pravděpodobně neuspějí, bez ohledu na to, kolik investují do platforem, infrastruktury nebo modelů.

Prvním krokem každé podnikové cesty k AI by měla být investice do řízení a praktického provozního modelu, který jasně stanoví odpovědnost, vyvozování odpovědnosti a rozhodovací pravomoci. Vidím však, že většina organizací postupuje opačně: nejprve zavádí modely a infrastrukturu a teprve potom buduje základy potřebné k provozování AI ve velkém měřítku.

Rozhodnutí podporovaná AI se však neopírají jen o jednotlivé datové body; závisí také na pochopení toho, jak informace souvisejí s podnikovými procesy, zásadami, odpovědností a provozním kontextem. Pokud jsou tyto vztahy roztříštěné, organizace by neměly být překvapené, když doporučení AI začnou být nekonzistentní.

Když aplikace AI způsobí situaci, kdy jen těsně nedojde k problému, selžou nebo nabídnou protichůdná doporučení, důležité otázky se týkají organizace, nikoli technologií. Kdo odpovídá za data? Kdo odpovídá za rozhodnutí? Kdo může rozhodnutí AI přehlasovat? Jak se řeší eskalace výjimek? Bez odpovědí podnikům hrozí, že vytvoří automatizaci bez odpovědnosti.

Důvěra se buduje před nasazením

Důvěra v AI se vytváří dlouho předtím, než se začne používat jakýkoli model. Efektivní řízení vyžaduje spolupráci mezi technologickými týmy, jednotlivými podnikovými funkcemi a oblastmi řízení rizik, práva, dodržování předpisů a bezpečnosti, protože systémy AI překračují hranice organizačních útvarů, zatímco odpovědnost často zůstává roztříštěná. Mnohé problémy s řízením připisované AI jsou příznaky starších potíží s odpovědností za data a rozhodovacími pravomocemi, které technologie pouze odhalila.

Většina organizací už má zavedené mechanismy řízení v podobě bezpečnostních zásad, rámců pro dodržování předpisů a schvalovacích procesů. Často jim však chybí propojený přehled o tom, jak do sebe tyto části zapadají.

Důvěra vzniká, když zúčastněné strany rozumějí důvodům, o něž se doporučení opírají, důvěřují podkladovým datům a vědí, že jsou zavedena vhodná kontrolní opatření i mechanismy eskalace. Nic z toho nelze doplnit až po incidentu.

Když se čtvrtletní řízení střetává s rozhodováním každou minutu

Tradiční modely řízení se opírají o pravidelné revize, řídicí výbory a zpětné vykazování. Systémy podporované AI vytvářejí doporučení průběžně a ve velkém měřítku. Stávající rámce nejsou špatné, jsou však příliš pomalé a odtržené od provozního rozhodování. Čtvrtletní cyklus revizí nemůže řídit rozhodnutí, která se přijímají každou hodinu každého dne.

Největší úspěch podle mého pozorování dosahují organizace, které začleňují řízení přímo do provozních pracovních postupů prostřednictvím vynucování zásad, schvalovacích postupů, monitorování, auditovatelnosti a lidského dohledu. Zavázaly se přejít od pravidelného k průběžnému řízení, takže mohou v reálném čase sledovat, jaká data se používají, která rozhodnutí jsou ovlivňována, kdo za ně nese odpovědnost a kdy je nutný zásah člověka.

Průběžné řízení znamená víc než jen monitorování výstupů AI. Zahrnuje pochopení toho, jaké informace AI používá, zda jsou stále platné a zda jsou rozhodnutí nadále v souladu s podnikovými zásadami a cíli.

AI si bude sama sobě odporovat

Velké organizace se každý den potýkají s protichůdnými prioritami. Bezpečnostní týmy chtějí snížit rizika, provozní týmy chtějí stabilitu, obchodní týmy chtějí rychlost a finanční týmy chtějí nákladovou efektivitu. Nyní do toho vstupují systémy AI, které se trénují na různých souborech dat a podle různých cílů, a přirozeně tak budou tyto priority odrážet.

Systém AI zaměřený na bezpečnost může doporučit okamžitou nápravu kritické zranitelnosti, zatímco provozní tým změnu odloží, protože dotčený systém zajišťuje kritickou podnikovou službu. Oba přístupy mohou být oprávněné. Řešení těchto konfliktů vyžaduje jasně stanovené rozhodovací pravomoci, určenou odpovědnost za rizika a postupy eskalace.

AI by měla poskytovat data, kontext a doporučení, odpovědnost za vyvažování obchodních, provozních a rizikových hledisek však musí zůstat na organizaci.

Jak reagovat na skepsi, když se objeví nesrovnalosti

Pokud AI vydá nekonzistentní doporučení, je zřejmé, že k ní bude firma v budoucnu přistupovat skepticky. Důvěra se obnovuje, když zúčastněné strany chápou, proč bylo doporučení vydáno, jaká data byla použita a kdo nadále odpovídá za výsledek.

AI často odhalí problémy s kvalitou dat, nejasnosti v odpovědnosti a nesrovnalosti v procesech, které v organizaci existovaly už dříve. Využít tyto situace jako příležitost ke zlepšení správy a provozních postupů je mnohem přínosnější než obhajovat samotnou technologii. Důvěra se postupem času získává transparentností, konzistentním přístupem a prokazatelnými obchodními výsledky.

Základ důvěryhodných informací

Diskuse o připravenosti na AI se obvykle zaměřuje na modely, infrastrukturu a nástroje. V praxi organizace, které dosahují největších úspěchů, investují do něčeho zásadnějšího: do důvěryhodného informačního základu. Ten poskytuje obchodní kontext, který objasňuje, jak informace souvisejí s procesy, zásadami, odpovědností a provozním rozhodováním, a dává tak AI pevnější základ pro doporučení, jimž organizace rozumějí, mohou je řídit a důvěřovat jim.

Ani nejpokročilejší model AI nedokáže nahradit nedostatečnou správu informací, nejasné rozdělení odpovědnosti ani chybějící obchodní kontext. Organizace musí vybudovat kontext, správu, institucionální paměť a schopnost rozhodovat na základě informací, které jsou nezbytné k odpovědnému a efektivnímu využívání AI ve velkém měřítku.

Tato práce postupuje pomaleji a je méně viditelná než nasazení nového modelu, v konečném důsledku však rozhoduje o tom, zda model přinese dlouhodobou hodnotu pro podnikání.