Dokážete obhájit, co vaše AI právě udělala?

Regulační termíny pro AI se neustále posouvají, ale potřeba odpovědnosti AI zůstává 

Po dobu dvou let se regulační debata o podnikovém AI točila kolem termínů. Vysoce riziková ustanovení zákona EU AI Act měla vstoupit v platnost 2. srpna. První AI zákon v zemi v Coloradu měl vstoupit v platnost 30. června. Washington měl konečně vyřešit otázku, kdo má právo regulovat co. 

Takže, vidíme pokrok vůči těmto termínům? Jaksi ano. 

Během přibližně šesti týdnů na jaře EU souhlasila s odkladem povinností vysokého rizika podle přílohy III na prosinec 2027, a systémy s vysokým rizikem zabudované do produktů na 2. srpen 2028. V Coloradu, federální soudní příkaz zastavil generálního prokurátora státu v prosazování původního zákona a nahradil jej užším rámcem založeným na oznámení, který vstoupí v platnost 1. ledna 2027. Dne 2. června Bílý dům podepsal výkonný příkaz týkající se AI, který zvolil záměrně pro‑inovační postoj, upřednostňující dobrovolnou spolupráci s předními vývojáři před jakýmkoli povinným licencováním či předběžným schválením modelů AI. 

Posouvající se termíny a iluze regulační úlevy

Důležitým bodem pro podniky je, že posouvání termínů neznamená, že odpovědnost za AI zmizela. V Evropě, i když se některé požadavky na vysoké riziko posunuly, povinnosti týkající se transparentnosti, AI gramotnosti, syntetického obsahu a vymáhání nadále postupovaly. Colorado vypráví podobný příběh: zákonodárci odstranili některé z nejnáročnějších požadavků na shodu, ale zachovali základní principy, jako je oznamování, kdy je AI zapojena, vysvětlení nepříznivých rozhodnutí, oprava špatných dat a zajištění cesty k lidskému přezkoumání.

To je užitečný signál, kam se regulace nakonec může sbližovat. Tvůrci politik se mohou lišit v názorech na hodnocení dopadů, licenční režimy a na tom, na jaké úrovni vlády by měla pravidla stanovovat. Schopnost vysvětlit, co systém AI udělal, zdokumentovat, jak dospěl k výsledku, a poskytnout lidem smysluplnou nápravu se však ukazuje jako mnohem těžší k vyřazení zákonem. Banka stále musí vysvětlit rozhodnutí o úvěru ovlivněné AI. Nemocnice stále potřebuje záznam o tom, jak byla AI‑asistovaná doporučení dosažena. Společnost stále potřebuje vědět, co se stane, když automatizovaný systém vytvoří výsledek, který musí obhájit.

Pokud vůbec, rostoucí dostupnost otevřených modelů tuto odpovědnost ještě zvýrazňuje. Čím více kontrolu má podnik nad tím, jak a kde model běží, tím těžší je považovat odpovědnost za problém někoho jiného. Pokud organizace nedokáže rekonstruovat, vysvětlit a obhájit, co její AI systémy dělají, regulační prodlevy poskytují jen dočasnou úlevu.

Jste-li Chief AI Officer, vedoucí řízení rizik modelů nebo máte jiné povinnosti související s využitím AI v regulovaném odvětví a prožili jste jakékoli jiné období inovací a regulace, víte, že první vždy předběhne druhé – a skutečná odpovědnost je určena tím, co vaše organizace dělá při nasazení, ať už s ohledem na regulační požadavky nebo bez nich.  

Mezera důvěry a ověřování AI: Proč tržní riziko předčíná soulad

Odpovědnost je definována rozhodnutími učiněnými bez dohledu a kumuluje se v obou směrech. Přestože se odpovědnost podnikového AI často mylně považuje za koncept založený na důsledcích, který vymysleli regulátoři, vzniká v okamžiku, kdy společnost nasadí AI, ať už někdo již definoval vynutitelné následky, nebo ne. A nasazování urychluje mnohem rychleji než jakýkoli kalendář shody – nejrychleji nyní, když autonomní agenti přecházejí do výroby, provádějí akce, manipulují s daty a rozhodují rychlostí, kterou žádný lidský recenzent nedokáže dohánět. Gartner očekává, že 40 % podnikových aplikací bude zahrnovat úkolově specifické AI agenty do konce tohoto roku, oproti méně než 5 % v roce 2025. 

Proto nejvýznamnější signál v podnikovém AI nyní nepřichází od regulátorů – přichází z představenstev a je prezentován na kariérních stránkách firem napříč odvětvími. Dohled na úrovni představenstva nad AI vzrostl o 84 % v zveřejněních veřejných společností a Forrester předpovídá, že 60 % společností Fortune 100 jmenuje tento rok dedikovaného vedoucího správy AI. Morgan Stanley a BlackRock začaly započítávat zralost správy AI do oceňování firem. To není reakce na zákon. Je to reakce na riziko, které společnosti již nasazující AI uznávají ve všem, od řízení a provozu podniku až po jejich pracovní nabídky. 

Stanford Index AI 2026 zjistil, že bezpečnost a riziko – nikoli kvalita modelu nebo cena – jsou nyní největší překážkou pro škálování agentní AI, uváděno 62 % organizací a výrazně předčí technická omezení a regulační nejistotu. Tato vzdálenost – mezi tím, co systém dělá, a tím, co jeho vlastník může skutečně prokázat – je mezera důvěry a ověřování AI a neuzavře se podle časového plánu regulátorů. 

Vzor, kdy inovace předbíhá regulaci, je stejný jako u přijetí cloudu, zavedení šifrování a celého odvětví kybernetické bezpečnosti během posledních tří desetiletí – média to pokrývají, regulátoři to uznávají a každé odvětví se potýká s reálnými dopady a jedinečnými scénáři, jak přechází od neochoty přes experimentování až po různé stupně podnikového přijetí. U cloud computingu AWS spustil v roce 2006 a podniky migrovaly citlivá data a klíčové systémy téměř deset let, než se dohnala shoda s předpisy. FedRAMP se objevil až v roce 2011, odvětví muselo vynaleznout „model sdílené odpovědnosti“, aby přiřadilo odpovědnost, kterou smlouvy neměly, a GDPR nedal skutečný „zuby“ zacházení s daty až do roku 2018. Kybernetická bezpečnost následovala stejný vývoj: PCI DSS nebyl formalizován až v roce 2004, dlouho poté, co se data karet již přesouvala online; zákon o oznamování úniků začal jediným kalifornským předpisem v roce 2003 a dnes zůstává mozaikou států; a SEC nevyžadoval, aby společnosti zveřejňovaly podstatné kybernetické incidenty až do roku 2023. V obou případech byla odpovědnost skutečná dlouho před tím, než existovalo pravidlo, a trh, zákazníci, auditoři, pojišťovny a občasný veřejně známý únik ji vynutili na firmy, které to jinak popíraly.

Od schopnosti pilotů k obhajitelnosti výsledků ve výrobě

Rychlost a schopnost byly tím, co dostalo AI do podnikových pilotů, a stejně jako u každé jiné velké technologické inovace, to bylo z nutnosti. Ale nejsou dostačující k nasazení AI do výroby v silně regulovaných prostředích s komplexními datovými sadami a pracovními postupy – banky, pojišťovny, kritická infrastruktura, obranné programy – prostředí, kde někdo nakonec musí předložit rozhodnutí řízené AI regulátorovi, představenstvu nebo advokátovi žalobce a obhájit jej. V takových místnostech není odpovědí „model je velmi schopný“.

Toto rozlišení se stalo skutečnou hranicí a více podniků si uvědomuje, že jde spíše o problém architektury než o politiku. Nelze po faktu auditovat černou skříňku a přeměnit ji na odpovědnou. Vysvětlitelnost, sledovatelnost a jasný řetězec vlastnictví musí být buď zabudovány do systému, nebo neexistují, a organizace, které se to naučily těžkou cestou, jsou ty, které nasadily první a až poté se ptaly na odpovědnost. Gartner předpovídá, že do roku 2027 bude 40 % podniků muset degradovat nebo vyřadit autonomní agenty právě kvůli mezerám ve správě, které objeví až po selhání ve výrobě.

Únik Klue z předchozího léta slouží jako vynikající příklad, který se s postupem času stal ještě poučnějším. Klue je platforma pro konkurenční inteligenci řízenou AI a útočníci neporazili sofistikované obrany, ale použili jediný integrační pověření, vydané v roce 2022 pro pilot, který byl později opuštěn a nikdy neodvoláno, aby se autentizovali do CRM spojení zákazníků a získali záznamy prostřednictvím automatizovaných dotazů. Co začalo jako několik odhalení, rozšířilo se na zapojení více společností. I po tom, co původní útočník začal spolupracovat, objevil se druhý skupina, která tvrdila, že má stejná odcizená data a provozuje vlastní vydírací kampaň. 

Expozice nebyla selháním modelu nebo chytrým zero‑day; šlo o důvěryhodnou, automatizovanou přístupovou cestu, za kterou nikdo nebyl aktivně odpovědný, a která i po údajně „vyřešeném“ incidentu nadále generovala důsledky. Jak podniky propojují AI a její agenty s více svými systémy, každé z těchto spojení se stává stejnou otázkou čekající na odpověď: kdo jej vlastní, kdo jej sleduje a kdo za něj odpovídá, když se pohybuje rychleji, než ho může kdokoli dohlížet?

Regulátoři posouvají termíny právě kvůli tomuto základnímu problému. Udělat tyto systémy čitelné, testovatelné a odpovědné je skutečně obtížné a standardy a nástroje nejsou ještě plně vyvinuty. To však není důvod k čekání, naopak je to nejjasnější signál toho, co je třeba okamžitě upřednostnit. Podniky, které považují dodatečný čas za povolení k odkladu, stráví rok 2027 pod tlakem to, co jejich konkurenti nyní dělají dobrovolně.

Definice úspěchu nasazení AI v podniku musí přejít od schopnosti pilotů k obhajitelnosti výsledků. V praxi to znamená projít třemi testy na každé rozhodovací cestě, kde je AI zapojena: trvalý záznam toho, co systém udělal, vysvětlení srozumitelné i pro ne‑inženýra a cesta, kterou může postižená osoba napadnout výsledek. To není rámec, který někdo vymyslel v prezentaci dodavatele, ale téměř řádek po řádku to, co přežilo deregulaci v Coloradu.

Ptát se, zda je AI důvěryhodná v abstraktním smyslu, byl filozofický debat v roce 2025. Nyní i v budoucnu musí podniky být schopny odpovědět na otázku, zda dokážou obhájit výsledky, které AI přináší, a dokázat to pokaždé komukoli, kdo se zeptá.

Termíny mohou být posunuty a další prodloužení mohou přetrvávat, ale na rozdíl od regulátorů, trhu a zákazníků, kterým vaše firma nakonec slouží, neudělují prodlevy ani neakceptují výmluvy.