Jak velký bude skutečný dopad zákona EU o umělé inteligenci na váš podnik?

Jak nové ustanovení nabývají účinnosti, zde je to, co společnosti opravdu potřebují vědět o souladu

2. února 2025 byla první velkou milník v zavádění zákona EU o umělé inteligenci, s ustanoveními, které zakazují zakázané postupy umělé inteligence a vyžadují, aby organizace zajistily, že jejich zaměstnanci mají dostatečné znalosti, dovednosti a porozumění o tom, jak umělé inteligence funguje, o jejích rizicích a výhodách (gramotnost umělé inteligence). Nyní 2. srpna 2025 představuje další kritický okamžik, protože povinnosti pro obecné modely umělé inteligence jsou nyní účinné.

Zákon o umělé inteligenci se vztahuje na ty, kteří prodávají, dovážejí nebo zpřístupňují systémy umělé inteligence nebo obecné modely umělé inteligence v EU, ať už jsou založeny v EU nebo ne. Také se vztahuje na společnosti se sídlem v EU, které používají systémy umělé inteligence nebo modely.

Zatímco společnosti jsou skutečně znepokojeny povinnostmi souladu s umělou inteligencí, realita pro většinu podniků bude méně dramatická, než by se mohlo zdát na první pohled.

Jako někdo, kdo řídí globální společnost, která používá umělé inteligence rozsáhle v naší platformě pro správu dokumentů, musel jsem tuto regulaci řešit osobně. Pravda je, že pro většinu podniků je zákon o umělé inteligenci mnohem více zvladatelný, než se může zdát na první pohled – podobně jako GDPR, které se z amerického pohledu zdálo být přehlcující, ale ukázalo se být zvladatelným, jakmile jste pochopili principy.

Ale na rozdíl od jediného data implementace GDPR, zákon o umělé inteligenci se zavádí fázovitě. S pokutami až do výše 35 milionů eur nebo 7 % celosvětového obratu a jedním kritickým vlnou vynucování, která nás právě minulá, a další velkou lhůtou před námi, je nezbytné mít správnou strategii souladu.

Kde jsme na časové ose

K 2. srpnu 2025 jsou povinnosti pro obecné modely umělé inteligence (GPAI) nyní účinné – a to ovlivňuje mnohem více společností, než si většina uvědomuje. Pokud používáte základní modely, jako je GPT-5, Claude nebo Llama ve svých produktech, můžete zdědit povinnosti souladu, i když se považujete pouze za “uživatele” modelu.

Povinnosti zahrnují prokázání souladu s autorským zákonem v trénovacích datech, provedení testů na bezpečnostní zranitelnosti, implementaci robustních bezpečnostních opatření a poskytnutí podrobné technické dokumentace o schopnostech a omezeních modelu.

Mnoho společností SaaS předpokládá, že jsou osvobozeny, protože nevyvíjejí modely od začátku. Ale pokud provádíte jemné úpravy nebo jinak modifikujete modely, můžete se sami najít pod povinnostmi GPAI. Čára mezi “používáním” a “poskytováním” systémů umělé inteligence je v regulaci úmyslně široká.

2. srpna 2026 je velký milník, na který je třeba si dát pozor. Do tohoto data musí systémy umělé inteligence klasifikované jako “vysoké riziko” splňovat komplexní požadavky souladu. Rozsah je širší, než si mnoho podniků uvědomuje, a povinnosti jsou podstatné.

Klasifikace vysokého rizika zahrnuje systémy používané pro nábor a přijímání, hodnocení úvěru a finanční rozhodnutí, hodnocení vzdělávání, lékařskou diagnostiku, bezpečnostně kritickou infrastrukturu a aplikace pro vymáhání práva. Pokud váš nástroj umělé inteligence pomáhá určit, kdo je přijat, schválen pro úvěry, přijat do programů nebo diagnostikován s podmínkami, jste pravděpodobně v rámci.

Existuje břemeno, které s tím souvisí. Budete potřebovat komplexní systémy řízení rizik s pokračující monitorovací, technickou dokumentací, která prokazuje bezpečnost a spolehlivost vašeho systému, standardy kvality dat s auditem integrity trénovacích dat, automatické protokolování všech rozhodnutí a operací systému, smysluplnou lidskou kontrolu s možností zasáhnout v reálném čase a označení CE s třetí stranou shody.

To není jen o přidání prohlášení na vaši webovou stránku. Systémy s vysokým rizikem vyžadují typ kvalitních systémů managementu, které se obvykle vyskytují v výrobě lékařských zařízení nebo bezpečnostních systémech automobilů.

Pochopení kategorií rizik

Zákon o umělé inteligenci funguje na základě čtyřstupňového, založeného na riziku přístupu, který je nuancovanější, než si mnoho lidí uvědomuje.

• Neakceptovatelné riziko (zakázané): Tyto aplikace umělé inteligence jsou zakázány – systémy sociálního hodnocení, manipulativní umělé inteligence zaměřené na zranitelné skupiny, identifikace v reálném čase v veřejných prostorech (s omezenými výjimkami pro vymáhání práva) a rozpoznávání emocí na pracovištích nebo ve školách.
• Vysoké riziko (silně regulované, ale povolené): To je místo, kde se mnoho podniků chytí nepřipravených. Jak je uvedeno výše, aplikace s vysokým rizikem zahrnují nástroje pro screening životopisů a přijímání, systémy pro hodnocení úvěru a poskytování úvěrů, lékařské diagnostické zařízení, bezpečnostní systémy v dopravě (autonomní vozidla, řízení dopravy), nástroje pro hodnocení vzdělávání, aplikace pro vymáhání práva a kritickou infrastrukturu.
• Omezené riziko (požadavek transparentnosti): Tyto systémy se primárně týkají umělé inteligence, která interaguje přímo s lidmi nebo generuje obsah, který by mohl být považován za materiál vytvořený člověkem. To zahrnuje chatboty, virtuální asistenty a systémy umělé inteligence, které vytvářejí syntetický obsah, jako jsou deepfakes nebo upravené obrázky a videa. Pro tyto aplikace je hlavním regulačním požadavkem transparentnost – uživatelé musí být jasně informováni, zda interagují se systémem umělé inteligence nebo člověkem, nebo zda byl obsah umělým.
• Minimální riziko: Většina aplikací umělé inteligence spadá do kategorie minimálního rizika, která pokrývá systémy, které představují malé nebezpečí pro základní práva nebo bezpečnost. To zahrnuje běžné podnikové nástroje, jako jsou filtry spamu, systémy pro správu zásob, základní analytické platformy, doporučení pro obsah nebo produkty a automatické směrování zákaznické podpory. Pro systémy s minimálním rizikem neexistují žádné zvláštní regulační povinnosti podle zákona o umělé inteligenci, kromě obecných požadavků, jako je gramotnost umělé inteligence pro zaměstnance.

Pokud spadáte do kategorií “Neakceptovatelné” nebo “Vysoké riziko”, transparentnost sama o sobě nestačí. Pokud spadáte do kterékoliv jiné kategorie, požadavky souladu jsou zvladatelné.

Efekt vlny základních modelů

Lhůta GPAI, která právě uplynula, si zaslouží zvláštní pozornost, protože vytváří efekt vlny v celém ekosystému umělé inteligence. Poskytovatelé základních modelů, jako jsou OpenAI, Anthropic a Meta, museli implementovat nová opatření souladu, a tyto požadavky se šíří po proudu k jejich podnikovým zákazníkům.

Pokud stavíte na těchto modelech, budete muset pochopit postoj svého poskytovatele k souladu a to, jak ovlivňuje vaše vlastní povinnosti. Někteří poskytovatelé modelů mohou omezit určité použití, jiní mohou přenést náklady na soulad ve formě vyšších cen nebo nových služeb.

Společnosti by měly provést audit svého dodavatelského řetězce umělé inteligence, pokud tak dosud neučinily. Dokumentujte, které modely používáte, jak je přizpůsobujete, a jaké údaje procházejí jimi. Tento inventář bude nezbytný pro pochopení vašich současných povinností GPAI a přípravu na požadavky systémů s vysokým rizikem v roce 2026.

Dostání se před křivku

Zákon o umělé inteligenci představuje první komplexní regulaci umělé inteligence na světě a nyní jsme uprostřed jeho fázového zavádění. S povinnostmi GPAI nyní účinnými a velkou lhůtou pro systémy s vysokým rizikem se blížící v srpnu 2026, společnosti, které považovaly GDPR za břemeno, zmeškaly příležitost proměnit ochranu soukromí v diferenciátor. Nezopakujte stejnou chybu s řízením umělé inteligence.

Podniky, které budou mít největší potíže, jsou ty, které jsou přistiženy nepřipravené, když se vynucování zákonů zintenzivňuje. Ty, které budují odpovědně dnes, zjistí, že soulad posílí, spíše než zhorší, jejich strategii umělé inteligence. Ještě je čas dostat se před křivku – ale okno se rychle zavírá.