Myslitelé
Ano, Akt EU o umělé inteligenci se vztahuje i na agentickou umělou inteligenci — takto

Klíčové bodyAgentní AI již spadá pod unijní akt o AI, protože splňuje definici systému AI.
Zobrazit více
- Agentní AI již spadá pod unijní akt o AI, protože splňuje definici systému AI.
- Akt o AI reguluje to, co technologie dělá, a rizika, která vytváří, spíše než aby pojmenovával konkrétní technologie.
- Technologičtí giganti lobbující proti aktu o AI prosazují samoregulaci, která se rovná regulatornímu zajetí.
V současnosti se často tvrdí, že agentická umělá inteligence a agenti umělé inteligence spadají do jakési regulační mezery, a že Akt EU o umělé inteligenci není k jejich regulaci dostatečně uzpůsoben. Psaly o tom renomované norské zpravodajské servery (Morgenbladet a Dagensnæringsliv) a toto tvrzení opakovali i přední akademici (University of Oslo). V těchto tvrzeních vidíme dvě zásadní chyby… a domníváme se, že vycházejí z obav, nikoli z faktů.
Za prvé, agentická umělá inteligence je regulována Aktem EU o umělé inteligenci.
Za druhé, podobná tvrzení podkopávají stávající regulaci. Posilují představu, že společnosti zabývající se umělou inteligencí mají lepší předpoklady řídit rizika spojená s jejich vlastními systémy — což je častý argument vedoucí k ovládnutí regulace.
Věnujeme se Aktu EU o umělé inteligenci poměrně intenzivně jako jmenovaní členové národního výboru pro umělou inteligenci organizace Standards Norway. Působíme také v evropských výborech, které vypracovávají harmonizované normy pro poskytovatele vysoce rizikových systémů umělé inteligence; tyto normy pomáhají společnostem plnit právní požadavky Aktu EU o umělé inteligenci.
Agentická umělá inteligence podléhá podle Aktu EU o umělé inteligenci několika formám regulace
Evropská komise zveřejnila několik srozumitelných a přehledných často kladených otázek o „agentech“ a „agentické umělé inteligenci“ a upřesnila, že ano, spadají do působnosti nařízení, a to jednoduše proto, že naplňují širší definici systému umělé inteligence (Jak jsou agenti umělé inteligence řešeni v rámci Aktu EU o umělé inteligenci? | AI Act Service Desk). Zde je několik dalších příkladů:
- Agentická umělá inteligence se často vytváří na základě velkých jazykových modelů, které jsou regulovány jako modely umělé inteligence pro obecné účely.
- Když systém agentické umělé inteligence komunikuje s lidmi, uplatní se také požadavky na transparentnost stanovené nařízením.
- Pokud je model umělé inteligence klasifikován jako model představující systémové riziko, vztahují se na jeho poskytovatele další požadavky. Patří k nim mimo jiné posuzování schopností modelu — včetně jeho autonomních a agentických funkcí.
Akt EU o umělé inteligenci nezmiňuje slovo „agent“, protože nereguluje konkrétní typy technologií. Reguluje to, k čemu je daná technologie určena, a rizika spojená s jejími funkcemi.
Akt EU o umělé inteligenci má chránit naše základní práva
Velká část kritiky Aktu EU o umělé inteligenci ze strany těch, kteří požadují přísnější regulaci, vychází ze skutečnosti, že strukturálně nelze odstranit všechna rizika. Mezinárodní regulační rámec by však nikdy nemohl předvídat všechna budoucí rizika.
Akt EU o umělé inteligenci se místo toho zaměřuje na rizika systémů umělé inteligence, která by mohla ovlivnit zdraví, bezpečnost a základní práva — což se uvádí hned v první větě prvního článku.

Snímek obrazovky ze zdroje EUR-Lex – 02024R1689-20260727 – EN – EUR-Lex
V této první větě jsme nezvýraznili také jednu zásadní věc: Akt EU o umělé inteligenci je orientován na trh. Má podporovat využívání umělé inteligence. Má podporovat inovace. Jinými slovy, Akt EU o umělé inteligenci umělé inteligenci přeje. V tomto rámci podléhají regulaci některé aplikace a oblasti.
Některé oblasti jsou předem klasifikovány jako vysoce rizikové
Mezi příklady patří systémy umělé inteligence používané v těchto oblastech:
- nábor zaměstnanců
- přidělování základních služeb
- zdravotnické prostředky
- systémy začleněné do kritické infrastruktury, kde je bezpečnost zásadní.
Poskytovatelé systémů umělé inteligence (agentických i jiných), které by mohly ovlivnit naše práva, musí zavést komplexní systémy řízení rizik, včetně posouzení toho, jak by uživatelé mohli systém umělé inteligence zneužít.
Ovládnutí regulace: když poskytovatelé navrhují samoregulaci
Pokud nasloucháme společnostem Anthropic, OpenAI a Meta i některým hlasům v norské debatě, můžeme nabýt dojmu, že umělá inteligence a agentická umělá inteligence jsou pro Akt EU o umělé inteligenci příliš složité. Pro EU příliš pokročilé. Příliš nebezpečné na to, aby je reguloval někdo jiný než samotné společnosti.
Měli bychom být obezřetní, když nejmocnější technologické společnosti na světě — které intenzivně lobbovaly za méně přísné uplatňování Aktu EU o umělé inteligenci — nyní tvrdí, že tato regulace nestačí k řízení jejich nejvýkonnějších systémů. Navrhují, aby se „regulovaly“ samy.
Jde o klasický mechanismus ovládnutí regulace — proces, při němž subjekty, které mají být regulovány, postupně utvářejí zákony a předpisy ve svůj vlastní prospěch.
Jasným příkladem jsou Spojené státy (Zahájení éry superinteligence – Bílý dům). Dohoda Bílého domu o superinteligenci je „dobrovolným paktem“ s představiteli společností X, Meta, Anthropic, OpenAI a Google, v němž tyto společnosti slibují, že se budou regulovat samy. Dokument uvádí, že zákony by mohly být vhodné v nějakém hypotetickém okamžiku v budoucnu: „Postupem času může dávat smysl zakotvit tyto kroky do zákonů nebo nařízení.“ Postupem času. Možná. O regulaci lze uvažovat jako o rozumném řešení.
Zatím se však očekává, že Američané budou důvěřovat tomu, že se tyto velké technologické společnosti budou regulovat samy.
Na rozdíl od Spojených států má Evropa závazný právní předpis: Akt o umělé inteligenci.
Ovládnutí regulace však nadále představuje riziko, mimo jiné i kvůli oslabování důvěry v tento zákon. Pokud totiž technologičtí giganti dokážou lidi přesvědčit, že Akt o umělé inteligenci není dostatečně dobrý, přestaneme podporovat jeho prosazování. Tvrzení, že agentní AI je jednoduše příliš pokročilá/chytrá/nebezpečná na to, aby ji Akt o umělé inteligenci dokázal regulovat, oslabují naši podporu regulace.
Jakmile se ovládnutí regulace prosadí, je těžké tento stav zvrátit.
Sdílíme obavy, že některé systémy AI mohou vést k důsledkům, které je obtížné předvídat. Právě proto potřebujeme postupy řízení rizik – jak to vyžaduje i Akt o umělé inteligenci. (Dr. Muller působí ve výboru, který téměř dokončil vypracování harmonizované normy pro řízení rizik, 18228.)
Akt EU o umělé inteligenci není dokonalý a pravděpodobně bude potřeba jej dále rozvíjet. Vykreslování agentní AI jako oblasti, na kterou se Akt EU o umělé inteligenci nevztahuje, však pouze zvyšuje nejistotu, nikoli bezpečnost.













