EU spustí první regulace umělé inteligence

Dne 21. dubna Evropská unie oznámí svůj první regulační rámec pro využití umělé inteligence. Nové regulace zcela zakážou “vysoce rizikové” systémy strojového učení a stanoví minimální standardy pro ostatní technologie strojového učení, přičemž budou ukládat pokuty ve výši 20 milionů eur nebo 4 % obratu společnosti za porušení.

Návrh nové legislativy, který získal Politico, by měl podporovat inovace a rozvoj systémů umělé inteligence pro obecný prospěch ekonomiky a společnosti EU, v oblastech jako je výroba, zlepšení energetické efektivity a modelování změny klimatu; ale zakáže použití strojového učení v systémech hodnocení úvěru, automatizovaném hodnocení trestů a posuzování způsobilosti pro sociální dávky a žádosti o azyl nebo víza, mezi jinými zákazy, které budou později odhaleny.

Návrh výslovně uvádí, že čínské sociální hodnocení systémů pro fyzické a právnické osoby jsou v rozporu s hodnotami Evropské unie a budou zakázány podle nařízení, spolu s “masovou sledovací” technologií poháněnou umělou inteligencí.

Regulační dohled

Následně po svém jmenování vysoké úrovně expertní skupiny pro umělou inteligenci v březnu 2021, Evropská unie také hodlá zřídit novou Evropskou radu pro umělou inteligenci, se zástupcem z každé členské země a zástupcem Evropské komise a evropského úřadu pro ochranu údajů.

Možná nejzásadnější a nejkontroverznější ustanovení v návrhu je, že zakazuje systémy, které způsobují újmu obyvatelům EU tím, že “manipulují jejich chováním, názory nebo rozhodnutí”, což by mohlo zahrnovat mnoho technologií, které pohánějí analýzu komerčních a politických marketingových kampaní.

Regulace budou dělat výjimky pro boj proti závažné kriminalitě, umožňující předepsané nasazení systémů rozpoznávání obličeje, v rámci rozsahu a doby použití.

Stejně jako v případě širokého rozsahu GDPR, zdá se, že tyto nové regulace mohou být dostatečně obecné, aby vyvolaly “chladivý efekt” v oblastech, kde nejsou stanoveny přísné směrnice pro použití umělé inteligence, s korporacemi, které riskují expozici, pokud jejich použití strojového učení spadá do potenciální šedé zóny v rámci regulací.

Předpojatost v nových evropských regulacích umělé inteligence

Nicméně, největší výzvou a možným právním problémem je ustanovení návrhu regulace, které stanoví, že datové sady nesmí “zahrnovat žádné úmyslné nebo neúmyslné předpojatosti”, které by mohly usnadnit diskriminaci.

Předpojatost dat je jednou z nejobtížnějších aspektů ve vývoji systémů strojového učení – obtížně prokazatelná, obtížně řešitelná a hluboce spjatá s centrálními kulturami sběru dat. Toto téma stále více staví soukromé a státní výzkumné subjekty do konfliktu mezi potřebou přesně reprezentovat odlišné skupiny (téměř zakládajícím cílem výpočetní matematiky a empirické statistické analýzy) a potenciálem šířit rasové profilování a kulturní démonizaci, mezi jinými úvahami.

Proto je pravděpodobné, že trhy mimo EU budou doufat, že nové regulace poskytnou alespoň některé konkrétní oblasti vedení a řadu aplikovatelných definic v tomto ohledu.

Externí odpor proti evropské regulaci umělé inteligence

Nová regulace pravděpodobně bude mít hluboký dopad na právní důsledky použití strojového učení pro analýzu veřejně přístupných dat – stejně jako na taková data, která budou stále možné extrahovat z uživatelů webu v post-tracker éře, která je právě zavedena Applem, Firefoxem a (v menší míře) Chromem.

Jurisdikce může být jasně definována, například v případech, kdy giganti FAANG shromažďují údaje o uživatelích v souladu s GDPR, ale zpracovávají tyto údaje prostřednictvím systémů strojového učení mimo Evropskou unii. Není jasné, zda algoritmy odvozené z takových systémů by mohly být aplikovány na platformy uvnitř EU a ještě méně jasné, jak by taková aplikace mohla být prokázána.

V případě použití umělé inteligence pro informování rozhodnutí o vazbě a trestání, rostoucí trend v Spojených státech, vlastní experimenty Spojeného království v tomto sektoru by byly pokryty novými regulacemi, pokud by země nevystoupila z Evropské unie.

V roce 2020 návrh Bílého domu na regulaci umělé inteligence uvedl americkou argumentaci pro nízkou regulaci umělé inteligence, prohlašující, že ‘federální agentury musí se vyvarovat regulačních nebo neregulačních akcí, které zbytečně brání inovacím a růstu umělé inteligence’. Argumentovatelně, tato postoje pravděpodobně přetrvají i po administrativě Trumpa, pod kterou byl návrh zveřejněn, ale spíše odráží nadcházející tření mezi Spojenými státy a EU v důsledku nové regulace.

Podobně, “AI Roadmap” Rady pro umělou inteligenci ve Spojeném království vyjadřuje velkou naději pro ekonomické výhody přijetí umělé inteligence, ale obecnou obavu, že nové regulace by neměly bránit tomuto pokroku.

První skutečný zákon pro umělou inteligenci

Závazek EU k právnímu postoji k umělé inteligenci je inovativní. Posledních deset let bylo charakterizováno bouří bílých knih a předběžných zjištění a doporučení vlád z celého světa, soustředěných na etiku umělé inteligence, s málo skutečnými zákony, které byly přijaty.

Geografické rozložení vydavatelů etických směrnic pro umělou inteligenci podle počtu vydaných dokumentů, z průzkumu z roku 2019. Nejvyšší počet etických směrnic je vydán ve Spojených státech a v Evropské unii, následován Spojeným královstvím a Japonskem. Kanada, Island, Norsko, Spojené arabské emiráty, Indie, Singapur, Jižní Korea, Austrálie jsou reprezentovány jedním dokumentem každý. Členské státy G7, které přispěly k určitému prohlášení G7, jsou vyznačeny samostatně. Zdroj: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Další čtení

Národní politiky a strategie umělé inteligence (OECD)