Nacháhnutí rovnováhy: Globální přístupy ke zmírnění rizik souvisejících s umělou inteligencí

Nejde o žádné tajemství, že v posledních letech moderní technologie tlačí etické hranice stávajících právních rámců, které nebyly vytvořeny pro ně, což vede k právním a regulačním pastem. Regulátoři se snaží bojovat proti účinkům tohoto stavu různými způsoby v různých zemích a regionech, což zvyšuje globální napětí, když nelze dosáhnout dohody.

Tyto regulační rozdíly byly zdůrazněny na recentním AI Action Summitu v Paříži. Závěrečné prohlášení této události se zaměřilo na otázky inkluze a otevřenosti ve vývoji umělých inteligencí. Zajímavé je, že pouze obecně zmínilo bezpečnost a důvěryhodnost, bez zdůrazňování konkrétních rizik souvisejících s umělou inteligencí, jako jsou bezpečnostní hrozby. Tento dokument byl vypracován 60 národy, Spojené království a Spojené státy byly zjevně chybějící ze seznamu signatářů, což ukazuje, jak málo je v současné době konsenzus mezi klíčovými zeměmi.

Zmírňování rizik umělých inteligencí globálně

Vývoj a nasazení umělých inteligencí je upraveno jinak v každé zemi. Přestože většina z nich spadá někam mezi dvě extrémy – postoje Spojených států a Evropské unie (EU).

Americký přístup: nejdříve inovovat, pak regulovat

Ve Spojených státech neexistují žádné federální zákony, které by specificky upravovaly umělou inteligenci, místo toho se spoléhá na tržní řešení a dobrovolné směrnice. Existují však einige klíčové legislativní akty pro umělou inteligenci, včetně National AI Initiative Act, který má za cíl koordinovat federální výzkum v oblasti umělých inteligencí, Federal Aviation Administration Reauthorisation Act a dobrovolný rámec pro řízení rizik Národního institutu pro standardy a technologii (NIST).

Americký regulační rámec zůstává tekutý a je podroben velkým politickým změnám. Například v říjnu 2023 vydal prezident Biden výkonný příkaz o bezpečném, zabezpečeném a důvěryhodném vývoji a používání umělých inteligencí, který stanovil standardy pro kritickou infrastrukturu, posílil kybernetickou bezpečnost založenou na umělých inteligencích a upravil projekty financované federálními prostředky. Nicméně v lednu 2025 prezident Trump zrušil tento výkonný příkaz, aby se otočil pryč od regulace a upřednostnil inovace.

Americký přístup má své kritiky. Ti poukazují na to, že jeho “fragmentovaný charakter” vede k složitým sítím pravidel, která “postrádají vynutitelné standardy“, a že má “mezeru v ochraně soukromí“. Nicméně, celkový přístup je v pohybu – v roce 2024 zavedli zákonodárci státu téměř 700 nových legislativních aktů týkajících se umělých inteligencí a proběhlo několik slyšení o umělých inteligencích ve vládě, jakož i o duševním vlastnictví. Ačkoli je zřejmé, že americká vláda se nebojí regulace, zjevně hledá způsoby, jak ji zavést, aniž by musela ohrozit inovace.

Evropský přístup: priorita prevence

Evropská unie zvolila jiný přístup. V srpnu 2024 zavedl Evropský parlament a Rada Zákon o umělých inteligencích (AI Act), který je považován za nejkomplexnější legislativní akt pro umělou inteligenci do dneška. Použitím rizika-založeného přístupu zákon ukládá přísná pravidla pro systémy s vysokou citlivostí, jako jsou ty používané ve zdravotnictví a kritické infrastruktuře. Aplikace s nízkým rizikem čelí pouze minimálnímu dohledu, zatímco některé aplikace, jako jsou vládní sociální systémy hodnocení, jsou zcela zakázány.

V Evropské unii je dodržování předpisů povinné nejen uvnitř jejích hranic, ale také pro všechny poskytovatele, distributory nebo uživatele systémů umělých inteligencí, kteří operují v EU, nebo nabízejí řešení umělých inteligencí na jejím trhu – i když byl systém vyvinut mimo EU. Je pravděpodobné, že to bude představovat výzvy pro americké a další neevropské poskytovatele integrovaných produktů, kteří se budou snažit přizpůsobit.

Kritika evropského přístupu zahrnuje jeho údajné selhání v nastavení zlatého standardu pro lidská práva. Nadměrná složitost byla také zmíněna spolu s nedostatkem jasnosti. Kritici se obávají o velmi přísných technických požadavcích EU, protože přicházejí v době, kdy EU usiluje o posílení své konkurenceschopnosti.

Nalezení regulačního středního půlení

Zatímco Spojené království přijalo “lehký” rámec, který se nachází někde mezi EU a Spojenými státy, a je založen na základních hodnotách, jako je bezpečnost, spravedlnost a transparentnost. Stávající regulátoři, jako je Úřad pro komisaře informací, mají pravomoc uplatňovat tyto zásady ve svých příslušných oblastech.

Vláda Spojeného království zveřejnila Akční plán pro příležitosti v oblasti umělých inteligencí, který nastiňuje opatření pro investice do základů umělých inteligencí, implementaci celoekonomického přijetí umělých inteligencí a podporu “domácích” systémů umělých inteligencí. V listopadu 2023 založilo Spojené království Ústav pro bezpečnost umělých inteligencí (AISI), který vznikl z Frontier AI Taskforce. AISI byl vytvořen za účelem hodnocení bezpečnosti pokročilých modelů umělých inteligencí, spolupracuje s významnými vývojáři, aby dosáhl tohoto cíle prostřednictvím bezpečnostních testů.

Kritika britského přístupu k regulaci umělých inteligencí zahrnuje omezené možnosti vynucení a nedostatek koordinace mezi sektorovými legislativami. Kritici také poukázali na nedostatek centrální regulační autority.

Stejně jako Spojené království i další významné země našly své místo někde na spektru mezi Spojenými státy a EU. Například Kanada zavedla rizika-založený přístup s navrhovaným zákonem o umělých inteligencích a datech (AIDA), který má za cíl najít rovnováhu mezi inovací, bezpečností a etickými úvahami. Japonsko přijalo “lidstvo-středový” přístup k umělým inteligencím vydáním směrnic, které podporují důvěryhodný vývoj. Zatímco v Číně je regulace umělých inteligencí těsně kontrolována státem, s nedávnými zákony, které vyžadují, aby generativní modely umělých inteligencí prošly bezpečnostními posouzeními a souladily se socialistickými hodnotami. Podobně jako Spojené království i Austrálie vydala rámec pro etiku umělých inteligencí a zkoumá aktualizaci svých zákonů o ochraně soukromí, aby řešila vznikající výzvy, které představuje inovace umělých inteligencí.

Jak založit mezinárodní spolupráci?

Jak technologie umělých inteligencí pokračuje ve vývoji, rozdíly mezi regulačními přístupy se stávají stále více zřetelnými. Každý jednotlivý přístup k otázce ochrany dat, ochrany autorských práv a dalších aspektů činí koherentní globální konsenzus o klíčových rizicích souvisejících s umělými inteligencemi stále obtížnějším. V těchto okolnostech je mezinárodní spolupráce zásadní pro stanovení základních standardů, které řeší klíčová rizika bez omezení inovací.

Odpověď na mezinárodní spolupráci může ležet v globálních organizacích, jako je Organizace pro ekonomickou spolupráci a rozvoj (OECD), Spojené národy a několik dalších, které目前 pracují na stanovení mezinárodních standardů a etických směrnic pro umělou inteligenci. Cesta vpřed nebude snadná, protože vyžaduje, aby všichni v oboru nalezli společnou půdu. Pokud vezmeme v úvahu, že inovace se pohybují rychlostí světla – čas na diskusi a dohodnutí je teď.