Mezera ve správě: Proč regulace AI bude vždy pozadu

Inovace se vyvíjí rychlostí strojů, zatímco správa se pohybuje lidskou rychlostí. S exponenciálním růstem používání AI je regulace pozadu, což je poměrně typické, pokud jde o technologii. Celosvětově se vlády a další subjekty snaží regulovat AI, ale existuje mnoho fragmentovaných a nerovných přístupů.

Část výzvy spočívá v tom, že neexistuje něco jako apolitický design technologií. Existuje řada předpisů a návrhů, od evropského AI zákona po regulační sandboxy v USA, každý s vlastní filozofií. Zatímco AI governance inherentně zaostává za inovacemi, skutečnou výzvou je zajištění bezpečnosti a politiky zodpovědně v rámci této mezery.

Povaha mezery: Inovace první, dohled později

Regulační mezera je nevyhnutelným produktem technologického pokroku. Například Henry Ford při vývoji Modelu T nezaměřoval svou pozornost primárně na bezpečnost silnic a pravidel silničního provozu. Regulační vzorce historicky následují inovace; nedávné příklady zahrnují ochranu osobních údajů, blockchain a sociální média. Rychlá evoluce AI předchází tvorbě a vynucování politik. Jinými slovy, koňský potah byl před koněm po nějakou dobu.

Část výzvy spočívá v tom, že zákonodárci často reagují na újmu místo toho, aby předjímali rizika, což vytváří cykly reaktivní správy. Problém není v samotné mezeře, ale spíše v nedostatku adaptačních mechanismů, které by umožnily držet krok s novými hrozbami, a v nedostatku vůle kompromisovat konkurenční výhodu ve prospěch bezpečnosti. Je to scénář “závodů do dna”; podkopáváme svou vlastní kolektivní bezpečnost ve prospěch lokálních konkurenčních výhod.

Globální patchwork AI governance reprezentuje fragmentované filozofie

Existující hlavní přístupy k AI governance na světě se výrazně liší.

V EU byl loni představen AI zákon, který je založen na etice a riziku. Používání AI je hodnoceno podle úrovně rizika, přičemž některé jsou považovány za nepřijatelné a jsou proto zakázány. USA naopak přijaly více regulační sandbox model, který zdůrazňuje flexibilitu inovací. Někteří by ho mohli popsat jako výjimku pro inovace, zatímco kritici jej mohou označit za blank check.

Existuje také Hiroshima proces, který obsahuje globální koordinační úmysl, ale omezené následné kroky; každá G7 země se stále zaměřuje na domácí dominanci AI.

Ve Spojených státech byla tato záležitost většinou ponechána na jednotlivých státech, což efektivní regulaci znemožňuje. Federální vláda to někdy dělá právě kvůli své neúčinnosti. Státy vytvářejí nové sandboxy, aby přilákaly technologické společnosti a investice, ale je nepravděpodobné, že by existovala nějaká významná regulace na státní úrovni; pouze výjimky udělené.

Spojené království se nachází v domácí a mezinárodní zápasu o ustanovení sebe jako silně nezávislé po Brexitu. Prostřednictvím deregulace a vládního programu “Leveling Up” není překvapením zavedení regulačních sandboxů. Britská vláda bude chtít, aby Spojené království bylo dominantní AI supervelmocí pro vnitřní i vnější politickou výhodu a stabilitu.

EU se zaměřuje více na bezpečnost spotřebitelů, ale také na sílu svého společného trhu. To má smysl, vzhledem k historii EU s patchwork regulací. Sdílená compliance, normy a přeshraniční obchod jsou klíčové pro to, co EU je. Stále vyžadují regulační sandboxy, ale také to, aby každá členská země musela mít jeden funkční do stejného data.

Tyto jsou pouze beberapa takových předpisů, ale zřejmě nejvýznamnější. Klíčovým bodem je, že existují nesourodé rámce, které postrádají sdílené definice, mechanismy vynucování a přeshraniční interoperabilitu. To vytváří mezery, které mohou být zneužity útočníky.

Politická povaha protokolů

Žádná AI regulace nemůže být nikdy skutečně neutrální; každý designový výběr, zábrana a předpis odráží základní vládní nebo firemní zájmy. AI regulace se stala geopolitickým nástrojem; národy ji používají k zajištění ekonomické nebo strategické výhody. Omezování exportu čipů je současným příkladem; slouží jako nepřímá AI governance.

Jediná regulace, která byla dosud účinně zavedena, je ta, která úmyslně brání trhu. Globální závod o AI supremaci udržuje governance jako mechanismus pro soutěž spíše než pro spolupráci na bezpečnost.

Bezpečnost bez hranic, ale governance s nimi

Hlavním trnitým problémem je, že AI-poháněné hrozby přesahují hranice, zatímco regulace zůstává uzavřená. Dnešní rychle se vyvíjející hrozby zahrnují jak útoky na AI systémy, tak útoky, které využívají AI systémy. Tyto hrozby překračují jurisdikce, ale regulace zůstává izolovaná. Bezpečnost je uzavřena v jednom rohu, zatímco hrozby přecházejí celý internet.

Už začínáme vidět zneužívání legálních AI nástrojů globálními aktéry hrozeb, kteří využívají slabé bezpečnostní kontroly. Například bylo pozorováno škodlivé aktivity s použitím AI nástrojů pro vytváření stránek, které jsou více jako klonovací nástroje a mohou být snadno zneužity k vytvoření falešné přihlašovací stránky pro všechno od populárních sociálních médií po národní policejní agentury.

Dokud governance rámce nebudou odrážet bezhraniční strukturu AI, obránci budou omezeni fragmentovanými zákony.

Od reaktivní regulace k proaktivní obraně

Regulační mezera je nevyhnutelná, ale stagnace není. Potřebujeme adaptační, prediktivní governance s rámci, které se vyvíjejí s technologií; je to otázka přechodu od reaktivní regulace k proaktivní obraně. Ideálně by to vypadalo takto:

• Vyvinout sdílené mezinárodní standardy pro klasifikaci AI rizik.
• Širší účast v tvorbě standardů za hranicemi hlavních vlád a firem. Internetová governance se snažila (s proměnlivým úspěchem) použít multistakeholder model místo multilaterálního. Ačkoli je nedokonalý, měl velký dopad na to, aby se internet stal nástrojem pro všechny a minimalizoval cenzuru a politické odstávky.
• Pěstování rozmanitosti myšlení ve governance.
• Mechanizmus pro hlášení incidentů a transparentnost. Nedostatek předpisů často znamená také nedostatek požadavků na hlášení. Je nepravděpodobné, že by existoval požadavek informovat veřejnost o škodách způsobených chybami nebo designovými rozhodnutími v rámci regulačních sandboxů v blízké budoucnosti.

Zatímco governance mezera nikdy nezmizí, spolupracující, transparentní a inkluzivní rámce mohou zabránit tomu, aby se stala trvalou zranitelností v globální bezpečnosti.