Mezera ve správě: Proč regulace AI vždy bude zaostávat

Inovace se vyvíjí rychlostí strojů, zatímco správa postupuje lidskou rychlostí. S exponenciálním růstem adopce AI je regulace pozadu, což je poměrně typické, pokud jde o technologii. Celosvětově vlády a další subjekty se snaží regulovat AI, ale existují fragmentované a nerovnoměrné přístupy.

Část výzvy spočívá v tom, že neexistuje apolitická technická koncepce. Existuje řada předpisů a návrhů, od evropského zákona o AI po americké regulační sandboxy, každý s vlastní filozofií. Zatímco správa AI inherentně zaostává za inovací, skutečnou výzvou je zodpovědné řízení bezpečnosti a politiky v rámci této mezery.

Povahou mezery: Inovace první, dohled později

Regulační mezera je nevyhnutelným produktem technologického pokroku. Například Henry Ford při vývoji modelu T nezaměřoval se primárně na bezpečnost silnic a pravidel silničního provozu. Regulační vzorce historicky následují inovace; nedávné příklady zahrnují ochranu osobních údajů, blockchain a sociální média. Rychlá evoluce AI předchází tvorbě a vynucování politik. Jinými slovy, koňský potah byl před koněm po nějakou dobu.

Část výzvy spočívá v tom, že zákonodárci často reagují na újmu místo toho, aby předjímali rizika, což vytváří cykly reaktivní správy. Problém není v samotné mezeře, ale spíše v nedostatku adaptačních mechanismů, které by udržovaly krok s novými hrozbami, a v nedostatku vůle k tomu, aby se soutěžní výhoda byla obětována ve prospěch bezpečnosti. Je to “závod na dno”; ohrožujeme svou vlastní kolektivní bezpečnost ve prospěch lokálních konkurenčních výhod.

Globální patchwork AI správy představuje fragmentované filozofie

Existující hlavní přístupy k AI správě na světě se výrazně liší.

V EU byl zákon o AI zavedený loni založený na etice a riziku. Používání AI je hodnoceno podle úrovně rizika, přičemž některé jsou považovány za nepřijatelné a jsou zakázány. USA naopak přijaly spíše regulační model sandboxu, který zdůrazňuje flexibilitu inovací. Někteří jej mohou popisovat jako výjimku pro inovace, zatímco kritici jej mohou označit za blankýn.

Existuje také hirošimský proces, který obsahuje globální koordinační úmysl, ale omezené následné kroky; každá ze sedmi zemí G7 se stále zaměřuje na domácí dominantnost AI.

V USA byla tato záležitost z velké části ponechána na jednotlivých státech, což ve skutečnosti zajišťuje nedostatečnou regulaci. Federální vláda to někdy dělá právě proto, že je to neúčinné. Státy vytvářejí nové sandboxy, aby přilákaly technologické společnosti a investice, ale je nepravděpodobné, že by existovala nějaká významná regulace na státní úrovni; pouze výjimky.

Ve Spojeném království se vláda snaží po Brexitu etablovat jako samostatný subjekt. Díky deregulaci a vládou podporovanému programu “Leveling Up” není překvapením zavedení regulačních sandboxů. Britská vláda bude chtít, aby Spojené království bylo dominantní AI supervelmocí pro vnitřní i vnější politickou stabilitu.

EU se zaměřuje více na bezpečnost spotřebitelů, ale také na sílu svého společného trhu. To má smysl, vzhledem k historii EU s patchworkovou regulací. Společná compliance, normy a přeshraniční obchod jsou klíčové pro to, aby EU byla tím, čím je. Stále však vyžadují regulační sandboxy, ale také to, aby každý členský stát musel mít jeden funkční do stejného data.

Tyto jsou pouze beberapa takových předpisů, ale pravděpodobně nejvýznamnější. Klíčovým bodem je, že existují nesourodé rámce, které postrádají sdílené definice, mechanismy vynucování a přeshraniční interoperabilitu. To vytváří mezery, které mohou být využity útočníky.

Politická povaha protokolů

Žádná regulace AI nemůže být nikdy skutečně neutrální; každá volba designu, ochranná páska a předpis odráží základní zájmy vlády nebo korporací. Regulace AI se stala geopolitickým nástrojem; národy ji používají k zajištění ekonomické nebo strategické výhody. Omezení vývozu čipů jsou aktuálním příkladem; slouží jako nepřímá regulace AI.

Jediná skutečně zavedená regulace je taková, která úmyslně brání trhu. Globální závod o AI dominantnost udržuje správu jako mechanismus pro soutěž místo kolektivní bezpečnosti.

Bezpečnost bez hranic, ale správa s nimi

Hlavním problémem je, že AI-podporované hrozby překračují hranice, zatímco regulace zůstává uzavřená. Dnešní rychle se vyvíjející hrozby zahrnují jak útoky na AI systémy, tak útoky, které využívají AI systémy. Tyto hrozby překračují jurisdikce, ale regulace zůstává izolovaná. Bezpečnost je uzavřená v jednom rohu, zatímco hrozby přecházejí celý internet.

Už jsme začali vidět zneužívání legálních AI nástrojů globálními aktéry, kteří využívají slabé bezpečnostní kontroly. Například bylo zaznamenáno škodlivé aktivity s použitím nástrojů pro vytváření AI stránek, které jsou více jako klonovací stránky a mohou být snadno zneužity k vytvoření phishingové infrastruktury. Tyto nástroje byly použity k napodobení přihlašovacích stránek pro všechno od populárních sociálních médií po národní policejní agentury

Dokud regulační rámce nebudou odrážet bezhraniční strukturu AI, obránci budou omezeni fragmentovanými zákony.

Od reaktivní regulace k proaktivní obraně

Regulační mezera je nevyhnutelná, ale stagnace není. Potřebujeme adaptační, prediktivní správu s rámci, které se vyvíjí s technologií; je to otázka přechodu od reaktivní regulace k proaktivní obraně. Ideálně by to vypadalo takto:

• Vyvinutí sdílených mezinárodních standardů pro klasifikaci rizik AI.
• Širší účast v procesu vytváření standardů za hranicemi hlavních vlád a korporací. Správa internetu se snažila (s proměnlivým úspěchem) použít model multistakeholderů místo multilaterálního. Ačkoli je nedokonalý, měl velký dopad na to, aby se internet stal nástrojem pro všechny a minimalizoval cenzuru a politické uzavírání.
• Pěstování rozmanitosti myšlení ve správě.
• Mechanismus pro hlášení incidentů a transparentnost. Nedostatek předpisů často znamená i nedostatek požadavků na hlášení. Je nepravděpodobné, že by existoval požadavek na informování veřejnosti o škodách způsobených chybami nebo rozhodnutími uvnitř regulačních sandboxů v blízké budoucnosti.

Ačkoli mezera ve správě nikdy nezmizí, spolupracující, transparentní a inkluzivní rámce mohou zabránit tomu, aby se stala trvalou zranitelností ve globální bezpečnosti.