Nová směrnice EU pro umělou inteligenci má dopad na regulaci

Evropská komise nedávno představila Kódex chování pro umělou inteligenci, který může změnit způsob, jakým společnosti využívají umělou inteligenci. Jedná se o komplexní přehodnocení dohledu nad umělou inteligencí, které nelze ignorovat ani největšími hráči.

Co dělá tuto směrnici odlišnou? Poprvé vidíme konkrétní pravidla, která mohou donutit společnosti jako OpenAI a Google (GOOGL ) otevřít své modely pro externí testování, což je zásadní změna v tom, jak jsou AI systémy vyvíjeny a nasazovány v Evropě.

Noví hráči v dohledu nad umělou inteligencí

Evropská komise vytvořila rámec, který se zaměřuje na systémy umělé inteligence s “systémovým rizikem”. Mluvíme o modelech, které byly vyškoleny s více než 10^25 FLOPs výpočetní síly – prah, který GPT-4 již překročil.

Společnosti budou muset hlásit své plány pro školení umělých inteligencí dva týdny předtím, než je vůbec začnou.

V centru tohoto nového systému jsou dva klíčové dokumenty: Rámec pro bezpečnost a bezpečnost (SSF) a Zpráva o bezpečnosti a bezpečnosti (SSR). SSF je komplexní mapa pro řízení rizik umělé inteligence, pokrývající vše od identifikace počátečních rizik až po opatření pro bezpečnost. Zatímco SSR slouží jako podrobný nástroj pro dokumentaci každého jednotlivého modelu.

Externí testování pro modely umělé inteligence s vysokým rizikem

Komise požaduje externí testování pro modely umělé inteligence s vysokým rizikem. Jedná se o něco jiného než standardní interní kontrola kvality – nezávislí odborníci a Úřad pro umělou inteligenci EU se budou podívat pod kapotu těchto systémů.

Dopady jsou velké. Pokud jste OpenAI nebo Google, budete muset nechat externí odborníky prozkoumat vaše systémy. Návrh výslovně uvádí, že společnosti musí “zajistit dostatečné nezávislé testování před nasazením”. To je obrovská změna oproti současnému přístupu sebe-regulace.

Vzniká otázka: Kdo je kvalifikován pro testování těchto extrémně komplexních systémů? Úřad pro umělou inteligenci EU vstupuje do neznámé území. Budou potřebovat odborníky, kteří mohou pochopit a vyhodnotit novou technologii umělé inteligence a zároveň zachovat přísnou důvěrnost o tom, co objeví.

Tato povinnost externího testování se může stát povinnou v celé EU prostřednictvím prováděcího aktu Komise. Společnosti se mohou pokusit prokázat soulad prostřednictvím “přiměřených alternativních prostředků”, ale nikdo přesně neví, co to v praxi znamená.

Ochrana autorských práv se stává vážnou

EU také začíná brát vážně ochranu autorských práv. Donutí poskytovatele umělé inteligence vytvořit jasnou politiku pro nakládání s duševním vlastnictvím.

Komise podporuje standard robots.txt – jednoduchý soubor, který říká webovým crawlerům, kam mohou a kam nemohou jít. Pokud web říká “ne” prostřednictvím robots.txt, společnosti umělé inteligence nemohou prostě ignorovat a trénovat na tomto obsahu. Vyhledávače nemohou penalizovat stránky za použití těchto vyloučení. Je to tah, který dává tvůrcům obsahu zpět do řídící pozice.

Společnosti umělé inteligence také budou muset aktivně vyhýbat pirátským webům, když shromažďují trénovací data. EU je dokonce odkazuje na svůj “Seznam padělků a pirátství” jako na výchozí bod.

Co to znamená pro budoucnost

EU vytváří zcela nové hřiště pro vývoj umělé inteligence. Tyto požadavky budou ovlivňovat vše, od toho, jak společnosti plánují své projekty umělé inteligence, až po to, jak shromažďují svá trénovací data.

Každá významná společnost umělé inteligence nyní stojí před volbou. Buď musí:

• Otevřít své modely pro externí testování
• Vymyslet, co vypadají ty záhadné “alternativní prostředky” souladu
• Nebo potenciálně omezit své operace na trhu EU

Časová osa zde také záleží. Jedná se o regulaci, která nebude mít vliv až v nějaké vzdálené budoucnosti – Komise se pohybuje rychle. Získala kolem 1 000 zúčastněných stran, rozdělených do čtyř pracovních skupin, všechny pracující na detailech, jak to bude fungovat.

Pro společnosti, které staví systémy umělé inteligence, mohou dny “rychle se hýbej a později se staraj o pravidla” skončit. Budou muset začít myslet na tyto požadavky nyní, ne až budou povinné. To znamená:

• Plánovat externí audity do svého vývojového plánu
• Vytvořit robustní systémy pro soulad s autorskými právy
• Vystavět rámce dokumentace, které odpovídají požadavkům EU

Skutečný dopad těchto regulací se bude rozvíjet v nadcházejících měsících. Zatímco některé společnosti mohou hledat cesty, jak se vyhnout, ostatní budou integrovat tyto požadavky do svých vývojových procesů. Rámec EU může ovlivnit, jak se vývoj umělé inteligence bude odehrávat globálně, zejména pokud budou další regiony následovat podobná opatření dohledu. Jakmile tyto pravidla přejdou z návrhu do implementace, průmysl umělé inteligence čelí největší regulatorní změně dosud.