Evropská a britská regulace deepfakeů je překvapivě omezená

Analýza Pro aktivisty, kteří doufali, že rok 2022 může být rokem, kdy deepfaked obrázky spadnou do přísnějšího právního režimu, jsou první ukazatele nepříznivé.

Minulý čtvrtek Evropský parlament schválil změny Digitálního služebního zákona (DSA, který má vejít v platnost v roce 2023), týkající se šíření deepfakeů. Tyto úpravy se týkají deepfakeů ve dvou oddílech, každý přímo související s online reklamou: pozměňovací návrh 1709 týkající se článku 30 a související pozměňovací návrh k článku 63.

První navrhuje zcela nový článek 30a, nazvaný Deep fakes, který zní:

‘Pokud si velmi velký online platform uvědomí, že určitý obsah je generovaný nebo upravený obraz, audio nebo video obsah, který podstatně připomíná existující osoby, předměty, místa nebo jiné entity nebo události a falešně se jeví jako autentický nebo pravdivý (deep fakes), poskytovatel musí označit obsah tak, aby informoval, že obsah je neautentický a že je jasně viditelný pro příjemce služeb.’

Druhý přidává text k existujícímu článku 63, který se sám zabývá zvýšením transparentnosti velkých reklamních platforem. Relevantní text zní:

‘Navíc by velmi velké online platformy měly označit jakýkoli známý deep fake videa, audio nebo jiné soubory.’

Efektivně se zdá, že legislativa se připravuje na rostoucí praxi ‘legitimních deepfakeů’, kde byla udělena povolení a zajištěna práva pro face-swapping v reklamních nebo propagačních materiálech – jako je například licencované použití identity Bruce Willise v recentní reklamní kampani ruské telekomunikační společnosti Telefon.

Váhaní legislativy

DSA zatím nezdá se, že řeší obavy aktivistů týkající se použití deepfake technik, jak jsou nejčastěji používány – k přetvoření pornografických videí. Neřeší ani rozsah, pokud jakýkoli, ve kterém bude použití deepfakeů ve filmech a televizi muset být prohlášeno divákům stejným způsobem, jako deepfakes v reklamě, alespoň v EU, od roku 2023.

Schvalovací proces pro DSA nyní přechází na jednání s členskými státy EU, spolu s širším rozsahem Digitálního trhu (DMA).

Zpráva Europolu z prosince 2020 zpráva Malicious Uses and Abuses of Artificial Intelligence tvrdila, že by byla chyba, kdyby EU řešila konkrétní současné deepfake technologie (jako DeepFaceLive), které by mohly vést k tomu, že evropská legislativa bude neustále zaostávat za nejnovějšími rámcemi nebo metodami.

Zpráva uvedla:

‘Zejména by tyto politiky měly být technologicky neutrální, aby byly efektivní v dlouhodobém horizontu a aby se nevyžadovalo jejich pravidelné přezkoumání a nahrazení, protože technologie za vytvářením a zneužíváním deepfakeů se vyvíjí. ‘

‘Nicméně, taková opatření by také neměla bránit pozitivním aplikacím GANs.’

Závěr výše uvedené citace, týkající se Generative Adversarial Networks (GANs), obecně charakterizuje evropskou a severoamerickou váhavost aplikovat zákony, které by mohly omezit vznikající sektor AI výzkumu, který je již považován za zaostávající za Asií (jejížž více didaktické národy byly schopny urychlit legislativu deepfake).

Například zpráva z roku 2018 zpráva z Výboru pro umělou inteligenci Sněmovny lordů zdůrazňuje několikrát riziko, že dovolení zdrženlivosti bránit rozvoji AI v zemi, jak je ukázáno v jejím názvu: AI v UK: připraven, ochoten a schopen?. Minulý duben se Velká Británie stala první zemí, která schválila nasazení samořídících aut na dálnicích.

Amerika není méně horlivá; ve Spojených státech instituce Brookings vyzvala potřebu zvýšené legislativy pro AI ve Spojených státech, kritizující zákonodárce za jejich ‘počkejme a uvidíme’ postoj k dopadům technologií strojového učení

Kromě mdlého přístupu DSA k řešení sociálních (než politických) obav kolem deepfakeů, navrhovaný regulační rámec EU pro AI, zveřejněný v dubnu 2021, přišel pod kritiku za své vlastní vyhýbání se tématu.

Špatná regulace deepfakeů ve Spojeném království

Jako další zklamání pro aktivisty proti deepfakeům, jako je autorka Helen Mort, která kampaňovala za novou legislativu ve Spojeném království v roce 2021 po tom, co byla zobrazena v pornografických deepfake videích bez souhlasu, zpráva zveřejněná dnes parlamentním výborem pro digitální, kulturní, média a sport kritizuje britskou vládu za to, že nezahrnula deepfakes do návrhu zákona o online bezpečnosti.

S odůvodněním, že stávající právní náprava proti zneužívání deepfakeů je ‘nejasná a nepraktická’, zpráva navrhuje, že navrhovaná legislativa nic nedělá pro řešení ‘legálního, ale škodlivého’ statusu AI-pomocných pornografických video a obrazových manipulačních technik:

‘[My] doporučujeme, aby vláda proaktivně řešila typy obsahu, které jsou technicky legální, jako je záludné části sekvencí zneužívání dětí, jako je breadcrumbing a typy online násilí proti ženám a dívkám, jako je technicky umožněné ‘nudifying’ žen a deepfake pornografie, tím, že je zahrne do rozsahu buď prostřednictvím primární legislativy nebo jako typy škodlivého obsahu pokrytého povinnostmi péče.’

Stávající platná legislativa ve Spojeném království je omezena na šíření ‘skutečných’ obrazů, jako je případ msty, kde je například důvěrný a soukromý explicitní materiál veřejně sdílen ex-partnerem. Pokud pachatel provede a zveřejní deepfake materiál, který nahrazuje identitu oběti do pornografického obsahu, může být stíhán pouze tehdy, pokud přímo obtěžuje oběť, směřujícím materiál na ni, nebo podle autorských zákonů.

V prvním případě znamená snadnost, s jakou se nový deepfake obsah rychle šíří a získává diváky, téměř nevyhnutelně, že oběť bude informována znepokojenými přáteli nebo nesouvisejícím třetími stranami, spíše než osobou, která deepfake vytvořila, což umožňuje virální šíření takového materiálu chránit deepfakera, jehož práce stále ‘dosáhne cíle’.

V druhém případě by stíhání bylo pravděpodobně proveditelné pouze tehdy, pokud by bylo profesionálně vyrobeno a legálně chráněno pod autorským zákonem Spojeného království (i když vhodný video může být získán zdarma z jakéhokoli právního režimu na světě). ‘Amatérské’ video z jakéhokoli režimu postrádá jasný autorský status, a na míru vyrobené video, které deepfaker natáčí výslovně k nahrazení oběti, je (ironicky) samo chráněno autorskými zákony, pokud splňuje ostatní zákony.

Pozadí

V prosinci 2021 navrhl Law Commission ve Spojeném království rozšířit zákony proti nenávistným projevům, aby zahrnovaly sexuální nepřátelství, ale nenavrhl zahrnout deepfakes do této kategorie, navzdory mnoha příkladům takového použití na celém světě (zvláště v Indii) této technologie proti ženským politikům a aktivistkám. Ženy jsou převážně cílem nelegitimních deepfake obsahu, ať už jsou motivy falešných úmyslů otevřeně společenské (tj. záměr ponížit, deplatformat a zbavit moci) nebo prostě smyslné (tj. pornografické) povahy.

V březnu 2021 Illinois-based National Law Review kritizoval právní rámec Spojeného království jako ‘plně nedostatečný pro řešení deepfakeů’, a dokonce chybějící v základních právních mechanismech, které chrání podobu osoby.

Legislativa deepfakeů ve Spojených státech

Naopak, Spojené státy do jisté míry chrání ‘Právo na publicitu’ svých občanů, i když ne na federální úrovni (v současné době existují takové zákony přibližně v polovině států, s velmi rozdílnými právními mechanismy).

Ačkoli je to zlepšení oproti výkonu Spojeného království v legislativě deepfakeů, Spojené státy mohou pouze pochlubit se sporadickou, státně specifickou pokrytí, a zdá se, že se snaží řešit potenciál technologie pro politickou manipulaci předtím, než se dostanou k jejímu dopadu na soukromé osoby.

V roce 2019 stát Texas zakázal vytváření nebo šíření politických deepfakeů, se státním zákonem Texas Senate Bill 751 (SB751), vynechávajícím jakékoli prohlášení o deepfake pornografii. Stejný rok stát Virginia přidál poznámku k existujícímu zákonu týkajícímu se Nelegálního šíření nebo prodeje obrazů jiných, přidávajícího široce zahrnující termín ‘falešně vytvořený videografický nebo statický obraz’.

V roce 2020 stát Kalifornie přijal California Assembly Bill 602 (AB 602), který zakazuje generování nebo šíření pornografických deepfakeů. Zákon nemá lhůtu, ale má promlčecí lhůtu tří let, a je doprovázen samostatnou klauzulí týkající se politických deepfakeů.

Na konci roku 2020 stát New York přijal senátní zákon S5959D, který nejen zakazuje vytváření a/nebo opětovné zveřejnění pornografických deepfakeů, ale také aktivně chrání právo uživatele na publicitu v souvislosti s počítačově generovaným podobiznou prostřednictvím deepfakeů, CGI nebo jakýchkoli jiných prostředků, i po smrti (pokud byla osoba v otázce obyvatelem New Yorku v době její smrti).

Nakonec stát Maryland změnil své zákony o dětské pornografii, aby zahrnoval a kriminalizoval použití deepfakeů, i když se nezabývá dopadem deepfakeů na dospělé cíle.

Čekání na ‘DeepfakeGate’

Historie ukazuje, že poškození, které mohou nové technologie způsobit, musí být osobní pro národ, aby urychlila jeho legislativní reakci. Velmi nedávná smrt teenagerky v Egyptě, která údajně byla vydírána deepfake pornografií, získala omezenou pozornost v západních médiích*, zatímco odhalení o krádeži 35 milionů dolarů ve Spojených arabských emirátech, které přišlo na světlo v roce 2021, také představují ‘vzdálenou událost’, která není pravděpodobně urychlit senát, nebo zapálit oheň pod zbývajícími 45 státy, které dosud nezavedly legislativu deepfakeů.

Pokud Spojené státy přijmou více jednotný postoj kolem zneužívání deepfake technologie, široká legislativa by pravděpodobně ovlivnila governance aspekt telekomunikací a datové infrastruktury a úložiště, vedoucí k rychlým změnám politiky uvalených na své obchodní partnery po celém světě. Skutečnost, že evropská adopce GDPR nakonec ne”Přešla” do severoamerické politiky sběru a uchovávání dat, neznamená, že by EU nemohla získat páku nad méně dodržujícími národy, se kterými obchoduje – kdyby někdy přijala více závazný legislativní postoj k vytváření, uložení a uchovávání deepfake pornografie.

Ale něco se musí stát na ‘ground zero’ poprvé, v jedné z těchto vedoucích skupin zemí; a stále čekáme na to: obrovskou akci proti CSAM autoritami; velkou loupež pomocí audio a/nebo video-založených deepfake technologií, aby oklamala Amerického výkonného ředitele, aby špatně nasměroval velmi velké množství peněz; nebo americký ekvivalent rostoucího použití deepfakeů k obětem žen v více patriarchálních zemích (pokud je skutečně americká kultura vybavena zrcadlit tyto události, což je sporné). Tyto jsou těžké věci, které si přát, a dobré věci, které se mají vyhnout jakýmkoli jiným způsobem než tím, že se schová hlavu do písku, nebo čeká na ‘zapálenou’ událost.

Jeden centrální problém, který EU目前 obcházejí, směrované své legislativní síly na reklamní společnosti, které chtějí propagovat své chytré a legitimitní deepfakes, je, že deepfakes zůstávají obtížně rozpoznatelné algoritmicky; většina z řady detekčních metod, které se objevují na arXiv každý měsíc, závisí na watermarkingu, blockchainovém ověření nebo nějakém jiném způsobu změny celé infrastruktury, kterou目前 používáme k volnému konzumu videa – řešení, která implikují radikální legislativní revizi pojmu videa jako proxy pro ‘pravdu’. Zbytek je rutinně překonán pokračujícími pokroky v populárních open source deepfake repozitářích.

Další problém je, že hlavní západní národy jsou quite right, v jednom smyslu, aby neoffersly knee-jerk reakci na jeden problematický proud v novém AI technologiích, mnohé z nichž slibují enorme výhody pro společnost a průmysl, a mnohé z nichž by mohly být nepříznivě ovlivněny nějakým způsobem, kdyby se začaly horkokrevné zákazy a regulace image syntetických systémů, v reakci na velkou událost, a na následující výkřik.

Nicméně, mohlo by být dobré urychlit pomalou a někdy bezcílnou procházku, kterou děláme směrem k regulaci deepfakeů, a setkat se s potenciálními problémy v polovině, a na našich vlastních podmínkách, místo toho, aby nás později události donutily k méně uvážené reakci.

* Údajní pachatelé jsou obviněni z vydírání; v Egyptě neexistuje žádný zákon, který by se týkal deepfake pornografie.

Poprvé zveřejněno 24. ledna 2022.