Evropské a britské návrhy regulace deepfake jsou překvapivě omezené

Analýza Pro aktivisty, kteří doufají, že rok 2022 může být rokem, kdy deepfaked obrazový materiál spadne do přísnějšího právního rámce, jsou první ukazatele nepříznivé.

Minulý čtvrtek Evropský parlament schválil změny Digitálního služebního zákona (DSA, který má nabýt účinnosti v roce 2023), týkající se šíření deepfakes. Tyto úpravy se týkají deepfakes ve dvou částech, každá přímo související s online reklamou: pozměňovací návrh 1709 týkající se článku 30 a související pozměňovací návrh k článku 63.

První navrhuje zcela nový článek 30a, nazvaný Deep fakes, který zní:

‘Pokud si velmi velká online platforma uvědomí, že určitý obsah je generovaný nebo upravený obrazový, audio nebo video obsah, který podstatně připomíná existující osoby, objekty, místa nebo jiné entity nebo události a falešně se jeví jako autentický nebo pravdivý (deep fakes), poskytovatel musí označit obsah způsobem, který informuje, že obsah je neautentický a že je jasně viditelný pro příjemce služeb.’

Druhý přidává text k existujícímu článku 63, který se sám zabývá zvýšením transparentnosti velkých reklamních platforem. Relevantní text zní:

‘Navíc by velmi velké online platformy měly označit jakýkoli známý deep fake video, audio nebo jiný soubor.’

Efektivně se zdá, že legislativa se připravuje na rostoucí praxi “legitimních deepfakes”, kde byla udělena povolení a zajištěna práva pro face-swapping v reklamních materiálech – jako je například licencovaný použití identity Bruce Willise v reklamní kampani ruské telekomunikační společnosti Telefon.

Váhání legislativy

DSA, zatím, se nezdá řešit obavy aktivistů ohledně používání deepfake technik, jak jsou nejčastěji používány – k opětovnému obsazení pornografických videí. Neřeší ani rozsah, pokud nějaký, ve kterém bude použití deepfakes ve filmech a televizi muset být prohlášeno divákům stejným způsobem, jako deepfakes v reklamě, alespoň v EU, od roku 2023.

Ratifikační proces pro DSA nyní přechází na jednání s členskými státy EU, společně s širším rozsahem Digitálního trhu (DMA).

Zpráva Europolu z prosince 2020 zpráva Zneužívání a zneužívání umělé inteligence tvrdila, že by byla chyba, kdyby EU řešila konkrétní současné technologie deepfakes (jako DeepFaceLive), které by mohly vést k tomu, že EU zákon bude neustále dohánět nejnovější rámec nebo metodu.

Zpráva uvedla:

‘Zejména by tyto politiky měly být technologiemi nezávislé, aby byly účinné v dlouhodobém horizontu a aby se nevyžadovalo jejich pravidelné přezkoumání a nahrazení, protože se vyvíjí technologie za vytvářením a zneužíváním deepfakes. ‘

‘Nicméně, takové opatření by také neměly bránit pozitivním aplikacím GANs.’

Závěr výše uvedené citace, týkající se Generative Adversarial Networks (GANs), obecně charakterizuje evropskou a severoamerickou váhání aplikovat zákony, které by mohly omezit vznikající sektor AI výzkumu, který je již považován za zaostávající za Asií (jejíž didaktičtější národy byly schopny urychlit legislativu deepfakes).

Například zpráva z roku 2018 zpráva z britského Výboru pro umělou inteligenci ve Sněmovně lordů zdůrazňuje několikrát riziko, že umožnění zdráhání se bránit AI vývoji v zemi, jak je ukázáno v jejím názvu: AI ve Spojeném království: připraveni, ochotni a schopni?. Minulý duben se Velká Británie stala první zemí, která schválila nasazení samořiditelných vozidel na dálnicích.

Amerika není méně horlivá; ve Spojených státech instituce Brookings vyzvala k potřebě zvýšené legislativy pro AI ve Spojených státech, kritizující zákonodárce za jejich “počkejme a uvidíme” postoj k dopadům technologií strojového učení

Kromě mdlého přístupu DSA k řešení sociálních (ne politických) obav kolem deepfakes, navrhovaný regulační rámec EU pro AI, zveřejněný v dubnu 2021, přišel pod kritiku za své vlastní vyhýbání se tématu.

Špatná regulace deepfakes ve Spojeném království

Jako další zklamání pro aktivisty proti deepfakes, jako je autorka Helen Mort, která kampaňovala za novou britskou legislativu v roce 2021 po tom, co byla zobrazena v pornografických deepfake videích bez souhlasu, zpráva zveřejněná dnes britským parlamentním Výborem pro digitální kulturu, média a sport kritizuje britskou vládu za to, že nezahrnula deepfakes do návrhu zákona o online bezpečnosti.

Citující návrh zákona za “nejasný a nepraktický” proti zneužívání deepfakes, zpráva navrhuje, že navrhovaná legislativa nic nedělá pro řešení “legálních, ale škodlivých” AI-pomocných pornografických video a obrazových manipulačních technik:

‘Doporučujeme, aby vláda proaktivně řešila typy obsahu, které jsou technicky legální, jako je záludné části sekvencí zneužívání dětí, jako je breadcrumbing a typy online násilí proti ženám a dívkám, jako je technicky umožněné “nudifying” žen a deepfake pornografie, tím, že je zahrne do rozsahu buď prostřednictvím primární legislativy nebo jako typy škodlivého obsahu pokrytého povinnostmi péče.’

Aktuální platný zákon ve Spojeném království se omezuje na šíření “skutečných” obrazů, jako jsou případy pomsty pornografie, kde, například, důvěrný a soukromý explicitní materiál je veřejně sdílen ex-partnerem. Pokud pachatel vyrobí a zveřejní deepfake materiál, který vkládá identitu oběti do pornografického obsahu, může být stíhán pouze tehdy, pokud přímo obtěžuje oběť tím, že materiál cíleně směřuje na ni, nebo podle zákonů souvisejících s autorskými právy.

V prvním případě je snadnost, s níž se nový deepfake obsah rychle šíří a získává diváky, téměř nevyhnutelně znamená, že oběť bude informována znepokojenými přáteli nebo nesouvisejícími třetími stranami, spíše než osobou, která deepfake vyrobila, což umožňuje virální povahu takového materiálu chránit deepfakera, jehož práce stále “dosahuje cíle”.

V druhém případě by stíhání bylo pravděpodobně proveditelné pouze tehdy, pokud by nedotčený třetí pornografický video (do kterého je později vložena identita oběti) bylo profesionálně vyrobeno a legálně chráněno podle britského autorského práva (i když vhodný video může pocházet z jakéhokoli právního území na světě). “Amatérské” video z jakéhokoli právního území postrádá jasný status autorských práv, a na míru vyrobené video, které deepfaker natáčí výslovně pro vložení oběti, je (ironicky) samo chráněno autorskými právy, pokud splňuje ostatní zákony.

Pozadu

V prosinci 2021 britská Law Commission navrhla prodloužit zákony proti nenávisti, aby zahrnovaly sexuální nepřátelství, ale ne navrhla zahrnutí deepfakes do této kategorie, navzdory mnoha příkladům takového použití po celém světě (zejména v Indii) o zneužívání této technologie proti ženám-politikům a aktivistkám. Ženy jsou převážně terčem nelegitimních deepfake obsahu, ať už jsou motivy falešných záměrů sociálního (tj. záměru ponížit, deplatformovat a zbavit moci) nebo prostě smyslného (tj. pornografického) charakteru.

V březnu 2021 Illinois-based National Law Review kritizoval britský právní rámec jako “plně nedostatečný pro řešení deepfakes” a dokonce postrádající základní právní mechanismy, které chrání podobu osoby.

Zákony o deepfakes ve Spojených státech

Naopak, Spojené státy do jisté míry chrání “právo na publicitu” svých občanů, i když ne na federální úrovni (v současné době existují tyto zákony přibližně v polovině států, s velmi rozdílnými právními mechanismy).

Ačkoli je to zlepšení oproti britskému výkonu v legislativě deepfakes, Spojené státy mohou pouze pochlubit se sporadickou, státně specifickou pokrytí a zdají se být odhodlány řešit potenciál technologie pro politickou manipulaci předtím, než se dostanou k jejímu dopadu na soukromé osoby.

V roce 2019 stát Texas zakázal výrobu nebo šíření politických deepfakes, se Texas Senate Bill 751 (SB751), vynechávající jakékoli prohlášení o deepfake pornografii. Stejný rok stát Virginie přidal dodatek k existujícímu zákonu týkajícímu se Nelegálního šíření nebo prodeje obrazů jiných, připojující široce zahrnující termín ‘falešně vytvořený videografický nebo statický obraz’.

V roce 2020 stát Kalifornie přijal California Assembly Bill 602 (AB 602) zakazující generování nebo šíření pornografických deepfakes. Zákon nemá zrušovací ustanovení, ale má promlčecí lhůtu tří let a je doprovázen samostatným ustanovením týkajícím se politických deepfakes.

Na konci roku 2020 stát New York přijal senátní návrh zákona S5959D, který nejen zakazuje výrobu a opětovné zveřejnění pornografických deepfakes, ale také aktivně chrání právo uživatele na publicitu ve vztahu k počítačově generované podobě prostřednictvím deepfakes, CGI nebo jakýchkoli jiných prostředků, i po smrti (pokud byla osoba v době smrti rezidentem New Yorku).

Nakonec stát Maryland změnil své zákony o dětské pornografii, aby zahrnoval a kriminalizoval použití deepfakes, i když neřeší dopad deepfakes na dospělé cíle.

Cekání na ‘DeepfakeGate’

Historie ukazuje, že poškození, které mohou nové technologie způsobit, musí se stát osobním pro národ, aby urychlil jeho legislativní reakci. Nedávná smrt teenagerky v Egyptě, která údajně byla vydírána deepfake pornografií, získala omezenou pozornost v západních médiích*, zatímco odhalení o krádeži 35 milionů dolarů ve Spojených arabských emirátech, které vyšly najevo v roce 2021, také představují “vzdálenou událost”, která není pravděpodobně urychlit senát nebo rozžhavit legislativu ve 45 zbývajících státech, které dosud nezavedly legislativu deepfakes.

Pokud Spojené státy přijmou jednotnější postoj k zneužívání technologie deepfakes, široká legislativa by pravděpodobně ovlivnila governance aspekt telekomunikační a datové infrastruktury a úložiště, vedoucí k rychlým změnám politiky uvalených na své obchodní partnery po celém světě. Skutečnost, že evropská adopce GDPR nevedla k “přechodu” do severoamerické politiky shromažďování a uchovávání dat, neznamená, že by EU nemohla získat páku nad méně dodržujícími národy, se kterými obchoduje – pokud by někdy zaujala pevnější legislativní postoj k výrobě, uchovávání a šíření deepfake pornografie.

Ale něco se musí stát na “ground zero” nejdříve, v jedné z těchto vedoucích skupin zemí; a stále čekáme na to: obrovskou záchranu CSAM úřady; velkou loupež pomocí audio a/nebo video-založených deepfake technologií, aby oklamaly amerického ředitele společnosti, aby nesprávně směroval velkou částku peněz; nebo americký ekvivalent rostoucího použití deepfakes na oběť žen ve více patriarchálních zemích (pokud je skutečně americká kultura vybavena zrcadlit tyto události, což je sporné). Tyto jsou těžké věci, které si přát, a dobré věci, které se mají vyhnout jakýmkoli jiným způsobem než zakopnutím hlavy do písku nebo čekáním na “zážehovou” událost.

Jedním z centrálních problémů, kterým se EU目前 vyhýbá, zaměřením své legislativní síly na reklamní společnosti, které chtějí propagovat své chytré a legitimitní deepfakes, je, že deepfakes zůstávají obtížně rozpoznatelné algoritmicky; většina z řady detekčních metod, které se objevují na arXiv každý měsíc, závisí na watermarkingu, blockchain-based verifikaci nebo nějakém jiném způsobu změny celé infrastruktury, kterou aktuálně používáme k volnému spotřebě videa – řešení, která implikují radikální právní revizi pojmu videa jako proxy pro “pravdu”. Zbytek je rutinně překonán pokračujícími pokroky v populárních open source deepfake repozitářích.

Dalším problémem je, že hlavní západní národy mají pravdu, v jistém smyslu, že nechtějí reagovat reflexivně na jeden problematický aspekt v řadě nových AI technologií, mnoho z nich slibuje enormní prospěch společnosti a průmyslu, a mnoho z nich by mohlo být negativně ovlivněno nějakým způsobem, kdyby se začalo s proscripcí a regulací image syntetizujících systémů v reakci na velkou událost a následnou publicitu.

Je možné, že by bylo dobré urychlit pomalou a někdy bezcílnou chůzi, kterou podnikáme směrem k regulaci deepfakes, a setkat se s potenciálními problémy v polovině, a na našich vlastních podmínkách, místo toho, abychom byli nuceni pozdějšími událostmi do méně promyšlené reakce.

* Údajní pachatelé jsou obviněni z vydírání; neexistuje žádný egyptský zákon týkající se deepfake pornografie.

Poprvé zveřejněno 24. ledna 2022.