Návrhy evropské a britské regulace Deepfake jsou překvapivě omezené

Analýza Pro aktivisty, kteří doufají, že rok 2022 by mohl být rokem, kdy hluboce falešné snímky spadají do přísnější právní působnosti, jsou první indikátory neslibné.

Minulý čtvrtek Evropský parlament ratifikovány novely zákona o digitálních službách (DSA, který vstoupí v platnost v roce 2023), pokud jde o šíření deepfakes. Úpravy řeší deepfakes ve dvou částech, z nichž každá přímo souvisí s online reklamou: pozměňovací návrh 1709 týkající se článku 30 a související pozměňovací návrh k článku 63.

První navrhuje zcela nový článek 30aS názvem Hluboké padělky, Který zní:

„Pokud si velmi velká online platforma uvědomí, že část obsahu je vygenerovaný nebo zmanipulovaný obrázek, audio nebo video obsah, který se znatelně podobá existujícím osobám, předmětům, místům nebo jiným entitám nebo událostem a falešně se člověku jeví jako autentický nebo pravdivý (deep padělky), poskytovatel označí obsah způsobem, který informuje o nepravosti obsahu a který je pro příjemce služeb jasně viditelný.“

Druhý doplňuje text ke stávajícímu článku 63, který se sám zabývá především zvýšením transparentnosti velkých reklamních platforem. Příslušný text zní:

"Velmi velké online platformy by navíc měly označit všechna známá hluboce falešná videa, audio nebo jiné soubory."

Účinně se zdá, že se legislativa připravuje na rostoucí praxi „legitimních deepfakes“, kdy má povolení bylo uděleno a práva zajištěná pro výměnu obličeje v propagačních nebo reklamních materiálech – jako jsou ruské telco Telefon's licencované použití identity Bruce Willise v nedávné reklamní kampani.

Váhání s legislativou

Zdá se, že DSA zatím neřeší obavy aktivistů z používání deepfake technik tak, jak jsou nejčastěji používané – přetáčet pornografická videa. Neřeší ani rozsah, pokud vůbec nějaký, do jaké míry bude muset být očekávané používání deepfakes ve filmech a televizi od roku 2023 nutné divákům popřít, stejně jako budou, přinejmenším v EU, od roku XNUMX deepfakes v reklamě.

Ratifikační proces DSA nyní přechází na vyjednávání s členskými státy EU spolu s širším rozsahem zákona o digitálních trzích (DMA).

Europol z prosince 2020 zprávy Škodlivé použití a zneužívání umělé inteligence tvrdil, že by bylo chybou, kdyby se EU zabývala konkrétními současnými technologiemi deepfake (jako např DeepFaceLive), což by mohlo vést k tomu, že právo EU bude neustále dohánět nejnovější rámec nebo metodu.

Projekt zprávy stanovený:

„Zejména by tyto politiky měly být technologicky agnostické, aby byly z dlouhodobého hlediska účinné a nemusely je pravidelně revidovat a nahrazovat, jak se technologie za vytvářením a zneužíváním deepfakes vyvíjí.

"Nicméně taková opatření by také neměla bránit pozitivnímu použití GAN."

Závěrečná poznámka v citaci výše, týkající se Generativní Adversarial Networks (GANs) obecně charakterizuje váhání Evropy a Severní Ameriky uplatňovat zákony, které by mohly ohrozit vznikající sektor výzkumu AI, který je již vnímán jako zaostává za Asií (jejichž didaktičtějšími národy byly schopni urychlit hluboce falešnou legislativu).

Například rok 2018 zprávy z britského užšího výboru pro umělou inteligenci ve Sněmovně lordů několikrát zdůrazňuje riziko, že nesmělost brzdí rozvoj umělé inteligence v zemi, což je ilustrováno v názvu: AI ve Spojeném království: připravena, ochotna a schopná?. Loni v dubnu se Británie také stala první zemí, která zeleně rozsvítí rozmístění samořídících aut na dálnicích.

Amerika není o nic méně vášnivá; v USA má The Brookings Institution naléhal potřeba zvýšené legislativy pro AI ve Spojených státech, kritizující zákonodárce za jejich stanovisko „počkejte a uvidíme“ k důsledkům technologií strojového učení

Kromě nezáživného přístupu DSA k řešení společenských (spíše než politických) obav týkajících se deepfakes, navrhovaný regulační rámec pro AI, vydané v dubnu 2021, dostal okamžitou kritiku za vlastní vyhýbání se tématu.

Slabé nařízení Deepfake ve Spojeném království

Jako další zklamání pro anti-deepfake aktivisty, jako je autorka Helen Mort, která propagoval výrazně pro novou legislativu Spojeného království v roce 2021 poté, co byla nesouhlasně zobrazena v pornografických hluboce falešných videích, dnes zprávu zveřejnil výbor britského parlamentu pro digitální, kulturu, média a sport kritizuje britská vláda za to, že neřešila deepfakes v Návrh zákona o online bezpečnosti.

S odvoláním na současnou právní nápravu návrhu zákona proti hlubokému zneužívání jako „nejasné a nepraktické“, zprávy navrhuje, že navrhovaný právní předpis nijak neřeší „legální, ale škodlivý“ status pornografických technik manipulace s videem a obrázky s pomocí umělé inteligence:

„[Doporučujeme], aby se vláda proaktivně zabývala typy obsahu, které jsou technicky legální, jako jsou záludné části sekvencí zneužívání dětí, jako je drobečková navigace a typy online násilí vůči ženám a dívkám, jako je „nahánění“ žen pomocí technologií a falešná pornografie tím, že je začlení do oblasti působnosti buď prostřednictvím primárního práva, nebo jako typy škodlivého obsahu, na které se vztahuje povinnost péče.“

Současné platné zákony ve Spojeném království se omezují na šíření „skutečných“ obrázků, jako jsou případy pomstychtivé pornografie, kdy například bývalý partner veřejně sdílí důvěrné a soukromé explicitní materiály. Pokud pronásledovatel provádí a zveřejňuje hluboce falešný materiál, který překrývá identitu jeho „cíle“ do pornografického obsahu, může být stíhán pouze tehdy, pokud přímo obtěžuje cíl tím, že na něj materiál nasměruje, nebo podle legislativy související s autorským právem.

V prvním případě snadnost, s jakou nový hluboce falešný obsah získává pozornost a diváky, téměř nevyhnutelně znamená, že oběť bude informována dotčenými přáteli nebo nespřízněnými třetími stranami, nikoli osobou, která je hluboce zfalšovala, což umožňuje viralitu takového materiálu chránit. deepfaker, jehož práce stále „dosahuje cíle“.

V druhém případě by bylo stíhání pravděpodobně proveditelné pouze v případě, že by bylo profesionálně vytvořeno nezpracované pornografické video třetí strany (do kterého je později překryta totožnost oběti) a je legitimně chráněno pod doménou autorských práv Spojeného království (i když vhodné video lze volně získat jakákoli právní jurisdikce na světě). „Amatérské“ video z jakékoli jurisdikce postrádá jasný status autorských práv a video na míru, které deepfaker natočil výslovně za účelem překrytí oběti, je (ironicky) samo o sobě chráněno autorskými právy, pokud je v souladu s jinými zákony.

Za zatáčkou

V prosinci 2021 britská právní komise navržené rozšířit zákony o nenávistných projevech tak, aby zahrnovaly nepřátelství založené na pohlaví, ale nenavrhlo zahrnutí hluboce falešných falešných zpráv do této kategorie, a to navzdory četným příkladům takového použití po celém světě (zejména v Indii) technologie, která se používá jako zbraň proti političkám a aktivistkám. Ženy jsou drtivě terčem nezákonného hluboce falešného obsahu, ať už jsou motivy padělatelů zjevně sociální (tj. záměr ponížit, deplatformovat a zbavit síly) nebo jednoduše choulostivé (tj. pornografické) povahy.

V březnu 2021 National Law Review se sídlem v Illinois vzal na sebe právní rámec Spojeného království jako „v současnosti zcela neadekvátní k řešení deepfakes“ a dokonce postrádající základní právní mechanismy, které by chránily podobiznu osoby.

Deepfake zákony ve Spojených státech

Naproti tomu Spojené státy do určité míry chrání „právo na publicitu“ svých občanů, i když ne na federální úrovni (v současnosti takové zákony existují např. přibližně polovina států USA s velmi odlišnými právními mechanismy).

Přestože došlo ke zlepšení výkonu Spojeného království v oblasti deepfake legislativy, USA se mohou pochlubit pouze sporadickým pokrytím jednotlivých států a zdá se, že jsou odhodlány řešit problémy této technologie. potenciál pro politickou manipulaci než se nakonec dostaneme k jeho dopadu na soukromé osoby.

V roce 2019 stát Texas zakázáno vytváření nebo šíření politický deepfakes, s texaským senátním návrhem zákona 751 (SB751), vynechání jakéhokoli prohlášení o falešné pornografii. Ve stejném roce přidal stát Virginie an změna na stávající zákon týkající se Nezákonné šíření nebo prodej obrázků někoho jiného, připojující široce zahrnující termín „falešně vytvořený videografický nebo statický obrázek“.

V roce 2020 uzákonil stát Kalifornie Kalifornský zákon o shromáždění 602 (AB 602) zákaz vytváření nebo šíření pornografických deepfakeů. Návrh zákona nemá klauzuli o skončení platnosti, ale má promlčecí lhůtu na tři roky a je doprovázen samostatnou klauzulí pokrývající politické deepfakes.

Na konci roku 2020 přešel stát New York senátní návrh zákona S5959D, který nejen zakazuje vytváření a/nebo opětovné publikování pornografických deepfakes, ale aktivně chrání právo uživatele na publicitu v souvislosti s počítačově generované podobenství prostřednictvím deepfakes, CGI nebo jiných prostředků, a to i po smrti (pokud dotyčná osoba byla v době své smrti obyvatelem New Yorku).

Konečně má stát Maryland změněno jeho zákony týkající se dětské pornografie, které zahrnují a kriminalizují používání deepfakes, i když neřeší dopad deepfakes na dospělé cíle.

Čekání na 'DeepfakeGate'

Historie ukazuje, že škody, které mohou nové technologie způsobit, musí nastat osobní národu, aby se urychlila jeho legislativní reakce. Velmi nedávné smrt dospívající dívky v Egyptě která byla údajně vydírána svou hluboce falešnou pornografií, se v západních médiích* dostalo jen omezeného pokrytí, zatímco odhalení o krádeži 35 milionů dolarů ve Spojených arabských emirátech, která vyšel na světlo v roce 2021, také představují „vzdálenou událost“, která pravděpodobně neurychlí senát nebo zažehne oheň pod 45 zbývajícími státy, které dosud nepřijaly hluboce falešnou legislativu.

Pokud USA přijmou jednotnější frontu ohledně zneužívání technologie deepfake, rozšířená legislativa by pravděpodobně ovlivnila aspekt správy telekomunikační a datové infrastruktury a úložiště, což by vedlo k rychlým změnám politiky dohánění uvalených na jejich obchodní partnery po celém světě. Skutečnost, že evropské přijetí GDPR nakonec „nepřekročilo“ severoamerickou politiku shromažďování a uchovávání údajů, neznamená, že by EU nemohla rovněž získat vliv na méně vyhovující země, se kterými obchoduje – pokud by někdy přijala angažovanější legislativní postoj k vytváření, uchovávání a uchovávání hluboce falešné pornografie.

Ale nejprve se musí něco stát na „nulovém místě“, v jedné z těchto vedoucích skupin zemí; a stále na to čekáme: kolosální darknet zátah CSAM ze strany úřadů; velká loupež využívající technologie deepfake založené na zvuku a/nebo videu k oklamání americký ředitel společnosti do nesprávného nasměrování velmi velkého množství peněz; nebo americký ekvivalent rostoucího používání deepfakes k viktimizaci žen ve více patriarchálních zemích (pokud je americká kultura skutečně vybavena tak, aby tyto události odrážela, což je sporné). To je těžké si přát a dobré věci, kterým se vyhnout jakoukoli jinou metodu než strkat hlavu do písku nebo čekat na „zápalnou“ událost.

Jeden ústřední problém, který EU v současnosti obchází tím, že svou legislativní zdatnost zaměřuje na reklamní společnosti, které chtít podporovat jejich chytré a legitimní deepfakes, je to, že deepfakes zůstávají algoritmicky těžko zjistitelné; většina detekčních metod, které se každý měsíc objeví na arXiv, závisí na vodoznaku, ověření založeném na blockchainu nebo nějakým způsobem změně celé infrastruktury, kterou v současnosti používáme k volnému používání videa – řešení, která znamenají radikální právní revizi pojmu video jako proxy pro „pravdu“. Zbytek je běžně překonán pokračujícím pokrokem v populárních open source hluboce falešných úložištích.

Dalším problémem je, že velké západní národy mají v jistém smyslu naprostou pravdu, že nenabízejí okatou reakci na jediný problematický prvek v řadě nových technologií umělé inteligence, z nichž mnohé slibují nesmírný přínos pro společnost a průmysl, a mnohé z nich by mohly být nějakým způsobem nepříznivě ovlivněny, pokud by v reakci na významnou událost a následný výkřik začaly seriózní proskripce a regulace systémů syntézy obrazu.

Mohlo by však být dobrý nápad alespoň urychlit pomalou a někdy bezcílnou cestu, kterou se vydáváme k regulaci deepfakes, a čelit potenciálním problémům uprostřed země a podle našich vlastních podmínek, místo abychom byli nuceni pozdější události do méně uvážené reakce.

* Údajní pachatelé jsou obviněni z vydírání; neexistuje žádný egyptský zákon, který by pokrýval hluboce falešnou pornografii.

Poprvé publikováno 24. ledna 2022.