Europæiske og britiske forslag til regulering af deepfakes er overraskende begrænsede

Analyse For aktivister, der havde håbet, at 2022 kunne være året, hvor deepfakede billeder kommer under en strengere juridisk ramme, er de tidlige tegn ikke lovende.

Sidste torsdag ratificerede Europa-Parlamentet ændringer til Digital Services Act (DSA, der skal træde i kraft i 2023), i forhold til spredningen af deepfakes. Ændringerne omhandler deepfakes i to afsnit, hver direkte relateret til online-reklame: ændring 1709 vedrørende artikel 30, og en relateret ændring til artikel 63.

Den første foreslår en helt ny artikel 30a, med titlen Deep fakes, der lyder:

‘Hvis en meget stor online-platform bliver klar over, at et stykke indhold er et genereret eller manipuleret billede, lyd eller videoindhold, der ligner eksisterende personer, objekter, steder eller andre enheder eller begivenheder og falsk ser ud til at være ægte eller sandt (deepfakes), skal udbyderen mærke indholdet på en måde, der informerer om, at indholdet er uægte og tydeligt synligt for modtageren af tjenesten.’

Den anden tilføjer tekst til den eksisterende artikel 63, der hovedsageligt beskæftiger sig med at øge gennemsigtigheden af store reklameplatforme. Den relevante tekst lyder:

‘Derudover skal meget store online-platforme mærke alle kendte deep fake-videoer, lyd eller andre filer.’

Effektivt set synes lovgivningen at være i gang med at forberede sig på den voksende praksis med ‘legitime deepfakes’, hvor tilladelse er givet og rettigheder sikret for ansigtsudskiftning i promotional eller reklame materiale – såsom det russiske teleselskab Telefons licenserede brug af Bruce Willis’ identitet i en seneste reklamekampagne.

Tøven med at lovgive

DSA ser således ikke ud til at omhandle aktivisternes bekymringer om brugen af deepfake-teknikker, som de hyppigst bruges – til at genskabe pornografiske videoer. Det omhandler heller ikke omfanget, hvis nogen, af deepfakes i film og tv skal være nødt til at være afsløret for seerne på samme måde som deepfakes i reklame vil være, i det mindste i EU, fra 2023.

Godkendelsesprocessen for DSA går nu videre til forhandling med EU’s medlemsstater, sammen med den bredere omfang af Digital Markets Act (DMA).

Europols rapport fra december 2020 rapport Malicious Uses and Abuses of Artificial Intelligence hævdede, at det ville være en fejl af EU at omhandle specifikke nuværende deepfake-teknologier (såsom DeepFaceLive), der måske ville føre til, at EU-lovgivningen konstant måtte følge med de nyeste rammer eller metoder.

Rapporten fastslog:

‘I særdeleshed skal disse politikker være teknologi-agnostiske for at være effektive på lang sigt og for at undgå at skulle gennemgå og erstatte disse med jævne mellemrum, da teknologien bag oprettelsen og misbrugen af deepfakes udvikler sig.

‘Dog skal sådanne foranstaltninger også undgå at hindre de positive anvendelser af GANs.’

Den afsluttende bemærkning ovenfor, vedrørende Generative Adversarial Networks (GANs) karakteriserer bredt den europæiske og nordamerikanske tøven med at anvende love, der måske kan lamme en opblomstrende AI-forskningssektor, der allerede opfattes som at falde bagud i forhold til Asien (hvis mere didaktiske nationer har kunnet hurtigt spore deepfake-lovgivning).

For eksempel fastslog en rapport fra 2018 fra Storbritanniens Udvalg for Kunstig Intelligens ved House of Lords flere gange risikoen for, at tøven kan holde tilbage AI-udviklingen i nationen, eksemplificeret i dets titel: AI i Storbritannien: klar, villig og i stand?. Sidste april blev Storbritannien også det første land til at godkende udrulningen af selvstyrende biler på motorveje.

Amerika er ikke mindre ivrig; i USA har The Brookings Institution opfordret til øget lovgivning for AI i USA, idet de kritiserer lovgivere for deres ‘vent og se’-holdning til konsekvenserne af maskinlærings-teknologier.

Ud over den insipide tilgang til DSA i forhold til at omhandle sociale (i stedet for politiske) bekymringer omkring deepfakes, har EU’s forslag til regulering af AI, offentliggjort i april 2021, været under kritik for sin egen undvigelse af emnet.

Knapt deepfake-regulering i Storbritannien

Som en yderligere skuffelse for anti-deepfake-aktivister som forfatteren Helen Mort, der kampagnede for ny britisk lovgivning i 2021 efter at være blevet non-konsensuelt afbildet i pornografiske deepfake-videoer, kritiserer en rapport offentliggjort i dag af det britiske parlaments digitale, kulturelle, medie- og sportsudvalg britisk regering for ikke at omhandle deepfakes i Udkast til online-sikkerhedslov.

Med henvisning til udkastets nuværende retslige foranstaltninger mod deepfake-misbrug som ‘uklare og upraktiske’, foreslår rapporten, at den foreslåede lovgivning ikke gør noget for at omhandle ‘lovligt, men skadeligt’ status for AI-assisteret pornografisk video- og billedmanipulationsteknikker:

‘[Vi] anbefaler, at regeringen proaktivt omhandler typer af indhold, der er teknisk set lovligt, såsom snigende dele af barnemisbrugssekvenser som breadcrumbing og typer af online-vold mod kvinder og piger som teknologi-aktiveret ‘nudifying’ af kvinder og deepfake-pornografi, ved at bringe dem ind under loven enten gennem primær lovgivning eller som typer af skadeligt indhold, der er dækket af omsorgspligterne.’

Gældende lov i Storbritannien er begrænset til spredningen af ‘ægte’ billeder, såsom tilfælde af hævn-pornografi, hvor for eksempel fortroligt og privat eksplisit materiale offentliggøres af en eks-partner. Hvis en forfølger udfører og offentliggør deepfake-materiale, der overlejrer deres ‘måls’ identitet i pornografisk indhold, kan de kun straffes, hvis de direkte chikanerer målet ved at rette materialet mod dem, eller under ophavsretsrelateret lovgivning.

I det første tilfælde betyder letten, hvormed nyt deepfake-indhold samler momentum og seere, næsten uundgåeligt, at offeret vil blive underrettet af bekymrede venner eller uafhængige tredjeparter, snarere end af personen, der deepfakede dem, og tillader, at viralityen af sådant materiale beskytter deepfakeren, hvis arbejde stadig ‘når målet’.

I det andet tilfælde ville strafbefølgelse kun sandsynligvis være mulig, hvor et uændret tredjeparts-pornografisk video (hvor offerets identitet senere overlejres) er professionelt produceret og berettiget beskyttet under Storbritanniens ophavsretsdomæne (selvom et passende video kan findes frit fra enhver lovlig jurisdiktion i verden). En ‘amatør’-video fra enhver jurisdiktion mangler klar ophavsretsstatus, og en skræddersyet video, som deepfakeren har optaget udtrykkeligt for at overlejre offeret i, er (ironisk nok) selv beskyttet under ophavsretslove, så længe det overholder andre love.

Baghængende

I december 2021 foreslog Storbritanniens lovkommision at udvide hadforbudslloven til at dække kønsbaseret fjendtlighed, men foreslog ikke at inkludere deepfakes i denne kategori, på trods af multiple eksempler på sådan brug verden over (især i Indien) af teknologien, der er blevet brugt mod kvindelige politikere og kvindelige aktivister. Kvinder er overvældende målet for ulovligt deepfake-indhold, uanset om motiverne bag deepfakeren er åbenlyst sociale (dvs. intentionen om at ydmyge, af-platforme og afmagte) eller blot liderlige (dvs. pornografiske) af natur.

I marts 2021 tog den Illinois-baserede National Law Review Storbritanniens lovgivningsramme under behandling som ‘fuldstændig utilstrækkelig i øjeblikket til at omhandle deepfakes’, og endda mangler grundlæggende lovgivningsmæssige mekanismer, der beskytter en persons lighed.

Deepfake-love i USA

I modsætning hertil beskytter USA til en vis grad sine borgere ‘ret til offentlighed’, selvom ikke på føderalt niveau (på nuværende tidspunkt findes sådanne love i cirka halvdelen af US-stater, med vildt varierende lovgivningsmæssige mekanismer).

Selvom det er en forbedring af Storbritanniens præstation i deepfake-lovgivning, kan USA kun prale af sporadisk, per stat-dækkelse, og synes at være fast besluttet på at omhandle teknologiens potentielle politiske manipulation før de kommer rundt om, til sidst, til dens indvirkning på private personer.

I 2019 forbød delstaten Texas oprettelsen eller spredningen af politisk deepfakes, med Texas Senate Bill 751 (SB751), og udelod enhver erklæring om deepfake-pornografi. Samme år tilføjede delstaten Virginia en ændring til en eksisterende lov om Ulovlig spredning eller salg af billeder af andre, og tilføjede den bredt omfattende term ‘falsk skabt videografisk eller stillebillede’.

I 2020 vedtog delstaten Californien Californiens lovforslag 602 (AB 602), der forbød oprettelsen eller spredningen af pornografiske deepfakes. Lovforslaget har ingen udløbstidspunkt, men har en lovprescriptionsfrist på tre år, og ledsages af en separat klausul, der dækker politiske deepfakes.

Til sidst i 2020 vedtog delstaten New York senatslov S5959D, der ikke kun forbød oprettelsen og/eller genoffentliggørelsen af pornografiske deepfakes, men aktivt beskyttede en brugers ret til offentlighed i forhold til en computer-genereret lighed gennem deepfakes, CGI eller enhver anden metode, selv efter døden (hvis personen i spørgsmål var bosat i New York på tidspunktet for deres død).

Til sidst har delstaten Maryland ændret sine love omkring børnepornografi for at omfatte og kriminalisere brugen af deepfakes, selvom det ikke omhandler indvirkningen af deepfakes på voksne mål.

Ventende på ‘DeepfakeGate’

Historien indikerer, at skaden, som nye teknologier måske kan forårsage, må blive personlig for en nation for at accelerere dens lovgivningsmæssige respons. Den meget nylige død af en teenagepige i Egypten, der angiveligt var blevet afpresset med deepfake-pornografi af sig selv, har fået begrænset dækning i vestlige medier*, mens afsløringer om tyveriet af 35 millioner dollars i De Forenede Arabiske Emirater, der kom til offentlighedens kendskab i 2021, repræsenterer også en ‘fjern begivenhed’, der ikke sandsynligvis vil accelerere senatet eller antænde en brand under de 45 tilbageværende stater, der endnu ikke har vedtaget deepfake-lovgivning.

Hvis USA antager en mere samlet front omkring misbrug af deepfake-teknologi, vil omfattende lovgivning sandsynligvis påvirke governance-aspektet af telekommunikation og data-infrastruktur og -lagring, hvilket vil føre til hurtige ændringer i politik, der pålægges dens forretningspartnere verden over. Det faktum, at Europas antagelse af GDPR ikke ultimativt ‘gik over’ til Nordamerikas dataindsamling og -lagringspolitik, betyder ikke, at EU ikke ligeså kunne få øget indflydelse over de mindre samarbejdsvillige nationer, som det handler med – hvis det nogensinde tager en mere engageret lovgivningsmæssig stilling til generering, lagring og opbevaring af deepfake-pornografi.

Men noget må ske på ‘ground zero’ først, i en af disse førende grupper af lande; og vi venter stadig på det: en kolossal darknet-høst af CSAM af myndighederne; en stor tyveri, der bruger audio- og/eller video-baseret deepfake-teknologi til at narre en amerikansk direktør til at misrette en meget stor mængde penge; eller en amerikansk pendant til den voksende brug af deepfakes til at ofre kvinder i mere patriarkalske lande (hvis amerikansk kultur overhovedet er udstyret til at spejle disse begivenheder, hvilket er tvivlsomt). Disse er svære ting at ønske, og gode ting at undgå ved enhver anden metode end at stikke hovedet i sandet eller vente på et ‘ildfuldt’ begivenhed.

Et centralt problem, som EU i øjeblikket undgår ved at rette sin lovgivningsmæssige dygtighed mod reklamefirmaer, der ønsker at fremme deres dygtige og legitime deepfakes, er, at deepfakes stadig er svære at spotte algoritmerisk; de fleste af den lange række af detektionsmetoder, der dukker op på arXiv hver måned, afhænger af vandmærkning, blockchain-baseret verificering eller på en eller anden måde ændrer den samlede infrastruktur, som vi i øjeblikket bruger til frit at forbruge video – løsninger, der antyder en radikal lovgivningsmæssig revision af begrebet video som en proxy for ‘sandhed’. Resten er rutinemæssigt overhalet af fortsat fremgang i de populære åbne kilde deepfake-repositorier.

Et yderligere problem er, at de store vestlige nationer har ret i en vis forstand i ikke at tilbyde en knee-jerk-reaktion på en enkelt problematisk tråd i en række nye AI-teknologier, mange af hvilke lover enorme fordele for samfund og industri, og mange af hvilke kunne være påvirket på en eller anden måde, hvis hurtig proscription og regulering af billedsynthesis-systemer ville begynde i alvor, som reaktion på en større begivenhed, og til den efterfølgende offentlige opstand.

Det kunne dog være en god idé at i det mindste accelerere den langsomme og undertiden måløse gang, vi tager mod regulering af deepfakes, og møde de potentielle problemer i midterfeltet og på vores egne betingelser, i stedet for at blive tvunget af senere begivenheder til en mindre overvejet respons.

* De påståede gerningsmænd er anklaget for afpresning; der er ingen egyptisk lov, der dækker deepfake-pornografi.

Først offentliggjort 24. januar 2022.