Europæiske og britiske forslag til dybfake-lovgivning er overraskende begrænsede

Analyse For kampagnemagerne, der håber, at 2022 kan være året, hvor dybfake-billeder falder inden for en strengere juridisk ramme, er de tidlige indikatorer ikke lovende.

Sidste torsdag ratificerede Europa-Parlamentet ændringer til Den Digitale Serviceakt (DSA, der skal træde i kraft i 2023), i forhold til spredningen af dybfakes. Ændringerne omhandler dybfakes i to afsnit, hver direkte relateret til online-reklame: ændring 1709 vedrørende artikel 30, og en relateret ændring til artikel 63.

Det første forslår en helt ny artikel 30a, med titlen Dybfakes, som lyder:

‘Hvis en meget stor online-platform bliver klar over, at et indhold er et genereret eller manipuleret billede, lyd eller video, der ligner eksisterende personer, objekter, steder eller andre enheder eller begivenheder og falsk fremstår som ægte eller sandt for en person (dybfakes), skal udbyderen mærke indholdet på en måde, der informerer om, at indholdet er uægte og tydeligt synligt for modtageren af tjenesten.’

Det andet tilføjer tekst til den eksisterende artikel 63, som hovedsagelig omhandler at øge gennemsigtigheden af store reklameplatforme. Den relevante tekst lyder:

‘Desuden skal meget store online-platforme mærke alle kendte dybfake-videoer, lyd eller andre filer.’

Effektivt set synes lovgivningen at være ved at forberede sig på den voksende praksis med ‘legitime dybfakes’, hvor tilladelse er givet og rettigheder sikret for ansigts-udskiftning i reklame- eller promoveringsmateriale – såsom den russiske teleselskab Telefons licenserede brug af Bruce Willis’ identitet i en seneste reklamekampagne.

Tøven med at lovgive

DSA ser således ikke ud til at adresse kampagnemagerens bekymringer om brugen af dybfake-teknikker, som de fleste bruger – til at genskabe pornografiske videoer. Det adresserer heller ikke omfanget, hvis der er noget, af hvilken dybfakes i film og tv skal frasiagnere til seerne på samme måde som dybfakes i reklame vil blive, i det mindste i EU, fra 2023.

Ratificeringsprocessen for DSA går nu videre til forhandling med EU’s medlemsstater, sammen med den bredere omfang af Den Digitale Markedsakt (DMA).

Europols rapport fra december 2020 rapport Malicious Uses and Abuses of Artificial Intelligence hævdede, at det ville være en fejl af EU at adresse specifikke nuværende dybfake-teknologier (såsom DeepFaceLive), som kunne føre til, at EU-lovgivningen konstant måtte følge med de seneste rammer eller metoder.

Rapporten fastslog:

‘I særdeleshed skal disse politikker være teknologi-agnostiske for at være effektive på lang sigt og for at undgå at skulle gennemgå og erstatte disse med jævne mellemrum, da teknologien bag skabelse og misbrug af dybfakes udvikler sig.

‘Dog skal sådanne foranstaltninger også undgå at hindre de positive anvendelser af GANs.’

Den afsluttende bemærkning i citatet ovenfor, vedrørende Generative Adversarial Networks (GANs) karakteriserer i bredere forstand europæiske og nordamerikanske tøven med at anvende love, der kunne låse en opblomstrende AI-forskningssektor, der allerede opfattes som at falde bagud i forhold til Asien (hvis mere didaktiske nationer har kunnet hurtigt at lovgive om dybfakes).

For eksempel fremhæver en rapport fra 2018 rapport fra Storbritanniens udvalg for kunstig intelligens i House of Lords flere gange risikoen for at lade forsigtighed hindre AI-udviklingen i nationen, eksemplificeret i dets titel: AI i Storbritannien: parat, villig og i stand?. Sidste april blev Storbritannien også det første land til at godkende udrulningen af selvkørende biler på motorveje.

Amerika er ikke mindre ivrig; i USA har The Brookings Institution opfordret til øget lovgivning for AI i USA, idet de kritiserer lovgivere for deres ‘vent og se’-holdning til konsekvenserne af maskinlærings-teknologier

Ud over den mangelfulde tilgang til DSA til at adresse sociale (i stedet for politiske) bekymringer omkring dybfakes, har EU’s forslag til en reguleringsramme for AI, offentliggjort i april 2021, været kritiseret for sin egen undgåelse af emnet.

Knaphed af dybfake-lovgivning i Storbritannien

Som en yderligere skuffelse for anti-dybfake-kampagnemager som forfatteren Helen Mort, der kampagnerede for ny britisk lovgivning i 2021 efter at være blevet non-consensuelt afbildet i pornografiske dybfake-videoer, kritiserer en rapport offentliggjort i dag af det britiske parlaments digitale, kulturelle, medie- og sportsudvalg den britiske regering for ikke at have adresse dybfakes i Udkast til online-sikkerhedslov.

Rapporten citerer udkastets nuværende retslige foranstaltninger mod dybfake-misbrug som ‘uklare og upraktiske’, og foreslår, at den foreslåede lovgivning ikke gør noget for at adresse ‘lovlige, men skadelige’ status for AI-assisterede pornografiske video- og billedmanipulationsteknikker:

‘[Vi] anbefaler, at regeringen proaktivt adresserer typer af indhold, der er teknisk lovlige, såsom snigende dele af børnemisbrugssekvenser som breadcrumbing og typer af online-vold mod kvinder og piger som teknologi-aktiveret ‘nudifying’ af kvinder og dybfake-pornografi, ved at bringe dem inden for rammerne af enten primær lovgivning eller som typer af skadeligt indhold, der er dækket af omsorgspligterne.’

Gældende lovgivning i Storbritannien er begrænset til spredningen af ‘ægte’ billeder, såsom tilfælde af hævn-pornografi, hvor for eksempel fortrolige og private eksplisitte materialer offentliggøres af en eks-partner. Hvis en forfølger udfører og offentliggør dybfake-materialer, der overfører deres ‘måls’ identitet til pornografisk indhold, kan de kun straffes, hvis de direkte chikanerer målet ved at rette materialet mod dem, eller under copyright-relateret lovgivning.

I det første tilfælde betyder det, at det let kan samle træk og seere, næsten uundgåeligt, at offeret vil blive informeret af bekymrede venner eller uafhængige tredjeparter, snarere end af personen, der dybfakede dem, og tillader, at dybfakerens arbejde stadig ‘når målet’, selv om dybfakeren ikke er direkte involveret.

I det andet tilfælde ville strafansvar sandsynligvis kun være muligt, hvis et uændret tredjeparts-pornografisk video (hvor offerets identitet senere indsættes) er professionelt produceret og lovligt beskyttet under britisk ophavsret (selv om en passende video kan hentes frit fra enhver lovlig jurisdiktion i verden). En ‘amateur’-video fra enhver jurisdiktion mangler klart ophavsretsstatus, og en speciallavet video, som dybfakeren har optaget udtrykkeligt for at indsætte offeret i, er (ironisk nok) selv beskyttet under ophavsretslove, så længe den overholder andre love.

Bagud i udviklingen

I december 2021 foreslog Storbritanniens lovkommision at udvide hadforbudslove til at dække seksuelt fjendskab, men foreslog ikke at inkludere dybfakes i denne kategori, på trods af multiple eksempler på sådan brug verden over (især i Indien) af teknologien, der er våbeniseret mod kvindelige politikere og kvindelige aktivister. Kvinder er overvældende målet for ulovligt dybfake-indhold, uanset om motiverne bag dybfakerne er åbenlyst sociale (dvs. intentionen om at ydmyge, de-platforme og afmagte) eller blot liderlige (dvs. pornografiske) i natur.

Dybfake-love i USA

I modsætning hertil beskytter USA til en vis grad sine borgeres ‘ret til offentlighed’, selv om ikke på føderalt niveau (i øjeblikket findes sådanne love i cirka halvdelen af US-stater, med vildt varierende lovgivningsmekanismer).

Selv om det er en forbedring i forhold til Storbritanniens indsats på dybfake-lovgivning, kan USA kun prale af sporadisk, per-stat-dækning, og synes at være fast besluttet på at adresse teknologiens potentiale for politisk manipulation før de kommer til at tackle dens indvirkning på private personer.

I 2019 forbød delstaten Texas skabelsen eller spredningen af politisk dybfakes, med Texas Senate Bill 751 (SB751), og udelod enhver erklæring om dybfake-pornografi. Samme år tilføjede delstaten Virginia en ændring til en eksisterende lov om ulovlig spredning eller salg af billeder af andre, og tilføjede den bredt omfattende term ‘falsk skabt videografisk eller statisk billede’.

I 2020 vedtog delstaten Californien California Assembly Bill 602 (AB 602) forbuddet mod at generere eller sprede pornografiske dybfakes. Lovforslaget har ingen udløbstidspunkt, men har en lovbegrænsning på tre år, og er ledsaget af en separat klausul, der dækker politiske dybfakes.

Ved årets slutning i 2020 vedtog delstaten New York senatsforslag S5959D, som ikke kun forbød skabelsen og/eller genudgivelsen af pornografiske dybfakes, men aktivt beskyttede en brugers ret til offentlighed i forhold til en computergenereret lighed gennem dybfakes, CGI eller enhver anden metode, selv efter døden (hvis personen i spørgsmål var bosat i New York på tidspunktet for deres død).

Til sidst har delstaten Maryland ændret sine love omkring børnepornografi til at omfatte og kriminalisere brugen af dybfakes, selv om det ikke adresserer indvirkningen af dybfakes på voksne mål.

Ventende på ‘DeepfakeGate’

Historien tyder på, at skaden, som nye teknologier kan medføre, må blive personlig for en nation for at fremskynde dens lovgivningsmæssige respons. Den meget nærliggende død af en teenager i Egypten, der angiveligt var blevet afpresset med dybfake-pornografi af sig selv, har fået begrænset dækning i vestlige medier*, mens afsløringer om tyveriet af 35 millioner dollars i De Forenede Arabiske Emirater, som kom frem i lyset i 2021, repræsenterer også en ‘fjern begivenhed’, der ikke sandsynligvis vil fremskynde senatet eller antænde en ild under de 45 tilbageværende stater, der endnu ikke har vedtaget dybfake-lovgivning.

Hvis USA antager en mere samlet front omkring misbrug af dybfake-teknologi, vil omfattende lovgivning sandsynligvis påvirke reguleringsaspektet af telekommunikation og data-infrastruktur og -lagring, hvilket vil føre til hurtige opfølgning af politikændringer, der pålægges dens forretningspartnere verden over. Det faktum, at EU’s adoption af GDPR ikke ultimativt ‘gik over’ til Nordamerikas data-indsamling og -lagringspolitik, betyder ikke, at EU ikke kunne få en lignende indflydelse over de mindre samarbejdsvillige nationer, som det handler med, hvis det nogensinde tager en mere engageret lovgivningsmæssig stilling til generering, lagring og vedligeholdelse af dybfake-pornografi.

Men noget skal ske på ‘ground zero’ først, i en af disse ledende grupper af lande; og vi venter stadig på det: en kolossal darknet-haul af CSAM af myndighederne; en stor tyveri, der bruger audio- og/eller video-baseret dybfake-teknologi til at narre en amerikansk direktør til at misrette en meget stor mængde penge; eller en amerikansk pendant til den voksende brug af dybfakes til at ofre kvinder i mere patriarkalske lande (hvis amerikansk kultur virkelig er udstyret til at spejle disse begivenheder, hvilket er tvivlsomt). Disse er svære ting at ønske, og gode ting at undgå ved enhver anden metode end at stikke hovedet i sandet eller vente på en ‘ildende’ begivenhed.

Et centralt problem, som EU i øjeblikket undgår ved at rette sin lovgivningsmæssige dygtighed mod reklamefirmaer, der ønsker at fremme deres intelligente og legitime dybfakes, er, at dybfakes stadig er svære at spotte algoritmerisk; de fleste af de mange opdagelsesmetoder, der dukker op på arXiv hver måned, afhænger af vandmærkning, blockchain-baseret verificering eller på en eller anden måde ændrer den samle infrastruktur, vi bruger til at forbruge video – løsninger, der antyder en radikal lovgivningsmæssig revision af begrebet video som en proxy for ‘sandhed’. Resten bliver rutinemæssigt overhalet af fortsatte fremskridt i de populære open source-dybfake-repositorier.

Et yderligere problem er, at de store vestlige nationer har ret i en vis forstand i ikke at tilbyde en impulsiv reaktion på en enkelt problematisk tråd i en række nye AI-teknologier, mange af hvilke lover enorme fordele for samfund og industri, og mange af hvilke kunne være negativt påvirket på en eller anden måde, hvis en impulsiv forbud eller regulering af billedsynssystemer begyndte i alvor, som reaktion på en større begivenhed og den efterfølgende opstandelse.

Det kunne dog være en god idé at i det mindste fremskynde den langsomme og til tider måløse gang, vi er på vej mod regulering af dybfakes, og møde de potentielle problemer på midten, og på vores egne betingelser, i stedet for at blive tvunget af senere begivenheder til en mindre overvejet reaktion.

* De påståede gerningsmænd er anklaget for afpresning; der er ingen egyptisk lovgivning, der dækker dybfake-pornografi.

Først udgivet den 24. januar 2022.