Europeiske og britiske forslag til dybfejt-regulering er overraskende begrensede

Analyse For aktivister som håper at 2022 kunne være året da dybfejt-bilder kommer under en strengere juridisk ramme, er de tidlige indikasjonene upålite.

Forrige torsdag ratifiserte det europeiske parlamentet endringer i Digital Services Act (DSA, som skal tre i kraft i 2023), i forhold til spredning av dybfejt. Endringene omhandler dybfejt i to avsnitt, hver direkte relatert til nettannonsering: endring 1709 vedrørende artikkel 30, og en relatert endring til artikkel 63.

Det første foreslår en helt ny artikkel 30a, med tittelen Dybfejt, som lyder:

‘Hvis en svært stor nettplattform blir klar over at et innhold er et generert eller manipulert bilde, lyd eller videoinnhold som betydelig ligner eksisterende personer, objekter, steder eller andre enheter eller hendelser og falskt fremstår som ekte eller sannferdig for en person (dybfejt), skal tjenesteytteren merke innholdet på en måte som informerer om at innholdet er uekte og som er tydelig synlig for mottakeren av tjenestene.’

Det andre legger til tekst i den eksisterende artikkel 63, som hovedsakelig handler om å øke transparensen hos store annonseringsplattformer. Den relevante teksten lyder:

‘I tillegg bør svært store nettplattformer merke alle kjente dybfejt-videoer, lyd eller andre filer.’

Effektivt ser lovgivningen ut til å forberede seg på den voksende praksisen med ‘legitime dybfejt’, der tillatelse er gitt og rettigheter sikret for ansiktsbytte i promotering eller annonseringsmateriale – som den russiske teleselskapet Telefons lisensiert bruk av Bruce Willis’ identitet i en nylig annonsekampanje.

Tøven med å lovgive

DSA ser så langt ikke ut til å omhandle bekymringene til aktivister over bruken av dybfejt-teknikker som de mest vanlig brukes – til å omskape pornografiske videoer. Det omhandler heller ikke omfanget, hvis noen, av den kommende bruken av dybfejt i filmer og TV-programmer må være åpenbart for seerne på samme måte som dybfejt i annonsering vil være, i det minste i EU, fra 2023.

Ratifiseringsprosessen for DSA går nå over til forhandling med EU-medlemsstatene, sammen med den bredere omfanget av Digital Markets Act (DMA).

Europols rapport fra desember 2020 rapport Malicious Uses and Abuses of Artificial Intelligence hevdet at det ville være en feil for EU å omhandle spesifikke nåværende dybfejt-teknologier (slik som DeepFaceLive), som kunne føre til at EU-loven konstant måtte holde pace med den siste rammen eller metoden.

Rapporten fastslo:

‘Spesielt bør disse politikene være teknologi-agnostiske for å være effektive på lang sikt og for å unngå å måtte gjennomgå og erstatte disse med jevne mellomrom som teknologien bak skapning og misbruk av dybfejt utvikler seg.

‘Likevel bør slike tiltak også unngå å hindre de positive anvendelsene av GANs.’

Den avsluttende bemerkningen ovenfor, om Generative Adversarial Networks (GANs), karakteriserer bredt den europeiske og nordamerikanske tøven med å anvende lover som kan lamme en fremvoksende AI-forskningssektor som allerede oppfattes som fallende bak Asia (hvis mer didaktiske nasjoner har vært i stand til å raske fremme dybfejt-lovgivning).

For eksempel, en rapport fra 2018 fra Storbritannias utvalg for kunstig intelligens i House of Lords betoner flere ganger risikoen for å la tøven holde tilbake AI-utviklingen i nasjonen, eksemplifisert i tittelen: AI i Storbritannia: klar, villig og i stand?. Forrige april ble Storbritannia også det første landet til å godkjenne utrulling av selvkjørende biler på motorveier.

Amerika er ikke mindre ivrig; i USA har The Brookings Institution oppfordret til økt lovgivning for AI i USA, og kritisert lovgivere for deres ‘vent og se’-holdning til konsekvensene av maskinlærings-teknologier.

Foruten den svake tilnærmingen til DSA mot å omhandle sosiale (i stedet for politiske) bekymringer rundt dybfejt, har EUs forslag til regulering av AI, som ble lansert i april 2021, kommet under kritikk for sin egen unngåelse av emnet.

Beskedne dybfejt-reguleringer i Storbritannia

Som en ytterligere skuffelse for anti-dybfejt-aktivister som forfatteren Helen Mort, som kampanjet for ny britisk lovgivning i 2021 etter å ha blitt avbildet i pornografiske dybfejt-videoer uten samtykke, kritiserer en rapport som ble publisert i dag av det britiske parlamentets komité for digitalt, kultur, media og sport den britiske regjeringen for å ikke omhandle dybfejt i utkastet til Online Safety Bill.

Med henvisning til utkastets nåværende lovgivning mot dybfejt-misbruk som ‘uklar og upraktisk’, foreslår rapporten at den foreslåtte lovgivningen ikke gjør noe for å omhandle ‘lovlig, men skadelig’ status for AI-assistert pornografisk video- og bilde-manipuleringsteknikker:

‘[Vi] anbefaler at regjeringen proaktivt omhandler typer innhold som er teknisk lovlig, som skjulte deler av barnemishandlingsekvenser som breadcrumbing og typer av nett-vold mot kvinner og jenter som teknisk ‘nudifying’ av kvinner og dybfejt-pornografi, ved å bringe dem inn under primærlovgivning eller som typer av skadelig innhold som er dekket av omsorgsplikter.’

Gjeldende lovgivning i Storbritannia er begrenset til spredning av ‘ekte’ bilder, som tilfeller av hevn-pornografi, hvor, for eksempel, konfidensielle og private eksplisitte materialer offentliggjøres av en eks-partner. Hvis en forfølger utfører og offentliggjør dybfejt-materiale som overfører ‘offerets’ identitet til pornografisk innhold, kan de bare straffeforfolges hvis de direkte forfølger offeret ved å rette materialet mot dem, eller under opphavsrettsrelatert lovgivning.

I det første tilfelle betyr lettheten med hvilken nytt dybfejt-innhold samler inn popularitet og seere nesten uunngåelig at offeret vil bli informert av bekymrede venner eller uavhengige tredje parter, i stedet for av personen som dybfejter dem, og lar viralityen av slike materialer beskytte dybfejteren, hvis arbeid likevel ‘når offeret’.

I det andre tilfelle ville straffeforfølgelse bare sannsynligvis være mulig der en uendret tredjeparts pornografisk video (inn i hvilken offerets identitet senere overføres) er profesjonelt produsert og lovlig beskyttet under Storbritannias opphavsrettsdomene (selv om en passende video kan hentes fritt fra noen lovlig jurisdiksjon i verden). En ‘amatør’-video fra noen jurisdiksjon mangler tydelig opphavsrettsstatus, og en skreddersydd video som dybfejteren har filmet uttrykkelig for å overføre offeret inn i, er (ironisk nok) selv beskyttet under opphavsrettslover, så lenge den er i samsvar med andre lover.

Bak kurven

I desember 2021 forslo Storbritannias lovkommisjon å utvide hat-ytelseslover til å dekke kjønnsbasert fiendtlighet, men foreslo ikke å inkludere dybfejt i denne kategorien, til tross for flere eksempler på slik bruk rundt om i verden (spesielt i India) av teknologien som våpen mot kvinnelige politikere og kvinner-aktivister. Kvinner er overveldende målet for ulovlig dybfejt-innhold, enten motiver eller fakers er åpenbart sosiale (dvs. intensjonen å ydmyke, de-plattforme og avmakte) eller kun prurient (dvs. pornografisk) av natur.

I mars 2021 kritiserte den Illinois-baserte National Law Review Storbritannias lovgivningsramme som ‘fullstendig utilstrekkelig nå til å håndtere dybfejt’, og mangler til og med grunnleggende lovgivningsmekanismer som beskytter en persons likhet.

Dybfejt-lover i USA

I motsetning til dette beskytter USA til en viss grad sine borgere ‘Right of Publicity’, selv om ikke på føderalt nivå (på nåværende tidspunkt eksisterer slike lover i omtrent halvparten av USAs delstater, med vilt varierende lovgivningsmekanismer).

Selv om det er en forbedring på Storbritannias prestasjon i dybfejt-lovgivning, kan USA bare hevde sporadisk, per-delstat-dekning, og ser ut til å være bestemt på å omhandle teknologiens potensiale for politisk manipulering før de kommer rundt til å omhandle dens innvirkning på private individer.

I 2019 forbudt delstaten Texas skapelsen eller spredningen av politisk dybfejt, med Texas Senate Bill 751 (SB751), og utelot noen uttalelse om dybfejt-pornografi. Samme år la delstaten Virginia til en endring til en eksisterende lov om Ulovlig spredning eller salg av bilder av andre, og la til den bredt omfattende betegnelsen ‘falsk skapt videografisk eller stille bilde’.

I 2020 vedtok delstaten California California Assembly Bill 602 (AB 602), som forbød skapelsen eller spredningen av pornografisk dybfejt. Billen har ingen solnedgangsklausul, men har en lovpåstand på tre år, og er ledsaget av en separat klausul som dekker politisk dybfejt.

Tidlig i 2020 vedtok delstaten New York senatbill S5959D, som ikke bare forbød skapelsen og/eller gjenpubliseringen av pornografisk dybfejt, men også aktivt beskyttet en brukers rett til offentlighet i forhold til en datamaskin-generert likhet gjennom dybfejt, CGI eller noen andre midler, selv etter døden (hvis personen i question var en innbygger i New York på tidspunktet for deres død).

Til slutt har delstaten Maryland endret lovene om barnepornografi til å omfatte og kriminalisere bruken av dybfejt, selv om den ikke omhandler innvirkningen av dybfejt på voksne mål.

VENTER PÅ ‘DYBFEJTGATE’

Historien indikerer at skaden som nye teknologier kan medføre, må bli personlig for en nasjon for å øke dens lovgivningsrespons. Den svært nylige døden til en tenåring i Egypt som angivelig ble utpresset med dybfejt-pornografi av seg selv, har mottatt begrenset dekning i vestlige medier*, mens avsløringer om tyveriet av 35 millioner dollar i De forente arabiske emirater, som kom til lys i 2021, representerer også en ‘fjern hendelse’ som ikke sannsynligvis vil øke senatets eller sette fyr på de 45 gjenværende statene som ikke har vedtatt dybfejt-lovgivning.

Hvis USA tar en mer samlet front rundt misbruk av dybfejt-teknologi, vil omfattende lovgivning sannsynligvis påvirke styringsaspektet ved telekommunikasjon og data-infrastruktur og lagring, og føre til raske politiske endringer pålagt næringslivet over hele verden. Det faktum at EUs innføring av GDPR ikke ultimate ‘gikk over’ til Nord-Amerikas data-innsamling og lagringspolitikk, betyr ikke at EU ikke likevel kan få overtak på mindre samarbeidsvillige nasjoner som den handler med – hvis den noen gang tar en mer forpliktet lovgivningsstandpunkt på generering, lagring og oppbevaring av dybfejt-pornografi.

Men noe må skje på ‘bakke null’ først, i en av disse ledende gruppene av land; og vi venter fortsatt på det: en kolossal darknet-haul av CSAM av myndighetene; en stor ran av bruk av audio- og/eller video-basert dybfejt-teknologi til å narre en amerikansk selskapsdirektør til å misrettere en svært stor sum penger; eller en amerikansk ekvivalent av den økende bruken av dybfejt til å ofre kvinner i mer patriarkalske land (hvis, i virkeligheten, USAs kultur er utrustet til å speile disse hendelsene, som er tvilsomt). Disse er harde ting å ønske, og gode ting å unngå ved noe annet middel enn å stikke hodet i sanden, eller vente på en ‘brannhendelse’.

Et sentralt problem, som EU for tiden unngår ved å rette sin lovgivnings kraft mot annonserings-selskaper som ønsker å fremme sine smarte og legitime dybfejt, er at dybfejt fortsatt er vanskelige å oppdage algoritmerisk; de fleste av strømmen av oppdaging-metoder som dukker opp på arXiv hver måned, avhenger av vannmerking, blockchain-basert verifisering eller på noen måte endrer hele infrastrukturen vi for tiden bruker til å fritt konsumere video – løsninger som antyder en radikal lovgivnings-revisjon av begrepet video som en proxy for ‘sannhet’. Resten er vanligvis forbigått av pågående fremgang i de populære åpne kildekode-dybfejt-lagrene.

Et ytterligere problem er at de store vestlige nasjonene er ganske rett, i en mening, å ikke tilby en kne-jerke-reaksjon på en enkelt problematisk tråd i en rekke nye AI-teknologier, mange av hvilke lover enorme fordeler for samfunnet og næringslivet, og mange av hvilke kunne være negativt påvirket på noen måte hvis hasteskritt og regulering av bilde-syntesystemer skulle begynne i ernest, som en reaksjon på en større hendelse, og til den påfølgende oppstyr.

Likevel kunne det være en god idé å i det minste øke den langsomme og noen gang mål-løse gange vi tar mot regulering av dybfejt, og møte de potensielle problemene i midten, og på våre egne betingelser, i stedet for å bli tvunget av senere hendelser til en mindre overveid reaksjon.

* De påståtte gjerningspersonene blir anklaget for utpressing; det finnes ingen egyptisk lovgivning som dekker dybfejt-pornografi.

Først publisert 24. januar 2022.