Europas og Storbritannias forslag til regulering av deepfakes er overraskende begrenset

Analyse For aktivister som håper at 2022 kan bli året da deepfakede bilder faller inn under en strengere lovmessig ramme, er de tidlige indikasjonene ikke lovende.

I fjor torsdag ratifiserte Europaparlamentet endringer i Digital Services Act (DSA, som skal tre i kraft i 2023), i forhold til spredning av deepfakes. Endringene omhandler deepfakes i to avsnitt, hver direkte relatert til nettannonsering: endring 1709 vedrørende artikkel 30, og en relatert endring av artikkel 63.

Det første foreslår en helt ny artikkel 30a, med tittelen Deep fakes, som lyder:

‘Hvis en stor nettbasert plattform blir klar over at et innhold er et generert eller manipulert bilde, lyd eller video som ligner eksisterende personer, gjenstander, steder eller andre enheter eller hendelser og falskt ser ut til å være ekte eller sannferdig (deepfakes), skal tjenesteytteren merke innholdet på en måte som informerer om at innholdet er uekte og som er tydelig synlig for mottakeren av tjenestene.’

Det andre legger til tekst i den eksisterende artikkel 63, som hovedsakelig handler om å øke transparensen i store annonseringsplattformer. Den relevante teksten lyder:

‘I tillegg skal store nettbaserte plattformer merke alle kjente deep fake-videoer, lyd eller andre filer.’

I praksis ser lovgivningen ut til å forberede seg på den økende praksisen med ‘legitime deepfakes’, der tillatelse er gitt og rettigheter sikret for ansiktsbytte i promotering eller annonsemateriale – som den russiske teleselskapet Telefons lisensiert bruk av Bruce Willis’ identitet i en nylig annonsekampanje.

Tøven med å lovgive

DSA ser så langt ikke ut til å omhandle bekymringene til aktivister over bruk av deepfake-teknikker som de oftest brukes – til å omskape pornografiske videoer. Den omhandler heller ikke omfanget, hvis noen, av deepfakes i filmer og TV-programmer som må disklarez til seerne på samme måte som deepfakes i annonsering vil bli, i det minste i EU, fra 2023.

Ratifiseringsprosessen for DSA går nå over til forhandling med EU-medlemsstatene, sammen med den bredere omfanget av Digital Markets Act (DMA).

Europols rapport fra desember 2020 rapport Malicious Uses and Abuses of Artificial Intelligence hevdet at det ville være en feil for EU å omhandle spesifikke nåværende deepfake-teknologier (slik som DeepFaceLive), som kan føre til at EU-loven stadig må holde pace med den nyeste rammen eller metoden.

Rapporten fastslo:

‘Spesielt bør disse politikken være teknologiuavhengige for å være effektive på lang sikt og for å unngå å måtte gjennomgå og erstatte disse med jevne mellomrom når teknologien bak skapning og misbruk av deepfakes utvikler seg. ‘

‘Likevel bør slike tiltak også unngå å hindre de positive anvendelsene av GANs.’

Den avsluttende bemerkningen i sitatet over, om Generative Adversarial Networks (GANs), karakteriserer i stor grad den europeiske og nordamerikanske tøven med å innføre lover som kan kneble en fremvoksende AI-forskningssektor som allerede anses å falle bak Asia (hvis mer didaktiske nasjoner har kunnet raske frem med deepfake-lovgivning).

For eksempel understreket en rapport fra 2018 fra Storbritannias utvalg for kunstig intelligens i House of Lords flere ganger risikoen for å la tøven holde tilbake AI-utviklingen i nasjonen, eksemplifisert i tittelen: AI i Storbritannia: klar, villig og i stand?. Forrige april ble Storbritannia også det første landet til å godkjenne utrulling av selvkjørende biler på motorveier.

Amerika er ikke mindre ivrig; i USA har The Brookings Institution forsaket behovet for økt lovgivning for AI i USA, og kritiserte lovgivere for deres ‘vent og se’-holdning til konsekvensene av maskinlærings-teknologier

Foruten den svake tilnærmingen til DSA når det gjelder å omhandle sosiale (i stedet for politiske) bekymringer rundt deepfakes, har EUs forslag til regulering av AI, som ble lansert i april 2021, kommet under kritikk for sin egen unngåelse av emnet.

Begrenset deepfake-regulering i Storbritannia

Som en ytterligere skuffelse for aktivister mot deepfakes, som forfatteren Helen Mort, som kampanjet for ny britisk lovgivning i 2021 etter å ha blitt avbildet i pornografiske deepfakes uten samtykke, kritiserte en rapport som ble publisert i dag av Storbritannias parlamentariske komité for digitalt, kultur, media og sport kritiserer den britiske regjeringen for ikke å omhandle deepfakes i utkastet til Online Safety Bill.

Rapporten hevder at utkastets nåværende lovmessige tiltak mot deepfake-misbruk er ‘uklare og upraktiske’, og foreslår at den foreslåtte lovgivningen ikke gjør noe for å omhandle ‘lovlige, men skadelige’ AI-assisterte pornografiske video- og bilde-manipulasjons-teknikker:

‘[Vi] anbefaler at regjeringen proaktivt omhandler typer innhold som er teknisk lovlige, som insidøse deler av barne-misbruk-sekvenser som breadcrumbing og typer av nett-vold mot kvinner og jenter som teknologisk-aktivert ‘nudifying’ av kvinner og deepfake-pornografi, ved å bringe dem inn under primær lovgivning eller som typer av skadelig innhold som dekkes av omsorgsplikter.’

Gjeldende lovgivning i Storbritannia er begrenset til spredning av ‘ekte’ bilder, som i tilfeller av hevn-pornografi, der for eksempel konfidensielle og private eksplisitte materialer offentliggjøres av en eks-partner. Hvis en forfølger gjennomfører og offentliggjør deepfake-materiale som overfører offerets identitet til pornografisk innhold, kan de bare straffeforfolges hvis de direkte forfølger offeret ved å rette materialet mot dem, eller under lovgivning relatert til opphavsrett.

I det første tilfelle betyr lettheten med hvilken nytt deepfake-innhold samler popularitet og seere nesten uunngåelig at offeret vil bli informert av bekymrede venner eller uavhengige tredje parter, i stedet for av personen som deepfakede dem, og tillater at populariteten til slike materialer beskytter deepfakeren, hvis arbeid likevel ‘når offeret’.

I det andre tilfelle ville straffeforfølgning bare sannsynligvis være mulig hvis et uberettet tredjeparts-pornografisk video (som offerets identitet senere blir overført til) er profesjonelt produsert og lovmessig beskyttet under Storbritannias opphavsrettsdomene (selv om et egnet video kan hentes fritt fra noen jurisdiksjon i verden). En ‘amatør’-video fra noen jurisdiksjon mangler tydelig opphavsrettslig status, og en skreddersydd video som deepfakeren har filmet uttrykkelig for å overføre offeret til er (ironisk nok) selv beskyttet under opphavsrettslover, så lenge den er i samsvar med andre lover.

Bak kurven

I desember 2021 forslo Storbritannias lovkommisjon å utvide hate-speech-lover til å omhandle seksuell fiendtlighet, men foreslo ikke å inkludere deepfakes i denne kategorien, til tross for flere eksempler på slik bruk i verden (spesielt i India) av teknologien som våpen mot kvinnelige politikere og kvinnelige aktivister. Kvinner er overveldende målet for ulovlige deepfake-innhold, enten motiver eller fakers er åpenbart sosiale (dvs. intensjonen til å ydmyke, de-platforme og avkraft) eller kun pornografisk i naturen.

I mars 2021 kritiserte Illinois-baserte National Law Review Storbritannias lovmessige ramme som ‘fullstendig utilstrekkelig nå til å omhandle deepfakes’, og mangler til og med grunnleggende lovmessige mekanismer som beskytter en persons likhet.

Deepfake-lover i USA

I motsetning til dette beskytter USA i noen grad sine borgere ‘rett til offentlighet’, selv om ikke på føderalt nivå (per nå eksisterer slike lover i omtrent halvparten av USAs delstater, med veldig varierende lovmessige mekanismer).

Selv om det er en forbedring på Storbritannias prestasjon i deepfake-lovgivning, kan USA bare skilte med sporadisk, per-delstat-dekning, og ser ut til å være bestemt på å omhandle teknologiens potensiale for politisk manipulering før de kommer rundt til å omhandle dens innvirkning på private personer.

I 2019 kriminaliserte Texas skapning eller spredning av politisk deepfakes, med Texas Senate Bill 751 (SB751), og utelot noen uttalelse om deepfake-pornografi. Samme år la delstaten Virginia til en endring til en eksisterende lovgivning om Ulovlig spredning eller salg av bilder av andre, og la til den omfattende betegnelsen ‘falskt skapt videografisk eller stille bilde’.

I 2020 vedtok California California Assembly Bill 602 (AB 602), som forbød generering eller spredning av pornografiske deepfakes. Billen har ingen solnedgangsklausul, men har en lovmessig begrensning på tre år, og ledsages av en separat klausul som omhandler politiske deepfakes.

Towards slutten av 2020 vedtok New York senatbill S5959D, som ikke bare kriminaliserer skapning og/eller gjenutgivelse av pornografiske deepfakes, men også aktivt beskytter en brukers rett til offentlighet i forhold til en datamaskin-generert likhet gjennom deepfakes, CGI eller andre midler, selv etter døden (hvis personen i spørsmål var bosatt i New York på tidspunktet for dødsfallet).

Til slutt har delstaten Maryland endret lovene om barnepornografi for å omfatte og kriminalisere bruk av deepfakes, selv om det ikke omhandler innvirkningen av deepfakes på voksne mål.

Venter på ‘DeepfakeGate’

Historien indikerer at skadene som nye teknologier kan forårsake, må bli personlige for en nasjon for å påskynde dens lovgivningsmessige respons. Den meget nylige dødsfallet til en tenåringsjente i Egypt som angivelig ble utpresset med deepfake-pornografi av seg selv, har fått begrenset dekning i vestlige medier*, mens avsløringer om tyveriet av 35 millioner dollar i De forente arabiske emirater, som blev kjent i 2021, representerer også en ‘fjern hendelse’ som ikke sannsynligvis vil påskynde senatet eller sette fyr på de 45 gjenværende statene som ennå ikke har vedtatt deepfake-lovgivning.

Hvis USA adopterer en mer samlet front rundt misbruk av deepfake-teknologi, ville vidtrevende lovgivning sannsynligvis påvirke styringsaspektet ved telekommunikasjon og data-infrastruktur og lagring, og føre til raske oppfølgingsendringer pålagt deres forretningspartnere rundt om i verden. Det faktum at EUs innføring av GDPR ikke ultimate ‘krysset over’ til Nord-Amerikas data-innsamling og lagringspolitikk, betyr ikke at EU ikke likevel kan få overtak over de mindre samarbeidende nasjonene det handler med – hvis det noen gang tar en mer forpliktet lovgivningsmessig stilling til generering, lagring og oppbevaring av deepfake-pornografi.

Men noe må skje på ‘bakke null’ først, i en av disse ledende gruppene av land; og vi venter fortsatt på det: en enorm darknet-haul av CSAM av myndighetene; en stor ran som bruker audio- og/eller video-basert deepfake-teknologi for å lure en amerikansk selskapsdirektør til å misrette en veldig stor sum penger; eller en amerikansk ekvivalent av den økende bruken av deepfakes for å ofre kvinner i mer patriarkalske land (hvis amerikansk kultur virkelig er utrustet til å speile disse hendelsene, som er tvilsomt). Disse er harde ting å ønske, og gode ting å unngå ved enhver annen metode enn å stikke hodet i sanden eller vente på en ‘brannhendelse’.

Et sentralt problem, som EU for tiden unngår ved å rette sin lovgivningsmessige dyktighet mot annonserings-selskaper som vil promotere sine smarte og legitime deepfakes, er at deepfakes fortsatt er vanskelige å oppdage algoritmesk; de fleste av rekken av oppdaging-metoder som dukker opp på arXiv hver måned, avhenger av vannmerking, blockchain-basert verifisering eller på noen måte endrer hele infrastrukturen vi for tiden bruker for å fritt konsumere video – løsninger som antyder en radikal lovgivningsmessig revisjon av begrepet video som en proxy for ‘sannhet’. Resten er rutinemessig forbigått av pågående fremgang i populære åpne kilde-deepfake-repositorier.

Et ytterligere problem er at de store vestlige nasjonene er rett i en mening, å ikke tilby en refleksiv reaksjon på en enkelt problematisk tråd i en rekke nye AI-teknologier, mange av dem lover å gi stor nytte for samfunnet og industri, og mange av dem kunne være negativt påvirket på noen måte hvis overilt forbud og regulering av bilde-syntese-systemer skulle begynne i ernest, som en reaksjon på en større hendelse og den påfølgende oppstyr.

Likevel kunne det være en god idé å i det minste påskynde den langsomme og noen ganger målløse gangen vi tar mot regulering av deepfakes, og møte de potensielle problemene i midten, og på våre egne betingelser, i stedet for å bli tvunget av senere hendelser til en mindre overveid respons.

* De påståtte gjerningspersonene er tiltalt for utpressing; det finnes ingen egyptisk lovgivning som dekker deepfake-pornografi.

Først publisert 24. januar 2022.