Europeiska och brittiska förslag till reglering av deepfakes är förvånansvärt begränsade

Analys För kampanjledare som hoppas att 2022 kan bli det år då deepfaked bilder hamnar under en strängare juridisk kontroll, är de tidiga indikatorerna otroligt dåliga.

Förra torsdagen godkände Europaparlamentet ändringar i den digitala tjänsteakten (DSA, som ska träda i kraft 2023), i fråga om spridning av deepfakes. Ändringarna behandlar deepfakes i två avsnitt, var och ett direkt relaterat till online-reklam: ändring 1709 som gäller artikel 30, och en relaterad ändring av artikel 63.

Det första förslaget är en helt ny artikel 30a, med titeln Deepfakes, som lyder:

‘Om en mycket stor onlineplattform blir medveten om att ett innehåll är ett genererat eller manipulerat bild-, ljud- eller videoinnehåll som liknar existerande personer, föremål, platser eller andra enheter eller händelser och falskeligen verkar vara äkta eller sanningsenligt för en person (deepfakes), ska leverantören märka innehållet på ett sätt som informerar att innehållet är oäkta och som är tydligt synligt för mottagaren av tjänsterna.’

Det andra tillägger text till den befintliga artikel 63, som i huvudsak handlar om att öka transparensen för stora annonsplattformar. Den relevanta texten lyder:

‘Dessutom bör mycket stora onlineplattformar märka alla kända deepfake-videor, ljud eller andra filer.’

I praktiken verkar lagstiftningen vara på väg att förbereda sig för den växande praxisen med “legitima deepfakes”, där tillstånd har getts och rättigheter säkrats för ansiktsutbyte i reklam- eller annat material – som den ryska telekomoperatören Telefons licensierade användning av Bruce Willis identitet i en nylig reklamkampanj.

Tveksamhet att lagstifta

DSA verkar hittills inte ta itu med kampanjledarnas farhågor om användningen av deepfake-teknik som den vanligast används – för att omgestalta pornografiska videor. Det tar inte heller itu med omfattningen, om någon, av hur användningen av deepfakes i filmer och TV-program kommer att behöva avslöjas för tittarna på samma sätt som deepfakes i reklam kommer att göras, åtminstone inom EU, från 2023.

Ratificeringsprocessen för DSA övergår nu till förhandlingar med EU:s medlemsstater, tillsammans med den bredare omfattningen av den digitala marknadsakten (DMA).

Europols rapport från december 2020 Malicious Uses and Abuses of Artificial Intelligence hävdade att det skulle vara ett misstag för EU att ta itu med specifika nuvarande deepfake-teknologier (såsom DeepFaceLive), som kan leda till att EU-lagstiftningen ständigt försöker hålla jämna steg med den senaste ramen eller metoden.

Rapporten fastställde:

‘I synnerhet bör dessa politiska åtgärder vara teknologioberoende för att vara effektiva på lång sikt och för att undvika att behöva granska och ersätta dem regelbundet när tekniken bakom skapandet och missbruket av deepfakes utvecklas. ‘

‘Likväl bör sådana åtgärder också undvika att hindra de positiva tillämpningarna av GANs.’

Den avslutande kommentaren i citatet ovan, som gäller Generative Adversarial Networks (GANs), karakteriserar i allmänhet den europeiska och nordamerikanska tveksamheten att tillämpa lagar som kan hämma en ny AI-forskningssektor som redan uppfattas som fallande efter Asien (vars mer didaktiska nationer har kunnat snabbt spåra deepfake-lagstiftning).

Till exempel betonar en rapport från 2018 från Storbritanniens utskott för artificiell intelligens i House of Lords flera gånger risken för att tillåta tveksamhet att bromsa AI-utvecklingen i nationen, exempelvis i dess titel: AI i Storbritannien: redo, villig och kapabel?. Förra året blev Storbritannien också det första landet att godkänna distributionen av självkörande bilar på motorvägar.

Amerika är inte mindre angelägen; i USA har The Brookings Institution uppmanat till ökad lagstiftning för AI i USA, och klandrat lagstiftarna för deras “vänta och se”-ståndpunkt på AI-teknikens konsekvenser

Förutom DSA:s svaga tillvägagångssätt för att ta itu med sociala (snarare än politiska) problem kring deepfakes, har EU:s föreslagna regleringsram för AI, som släpptes i april 2021, kritiserats för att den också undviker ämnet.

Begränsad reglering av deepfakes i Storbritannien

Som en ytterligare besvikelse för anti-deepfake-kampanjledare som författaren Helen Mort, som kampanjade för ny brittisk lagstiftning 2021 efter att ha avbildats utan samtycke i pornografiska deepfake-videor, kritiserar en rapport som publicerats idag av Storbritanniens parlamentariska utskott för digitala, kulturella, medie- och sportfrågor den brittiska regeringen för att den inte har tagit itu med deepfakes i utkastet till den nya online-säkerhetslagen.

Med hänvisning till utkastets nuvarande rättsliga åtgärder mot deepfake-missbruk som “ointygliga och opraktiska” föreslår rapporten att den föreslagna lagstiftningen inte gör något för att ta itu med “lagligt men skadligt” innehåll, såsom AI-assisterad pornografisk video- och bildmanipulationsteknik:

‘[Vi] rekommenderar att regeringen proaktivt tar itu med typer av innehåll som är tekniskt sett lagligt, såsom subtila delar av barnmisshandelssekvenser som breadcrumbing och typer av onlinevåld mot kvinnor och flickor som teknikaktiverad “nudifiering” av kvinnor och deepfake-pornografi, genom att ta med dem i omfattningen antingen genom primär lagstiftning eller som typer av skadligt innehåll som omfattas av omsorgsplikterna.’

Gällande lag i Storbritannien är begränsad till spridning av “verkliga” bilder, såsom fall av hämndporr, där till exempel konfidentiella och privata uttryckliga material offentliggörs av en före detta partner. Om en förövare utför och publicerar deepfake-material som superimponerar deras “måls” identitet i pornografiskt innehåll, kan de endast åtalas antingen om de direkt trakasserar målet genom att rikta materialet mot dem, eller enligt lagstiftning relaterad till upphovsrätt.

I det första fallet innebär det faktum att nytt deepfake-innehåll samlar fart och tittare nästan oundvikligen att offret kommer att informeras av oroliga vänner eller orelaterade tredje parter, snarare än av den person som deepfaked dem, vilket tillåter att deepfaker skyddas, vars arbete fortfarande “når målet”.

I det senare fallet skulle åtal sannolikt endast vara möjligt om ett oredigerat tredjeparts-pornografiskt video (i vilket offrets identitet senare superimponeras) är professionellt producerat och skyddat under brittisk upphovsrätt (även om ett lämpligt video kan hämtas fritt från någon jurisdiktion i världen). Ett “amatörvideo” från någon jurisdiktion saknar tydlig upphovsrättsstatus, och ett skräddarsydd video som deepfaker har skjutit uttryckligen för att superimponera offret i är (ironiskt nog) själv skyddat under upphovsrättslagar, så länge det följer andra lagar.

Bakom kurvan

I december 2021 föreslog Storbritanniens lagkommission att utöka hatpratlagar för att omfatta sexbaserad fientlighet, men föreslog inte att deepfakes skulle ingå i denna kategori, trots flera exempel på sådan användning runt om i världen (särskilt i Indien) på att tekniken används som vapen mot kvinnliga politiker och kvinnor som aktivister. Kvinnor är överväldigande måltavlan för olagligt deepfake-innehåll, oavsett om fakers motiv är öppet sociala (dvs. avsikt att förödmjuka, avplattformera och avväpna) eller enbart prurienta (dvs. pornografiska) till sin natur.

I mars 2021 tog den Illinois-baserade National Law Review Storbritanniens rättsliga ram i upptaget som “helt otillräcklig för närvarande för att hantera deepfakes”, och även saknar grundläggande rättsliga mekanismer som skyddar en persons likhet.

Deepfake-lagar i USA

I kontrast skyddar USA till viss del sina medborgares “rätt till offentlighet”, även om inte på federal nivå (för närvarande finns sådana lagar i ungefär hälften av USA:s delstater, med vilt varierande rättsliga mekanismer).

Även om det är en förbättring jämfört med Storbritanniens prestation i deepfake-lagstiftning, kan USA endast skryta med sporadisk, per-delstatstäckning, och verkar bestämt att ta itu med teknologins potential för politisk manipulation innan den tar itu med dess påverkan på privata individer.

2019 förbjöd delstaten Texas skapandet eller spridandet av politiska deepfakes, med Texas Senate Bill 751 (SB751), och utelämnade någon uttalande om deepfake-pornografi. Samma år lade delstaten Virginia till en ändring till en befintlig lag om olaglig spridning eller försäljning av bilder av en annan, och lade till den omfattande termen ‘falskeligen skapad videografisk eller stillbild’.

2020 antog delstaten Kalifornien California Assembly Bill 602 (AB 602) som förbjuder generering eller spridning av pornografiska deepfakes. Lagen har ingen solnedgångsklausul, men har en preskriptionstid på tre år, och åtföljs av en separat klausul som omfattar politiska deepfakes.

I slutet av 2020 antog delstaten New York senatslag 5959D, som inte bara förbjuder skapandet och/eller återpubliceringen av pornografiska deepfakes, utan också aktivt skyddar en användares rätt till offentlighet i fråga om en datorgenererad likhet genom deepfakes, CGI eller andra medel, även efter döden (om personen i fråga var bosatt i New York vid tidpunkten för sin död).

Slutligen har delstaten Maryland ändrat sina lagar om barnpornografi för att omfatta och kriminalisera användningen av deepfakes, men inte för att ta itu med deepfakes påverkan på vuxna mål.

Väntar på ‘DeepfakeGate’

Historien visar att den skada som nya teknologier kan orsaka måste bli personlig för en nation för att påskynda dess lagstiftningsreaktion. Den mycket nyliga döden av en tonårsflicka i Egypten som påstås ha blivit utpressad med deepfake-pornografi av sig själv har fått begränsad täckning i västerländska medier*, medan avslöjanden om stölden av 35 miljoner dollar i Förenade Arabemiraten, som uppenbarades 2021, också representerar en “avlägsen händelse” som inte sannolikt kommer att påskynda senaten eller tända en eld under de 45 återstående staterna som ännu inte har antagit deepfake-lagstiftning.

Om USA antar en mer enad front mot missbruk av deepfake-teknologi, skulle omfattande lagstiftning sannolikt påverka styrningen av telekommunikation och datainfrastruktur och lagring, vilket skulle leda till snabba policyförändringar som påtvingas dess affärspartner runt om i världen. Det faktum att Europas antagande av GDPR inte slutligen “gick över” till nordamerikansk datainsamling och lagringspolicy innebär inte att EU inte kunde ha fått ett grepp om de mindre samarbetsvilliga nationer som den handlar med – om den någonsin skulle ta ett mer engagerat lagstiftningssteg mot generering, lagring och kvarhållning av deepfake-pornografi.

Men något måste hända på “marken” först, i en av dessa ledande grupper av länder; och vi väntar fortfarande på det: en kolossal darknet-haul av CSAM av myndigheterna; en stor stöld som använder ljud- och/eller video-baserad deepfake-teknologi för att lura en amerikansk företagsledare att missleda en mycket stor mängd pengar; eller en amerikansk motsvarighet till den växande användningen av deepfakes för att victimisera kvinnor i mer patriarkala länder (om amerikansk kultur verkligen är utrustad för att spegla dessa händelser, vilket är tvivelaktigt). Detta är svåra saker att önska, och bra saker att undvika genom alla andra metoder än att sticka huvudet i sanden eller vänta på en “bränsle”-händelse.

En central problem, som EU för närvarande undviker genom att rikta sin lagstiftnings kraft mot annonsföretag som vill främja sina smarta och legitima deepfakes, är att deepfakes fortfarande är svåra att upptäcka algoritmiskt; de flesta av de många upptäcktsmetoder som dyker upp på arXiv varje månad beror på vattenmärkning, blockchain-baserad verifikation eller på något sätt ändrar hela infrastrukturen som vi för närvarande använder för att fritt konsumera video – lösningar som antyder en radikal lagstiftningsrevision av begreppet video som en proxy för “sanning”.

En ytterligare problem är att de stora västerländska nationerna är rätt i en mening att inte erbjuda en ryckreflex på en enda problematisk tråd i en rad nya AI-teknologier, många av vilka lovar enorma fördelar för samhället och industrin, och många av vilka kan påverkas negativt på något sätt om hetsig förbud och reglering av bildsynthesystem börjar i allvar, som svar på en stor händelse och den efterföljande upprördheten.

Men det kan vara en bra idé att åtminstone påskynda den långsamma och ibland mållösa promenad vi tar mot reglering av deepfakes, och möta de potentiella problemen i mitten, och på våra egna villkor, snarare än att tvingas av senare händelser till en mindre genomtänkt reaktion.

* De påstådda förövarna åtalas för utpressning; det finns ingen egyptisk lag som täcker deepfake-pornografi.

Publicerad första gången den 24 januari 2022.