Europese en Britse Deepfake Regulatievoorstellen Zijn Verbluffend Beperkt

Analyse Voor campagnevoerders die hopen dat 2022 het jaar kan zijn waarin deepfaked beelden onder een strikter juridisch regime vallen, zijn de vroege indicaties weinig veelbelovend.

Laatst donderdag heeft het Europees Parlement goedgekeurd amendementen op de Digital Services Act (DSA, die in 2023 van kracht moet gaan), met betrekking tot de verspreiding van deepfakes. De wijzigingen hebben betrekking op deepfakes in twee secties, elk direct gerelateerd aan online advertenties: amendement 1709 met betrekking tot artikel 30, en een verwant amendement op artikel 63.

Het eerste voorstel is een geheel nieuw artikel 30a, getiteld Deepfakes, dat luidt:

‘Wanneer een zeer grote online platform zich ervan bewust wordt dat een stuk inhoud een gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal is dat sterk lijkt op bestaande personen, objecten, plaatsen of andere entiteiten of gebeurtenissen en vals lijkt te zijn voor een persoon die het ontvangt (deepfakes), moet de aanbieder de inhoud labelen op een manier die aangeeft dat de inhoud niet authentiek is en die duidelijk zichtbaar is voor de ontvanger van de diensten.’

Het tweede voegt tekst toe aan het bestaande artikel 63, dat voornamelijk betrekking heeft op het vergroten van de transparantie van grote advertentieplatforms. De relevante tekst luidt:

‘Bovendien moeten zeer grote online platforms elke bekende deepfake-video’s, audio- of andere bestanden labelen.’

In feite lijkt de wetgeving zich voor te bereiden op de groeiende praktijk van ‘legitieme deepfakes’, waarvoor toestemming is verleend en rechten zijn veiliggesteld voor gezichtsvervanging in promotionele of advertentie materiaal – zoals de Russische telecommaatschappij Telefon’s geautoriseerde gebruik van Bruce Willis’ identiteit in een recente reclamecampagne.

Aarzeling om te reguleren

De DSA lijkt tot nu toe niet de zorgen van campagnevoerders over het gebruik van deepfake-technieken aan te pakken zoals ze meestal worden gebruikt – om pornografische video’s opnieuw in te delen. Ook wordt de omvang, indien van toepassing, van het gebruik van deepfakes in films en televisie niet aangepakt, evenmin als de mate waarin deepfakes in advertenties op dezelfde manier moeten worden onthuld als deepfakes in advertenties vanaf 2023, tenminste in de EU.

De goedkeuringsprocedure voor de DSA gaat nu over naar onderhandelingen met EU-lidstaten, samen met de bredere reikwijdte van de Digital Markets Act (DMA).

Het rapport van Europol van december 2020 bevestigde dat het een fout zou zijn voor de EU om specifieke huidige deepfake-technologieën (zoals DeepFaceLive) aan te pakken, die ertoe zouden leiden dat EU-wetgeving constant achterloopt met de laatste framework of methode.

Het rapport stelde:

‘In het bijzonder moeten deze beleidsmaatregelen technologie-agnostisch zijn om effectief te zijn op lange termijn en om te voorkomen dat ze regelmatig moeten worden herzien en vervangen als de technologie achter de creatie en misbruik van deepfakes evolueert.

‘Niettemin moeten dergelijke maatregelen ook de positieve toepassingen van GANs niet hinderen.’

De slotsom in de bovenstaande citaat, met betrekking tot Generative Adversarial Networks (GANs) karakteriseert breed de Europese en Noord-Amerikaanse aarzeling om wetten toe te passen die een opkomende AI-onderzoekssector zouden kunnen hinderen, die al wordt gezien als achterlopend op Azië (wiens meer didactische naties in staat zijn gebleken deepfake-wetgeving snel te verwezenlijken).

Om bijvoorbeeld een rapport uit 2018 van het Britse Select Committee on Artificial Intelligence van het House Of Lords te noemen, dat meerdere keren het risico benadrukt van het toelaten van timideheid om AI-ontwikkeling in het land tegen te houden, zoals verwoord in de titel: AI in het VK: klaar, bereid en in staat?. Vorige april werd Groot-Brittannië ook het eerste land dat de inzet van zelfrijdende auto’s op snelwegen goedkeurde.

Amerika is niet minder gretig; in de VS heeft The Brookings Institution gepleit voor de noodzaak van meer wetgeving voor AI in de Verenigde Staten, waarbij wetgevers worden bekritiseerd vanwege hun ‘wachten en zien’ houding ten aanzien van de gevolgen van machine learning-technologieën

Behalve de zwakke aanpak van de DSA om sociale (in plaats van politieke) zorgen rond deepfakes aan te pakken, kwam de voorgestelde regelgevingskader voor AI van de EU, dat in april 2021 werd uitgebracht, onder vuur te liggen vanwege zijn eigen ontwijking van het onderwerp.

Beperkte Deepfake Regulatie in het VK

Als een extra teleurstelling voor anti-deepfake campagnevoerders zoals auteur Helen Mort, die prominent campagne voerde voor nieuwe Britse wetgeving in 2021 nadat ze zonder toestemming in pornografische deepfake-video’s was afgebeeld, kritiseert een vandaag door het Britse parlement uitgebracht rapport de Britse regering voor het niet aanpakken van deepfakes in de Draft Online Safety Bill.

Door te stellen dat de huidige rechtsmiddelen in de ontwerp-wet tegen deepfake-misbruik ‘onduidelijk en onpraktisch’ zijn, stelt het rapport voor dat de voorgestelde wetgeving niets doet om het ‘legaal maar schadelijk’ karakter van AI-geassisteerde pornografische video- en beeldmanipulatietechnieken aan te pakken:

‘[We] raden aan dat de regering actief types van inhoud aanpakt die technisch gezien legaal zijn, zoals insidieuze delen van kindermisbruiksequenties zoals breadcrumbing en soorten online geweld tegen en vrouwen en meisjes zoals technisch mogelijk gemaakte ‘nudifying’ van vrouwen en deepfake-pornografie, door ze op te nemen in de reikwijdte van de zorgplichten.’

De huidige toepasselijke wetgeving in het VK is beperkt tot de verspreiding van ‘echte’ beelden, zoals gevallen van wraakporno, waarbij, bijvoorbeeld, vertrouwelijke en privé-expliciete materialen openbaar worden gemaakt door een ex-partner. Als een persecutor deepfake-materiaal maakt en publiceert dat de identiteit van het doelwit in pornografische inhoud projecteert, kan hij alleen worden vervolgd als hij het doelwit rechtstreeks lastigvalt door het materiaal naar hen te sturen, of onder auteursrechtelijke wetgeving.

Achter de Curve

In december 2021 stelde de Britse Law Commission voor om haatzaaiwetten uit te breiden tot seks-gebaseerde vijandigheid, maar stelde geen voorstel voor om deepfakes in deze categorie op te nemen, ondanks meerdere voorbeelden van dergelijk gebruik over de hele wereld (vooral in India) van de technologie die tegen vrouwelijke politici en activistes wordt gebruikt. Vrouwen zijn overweldigend het doelwit van illegale deepfake-inhoud, of de motieven van de vervalsers nu sociaal (d.w.z. de bedoeling om te vernederen, te deplatformen en te ontwapenen) of puur wellustig (d.w.z. pornografisch) van aard zijn.

Deepfake Wetten in de Verenigde Staten

In tegenstelling tot de Verenigde Staten, die tot op zekere hoogte de ‘Recht van Publiciteit’ van hun burgers beschermen, hoewel niet op federaal niveau (op dit moment bestaan dergelijke statuten in ongeveer de helft van de Amerikaanse staten, met sterk uiteenlopende juridische mechanismen).

Hoewel een verbetering ten opzichte van de prestatie van het VK op het gebied van deepfake-wetgeving, kan de VS alleen opscheppen over sporadische, per staat dekking, en lijkt het erop dat het eerst de potentieel voor politieke manipulatie van de technologie aanpakt voordat het uiteindelijk de impact op particuliere individuen aanpakt.

In 2019 verbood de staat Texas de creatie of verspreiding van politieke deepfakes, met Texas Senate Bill 751 (SB751), waarin geen verklaring over deepfake-pornografie werd opgenomen. Hetzelfde jaar voegde de staat Virginia een amendement toe aan een bestaande wet met betrekking tot de onwettige verspreiding of verkoop van beelden van een ander, waarin de breed omvattende term ‘vals gecreëerde videografische of stilstaande afbeelding’ werd toegevoegd.

In 2020 vaardigde de staat Californië California Assembly Bill 602 (AB 602) uit, dat de generatie of verspreiding van pornografische deepfakes verbiedt. De wet heeft geen vervaldatum, maar heeft een verjaringstermijn van drie jaar en wordt vergezeld van een aparte clausule die politieke deepfakes behandelt.

Aan het einde van 2020 vaardigde de staat New York senate Bill S5959D uit, die niet alleen de creatie en/of herpublicatie van pornografische deepfakes verbiedt, maar ook actief de rechten van een gebruiker beschermt met betrekking tot een computer gegenereerde gelijkenis via deepfakes, CGI of andere middelen, zelfs na overlijden (als de persoon in kwestie ten tijde van overlijden inwoner was van New York).

Ten slotte heeft de staat Maryland zijn wetten rond kinderpornografie gewijzigd om het gebruik van deepfakes te omvatten en te criminaliseren, hoewel het geen deepfakes op volwassen doelwitten aanpakt.

Wachten op ‘DeepfakeGate’

De geschiedenis leert dat de schade die nieuwe technologieën kunnen veroorzaken, moet worden persoonlijk voor een natie om de wetgevende reactie te versnellen. De zeer recente dood van een tienermeisje in Egypte dat naar verluidt werd afgeperst met deepfake-pornografie van zichzelf, heeft beperkte aandacht gekregen in de westerse media*, terwijl onthullingen over de diefstal van 35 miljoen dollar in de Verenigde Arabische Emiraten, die in 2021 aan het licht kwamen, ook een ‘verre gebeurtenis’ vertegenwoordigen die de senaat niet zal versnellen, of een vuur zal aanwakkeren onder de 45 resterende staten die nog geen deepfake-wetgeving hebben aangenomen.

Als de VS een meer verenigd front vormt rond het misbruik van deepfake-technologie, zal bredere wetgeving waarschijnlijk van invloed zijn op het governance-aspect van telecommunicatie- en gegevensinfrastructuur en -opslag, wat zal leiden tot snelle vangst van beleidsveranderingen die worden opgelegd aan zakenpartners over de hele wereld. Het feit dat de overname van de GDPR door Europa niet uiteindelijk heeft geleid tot een ‘overstap’ naar Noord-Amerikaanse gegevensverzameling en -retentiebeleid, betekent niet dat de EU niet ook greep kan krijgen op de minder compliant landen waarmee het handelt – als het ooit een meer toegewijd wetgevend standpunt inneemt over de generatie, opslag en retentie van deepfake-pornografie.

Maar er moet eerst iets gebeuren op ‘ground zero’ in een van deze toonaangevende landen; en we wachten nog steeds: een enorme darknet-haul van CSAM door de autoriteiten; een grote diefstal met behulp van audio- en/of video-gebaseerde deepfake-technologieën om een Amerikaans bedrijfsdirecteur te misleiden om een grote hoeveelheid geld mis te leiden; of een Amerikaanse equivalent van het groeiende gebruik van deepfakes om vrouwen in meer patriarchale landen te victimiseren (als de Amerikaanse cultuur echt is uitgerust om deze gebeurtenissen te weerspiegelen, wat twijfelachtig is). Dit zijn moeilijke dingen om te wensen, en goede dingen om te vermijden door elke andere methode dan het begraven van het hoofd in het zand, of wachten op een ‘ontvlambare’ gebeurtenis.

Een centraal probleem, dat de EU momenteel vermijdt door zijn wetgevende kracht te richten op advertentiebedrijven die willen hun slimme en legitieme deepfakes promoten, is dat deepfakes moeilijk zijn te detecteren; de meeste van de reeks detectiemethoden die elke maand op arXiv verschijnen, zijn afhankelijk van watermarking, blockchain-gebaseerde verificatie of op de een of andere manier het veranderen van de hele infrastructuur die we momenteel gebruiken om vrij video te consumeren – oplossingen die een radicale juridische herziening van het concept van video als een proxy voor ‘waarheid’ impliceren. De rest wordt routinematig ingehaald door voortdurende vooruitgang in de populaire open source deepfake-repositories.

Een verder probleem is dat de belangrijkste westerse naties terecht zijn om niet te reageren met een impulsieve reactie op een enkel problematisch aspect van een reeks nieuwe AI-technologieën, veel waarvan een enorm voordeel beloven voor de samenleving en de industrie, en veel waarvan op de een of andere manier nadelig zouden kunnen worden beïnvloed als hot-headed proscription en regulering van beeldsynthesesystemen zouden beginnen, als reactie op een groot evenement, en op de daaropvolgende ophef.

Het zou echter een goed idee zijn om de trage en soms doelloze wandeling die we naar de regulering van deepfakes maken, te versnellen, en de potentiële problemen in het middengebied aan te pakken, en op onze eigen voorwaarden, in plaats van te worden gedwongen door latere gebeurtenissen tot een minder doordachte reactie.

* De vermeende daders worden aangeklaagd wegens afpersing; er is geen Egyptische wet die deepfake-pornografie dekt.

Eerst gepubliceerd op 24 januari 2022.