Andersons hoek
Europese en Britse Deepfake Regulatievoorstellen Zijn Verbluffend Beperkt

Belangrijkste puntenEU-regelgeving voor deepfakes richt zich op reclame, maar negeert niet-consensuele…
Meer weergeven
- EU-regelgeving voor deepfakes richt zich op reclame, maar negeert niet-consensuele pornografie volledig.
- De Britse wet kan deepfakeporno niet vervolgen tenzij het slachtoffer direct wordt lastiggevallen door de maker.
- Amerikaanse staten zoals Californië en New York verbieden deepfakeporno, maar de meeste staten hebben nog steeds geen wetgeving.
Analyse Voor campagnevoerders die hopen dat 2022 het jaar kan zijn waarin deepfaked beelden onder een strikter juridisch regime vallen, zijn de vroege indicaties weinig veelbelovend.
Laatst donderdag heeft het Europees Parlement goedgekeurd amendementen op de Digital Services Act (DSA, die in 2023 van kracht moet gaan), met betrekking tot de verspreiding van deepfakes. De wijzigingen hebben betrekking op deepfakes in twee secties, elk direct gerelateerd aan online advertenties: amendement 1709 met betrekking tot artikel 30, en een verwant amendement op artikel 63.
Het eerste voorstel is een geheel nieuw artikel 30a, getiteld Deepfakes, dat luidt:
‘Wanneer een zeer grote online platform zich ervan bewust wordt dat een stuk inhoud een gegenereerd of gemanipuleerd beeld-, audio- of videomateriaal is dat sterk lijkt op bestaande personen, objecten, plaatsen of andere entiteiten of gebeurtenissen en voor een persoon ten onrechte authentiek of waarheidsgetrouw lijkt (deepfakes), moet de aanbieder de inhoud labelen op een manier die aangeeft dat de inhoud niet authentiek is en die duidelijk zichtbaar is voor de ontvanger van de diensten.’
Het tweede voegt tekst toe aan het bestaande artikel 63, dat voornamelijk betrekking heeft op het vergroten van de transparantie van grote advertentieplatforms. De relevante tekst luidt:
‘Bovendien moeten zeer grote online platforms elke bekende deepfake-video’s, audio- of andere bestanden labelen.’
In feite lijkt de wetgeving zich voor te bereiden op de groeiende praktijk van ‘legitieme deepfakes’, waarvoor toestemming is verleend en rechten zijn veiliggesteld voor gezichtsvervanging in promotionele of advertentie materiaal – zoals de Russische telecommaatschappij Telefon’s geautoriseerde gebruik van Bruce Willis’ identiteit in een recente reclamecampagne.
Aarzeling om te reguleren
De DSA lijkt tot nu toe niet de zorgen van campagnevoerders over het gebruik van deepfake-technieken aan te pakken zoals ze meestal worden gebruikt – om de gezichten van acteurs in pornografische video’s te vervangen. Evenmin behandelt de wet in hoeverre het aanstaande gebruik van deepfakes in films en televisie aan kijkers moet worden gemeld, zoals bij deepfakes in advertenties vanaf 2023 ten minste in de EU vereist zal zijn.
De goedkeuringsprocedure voor de DSA gaat nu over naar onderhandelingen met EU-lidstaten, samen met de bredere reikwijdte van de Digital Markets Act (DMA).
Het rapport Malicious Uses and Abuses of Artificial Intelligence van Europol van december 2020 bevestigde dat het een fout zou zijn voor de EU om specifieke huidige deepfake-technologieën (zoals DeepFaceLive) aan te pakken, die ertoe zouden leiden dat EU-wetgeving constant achterloopt met de laatste framework of methode.
Het rapport stelde:
‘In het bijzonder moeten deze beleidsmaatregelen technologie-agnostisch zijn om effectief te zijn op lange termijn en om te voorkomen dat ze regelmatig moeten worden herzien en vervangen als de technologie achter de creatie en misbruik van deepfakes evolueert.
‘Niettemin moeten dergelijke maatregelen ook de positieve toepassingen van GANs niet hinderen.’
De slotsom in de bovenstaande citaat, met betrekking tot Generative Adversarial Networks (GANs) karakteriseert breed de Europese en Noord-Amerikaanse aarzeling om wetten toe te passen die een opkomende AI-onderzoekssector zouden kunnen hinderen, die al wordt gezien als achterlopend op Azië (wiens meer didactische naties in staat zijn gebleken deepfake-wetgeving snel te verwezenlijken).
Om bijvoorbeeld een rapport uit 2018 van het Britse Select Committee on Artificial Intelligence van het House Of Lords te noemen, dat meerdere keren het risico benadrukt van het toelaten van timideheid om AI-ontwikkeling in het land tegen te houden, zoals verwoord in de titel: AI in het VK: klaar, bereid en in staat?. Vorige april werd Groot-Brittannië ook het eerste land dat de inzet van zelfrijdende auto’s op snelwegen goedkeurde.
Amerika is niet minder gretig; in de VS heeft The Brookings Institution gepleit voor de noodzaak van meer wetgeving voor AI in de Verenigde Staten, waarbij wetgevers worden bekritiseerd vanwege hun ‘wachten en zien’ houding ten aanzien van de gevolgen van machine learning-technologieën
Behalve de zwakke aanpak van de DSA om sociale (in plaats van politieke) zorgen rond deepfakes aan te pakken, kwam de voorgestelde regelgevingskader voor AI van de EU, dat in april 2021 werd uitgebracht, onder vuur te liggen vanwege zijn eigen ontwijking van het onderwerp.
Beperkte Deepfake Regulatie in het VK
Als een extra teleurstelling voor anti-deepfake campagnevoerders zoals auteur Helen Mort, die prominent campagne voerde voor nieuwe Britse wetgeving in 2021 nadat ze zonder toestemming in pornografische deepfake-video’s was afgebeeld, kritiseert een vandaag door de commissie voor Digitale Zaken, Cultuur, Media en Sport van het Britse parlement uitgebracht rapport de Britse regering voor het niet aanpakken van deepfakes in de Draft Online Safety Bill.
Door te stellen dat de huidige rechtsmiddelen in de ontwerp-wet tegen deepfake-misbruik ‘onduidelijk en onpraktisch’ zijn, stelt het rapport voor dat de voorgestelde wetgeving niets doet om het ‘legaal maar schadelijk’ karakter van AI-geassisteerde pornografische video- en beeldmanipulatietechnieken aan te pakken:
‘[We] raden aan dat de regering actief types van inhoud aanpakt die technisch gezien legaal zijn, zoals insidieuze delen van kindermisbruiksequenties zoals breadcrumbing en soorten online geweld tegen vrouwen en meisjes zoals technisch mogelijk gemaakte ‘nudifying’ van vrouwen en deepfake-pornografie, door ze onder de regels te brengen via primaire wetgeving of als soorten schadelijke inhoud die door de zorgplichten worden bestreken.’
De huidige toepasselijke wetgeving in het VK is beperkt tot de verspreiding van ‘echte’ beelden, zoals gevallen van wraakporno, waarbij, bijvoorbeeld, vertrouwelijke en privé-expliciete materialen openbaar worden gemaakt door een ex-partner. Als een persecutor deepfake-materiaal maakt en publiceert dat de identiteit van het doelwit in pornografische inhoud projecteert, kan hij alleen worden vervolgd als hij het doelwit rechtstreeks lastigvalt door het materiaal naar hen te sturen, of onder auteursrechtelijke wetgeving.
In het eerste geval zorgt het gemak waarmee nieuwe deepfake-inhoud aandacht en kijkers trekt er bijna onvermijdelijk voor dat het slachtoffer het van bezorgde vrienden of niet-betrokken derden hoort, in plaats van van de maker zelf. De virale verspreiding beschermt zo de maker, terwijl diens werk nog steeds het doelwit bereikt.
In het tweede geval is vervolging waarschijnlijk alleen haalbaar wanneer de oorspronkelijke, onbewerkte pornografische video van een derde, waarin later de identiteit van het slachtoffer wordt geplaatst, professioneel is gemaakt en rechtmatig onder het Britse auteursrecht wordt beschermd. Een geschikte video kan evenwel vrij beschikbaar zijn uit elk rechtsgebied ter wereld. Een amateurvideo uit welk rechtsgebied dan ook heeft geen duidelijke auteursrechtelijke status. Een video die de maker speciaal heeft opgenomen om het slachtoffer erin te plaatsen, is ironisch genoeg zelf auteursrechtelijk beschermd zolang hij niet in strijd is met andere wetten.
Achter de Curve
In december 2021 stelde de Britse Law Commission voor om haatzaaiwetten uit te breiden tot seks-gebaseerde vijandigheid, maar stelde geen voorstel voor om deepfakes in deze categorie op te nemen, ondanks meerdere voorbeelden van dergelijk gebruik over de hele wereld (vooral in India) van de technologie die tegen vrouwelijke politici en activistes wordt gebruikt. Vrouwen zijn overweldigend het doelwit van illegale deepfake-inhoud, of de motieven van de vervalsers nu sociaal (d.w.z. de bedoeling om te vernederen, van platforms te weren en hun invloed te ontnemen) of puur wellustig (d.w.z. pornografisch) van aard zijn.
In maart 2021 bekritiseerde de in Illinois gevestigde National Law Review het Britse rechtskader als op dat moment volledig ontoereikend voor deepfakes, waarbij zelfs basale juridische mechanismen ter bescherming van iemands beeltenis ontbreken.
Deepfake Wetten in de Verenigde Staten
Daarentegen beschermen de Verenigde Staten tot op zekere hoogte het recht van hun burgers om het commerciële gebruik van hun identiteit te beheersen (right of publicity), hoewel niet op federaal niveau (op dit moment bestaan dergelijke statuten in ongeveer de helft van de Amerikaanse staten, met sterk uiteenlopende juridische mechanismen).
Hoewel een verbetering ten opzichte van de prestatie van het VK op het gebied van deepfake-wetgeving, kan de VS alleen opscheppen over sporadische, per staat dekking, en lijkt het erop dat het eerst de potentieel voor politieke manipulatie van de technologie aanpakt voordat het uiteindelijk de impact op particuliere individuen aanpakt.
In 2019 verbood de staat Texas de creatie of verspreiding van politieke deepfakes, met Texas Senate Bill 751 (SB751), waarin geen verklaring over deepfake-pornografie werd opgenomen. Hetzelfde jaar voegde de staat Virginia een amendement toe aan een bestaande wet met betrekking tot de onwettige verspreiding of verkoop van beelden van een ander, waarin de breed omvattende term ‘vals gecreëerde videografische of stilstaande afbeelding’ werd toegevoegd.
In 2020 vaardigde de staat Californië California Assembly Bill 602 (AB 602) uit, dat de generatie of verspreiding van pornografische deepfakes verbiedt. De wet heeft geen vervaldatum, maar heeft een verjaringstermijn van drie jaar en wordt vergezeld van een aparte clausule die politieke deepfakes behandelt.
Aan het einde van 2020 vaardigde de staat New York senate Bill S5959D uit, die niet alleen de creatie en/of herpublicatie van pornografische deepfakes verbiedt, maar ook actief de rechten van een gebruiker beschermt met betrekking tot een computer gegenereerde gelijkenis via deepfakes, CGI of andere middelen, zelfs na overlijden (als de persoon in kwestie ten tijde van overlijden inwoner was van New York).
Ten slotte heeft de staat Maryland zijn wetten rond kinderpornografie gewijzigd om het gebruik van deepfakes te omvatten en te criminaliseren, hoewel het geen deepfakes op volwassen doelwitten aanpakt.
Wachten op ‘DeepfakeGate’
De geschiedenis leert dat de schade die nieuwe technologieën kunnen veroorzaken, moet worden persoonlijk voor een natie om de wetgevende reactie te versnellen. De zeer recente dood van een tienermeisje in Egypte dat naar verluidt werd afgeperst met deepfake-pornografie van zichzelf, heeft beperkte aandacht gekregen in de westerse media*, terwijl onthullingen over de diefstal van 35 miljoen dollar in de Verenigde Arabische Emiraten, die in 2021 aan het licht kwamen, ook een ‘verre gebeurtenis’ vertegenwoordigen die de senaat niet zal versnellen, of een vuur zal aanwakkeren onder de 45 resterende staten die nog geen deepfake-wetgeving hebben aangenomen.
Als de VS een meer verenigd front vormt rond het misbruik van deepfake-technologie, zal bredere wetgeving waarschijnlijk van invloed zijn op het governance-aspect van telecommunicatie- en gegevensinfrastructuur en -opslag, wat zal leiden tot snelle inhaalmaatregelen in het beleid die worden opgelegd aan zakenpartners over de hele wereld. Het feit dat de overname van de GDPR door Europa niet uiteindelijk heeft geleid tot een ‘overstap’ naar Noord-Amerikaanse gegevensverzameling en -retentiebeleid, betekent niet dat de EU niet ook greep kan krijgen op de minder compliant landen waarmee het handelt – als het ooit een meer toegewijd wetgevend standpunt inneemt over de generatie, opslag en retentie van deepfake-pornografie.
Maar er moet eerst iets gebeuren op ‘ground zero’ in een van deze toonaangevende landen; en we wachten nog steeds: een enorme inbeslagname op het darknet door de autoriteiten van materiaal dat seksueel kindermisbruik toont (CSAM); een grote diefstal met behulp van audio- en/of video-gebaseerde deepfake-technologieën om een Amerikaanse bedrijfsdirecteur te misleiden zodat die een zeer groot geldbedrag verkeerd overmaakt; of een Amerikaanse equivalent van het groeiende gebruik van deepfakes om vrouwen in meer patriarchale landen te victimiseren (als de Amerikaanse cultuur echt is uitgerust om deze gebeurtenissen te weerspiegelen, wat twijfelachtig is). Dit zijn moeilijke dingen om te wensen, en goede dingen om te vermijden door elke andere methode dan het begraven van het hoofd in het zand, of wachten op een ‘ontvlambare’ gebeurtenis.
Een centraal probleem, dat de EU momenteel vermijdt door zijn wetgevende kracht te richten op advertentiebedrijven die willen hun slimme en legitieme deepfakes promoten, is dat deepfakes moeilijk zijn te detecteren; de meeste van de reeks detectiemethoden die elke maand op arXiv verschijnen, zijn afhankelijk van watermarking, blockchain-gebaseerde verificatie of op de een of andere manier het veranderen van de hele infrastructuur die we momenteel gebruiken om vrij video te consumeren – oplossingen die een radicale juridische herziening van het concept van video als een proxy voor ‘waarheid’ impliceren. De rest wordt routinematig ingehaald door voortdurende vooruitgang in de populaire open source deepfake-repositories.
Een verder probleem is dat de belangrijkste westerse naties terecht zijn om niet te reageren met een impulsieve reactie op een enkel problematisch aspect van een reeks nieuwe AI-technologieën, veel waarvan een enorm voordeel beloven voor de samenleving en de industrie, en veel waarvan op de een of andere manier nadelig zouden kunnen worden beïnvloed als ondoordachte verboden en regulering van beeldsynthesesystemen zouden beginnen, als reactie op een groot evenement, en op de daaropvolgende ophef.
Het zou echter een goed idee zijn om de trage en soms doelloze wandeling die we naar de regulering van deepfakes maken, te versnellen, en de potentiële problemen in het middengebied aan te pakken, en op onze eigen voorwaarden, in plaats van te worden gedwongen door latere gebeurtenissen tot een minder doordachte reactie.
* De vermeende daders worden aangeklaagd wegens afpersing; er is geen Egyptische wet die deepfake-pornografie dekt.
Eerst gepubliceerd op 24 januari 2022.












