De Ontwijkbare Definitie van ‘Deepfake’

Een overtuigend nieuw onderzoek uit Duitsland bekritiseert de definitie van de term ‘deepfake’ in de EU AI Act als te vaag, vooral in de context van digitale beeldmanipulatie. De auteurs betogen dat de nadruk van de Act op inhoud die lijkt op echte personen of gebeurtenissen – maar mogelijk nep lijkt – een gebrek aan duidelijkheid vertoont.

Zij benadrukken ook dat de uitzonderingen van de Act voor ‘standaard bewerking’ (d.w.z. vermeend kleine AI-geassisteerde wijzigingen in afbeeldingen) geen rekening houden met zowel de alomtegenwoordige invloed van AI in consumententoepassingen als de subjectieve aard van artistieke conventies die voorafgaan aan de opkomst van AI.

Onnauwkeurige wetgeving op deze gebieden leidt tot twee belangrijke risico’s: een ‘verkoelende werking’, waarbij de wetgeving de innovatie en de adoptie van nieuwe systemen remt; en een ‘scofflaw-effect’, waarbij de wetgeving wordt genegeerd als te verregaand of irrelevant.

In beide gevallen verschuift de verantwoordelijkheid voor het vaststellen van praktische juridische definities effectief naar toekomstige rechterlijke uitspraken – een voorzichtige en risico-averse benadering van wetgeving.

AI-gebaseerde beeldmanipulatietechnologieën blijven opvallend voorop lopen bij de capaciteit van de wetgeving om ze aan te pakken, lijkt het. Een opvallend voorbeeld van de groeiende elasticiteit van het concept van AI-gedreven ‘automatische’ nabewerking is de ‘Scene Optimizer’-functie in recente Samsung-camera’s, die gebruikersafbeeldingen van de maan (een uitdagend onderwerp) kan vervangen door een AI-gedreven, ‘geraffineerde’ afbeelding:

Boven links, een voorbeeld uit het nieuwe onderzoek van een echte gebruikersafbeelding van de maan, links van een door Samsung verbeterde versie die automatisch is gemaakt met Scene Optimizer; Rechts, Samsung’s officiële illustratie van het proces achter dit; onder links, voorbeelden van de Reddit-gebruiker u/ibreakphotos, die (links) een bewust vervaagde afbeelding van de maan en (rechts) Samsung’s herschepping van deze afbeelding – zelfs als de bronafbeelding een afbeelding van een monitor was en niet de echte maan. Bronnen (met de klok mee van boven links): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

In de onderste linkerhoek van de afbeelding hierboven zien we twee afbeeldingen van de maan. De linker is een foto genomen door een Reddit-gebruiker. Hier is de afbeelding bewust vervaagd en verkleind door de gebruiker.

Rechts zien we een foto van dezelfde gedegradeerde afbeelding genomen met een Samsung-camera met AI-gedreven nabewerking ingeschakeld. De camera heeft automatisch het herkende ‘maan’-object ‘verbeterd’, zelfs als het geen echte maan was.

Het onderzoek richt scherpe kritiek op de Best Take-functie die is geïntegreerd in Google’s recente smartphones – een omstreden AI-functie die de ‘beste’ delen van een groepsfoto samenstelt, waarbij meerdere seconden van een fotografische sequentie worden gescand, zodat glimlachen naar voren of naar achteren in de tijd worden geschoven als dat nodig is – en niemand wordt getoond in het midden van knipperen.

Het onderzoek stelt dat dit soort samengestelde proces het potentieel heeft om gebeurtenissen verkeerd weer te geven:

‘[In] een typische groepsfotosetting zou een gemiddelde kijker waarschijnlijk nog steeds de resulterende foto als authentiek beschouwen. De glimlach die wordt ingevoegd, bestond binnen een paar seconden van de rest van de foto die werd genomen.

‘Aan de andere kant is de tijdsbestek van tien seconden van de Best Take-functie voldoende voor een stemmingverandering. Iemand kan hebben opgehouden met glimlachen terwijl de rest van de groep lacht om een grap ten koste van hem.

‘Als gevolg daarvan gaan we ervan uit dat een dergelijke groepsfoto heel goed een diepe vervalsing kan zijn.’

Het nieuwe onderzoek heeft de titel Wat is een diepe vervalsing? De vage grens tussen legitieme verwerking en manipulatie onder de EU AI Act en komt van twee onderzoekers aan het Computational Law Lab van de Universiteit van Tübingen en de Saarland Universiteit.

Oude trucs

Het manipuleren van de tijd in de fotografie is veel ouder dan consumentenniveau AI. De auteurs van het nieuwe onderzoek merken het bestaan op van veel oudere technieken die als ‘onecht’ kunnen worden beschouwd, zoals de concatenatie van meerdere opeenvolgende afbeeldingen in een High Dynamic Range (HDR)-foto, of een ‘genaaide’ panoramafoto.

Feitelijk waren sommige van de oudste en meest amusante fotografische vervalsingen traditioneel gemaakt door schoolkinderen die van het ene einde van een schoolgroep naar het andere renden, voor de baan van de speciale panoramische camera’s die vroeger werden gebruikt voor sport- en schoolgroepsfotografie – waardoor de leerling tweemaal in dezelfde afbeelding kon verschijnen:

De verleiding om panoramische camera’s te bedriegen tijdens groepsfotografie was te groot voor veel studenten, die bereid waren om een slechte sessie in het kantoor van de directeur te riskeren om zichzelf in schoolfoto’s te ‘klonen’. Bron: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Tenzij je een foto maakt in RAW-modus, die in wezen de camerlenssensor naar een zeer groot bestand dumpt zonder enige interpretatie, is het waarschijnlijk dat je digitale foto’s niet helemaal authentiek zijn. Camerasystemen passen routinematig ‘verbeteringsalgoritmes’ toe, zoals beeldscherpte en witbalans, standaard – en hebben dit gedaan sinds de oorsprong van consumentenniveau digitale fotografie.

De auteurs van het nieuwe onderzoek betogen dat zelfs deze oudere soorten digitale fotobewerking geen ‘realiteit’ vertegenwoordigen, omdat dergelijke methoden zijn ontworpen om foto’s aantrekkelijker te maken, niet meer ‘echt’.

Het onderzoek suggereert dat de EU AI Act, zelfs met latere amendementen zoals recitals 123–27, alle fotografische output binnen een bewijs-kader plaatst dat niet geschikt is voor de context waarin foto’s tegenwoordig worden geproduceerd, in tegenstelling tot de (nominale objectieve) aard van beveiligingscamera-beelden of forensische fotografie. De meeste afbeeldingen die door de AI Act worden behandeld, zijn waarschijnlijk afkomstig uit contexten waarin fabrikanten en online platforms actief creatieve fotointerpretatie promoten, inclusief het gebruik van AI.

De onderzoekers suggereren dat foto’s ‘nooit een objectieve weergave van de realiteit’ zijn geweest. Overwegingen zoals de locatie van de camera, de diepte van het veld dat is gekozen en lichtkeuzes dragen allemaal bij aan het maken van een foto diep subjectief.

Het onderzoek merkt op dat routine ‘opruimings’-taken – zoals het verwijderen van sensordust of ongewenste stroomlijnen uit een anders goed samengestelde scène – alleen semi-geautomatiseerd waren voordat AI opkwam: gebruikers moesten handmatig een gebied selecteren of een proces initiëren om hun gewenste resultaat te bereiken.

Vandaag de dag worden deze bewerkingen vaak getriggerd door tekstprompts van gebruikers, meestal in tools zoals Photoshop. Op consumentenniveau worden dergelijke functies steeds vaker geautomatiseerd zonder gebruikersinvoer – een resultaat dat door fabrikanten en platforms blijkbaar als ‘duidelijk wenselijk’ wordt beschouwd.

De verwaterde betekenis van ‘Deepfake’

Een centrale uitdaging voor de wetgeving rond AI-gealtereerde en AI-gegenereerde beelden is de ambiguïteit van de term ‘deepfake’, die de afgelopen twee jaar aanzienlijk is uitgebreid.

Oorspronkelijk werden de termen alleen toegepast op video-uitvoer van autoencoder-gebaseerde systemen zoals DeepFaceLab en FaceSwap, beide afgeleid van anonieme code die eind 2017 op Reddit werd gepost.

Vanaf 2022 kwamen Latent Diffusion Models (LDM’s) zoals Stable Diffusion en Flux, evenals tekst-naar-video-systemen zoals Sora, waardoor identiteitsswitching en aanpassing mogelijk werden gemaakt op een verbeterde resolutie, veelzijdigheid en geloofwaardigheid. Nu was het mogelijk om diffusie-gebaseerde modellen te creëren die bekende personen en politici konden weergeven. Aangezien de term ‘deepfake’ al een krantenkoppen-trechter was voor mediaproducenten, werd deze uitgebreid om deze systemen te omvatten.

Later, zowel in de media als in de onderzoeksliteratuur, werd de term ook gebruikt om tekstgebaseerde impersonatie te omvatten. Op dat moment was de oorspronkelijke betekenis van ‘deepfake’ zo goed als verloren gegaan, terwijl de uitgebreide betekenis voortdurend evolueerde en steeds verder verwaterde.

Maar aangezien het woord zo ontvlambaar en galvaniserend was, en nu een krachtig politiek en media-aandachtpunt was, bleek het onmogelijk om het op te geven. Het trok lezers naar websites, financiering voor onderzoekers en aandacht voor politici. Deze lexicaal ambiguïteit is de belangrijkste focus van het nieuwe onderzoek.

Zoals de auteurs opmerken, schetst artikel 3(60) van de EU AI Act vier voorwaarden die een ‘deepfake’ definiëren.

1: Ware Maan

Ten eerste moet de inhoud gegenereerd of gemanipuleerd zijn, d.w.z. hetzij van scratch gemaakt met AI (generatie) of gewijzigd van bestaande gegevens (manipulatie). Het onderzoek benadrukt de moeilijkheid om ‘acceptabele’ beeldbewerkingsresultaten en manipulatieve diepe vervalsingen te onderscheiden, gezien digitale foto’s in elk geval nooit een ware weergave van de realiteit zijn.

Het onderzoek stelt dat een door Samsung gegenereerde maan argumentatief authentiek is, aangezien de maan onwaarschijnlijk van uiterlijk zal veranderen en aangezien de AI-gegenereerde inhoud, getraind op echte maanbeelden, waarschijnlijk nauwkeurig zal zijn.

De auteurs stellen echter ook dat aangezien het Samsung-systeem een ‘verbeterde’ afbeelding van de maan kan genereren in een geval waarin de bronafbeelding niet de maan zelf was, dit als een ‘diepe vervalsing’ zou worden beschouwd.

Het zou onpraktisch zijn om een uitgebreide lijst van verschillende use-cases rondom deze soort ad hoc-functionaliteit op te stellen. Daarom lijkt de verantwoordelijkheid voor de definitie opnieuw bij de rechtbanken te liggen.

2: Tekstfakes

Ten tweede moet de inhoud in de vorm van een afbeelding, audio of video zijn. Tekstinhoud, hoewel onderworpen aan andere transparantie-verplichtingen, wordt niet beschouwd als een diepe vervalsing onder de AI Act. Dit wordt niet in detail behandeld in het nieuwe onderzoek, hoewel het een aanzienlijke invloed kan hebben op de effectiviteit van visuele diepe vervalsingen (zie hieronder).

3: Echte Wereldproblemen

Ten derde moet de inhoud bestaande personen, objecten, plaatsen, entiteiten of gebeurtenissen lijken. Deze voorwaarde vestigt een verbinding met de echte wereld, wat betekent dat zuiver gefabriceerde beelden, zelfs als ze fotorealistisch zijn, niet in aanmerking komen als diepe vervalsingen. Recital 134 van de EU AI Act benadrukt het ‘gelijkenis’-aspect door het woord ‘merkbaar’ (een schijnbare verwijzing naar latere juridische oordelen) toe te voegen.

De auteurs, die verwijzen naar eerder werk, overwegen of een AI-gegenereerd gezicht moet behoren tot een bestaande persoon, of dat het alleen maar voldoende gelijk moet zijn aan een bestaande persoon om aan deze definitie te voldoen.

Om bijvoorbeeld te bepalen of een reeks fotorealistische afbeeldingen van de politicus Donald Trump de bedoeling heeft om hem na te bootsen, als de afbeeldingen (of toegevoegde teksten) hem niet specifiek noemen? Gezichtsherkenning? Gebruikersonderzoeken? Een rechtersdefinitie van ‘gezond verstand’?

Terugkerend naar het ‘Tekstfakes’-probleem (zie hierboven), vormen woorden vaak een aanzienlijk deel van de handeling van een visuele diepe vervalsing. Bijvoorbeeld, het is mogelijk om een (ongewijzigde) afbeelding of video van ‘persoon a’ te nemen en in een onderschrift of een socialemediabericht te zeggen dat de afbeelding van ‘persoon b’ is (onder de voorwaarde dat de twee personen op elkaar lijken).

In een dergelijk geval is geen AI nodig, en het resultaat kan opvallend effectief zijn – maar vormt een dergelijke low-tech-benadering ook een ‘diepe vervalsing’?

4: Retoucheer, Remodel

Ten slotte moet de inhoud authentiek of waarheidsgetrouw lijken voor een persoon. Deze voorwaarde benadrukt de perceptie van menselijke kijkers. Inhoud die alleen wordt herkend als een weergave van een echte persoon of object door een algoritme, zou niet als een diepe vervalsing worden beschouwd.

Van alle voorwaarden in 3(60) is deze het meest een verwijzing naar het latere oordeel van een rechtbank, aangezien het geen interpretatie via technische of gemechaniseerde middelen toelaat.

Er zijn duidelijk enkele inherente moeilijkheden om overeenstemming te bereiken over een dergelijke subjectieve bepaling. De auteurs merken bijvoorbeeld op dat verschillende mensen, en verschillende soorten mensen (zoals kinderen en volwassenen), verschillend kunnen zijn ingesteld om in een bepaalde diepe vervalsing te geloven.

De auteurs merken verder op dat de geavanceerde AI-mogelijkheden van tools zoals Photoshop de traditionele definities van ‘diepe vervalsing’ uitdagen. Hoewel deze systemen basisbeveiliging tegen omstreden of verboden inhoud kunnen omvatten, breiden ze het concept van ‘retoucheren’ aanzienlijk uit. Gebruikers kunnen nu objecten in een hoge mate van overtuiging en fotorealistische wijze toevoegen of verwijderen, waardoor een professioneel niveau van authenticiteit wordt bereikt dat de grenzen van beeldmanipulatie herdefinieert.

De auteurs stellen:

‘We betogen dat de huidige definitie van diepe vervalsingen in de AI Act en de corresponderende verplichtingen niet voldoende zijn gespecificeerd om de uitdagingen van diepe vervalsingen aan te pakken. Door de levenscyclus van een digitale foto te analyseren, van de camerasensor tot de digitale bewerkingsfuncties, vinden we:

‘(1.) Diepe vervalsingen zijn onduidelijk gedefinieerd in de EU AI Act. De definitie laat te veel ruimte voor wat een diepe vervalsing is.

‘(2.) Het is onduidelijk hoe bewerkingsfuncties zoals Google’s “beste shot”-functie als een uitzondering op transparantieverplichtingen kunnen worden beschouwd.

‘(3.) De uitzondering voor in belangrijke mate bewerkte inhoud roept vragen op over wat inhoudt dat inhoud in belangrijke mate wordt bewerkt en of deze bewerking waarneembaar moet zijn voor een natuurlijk persoon.’

Uitzonderingen

De EU AI Act bevat uitzonderingen die, volgens de auteurs, zeer permissief kunnen zijn. Artikel 50(2), stellen zij, biedt een uitzondering in gevallen waarin de meerderheid van een originele bronafbeelding niet wordt gewijzigd. De auteurs merken op:

‘Wat kan als inhoud in de zin van artikel 50(2) worden beschouwd in gevallen van digitale audio, afbeeldingen en video’s? Bijvoorbeeld, in het geval van afbeeldingen, moeten we de pixelruimte of de zichtbare ruimte die waarneembaar is voor mensen overwegen? Wezenlijke manipulaties in de pixelruimte kunnen de menselijke perceptie niet veranderen, en aan de andere kant kunnen kleine perturbaties in de pixelruimte de perceptie dramatisch veranderen.’

De onderzoekers geven het voorbeeld van het toevoegen van een handvuurwapen aan de foto van een persoon die naar iemand wijst. Door het vuurwapen toe te voegen, verandert men slechts 5% van de afbeelding; echter is de semantische betekenis van het gewijzigde gedeelte opvallend. Daarom lijkt het dat deze uitzondering geen rekening houdt met enig ‘gezond verstand’-begrip van de invloed die een klein detail op de algehele betekenis van een afbeelding kan hebben.

Section 50(2) staat ook uitzonderingen toe voor een ‘assistentiefunctie voor standaardbewerking’. Aangezien de Act niet definieert wat ‘standaardbewerking’ betekent, lijkt zelfs een post-processingfunctie als Google’s Best Take door deze uitzondering te worden beschermd, merken de auteurs op.

Conclusie

De vermelde bedoeling van het nieuwe onderzoek is om interdisciplinair onderzoek naar de regulering van diepe vervalsingen aan te moedigen en als startpunt te dienen voor nieuwe dialogen tussen computerwetenschappers en juridische onderzoekers.

De paper zelf gaat echter ten onder aan tautologie op verschillende punten: het gebruikt de term ‘diepe vervalsing’ vaak alsof de betekenis ervan vanzelfsprekend is, terwijl het de EU AI Act bekritiseert voor het niet definiëren van wat een diepe vervalsing werkelijk is.

Origineel gepubliceerd op maandag 16 december 2024