Den flygtige definition af ‘Deepfake’

En overbevisende ny studie fra Tyskland kritiserer EU’s AI-lov for at have en for vag definition af begrebet ‘deepfake’, især i sammenhæng med digital billedmanipulation. Forfatterne argumenterer for, at lovens fokus på indhold, der ligner virkelige mennesker eller begivenheder – men potentielt kan se falsk ud – mangler klarhed.

De fremhæver også, at lovens undtagelser for ‘standardredigering’ (dvs. angiveligt mindre AI-baserede ændringer af billeder) ikke tager hensyn til den omfattende indflydelse af AI i forbrugerapplikationer og den subjektive natur af kunstneriske konventioner, der forudgår AI’s opkomst.

Upræcis lovgivning på disse områder giver anledning til to nøglerisici: en ‘chillende effekt’, hvor lovens brede fortolkningsområde hæmmer innovation og anvendelsen af nye systemer; og en ‘scofflaw-effekt’, hvor loven bliver ignoreret, fordi den anses for at være overreaching eller irrelevant.

I begge tilfælde overfører vag lovgivning effektivt ansvaret for at etablere praktiske juridiske definitioner til fremtidige retsafgørelser – en forsigtig og risikofyldt tilgang til lovgivning.

AI-baserede billedmanipulationsteknologier er stadig bemærkelsesværdigt foran lovgivningens evne til at tackle dem, synes det. For eksempel er en væsentlig eksempel på den voksende elasticitet af begrebet AI-dreven ‘automatisk’ efterbehandling, ifølge artiklen, Samsungs ‘Scene Optimizer’-funktion i nyere kameraer, der kan erstatte brugertagne billeder af månen (et udfordrende emne) med et AI-drevent, ‘forfinet’ billede:

Top venstre, et eksempel fra den nye artikel på et virkeligt brugertaget billede af månen, til venstre for et Samsung-forbedret billede, der er automatisk skabt med Scene Optimizer; Højre, Samsungs officielle illustration af processen bag dette; nederst venstre, eksempler fra Reddit-brugeren u/ibreakphotos, der viser (venstre) et bevidst uddybet billede af månen og (højre), Samsungs genfortolkning af dette billede – selvom kildebilledet var et billede af en skærm, og ikke den virkelige måne. Kilder (med uret fra toppen): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

I nederste venstre hjørne af billedet ovenfor, ser vi to billeder af månen. Det venstre billede er et foto taget af en Reddit-bruger. Her er billedet bevidst uddybet og formindsket af brugeren.

Til højre ser vi et billede af det samme nedgraderede billede taget med et Samsung-kamera med AI-dreven efterbehandling aktiveret. Kameraet har automatisk ‘forbedret’ det genkendte ‘måne’-objekt, selvom det ikke var den virkelige måne.

Artiklen retter dybere kritik mod Best Take-funktionen i Googles nyeste smartphones – en omstridt AI-funktion, der redigerer sammen de ‘bedste’ dele af en gruppefoto, scannende multiple sekunder af en fotosekvens, så smil kan flyttes frem eller tilbage i tid, hvis nødvendigt – og ingen vises i midten af at blinke.

Artiklen fastslår, at denne type kompositproces har potentialet til at misrepræsentere begivenheder:

‘[I] en typisk gruppefoto-sætning ville en gennemsnitlig tilskuer sandsynligvis stadig betragte det resulterende foto som ægte. Smilet, der er indsat, fandtes inden for et par sekunder fra, at resten af fotoet blev taget.

‘På den anden side er ti-sekunders-tidsrammen for Best Take-funktionen tilstrækkelig til en humørforandring. En person kan have stoppet med at smile, mens resten af gruppen ler om en vittighed på deres bekostning.

‘Som følge heraf antager vi, at sådant et gruppefoto kan meget vel udgøre en dyb fake.’

Den nye artikel er titlen Hvad udgør en Deep Fake? Den uklare grænse mellem legitimitet og manipulation under EU’s AI-lov, og kommer fra to forskere ved Computational Law Lab på Universitetet i Tübingen og Saarland Universitet.

Gamle Tricks

At manipulere med tid i fotografering er langt ældre end forbruger-niveau AI. Artiklens forfattere bemærker eksistensen af langt ældre teknikker, der kan argumenteres for at være ‘uægte’, såsom sammenkædning af multiple sekventielle billeder til et High Dynamic Range (HDR)-foto eller et ‘syet’ panorama-foto.

Det er faktisk nogle af de ældste og mest underholdende fotografiske falsknerier, der traditionelt er skabt af skolebørn, der løber fra den ene ende af en skolegruppe til den anden, før trajektorien af de specielle panorama-kameraer, der engang blev brugt til sports- og skolegruppefotografering – hvilket gjorde det muligt for eleven at fremstå to gange i samme billede:

Fristelsen til at narre panorama-kameraer under gruppefotografier var for stor for mange studerende, der var villige til at risikere en dårlig session i skolens kontor for at ‘klone’ sig selv i skolefotografier. Kilde: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Medmindre du tager et foto i RAW-mode, der grundlæggende dumpes kamera-linsensensor til en meget stor fil uden nogen form for fortolkning, er det sandsynligt, at dine digitale fotos ikke er helt ægte. Kamera-systemer anvender rutinemæssigt ‘forbedrings’-algoritmer såsom billed-skærping og hvidbalance, som standard – og har gjort det siden begyndelsen af forbruger-niveau digital fotografering.

Artiklens forfattere argumenterer for, at selv disse ældre typer af digital foto-forbedring ikke repræsenterer ‘realitet’, da disse metoder er designet til at gøre fotos mere tilfredsstillende, ikke mere ‘ægte’.

Studiet foreslår, at EU’s AI-lov, selv med senere ændringer såsom recitals 123–27, placerer alle fotografiske udgangspunkter inden for en bevis-ramme, der ikke er egnet til konteksten, hvori fotos produceres i disse dage, i modsætning til den (nominelt objektive) natur af sikkerheds-kameraoptagelser eller retsmedicinske fotografier. De fleste billeder, der behandles af AI-loven, er mere sandsynligt at stamme fra kontekster, hvor producenter og online-platforme aktivt fremmer kreative foto-fortolkninger, herunder brugen af AI.

Forskerne foreslår, at fotos ‘aldrig har været en objektiv fremstilling af realitet’. Overvejelser såsom kameraets placering, valg af dybdeskala og lysvalg bidrager alle til at gøre et fotografi dybt subjektivt.

Artiklen bemærker, at rutinemæssige ‘rensning’-opgaver – såsom fjernelse af sensor-støv eller uønskede el-ledninger fra et ellers velkomponeret motiv – kun var semi-automatiserede før opkomsten af AI: brugere måtte manuelt vælge en region eller initiere en proces for at opnå deres ønskede resultat.

I dag udløses disse operationer ofte af brugeres tekstprompt, især i værktøjer som Photoshop. På forbruger-niveau er disse funktioner stadig mere automatiserede uden brugerinput – en udfald, der åbenbart anses for at være ‘åbenlyst ønskeligt’ af producenter og platforme.

Den udvandede betydning af ‘Deepfake’

En central udfordring for lovgivning omkring AI-forandret og AI-genereret billedmateriale er den tvetydighed af begrebet ‘deepfake’, der har haft sin betydning bemærkelsesværdigt udvidet over de sidste to år.

Originale begreber anvendtes kun til video-udgang fra autoencoder-baserede systemer såsom DeepFaceLab og FaceSwap, begge afledt fra anonym kode, der blev offentliggjort på Reddit i slutningen af 2017.

Fra 2022 kom Latent Diffusion Models (LDMs) såsom Stable Diffusion og Flux, samt tekst-til-video-systemer såsom Sora, der også tillod identitets-udskiftning og tilpasning, med forbedret opløsning, fleksibilitet og troværdighed. Nu var det muligt at skabe diffusion-baserede modeller, der kunne afbilde berømtheder og politikere. Da begrebet ‘deepfake’ allerede var en overskrift, der kunne tiltrække læsere, blev det udvidet til at dække disse systemer.

Senere, i både medier og forskningslitteratur, kom begrebet også til at omfatte tekst-baseret impersonation. På dette tidspunkt var den oprindelige betydning af ‘deepfake’ næsten tabt, mens dens udvidede betydning var konstant i udvikling og stadig mere udvandet.

Men da ordet var så brændende og galvaniserende, og nu var et kraftfuldt politisk og medie-relateret punkt, var det umuligt at give op. Det tiltrak læsere til websites, funding til forskere og opmærksomhed til politikere. Denne leksikalske tvetydighed er hovedfokus for den nye forskning.

Som forfatterne bemærker, fastlægger artikel 3(60) i EU’s AI-lov fire betingelser, der definerer en ‘deepfake’.

1: Sand Måne

Først og fremmest skal indholdet være genereret eller manipuleret, dvs. enten skabt fra scratch med AI (generering) eller ændret fra eksisterende data (manipulation). Artiklen fremhæver vanskeligheden ved at skelne mellem ‘acceptabel’ billed-redigering og manipulative deepfakes, da digitale fotos under alle omstændigheder aldrig er sande repræsentationer af virkeligheden.

Artiklen fastslår, at et Samsung-genereret måne-billede kan anses for at være ægte, da månen er usandsynlig at ændre udseende, og da AI-genereret indhold, trænet på virkelige måne-billeder, sandsynligvis er nøjagtigt.

Imidlertid fastslår forfatterne også, at da Samsung-systemet er blevet vist til at generere et ‘forbedret’ billede af månen i et tilfælde, hvor kildebilledet ikke var månen selv, ville dette blive betragtet som en ‘deepfake’.

Det ville være urealistisk at opstille en omfattende liste over forskellige brugsområder omkring denne type ad hoc-funktionalitet. Derfor synes ansvaret for definition at gå over til domstolene igen.

2: TextFakes

Andet skal indholdet være i form af billede, lyd eller video. Tekst-indhold, selvom det er underlagt andre transparens-forpligtelser, anses ikke for at være en deepfake under AI-loven. Dette behandles ikke i detaljer i den nye studie, selvom det kan have en bemærkelsesværdig indvirkning på effektiviteten af visuelle deepfakes (se nedenfor).

3: Virkelige Problemer

Tredje skal indholdet ligner eksisterende personer, objekter, steder, enheder eller begivenheder. Denne betingelse etablerer en forbindelse til den virkelige verden, hvilket betyder, at ren fabrikeret billedmateriale, selvom det er fotorealistisk, ikke kvalificerer sig som en deepfake. Recital 134 i EU’s AI-lov fremhæver ‘lignende’-aspektet ved at tilføje ordet ‘appreciably’ (en åbenbar henvisning til senere retslige afgørelser).

Forfatterne, der citerer tidligere arbejde, overvejer, om et AI-genereret ansigt skal tilhøre en virkelig person, eller om det kun skal være tilstrækkeligt lignende en virkelig person for at opfylde denne definition.

For eksempel, hvordan kan man bestemme, om en sekvens af fotorealistiske billeder, der afbilder politikeren Donald Trump, har til hensigt at impersonere, hvis billederne (eller tilføjet tekst) ikke specifikt nævner ham? Ansigtsgenkendelse? Bruger-undersøgelser? En dommers definition af ‘sund fornuft’?

Vendende tilbage til ‘TextFakes’-spørgsmålet (se ovenfor), udgør ord ofte en væsentlig del af handlingen i en visuel deepfake. For eksempel er det muligt at tage et (uændret) billede eller video af ‘person a’‘, og sige, i en undertekst eller en sociale medie-post, at billedet er af ‘person b’ (antag, at de to personer ligner hinanden).

I sådant tilfælde er der ingen AI nødvendig, og resultatet kan være slående effektivt – men udgør sådant et lavteknologisk tilgang også en ‘deepfake’?

4: Retouch, Remodel

Til sidst skal indholdet synes ægte eller sandt for en person. Denne betingelse fremhæver perceptionen af menneskelige tilskuerere. Indhold, der kun kan genkendes som repræsentation af en virkelig person eller objekt af en algoritme, anses ikke for at være en deepfake.

Af alle betingelser i 3(60) er denne den, der mest åbenlyst henviser til senere domstolsafgørelser, da den ikke tillader nogen form for fortolkning via tekniske eller mekaniserede midler.

Der er åbenlyst nogle indbyggede vanskeligheder ved at nå til enighed om en sådan subjektiv bestemmelse. Forfatterne bemærker for eksempel, at forskellige mennesker, og forskellige typer mennesker (såsom børn og voksne), kan være forskelligt disponerede til at tro på en bestemt deepfake.

Forfatterne bemærker yderligere, at de avancerede AI-kapaciteter i værktøjer som Photoshop udfordrer traditionelle definitioner af ‘deepfake.’ Selvom disse systemer kan inkludere grundlæggende sikkerhedsforanstaltninger mod kontroversielt eller forbudt indhold, udvider de dramatisk begrebet ‘retouchering.’ Brugere kan nu tilføje eller fjerne objekter på en højst overbevisende, fotorealistisk måde, opnående et professionelt niveau af ægthed, der gendefinierer grænserne for billedmanipulation.

Forfatterne fastslår:

‘Vi argumenterer for, at den nuværende definition af deepfakes i AI-loven og de tilhørende forpligtelser ikke er tilstrækkeligt specificeret til at tackle udfordringerne, der stilles af deepfakes. Ved at analysere livscyklussen af et digitalt foto fra kamera-sensoren til digitale redigeringsfunktioner, finder vi, at:’

‘(1.) Deepfakes er dårligt defineret i EU’s AI-lov. Definitionen efterlader for meget plads til, hvad en deepfake er.’

‘(2.) Det er uklart, hvordan redigeringsfunktioner som Googles “Best Take”-funktion kan anses for at være en undtagelse for transparens-forpligtelser.’

‘(3.) Undtagelsen for væsentligt redigeret indhold rejser spørgsmål om, hvad der udgør væsentlig redigering af indhold, og om denne redigering skal være synlig for en menneskelig person.’

Tagende Undtagelse

EU’s AI-lov indeholder undtagelser, som forfatterne argumenterer for, kan være meget tilladende. Artikel 50(2), fastslår de, tilbyder en undtagelse i tilfælde, hvor hovedparten af et originalt kilde-billede ikke er ændret. Forfatterne bemærker:

‘Hvad kan anses for at være indhold i forstand til artikel 50(2) i tilfælde af digital lyd, billeder og videoer? For eksempel, i tilfælde af billeder, skal vi overveje pixel-rummet eller det synlige rum, der kan opfattes af mennesker? Væsentlige manipulationer i pixel-rummet kan ikke ændre menneskelig perception, og på den anden side kan små forstyrrelser i pixel-rummet ændre perceptionen dramatisk.’

Forskerne giver eksemplet på at tilføje en hånd-pistol til et billede af en person, der peger på nogen. Ved at tilføje pistolen ændres kun 5% af billedet; imidlertid er den semantiske betydning af den ændrede del bemærkelsesværdig. Derfor synes denne undtagelse ikke at tage hensyn til nogen ‘sund fornuft’-forståelse af, hvordan en lille detalje kan have en betydelig indvirkning på den samlede betydning af et billede.

Afdeling 50(2) tillader også undtagelser for en ‘assistive funktion for standardredigering’. Da loven ikke definerer, hvad ‘standardredigering’ betyder, synes selv efterbehandlingsfunktioner som Googles Best Take at være beskyttet af denne undtagelse, bemærker forfatterne.

Konklusion

Den erklærede hensigt med det nye arbejde er at fremme tværfaglig studie omkring regulering af deepfakes og at fungere som et udgangspunkt for nye dialoger mellem computerforskere og juridiske eksperter.

Imidlertid giver artiklen selv efter til tautologi på flere punkter: den bruger hyppigt begrebet ‘deepfake’ som om dets betydning var selvindlysende, samtidig med at den kritiserer EU’s AI-lov for ikke at definere, hvad en deepfake i virkeligheden er.

Offentliggjort mandag, den 16. december 2024