Om etikken i Hollywoods deepfakes

Hvorfor har der været så stor en nedgang i tv- og filmindhold med deepfakes længe? Forfatteren arbejdede for Metaphysic.ai, en pioner inden for deepfakes i film, i mere end to og en halv år, herunder 20 måneder som fastansat medarbejder.

Opinion/Feature Da jeg var barn, var jeg fascineret af historierne om grundlæggelsen af Industrial Light and Magic (ILM), der opererede fra et enkel lagerbygning i Van Nuys, og byggede grundlaget for den nye generation af motion-kontrollerede visuelle effekter, der skulle komme til at dominere størstedelen af 1980’erne, indtil CGI blev introduceret.

Eksplosioner af dele af Dødsstjernen i gården på ILM i Van Nuys i midten af 1970’erne. Kilde

Det er en enestående oprindelseshistorie, og jeg anbefaler de mange bøger og artikler, der genfortæller, hvordan effekterne til Star Wars (1977) blev – efter en masse slid, irettesættelser og forsinkelser – endelig leveret.

Den unge ILM ville senere flytte til San Francisco og gå videre med at industrialisere foto-kemiske effekter. Selv på tidspunktet for VFX-arbejdet på The Empire Strikes Back i 1978/9 var ILM, selvom det stadig var en pionerende og innovativ effekthuset, allerede fuldt udviklet med regnskabs- og HR-afdelinger.

Men i den periode, og siden, var min fantasi fanget af at undre mig over, hvordan de første få ‘rå’ år i Van Nuys var, hvor de kanibaliserede modelkits og 1960’ernes optiske metoder, og praktisk talt opfandt en industri, der tidligere havde været forbeholdt enkelte auteur VFX-specialister.

Ansigterne på revolutionen

I de næsten tre år, jeg arbejdede for det nu opløste Metaphysic.ai visual effects-selskab, tror jeg, jeg kom så tæt på oplevelsen fra midten af 1970’erne i Van Nuys, som jeg overhovedet kunne komme.

I den periode producerede Metaphysic AI-drevne, ID-specifikke effekter til nogle af de største franchises, herunder Mad Max og Alien-franchiser, samt producerede den banebrydende (omend meget kritiserede) de-aging deepfake-arbejde til Robert Zemeckis’ Here (2024), og mange andre værker:

Der var mere ‘dailies’-møder (visning af den seneste producerede footage i overfyldte Zoom-møder) end nogen person rimeligvis kunne deltage i og stadig få sin egen arbejde gjort, samt skunkworks-stil huddles, hvor udvalgte grupper arbejdede sammen på mini-mål, for at fremme selskabets state-of-the-art.

Mange af personalet kom til selskabet enten direkte fra ILM eller havde arbejdet for ILM i fortiden*; og selvom det var tydeligt, fra anekdoter, at Van Nuys-ånden for længst var afløst af masse-rationalisering på ILM og de andre store VFX-huse, som nogle af personalet kom fra, forblev associationen elektrisk for mig.

George Lucas gennemgår effekter med John Dykstra, Richard Edlund, Joe Johnston og Rose Duignan under produktionen af Star Wars. Kilde

Jeg ved ikke, om man kan sige, at Metaphysic ville opfinde en AI-ækvivalent til DykstraFlex motion-control-rigget, der kom ud af Van Nuys-sværgen; men det satte AI-drevne VFX på kortet og var ansvarlig for mere professionelt niveau AI-face-replacement og -ændring end nogen andet effekthus eller enkelt projekt havde foretaget i perioden, eller har foretaget siden.

Nedgang

Og jeg må bemærke, at efter at selskabet blev opslugt af DNEG’s Brahma AI-datterselskab, synes den stadige strøm af AI-baseret visuel effektarbejde at være gået i stå.

Trods overskrifter som Ben Afflecks AI VFX Netflix-partnerskab og et løfte om AI fra instruktørerne Soderbergh og Aronofsky, har jeg ikke set mange deepfake-ansigter i film og tv længe (undtagen The Capture‘s simulation af deepfake-teknologi), sammenlignet med ‘peak Metaphysic’.

Givet omfanget af AI-tilbageslag på tværs af så mange felter og sektorer, undrer jeg mig over, om vi ikke alle begynder at ‘læse rummet’ på AI-ændrede identiteter; og om AI-faciliteter som genoplivningen af Ian Holm, yngre Harrison Ford og genoplivningen af Rat Pack til at sælge gin måske snart vil fremkalde det nu-klassiske meme ‘Det var en anden tid’.

Negative associationer

På mange måder er det et problem med association; men det er ikke det samme associationsproblem, som det var tilbage i 2021, da Metaphysic blev dannet.

På det tidspunkt var deepfake-porn blevet en viral fænomen, med både SFW- og NSFW-indhold fra to åbne kildekode-repositorier^† . I modsætning til i dag var der ingen ‘gatekept’ eller censureret måde at producere fotorealistisk AI-indhold på.

Dengang var den største deepfake-porn-side i verden (der var bestemt til at blive lukket af en undersøgelse i 2025) stedet, hvor de officielle instruktioner for den største deepfake-software-repo, DeepFaceLab, selv var tilstået grundlag for Metaphysics oprindelige tilgange:

Den originale brugervejledning for DeepFaceLab, på et tidspunkt den mest populære deepfake-software – vært på verdens største deepfake-porn-side. Siden da er softwaren blevet arkiveret, og siden er blevet lukket. Kilde

Siden software-udviklerne tydeligvis ikke var bange for associationen mellem porn og deepfakes, ville dette uundgåeligt påvirke enhver virksomhed, der forsøgte at legitimt antage denne teknologi.

Følgelig (muligvis ikke mindst, fordi selskabets grundlægger var inkluderet med grundlæggeren af DeepFaceLab i forfatterskabet af en Arxiv-positionspapir om deepfakes i 2020, og var genstand for megen kritik over disse associationer) havde Metaphysic en dedikeret etik-afdeling, og selskabet var vokal og meget offentlig på dette emne.

Disse dage, med den omfattende og voksende mængde af global lovgivning, der kriminaliserer deepfake-indhold, er den ‘ulykkelige’ association vedrørende AI-ændrede identiteter overført fra porn til fattigdom, da globale arbejdsstyrker, der direkte er truet af forskellige former for AI (som regel Large Language Models eller LLM), begynder at dæmonisere begrebet overordnet.

Bønderne er i oprør

På et tidspunkt, måske midten af 2023, da jeg deltog i forskellige selskabsmøder, begyndte jeg at føle, i hvert fald på anden hånd, en voksende bølge af uformel ad hoc modstand mod de services, som selskabet tilbød, sammenfaldende med de tidlige sociale opsving omkring AI som en eksistential trussel mod arbejdere (selvom det skal bemærkes, at Hollywood-fagforeninger var i front på dette punkt).

AI syntes at blive set som ‘ikke værd at risikere’. Derudover havde Metaphysic i sin peak-periode aldrig rigtig en ubestridt succes efter shock-værdien af at sætte (en ret uvirksom) ung Elvis Presley i America’s Got Talent. I virkeligheden havde hverken nogen selskab, der producerede AI-genereret indhold i mainstream-film og tv-arbejde, en succes.

Der var altid en grund til at hade: den altid tilstedeværende uncanny valley; associationen med porn; og derefter associationen med en truet AI-dreven økonomisk apokalypse.

AI’s ‘Tyrannosaurus-moment’

Det havde syntes mig, i lang tid, at genskabe mennesker med 100% troværdighed i en VFX-kontekst, der havde fejlet med CGI i lang tid, var et værdigt, hvis ikke et uundgåeligt, mål.

Jeg forestillede mig, at udviklingen af AI i visuelle effekter ville kulminere i en tredje ‘epochal’ forandring for branchen, til glæde for seerne. Den første havde været det første syn af stjernedestroyeren, der brølede over hovedet i Star Wars i 1977, og den anden, den rasende Tyrannosaurus, der undslap sin indhegning i Jurassic Park, i 1993.

Hver havde ført til radikale skift i branchen, og hver havde været forudgået af tidlige adoptører, der pressede grænserne for en ny teknologi eller metode.

Således syntes det mig, at Metaphysics strøm af udgivelser, selvom de ikke nødvendigvis leverede seerne det ‘Tyrannosaurus-moment’, ville uundgåeligt føre til det; at vi en dag ville se noget umuligt i en film; noget fundamentalt skabt af AI (i stedet for papirklædt med CGI), der ville slå os af sokken.

NU… Jeg ved ikke. Det er ikke nødvendigvis, fordi jeg ikke tror, at øjeblikket af forbløffelse vil komme, for AI i film; eller kun, at der er mange kritiske problemer for AI-video at overvinde, før den kan slutte sig til professionelle ved bordet.

Det er mere, at jeg er begyndt at dele, på en vag (og måske moralsk fej) måde, den voksende offentlige følelse af negativ association mellem AI i VFX og de negative konsekvenser af AI i andre sektorer, i denne periode.

Foruden dette er jeg ikke overbevist om, at den historiske indflydelse af ubetalte og ikke-frie datasæt, såsom Common Crawl, nogensinde er blevet rigtigt regnet med; og jeg mener, at mange af de meget omtalte ‘AI-licens-aftaler’, der har lavet overskrifter i løbet af de sidste 18 måneder eller så, repræsenterer en vis grad af IP-vask.

Derfor, når det perfekte og ikke-uncanny AI-regenererede Marilyn Monroe eller Humphrey Bogart træder ind på scenen, tror jeg, at dobbeltfølelser af beundring og ubehag er sandsynligvis til stede i mig, fordi AI-trylleriens bagage er begyndt at veje mig ned.

Konklusion

De to tidligere teknologiske gennembrud kom uden disse forbehold: opkomsten af ILM og motion control-riggets opfindelse opfandt en industri, der tidligere havde været en række sporadiske kommissioner, der blev mødt af en sparsom elite af ad hoc freelancere; og opkomsten af CGI øgede antallet af job i VFX-industrien og skabte værdi i tilstødende softwareudvikling samt forskellige understøttende services.

Min interesse for Computer Vision er intakt, sammen med min interesse for AI’s potentiale i en lang række mulige audiovisuelle anvendelser; og min entusiasme for bredere anvendelser af machine learning i en række andre sektorer er uformindsket.

Jeg ønsker kun, at jeg kunne fortsætte med at se frem til det AI-‘wow’-øjeblik i biografen.

Sådan er årsagen til, at der pludselig er en mangel på AI-genererede ansigter i film og tv, sammenlignet med de mest aktive år for Metaphysic – en mulighed er, at AI-justeringer nu udføres af produktionshuse med lidt eller ingen offentlighed (i modsætning til de høje pressemeddelelser i perioden 2022-23), da den offentlige reaktion på AI-innovation i underholdning er blevet så fjendtlig længe.

For det andet, for at gentage: efter AGT, hvor selskabet gjorde sin debut, havde Metaphysic aldrig rigtig en ublandet succes i forhold til sin egen bidrag til nogen film eller tv-show; og hverken Indiana Jones 4-deepfake eller noget andet arbejde fra andre produktionshuse var godt modtaget nok, eller lucrativt nok til at starte en strøm af kopiister, eller til at give AI i VFX ægte troværdighed og investor-venlighed.

* Dette er let at verificere ved blot at se på offentligt tilgængelige LinkedIn-profiler og IMDB-kreditter.

^† DeepFaceLab og den mindre porn-associative FaceSwap.

Udgivet første gang mandag, 27. april 2026