Om etikken i Hollywoods deepfakes

Hvorfor har der været så stor en nedgang i tv- og filmindhold med deepfakes på det seneste? Forfatteren arbejdede for Metaphysic.ai, en pioner inden for deepfakes i film, i mere end to et halvt år, herunder 20 måneder som fuldtidsansat.

Opinion/Feature Da jeg var barn, var jeg fascineret af historierne om grundlæggelsen af Industrial Light and Magic (ILM), der opererede fra en enkel lagerbygning i Van Nuys, og byggede grundlaget for den nye generation af bevægelsesstyrede visuelle effekter, der skulle komme til at dominere størstedelen af 1980’erne, indtil CGI blev introduceret.

Eksplosioner af dele af Dødsstjernen i gården på ILM i Van Nuys i midten af 1970’erne. Kilde

Det er en enestående oprindelseshistorie, og jeg anbefaler de mange bøger og artikler, der genfortæller, hvordan effekterne til Star Wars (1977) blev – efter en masse slid, gensidige beskyldninger og forsinkelser – endelig leveret.

Den unge ILM ville senere flytte til San Francisco og gå videre med at industrialisere produktionen af fotokemiske effekter. Selv på tidspunktet for VFX-arbejdet på The Empire Strikes Back i 1978/9 var ILM, selvom det stadig var et banebrydende og innovativt effekthus, allerede fuldt udviklet med regnskabs- og HR-afdelinger.

Men i den periode, og siden, var min fantasi fanget af at undre mig over, hvordan de første få ‘rå’ år i Van Nuys var, hvor de kanibaliserede modelkits og 1960’ernes optiske metoder, og praktisk talt opfandt en industri, der tidligere havde været forbeholdt enkelte auteur VFX-specialister.

Revolutionens ansigt

I de næsten tre år, jeg arbejdede for det nu opløste Metaphysic.ai visual effects-selskab, tror jeg, jeg kom så tæt på oplevelsen fra midten af 1970’erne i Van Nuys, som jeg overhovedet kunne komme.

I den periode producerede Metaphysic AI-drevne, identitetsspecifikke effekter til nogle af de største franchises, herunder Mad Max og Alien-franchiser, samt producerede det banebrydende (omend meget kritiserede) foryngende deepfake-arbejde til Robert Zemeckis’ Here (2024), og mange andre værker:

Der var flere ‘dailies’-møder (visning af den seneste producerede footage i overfyldte Zoom-møder) end nogen person rimeligvis kunne deltage i og stadig få sit eget arbejde gjort, samt skunkworks-stil huddles, hvor udvalgte grupper arbejdede sammen på små, ambitiøse udviklingsprojekter, for at fremme selskabets state-of-the-art.

Mange af personalet kom til selskabet enten direkte fra ILM eller havde arbejdet for ILM i fortiden*; og selvom det var tydeligt, fra anekdoter, at Van Nuys-ånden for længst var afløst af masse-rationalisering på ILM og de andre store VFX-huse, som nogle af personalet kom fra, forblev associationen elektrisk for mig.

George Lucas gennemgår effekter med John Dykstra, Richard Edlund, Joe Johnston og Rose Duignan under produktionen af Star Wars. Kilde

Jeg ved ikke, om man kan sige, at Metaphysic ville opfinde en AI-ækvivalent til DykstraFlex motion-control-rigget, der kom ud af det hårde værkstedsarbejde i Van Nuys; men det satte AI-drevne VFX på kortet og var ansvarlig for mere professionelt niveau AI-face-replacement og -ændring end noget andet effekthus eller enkelt projekt havde foretaget i perioden, eller har foretaget siden.

Nedgang

Og jeg må bemærke, at efter at selskabet blev opslugt af DNEG’s Brahma AI-datterselskab, synes den stadige strøm af AI-baseret visuelt effektarbejde at være aftaget til et snegletempo.

Trods overskrifter som Ben Afflecks AI VFX Netflix-partnerskab (NFLX ) og et løfte om AI fra instruktørerne Soderbergh og Aronofsky, har jeg ikke set mange deepfake-ansigter i film og tv på det seneste (undtagen The Capture‘s simulation af deepfake-teknologi), sammenlignet med ‘peak Metaphysic’.

Givet omfanget af AI-tilbageslag på tværs af så mange felter og sektorer, undrer jeg mig over, om vi ikke alle begynder at fornemme stemningen omkring AI-ændrede identiteter; og om AI-understøttede tiltag som genoplivningen af Ian Holm, foryngelsen af Harrison Ford og genoplivningen af Rat Pack til at sælge gin måske snart vil fremkalde det nu-klassiske meme ‘Det var en anden tid’.

Negative associationer

På mange måder er det et problem med association; men det er ikke det samme associationsproblem, som det var tilbage i 2021, da Metaphysic blev dannet.

På det tidspunkt var deepfake-porn blevet et viralt fænomen, med både SFW- og NSFW-indhold fra to åbne kildekode-repositorier^† . I modsætning til i dag var der ingen adgangskontrolleret eller censureret måde at producere fotorealistisk AI-indhold på.

Dengang var den største deepfake-porn-side i verden (der var bestemt til at blive lukket af en undersøgelse i 2025) stedet, hvor de officielle instruktioner fandtes til det største deepfake-softwarearkiv, DeepFaceLab, som selv var det anerkendte grundlag for Metaphysics oprindelige tilgange:

Den originale brugervejledning for DeepFaceLab, på et tidspunkt den mest populære deepfake-software – vært på verdens største deepfake-porn-side. Siden da er softwaren blevet arkiveret, og siden er blevet lukket. Kilde

Siden software-udviklerne tydeligvis ikke var bange for associationen mellem porn og deepfakes, ville dette uundgåeligt påvirke enhver virksomhed, der forsøgte at anvende denne teknologi.

Følgelig (muligvis ikke mindst, fordi selskabets grundlægger var inkluderet med grundlæggeren af DeepFaceLab i forfatterskabet af en Arxiv-positionspapir om deepfakes i 2020, og var genstand for megen kritik over disse associationer) havde Metaphysic en særlig etikafdeling, og selskabet var tydelig og meget offentlig på dette emne.

Disse dage, med den omfattende og voksende mængde af global lovgivning, der kriminaliserer deepfake-indhold, er den ‘ulykkelige’ association vedrørende AI-ændrede identiteter overført fra porn til fattigdom, da globale arbejdsstyrker, der direkte er truet af forskellige former for AI (som regel Large Language Models eller LLM), begynder at dæmonisere begrebet som helhed.

Bønderne er i oprør

På et tidspunkt, måske midten af 2023, da jeg deltog i forskellige selskabsmøder, begyndte jeg at føle, i hvert fald på anden hånd, en voksende bølge af uformel ad hoc modstand mod de services, som selskabet tilbød, sammenfaldende med de tidlige sociale opsving omkring AI som en eksistentiel trussel mod arbejdere (selvom det skal bemærkes, at Hollywood-fagforeninger var i front på dette punkt).

AI syntes i visse kredse at blive set som ‘ikke risikoen værd’. Derudover havde Metaphysic i sin peak-periode aldrig rigtig en ubestridt succes efter shock-værdien af at sætte (en ret uvirksom) ung Elvis Presley i America’s Got Talent. Det havde faktisk heller ikke noget selskab, der producerede AI-genereret indhold i mainstream-film og tv-arbejde, en succes.

Der var altid en grund til at hade: den altid tilstedeværende uncanny valley; associationen med porn; og derefter associationen med en truende AI-dreven økonomisk apokalypse.

AI’s ‘Tyrannosaurus-moment’

Det havde syntes mig, i lang tid, at genskabe mennesker med 100 procent nøjagtighed i en VFX-kontekst, hvor CGI havde svigtet i lang tid, var et værdigt, hvis ikke et uundgåeligt, mål.

Jeg forestillede mig, at udviklingen af AI i visuelle effekter ville kulminere i en tredje ‘epokegørende’ forandring for branchen, til glæde for seerne. Den første havde været det første syn af stjernedestroyeren, der brølede over hovedet i Star Wars i 1977, og den anden, den rasende Tyrannosaurus, der undslap sin indhegning i Jurassic Park, i 1993.

Hver havde ført til radikale skift i branchen, og hver havde været forudgået af tidlige adoptører, der pressede grænserne for en ny teknologi eller metode.

Således syntes det mig, at Metaphysics strøm af udgivelser, selvom de ikke nødvendigvis leverede seerne det ‘Tyrannosaurus-moment’, ville uundgåeligt føre til det; at vi en dag ville se noget umuligt i en film; noget fundamentalt skabt af AI (i stedet for dækket til med CGI), der ville slå benene væk under os.

NU… Jeg ved ikke. Det er ikke nødvendigvis, fordi jeg ikke tror, at øjeblikket af forbløffelse vil komme, for AI i film; eller kun, at der er mange kritiske problemer for AI-video at overvinde, før den kan slutte sig til professionelle ved bordet.

Det er mere, at jeg er begyndt at dele, på en vag (og måske moralsk fej) måde, den voksende offentlige følelse af negativ association mellem AI i VFX og de negative konsekvenser af AI i andre sektorer, i denne periode.

Foruden dette er jeg ikke overbevist om, at den historiske indflydelse af ubetalte og ikke-frie datasæt, såsom Common Crawl, nogensinde er blevet rigtigt regnet med; og jeg mener, at mange af de meget omtalte ‘AI-licens-aftaler’, der har lavet overskrifter i løbet af de sidste 18 måneder eller så, repræsenterer en vis grad af IP-vask.

Derfor, når en perfekt AI-genskabt Marilyn Monroe eller Humphrey Bogart uden uhyggelighed træder frem på lærredet, tror jeg, at dobbeltfølelser af beundring og ubehag sandsynligvis vil opstå i mig, fordi AI-trylleriens bagage er begyndt at veje mig ned.

Konklusion

De to tidligere teknologiske gennembrud kom uden disse forbehold: opkomsten af ILM og bevægelsesstyrede kamerarigge skabte i praksis en industri, der tidligere havde været en række sporadiske bestillingsopgaver, der blev mødt af en lille elite af ad hoc freelancere; og opkomsten af CGI øgede antallet af job i VFX-industrien og skabte værdi i tilstødende softwareudvikling samt forskellige understøttende services.

Min interesse for Computer Vision er intakt, sammen med min interesse for AI’s potentiale i en lang række mulige audiovisuelle anvendelser; og min entusiasme for bredere anvendelser af machine learning i en række andre sektorer er uformindsket.

Jeg ønsker kun, at jeg kunne fortsætte med at se frem til det AI-‘wow’-øjeblik i biografen.

Hvad angår årsagen til, at der pludselig er en mangel på AI-genererede ansigter i film og tv, sammenlignet med de mest aktive år for Metaphysic – en mulighed er, at AI-justeringer nu udføres af produktionshuse med lidt eller ingen offentlighed (i modsætning til de høje pressemeddelelser i perioden 2022-23), da den offentlige reaktion på AI-innovation i underholdning er blevet så fjendtlig længe.

For det andet, for at gentage: efter AGT, hvor selskabet gjorde sin debut, havde Metaphysic aldrig rigtig en ublandet succes i forhold til sit eget bidrag til nogen film eller tv-show; og hverken Indiana Jones 4-deepfake eller noget andet arbejde fra andre produktionshuse var godt modtaget nok, eller indbringende nok til at starte en bølge af efterlignere, eller til at give AI i VFX ægte troværdighed og tiltrækningskraft for investorer.

* Dette er let at verificere ved blot at se på offentligt tilgængelige LinkedIn-profiler og IMDB-kreditter.

^† DeepFaceLab og den mindre porn-associative FaceSwap.

Udgivet første gang mandag, 27. april 2026