Om etikken i Hollywoods deepfakes

Hvorfor har der været så stor en nedgang i TV- og filmdeepfake-indhold længe? Forfatteren arbejdede for filmdeepfake-pioneren Metaphysic.ai i over to og en halv år, herunder 20 måneder som fastansat.

Opinion/Feature Da jeg var barn, var jeg fanget af historierne om grundlæggelsen af Industrial Light and Magic (ILM), der opererede fra et basalt lager i Van Nuys, og møjsommeligt byggede den nye generation af motion-controlled visuelle effekter, der ville komme til at dominere størstedelen af 1980’erne, indtil opfindelsen af CGI.

Blowing up bits of the Death Star in the courtyard of ILM at Van Nuys in the mid-1970s. Source

Det er en fremragende oprindelseshistorie, og jeg anbefaler de mange bøger og artikler, der genfortæller, hvordan effekterne til Star Wars (1977) efter megen slid, misbilligelse og forsinkelse endelig blev leveret.

Den unge ILM ville senere flytte til San Francisco og gå videre med at industrialisere fotokemiske effekter. Allerede ved VFX-arbejdet på The Empire Strikes Back i 1978/9 var ILM, selvom det stadig var en pionerende og innovativ effekthuset, allerede fuldt ud udstyret med regnskabs- og HR-afdelinger.

Men i den periode, og siden, var min imagination fanget af at undre mig over, hvordan de første få ‘rå’ år i Van Nuys var, hvor de kanibaliserede modelkits og 1960’ernes optiske metoder, og praktisk talt opfandt en industri, der tidligere havde været forbeholdt enkelte auteur VFX-specialister.

Ansigtet på revolutionen

I de næsten tre år, jeg arbejdede hos det nu opløste Metaphysic.ai visuelle effektselskab, tror jeg, at jeg kom så tæt på den midt-70’ernes Van Nuys-oplevelse, som jeg muligvis kunne have gjort.

I den periode producerede Metaphysic AI-drevne, ID-specifikke effekter til nogle af de største franchises, herunder Mad Max og Alien franchises, samt producerede den banebrydende (om end meget kritiserede) de-aldrende deepfake-arbejde til Robert Zemeckis’ Here (2024), og mange andre værker:

Der var flere ‘dailies’ møder (visning af den seneste producerede footage i overfyldte Zoom-møder) end nogen person rimeligt kunne deltage i og stadig få deres eget arbejde gjort, samt skunkworks-stil huddles, hvor udvalgte grupper arbejdede sammen på mini-målsætninger for at fremme selskabets state-of-the-art.

Mange af personalet kom til selskabet enten direkte fra ILM eller havde arbejdet for ILM i fortiden*; og selvom det var tydeligt, fra anekdoter, at Van Nuys-ånden for længst havde givet plads til masse-rationalisering på ILM og de andre store VFX-huse, som nogle af personalet havde kommet fra, var associationen stadig elektrisk for mig.

George Lucas reviews effects shots with John Dykstra, Richard Edlund, Joe Johnston, and Rose Duignan during the production of Star Wars. Source

Jeg ved ikke, om man kan argumentere for, at Metaphysic ville opfinde en AI-ækvivalent til DykstraFlex motion-control-riggen, der kom ud af Van Nuys-svingslen; men det satte AI-drevne VFX på kortet og var ansvarlig for mere professionel niveau AI-ansigts-erstatning og -ændring end nogen anden effekthuset eller enkelt projekt havde foretaget i perioden eller har foretaget siden.

Langsomhed

Og jeg må notere, at efter at selskabet blev indlemmet i DNEG’s Brahma AI underafdeling, synes den konstante strøm af AI-baseret visuel effektarbejde at være gået i stå.

Trods overskrifter som Ben Afflecks AI VFX Netflix-partnerskab og et løfte om AI fra instruktør-luminaryerne Soderbergh og Aronofsky, har jeg ikke set mange deepfake-ansigter i film og TV længe (med undtagelse af The Capture‘s simulation af deepfake-teknologi), sammenlignet med ‘peak Metaphysic’.

Givet omfanget af AI-backlash på tværs af så mange felter og sektorer, undrer jeg mig over, om vi ikke alle er begyndt at ‘læse rummet’ på AI-ændrede identiteter; og hvis AI-faciliteter som genoplivningen af Ian Holm, yngre Harrison Ford og genoplivningen af the Rat Pack til at sælge gin snart kan fremkalde den nu-klassiske meme ‘Det var en anden tid’.

Negative associationer

På mange måder er det et problem af association; men det er ikke det samme associationsproblem, som det var tilbage i 2021, da Metaphysic blev dannet.

På det tidspunkt var deepfake-porn blevet en viral fænomen, med alle SFW- og NSFW-udgang og lignende kommet fra en af to open source software-repos^† . I modsætning til i dag var der ingen ‘gatekept’ eller censureret måde at producere fotorealistisk AI-indhold på.

Dengang var den største deepfake-porn-side i verden (bestemt til at blive lukket af en undersøgelse i 2025) hvor de officielle instruktioner var for den største deepfake-software-repo, DeepFaceLab, selv den erkendte grundlag for Metaphysics oprindelige tilgange:

The original user-guide for DeepFaceLab, at one time the world’s most popular deepfake software – hosted at the world’s biggest deepfake porn site. Since then, the software has been archived, and the site taken down. Source

Eftersom software-udviklerne åbenbart ikke var bange for associationen mellem porn og deepfakes, ville dette uundgåeligt påvirke ethvert selskab, der forsøgte at legitimt antage denne teknologi.

Følgelig (muligvis ikke mindst fordi selskabets grundlægger var inkluderet med grundlæggeren af DeepFaceLab i forfatterskabet af en Arxiv positionspapir om deepfakes i 2020 og var udsat for megen kritik over disse associationer) havde Metaphysic en dedikeret etikafdeling, og selskabet var vokal og meget offentligt på dette emne.

I disse dage, med den omfattende og voksende tranche af global lovgivning, der kriminaliserer deepfake-indhold, er den ‘ulykkelige’ association omkring AI-oprettede identiteter overført fra porn til fattigdom, da globale arbejdsstyrker direkte truet af forskellige former for AI (som regel Large Language Models eller LLM’er) er begyndt at dæmonisere begrebet overordnet.

De lokale er i oprør

På et tidspunkt, muligvis midten af 2023, da jeg deltog i forskellige selskabsmøder, begyndte jeg at føle, om end på anden hånd, en voksende bølge af uformel ad hoc modstand mod de tjenester, selskabet tilbød, sammenfaldende med de tidligste sociale opsving omkring AI som en eksistensiel trussel mod arbejdere (selvom det skal noteres, at Hollywood-fagforeninger var i front på dette punkt).

AI syntes at blive set som ‘ikke værd at risikere’. Derudover havde Metaphysic i sin peak-periode aldrig rigtig en ubestridt hit efter shock-værdien af at sætte (en ret lidt aktiv) ung Elvis Presley i America’s Got Talent. I virkeligheden gjorde ingen selskab, der producerede AI-genereret indhold i mainstream-film og TV-arbejde, det heller.

Der var altid en grund til at hade: den altid tilstedeværende uncanny valley; associationen med porn; og derefter associationen med en truet AI-dreven økonomisk apokalypse.

AI’s ‘Tyrannosaurus-moment’

Det havde syntes mig, i lang tid, at genskabe mennesker med 100% troværdighed i en VFX-kontekst, der havde været fejlet af CGI i lang tid, var et værdigt, hvis ikke et uundgåeligt mål.

Jeg forestillede mig, at udviklingen af AI i visuelle effekter ville kulminere i en tredje ‘epochal change’-øjeblik for industrien, til glæde for seerne. Den første havde været det første syn af stjernedestroyeren, der brølede over himlen i Star Wars i 1977, og den anden, den rasende Tyrannosaurus, der undslap sin indhegning i Jurassic Park, i 1993.

Hver havde ført til radikale skift i industrien, og hver havde været forudgået af tidlige adoptører, der pressede grænserne for en ny teknologi eller metode.

Derfor syntes det mig, at Metaphysics strøm af udgivelser, selvom det ikke nødvendigvis forsynede publikum med det ‘Tyrannosaurus-øjeblik’, ville uundgåeligt føre til det; at en dag ville vi se noget umuligt i en film; noget grundlæggende lavet af AI (i stedet for papirklædt med CGI), der ville slå os af sokken.

Nu…jeg ved ikke. Det er ikke nødvendigvis, fordi jeg ikke tror, at øjeblikket af beundring vil komme, for AI i film; eller udelukkende fordi der er mange kritiske problemer for AI-video at overvinde, før det kan slutte sig til professionelle ved bordet.

Det er mere, fordi jeg er begyndt at dele, på en vag (og muligvis moralsk fej) måde, den voksende offentlige følelse af negativ association mellem AI i VFX og de negative rammer af AI i andre sektorer, i denne periode.

Ud over dette er jeg ikke i øjeblikket overbevist om, at den historiske indflydelse af ubetalte og ikke-frie datasæt som Common Crawl er blevet ordentligt regnet med endnu, og jeg mener, at mange af de meget omtalte ‘AI-licens-aftaler’, der har lavet overskrifter over de sidste 18 måneder eller så, repræsenterer en vis grad af IP-washing.

Derfor, når øjeblikket kommer, hvor en perfekt og ikke-uncanny AI-regenereret Marilyn Monroe eller Humphrey Bogart træder ind på skærmen, tror jeg, at dobbeltfølelser af beundring og ubehag er sandsynligvis at opstå i mig, fordi AI-trylleriets bagage er begyndt at veje mig ned.

Konklusion

De to tidligere teknologiske gennembrud kom med ingen sådanne forbehold: opfindelsen af ILM og motion control-rigs effektivt opfandt en industri, der tidligere havde været en række sporadiske kommissioner, der blev opfyldt af en sparsom elite af ad hoc freelancere; og opfindelsen af CGI øgede antallet af job i VFX-industrien og skabte værdi i tilstødende softwareudvikling samt forskellige understøttende tjenester.

Mit interesse i Computer Vision er intakt, sammen med mit interesse i AI’s potentiale i en lang række mulige audiovisuelle anvendelser; og mit entusiasme for bredere anvendelser af machine learning på tværs af en række andre sektorer er uformindsket.

Jeg ønsker bare, at jeg kunne fortsætte med at se frem til det AI ‘wow’-øjeblik i biografen.

Om årsagen til, at der er en pludselig mangel på AI-genererede ansigter i film og TV, sammenlignet med de mest aktive år for Metaphysic – en mulighed er, at AI-hjulpet justeringer nu anvendes af produktionshuse med lidt eller ingen offentlighed (i modsætning til de højtlydte pressemeddelelser fra 2022-23-perioden), da den offentlige reaktion på AI-innovation i underholdning er blevet så fjendtlig længe.

For det andet, for at gentage: efter AGT, hvor selskabet gjorde sin debut, havde Metaphysic aldrig rigtig en ubestridt hit, hvad angår deres egen bidrag til nogen film eller TV-show; og heller ikke Indiana Jones 4 deepfake eller noget andet arbejde fra andre produktionshuse var godt modtaget nok eller lukrativt nok til at starte en kapløb af kopiister eller give AI i VFX ægte troværdighed og investor-venlighed.

* Dette er let at verificere ved blot at se på offentligt tilgængelige LinkedIn-profiler og IMDB-kreditter.

^† DeepFaceLab, og det mindre porn-associative FaceSwap.

Først udgivet mandag, 27. april 2026