Om etiken i Hollywoods deepfakes

Varför har det varit en sådan nedgång nyligen i TV- och filmdeepfakeinnehåll? Författaren arbetade för filmdeepfakepionjären Metaphysic.ai i över två och ett halvt år, inklusive 20 månader som heltidsanställd.

Åsikt/ Funktion Som barn var jag fascinerad av berättelser om grundandet av Industrial Light and Magic (ILM), som opererade från ett enkel lagerlokal i Van Nuys, och byggde upp den nya generationen av motionkontrollerade visuella effekter som skulle komma att dominera större delen av 1980-talet, tills CGI uppstod.

Förstörande delar av Death Star i ILM:s innergård i Van Nuys i mitten av 1970-talet. Källa

Det är en utmärkt ursprungsberättelse, och jag rekommenderar de många böcker och artiklar som berättar om hur effekterna för Star Wars (1977) till slut levererades efter en hel del möda, anklagelser och förseningar.

Den unga ILM skulle senare flytta till San Francisco och gå vidare för att industrialisera foto kemiska effekter. Även vid tiden för VFX-arbetet på The Empire Strikes Back 1978/9, var ILM, medan det fortfarande var ett banbrytande och innovativt effekthus, redan fullt av redovisnings- och HR-avdelningar.

Men under den perioden, och sedan, var min fantasi fångad av att undra hur de första “råa” åren i Van Nuys var, och hur de praktiskt taget uppfunnit en industri som tidigare varit förbehållen enskilda auteur VFX-specialister.

Ansiktet på revolutionen

Under de nästan tre år som jag arbetade på det numera upplösta Metaphysic.ai visual effects-företaget, tror jag att jag kom så nära som möjligt till upplevelsen i Van Nuys i mitten av 1970-talet.

I den tiden producerade Metaphysic AI-drivna, ID-specifika effekter för några av de största franchise, inklusive Mad Max och Alien franchise, samt producerade den banbrytande (om mycket kritiserade) åldersnedbrytning deepfake-arbetet för Robert Zemeckis’ Here (2024), och många andra verk:

Det fanns fler “dailies”-möten (visning av den senaste filmade materialet, i trånga Zoom-möten) än någon person kunde rimligen delta i och fortfarande få sitt eget arbete gjort, samt skunkworks-stil möten, där utvalda grupper arbetade tillsammans på mini-mål, i syfte att främja företagets state-of-the-art.

Många av personalen kom till företaget antingen direkt från ILM eller hade arbetat för ILM i det förflutna*; och även om det var tydligt, från anekdoter, att Van Nuys-andan hade gett vika för mass-rationalisering vid ILM, och de olika andra stora VFX-husen som vissa av personalen hade kommit från, förblev associationen elektrisk för mig.

George Lucas granskar effekter med John Dykstra, Richard Edlund, Joe Johnston och Rose Duignan under produktionen av Star Wars. Källa

Jag vet inte om man kan hävda att Metaphysic skulle uppfinna en AI-ekvivalent till DykstraFlex motion control-rig som kom ut från Van Nuys-svettshoppen; men det satte AI-drivna VFX på kartan, och var ansvarigt för mer professionellt AI-baserat ansiktsbyte och ändring än något annat effekthus eller enskild projekt genomförde under den perioden, eller har genomfört sedan dess.

Avbrott

Och jag måste notera att sedan företaget införlivades i DNEG:s Brahma AI dotterbolag, verkar den stadiga strömmen av AI-baserade visuella effekter ha avtagit till en crawl.

Trots rubriker som Ben Afflecks AI VFX Netflix-samarbete, och ett åtagande till AI från regissörerna Soderbergh och Aronofsky, har jag inte sett så många deepfake-ansikten i filmer och TV nyligen (med undantag för The Capture‘s simulering av deepfake-teknik), jämfört med “peak Metaphysic”.

Med tanke på omfattningen av AI-backlashen över så många fält och sektorer, undrar jag om vi inte alla börjar “läsa rummet” på AI-altererade identiteter; och om AI-underlättade insatser som återupplivandet av Ian Holm, yngre Harrison Ford, och återupplivandet av Rat Pack för att sälja gin snart kan utlösa den nu klassiska memen ‘Det var en annan tid’.

Negativa associationer

På många sätt är det ett problem med association; men det är inte samma associationsproblem som det var 2021, när Metaphysic bildades.

På den tiden hade deepfake-porr blivit en viral fenomen, med all SFW och NSFW-utgåva som kom från en av två öppen källkods-repositorier^† . I kontrast till idag, fanns det ingen “gatekept” eller censurerad metod för att producera fotorealistisk AI-innehåll.

Sedan var den största deepfake-porr-sajten i världen (som var avsedd att stängas av av en utredning 2025) var där de officiella instruktionerna var för den största deepfake-programvaran, DeepFaceLab, själv den erkända grunden för Metaphysics ursprungliga tillvägagångssätt:

Den ursprungliga användarhandboken för DeepFaceLab, som en gång var den mest populära deepfake-programvaran – värd på världens största deepfake-porr-sajt. Sedan dess har programvaran arkiverats och sajten stängts. Källa

Sedan programvaruutvecklarna tydligtvis inte höll sig borta från associationen mellan porr och deepfakes, skulle detta oundvikligen påverka alla företag som försökte legitimt anta denna teknik.

Följaktligen (kanske inte minst för att företagets grundare var med i författarskapet av en Arxiv positionspapper om deepfakes 2020, och var föremål för mycket kritik över dessa associationer) Metaphysic hade en dedikerad etikavdelning, och företaget var vokalt och mycket offentligt på detta ämne.

Dessa dagar, med den omfattande och växande mängden globala lagstiftningar som kriminaliserar deepfake-innehåll, har den “olyckliga” associationen gällande AI-skapade identiteter övergått från porr till fattigdom, eftersom de globala arbetskrafterna direkt hotas av olika typer av AI (vanligtvis stora språkmodeller, eller LLM) är börjar demonisera begreppet över hela linjen.

Byborna är upproriska

Vid en viss punkt, kanske mitten av 2023, när jag deltog i olika företagsmöten, började jag känna, medgett vid andra hand, en växande våg av informell ad hoc motstånd mot de tjänster företaget erbjöd, samtidigt som de tidigaste sociala uppsvingen kring AI som en existentiell hot mot arbetare (även om det måste noteras att Hollywood-fackföreningar var i förgrunden i detta avseende).

AI tycktes ses som “inte värt risken”. Dessutom, under Metaphysics toppperiod av utgåva, hade det aldrig riktigt en obestridlig hit efter chockvärdet av att sätta (en ganska lös) ung Elvis Presley i America’s Got Talent. I själva verket hade inte heller något företag som producerade AI-genererat innehåll i mainstream-film och TV-arbete.

Det fanns alltid någon anledning att hata: den alltid närvarande obehagliga dalen; associationen med porr; och sedan, associationen med en hotad AI-driven ekonomisk apokalyps.

AI:s “Tyrannosaurus-ögonblick”

Det hade verkat för mig, under en lång tid, att återskapa människor med 100% trohet i ett VFX-sammanhang som hade misslyckats med CGI under en lång tid, var ett värt och inte ett oundvikligt mål.

Jag föreställde mig att utvecklingen av AI i visuella effekter skulle kulminera i en tredje “epokal förändring” för branschen, till åskådarnas förtjusning. Den första hade varit den första synen av stjärnförstöraren som dundrade över himlen i Star Wars 1977, och den andra, den rasande Tyrannosauren som flydde från sin inhägnad i Jurassic Park, 1993.

Var och en hade lett till radikala förändringar i branschen, och var och en hade föregåtts av tidiga antagare som pressade gränserna för en ny teknik eller metod.

Således tycktes det mig att Metaphysics ström av utgåvor, även om de inte nödvändigtvis tillhandahöll åskådarna med det “Tyrannosaurus-ögonblick”, oundvikligen skulle leda till det; att en dag skulle vi se något omöjligt i en film; något grundläggande skapat av AI (snarare än papperat över med CGI), som skulle slå våra strumpor av.

Nu…jag vet inte. Det är inte nödvändigtvis att jag inte tror att ögonblicket av förundran kommer att komma, för AI i bio; eller enbart att det finns många kritiska frågor för AI-video att övervinna innan den kan gå med i proffsklassen.

Det är mer att jag har börjat dela, på ett vagt (och kanske moraliskt fegt) sätt, den växande allmänna känslan av negativ association mellan AI i VFX, och de negativa konsekvenserna av AI i andra sektorer, under denna period.

Förutom detta, är jag inte för närvarande övertygad om att den historiska påverkan av obetalda och icke-fria dataset som Common Crawl har verkligen redovisats ännu, och jag anser att många av de mycket omtalade “AI-licensavtalen” som har gjort rubriker under de senaste 18 månaderna eller så, representerar en viss grad av IP-tvätt.

Därför, när ett perfekt och icke-uncanny AI-återgenererat Marilyn Monroe eller Humphrey Bogart stiger upp på skärmen, tror jag att två känslor av förundran och generadhet kommer att uppstå i mig, eftersom AI-trolldomens bagage har börjat väga mig ner.

Slutsats

De två tidigare tekniska genombrotten kom utan sådana förbehåll: uppkomsten av ILM och rörelsekontrollrigg effektivt uppfunnit en industri som tidigare hade varit en serie sporadiska uppdrag som möttes av en sparsam elit av ad hoc frilansare; och uppkomsten av CGI ökade kraftigt antalet jobb i VFX-branschen, och skapade värde i angränsande programvaruutveckling, samt olika stödtjänster.

Mitt intresse för datorseende förblir intakt, tillsammans med mitt intresse för AI:s potential i en mängd olika audiovisuella tillämpningar; och min entusiasm för bredare tillämpningar av maskinlärande, över en mängd olika sektorer, är oförminskad.

Jag önskar bara att jag kunde fortsätta att se fram emot det AI-“wow”-ögonblicket på bio.

Såsom anledningen till varför det finns en plötslig brist på AI-genererade ansikten i film och TV, jämfört med de mest aktiva åren av Metaphysic – en möjlighet är att AI-underlättade justeringar nu tillämpas av produktionshus med liten eller ingen publicitet (jämfört med de högljudda pressmeddelandena under perioden 2022-23), med tanke på att den allmänna reaktionen på AI-innovation inom underhållning har blivit så fientlig nyligen.

Andra, för att upprepa: efter AGT, där företaget gjorde sin debut, hade Metaphysic aldrig riktigt en oomstridd hit i fråga om sin egen bidrag till någon film eller TV-show; och varken Indiana Jones 4-deepfake eller något av det andra arbetet från andra produktionshus var tillräckligt väl mottaget, eller lönsamt nog för att starta en rusning av kopior, eller ge AI i VFX äkta trovärdighet och investerarvänlighet.

* Detta är lätt att verifiera genom att bara titta på offentligt tillgängliga LinkedIn-profiler och IMDB-krediter.

^† DeepFaceLab, och den mindre porrassocierade FaceSwap.

Publicerad första gången måndagen den 27 april 2026