Andersons vinkel
Om etiken kring Hollywoods deepfakes

Viktiga punkterMetaphysic.ais absorption i DNEG:s Brahma AI har sammanfallit med en kraftig minskning…
Visa mer
- Metaphysic.ais absorption i DNEG:s Brahma AI har sammanfallit med en kraftig minskning av Hollywoods deepfake-produktion.
- Allmänhetens fientlighet mot AI inom underhållning har gjort studior ovilliga att offentliggöra AI-assisterat VFX-arbete.
- Avsaknaden av en definitiv kommersiell succé efter Metaphysics AGT-debut hindrade AI-VFX från att vinna investerarnas förtroende.
Varför har det varit en sådan nedgång nyligen i TV- och filmdeepfakeinnehåll? Författaren arbetade för filmdeepfakepionjären Metaphysic.ai i över två och ett halvt år, inklusive 20 månader som heltidsanställd.
Opinion / Fördjupning Som barn var jag fascinerad av berättelser om grundandet av Industrial Light and Magic (ILM), som opererade från en enkel lagerlokal i Van Nuys, och byggde upp den nya generationen av rörelsestyrda visuella effekter som skulle komma att dominera större delen av 1980-talet, tills CGI uppstod.

Förstörande delar av Death Star i ILM:s innergård i Van Nuys i mitten av 1970-talet. Källa
Det är en utmärkt ursprungsberättelse, och jag rekommenderar de många böcker och artiklar som berättar om hur effekterna för Star Wars (1977) till slut levererades efter en hel del möda, anklagelser och förseningar.
Den unga ILM skulle senare flytta till San Francisco och gå vidare för att industrialisera produktionen av fotokemiska effekter. Även vid tiden för VFX-arbetet på The Empire Strikes Back 1978/9, var ILM, medan det fortfarande var ett banbrytande och innovativt effekthus, redan fullt av redovisnings- och HR-avdelningar.
Men under den perioden, och sedan, var min fantasi fångad av att undra hur de första “råa” åren i Van Nuys var, när modellbyggsatser plockades isär och 1960-talets optiska metoder återanvändes, och en industri praktiskt taget uppfanns som tidigare varit förbehållen enskilda auteur VFX-specialister.
Ansiktet på revolutionen
Under de nästan tre år som jag arbetade på det numera upplösta Metaphysic.ai visual effects-företaget, tror jag att jag kom så nära som möjligt till upplevelsen i Van Nuys i mitten av 1970-talet.
I den tiden producerade Metaphysic AI-drivna, identitetsspecifika effekter för några av de största franchise, inklusive Mad Max och Alien franchise, samt producerade den banbrytande (om mycket kritiserade) föryngrande deepfake-arbetet för Robert Zemeckis Here (2024), och många andra verk:
Det fanns fler “dailies”-möten (visning av det senaste producerade materialet, i trånga Zoom-möten) än någon person kunde rimligen delta i och fortfarande få sitt eget arbete gjort, samt skunkworks-stil möten, där utvalda grupper arbetade tillsammans på små, ambitiösa utvecklingsprojekt, i syfte att främja företagets state-of-the-art.
Många av personalen kom till företaget antingen direkt från ILM eller hade arbetat för ILM i det förflutna*; och även om det var tydligt, från anekdoter, att Van Nuys-andan hade gett vika för mass-rationalisering vid ILM, och de olika andra stora VFX-husen som vissa av personalen hade kommit från, förblev associationen elektrisk för mig.

George Lucas granskar effekter med John Dykstra, Richard Edlund, Joe Johnston och Rose Duignan under produktionen av Star Wars. Källa
Jag vet inte om man kan hävda att Metaphysic skulle uppfinna en AI-ekvivalent till DykstraFlex motion control-rig som kom ut från Van Nuys-svettshoppen; men det satte AI-drivna VFX på kartan, och var ansvarigt för mer professionellt AI-baserat ansiktsbyte och ändring än något annat effekthus eller enskilt projekt genomförde under den perioden, eller har genomfört sedan dess.
Inbromsning
Och jag måste notera att sedan företaget införlivades i DNEG:s Brahma AI dotterbolag, verkar den stadiga strömmen av AI-baserade visuella effekter ha saktat in till snigelfart.
Trots rubriker som Ben Afflecks AI VFX Netflix-samarbete (NFLX ), och ett åtagande till AI från regissörerna Soderbergh och Aronofsky, har jag inte sett så många deepfake-ansikten i filmer och TV nyligen (med undantag för The Capture‘s simulering av deepfake-teknik), jämfört med “peak Metaphysic”.
Med tanke på omfattningen av AI-backlashen över så många fält och sektorer, undrar jag om vi inte alla börjar “läsa rummet” när det gäller AI-förändrade identiteter; och om AI-underlättade insatser som återupplivandet av Ian Holm, föryngringen av Harrison Ford, och återupplivandet av Rat Pack för att sälja gin snart kan utlösa den nu klassiska memen ‘Det var en annan tid’.
Negativa associationer
På många sätt är det ett problem med association; men det är inte samma associationsproblem som det var 2021, när Metaphysic bildades.
På den tiden hade deepfake-porr blivit ett viralt fenomen, med all SFW och NSFW-utgåva som kom från en av två programvaruarkiv med öppen källkod† . I kontrast till idag, fanns det ingen åtkomstkontrollerad eller censurerad metod för att producera fotorealistiskt AI-innehåll.
Då var den största deepfake-porr-sajten i världen (som var avsedd att stängas av till följd av en utredning 2025) där de officiella instruktionerna var för den största deepfake-programvaran, DeepFaceLab, själv den erkända grunden för Metaphysics ursprungliga tillvägagångssätt:

Den ursprungliga användarhandboken för DeepFaceLab, som en gång var den mest populära deepfake-programvaran – värd på världens största deepfake-porr-sajt. Sedan dess har programvaran arkiverats och sajten stängts. Källa
Sedan programvaruutvecklarna tydligtvis inte höll sig borta från associationen mellan porr och deepfakes, skulle detta oundvikligen påverka alla företag som försökte använda denna teknik.
Följaktligen (kanske inte minst för att företagets grundare tillsammans med grundaren av DeepFaceLab var medförfattare till ett Arxiv positionspapper om deepfakes 2020, och var föremål för mycket kritik över dessa associationer) Metaphysic hade en dedikerad etikavdelning, och företaget var mycket tydligt och offentligt på detta ämne.
Dessa dagar, med den omfattande och växande mängden globala lagstiftningar som kriminaliserar deepfake-innehåll, har den “olyckliga” associationen gällande AI-skapade identiteter övergått från porr till fattigdom, eftersom arbetstagare världen över, som direkt hotas av olika typer av AI (vanligtvis stora språkmodeller, eller LLM) börjar demonisera begreppet över hela linjen.
Byborna är upproriska
Vid en viss punkt, kanske mitten av 2023, när jag deltog i olika företagsmöten, började jag känna, visserligen genom andrahandsuppgifter, en växande våg av informellt ad hoc-motstånd mot de tjänster företaget erbjöd, samtidigt som de tidigaste sociala uppsvingen kring AI som ett existentiellt hot mot arbetare (även om det måste noteras att Hollywood-fackföreningar var i förgrunden i detta avseende).
AI tycktes i vissa kretsar ses som “inte värt risken”. Dessutom, under Metaphysics toppperiod av utgåva, hade det aldrig riktigt en obestridlig hit efter chockvärdet av att sätta (en ganska håglös) ung Elvis Presley i America’s Got Talent. I själva verket hade inte heller något annat företag som producerade AI-genererat innehåll för etablerad film och tv haft en sådan framgång.
Det fanns alltid någon anledning att hata: den alltid närvarande obehagliga dalen; associationen med porr; och sedan, associationen med en hotande AI-driven ekonomisk apokalyps.
AI:s “Tyrannosaurus-ögonblick”
Det hade verkat för mig, under en lång tid, att återskapa människor med 100% trohet i ett VFX-sammanhang som hade misslyckats med CGI under en lång tid, var ett värdefullt, om inte rentav oundvikligt, mål.
Jag föreställde mig att utvecklingen av AI i visuella effekter skulle kulminera i en tredje “epokal förändring” för branschen, till åskådarnas förtjusning. Den första hade varit den första synen av stjärnförstöraren som dundrade över himlen i Star Wars 1977, och den andra, den rasande Tyrannosauren som flydde från sin inhägnad i Jurassic Park, 1993.
Var och en hade lett till radikala förändringar i branschen, och var och en hade föregåtts av tidiga användare som pressade gränserna för en ny teknik eller metod.
Således tycktes det mig att Metaphysics ström av utgåvor, även om de inte nödvändigtvis tillhandahöll åskådarna med det “Tyrannosaurus-ögonblick”, oundvikligen skulle leda till det; att en dag skulle vi se något omöjligt i en film; något grundläggande skapat av AI (snarare än övertäckt med CGI), som skulle slå oss med häpnad.
Nu…jag vet inte. Det är inte nödvändigtvis att jag inte tror att ögonblicket av förundran kommer att komma, för AI i bio; eller enbart att det finns många kritiska frågor för AI-video att övervinna innan den kan gå med i proffsklassen.
Det är mer att jag har börjat dela, på ett vagt (och kanske moraliskt fegt) sätt, den växande allmänna känslan av negativ association mellan AI i VFX, och de negativa konsekvenserna av AI i andra sektorer, under denna period.
Förutom detta, är jag inte för närvarande övertygad om att den historiska påverkan av obetalda och icke-fria dataset som Common Crawl har verkligen redovisats ännu, och jag anser att många av de mycket omtalade “AI-licensavtalen” som har gjort rubriker under de senaste 18 månaderna eller så, representerar en viss grad av IP-tvätt.
Därför, när en perfekt AI-återskapad Marilyn Monroe eller Humphrey Bogart utan kuslighetskänsla visar sig på filmduken, tror jag att två känslor av förundran och generadhet sannolikt kommer att uppstå i mig, eftersom AI-trolldomens bagage har börjat väga mig ner.
Slutsats
De två tidigare tekniska genombrotten kom utan sådana förbehåll: uppkomsten av ILM och rörelsestyrda kamerariggar uppfann i praktiken en industri som tidigare hade varit en serie sporadiska uppdrag som möttes av en liten elit av ad hoc frilansare; och uppkomsten av CGI ökade kraftigt antalet jobb i VFX-branschen, och skapade värde i angränsande programvaruutveckling, samt olika stödtjänster.
Mitt intresse för datorseende förblir intakt, tillsammans med mitt intresse för AI:s potential i en mängd olika audiovisuella tillämpningar; och min entusiasm för bredare tillämpningar av maskinlärande, över en mängd olika sektorer, är oförminskad.
Jag önskar bara att jag kunde fortsätta att se fram emot det AI-“wow”-ögonblicket på bio.
Vad gäller anledningen till varför det finns en plötslig brist på AI-genererade ansikten i film och TV, jämfört med de mest aktiva åren av Metaphysic – en möjlighet är att AI-underlättade justeringar nu tillämpas av produktionshus med liten eller ingen publicitet (jämfört med de högljudda pressmeddelandena under perioden 2022-23), med tanke på att den allmänna reaktionen på AI-innovation inom underhållning har blivit så fientlig nyligen.
För det andra, för att upprepa: efter AGT, där företaget gjorde sin debut, hade Metaphysic aldrig riktigt en oomstridd hit i fråga om sitt eget bidrag till någon film eller TV-show; och varken Indiana Jones 4-deepfake eller något av det andra arbetet från andra produktionshus var tillräckligt väl mottaget, eller lönsamt nog för att starta en våg av efterföljare, eller ge AI i VFX äkta trovärdighet och attraktionskraft för investerare.
* Detta är lätt att verifiera genom att bara titta på offentligt tillgängliga LinkedIn-profiler och IMDB-krediter.
† DeepFaceLab, och den mindre porrassocierade FaceSwap.
Publicerad första gången måndagen den 27 april 2026












