Andersons vinkel

Om etikken rundt Hollywoods deepfakes

Martin Anderson
Legg til Unite.AI blant dine foretrukne kilder på Google
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
Viktige punkterMetaphysic.ai ke absorpsjon inn i DNEGs Brahma AI har falt sammen med en kraftig…
Vis mer
  • Metaphysic.ai ke absorpsjon inn i DNEGs Brahma AI har falt sammen med en kraftig nedgang i Hollywoods deepfake-produksjon.
  • Offentlig fiendtlighet mot AI i underholdning har gjort studioer motvillige til å offentliggjøre AI-assistert VFX-arbeid.
  • Mangelen på en definitiv kommersiell suksess etter Metaphysics AGT-debut hindret AI VFX i å oppnå investortroverdighet.

Hvorfor har det vært en nedgang i TV- og filminnhold med deepfakes nå for tiden? Forfatteren arbeidet for Metaphysic.ai, en pionér innen filmdeepfakes, i over to og et halvt år, inkludert 20 måneder som heltidsansatt.

 

Mening / Fordypning Da jeg var barn, var jeg fascinert av historier om opprettelsen av Industrial Light and Magic (ILM), som opererte fra en enkel lagerbygning i Van Nuys, og bygget opp en ny generasjon av bevegelseskontrollerte visuelle effekter som skulle dominere størsteparten av 1980-årene, frem til introduksjonen av CGI.

Ødelegger deler av Dødsstjernen i gårdsrommet til ILM i Van Nuys midt på 1970-tallet. Kilde - https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

Ødelegger deler av Dødsstjernen i gårdsrommet til ILM i Van Nuys midt på 1970-tallet. Kilde

Dette er en utmerket opphavsfortelling, og jeg anbefaler de mange bøkene og artiklene som forteller hvordan effektene for Star Wars (1977) ble – etter mye slit, gjensidige beskyldninger og forsinkelse – til slutt levert.

Den unge ILM flyttet senere til San Francisco og gikk videre til å industrialisere produksjonen av fotokjemiske effekter. Selv på tidspunktet for VFX-arbeid på Imperiet slår tilbake i 1978/9, var ILM, selv om det var et banebrytende og innovativt effekthus, allerede fullt av regnskaps- og HR-avdelinger.

Men i denne perioden, og siden, var min fantasi fanget av å undre meg over hva de første få “rå” årene i Van Nuys var som, ved å kannibalisere modellkit og 1960-årenes optiske metoder, og praktisk talt oppfinne en industri som en gang var forbeholdt enkelte auteur VFX-spesialister.

Ansiktet til revolusjonen

I de nesten tre årene jeg arbeidet for det nå oppløste Metaphysic.ai visual effects-selskapet, tror jeg jeg kom så nær som mulig til å oppleve midt-70-tallets Van Nuys-erfaring.

I denne perioden produserte Metaphysic AI-drevne, identitetsspesifikke effektopptak for noen av de største franchise-ene, inkludert Mad Max og Alien, samt produserte den banebrytende (om enn mye kritisert) foryngende deepfake-arbeid for Robert Zemeckis’ Here (2024), og mange andre verk:

Det var flere “dailies”-møter (visning av det nyeste produserte bildematerialet, i overfyldte Zoom-møter) enn noen enkelt person kunne rimeligvis delta i og likevel få sin egen jobb gjort, samt skunkworks-stil huddles, hvor utvalgte grupper arbeidet sammen på små, ambisiøse utviklingsprosjekter, for å fremme selskapets state-of-the-art.

Mange av personalet kom til selskapet enten direkte fra ILM eller hadde arbeidet for ILM i fortiden*; og selv om det var tydelig, fra anekdoter, at Van Nuys-ånden hadde forlengst gitt plass til masse-rasjonalisering hos ILM, og de forskjellige andre store VFX-husene som noen av personalet hadde kommet fra, forble assosiasjonen elektrisk for meg.

George Lucas gjennomgår effektopptak med John Dykstra, Richard Edlund, Joe Johnston og Rose Duignan under produksjonen av Star Wars, mens laget arbeider med praktisk VFX-planlegging og planlegging av opptak. Kilde - https://theasc.com/articles/star-wars-miniature-effects-dykstra

George Lucas gjennomgår effektopptak med John Dykstra, Richard Edlund, Joe Johnston og Rose Duignan under produksjonen av Star Wars. Kilde

Jeg vet ikke om man kan si at Metaphysic ville oppfinne en AI-ekvivalent til DykstraFlex motion-control-riggen som kom ut av Van Nuys-svetteloka, men det satte AI-drevne VFX på kartet, og var ansvarlig for mer profesjonell AI-ansikt-erstatning og -endring enn noe annet effekthus eller enkeltprosjekt gjennomførte i perioden eller har gjennomført siden.

Nedbremsing

Og jeg må bemerke at siden selskapet ble innlemmet i DNEG’s Brahma AI under-selskap, synes den stadige strømmen av AI-basert visuell effekt-arbeid å ha sunket til sneglefart.

Til tross for overskrifter som Ben Afflecks AI VFX Netflix-samarbeid (NFLX ), og et løfte om AI fra regissør-luminariene Soderbergh og Aronofsky, har jeg ikke sett så mye deepfake-ansikter i filmer og TV-serier nylig (unntatt The Capture‘s simulering av deepfake-teknologi), sammenlignet med “peak Metaphysic”.

Gitt omfanget av motstanden mot AI over så mange felt og sektorer, lurte jeg på om vi ikke alle begynner å “lese rommet” på AI-endrede identiteter; og om AI-fasiliterte innsats som gjenoppstandelsen av Ian Holm, foryngelsen av Harrison Ford, og gjenoppstandelsen av Rat Pack for å selge gin snart kan utløse den nå klassiske meme ‘Det var en annen tid’.

Negative assosiasjoner

På mange måter er det et problem med assosiasjon; men det er ikke det samme assosiasjonsproblemet som det var tilbake i 2021, da Metaphysic ble dannet.

Da var deepfake-porn blitt et viralt fenomen, med alt SFW- og NSFW-innhold kom fra en av to åpne kildekode-repositorier† . I motsetning til i dag, var det ingen tilgangskontrollert eller sensurert måte å produsere fotorealistisk AI-innhold på.

Da var det største deepfake-pornonettstedet i verden (destinert til å bli tatt ned av en etterforskning i 2025) stedet der de offisielle instruksjonene fantes for det største deepfake-software-repositoriet, DeepFaceLab, selv var anerkjente grunnlaget for Metaphysics opprinnelige tilnærminger:

Den originale brukerveiledningen for DeepFaceLab, en gang verdens mest populære deepfake-software – vert på verdens største deepfake-porn-nettsted. Siden da har softwaren blitt arkivert, og nettstedet tatt ned. Kilde - https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

Den originale brukerveiledningen for DeepFaceLab, en gang verdens mest populære deepfake-software – vert på verdens største deepfake-porn-nettsted. Siden da har softwaren blitt arkivert, og nettstedet tatt ned. Kilde

Siden software-utviklerne åpenbart ikke var redd for å assosiere med porn og deepfakes, ville dette uunngåelig påvirke ethvert selskap som forsøkte å legitimt adoptere denne teknologien.

Følgelig (kanskje ikke minst fordi selskapets grunnlegger var inkludert med grunnleggeren av DeepFaceLab i forfatterskapet av en Arxiv-posisjonsrapport om deepfakes i 2020, og var utsatt for mye kritikk over disse assosiasjonene) Metaphysic hadde en dedikert etikk-avdeling, og selskapet var tydelig og svært offentlig på dette temaet.

Disse dagene, med den omfattende og voksende mengden globale lovgivning som kriminaliserer deepfake-innhold, har den “uheldige” assosiasjonen mellom AI-skapt identitet overført fra porn til fattigdom, da globale arbeidsstyrker direkte truet av forskjellige typer AI (vanligvis store språkmodeller eller LLM-er) begynner å demonisere begrepet over hele linjen.

Bøndene er i opprør

På et visst tidspunkt, kanskje midten av 2023, da jeg deltok i ulike selskapsmøter, begynte jeg å føle, riktignok basert på andrehåndsinformasjon, en voksende bølge av uformell ad hoc motstand mot tjenestene selskapet tilbød, sammenfallende med de tidlige sosiale oppsvingene rundt AI som en eksistensiell trussel mot arbeidere (selv om det må bemerkes at Hollywood-fagforeningene var i forkant i denne henseende).

AI syntes å bli sett på i enkelte miljøer som “ikke verdt risikoen”. I tillegg, i Metaphysics peak-periode, hadde det aldri noen gang en ubestridt suksess etter sjokkverdien av å plassere (en ganske likegyldig) ung Elvis Presley i America’s Got Talent. Det gjorde faktisk heller ikke noe selskap som produserte AI-generert innhold i mainstream-film- og TV-arbeid.

Det var alltid noen grunn til å hate: den alltid tilstedeværende uhyggelige dalen; assosiasjonen med porn; og deretter assosiasjonen med en truende AI-drevet økonomisk apokalypse.

AIs «tyrannosaurusøyeblikk»

Det syntes meg, i lang tid, at å gjenskape mennesker med 100 % trofasthet i en VFX-kontekst der CGI hadde kommet til kort i lang tid, var et verdig, om ikke et uunngåelig mål.

Jeg forestilte meg at utviklingen av AI i visuelle effekter ville kulminere i en tredje “epokal” endring for industrien, til glede for seerne. Den første var det første synet av stjernedestroyeren som dundret over hodet i Star Wars i 1977, og den andre var den rasende Tyrannosaurus som rømte fra sitt område i Jurassic Park, i 1993.

Hver av dem ledet til radikale endringer i industrien, og hver var forutsett av tidlige tilhengere som presset grensene for en ny teknologi eller metode.

Slik syntes det meg at Metaphysics strøm av utgivelser, selv om de ikke nødvendigvis leverte publikum det “Tyrannosaurus-øyeblikket”, ville uunngåelig føre til det; at en dag skulle vi se noe umulig i en film; noe grunnleggende skapt av AI (i stedet for kamuflert med CGI), som ville slå oss i bakken.

Nå…jeg vet ikke. Det er ikke nødvendigvis at jeg ikke tror at øyeblikket av forbauselse kommer, for AI i kino; eller at det bare er at det finnes mange kritiske problemer for AI-video å overvinne før det kan slå seg sammen med profesjonelle ved bordet.

Det er mer at jeg har begynt å dele, på en vag (og kanskje moralsk feig) måte, den voksende offentlige følelsen av negativ assosiasjon mellom AI i VFX og de negative konsekvensene av AI i andre sektorer, i denne perioden.

Foruten dette, er jeg ikke overbevist om at den historiske innflytelsen av ubetalte og ikke-frie datasett som Common Crawl har blitt fullt ut regnet med ennå, og jeg mener at mange av de omtalte “AI-lisensavtaler” som har skapt overskrifter over de siste 18 månedene eller så, representerer en viss grad av IP-vasking.

Derfor, når en perfekt AI-gjenskapt Marilyn Monroe eller Humphrey Bogart uten uhyggelig preg dukker opp på lerretet, tror jeg at en dobbeltfølelse av beundring og ubehag sannsynligvis vil oppstå i meg, fordi AI-trolldommens bagasje har begynt å veie meg ned.

Konklusjon

De to foregående teknologiske gjennombruddene kom uten slike forbehold: introduksjonen av ILM og bevegelsesstyrte kamerarigger skapte i praksis en industri som tidligere hadde vært en rekke sporadiske bestillinger møtt av en liten elite av ad hoc frilansere; og introduksjonen av CGI økte massivt antall jobber i VFX-industrien, og skapte verdi i tilstøtende programvareutvikling, samt ulike støttende tjenester.

Min interesse for maskinsyn er intakt, sammen med min interesse for potensialet for AI i en rekke mulige audiovisuelle anvendelser; og min entusiasme for videre anvendelser av maskinlæring, over en rekke andre sektorer, er uforminsket.

Jeg ønsker bare at jeg kunne fortsette å se frem til det AI-“wow”-øyeblikket på kino.

Så langt som grunnen til at det er en plutselig mangel på AI-genererte ansikter i film og TV, sammenlignet med de mest aktive årene til Metaphysic – en mulighet er at AI-assisterte justeringer nå gjøres av produksjonshus med liten eller ingen offentlighet (i motsetning til de høye pressemeldingene i perioden 2022-23), gitt at den offentlige responsen på AI-innovasjon i underholdning har blitt så fiendtlig nylig.

For det andre, for å gjenta: etter AGT, hvor selskapet gjorde sin debut, hadde Metaphysic aldri noen gang en ublandet suksess i forhold til sitt eget bidrag til noen film eller TV-serie; og hverken Indiana Jones 4-deepfaken eller noe annet arbeid fra andre produksjonshus var godt mottatt nok, eller lønnsomt nok til å starte en bølge av etterlignere, eller å gi AI i VFX ekte kredibilitet og attraktivitet for investorer.

 

* Dette er lett verifiserbart ved å se på offentlig tilgjengelige LinkedIn-profiler og IMDB-kreditter.

† DeepFaceLab, og den mindre porn-assosierte FaceSwap.

Først publisert mandag, 27. april 2026

Skribent innen maskinlæring, domenespesialist i menneskelig bildesyntese. Tidligere leder for forskningsinnhold hos Metaphysic.ai, frem til oppløsningen i DNEG's Brahma.ai.
Nettsted: martinanderson.ai
Kontakt: martin@martinanderson.ai