Etiske aspekter ved Hollywood Deepfakes

Hvorfor har det vært en nedgang i TV- og filminnhold med deepfakes nå for tiden? Forfatteren arbeidet for Metaphysic.ai, en pionér innen filmdeepfakes, i over to og en halv år, inkludert 20 måneder som fast ansatt.

Meninger/Funksjon Da jeg var barn, var jeg fascinert av historier om opprettelsen av Industrial Light and Magic (ILM), som opererte fra et enkel lagerbygning i Van Nuys, og bygget opp en ny generasjon av bevegelseskontrollerte visuelle effekter som skulle dominere størsteparten av 1980-årene, frem til introduksjonen av CGI.

Ødelegger deler av Dødsstjernen i gårdsrommet til ILM i Van Nuys midt på 1970-tallet. Kilde

Dette er en utmerket opphavsfortelling, og jeg anbefaler de mange bøkene og artiklene som forteller hvordan effektene for Star Wars (1977) ble – etter mye slit, irettesettelse og forsinkelse – til slutt levert.

Den unge ILM flyttet senere til San Francisco og gikk videre til å industrialisere foto-kjemiske effekter. Selv på tidspunktet for VFX-arbeid på Imperiet slår tilbake i 1978/9, var ILM, selv om det var et banebrytende og innovativt effekthus, allerede fullt av regnskaps- og HR-avdelinger.

Men i denne perioden, og siden, var min fantasi fanget av å undre meg over hva de første få “rå” årene i Van Nuys var som, ved å kannibalisere modellkit og 1960-årenes optiske metoder, og praktisk talt oppfinne en industri som en gang var forbeholdt enkelt auteur VFX-spesialister.

Ansiktet til revolusjonen

I de nesten tre årene jeg arbeidet for det nå oppløste Metaphysic.ai visual effects-selskapet, tror jeg jeg kom så nær som mulig til å oppleve midt-70-tallets Van Nuys-erfaring.

I denne perioden produserte Metaphysic AI-drevne, ID-spesifikke effektskudd for noen av de største franchise-ene, inkludert Mad Max og Alien franchise-ene, samt produserte den banebrytende (om enn mye kritisert) aldringsdeepfake-arbeid for Robert Zemeckis’ Here (2024), og mange andre verk:

Det var flere “dailies”-møter (visning av den nyeste filmen produsert, i overfyldte Zoom-møter) enn noen enkelt person kunne rimeligvis delta i og likevel få sin egen jobb gjort, samt skunkworks-stil huddles, hvor utvalgte grupper arbeidet sammen på mini-mål, for å fremme selskapets state-of-the-art.

Mange av personalet kom til selskapet enten direkte fra ILM eller hadde arbeidet for ILM i fortiden*; og selv om det var tydelig, fra anekdoter, at Van Nuys-ånden hadde forlengst gitt plass til masse-rasjonalisering hos ILM, og de forskjellige andre store VFX-husene som noen av personalet hadde kommet fra, forble assosiasjonen elektrisk for meg.

George Lucas gjennomgår effektskudd med John Dykstra, Richard Edlund, Joe Johnston og Rose Duignan under produksjonen av Star Wars. Kilde

Jeg vet ikke om man kan si at Metaphysic ville oppfinne en AI-ekvivalent til DykstraFlex motion-control-riggen som kom ut av Van Nuys-svetteloka, men det satte AI-drevne VFX på kartet, og var ansvarlig for mer profesjonell AI-ansikt-erstatning og -endring enn noe annet effekthus eller enkeltprosjekt tok i seg i perioden, eller har tatt i seg siden.

Slowdown

Og jeg må bemerke at siden selskapet ble innlemmet i DNEG’s Brahma AI under-selskap, synes den stadige strømmen av AI-basert visuell effekt-arbeid å ha saknet til encrawl.

Til tross for overskrifter som Ben Afflecks AI VFX Netflix-samarbeid, og et løfte om AI fra regissør-luminariene Soderbergh og Aronofsky, har jeg ikke sett så mye deepfake-ansikter i filmer og TV-serier nylig (unntatt The Capture‘s simulering av deepfake-teknologi), sammenlignet med “peak Metaphysic”.

Gitt omfanget av AI-tilbakegangen over så mange felt og sektorer, lurte jeg på om vi ikke alle begynner å “lese rommet” på AI-endrede identiteter; og om AI-fasiliterte innsats som gjenoppstandelsen av Ian Holm, ungdommelsen av Harrison Ford, og gjenoppstandelsen av Rat Pack for å selge gin snart kan utløse den nå klassiske meme ‘Det var en annen tid’.

Negative assosiasjoner

På mange måter er det et problem med assosiasjon; men det er ikke det samme assosiasjonsproblemet som det var tilbake i 2021, da Metaphysic ble dannet.

Da var deepfake-porn blitt en viral fenomen, med all SFW- og NSFW-utgang liksom kom fra en av to åpne kildekode-repositorier^† . I motsetning til i dag, var det ingen “gatekept” eller sensurert måte å produsere fotorealistisk AI-innhold på.

Da var den største deepfake-porn-nettstedet i verden (destinert til å bli tatt ned av en etterforskning i 2025) hvor de offisielle instruksjonene for det største deepfake-software-repositoriet, DeepFaceLab, selv var tilstått grunnlag for Metaphysics opprinnelige tilnærminger:

Den originale brukerveiledningen for DeepFaceLab, en gang verdens mest populære deepfake-software – vert på verdens største deepfake-porn-nettsted. Siden da har softwaren blitt arkivert, og nettstedet takt ned. Kilde

Siden software-utviklerne åpenbart ikke var redd for å assosiere med porn og deepfakes, ville dette uunngåelig påvirke ethvert selskap som forsøkte å legitimt adoptere denne teknologien.

Følgelig (kanskje ikke minst fordi selskapets grunnlegger var inkludert med grunnleggeren av DeepFaceLab i forfatterskapet av en Arxiv-posisjonsrapport om deepfakes i 2020, og var utsatt for mye kritikk over disse assosiasjonene) Metaphysic hadde en dedikert etikk-avdeling, og selskapet var vokal og svært offentlig på dette temaet.

Disse dagene, med den omfattende og voksende mengden globale lovgivning som kriminaliserer deepfake-innhold, har den “uheldige” assosiasjonen mellom AI-skapt identitet overført fra porn til fattigdom, da globale arbeidsstyrker direkte truet av forskjellige typer AI (vanligvis store språkmodeller eller LLM-er) begynner å demonisere begrepet over hele linjen.

Bøndene er i opprør

På et visst tidspunkt, kanskje midten av 2023, da jeg deltok i ulike selskapsmøter, begynte jeg å føle, ved andre hånd, en voksende bølge av uformell ad hoc motstand mot tjenestene selskapet tilbød, sammenfallende med de tidlige sosiale oppsvingene rundt AI som en eksistensiell trussel mot arbeidere (selv om det må bemerkes at Hollywood-fagforeningene var i forkant i denne henseende).

AI syntes å bli sett på i noen kvartaler som “ikke verdt risikoen”. I tillegg, i Metaphysics peak-periode, hadde det aldri noen gang en ubestridt suksess etter sjokkverdien av å plassere (en ganske likegyldig) ung Elvis Presley i America’s Got Talent. Faktisk, hverken gjorde noe selskap som produserte AI-generert innhold i mainstream-film- og TV-arbeid.

Det var alltid noen grunn til å hate: den alltid tilstedeværende uhyggelige dalen; assosiasjonen med porn; og deretter assosiasjonen med en truet AI-drevet økonomisk apokalypse.

AI sin ‘Tyrannosaurus-øyeblikk’

Det syntes meg, i lang tid, at å gjenskape mennesker med 100 % trofasthet i en VFX-kontekst som hadde feilet med CGI i lang tid, var et verdig, om ikke et uunngåelig mål.

Jeg forestilte meg at utviklingen av AI i visuelle effekter ville kulminere i en tredje “epokal” endring for industrien, til glede for seerne. Den første var det første synet av stjernedestroyeren som dundret over hodet i Star Wars i 1977, og den andre var den rasende Tyrannosaurus som rømte fra sitt område i Jurassic Park, i 1993.

Hver av dem ledet til radikale endringer i industrien, og hver var forutsett av tidlige tilhengere som presset grensene for en ny teknologi eller metode.

Slik syntes det meg at Metaphysics strøm av utgivelser, selv om de ikke nødvendigvis leverte publikum det “Tyrannosaurus-øyeblikket”, ville uunngåelig føre til det; at en dag skulle vi se noe umulig i en film; noe grunnleggende skapt av AI (i stedet for papir-dekket med CGI), som skulle slå oss av.

Nå…jeg vet ikke. Det er ikke nødvendigvis at jeg ikke tror at øyeblikket av forbauselse kommer, for AI i kino; eller at det bare er at det finnes mange kritiske problemer for AI-video å overvinne før det kan slå seg sammen med profesjonelle ved bordet.

Det er mer at jeg har begynt å dele, på en vag (og kanskje moralsk feig) måte, den voksende offentlige følelsen av negativ assosiasjon mellom AI i VFX og de negative konsekvensene av AI i andre sektorer, i denne perioden.

Foruten dette, er jeg ikke overbevist om at den historiske innflytelsen av ubetalte og ikke-frie datasett som Common Crawl har blitt fullt ut regnet med ennå, og jeg mener at mange av de omtalte “AI-lisensavtaler” som har lagt overskrifter over de siste 18 månedene eller så, representerer en viss grad av IP-vasking.

Derfor, når et perfekt og ikke-uhyggelig AI-regenerert Marilyn Monroe eller Humphrey Bogart trår inn på skjermen, tror jeg at dobbeltfølelse av beundring og ubehag er sannsynlig å oppstå i meg, fordi AI-trolldommens bagasje har begynt å veie meg ned.

Konklusjon

De to foregående teknologiske gjennombruddene kom uten slike forbehold: introduksjonen av ILM og bevegelseskontroll-rigg effektivt oppfant en industri som tidligere hadde vært en rekke sporadiske bestillinger møtt av en sparsom elite av ad hoc frilansere; og introduksjonen av CGI økte massivt antall jobber i VFX-industrien, og skapte verdi i tilstøtende programvareutvikling, samt ulike støttende tjenester.

Mitt interesse for datavisjon forbli intakt, sammen med mitt interesse for potensialet for AI i en rekke mulige audiovisuelle anvendelser; og min entusiasme for videre anvendelser av maskinlæring, over en rekke andre sektorer, er uforminsket.

Jeg ønsker bare at jeg kunne fortsette å se frem til det AI-“wow”-øyeblikket på filmen.

Så langt som grunnen til at det er en plutselig mangel på AI-generert ansikter i film og TV, sammenlignet med de mest aktive årene til Metaphysic – en mulighet er at AI-assisterte justeringer nå gjøres av produksjonshus med liten eller ingen offentlighet (i motsetning til de høye pressemeldingene i perioden 2022-23), gitt at den offentlige responsen på AI-innovasjon i underholdning har blitt så fiendtlig nylig.

For det andre, for å gjenta: etter AGT, hvor selskapet gjorde sin debut, hadde Metaphysic aldri noen gang en ublandet suksess i forhold til sin egen bidrag til noen film eller TV-serie; og hverken Indiana Jones 4-deepfaken eller noe annet arbeid fra andre produksjonshus var godt mottatt nok, eller lønnsomt nok til å starte en rush av kopi-katere, eller å gi AI i VFX ekte kredibilitet og invester-vennlig.

* Dette er lett verifiserbart ved å se på offentlig tilgjengelige LinkedIn-profiler og IMDB-kreditter.

^† DeepFaceLab, og den mindre porn-assosierte FaceSwap.

Først publisert mandag, 27. april 2026