Over de ethiek van Hollywood Deepfakes

Waarom is er de laatste tijd een daling in TV- en filmdeepfake-inhoud? De auteur werkte meer dan twee en een half jaar voor Metaphysic.ai, een pionier op het gebied van filmdeepfakes, waaronder 20 maanden als fulltime medewerker.

Opinie/Feature Als kind was ik gefascineerd door verhalen over de oprichting van Industrial Light and Magic (ILM), dat opereerde vanuit een eenvoudig magazijn in Van Nuys, en dat moeizaam een nieuwe generatie motion-controlled visuele effectenmethoden ontwikkelde die de meeste jaren tachtig zouden domineren, tot de komst van CGI.

Het opblazen van stukken van de Death Star in de binnenplaats van ILM in Van Nuys in de mid-jaren zeventig. Bron

Het is een uitzonderlijk verhaal over de oorsprong, en ik raad de vele boeken en artikelen aan die vertellen hoe de effecten voor Star Wars (1977) uiteindelijk werden geleverd, na veel moeite, verwijten en vertraging.

De jonge ILM zou later verhuizen naar San Francisco en gaan industrialiseren van photochemische effectenproductie. Zelfs ten tijde van het VFX-werk voor The Empire Strikes Back in 1978/9, was ILM, hoewel nog steeds een pionierende en innovatieve effectenhuizen, al volledig uitgerust met accounting- en HR-afdelingen.

Maar in die periode, en sindsdien, was mijn verbeelding gevangen door de vraag wat die eerste paar ‘ruwe’ jaren in Van Nuys waren geweest, waarbij modelkits en optische methoden uit de jaren zestig werden gebruikt, en praktisch een industrie uitvonden die ooit het domein was van individuele auteur VFX-specialisten.

Het gezicht van de revolutie

In de bijna drie jaar dat ik bij de inmiddels opgeheven Metaphysic.ai visuele effectenbedrijf werkte, denk ik dat ik zo dicht mogelijk bij de ervaring van Van Nuys in de mid-jaren zeventig kwam.

In die tijd produceerde Metaphysic AI-gedreven, ID-specifieke effectshots voor enkele van de grootste franchises, waaronder de Mad Max en Alien franchises, evenals het pionierende (maar zeer bekritiseerde) de-aging deepfake-werk voor Robert Zemeckis’ Here (2024), en veel andere werken:

Er waren meer ‘dailies’ meetings (het tonen van de laatste opgenomen beelden, in drukke Zoom-meetings) dan één persoon redelijkerwijs kon bijwonen en nog steeds zijn eigen werk doen, evenals skunkworks-stijl bijeenkomsten, waar selecte groepen samenwerkten aan mini-maankansen, om de staat-van-de-kunst van het bedrijf te verbeteren.

Veel van de medewerkers kwamen rechtstreeks van ILM of hadden in het verleden voor ILM gewerkt*; en hoewel het duidelijk was, uit anekdotes, dat de Van Nuys-geest allang had plaatsgemaakt voor massarationalisatie bij ILM en de verschillende andere grote VFX-huizen waar sommige medewerkers vandaan kwamen, bleef de associatie voor mij elektrisch.

George Lucas bekijkt effectshots met John Dykstra, Richard Edlund, Joe Johnston en Rose Duignan tijdens de productie van Star Wars. Bron

Ik weet niet of je zou kunnen zeggen dat Metaphysic een AI-equivalent zou uitvinden van de DykstraFlex motion-control rig die uit de Van Nuys-sweatshop kwam; maar het zette AI-gedreven VFX op de kaart en was verantwoordelijk voor meer professioneel niveau AI-gezichtsvervanging en -verandering dan enig ander effectenhuizen of enkel project ondernam in die periode, of heeft ondernomen sindsdien.

Vertraging

En ik moet opmerken dat sinds het bedrijf is opgenomen in DNEG’s Brahma AI sub-bedrijf, die constante stroom van AI-gebaseerde visuele effectenwerk lijkt te zijn vertraagd tot een slakkengang.

Ondanks headlines zoals Ben Afflecks AI VFX Netflix-partnerschap, en een commitment to AI van regisseurs als Soderbergh en Aronofsky, heb ik de laatste tijd niet veel deepfake-gezichten in films en TV gezien (uitgezonderd The Capture‘s simulatie van deepfake-tech), vergeleken met ‘piek Metaphysic’.

Gezien de omvang van de AI-backlash in veel gebieden en sectoren, vraag ik me af of we niet allemaal beginnen ‘de kamer te lezen’ over AI-gewijzigde identiteiten; en of AI-gefaciliteerde inspanningen zoals de wederopstanding van Ian Holm, de verjonging van Harrison Ford, en de wederopstanding van de Rat Pack om gin te verkopen binnenkort de nu-klassieke meme ‘Het was een andere tijd’ zullen oproepen.

Negatieve associaties

Op veel manieren is het een probleem van associatie; maar het is niet hetzelfde associatieprobleem als het was in 2021, toen Metaphysic werd opgericht.

Toen was deepfake-porn een virale fenomeen geworden, met alle SFW- en NSFW-uitvoer die afkomstig was van een van de twee open source software-repos^† . In tegenstelling tot vandaag, was er geen ‘gatekept’ of gecensureerde manier om photorealistische AI-inhoud te produceren.

Toen was de grootste deepfake-pornsite ter wereld (bestemd om te worden gesloten door een onderzoek in 2025) waar de officiële instructies waren voor de grootste deepfake-software-repo, DeepFaceLab, zelf de toegestane basis van Metaphysic’s oorspronkelijke benaderingen:

De originele gebruikershandleiding voor DeepFaceLab, ooit de meest populaire deepfake-software – gehost op de grootste deepfake-pornsite. Sindsdien is de software gearchiveerd en de site gesloten. Bron

Sinds software-ontwikkelaars duidelijk niet terugdeinsden voor de associatie tussen porn en deepfakes, zou dit onvermijdelijk de invloed hebben op elk bedrijf dat deze technologie legitiem wilde adopteren.

Gevolglijk (misschien niet in de laatste plaats omdat de oprichter van het bedrijf was opgenomen in de auteurslijst van een Arxiv-positiepaper over deepfakes in 2020, en onderwerp was van veel kritiek over deze associaties) had Metaphysic een dedicated ethics-afdeling, en het bedrijf was vocaal en zeer openbaar over dit onderwerp.

Deze dagen, met de uitgebreide en groeiende tranche van mondiale wetgeving die deepfake-inhoud criminaliseert, is die ‘ongelukkige’ associatie met AI-gecreëerde identiteiten overgegaan van porn naar armoede, aangezien wereldwijde werkkrachten die rechtstreeks worden bedreigd door andere soorten AI (meestal Large Language Models, of LLM’s) zijn beginnen de term te demoniseren in het algemeen.

De dorpelingen zijn in opstand

Op een bepaald moment, misschien halverwege 2023, toen ik verschillende bedrijfsvergaderingen bijwoonde, begon ik een groeiende golf van informele ad hoc weerstand tegen de diensten die het bedrijf aanbood te voelen, samenvallend met de vroegste sociale opstanden rond AI als een existentiële bedreiging voor werknemers (hoewel het moet worden opgemerkt dat Hollywood-unies in de voorhoede waren in dit opzicht).

AI leek te worden gezien als ‘niet de moeite waard’. Bovendien had Metaphysic in zijn piekperiode van output nooit echt een onbetwiste hit na de shockwaarde van het plaatsen van (een vrij luie) jonge Elvis Presley in America’s Got Talent. In feite had geen enkel bedrijf dat AI-gegenereerde inhoud in mainstream film- en TV-werk produceerde, een onbetwiste hit.

Er was altijd een reden om te haten: de altijd aanwezige uncanny valley; de associatie met porn; en toen, de associatie met een door AI-gedreven economische apocalyps.

AI’s ‘Tyrannosaurus-moment’

Het leek me, voor een lange tijd, dat het recreëren van mensen met 100% geloofwaardigheid in een VFX-context dat door CGI was gefaald voor een lange tijd, een waardig, zo niet onvermijdelijk doel was.

Ik stelde me voor dat de evolutie van AI in visuele effecten zou culmineren in een derde ‘epochale verandering’ voor de industrie, tot vreugde van de kijkers. De eerste was het eerste gezicht van de star-destroyer die boven het hoofd donderde in Star Wars in 1977, en de tweede, de razende Tyrannosaurus die ontsnapte uit zijn omheining in Jurassic Park, in 1993.

Elk had geleid tot radicale veranderingen in de industrie, en elk was voorafgegaan door vroege aanhangers die de grenzen van een nieuw ontwikkelde technologie of methode verlegden.

Zo leek het me dat Metaphysic’s stroom van releases, hoewel niet noodzakelijkerwijs het ‘Tyrannosaurus-moment’ leverend, onvermijdelijk zou leiden tot dat moment; dat we op een dag iets onmogelijks in een film zouden zien; iets fundamenteel gemaakt door AI (in plaats van overdekt met CGI), dat onze sokken zou afvegen.

Nu… ik weet het niet. Het is niet noodzakelijkerwijs dat ik niet geloof dat dat moment van verbazing zal komen, voor AI in de cinema; noch alleen dat er veel kritische problemen zijn voor AI-video om te overwinnen voordat het bij de professionals aan tafel kan komen.

Het is meer dat ik ben begonnen om, op een vage (en misschien moreel laffe) manier, die opkomende publieke gevoelens van negatieve associatie tussen AI in VFX en de negatieve gevolgen van AI in andere sectoren in deze periode te delen.

Behalve dit, ben ik niet overtuigd dat de historische invloed van onbetaalde en niet-vrije datasets zoals Common Crawl echt is meegenomen yet, en ik denk dat veel van de veelgeprezen ‘AI-licentie-overeenkomsten’ die de afgelopen 18 maanden of zo de koppen hebben gehaald een zekere mate van IP-washing vertegenwoordigen.

Dus, het moment dat een perfecte en niet-uncanny AI-regeneratie van Marilyn Monroe of Humphrey Bogart op het scherm verschijnt, denk ik dat een tweeledig gevoel van verbazing en ongemak zal ontstaan, omdat de bagage van AI-magie me is gaan wegen.

Conclusie

De twee eerdere technologische doorbraken kwamen zonder dergelijke kanttekeningen: de komst van ILM en motion control rigs vonden een industrie uit die eerder een reeks sporadische opdrachten was die werden uitgevoerd door een schaarse elite van ad hoc freelancers; en de komst van CGI verhoogde het aantal banen in de VFX-industrie aanzienlijk en creëerde waarde in aangrenzende softwareontwikkeling, evenals verschillende ondersteunende diensten.

Mijn interesse in Computer Vision blijft intact, evenals mijn interesse in het potentieel van AI in een breed scala van mogelijke audiovisuele toepassingen; en mijn enthousiasme voor bredere toepassingen van machine learning, over een breed scala van andere sectoren, is onverminderd.

Ik wou alleen dat ik nog steeds uit kon kijken naar dat AI-‘wow’-moment in de bioscoop.

Wat de reden is voor de plotselinge schaarste aan AI-gegenereerde gezichten in film en TV, vergeleken met de meest actieve jaren van Metaphysic – een mogelijkheid is dat AI-geassisteerde aanpassingen nu worden toegepast door productiehuizen met weinig of geen publiciteit (in vergelijking met de luidruchtige persberichten van de periode 2022-23), gezien de recente vijandige reactie van het publiek op AI-innovaties in de entertainment.

Ten tweede, om het te herhalen: na AGT, waar het bedrijf zijn debuut maakte, had Metaphysic nooit echt een onbetwiste hit in zijn eigen bijdrage aan enige film of TV-show; en noch de Indiana Jones 4 deepfake, noch enig ander werk van andere productiehuizen was goed ontvangen genoeg, of lucratief genoeg om een golf van kopieën te starten, of om AI in VFX echte geloofwaardigheid en beleggersvriendelijkheid te geven.

* Dit is gemakkelijk te verifiëren door simpelweg naar openbaar beschikbare LinkedIn-profielen en IMDB-credits te kijken.

^† DeepFaceLab, en de minder met porn geassocieerde FaceSwap.

Eerst gepubliceerd op maandag 27 april 2026