Andersons Blickwinkel

Zur Ethik von Hollywood-Deepfakes

Martin Anderson
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
Wichtige PunkteDie Übernahme von Metaphysic.ai durch DNEGs Brahma AI fiel mit einem starken Rückgang…
Mehr anzeigen
  • Die Übernahme von Metaphysic.ai durch DNEGs Brahma AI fiel mit einem starken Rückgang der Deepfake-Produktion in Hollywood zusammen.
  • Die öffentliche Feindseligkeit gegenüber KI in der Unterhaltungsbranche hat dazu geführt, dass Studios zögern, KI-gestützte VFX-Arbeiten öffentlich zu machen.
  • Das Fehlen eines eindeutigen kommerziellen Erfolgs nach Metaphysics Debüt bei AGT verhinderte, dass KI-VFX bei Investoren Glaubwürdigkeit erlangten.

Warum gab es in letzter Zeit einen Rückgang bei TV- und Film-Deepfake-Inhalten? Der Autor arbeitete über zweieinhalb Jahre lang für den Pionier der Film-Deepfakes Metaphysic.ai, darunter 20 Monate als Vollzeit-Mitarbeiter.

 

Meinung/Feature Als Kind war ich von den Geschichten über die Gründung von Industrial Light and Magic (ILM) fasziniert, die in einem einfachen Lagerhaus in Van Nuys operierte und mühsam die neue Generation von motion-control-Visual-Effects-Methoden aufbaute, die den größten Teil der 1980er Jahre bis zum Aufkommen von CGI dominieren würde.

Die Zerstörung von Teilen des Todessterns im Innenhof von ILM in Van Nuys in den mittleren 1970er Jahren. Quelle - https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

Die Zerstörung von Teilen des Todessterns im Innenhof von ILM in Van Nuys in den mittleren 1970er Jahren. Quelle

Es ist eine außergewöhnliche Ursprungsgeschichte, und ich empfehle die vielen Bücher und Artikel, die erzählen, wie die Effekte für Star Wars (1977) nach viel Mühe, gegenseitigen Vorwürfen und Verzögerung schließlich geliefert wurden.

Das junge ILM würde später nach San Francisco umziehen und die photochemische Effektproduktion industrialisieren. Selbst zu der Zeit der VFX-Arbeit an Das Imperium schlägt zurück 1978/9 war ILM, obwohl es immer noch ein Pionier- und Innovations-Effekt-Haus war, bereits mit Buchhaltungs- und Personalabteilungen ausgestattet.

Aber in dieser Zeit und seitdem beschäftigte meine Fantasie die Frage, wie diese ersten “rohen” Jahre in Van Nuys waren, als man Modellbausätze ausschlachtete und optische Verfahren der 1960er Jahre neu nutzte und praktisch eine Branche erfand, die einst das Vorrecht von einzelnen auteur-VFX-Spezialisten war.

Das Gesicht der Revolution

In den fast drei Jahren, in denen ich bei dem inzwischen aufgelösten visuellen Effekt-Unternehmen Metaphysic.ai arbeitete, glaube ich, dem Van-Nuys-Erlebnis der Mitte der 1970er Jahre so nahe gekommen zu sein, wie es mir nur möglich war.

In dieser Zeit produzierte Metaphysic AI-getriebene, ID-spezifische Effektaufnahmen für einige der größten Franchises, darunter die Mad Max– und Alien-Franchises, sowie die bahnbrechende (wenn auch viel kritisierte) De-Aging-Deepfake-Arbeit für Robert Zemeckis’ Here (2024) und viele andere Werke:

Es gab mehr “Dailies”-Meetings (die Vorführung des neuesten produzierten Materials in überfüllten Zoom-Meetings) als eine Person vernünftigerweise besuchen und gleichzeitig ihre eigene Arbeit erledigen konnte, sowie skunkworks-ähnliche Zusammenkünfte, bei denen ausgewählte Gruppen an kleinen, ambitionierten Experimenten arbeiteten, um den Stand der Technik des Unternehmens voranzutreiben.

Viele der Mitarbeiter kamen direkt von ILM oder hatten in der Vergangenheit für ILM gearbeitet*; und obwohl aus Erzählungen klar wurde, dass der Van-Nuys-Geist längst der Massenrationalisierung bei ILM und den anderen großen VFX-Häusern, aus denen einige der Mitarbeiter kamen, gewichen war, blieb die Assoziation für mich elektrisierend.

George Lucas überprüft Effektaufnahmen mit John Dykstra, Richard Edlund, Joe Johnston und Rose Duignan während der Produktion von Star Wars, während das Team praktische VFX und die Gestaltung der Einstellungen plant. Quelle - https://theasc.com/articles/star-wars-miniature-effects-dykstra

George Lucas überprüft Effektaufnahmen mit John Dykstra, Richard Edlund, Joe Johnston und Rose Duignan während der Produktion von Star Wars. Quelle

Ich weiß nicht, ob man argumentieren kann, dass Metaphysic ein AI-Äquivalent zum DykstraFlex-Motion-Control-Rig entwickeln würde, das aus dem Van-Nuys-Schuppen kam; aber es machte KI-gestützte VFX weithin bekannt und war für mehr professionelle AI-Gesichtsersetzungen und -Veränderungen verantwortlich als jedes andere Effekt-Haus oder Projekt in diesem Zeitraum oder seitdem.

Verlangsamung

Und ich muss feststellen, dass seit das Unternehmen in DNEG’s Brahma-AI-Tochterunternehmen aufgegangen ist, dieser stete Strom von AI-basierten visuellen Effekten anscheinend auf ein Schneckentempo zurückgegangen ist.

Trotz Schlagzeilen wie Ben Afflecks AI-VFX-Netflix-Partnerschaft (NFLX ) und einem Engagement für AI von Regie-Luminarien wie Soderbergh und Aronofsky, habe ich in letzter Zeit nicht viele Deepfake-Gesichter in Filmen und TV gesehen (außer The Capture, das die Deepfake-Technologie simuliert), im Vergleich zu “Peak Metaphysic”.

Angesichts des Umfangs des Widerstands gegen KI in so vielen Bereichen und Sektoren, frage ich mich, ob wir nicht alle anfangen, die Stimmung im Publikum einzuschätzen in Bezug auf AI-veränderte Identitäten; und ob KI-unterstützte Bemühungen wie die Wiederbelebung von Ian Holm, die Verjüngung von Harrison Ford und die Wiederbelebung des Rat Pack, um Gin zu verkaufen, bald das inzwischen klassische Meme ‘Es war eine andere Zeit’ hervorrufen könnten.

Negative Assoziationen

In vielen Aspekten ist es ein Problem der Assoziation; aber es ist nicht dasselbe Assoziationsproblem wie 2021, als Metaphysic gegründet wurde.

Zu dieser Zeit war Deepfake-Porn zu einem viralen Phänomen geworden, wobei sämtliche jugendfreien wie auch nicht jugendfreien Inhalte aus einem der beiden Open-Source-Software-Repos stammte† . Anders als heute gab es damals keine “gatekept” oder zensierte Möglichkeit, photorealistische AI-Inhalte zu produzieren.

Damals war die größte Deepfake-Porn-Website der Welt (die 2025 durch eine Untersuchung abgeschaltet wurde) der Ort, an dem die offiziellen Anweisungen standen für das größte Deepfake-Software-Repository DeepFaceLab, das seinerseits die zugestandene Grundlage von Metaphysics ursprünglichen Ansätzen waren:

Die Original-Benutzeranleitung für DeepFaceLab, zu einem Zeitpunkt die weltweit beliebteste Deepfake-Software – gehostet auf der größten Deepfake-Porn-Website. Seitdem wurde die Software archiviert und die Website abgeschaltet. Quelle - https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

Die Original-Benutzeranleitung für DeepFaceLab, zu einem Zeitpunkt die weltweit beliebteste Deepfake-Software – gehostet auf der größten Deepfake-Porn-Website. Seitdem wurde die Software archiviert und die Website abgeschaltet. Quelle

Da Software-Entwickler offensichtlich nicht vor der Assoziation zwischen Porn und Deepfakes zurückschreckten, würde dies unweigerlich jedes Unternehmen beeinträchtigen, das diese Technologie legitim anwenden wollte.

Folglich (vielleicht nicht zuletzt, weil der Gründer des Unternehmens zusammen mit dem Gründer von DeepFaceLab zu den Autoren eines Arxiv-Positionspapiers über Deepfakes von 2020 gehörte und viel Kritik über diese Assoziationen ausgesetzt war) hatte Metaphysic eine eigene Ethikabteilung, und das Unternehmen äußerte sich ausführlich und sehr öffentlich zu diesem Thema.

Heute, mit der umfangreichen und wachsenden globalen Gesetzgebung, die Deepfake-Inhalte kriminalisiert, hat diese “unglückliche” Assoziation bezüglich AI-erzeugter Identitäten sich von Porn zu Armut verlagert, da globale Arbeitskräfte, die direkt von anderen Arten von KI (in der Regel Large Language Models oder LLMs) bedroht sind, beginnen, den Begriff insgesamt zu dämonisieren.

Die Dorfbewohner sind empört

An einem bestimmten Punkt, vielleicht Mitte 2023, begann ich bei verschiedenen Unternehmensmeetings, zugegebenermaßen aus zweiter Hand, eine wachsende Welle informellen ad hoc-Widerstands gegen die Dienstleistungen, die das Unternehmen anbot, zu spüren, die mit den frühen sozialen Aufschwüngen um KI als existenzielle Bedrohung für Arbeitnehmer zusammenfiel (obwohl es zu beachten ist, dass Hollywood-Gewerkschaften in der Vorhut in dieser Hinsicht waren).

AI schien in einigen Kreisen als “das Risiko nicht wert” angesehen zu werden. Darüber hinaus hatte Metaphysic in seiner Spitzenzeit nie einen unbestrittenen Hit nach dem Schockwert, als es einen eher antriebslosen jungen Elvis Presley in America’s Got Talent einsetzte. Tatsächlich hatte kein Unternehmen, das AI-generierte Inhalte in Mainstream-Filmen und TV-Produktionen ausgab, einen solchen Hit.

Es gab immer einen Grund zum Hass: das stets präsente Uncanny Valley; die Assoziation mit Porn; und dann die Assoziation mit einer drohenden KI-getriebenen wirtschaftlichen Apokalypse.

Der “Tyrannosaurus-Moment” von KI

Es schien mir lange, als ob die Wiederherstellung von Menschen mit 100-prozentiger Wiedergabetreue in einem VFX-Kontext, in dem CGI lange versagt hatte, ein wertvolles, wenn nicht unvermeidliches Ziel sei.

Ich stellte mir vor, dass die Evolution von KI in visuellen Effekten in einem dritten “epochalen Wandel”-Moment für die Branche kulminieren würde, zur Freude der Zuschauer. Der erste war der erste Anblick des Sternenzerstörers, der über dem Kopf in Star Wars 1977 donnerte, und der zweite, der ausbrechende Tyrannosaurus in Jurassic Park, 1993.

Jeder hatte zu radikalen Veränderungen in der Branche geführt, und jeder war von frühen Anwendern vorhergesagt worden, die die Grenzen einer neuen Technologie oder Methode vorantrieben.

So schien es mir, dass Metaphysics Strom von Veröffentlichungen, obwohl sie den Zuschauern nicht unbedingt das “Tyrannosaurus-Moment” lieferten, unweigerlich zu ihm führen würde; dass wir eines Tages etwas Unmögliches in einem Film sehen würden; etwas von Grund auf Geschaffenes durch KI, statt bloß mit CGI kaschiert, das uns völlig umhauen würde.

Jetzt… ich weiß nicht. Es ist nicht unbedingt, dass ich nicht glaube, dass dieser Moment des Staunens kommen wird, für KI im Kino; noch allein, dass es viele kritische Probleme für AI-Video gibt, die überwunden werden müssen, bevor es den Profis am Tisch beitreten kann.

Es ist eher so, dass ich begonnen habe, auf vage und vielleicht moralisch feige Weise diese neu entstehenden und wachsenden öffentlichen Gefühle negativer Assoziation zwischen KI in VFX und den negativen Auswirkungen von KI in anderen Sektoren in diesem Zeitraum zu teilen.

Abgesehen davon bin ich derzeit nicht überzeugt, dass der historische Einfluss von ohne Vergütung genutzten und nicht frei verfügbaren Datensätzen wie Common Crawl wirklich berücksichtigt wurde, und ich halte viele der vielgepriesenen “AI-Lizenz-Deals”, die in den letzten 18 Monaten oder so Schlagzeilen gemacht haben, für ein gewisses Maß an IP-Wäsche.

Daher denke ich, dass der Moment, in dem eine perfekte und nicht unheimliche AI-regenerierte Marilyn Monroe oder Humphrey Bogart auf den Bildschirm tritt, wahrscheinlich in mir Gefühle von Erstaunen und Unbehagen hervorrufen wird, weil die Bagage von KI-Zaubererei mich zu belasten beginnt.

Schlussfolgerung

Die beiden vorherigen technologischen Durchbrüche kamen ohne diese Vorbehalte: die Ankunft von ILM und Motion-Control-Rigs erfand eine Branche, die zuvor eine Reihe von sporadischen Aufträgen war, die von einer spärlichen Elite von ad hoc-Freelancern erfüllt wurden; und die Ankunft von CGI erhöhte die Anzahl der Jobs in der VFX-Industrie massiv und schuf Wert in angrenzenden Software-Entwicklungen sowie verschiedenen unterstützenden Dienstleistungen.

Mein Interesse an Computer-Vision bleibt erhalten, zusammen mit meinem Interesse an den Möglichkeiten von KI in einer Vielzahl von möglichen audiovisuellen Anwendungen; und meine Begeisterung für breitere Anwendungen von Machine Learning in einer Reihe von anderen Sektoren ist ungetrübt.

Ich wünsche mir nur, dass ich weiterhin mich auf diesen KI-“Wow”-Moment im Kino freuen könnte.

Was den Grund dafür angeht, warum es plötzlich eine Knappheit an AI-generierten Gesichtern in Film und TV gibt, im Vergleich zu den aktivsten Jahren von Metaphysic – eine Möglichkeit ist, dass AI-unterstützte Anpassungen nun von Produktionshäusern mit wenig oder keiner Publicity (im Vergleich zu den lauten Pressemitteilungen des Zeitraums 2022-23) angewendet werden, da die öffentliche Reaktion auf KI-Innovationen in der Unterhaltungsindustrie in letzter Zeit so feindselig geworden ist.

Zweitens, um zu wiederholen: nach AGT, wo das Unternehmen sein Debüt feierte, hatte Metaphysic nie wirklich einen ungetrübten Hit in Bezug auf seinen eigenen Beitrag zu einem Film oder einer TV-Show; und weder der Indiana-Jones-4-Deepfake noch andere Arbeiten von anderen Produktionshäusern wurden gut genug aufgenommen oder waren profitabel genug, um eine Welle von Nachahmern auszulösen oder KI in VFX echte Glaubwürdigkeit und Attraktivität für Investoren zu verleihen.

 

* Dies ist leicht überprüfbar, indem man einfach die öffentlich zugänglichen LinkedIn-Profile und IMDB-Credits ansieht.

† DeepFaceLab und die weniger mit Porn assoziierte FaceSwap.

Erstveröffentlicht am Montag, den 27. April 2026

Autor im Bereich maschinelles Lernen, Fachspezialist für menschliche Bildsynthese. Ehemaliger Leiter der Forschungsinhalte bei Metaphysic.ai, bis zu seiner Auflösung in DNEG's Brahma.ai.
Website: martinanderson.ai
Kontakt: martin@martinanderson.ai