Über die Ethik von Hollywood-Deepfakes

Warum gab es in letzter Zeit einen Rückgang bei TV- und Film-Deepfake-Inhalten? Der Autor arbeitete über zwei Jahre lang für das visuelle Effekt-Unternehmen Metaphysic.ai, darunter 20 Monate als Vollzeit-Mitarbeiter.

Meinung/Feature Als Kind war ich von den Geschichten über die Gründung von Industrial Light and Magic (ILM) fasziniert, die in einem einfachen Lagerhaus in Van Nuys operierte und mühsam die neue Generation von motion-control-Visual-Effects-Methoden aufbaute, die den größten Teil der 1980er Jahre bis zum Aufkommen von CGI dominieren würde.

Die Zerstörung von Teilen des Todessterns im Innenhof von ILM in Van Nuys in den mittleren 1970er Jahren. Quelle

Es ist eine außergewöhnliche Ursprungsgeschichte, und ich empfehle die vielen Bücher und Artikel, die erzählen, wie die Effekte für Star Wars (1977) nach viel Mühe, Rechtfertigung und Verzögerung schließlich geliefert wurden.

Das junge ILM würde später nach San Francisco umziehen und die photochemischen Effekt-Produktion industrialisieren. Selbst zu der Zeit der VFX-Arbeit an Das Imperium schlägt zurück 1978/9 war ILM, obwohl es immer noch ein Pionier- und Innovations-Effekt-Haus war, bereits reich an Rechnungs- und Personalabteilungen.

Aber in dieser Zeit und seitdem hat meine Vorstellungskraft mich gefangen, indem ich mich fragte, wie diese ersten “rohen” Jahre in Van Nuys waren, als man Modelle und 1960er-Jahre-Optik-Methoden gleichzeitig verwendete und praktisch eine Branche erfand, die einst das Vorrecht von einzelnen auteur-VFX-Spezialisten war.

Das Gesicht der Revolution

In den fast drei Jahren, in denen ich bei dem inzwischen aufgelösten visuellen Effekt-Unternehmen Metaphysic.ai arbeitete, kam ich dem Van-Nuys-Erlebnis von 1975 so nahe, wie ich nur konnte.

In dieser Zeit produzierte Metaphysic AI-getriebene, ID-spezifische Effektschüsse für einige der größten Franchises, darunter die Mad Max– und Alien-Franchises, sowie die bahnbrechende (wenn auch viel kritisierte) De-Aging-Deepfake-Arbeit für Robert Zemeckis’ Here (2024) und viele andere Werke:

Es gab mehr “Dailies”-Meetings (die Vorführung des neuesten Footage, das in überfüllten Zoom-Meetings produziert wurde) als eine Person vernünftigerweise besuchen und gleichzeitig ihre eigene Arbeit erledigen konnte, sowie skunkworks-ähnliche Zusammenkünfte, bei denen ausgewählte Gruppen an Mini-Mondschüssen arbeiteten, um den Stand der Technik des Unternehmens voranzutreiben.

Viele der Mitarbeiter kamen direkt von ILM oder hatten in der Vergangenheit für ILM gearbeitet*; und obwohl es klar war, dass der Van-Nuys-Geist längst der Massenrationalisierung bei ILM und den anderen großen VFX-Häusern, aus denen einige der Mitarbeiter kamen, gewichen war, blieb die Assoziation für mich elektrisierend.

George Lucas überprüft Effektschüsse mit John Dykstra, Richard Edlund, Joe Johnston und Rose Duignan während der Produktion von Star Wars. Quelle

Ich weiß nicht, ob man argumentieren kann, dass Metaphysic ein AI-Äquivalent zum DykstraFlex-Motion-Control-Rig entwickeln würde, das aus dem Van-Nuys-Schuppen kam; aber es brachte AI-getriebene VFX auf die Karte und war für mehr professionelle AI-Gesichtsersetzungen und -Veränderungen verantwortlich als jedes andere Effekt-Haus oder Projekt in diesem Zeitraum oder seitdem.

Verlangsamung

Und ich muss feststellen, dass seit das Unternehmen in DNEG’s Brahma-AI-Tochterunternehmen aufgegangen ist, dieser stete Strom von AI-basierten visuellen Effekten anscheinend zum Stillstand gekommen ist.

Trotz Schlagzeilen wie Ben Afflecks AI-VFX-Netflix-Partnerschaft und einem Engagement für AI von Regie-Luminarien wie Soderbergh und Aronofsky, habe ich in letzter Zeit nicht viele Deepfake-Gesichter in Filmen und TV gesehen (außer The Capture, das die Deepfake-Technologie simuliert), im Vergleich zu “Peak Metaphysic”.

Angesichts des Umfangs des AI-Rückgangs in so vielen Bereichen und Sektoren, frage ich mich, ob wir nicht alle anfangen, “den Raum zu lesen” in Bezug auf AI-veränderte Identitäten; und ob AI-facilitierte Bemühungen wie die Wiederbelebung von Ian Holm, die Verjüngung von Harrison Ford und die Wiederbelebung des Rat Pack, um Gin zu verkaufen, bald den klassischen Meme ‘Es war eine andere Zeit’ hervorrufen könnten.

Negative Assoziationen

In vielen Aspekten ist es ein Problem der Assoziation; aber es ist nicht dasselbe Assoziationsproblem wie 2021, als Metaphysic gegründet wurde.

Zu dieser Zeit war Deepfake-Porn zu einem viralen Phänomen geworden, mit all SFW- und NSFW-Output, das aus einem der beiden Open-Source-Software-Repos stammte^† . Im Gegensatz dazu gab es heute keine “gatekept” oder zensierte Möglichkeit, photorealistische AI-Inhalte zu produzieren.

Damals war die größte Deepfake-Porn-Website der Welt (die 2025 durch eine Untersuchung abgeschaltet wurde) der Ort, an dem die offiziellen Anweisungen für die größte Deepfake-Software-Repo, DeepFaceLab, selbst die zugestandene Grundlage von Metaphysics ursprünglichen Ansätzen waren:

Die Original-Benutzeranleitung für DeepFaceLab, zu einem Zeitpunkt die weltweit beliebteste Deepfake-Software – gehostet auf der größten Deepfake-Porn-Website. Seitdem wurde die Software archiviert und die Website abgeschaltet. Quelle

Da Software-Entwickler offensichtlich nicht vor der Assoziation zwischen Porn und Deepfakes zurückschreckten, würde dies unweigerlich jedes Unternehmen beeinträchtigen, das diese Technologie legitim anwenden wollte.

Folglich (vielleicht nicht zuletzt, weil der Gründer des Unternehmens zusammen mit dem Gründer von DeepFaceLab in der Autorschaft eines Arxiv-Positionspapiers über Deepfakes 2020 und viel Kritik über diese Assoziationen ausgesetzt war) hatte Metaphysic eine eigene Ethik-Abteilung und das Unternehmen war vokal und sehr öffentlich in diesem Thema.

Heute, mit der umfangreichen und wachsenden globalen Gesetzgebung, die Deepfake-Inhalte kriminalisiert, hat diese “unglückliche” Assoziation bezüglich AI-erzeugter Identitäten sich von Porn zu Armut verlagert, da globale Arbeitskräfte, die direkt von anderen Arten von KI (in der Regel Large Language Models oder LLMs) bedroht sind, beginnen, den Begriff insgesamt zu dämonisieren.

Die Dorfbewohner sind empört

An einem bestimmten Punkt, vielleicht Mitte 2023, begann ich bei verschiedenen Unternehmensmeetings, eine wachsende Welle von informeller, ad hoc-Widerstand gegen die Dienstleistungen, die das Unternehmen anbot, zu spüren, die mit den frühen sozialen Aufschwüngen um KI als existenzielle Bedrohung für Arbeitnehmer zusammenfiel (obwohl es zu beachten ist, dass Hollywood-Gewerkschaften in der Vorhut in dieser Hinsicht waren).

AI schien in einigen Quartalen als “nicht den Risiken wert” angesehen zu werden. Darüber hinaus hatte Metaphysic in seiner Spitzenzeit nie einen unbestrittenen Hit nach dem Schockwert, als es einen jungen Elvis Presley in America’s Got Talent einsetzte. Tatsächlich hatte kein Unternehmen, das AI-generierte Inhalte in Mainstream-Filmen und TV-Produktionen ausgab, einen solchen Hit.

Es gab immer einen Grund zum Hass: die immer präsente Uncanny Valley; die Assoziation mit Porn; und dann die Assoziation mit einer von KI-getriebener wirtschaftlicher Apokalypse bedrohten Wirtschaft.

Der “Tyrannosaurus-Moment” von KI

Es schien mir lange, als ob die Wiederherstellung von Menschen mit 100% Fidelität in einem VFX-Kontext, der von CGI für eine lange Zeit gescheitert war, ein wertvolles, wenn nicht unvermeidliches Ziel sei.

Ich stellte mir vor, dass die Evolution von KI in visuellen Effekten in einem dritten “epochalen Wandel”-Moment für die Branche kulminieren würde, zur Freude der Zuschauer. Der erste war der erste Anblick des Sternenzerstörers, der über dem Kopf in Star Wars 1977 donnerte, und der zweite, der ausbrechende Tyrannosaurus in Jurassic Park, 1993.

Jeder hatte zu radikalen Veränderungen in der Branche geführt, und jeder war von frühen Anwendern vorhergesagt worden, die die Grenzen einer neuen Technologie oder Methode vorantrieben.

So schien es mir, dass Metaphysics Strom von Veröffentlichungen, obwohl sie den Zuschauern nicht unbedingt das “Tyrannosaurus-Moment” lieferten, unweigerlich zu ihm führen würde; dass wir eines Tages etwas Unmögliches in einem Film sehen würden; etwas Grundlegendes, das von KI (und nicht von CGI überdeckt wurde), das unsere Socken wegpusten würde.

Jetzt… ich weiß nicht. Es ist nicht unbedingt, dass ich nicht glaube, dass dieser Moment des Staunens kommen wird, für KI im Kino; noch allein, dass es viele kritische Probleme für AI-Video gibt, die überwunden werden müssen, bevor es den Profis am Tisch beitreten kann.

Es ist mehr, dass ich begonnen habe, diese nascenten und wachsenden öffentlichen Gefühle negativer Assoziation zwischen KI in VFX und den negativen Auswirkungen von KI in anderen Sektoren in diesem Zeitraum zu teilen.

Abgesehen davon bin ich derzeit nicht überzeugt, dass der historische Einfluss von unbezahlten und nicht-kostenlosen Datensätzen wie Common Crawl wirklich berücksichtigt wurde, und ich halte viele der vielgepriesenen “AI-Lizenz-Deals”, die in den letzten 18 Monaten oder so Schlagzeilen gemacht haben, für einige Arten von IP-Wäsche dar.

Daher denke ich, dass der Moment, in dem eine perfekte und nicht unheimliche AI-regenerierte Marilyn Monroe oder Humphrey Bogart auf den Bildschirm tritt, wahrscheinlich in mir Gefühle von Erstaunen und Unbehagen hervorrufen wird, weil die Bagage von KI-Zaubererei mich zu belasten beginnt.

Schlussfolgerung

Die beiden vorherigen technologischen Durchbrüche kamen ohne diese Vorbehalte: die Ankunft von ILM und Motion-Control-Rigs erfand eine Branche, die zuvor eine Reihe von sporadischen Aufträgen war, die von einer spärlichen Elite von ad hoc-Freelancern erfüllt wurden; und die Ankunft von CGI erhöhte die Anzahl der Jobs in der VFX-Industrie massiv und schuf Wert in angrenzenden Software-Entwicklungen sowie verschiedenen unterstützenden Dienstleistungen.

Mein Interesse an Computer-Vision bleibt erhalten, zusammen mit meinem Interesse an den Möglichkeiten von KI in einer Vielzahl von möglichen audiovisuellen Anwendungen; und meine Begeisterung für breitere Anwendungen von Machine Learning in einer Reihe von anderen Sektoren ist ungetrübt.

Ich wünsche mir nur, dass ich weiterhin auf dieses KI-“Wow”-Moment im Kino freuen könnte.

Was den Grund dafür angeht, warum es plötzlich eine plötzliche Knappheit an AI-generierten Gesichtern in Film und TV gibt, im Vergleich zu den aktivsten Jahren von Metaphysic – eine Möglichkeit ist, dass AI-unterstützte Anpassungen nun von Produktionshäusern mit wenig oder keiner Publicity (im Vergleich zu den lauten Pressemitteilungen des Zeitraums 2022-23) angewendet werden, da die öffentliche Reaktion auf KI-Innovationen in der Unterhaltungsindustrie in letzter Zeit so feindselig geworden ist.

Zweitens, um zu wiederholen: nach AGT, wo das Unternehmen sein Debüt feierte, hatte Metaphysic nie wirklich einen ungetrübten Hit in Bezug auf seinen eigenen Beitrag zu einem Film oder einer TV-Show; und weder der Indiana-Jones-4-Deepfake noch andere Arbeiten von anderen Produktionshäusern waren gut genug aufgenommen, um einen Ansturm von Kopien oder um KI in VFX echte Glaubwürdigkeit und Anlegervriendlichkeit zu geben.

* Dies ist leicht überprüfbar, indem man einfach die öffentlich zugänglichen LinkedIn-Profile und IMDB-Credits ansieht.

^† DeepFaceLab und die weniger mit Porn assoziierte FaceSwap.

Erstveröffentlicht am Montag, den 27. April 2026