Über die Ethik von Hollywood Deepfakes

Warum hat es in letzter Zeit einen so starken Rückgang bei TV- und Film-Deepfake-Inhalten gegeben? Der Autor arbeitete über zwei Jahre lang für das Deepfake-Pionierunternehmen Metaphysic.ai, darunter 20 Monate als Vollzeitbeschäftigter.

Meinung/Feature Als Kind war ich von den Geschichten über die Gründung von Industrial Light and Magic (ILM) fasziniert, die aus einem einfachen Lagerhaus in Van Nuys operierte und mühsam die neuen Generationen von motion-controlled visuellen Effekten aufbaute, die den größten Teil der 1980er Jahre dominieren würden, bis zum Aufkommen von CGI.

Zerstörung von Teilen des Todessterns im Hof von ILM in Van Nuys in den mittleren 1970er Jahren. Quelle

Es ist eine außergewöhnliche Ursprungsgeschichte, und ich empfehle die vielen Bücher und Artikel, die erzählen, wie die Effekte für Star Wars (1977) nach viel Mühe, Vorwürfen und Verzögerung schließlich geliefert wurden.

Die junge ILM würde später nach San Francisco umziehen und die photochemischen Effektproduktion industrialisieren. Schon zu Zeiten der VFX-Arbeit an Das Imperium schlägt zurück 1978/9 war ILM, obwohl es immer noch ein Pionier- und Innovations-Effekt-Haus war, bereits reich an Rechnungs- und Personalabteilungen.

Aber in dieser Zeit und seitdem hat meine Vorstellungskraft mich gefangen genommen, indem ich mich fragte, wie diese ersten “rohen” Jahre in Van Nuys waren, als man Modellkits und 1960er-Jahre-Optik-Methoden gleichzeitig ausbeutete und praktisch eine Branche erfand, die einst das Vorrecht von einzelnen auteur-VFX-Spezialisten war.

Gesicht der Revolution

In den fast drei Jahren, in denen ich bei dem inzwischen aufgelösten visuellen Effektunternehmen Metaphysic.ai arbeitete, denke ich, dass ich so nah wie möglich an das Van-Nuys-Erlebnis von 1975 kam.

In dieser Zeit produzierte Metaphysic AI-getriebene, ID-spezifische Effektschüsse für einige der größten Franchises, darunter die Mad Max und Alien-Franchises, sowie die bahnbrechende (wenn auch stark kritisierte) De-Aging-Deepfake-Arbeit für Robert Zemeckis’ Here (2024) und viele andere Werke:

Es gab mehr “Dailies”-Meetings (die Vorführung der neuesten produzierten Footage in überfüllten Zoom-Meetings) als eine Person vernünftigerweise besuchen und gleichzeitig ihre eigene Arbeit erledigen konnte, sowie Skunkworks-Style-Huddles, bei denen ausgewählte Gruppen zusammenarbeiteten, um Mini-Mondschüsse zu erstellen und den Stand der Technik des Unternehmens voranzutreiben.

Viele der Mitarbeiter kamen direkt von ILM oder hatten in der Vergangenheit für ILM gearbeitet*; und obwohl es klar war, dass der Van-Nuys-Geist längst der Massenrationalisierung bei ILM und den anderen großen VFX-Häusern, für die einige der Mitarbeiter gearbeitet hatten, gewichen war, blieb die Assoziation für mich elektrisierend.

George Lucas überprüft Effektschüsse mit John Dykstra, Richard Edlund, Joe Johnston und Rose Duignan während der Produktion von Star Wars. Quelle

Ich weiß nicht, ob man argumentieren kann, dass Metaphysic eine AI-Äquivalent zum DykstraFlex-Motion-Control-Rig erfand, das aus dem Van-Nuys-Schuppen kam; aber es brachte AI-getriebene VFX auf die Karte und war für mehr professionelle AI-Gesichtsersetzungen und -Veränderungen verantwortlich als jedes andere Effekt-Haus oder Projekt in diesem Zeitraum oder seitdem.

Verlangsamung

Und ich muss feststellen, dass seit das Unternehmen in DNEG’s Brahma-AI-Tochterunternehmen aufgegangen ist, dieser stete Strom von AI-basierten visuellen Effekten anscheinend zum Stillstand gekommen ist.

Trotz Schlagzeilen wie Ben Afflecks AI-VFX-Netflix-Partnerschaft und einem Engagement für KI von Regiegrößen wie Soderbergh und Aronofsky, habe ich nicht viele Deepfake-Gesichter in Filmen und im Fernsehen gesehen (außer The Capture, das die Deepfake-Technologie simuliert), im Vergleich zu “Höhepunkt Metaphysic”.

Gegeben den Umfang der KI-Rückgang in so vielen Bereichen und Sektoren, frage ich mich, ob wir nicht alle anfangen, “den Raum zu lesen” in Bezug auf KI-veränderte Identitäten; und ob KI-facilitierte Bemühungen wie die Wiederbelebung von Ian Holm, die Verjüngung von Harrison Ford und die Wiederbelebung des Rat Pack, um Gin zu verkaufen, bald den jetzt klassischen Meme ‘Es war eine andere Zeit’ hervorrufen könnten.

Negative Assoziationen

In vielen Bereichen ist es ein Problem der Assoziation; aber es ist nicht das gleiche Assoziationsproblem wie 2021, als Metaphysic gegründet wurde.

Zu dieser Zeit war Deepfake-Porn zu einem viralen Phänomen geworden, mit allen SFW- und NSFW-Ausgaben, die aus einem der beiden Open-Source-Software-Repos^† stammten. Im Gegensatz zu heute gab es keine “gatekept” oder zensierte Möglichkeit, photorealistische KI-Inhalte zu produzieren.

Damals war die größte Deepfake-Porn-Website der Welt (die zum Ziel hatte, von einer Untersuchung 2025 abgeschaltet zu werden) der Ort, an dem die offiziellen Anweisungen für das größte Deepfake-Software-Repo, DeepFaceLab, selbst die zugestandene Grundlage von Metaphysics ursprünglichen Ansätzen waren:

Die ursprüngliche Benutzeranleitung für DeepFaceLab, einst die weltweit beliebteste Deepfake-Software – gehostet auf der größten Deepfake-Porn-Website. Seitdem wurde die Software archiviert und die Website abgeschaltet. Quelle

Da Software-Entwickler offensichtlich nicht vor der Assoziation zwischen Porn und Deepfakes zurückschreckten, würde dies unweigerlich jeden Versuch beeinträchtigen, diese Technologie legitim zu übernehmen.

Folglich (vielleicht nicht zuletzt, weil der Gründer des Unternehmens zusammen mit dem Gründer von DeepFaceLab als Mitautor einer Arxiv-Positionspapier über Deepfakes im Jahr 2020 war und starker Kritik wegen dieser Assoziationen ausgesetzt war) hatte Metaphysic eine eigene Ethikabteilung und das Unternehmen war öffentlich und sehr öffentlich in diesem Thema.

Die Dorfbewohner rebellieren

An einem bestimmten Punkt, vielleicht Mitte 2023, begann ich bei verschiedenen Firmenmeetings eine wachsende Welle von lockeren, ad hoc-Widerstand gegen die Dienstleistungen, die das Unternehmen anbot, zu spüren, was mit den frühen sozialen Aufschwüngen um KI als existenzielle Bedrohung für Arbeitnehmer zusammenfiel (obwohl es zu beachten ist, dass die Hollywood-Gewerkschaften in der Vorhut waren).

KI schien in einigen Vierteln als “nicht den Risiken wert” angesehen zu werden. Zusätzlich hatte Metaphysic in seiner Höhezeit nie wirklich einen unbestrittenen Hit, nach dem Schockwert, einen jungen Elvis Presley in America’s Got Talent zu präsentieren. Tatsächlich hatte kein Unternehmen, das AI-generierte Inhalte in Mainstream-Filmen und Fernseharbeit produzierte, einen solchen Hit.

Es gab immer einen Grund zum Hass: das immer präsente uncanny valley; die Assoziation mit Porn; und dann die Assoziation mit einer von KI ausgelösten wirtschaftlichen Apokalypse.

KIs “Tyrannosaurus-Moment”

Es schien mir lange, als ob die Wiederherstellung von Menschen mit 100%iger Treue in einem VFX-Kontext, der von CGI seit langem versagt worden war, ein wertvolles, wenn nicht unvermeidliches Ziel war.

Ich stellte mir vor, dass die Evolution von KI in visuellen Effekten in einem dritten “epochalen Wandel” für die Branche gipfeln würde, zur Freude der Zuschauer. Der erste war der erste Anblick des Sternenzerstörers, der über dem Kopf donnerte, in Star Wars 1977, und der zweite war der wütende Tyrannosaurus, der aus seinem Paddock ausbrach, in Jurassic Park, 1993.

Jeder hatte zu radikalen Veränderungen in der Branche geführt, und jeder war von frühen Anhängern vorweggenommen worden, die die Grenzen einer neuen Technologie oder Methode ausloteten.

So schien es mir, als ob Metaphysics Strom von Veröffentlichungen, obwohl sie den Zuschauern nicht unbedingt das “Tyrannosaurus-Moment” lieferten, unweigerlich dazu führen würde; dass wir eines Tages etwas Unmögliches in einem Film sehen würden; etwas grundlegend von KI (und nicht mit CGI übermalt), das unsere Socken wegpusten würde.

Jetzt… ich weiß nicht. Es ist nicht unbedingt, dass ich nicht glaube, dass dieser Moment des Staunens kommen wird, für KI im Kino; noch allein, dass es viele kritische Probleme für AI-Videos gibt, die überwunden werden müssen, bevor sie sich den Profis an den Tisch setzen können.

Es ist mehr, dass ich angefangen habe, in einer vagen (und vielleicht moralisch feigen) Weise, diese aufkommende öffentliche Empfindung von negativer Assoziation zwischen KI in VFX und den negativen Auswirkungen von KI in anderen Sektoren in dieser Periode zu teilen.

Abgesehen davon bin ich derzeit nicht überzeugt, dass der historische Einfluss unbezahlter und nicht freier Datensätze wie Common Crawl wirklich berücksichtigt wurde, und ich halte viele der vielgepriesenen “KI-Lizenzvereinbarungen” für einige Ausmaß an IP-Wäsche, die in den letzten 18 Monaten oder so die Schlagzeilen gemacht haben.

Daher denke ich, dass der Moment, in dem eine perfekte und nicht unheimliche AI-regenerierte Marilyn Monroe oder Humphrey Bogart auf den Bildschirm tritt, wahrscheinlich ein Gefühl von Ehrfurcht und Unbehagen in mir hervorrufen wird, weil die Bagage von KI-Zauber begonnen hat, mich niederzudrücken.

Schlussfolgerung

Die beiden vorherigen technologischen Durchbrüche kamen ohne solche Vorbehalte: Die Einführung von ILM und Motion-Control-Rigs erfand eine Branche, die zuvor eine Reihe von sporadischen Aufträgen war, die von einer spärlichen Elite von ad hoc-Freiberuflern erfüllt wurden; und die Einführung von CGI erhöhte die Anzahl der Jobs in der VFX-Industrie massiv und schuf Wert in angrenzenden Software-Entwicklungen sowie verschiedenen unterstützenden Dienstleistungen.

Mein Interesse an Computer-Vision bleibt unverändert, zusammen mit meinem Interesse am Potenzial von KI in einer Vielzahl von möglichen audiovisuellen Anwendungen; und meine Begeisterung für weitere Anwendungen von Machine Learning in verschiedenen Sektoren ist ungetrübt.

Ich wünsche mir nur, dass ich weiterhin auf diesen KI-“Wow”-Moment im Kino freuen könnte.

Was den Grund betrifft, warum es plötzlich einen Mangel an AI-generierten Gesichtern in Film und Fernsehen gibt, im Vergleich zu den aktiven Jahren von Metaphysic – eine Möglichkeit ist, dass AI-gestützte Anpassungen jetzt von Produktionshäusern mit wenig oder keiner Publicity (im Vergleich zu den lauten Pressemitteilungen von 2022-23) angewendet werden, da die öffentliche Reaktion auf KI-Neuerungen in der Unterhaltung in letzter Zeit so feindlich geworden ist.

Zweitens, um es zu wiederholen: Nach AGT, wo das Unternehmen sein Debüt feierte, hatte Metaphysic nie wirklich einen ungetrübten Hit in Bezug auf seinen eigenen Beitrag zu einem Film oder einer Fernsehsendung; und weder die Indiana-Jones-4-Deepfake noch irgendeine andere Arbeit von anderen Produktionshäusern wurde gut genug aufgenommen oder war lukrativ genug, um eine Welle von Nachahmern auszulösen oder KI in VFX echte Glaubwürdigkeit und Investor-Freundlichkeit zu verleihen.

* Dies ist leicht überprüfbar, indem man einfach die öffentlich zugänglichen LinkedIn-Profile und IMDB-Credits ansieht.

^† DeepFaceLab und die weniger pornografisch assoziierte FaceSwap.

Erstveröffentlicht am Montag, den 27. April 2026