Kąt Andersona
O etyce hollywoodzkich deepfake’ów

Kluczowe punktyMetaphysic.ai被DNEG的Brahma AI吸收,恰逢好莱坞深度伪造作品产量急剧下降。
Zobacz więcej
- Metaphysic.ai被DNEG的Brahma AI吸收,恰逢好莱坞深度伪造作品产量急剧下降。
- 公众对娱乐业中AI的敌意,使得制片厂不愿公开AI辅助的视觉特效工作。
- Metaphysic在《美国达人秀》首秀后未能推出明确的商业热门作品,导致AI视觉特效未能获得投资者信任。
Dlaczego w ostatnim czasie nastąpił spadek treści z deepfake’ami w telewizji i filmach? Autor pracował w firmie Metaphysic.ai, pionierze deepfake’ów filmowych, przez ponad dwa i pół roku, w tym 20 miesięcy jako pełnoetatowy pracownik.
Opinia/Artykuł Jako dziecko, byłem zafascynowany historiami o powstaniu Industrial Light and Magic (ILM), które działało w zwykłym magazynie w Van Nuys, i które z wielkim trudem budowało nową generację metod efektów wizualnych z kontrolą ruchu, które miały zdominować większość lat 80-tych, aż do pojawienia się CGI.

Wybuchy części Gwiazdy Śmierci na dziedzińcu ILM w Van Nuys w połowie lat 70-tych. Źródło
To jest niezwykła historia pochodzenia, i polecam wiele książek i artykułów, które opowiadają, jak efekty dla Star Wars (1977) zostały – po wielu trudach, skargach i opóźnieniach – ostatecznie dostarczone.
Młoda ILM później przeniosła się do San Francisco i rozpoczęła industrializację produkcji efektów fotochemicznych. Nawet w czasie pracy nad efektami wizualnymi The Empire Strikes Back w 1978/9, ILM, chociaż nadal była pionierską i innowacyjną firmą efektów, była już pełna działów księgowych i HR.
Ale w tym okresie, i od tego czasu, moja wyobraźnia była zajęta myślą o tym, jak te pierwsze “surowe” lata w Van Nuys były, kanibalizując zestawy modeli i metody optyczne z lat 60-tych, i praktycznie wymyślając przemysł, który kiedyś był domeną indywidualnych auteur specjalistów VFX.
Twarz rewolucji
W ciągu prawie trzech lat, które spędziłem w rozwiązanej firmie Metaphysic.ai, myślę, że zbliżyłem się tak bardzo, jak to było możliwe, do doświadczenia z połowy lat 70-tych w Van Nuys.
W tym czasie Metaphysic wyprodukowała oparte na AI, dostosowane do konkretnej tożsamości efekty wizualne dla niektórych z największych franczyz, w tym Mad Max i Alien, a także wyprodukowała pionierską (choć szeroko krytykowaną) pracę nad odmładzaniem deepfake dla Roberta Zemeckisa Here (2024), i wiele innych prac:
Było więcej spotkań “dailies” (pokazywania najnowszych efektów wizualnych, w zatłoczonych spotkaniach Zoom) niż jeden człowiek mógłby rozsądnie odbyć i nadal wykonywać swoją pracę, a także spotkania w stylu skunkworks, gdzie wybrane grupy pracowały razem nad mini-moonshotami, starając się awansować stan techniki firmy.
Wielu pracowników przybyło do firmy bezpośrednio z ILM, lub pracowało w ILM w przeszłości*; i chociaż było jasne, z anegdot, że duch Van Nuys dawno ustąpił miejsca masowej racjonalizacji w ILM, i w innych dużych firmach efektów wizualnych, z których pochodziła część personelu, związek pozostał elektryczny dla mnie.

George Lucas przegląda efekty wizualne z Johnem Dykstrą, Richardem Edlundem, Joe Johnstonem i Rose Duignan podczas produkcji Star Wars. Źródło
Nie wiem, czy można powiedzieć, że Metaphysic wynalazłaby oparty na AI odpowiednik DykstraFlex, systemu kontroli ruchu, który powstał w warsztacie Van Nuys; ale umieściła AI-napędzane efekty wizualne na mapie, i była odpowiedzialna za więcej profesjonalnych AI-zastąpień twarzy i modyfikacji niż jakakolwiek inna firma efektów wizualnych lub projekt w tym okresie, lub od tego czasu.
Spowolnienie
I muszę zauważyć, że od czasu, gdy firma została wchłonięta przez Brahma AI spółki DNEG, ten stały strumień efektów wizualnych AI wydaje się zwalniać do ślimaczego tempa.
Pomimo nagłówków, takich jak partnerstwo Ben Afflecka z AI VFX Netflix (NFLX ), i zaangażowania w AI ze strony reżyserów Soderbergha i Aronofsky’ego, nie widziałem zbyt wielu deepfake’owych twarzy w filmach i telewizji ostatnio (z wyjątkiem The Capture‘s symulacji technologii deepfake), w porównaniu z “szczytem Metaphysic”.
Biorąc pod uwagę zakres AI-backlashu w wielu dziedzinach i sektorach, zastanawiam się, czy nie zaczynamy wyczuwać nastroje wokół tożsamości zmodyfikowanych przez AI; i czy AI-ułatwione wysiłki, takie jak wskrzeszenie Iana Holma, odmłodzenie Harrisona Forda, i wskrzeszenie Rat Pack, aby sprzedać gin mogą wkrótce wywołać klasyczny mem ‘To był inny czas’.
Negatywne skojarzenia
Pod wieloma względami, jest to problem skojarzeń; ale nie jest to ten sam problem skojarzeń, jaki był w 2021 roku, gdy Metaphysic powstała.
W tym czasie, deepfake porn stał się zjawiskiem wirusowym, z wszystkimi SFW i NSFW treściami pochodzącymi z jednego z dwóch repozytoriów oprogramowania open source† . W przeciwieństwie do dzisiaj, nie było kontrolowanego przez pośredników ani cenzurowanego sposobu produkcji fotorealistycznych treści AI.
Wtedy największa strona deepfake porn na świecie (przeznaczona do zamknięcia przez śledztwo w 2025 roku) była miejscem, gdzie znajdowały się instrukcje oficjalne dla największego repozytorium oprogramowania deepfake, DeepFaceLab, które same były uznaną podstawą oryginalnych podejść Metaphysic:

Oryginalny przewodnik po DeepFaceLab, w czasie najpopularniejszego oprogramowania deepfake – hostowanego na największej stronie deepfake porn. Od tego czasu oprogramowanie zostało zarchiwizowane, a strona została zamknięta. Źródło
Ponieważ deweloperzy oprogramowania nie wahali się przed skojarzeniem pornografii z deepfake’ami, to nieuchronnie wpłynęłoby na każdą firmę, która próbowała uczciwie przyjąć tę technologię.
W związku z tym (prawdopodobnie nie tylko dlatego, że założyciel firmy został wymieniony wraz z założycielem DeepFaceLab w autorstwie Arxiv position paper na temat deepfake’ów w 2020 roku, i został poddany krytyce z powodu tych skojarzeń) Metaphysic miała odrębny dział etyki, i firma była bardzo otwarta i publicznie aktywna w tej sprawie.
W dzisiejszych czasach, z ogromnym i rosnącym pakietem legislacji na całym świecie, która kryminalizuje treści deepfake, to “nieszczęsne” skojarzenie dotyczące AI-stworzonych tożsamości przeniosło się z pornografii na biedę, gdy globalne siły robocze, bezpośrednio zagrożone przez inne rodzaje AI (zwykle Large Language Models, lub LLMs), zaczynają demonizować ten termin w ogóle.
Bunt Wsi
W pewnym momencie, może w połowie 2023 roku, uczestnicząc w różnych spotkaniach firmowych, zacząłem czuć, choć, przyznaję, jedynie na podstawie relacji z drugiej ręki, rosnącą falę nieformalnego oporu ad hoc wobec usług oferowanych przez firmę, współgrając z wczesnymi społecznymi falami wokół AI jako zagrożenia egzystencjalnego dla pracowników (chociaż trzeba zauważyć, że związki zawodowe w Hollywood były w awangardzie w tym zakresie).
AI wydawało się postrzegane w niektórych kręgach jako “nie warte ryzyka”. Dodatkowo, w szczytowym okresie Metaphysic, nigdy nie miała niekwestionowanego sukcesu po efekcie zaskoczenia wywołanym występem dość ospałego młodego Elvisa Presleya w America’s Got Talent. W rzeczywistości żadna inna firma, która produkowała AI-generowaną treść w głównych filmach i produkcjach telewizyjnych, nie miała.
Zawsze wydawało się, że jest jakiś powód, by nienawidzić: nieustannie obecna dolina niepokoju; skojarzenie z pornografią; a potem, skojarzenie z zagrożeniem apokalipsą gospodarczą napędzaną przez AI.
„Moment tyranozaura” AI
Wydawało mi się, przez długi czas, że odtworzenie ludzi z 100% wiernością w kontekście efektów wizualnych, które zostały zawiedzione przez CGI przez długi czas, było godnym, jeśli nie nieuniknionym celem.
Wyobrażałem sobie, że ewolucja AI w efektach wizualnych kulminowałaby w trzeciej “epokowej” zmianie dla branży, ku uciesze widzów. Pierwszym był pierwszy widok gwiezdnego niszczyciela przelatującego z hukiem nad głową w Star Wars w 1977 roku, a druga, szalony Tyrannozaur uciekający z jego wybiegu w Jurassic Park, w 1993 roku.
Każda z nich doprowadziła do radykalnych zmian w branży, i każda była poprzedzona przez pionierów wdrażających nową technologię, którzy pchali granice nowej technologii lub metody.
Wydało mi się, że strumień wydawnictw Metaphysic, choć niekoniecznie dostarczający widzom ten “tyrannozaur moment”, nieuchronnie doprowadziłby do niego; że pewnego dnia zobaczymy coś niemożliwego w filmie; coś fundamentalnie stworzonego przez AI (zamiast zakrytego CGI), co nas zaskoczy.
Teraz… nie jestem pewien. Niekoniecznie dlatego, że nie wierzę, iż ten moment zdumienia przyjdzie dla AI w kinie; ani wyłącznie dlatego, że istnieje wiele kluczowych problemów dla AI-wideo, które muszą być pokonane, zanim będą mogły dołączyć do profesjonalistów przy stole.
To raczej dlatego, że zacząłem dzielić, w sposób niejasny (i być może moralnie tchórzliwy), rosnące poczucie negatywnego skojarzenia między AI w efektach wizualnych a negatywnymi konsekwencjami AI w innych sektorach, w tym okresie.
Ponadto, nie jestem obecnie przekonany, że historyczny wpływ wykorzystywanych bez wynagrodzenia i niewolnych zbiorów danych, takich jak Common Crawl, został jeszcze uwzględniony; i uważam, że wiele z tych nagłośnionych “AI-licencjonowania” umów, które trafiły na czołówki w ciągu mniej więcej ostatnich 18 miesięcy, reprezentują pewien stopień IP-washing.
Dlatego, kiedy idealna i nie-uncanny AI-regenerowana Marilyn Monroe lub Humphrey Bogart wejdzie na ekran, myślę, że podwójne uczucia zdumienia i niepokoju mogą powstać we mnie, ponieważ obciążenia towarzyszące magii AI zaczęły mi ciążyć.
Wnioski
Dwa poprzednie przełomy technologiczne nie przyniosły takich zastrzeżeń: pojawienie się ILM i motion control rigs skutecznie wymyśliło przemysł, który wcześniej był serią sporadycznych zleceń realizowanych przez rzadkich ad hoc freelancerów; i pojawienie się CGI znacznie zwiększyło liczbę miejsc pracy w branży efektów wizualnych, i stworzyło wartość w sąsiednich branżach oprogramowania, a także w różnych usługach wspierających.
Moje zainteresowanie widzeniem komputerowym pozostaje niezmienne, wraz z moim zainteresowaniem potencjałem AI w wielu możliwych aplikacjach audio-wizualnych; i mój entuzjazm dla szerszych zastosowań uczenia maszynowego w różnych sektorach pozostaje niezmienny.
Chciałbym tylko móc nadal z ekscytacją oczekiwać tego kinowego momentu zachwytu nad AI.
Co do powodu, dla którego jest tak mało AI-generowanych twarzy w filmach i telewizji w porównaniu z najbardziej aktywnymi latami Metaphysic – jedną z możliwości jest to, że AI-pomocne poprawki są teraz stosowane przez domy produkcyjne przy niewielkim rozgłosie lub bez niego (w porównaniu z głośnymi komunikatami prasowymi z okresu 2022-23), biorąc pod uwagę, że publiczna reakcja na innowacje AI w rozrywce stała się tak wroga ostatnio.
Po drugie, aby to powtórzyć: po AGT, gdzie firma zadebiutowała, Metaphysic nigdy nie miała niekwestionowanego sukcesu w odniesieniu do swojego wkładu w jakikolwiek film lub serial; i ani deepfake w Indiana Jones 4, ani żadna inna praca z innych domów produkcyjnych nie była wystarczająco dobrze przyjęta ani wystarczająco dochodowa, aby rozpocząć falę naśladowców, lub aby dać AI w efektach wizualnych prawdziwą wiarygodność i atrakcyjność dla inwestorów.
* To jest łatwe do zweryfikowania, wystarczy spojrzeć na publicznie dostępne profile LinkedIn i listy twórców w IMDB.
† DeepFaceLab, i mniej skojarzony z pornografią FaceSwap.
Pierwotnie opublikowane w poniedziałek, 27 kwietnia 2026












