Etyka Hollywoodzkich Deepfake’ów

Dlaczego w ostatnim czasie nastąpił spadek treści z deepfake’ami w telewizji i filmach? Autor pracował w firmie Metaphysic.ai, pionierze efektów wizualnych, przez ponad dwa i pół roku, w tym 20 miesięcy jako pełnoetatowy pracownik.

Opinia/Artykuł Jako dziecko, byłam fascynowana historiami o powstaniu Industrial Light and Magic (ILM), które działało w zwykłym magazynie w Van Nuys, i które z wielkim trudem budowało nową generację metod efektów wizualnych, które miały zdominować większość lat 80-tych, aż do pojawienia się CGI.

Wybuchy części Gwiazdy Śmierci na dziedzińcu ILM w Van Nuys w połowie lat 70-tych. Źródło

To jest niezwykła historia pochodzenia, i polecam wiele książek i artykułów, które opowiadają, jak efekty dla Star Wars (1977) zostały – po wielu trudach, skargach i opóźnieniach – ostatecznie dostarczone.

Młoda ILM później przeniosła się do San Francisco i poszła na industrializację produkcji efektów fotochemicznych. Nawet w czasie pracy nad efektami wizualnymi The Empire Strikes Back w 1978/9, ILM, chociaż nadal była pionierską i innowacyjną firmą efektów, była już pełna działów księgowych i HR.

Ale w tym okresie, i od tego czasu, moja wyobraźnia była zajęta myślą o tym, jak te pierwsze “surowe” lata w Van Nuys były, kanibalizując zestawy modeli i metody optyczne z lat 60-tych, i praktycznie wymyślając przemysł, który kiedyś był domeną indywidualnych auteur specjalistów VFX.

Twarz Rewolucji

W ciągu prawie trzech lat, które spędziłem w rozwiązanej firmie Metaphysic.ai, myślę, że przybyłem jak najbliżej możliwego doświadczenia z połowy lat 70-tych w Van Nuys.

W tym czasie Metaphysic wyprodukowała AI-napędzane, ID-specyficzne efekty wizualne dla niektórych z największych franczyz, w tym Mad Max i Alien franczyzy, a także wyprodukowała pionierską (choć krytykowaną) pracę nad odmładzaniem deepfake dla Roberta Zemeckisa Here (2024), i wiele innych prac:

Było więcej spotkań “dailies” (pokazywania najnowszych efektów wizualnych, w zatłoczonych spotkaniach Zoom) niż jeden człowiek mógłby rozsądnie uczestniczyć i nadal wykonywać swoją pracę, a także spotkania w stylu skunkworks, gdzie wybrane grupy pracowały razem nad mini-moonshotami, starając się awansować stan techniki firmy.

Wiele personelu przybyło do firmy bezpośrednio z ILM, lub pracowało w ILM w przeszłości*; i chociaż było jasne, z anegdot, że duch Van Nuys dawno minął się z masową racjonalizacją w ILM, i w innych dużych firmach efektów wizualnych, z których pochodziło część personelu, związek pozostał elektryczny dla mnie.

George Lucas przegląda efekty wizualne z Johnem Dykstrą, Richardem Edlundem, Joe Johnstonem i Rose Duignan podczas produkcji Star Wars. Źródło

Nie wiem, czy można powiedzieć, że Metaphysic wymyśliłaby AI-równoważną DykstraFlex motion-control rig, który powstał w warsztacie Van Nuys; ale umieściła AI-napędzane efekty wizualne na mapie, i była odpowiedzialna za więcej profesjonalnych AI-zastąpień twarzy i modyfikacji niż jakakolwiek inna firma efektów wizualnych lub projekt w tym okresie, lub od tego czasu.

Spowolnienie

I muszę zauważyć, że od czasu, gdy firma została wchłonięta przez Brahma AI spółki DNEG, ten stały strumień efektów wizualnych AI wydaje się spowolnić do zatrzymania.

Pomimo nagłówków, takich jak partnerstwo Ben Afflecka z AI VFX Netflix, i zobowiązanie do AI ze strony reżyserów Soderbergha i Aronofsky’ego, nie widziałem zbyt wielu deepfake’owych twarzy w filmach i telewizji ostatnio (z wyjątkiem The Capture‘s symulacji technologii deepfake), w porównaniu z “szczytem Metaphysic”.

Biorąc pod uwagę zakres AI-backlashu w wielu dziedzinach i sektorach, zastanawiam się, czy nie zaczynamy “czytać pokój” na AI-zmodyfikowane tożsamości; i czy AI-ułatwione wysiłki, takie jak wskrzeszenie Iana Holma, odmłodzenie Harrisona Forda, i wskrzeszenie Rat Pack, aby sprzedać gin mogą wkrótce wywołać klasyczny mem ‘To był inny czas’.

Negatywne Skojarzenia

W wielu ways, jest to problem skojarzeń; ale nie jest to ten sam problem skojarzeń, jaki był w 2021 roku, gdy Metaphysic powstała.

W tym czasie, deepfake porn stał się zjawiskiem wirusowym, z wszystkimi SFW i NSFW treściami pochodzącymi z jednego z dwóch repozytoriów oprogramowania open source^† . W przeciwieństwie do dzisiaj, nie było “gatekept” ani cenzurowanego sposobu produkcji photoreal AI-treści.

Wtedy największa strona deepfake porn na świecie (przeznaczona do zamknięcia przez śledztwo w 2025 roku) była gdzie znajdowały się oficjalne instrukcje dla największego repozytorium oprogramowania deepfake, DeepFaceLab, które same były przyznane podstawą oryginalnych podejść Metaphysic:

Oryginalny przewodnik po DeepFaceLab, w czasie najpopularniejszego oprogramowania deepfake – hostowanego na największej stronie deepfake porn. Od tego czasu oprogramowanie zostało zarchiwizowane, a strona została zamknięta. Źródło

Od czasu, gdy deweloperzy oprogramowania nie wahali się przed skojarzeniem pornografii z deepfake’ami, to nieuchronnie wpłynęłoby na każdą firmę, która próbowała uczciwie przyjąć tę technologię.

W związku z tym (prawdopodobnie nie tylko dlatego, że założyciel firmy został wymieniony wraz z założycielem DeepFaceLab w autorstwie Arxiv position paper na temat deepfake’ów w 2020 roku, i został poddany krytyce z powodu tych skojarzeń) Metaphysic miał dedykowany dział etyki, i firma była głośna i bardzo publiczna w tej sprawie.

W dzisiejszych czasach, z ogromnym i rosnącym pakietem legislacji na całym świecie, która kryminalizuje treści deepfake, to “nieszczęsne” skojarzenie dotyczące AI-stworzonych tożsamości przeniosło się z pornografii na biedę, gdy globalne siły robocze, bezpośrednio zagrożone przez inne rodzaje AI (zwykle Large Language Models, lub LLMs), zaczynają demonizować ten termin w ogóle.

Bunt Wsi

W pewnym momencie, może w połowie 2023 roku, uczestnicząc w różnych spotkaniach firmowych, zacząłem czuć, choć na odległość, rosnącą falę nieformalnego oporu wobec usług oferowanych przez firmę, współgrając z wczesnymi społecznymi falami wokół AI jako zagrożenia egzystencjalnego dla pracowników (chociaż trzeba zauważyć, że związki zawodowe w Hollywood były w awangardzie w tym zakresie).

AI wydawało się postrzegane w niektórych ćwiartkach jako “nie warte ryzyka”. Dodatkowo, w szczytowym okresie Metaphysic, nigdy nie miała niekwestionowanego sukcesu po szokującej wartości młodego Elvisa Presleya w America’s Got Talent. W rzeczywistości, żadna inna firma, która produkowała AI-generowaną treść w głównych filmach i produkcjach telewizyjnych, nie miała.

Zawsze wydawało się, że jest jakiś powód, by nienawidzić: nieustannie obecna dolina niepokoju; skojarzenie z pornografią; a potem, skojarzenie z zagrożeniem AI- napędzanego apokalipsy gospodarczej.

‘Tyrannosaur Moment’ AI

Wydawało mi się, przez długi czas, że odtworzenie ludzi z 100% wiernością w kontekście efektów wizualnych, które zostały zawiedzione przez CGI przez długi czas, było godnym, jeśli nie nieuniknionym celem.

Wyobrażałem sobie, że ewolucja AI w efektach wizualnych kulminowałaby w trzeciej “epokowej” zmianie dla branży, ku uciesze widzów. Pierwsza była pierwszy widok gwiezdnego niszczyciela thundering overhead w Star Wars w 1977 roku, a druga, szalony Tyrannozaur uciekający z jego wybiegu w Jurassic Park, w 1993 roku.

Każda z nich doprowadziła do radykalnych zmian w branży, i każda była poprzedzona przez wczesnych adoptujących, którzy pchali granice nowej technologii lub metody.

Wydało mi się, że strumień wydawnictw Metaphysic, choć niekoniecznie dostarczający widzom ten “tyrannozaur moment”, nieuchronnie doprowadziłby do niego; że pewnego dnia zobaczymy coś niemożliwego w filmie; coś fundamentalnie stworzonego przez AI (zamiast zakrytego CGI), co nas zaskoczy.

Teraz… nie jestem pewien. Niekoniecznie dlatego, że nie wierzę, iż ten moment zdumienia przyjdzie dla AI w kinie; ani wyłącznie dlatego, że istnieją wiele krytycznych problemów dla AI-wideo, które muszą być pokonane, zanim będą mogły dołączyć do profesjonalistów przy stole.

To raczej dlatego, że zacząłem dzielić, w sposób niejasny (i być może tchórzliwy), rosnące poczucie negatywnego skojarzenia między AI w efektach wizualnych a negatywnymi konsekwencjami AI w innych sektorach, w tym okresie.

Ponadto, nie jestem obecnie przekonany, że historyczny wpływ nieopłaconych i niebezpłatnych zbiorów danych, takich jak Common Crawl, został jeszcze uwzględniony; i uważam, że wiele z tych nagłośnionych “AI-licencjonowania” umów, które zrobiły nagłówki w ciągu ostatnich 18 miesięcy lub tak, reprezentują pewien stopień IP-washing.

Dlatego, kiedy idealna i nie-uncanny AI-regenerowana Marilyn Monroe lub Humphrey Bogart wejdzie na ekran, myślę, że podwójne uczucia zdumienia i niepokoju mogą powstać we mnie, ponieważ AI-wizardry ma już swoje bagaże.

Wnioski

Dwa poprzednie przełomy technologiczne nie przyniosły takich zastrzeżeń: pojawienie się ILM i motion control rigs skutecznie wymyśliło przemysł, który wcześniej był serią sporadycznych zleceń realizowanych przez rzadkich ad hoc freelancerów; i pojawienie się CGI znacznie zwiększyło liczbę miejsc pracy w branży efektów wizualnych, i stworzyło wartość w sąsiednich branżach oprogramowania, a także w różnych usługach wspierających.

Mój zainteresowanie Computer Vision pozostaje niezmienne, wraz z moim zainteresowaniem potencjałem AI w wielu możliwych aplikacjach audio-wizualnych; i moja entuzjazja dla szerszych zastosowań uczenia maszynowego w różnych sektorach pozostaje niezmniejszona.

Tylko żałuję, że nie mogę dalej patrzeć na ten AI-“wow” moment w kinie.

Co do powodu, dla którego jest tak mało AI-generowanych twarzy w filmach i telewizji w porównaniu z najbardziej aktywnymi latami Metaphysic – jedną z możliwości jest to, że AI-pomocne poprawki są teraz stosowane przez domy produkcyjne z małą lub żadną publicznością (w porównaniu z głośnymi komunikatami prasowymi z okresu 2022-23), biorąc pod uwagę, że publiczna reakcja na innowacje AI w rozrywce stała się tak wroga ostatnio.

Po drugie, aby to powtórzyć: po AGT, gdzie firma zadebiutowała, Metaphysic nigdy nie miała niekwestionowanego sukcesu w odniesieniu do swojego wkładu w jakikolwiek film lub serial; i ani Indiana Jones 4 deepfake, ani żadna inna praca z innych domów produkcyjnych nie była wystarczająco dobrze przyjęta, aby rozpocząć falę naśladowców, lub aby dać AI w efektach wizualnych autentyczność i przyjazność inwestorom.

* To jest łatwe do zweryfikowania, wystarczy spojrzeć na publicznie dostępne profile LinkedIn i kredyty IMDB.

^† DeepFaceLab, i mniej skojarzony z pornografią FaceSwap.

Pierwotnie opublikowane w poniedziałek, 27 kwietnia 2026