할리우드 딥페이크의 윤리

최근에 텔레비전과 영화의 딥페이크 콘텐츠가 급격히 줄어든 이유는 무엇일까요? 저자는 Metaphysic.ai라는 비주얼 이펙트 회사에서 2년 반 동안 일했으며, 그 중 20개월은 정식 직원으로 근무했습니다.

의견/기사 어렸을 때, 저는 산업 라이트 앤 매직(ILM)의 설립 이야기에 매료되었습니다. 밴 누이스의 한 창고에서 시작하여 새로운 모션 컨트롤 비주얼 이펙트 방법을 개발하여 1980년대 대부분을 지배했습니다. 그리고 나서 CGI의 등장으로 바뀌었습니다.

밴 누이스의 ILM에서 데스 스타 폭파 장면. 출처

이것은 뛰어난 起源이야기이며, 저는 스타워즈(1977) 효과를 위해 어떻게 작업이 진행되었는지 다시 kể하는 많은 책과 기사를 추천합니다.

ILM은 나중에 샌프란시스코로 이사했고 사진화학적 이펙트 생산을 산업화했습니다. VFX 작업이 진행 중인 동안, ILM은 이미 회계와 인사부門이 충분히 갖춰져 있었습니다.

하지만 그 기간 동안, 그리고 이후로도, 저의 상상력은 처음 몇 년의 밴 누이스에서 무엇이 일어났는지 궁금해했습니다. 모델 키트와 1960년대의 광학 방법을 사용하여 거의 산업을 발명했습니다.

혁명의 얼굴

Metaphysic.ai에서 거의 3년 동안 일하면서, 저는 밴 누이스의 경험에 가장 가까이 갈 수 있었습니다.

그 기간 동안, Metaphysic은 몇몇 큰 프랜차이즈를 위해 AI 주도형, ID 특정 이펙트 샷을 제작했습니다. Mad Max와 Alien 프랜차이즈를 포함하여, Robert Zemeckis의 Here(2024) 영화를 위해 선구적인(de-aging) 딥페이크 작업을 제작했습니다.

그들은 새로운 기술을 개발하기 위해 스크럼works-style 모임을 가졌으며, 회사의 기술을 발전시키기 위해 노력했습니다.

많은 직원이 ILM에서 직접 왔거나 과거에 ILM에서 일한 경험이 있었습니다. 밴 누이스의 정신은 이미 사라졌지만, 저에게는 여전히 전기적인 느낌이었습니다.

조지 루카스와 존 디크스트라, 리처드 에들런드, 조 존스턴, 로즈 듀이그난이 스타워즈의 효과를 검토합니다. 출처

저는 Metaphysic이 DykstraFlex 모션 컨트롤 리그와 같은 것을 발명할 수 있을지 모르겠습니다. 하지만 AI 주도형 VFX를 지도에 올려놓았으며, 그 기간 동안 또는 이후로도 다른 어떤 회사가 하지 못한 일을 했습니다.

감속

그리고 저는 회사가 DNEG의 Brahma AI 子公司에吸収된 이후로, AI 기반 비주얼 이펙트 작업이 거의 중단된 것 같다고 생각합니다.

Ben Affleck의 AI VFX 넷플릭스 파트너십과 Soderbergh와 Aronofsky의 AI에 대한 약속에도 불구하고,最近에 영화와 텔레비전에서 많은 딥페이크 얼굴을 보지 못했습니다.

AI에 대한 반발이 많은 분야와 부문에서 일어나고 있기 때문에, 저는 우리가 모두 AI로 만든 정체성을 읽는 방식을 읽기 시작한 것 같다고 생각합니다. 그리고 AI가 주도하는 노력, 예를 들어 Ian Holm의 부활, Harrison Ford의 젊어지는 것, 그리고 Rat Pack의 부활이 곧 클래식 메모 ‘그것은 다른 시간이었다’를 불러일으킬지도 모릅니다.

부정적인 연관성

많은方面에서, 이것은 연관성의 문제입니다. 하지만 2021년 Metaphysic이 설립되었을 때와 같은 연관성 문제는 아닙니다.

그 때, 딥페이크 포르노가 바이러스적인 현상이되어, 모든 SFW와 NSFW 출력이 두 개의 오픈 소스 소프트웨어 저장소에서 나왔습니다.

현재, 글로벌 입법이 딥페이크 콘텐츠를 범죄화하고 있는 상황에서, AI로 만든 정체성에 대한 ‘불행한’ 연관성이 포르노에서 가난으로 옮겨갔습니다.

이러한 날에, 글로벌 노동력이 AI(주로 대규모 언어 모델)에 의해 직접 위협을 받고 있으며, AI를 전면으로 반대하기 시작했습니다.

마을 사람들은 반란을 일으키고 있다

ある 시점에, 아마도 2023년 중반에, 회사의 여러 회의에 참석하면서, 저는 회사가 제공하는 서비스에 대한 저항이 점점 커지는 것을 느꼈습니다. 이것은 AI가 직업에 대한 존재론적인 위협으로 여겨지는 사회적 물결과 일치했습니다.

AI는 ‘위험하지 않다’는 것으로 보였습니다. 또한, Metaphysic의ピー크 기간 동안, 회사는 America’s Got Talent에서 엘비스 프레슬리와의 듀엣을 제외하고는 명확한 히트를 기록하지 못했습니다.

항상 어떤 이유로든 싫어하는 사람들이 있었습니다. 항상 불쾌한 골짜기; 포르노와의 연관성; 그리고 나서는, AI 주도형 경제적 천재지변과 관련된 연관성.

AI의 ‘티라노사우루스 모멘트’

저는 오랫동안, VFX 컨텍스트에서 100% 신뢰할 수 있는 인간을 재현하는 것이 가치 있는 목표라고 생각했습니다.

저는 AI의 발전이 결국 영화 산업에 대한 세 번째 ‘시대적인 변화’를 가져올 것이라고 상상했습니다. 첫 번째는 스타워즈(1977)에서 스타디스트로이더가 등장했을 때였습니다. 두 번째는 쥬라기 공원(1993)에서 티라노사우루스가 등장했을 때였습니다.

각각은 산업에 대한 급격한 변화를 가져왔으며, 각각은 새로운 기술이나 방법의 초기 채택자에 의해 예상되었습니다.

따라서 Metaphysic의 릴리스는 저에게 ‘티라노사우루스 모멘트’를 가져다줄 것이라고 생각했습니다. 하지만 지금은 그렇지 않습니다.

저는 여전히 컴퓨터 비전에 대한 관심을 가지고 있으며, AI가 다양한 오디오 비주얼 애플리케이션에 대한 잠재력에 대한 관심도 가지고 있습니다. 그리고 저는 다른 부문에서 기계 학습의 더 넓은 애플리케이션에 대한 열정을 가지고 있습니다.

저는 오직 영화에서 AI의 ‘와우’ 모멘트를 계속 기대할 수 있기를 바랍니다.

Metaphysic 이후에 AI 생성된 얼굴이 영화와 텔레비전에서 급격히 줄어든 이유 중 하나는, 생산 회사에서 이제 AI 보조 조정이 거의 홍보 없이 적용되고 있다는 것입니다.

두 번째로, Metaphysic은 America’s Got Talent 이후에 명확한 히트를 기록하지 못했습니다. 또한, Indiana Jones 4의 딥페이크나 다른 제작 회사의 작품은 충분히 호평을 받거나, 유익하거나, 투자자 친화적이지 못했습니다.

* 이것은 단순히 LinkedIn 프로필과 IMDB 크레딧을 확인하면 쉽게 검증할 수 있습니다.

^† DeepFaceLab과 weniger 포르노 관련 FaceSwap.

2026년 4월 27일 처음 게시되었습니다.