Andersonの視点

ハリウッドのディープフェイクの倫理について

Martin Anderson
Unite.AI を Google の優先ソースに追加
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
要点Metaphysic.aiがDNEGのBrahma AIに吸収されたことは、ハリウッドにおけるディープフェイク作品の急激な減少と時期を同じくしている。
もっと見る
  • Metaphysic.aiがDNEGのBrahma AIに吸収されたことは、ハリウッドにおけるディープフェイク作品の急激な減少と時期を同じくしている。
  • エンターテインメント業界におけるAIへの世間の敵意により、スタジオはAIを活用したVFX作業を公表することに消極的になっている。
  • MetaphysicがAGTでデビューした後、決定的な商業的成功作がなかったことで、AI VFXが投資家の信頼を得ることができなかった。

最近、テレビや映画のディープフェイク・コンテンツがこれほど減っているのはなぜだろうか。著者は映画ディープフェイクの先駆者Metaphysic.aiで2年半以上働き、そのうち20か月は正社員だった。 

論考・特集 子どもの頃、私はインダストリアル・ライト&マジック(ILM)創設の話に夢中になった。同社はバンナイズの質素な倉庫を拠点に、モーションコントロールを使う新世代の視覚効果技法を苦心して築いた。それらはCGIが登場するまで、1980年代の大半を席巻することになる。

1970年代半ば、バンナイズのILMの中庭でデス・スターの一部を爆破する様子。出典 – https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

1970年代半ば、バンナイズのILMの中庭でデス・スターの一部を爆破する様子。 出典

実にすばらしい誕生の物語だ。多大な労力、非難の応酬、遅延を経て、スター・ウォーズ(1977年)の特殊効果がようやく完成するまでを語る数々の本や記事をお勧めしたい。

草創期のILMはのちにサンフランシスコへ移り、光化学的な特殊効果の制作を工業化していく。1978~79年の帝国の逆襲のVFX制作時には、なお先駆的で革新的な会社でありながら、会計部門や人事部門もすでに整っていた。

だが当時もその後も、私の想像力をとらえたのはバンナイズでの最初の数年間だった。模型キットも1960年代の光学技法も部品取りのように活用し、それまで個々の作家性を持つVFX専門家の領域だったものを、事実上ひとつの産業として発明していた。その荒削りな日々はどのようなものだったのだろう。

革命の顔

私は、現在は解体された視覚効果会社Metaphysic.aiで働いた3年近くの間に、自分にとって可能な限り、1970年代半ばのバンナイズ体験に近づけたと思っている。

その間、Metaphysicは大手作品シリーズ向けにAIを使った特定人物の顔などに対応する効果ショットを制作した。マッドマックスやエイリアンのシリーズもその例だ。また、先駆的な(ただし多くの批判を受けた)若返りディープフェイクを、ロバート・ゼメキス監督のHere(2024年)のために制作した。ほかにも多くの仕事がある。

最新の制作映像を大人数のZoom会議で見る「デイリーズ」の数は、一人が自分の仕事をこなしながら無理なく出席できる量を超えていた。選抜された小集団が小さな野心的突破口を目指し、会社の最先端技術を進めようとする、スカンクワークス型の集まりもあった。

社員の多くはILMから直接移ってきたか、以前ILMで働いていた人たちだった*。彼らの話からは、ILMやほかの大手VFX会社ではバンナイズの精神がとうに大規模な合理化へ道を譲っていたことが分かった。それでも、このつながりは私を興奮させ続けた。

スター・ウォーズ制作中、ジョージ・ルーカスがジョン・ダイクストラ、リチャード・エドランド、ジョー・ジョンストン、ローズ・デュイグナンと効果ショットを確認する。チームは実物を使うVFXの計画やショット設計を進めている。出典 – https://theasc.com/articles/star-wars-miniature-effects-dykstra

ジョージ・ルーカスがジョン・ダイクストラ、リチャード・エドランド、ジョー・ジョンストン、ローズ・デュイグナンとともに、スター・ウォーズ制作中の効果ショットを確認する。 出典

Metaphysicが、バンナイズの過酷な制作現場で生まれたDykstraFlexモーションコントロール装置に相当するAI技術を発明した、とまで言えるかは分からない。ただ、AIを使うVFXを世に知らしめ、プロ水準のAIによる顔の差し替えや加工を、同時期にもそれ以降にも、ほかのどの効果会社や単独プロジェクトより多く手がけた。

減速

そして同社がDNEGの子会社Brahma AIへ吸収されて以降、その安定したAI視覚効果の流れは、ほとんど止まったかのように見えると指摘せざるを得ない。

ベン・アフレックのAI VFXをめぐるNetflixとの提携 (NFLX )や、ソダーバーグ、アロノフスキーという著名監督のAIへの支持が見出しになっている。それでも最近、映画やテレビでディープフェイクの顔を大量に見かけることはない。「Metaphysicの絶頂期」と比べての話だ。ただし、The Captureで描かれるディープフェイク技術の模擬表現は除く。

多くの分野でAIへの反発がこれほど広がっていることを考えると、私たちは皆、AIで加工された人物像について世間の空気を読み始めているのではないかと思う。イアン・ホルムの復活、ハリソン・フォードの若返り、ジンを売るためのラット・パックの復活といったAIの力を借りた試みには、やがてすっかり定番になった「あの頃は時代が違った」というミームが向けられるのかもしれない。

否定的な連想

多くの点で、これは連想の問題だ。ただしMetaphysicが設立された2021年の問題とは違う。

当時、ディープフェイク・ポルノは急速に広まる現象となり、職場で見ても問題ない内容も成人向け内容も、すべて二つのオープンソース・ソフトウェアのいずれかから生み出されていた† 。現在とは異なり、写実的なAIコンテンツを作るための、利用が管理されたり検閲されたりする手段はなかった。

当時、世界最大のディープフェイク・ポルノサイトは、2025年に調査によって閉鎖される運命にあったが、最大のディープフェイク・ソフトウェアDeepFaceLabの公式手順が置かれていた場所だった。DeepFaceLabはMetaphysicの初期の方法の基盤だったと認められているものでもある。

かつて世界で最も人気があったディープフェイク・ソフトウェアDeepFaceLabの元のユーザーガイド。世界最大のディープフェイク・ポルノサイトに置かれていた。その後ソフトウェアはアーカイブされ、サイトは閉鎖された。出典 – https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

かつて世界で最も人気があったディープフェイク・ソフトウェアDeepFaceLabの元のユーザーガイド。世界最大のディープフェイク・ポルノサイトに置かれていた。その後ソフトウェアはアーカイブされ、サイトは閉鎖された。出典

開発者がポルノとディープフェイクのつながりを明らかに避けていなかった以上、この技術を正当な形で使おうとする企業も、必然的に影響を受けることになる。

そのため――おそらく、同社創設者がDeepFaceLabの創設者とともに、2020年のディープフェイクに関するArxivの見解論文の著者に名を連ね、そうしたつながりをめぐって多くの批判を受けたことも大きかったのだろうが――Metaphysicには専任の倫理部門があった。同社はこの問題について積極的かつ公然と発言していた。

現在はディープフェイク・コンテンツを犯罪とする法律が世界で広がり、さらに増え続けている。AIが作る人物像にまつわるこの「不幸な」連想は、ポルノから貧困へと移った。別種のAI、通常は大規模言語モデル、すなわちLLMに直接脅かされる世界の労働者が、この用語全体を悪者扱いし始めているからだ。

村人たちは反乱を起こす

ある時点、おそらく2023年半ば、会社のさまざまな会議に出ながら、私は同社のサービスに対する、日常的でその場その場の抵抗の波が強まっていると感じ始めた。もっとも、伝聞による感覚だったことは認めておく。それは、AIが労働者の生存を脅かすという最初の社会的なうねりと重なっていた。ただし、この点でハリウッドの労組は先頭に立っていたと付け加える必要がある。

一部ではAIは「リスクを冒すほどの価値はない」と見られていたようだ。またMetaphysicは制作の絶頂期にも、かなり覇気のない若いエルヴィス・プレスリーをアメリカズ・ゴット・タレントに登場させた際の衝撃以降、誰もが認める大成功を実際には得ていなかった。主流の映画やテレビ向けにAI生成コンテンツを作っていたどの会社も同じだった。

常に何らかの嫌われる理由があるようだった。つきまとう不気味の谷、ポルノとの連想、そしてAIが引き起こすと懸念される経済的破局との連想だ。

AIの「ティラノサウルスの瞬間」

長い間私は、VFXで人間を100%忠実に再現することは、価値のある、あるいは避けられない目標だと思っていた。その分野でCGIは長年うまくいっていなかった。

AIによる視覚効果の進化は、観客を喜ばせる、業界で三度目の画期的な転換点に達すると想像していた。最初は1977年のスター・ウォーズで、頭上を轟音とともに通過するスター・デストロイヤーを初めて見た瞬間。二度目は1993年のジュラシック・パークで、怒り狂うティラノサウルスが囲いから脱出した瞬間だ。

どちらも業界を大きく変えた。それぞれに先立って、新興技術や手法の限界を押し広げる先駆者たちがいた。

だからMetaphysicの作品群は、必ずしもすぐに観客へ「ティラノサウルスの瞬間」を与えなくとも、必然的にそこへつながると思えた。いつか映画で不可能なものを見るだろう。AIによって根本から作られたものであって、CGIで取り繕われたものではない何かに、度肝を抜かれるだろうと。

今は……分からない。映画のAIが驚嘆の瞬間を迎えると信じられなくなった、というわけではない。また、AI動画がプロの仲間入りをする前に克服すべき重大な問題が多いから、というだけでもない。

むしろ私は、VFXに使われるAIと、いま他分野で生じているAIの悪影響を否定的に結びつける、芽生えつつある世間の感覚を、漠然と、そしておそらく道徳的に臆病な形で共有し始めている。

それに、Common Crawlのような、対価が払われず自由利用もできないデータセットの歴史的な影響が本当に清算されたとは、現時点では確信できない。過去18か月ほどの間に見出しを飾った数々の鳴り物入りの「AIライセンス」契約も、ある程度のIPロンダリングに当たると私は考えている。

だから、完璧で不気味さのないAI再生のマリリン・モンローやハンフリー・ボガートがスクリーンに登場したら、私は畏敬と気まずさを同時に感じるだろう。AIの魔法が抱える重荷に、自分も押され始めているからだ。

結論

以前の二つの技術的突破口には、そのような留保はなかった。ILMとモーションコントロール装置の登場は、それまで少数精鋭のその都度集まるフリーランサーが散発的な依頼に応じていた分野を、事実上ひとつの産業にした。CGIの登場はVFX業界の雇用を大幅に増やし、関連ソフトウェア開発や支援サービスにも価値を生んだ。

コンピュータービジョンへの関心は変わらない。AIが多様な映像・音響用途で持つ可能性への関心も、他分野における機械学習の幅広い応用への熱意も衰えていない。

ただ、映画館でAIの「すごい」と思える瞬間を迎えることを、以前のように楽しみにできればいいのにと思う。

Metaphysicの最盛期に比べて、映画やテレビのAI生成の顔が急に乏しくなった理由としては、制作会社が今ではAI支援の微調整をほぼ宣伝せず、あるいは一切公表せずに行っている可能性がある。2022~23年の派手なプレス発表とは対照的だ。娯楽分野のAI革新への世間の反応が最近これほど敵対的になっているからである。

第二に、繰り返すが、デビューしたAGT以降、Metaphysicは映画やテレビ番組への自社の貢献について、実際には手放しで評価される成功を得なかった。インディアナ・ジョーンズ4のディープフェイクも、他の制作会社の仕事も、模倣者が殺到したり、VFXにおけるAIに真の信頼と投資家からの支持を与えたりするほど、好評でも高収益でもなかった。

 

* これは公開されているLinkedInプロフィールとIMDBのクレジットを見るだけで簡単に確認できる。

† DeepFaceLabと、ポルノとの関連が比較的薄いFaceSwap。

初出:2026年4月27日月曜日

機械学習のライターで、人間画像合成の専門家です。Metaphysic.ai の研究コンテンツ部門の元責任者で、DNEG の Brahma.ai に統合されるまで勤務していました。
ウェブサイト: martinanderson.ai
連絡先: martin@martinanderson.ai