ハリウッドのディープフェイクの倫理について

最近、テレビや映画のディープフェイクコンテンツが減っているのはなぜでしょうか。著者は、映画のディープフェイクの先駆者であるMetaphysic.aiで2年半以上、フルタイム従業員として20ヶ月間働きました。

意見/特集 子供の頃、インダストリアル・ライト・アンド・マジック（ILM）がバン・ナイズの倉庫で活動を始め、1980年代までモーション・コントロール・ビジュアル・エフェクツの新しい世代を構築したという話に魅了されました。

バン・ナイズのILMの庭でデス・スターを爆破する様子。1970年代中期。 ソース

それはすばらしいオリジン・ストーリーです。私は、スター・ウォーズ（1977年）のエフェクツがどのようにして、多大な努力、非難、遅延の末に最終的に完成したのかを語る多くの本や記事を読むことをお勧めします。

ILMは後にサンフランシスコに移転し、工業化された写真化学的エフェクツの生産を行うようになりました。1978/9年の帝国の逆襲のVFX作業の際には、ILMはまだ革新的なエフェクツ・ハウスでしたが、すでに会計と人事部門が整備されていました。

しかし、その期間中、そしてその後も、私の想像力は、バン・ナイズでの最初の数年がどのようなものだったのか、モデルキットや1960年代の光学的方法を利用して、実際に産業を生み出していたのか、に捉えられていました。

革命の顔

Metaphysic.aiという視覚効果会社で約3年間働いた私は、1970年代中期のバン・ナイズでの経験にできるだけ近づいたと思います。

その間、Metaphysicは、マッドマックスやエイリアンフランチャイズを含む大手フランチャイズのために、AI駆動のID固有のエフェクツ・ショットを制作しました。また、ロバート・ゼメキスのHere（2024年）向けの開拓的な（しかし批判された）若返りディープフェイク作業を行い、多くの作品を制作しました。

「デイリー」ミーティング（最新の映像を混雑したZoomミーティングで見せる）があまりにも多く、誰もが参加し自分の仕事をこなすことができませんでした。また、スカンクワークス・スタイルの会議もあり、選ばれたグループがミニ・ムーンショットに取り組み、会社の最先端技術を進歩させることを目指しました。

多くのスタッフは、ILMから直接、または過去にILMで働いていた人たちでした。バン・ナイズの精神はILMではすでに失われていたことは明らかでしたが、ILM出身のスタッフが多かったことから、電気的な感覚が私にとって残っていました。

<img class=" wp-image-414718" src="https://www.unite.ai/wp-content/uploads/2026/04/ILM-lucas-dykstra-van-nuys.jpg" alt="ジョージ・ルーカスがジョン・ディクストラ、リチャード・エドランド、ジョー・ジョンストン、ローズ・デュイグナンと共に、スター・ウォーズの制作中にエフェクツ・ショットを確認する様子。ソース – https://theasc.com/articles/star-wars-miniature-effects-dykstra” width=”748″ height=”437″ /> ジョージ・ルーカスがジョン・ディクストラ、リチャード・エドランド、ジョー・ジョンストン、ローズ・デュイグナンと共に、スター・ウォーズの制作中にエフェクツ・ショットを確認する様子。 ソース

私は、Metaphysicがバン・ナイズのスウェットショップから生まれたディクストラフレックスモーション・コントロール・リグのAI相当のものを発明するかどうかはわかりません。しかし、MetaphysicはAI駆動のVFXを地図に乗せ、当時のどのエフェクツ・ハウスやプロジェクトよりも多くのプロフェッショナル・レベルのAIフェイス・リプレイスメントと変更を行いました。

減速

そして、私は会社がDNEGのブラフマ AI子会社に吸収された後、AIベースの視覚効果作業が著しく減速していることを指摘しなければなりません。

ベン・アフレックのNetflixとのAI VFXパートナーシップや、ソダーバーグやアロノフスキー監督のAIへのコミットメントなどのヘッドラインにもかかわらず、最近は映画やテレビにディープフェイクの顔があまり見られません（ザ・キャプチャのディープフェイク技術のシミュレーションを除く）。

AIバックラッシュが広がっていることを考えると、AIが改変されたアイデンティティを読む部屋に私たちがすべて始めて参加しているのではないかと思います。さらに、エイリアン・ロムルスでのイアン・ホルムの復活、インディアナ・ジョーンズと運命のダイヤルでのハリソン・フォードの若返り、およびジン広告でのラット・パックの復活などのAI支援の努力が、「それは別の時代でした」というクラシックなメームを引き起こすことになるかもしれません。

否定的関連付け

多くの点で、それは関連付けの問題です。しかし、それは2021年にMetaphysicが設立されたときと同じ関連付けの問題ではありません。

当時、ディープフェイク・ポルノがウイルス的な現象となっており、すべてのSFWおよびNSFW出力は2つのオープンソース・ソフトウェア・リポジトリから来ていたことに対比して、今日では「門番」や検閲されたディープフェイク・コンテンツの制作方法はありません。

当時、世界最大のディープフェイク・ポルノ・サイト（2025年に調査により閉鎖されることになる）は、公式のディープフェイク・ソフトウェア・リポジトリであるDeepFaceLabの公式ガイドが公開されていた場所でした。

世界最大のディープフェイク・ポルノ・サイトにホストされていた、当時最も人気のあるディープフェイク・ソフトウェアであるDeepFaceLabのオリジナル・ユーザー・ガイド。ソース – https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

ソフトウェア開発者は、ポルノとディープフェイクの関連付けから明らかに遠ざかろうとしなかったため、これはディープフェイク技術を正当に採用しようとする会社に影響を及ぼすことになりました。

したがって（おそらくMetaphysicの創設者が2020年にディープフェイクに関するArxivの位置紙の著者の一人であり、批判されたことから）、Metaphysicには倫理部門が設けられ、会社はこのトピックで大きな声で発言しました。

現在、ディープフェイク・コンテンツを犯罪化する包括的な法的枠組みが整備されているため、AI生成されたアイデンティティに関する「不幸な」関連付けは、ポルノから貧困に移り、AI（通常は大規模言語モデルまたはLLM）によって直接脅かされている世界的な労働力が、AIという用語を全面的に悪魔化し始めています。

村人たちは反乱を起こしている

ある時点で、2023年の半ば頃、会社の会議に出席し始めた私は、会社が提供するサービスに対する、ある種のアドホックな抵抗の波が広がり始めたことを感じました。同時に、AIが労働者への存在的な脅威として社会的に広がり始めました（ただし、ハリウッドの労働組合は先駆者でした）。

AIは、ある意味で、「リスクに値しない」と見なされていたようです。また、Metaphysicのピーク期には、アメリカズ・ゴット・タレントでのデビュー以降、確固たるヒット作がなかったです。実際、インディアナ・ジョーンズ4のディープフェイクや他の制作会社の作品も、十分に評価されていませんでした。

AIの「ティラノサウルス・モーメント」

長い間、私は、VFXの文脈で人間を100%の忠実性で再現することが、価値のある目標であると思っていました。

私は、視覚効果の進化が、業界にとって第三のエポックの変化をもたらすと想像しました。最初のものは、1977年のスター・ウォーズでスター・デストロイヤーが上空を飛行する様子を見たときでした。2つ目は、1993年のジュラシック・パークでティラノサウルスがその柵から逃げ出す様子を見たときでした。

それぞれが業界に革命的な変化をもたらしました。また、それぞれが新しい技術や方法の限界を押し広げた先駆者によって予告されました。

したがって、Metaphysicのリリースの流れは、必ずしも「ティラノサウルス・モーメント」を提供しなかったとしても、必ずそれに到達するだろうと私は考えました。ある日、私たちは映画で不可能なものを見ることになるでしょう。何か根本的にAIによって作られたもの（CGIで紙を被せたのではなく）を見て、驚嘆することになるでしょう。

しかし、今私はわかりません。私がAIの「ティラノサウルス・モーメント」が来ることを信じていないのではなく、AIビデオがプロフェッショナルに加わる前に克服しなければならない重大な問題があるからです。

さらに、私はAIの歴史的影響が、未払いおよび非無料のデータセット（コモン・クロールなど）に基づいていることを考慮に入れていないと考えています。また、過去18ヶ月ほどで注目を集めた「AIライセンス」契約の多くは、知的財産の洗浄を表していると考えています。

したがって、完全に再現されたマリリン・モンローまたはハンフリー・ボガートがスクリーンに現れたとき、私は驚きとあわただしさの二つの感情を抱くことになるでしょう。AIの魔法の負担が私を圧倒しているからです。

結論

過去2つの技術的ブレークスルーは、そんな条件なしで来ました。ILMとモーション・コントロール・リグの出現は、以前は個々のアドホックのフリーランスの仕事であった産業を生み出し、CGIの出現はVFX業界の仕事の数を大幅に増やし、隣接するソフトウェア開発や様々な支援サービスで価値を生み出しました。

私の興味は、コンピュータ・ビジョンと、オーディオ・ビジュアル・アプリケーションにおけるAIの可能性にあります。また、機械学習の幅広い分野への応用に対する私の熱意は、まだ強いです。

私はただ、AIの「ワウ」モーメントが映画で見られることを楽しみにしているだけです。

Metaphysicの最も活発な年と比較して、AI生成された顔が映画やテレビに現れる頻度が急激に減少している理由の1つは、プロダクション・ハウスが今ではAI支援の変更をほとんど宣伝せずに適用している可能性があることです（2022〜23年の盛り上がりのときとは対照的に）。

2つ目に、AGTでのデビュー以降、Metaphysicはどの映画やテレビ番組でも確固たるヒット作を上げていませんでした。インディアナ・ジョーンズ4のディープフェイクや他の制作会社の作品も、十分に評価されていなかったので、AIがVFXで真正な信頼性と投資家の親しみを得ることはできませんでした。

* これは、公開されているLinkedInプロフィールやIMDBクレジットをただ見るだけで簡単に検証できます。

^† DeepFaceLabと、ポルノに関連しないFaceSwap。

2026年4月27日初出。