ハリウッドのディープフェイクの倫理について

最近、テレビや映画のディープフェイクコンテンツが減っているのはなぜでしょうか。著者は、映画のディープフェイクの先駆者であるMetaphysic.aiで2年半以上、フルタイム従業員として20ヶ月間働きました。

意見/特集 子供の頃、インダストリアル・ライト・アンド・マジック（ILM）の設立についての話に魅了されました。バン・ナイズの倉庫で、痛みながら新しいモーションコントロールのビジュアルエフェクト方法を構築し、1980年代の大部分を支配し、CGIの登場まで続きました。

1970年代中頃、ILMのバン・ナイズの庭でデス・スターの一部を爆破しています。 ソース

これは優れた起源物語であり、スター・ウォーズ(1977)のエフェクトがどのようにして、多大な労力、非難、遅延の末に最終的に届けられたのかを再現する多くの本や記事を勧めます。

ILMの若い時代は後にサンフランシスコに移り、工業化された写真化学的エフェクトの生産を続けました。1978/9年のエンパイア・ストライクス・バックのVFX作業の際には、ILMはまだ先駆的な革新的なエフェクトハウスでしたが、すでに会計と人事部門で溢れていました。

しかし、その期間中、およびそれ以降、私の想像力は、最初の「生」の数年間のバン・ナイズのようになっていたことを考えていました。モデルキットや1960年代の光学方法を共有し、実質的に個々のオートール VFXスペシャリストの領域であった業界を発明しました。

革命の顔

Metaphysic.aiという視覚効果会社で約3年間働いた私は、1970年代中頃のバン・ナイズの経験にできるだけ近づいたと思います。

その間、Metaphysicは、マッドマックスやエイリアンフランチャイズを含む最大のフランチャイズの一部のAI駆動のID固有のエフェクトショットを生成しました。また、ロバート・ゼメキスのHere(2024)の開拓的な（しかし批判的な）デエイジングディープフェイク作業を生成し、多くの作品を制作しました：

「デイリー」会議（最新の映像を混雑したZoom会議で表示する）は誰でも参加して自分の仕事をこなせるほど多くあり、スカンクワークスタイルの集まりもあり、選択されたグループがミニムーンショットで協力して会社の最先端技術を進歩させようとしました。

多くのスタッフはILMから直接、または過去にILMで働いたことがありました*；そして、ILMのバン・ナイズの精神が長期にわたってILMや他の主要VFXハウスで合理化されたことは明らかだったですが、関連付けは私にとって電気的でした。

<img class=" wp-image-414718" src="https://www.unite.ai/wp-content/uploads/2026/04/ILM-lucas-dykstra-van-nuys.jpg" alt="ジョージ・ルーカスは、リチャード・エドランド、ジョン・ダイクストラ、ジョー・ジョンストン、ローズ・デュイグナンと共に、スター・ウォーズの制作中にエフェクトショットを確認しています。” width=”748″ height=”437″ /> ジョージ・ルーカスは、リチャード・エドランド、ジョン・ダイクストラ、ジョー・ジョンストン、ローズ・デュイグナンと共に、スター・ウォーズの制作中にエフェクトショットを確認しています。 ソース

私は、Metaphysicがバン・ナイズのスウェットショップから生まれたDykstraFlexモーションコントロールリグに相当するAIの等価物を発明するかどうかはわかりません；しかし、AI駆動のVFXを地図に乗せ、当時の他のエフェクトハウスやプロジェクトよりも多くのプロフェッショナルレベルのAI顔置換と変更を行いました。

減速

そして、私は会社がDNEGのBrahma AI子会社に吸収された後、AIベースの視覚効果作業のsteady streamが大幅に減速したことを指摘しなければなりません。

ベン・アフレックのAI VFX Netflixパートナーシップなどのヘッドラインや、ソデルバーグやアロノフスキー監督からのAIへのコミットメントにもかかわらず、最近、映画やテレビでディープフェイクの顔をあまり見なくなりました（The Captureのディープフェイク技術のシミュレーションを除く）。

多くの分野やセクターで広がるAIバックラッシュの範囲を考えると、私は私たちがすべてAI変更されたアイデンティティを「読み取る」ことを始めているのではないかと思います。さらに、イアン・ホルムの復活、ハリソン・フォードの若返り、およびラット・パックの復活などのAI支援の努力がすぐにクラシックなメーム「それは別の時代でした」を引き起こす可能性があるのではないかと思います。

否定的な関連付け

多くの点で、これは関連付けの問題ですが、それは2021年にMetaphysicが設立されたときと同じ関連付けの問題ではありません。

当時、ディープフェイクポルノはウイルス的な現象となり、すべてのSFWおよびNSFW出力は2つのオープンソースソフトウェアリポジトリの1つから生まれました^† 。今日とは異なり、写真現実的なAIコンテンツを生成する「門番」または検閲された方法はありませんでした。

当時、世界最大のディープフェイクポルノサイト（2025年に調査により閉鎖されることになっていた）は、公式の手順が記載されていた、最大のディープフェイクソフトウェアリポジトリであるDeepFaceLabでした。DeepFaceLabは、Metaphysicの元のアプローチの認められた基盤でした：

世界最大のディープフェイクソフトウェアであったDeepFaceLabのオリジナルのユーザーガイド。 ソース

ソフトウェア開発者は明らかに、ディープフェイクとポルノの関連付けを避けていなかったため、これは明らかにこの技術を正当に採用しようとする会社に影響を及ぼすことになりました。

したがって、Metaphysicの創設者は2020年にDeepFaceLabの創設者と共にディープフェイクに関するArxivの立場文書の著者として含まれていたこと^† 、およびこれらの関連付けについて批判されたことから、Metaphysicには専門の倫理部門があり、会社はこのトピックで大きな声で公然と発言しました。

現在、広範囲にわたる世界的な立法がディープフェイクコンテンツを犯罪化しているため、AI生成されたアイデンティティに関する「不幸な」関連付けはポルノから貧困に移り、AI（通常は大規模言語モデルまたはLLM）によって直接脅かされている世界的な労働力が、異なる種類のAIを悪魔化し始めています。

村人たちは反乱を起こしている

ある時点で、2023年の中頃に、さまざまな会社の会議に出席し、会社が提供しているサービスに対する日常的なアドホック抵抗の波が高まっているのを感じ始めました。これは、AIが労働者への存在的な脅威としての社会的波が高まったときに一致しました（ただし、ハリウッドの組合はこの点で先駆者でした）。

AIは「リスクに値しない」と見なされることがありました。さらに、Metaphysicのピーク期間中、若いエルビス・プレスリーをアメリカズ・ゴット・タレントに登場させるというショック値以外に、明確なヒットはありませんでした。実際、メインストリームの映画やテレビ作品でAI生成コンテンツを出力していた他の会社も同様でした。

いつも何かを嫌う理由がありました：常に存在する不気味の谷；ポルノとの関連付け；そして、AI駆動の経済的黙示録への脅威との関連付け。

AIの「ティラノサウルス・モーメント」

長い間、私には、VFXの文脈で100％の忠実性を持って人間を再現することが、CGIが長い間失敗してきたことを考えると、価値のある、あるいは不可避の目標であると思われました。

私は、視覚効果におけるAIの進化が、最終的に業界の第三の「時代的な変化」の瞬間につながり、視聴者を喜ばせるものであると想像しました。最初は、1977年のスター・ウォーズでスター・デストロイヤーが頭上を通過する瞬間でした。2つ目は、1993年のジュラシック・パークで、ティラノサウルスがその囲いから逃げ出す瞬間でした。

各々が業界に革命的な変化をもたらし、各々が新しい技術や方法の先駆者によって予告されました。

したがって、Metaphysicのリリースのストリームは、必ずしも私たちに「ティラノサウルス・モーメント」を提供するとは限りませんでしたが、最終的にはそれに到達するはずだと思いました。ある日、私たちは映画で「不可能な」ものを見て、AI（CGIで紙を被せたのではなく）によって「根本的に作られた」ものを見て、驚かされるはずです。

今では…わかりません。AIが映画でその瞬間をもたらさないと信じているのではなく、AIのビデオがプロフェッショナルと同じテーブルに着く前に克服しなければならない多くの重要な問題があることを認識しているのです。

ただし、私は、AIのVFXにおける否定的な関連付けと、他のセクターにおけるAIの否定的な影響について、未発達で、そしておそらく道徳的に臆病な方法で成長している公共の感情を共有し始めました。

さらに、Common Crawlなどの未払いおよび非フリーのデータセットの歴史的な影響がまだ十分に説明されていないこと、および過去18ヶ月ほどで話題になった「AIライセンス」契約の多くがIP洗浄を表していることを考えると、私はその時点で完璧で不気味のないAI再生マリリン・モンローまたはハンフリー・ボガートがスクリーンに登場したとき、驚きとあわただしさの二つの感情が私に生じるだろうと思います。

結論

以前の2つの技術的ブレークスルーはそのような注意書きなしでした。ILMとモーションコントロールリグの出現は、以前は散発的な依頼に応える個々のアドホックのフリーランスのエリートで構成されていた業界を発明しました。CGIの出現は、VFX業界の仕事の数を大幅に増やし、隣接するソフトウェア開発やさまざまなサポートサービスで価値を生み出しました。

私のコンピュータービジョンへの関心は、オーディオビジュアルアプリケーションの幅広い可能性におけるAIの潜在力への関心とともに、維持されています。機械学習のより広範な応用に対する私の熱意は、他のセクター全体で揺らぎません。

私はただ、映画でそのAIの「ワウ」瞬間を期待し続けることができればよいと思います。

Metaphysicの最も活発な年と比較して、AI生成された顔が映画やテレビに突然少なくなった理由の1つは、AI支援の調整が今や宣伝なしで制作会社によって適用されていることです（2022〜23年の間の大きなプレスリリースと比較して）。

2つ目に、AGTでのデビューの後、Metaphysicは、映画やテレビ番組への自身の貢献について、真正なヒットを決して収めることができませんでした。インディアナ・ジョーンズ4のディープフェイクや他の制作会社からの他の作品は、十分に受け入れられず、または十分に儲かっていないため、AIのVFXにおける真正な信頼性と投資家の友好性を得ることができませんでした。

* これは、LinkedInのプロフィールやIMDBのクレジットを簡単に確認することで検証できます。

^† DeepFaceLabと、よりポルノに結びついていないFaceSwap。

2026年4月27日月曜日に最初に公開されました。