好莱坞深度伪造的伦理问题

为什么最近电视和电影中的深度伪造内容有所减少？作者曾在电影深度伪造先驱公司Metaphysic.ai工作了两年半，其中包括20个月的全职工作。

观点/特稿 作为一个孩子，我被工业光魔公司（ILM）的故事所吸引，公司从范奈斯的一个基本仓库开始，通过辛苦地建设新的运动控制视觉效果方法，最终主导了1980年代的大部分时间，直到CGI的出现。

在范奈斯的ILM院子里炸毁死星的部分。 来源

这是一个出色的起源故事，我推荐阅读许多书籍和文章，它们重述了如何在1977年为《星球大战》制作特效的经过。

后来，刚刚成立的ILM公司将搬到旧金山，并开始将光化学特效生产工业化。即使在1978/9年为《帝国反击战》制作特效时，ILM虽然仍然是一个开创性的和创新的特效公司，但已经拥有了会计和人力资源部门。

但是在那段时间里，我的想象力被那些最初几年的“原始”经历所吸引，利用模型套件和1960年代的光学方法，实际上是在创造一个曾经由个人独自完成的行业。

革命的面孔

在我工作于现已解散的Metaphysic.ai视觉特效公司的近三年里，我想我已经尽可能地接近了1970年代范奈斯的经历。

在那段时间里，Metaphysic为一些最大的特许经营公司制作了AI驱动的、ID特定的特效镜头，包括《疯狂的麦克斯》和《异形》系列，以及为罗伯特·泽米吉斯的《这里》（2024年）制作了开创性的（尽管受到批评的）去老化深度伪造工作，以及其他许多作品：

有很多“每日”会议（在拥挤的Zoom会议中展示最新的镜头），以及类似于秘密实验室的聚会，选择性的小组将共同努力，试图推进公司的技术水平。

许多员工直接来自ILM，或者曾经为ILM工作过；尽管从轶事中可以看出，范奈斯的精神早已让位于ILM的大规模合理化，以及其他一些员工曾经工作过的主要特效公司，但这种联系对我来说仍然很有电击作用。

乔治·卢卡斯与约翰·迪克斯特拉、理查德·埃德伦德、乔·约翰斯顿和罗丝·杜伊格南一起审查《星球大战》的特效镜头。 来源

我不知道是否可以说Metaphysic会发明一个AI等同的DykstraFlex运动控制装置，这个装置来自范奈斯的工作坊；但它将AI驱动的视觉特效放在了地图上，并且在该期间内，超过其他任何特效公司或项目，负责专业级别的AI面部替换和修改。

减速

而且我必须指出，自从公司被DNEG的Brahma AI子公司吸收后，AI驱动的视觉特效工作的稳定流动似乎已经减慢到几乎停滞。

尽管有这样的标题，如本·阿弗莱克的AI视觉特效Netflix合作，以及索德伯格和阿罗诺夫斯基等导演对AI的承诺，我最近在电影和电视中没有看到太多深度伪造的脸（除了《捕获》的模拟深度伪造技术），与Metaphysic的巅峰时期相比。

鉴于AI后备的程度在各个领域和行业中如此之广泛，我想知道我们是否都开始“读懂房间”的气氛；如果我们是否都开始以更负面的方式看待AI改变的身份；以及AI促进的努力，例如伊恩·霍姆的复活，哈里森·福特的年轻化，以及拉特帕克的复兴，可能很快会引发现在经典的表情：“那是一个不同的时代”。

负面联想

在很多方面，这是一个联想的问题；但这不是2021年Metaphysic成立时的同一个联想问题。

当时，深度伪造色情已经成为一个病毒式的现象，所有的安全和不安全内容都来自两个开源软件存储库^†。相比之下，今天没有“门槛”或审查的方式来产生照片般逼真的AI内容。

当时，世界上最大的深度伪造色情网站（注定要被2025年的一次调查关闭）的官方指南是为DeepFaceLab软件库本身提供的，这也是Metaphysic最初方法的基础：

DeepFaceLab的原始用户指南，当时是世界上最流行的深度伪造软件——在世界上最大的深度伪造色情网站上托管。 来源

由于软件开发人员明显没有回避色情和深度伪造之间的联系，这将不可避免地影响任何试图合法采用这种技术的公司。

因此（也许不仅仅是因为公司的创始人与DeepFaceLab的创始人一起被列入2020年关于深度伪造的Arxiv论文的作者名单，并且因此受到批评），Metaphysic拥有一个专门的道德部门，公司在这个话题上也非常公开和热衷。

这些日子里，随着全球立法criminal化深度伪造内容的广泛和日益增长的趋势，那种“不幸”的与AI创建的身份相关的联想已经从色情转移到了贫困，因为受到不同类型的AI（通常是大型语言模型或LLM）直接威胁的全球劳动力开始将“AI”一词妖魔化。

村民们正在造反

在某个时候，也许是2023年中期，参加各种公司会议时，我开始感到，虽然是间接的，一种日益增长的、零散的、对公司提供的服务的抵制浪潮，与围绕AI作为工人生存威胁的社会情绪的最早涌动相吻合（尽管必须指出，好莱坞工会在这方面是先驱）。

AI似乎在某些方面被视为“不值得冒险”。此外，在Metaphysic的巅峰时期，它从未真正在任何电影或电视节目中取得过无可争议的成功，除了在《美国达人秀》中让年轻的埃尔维斯·普雷斯利出场。事实上，任何公司在主流电影和电视工作中输出AI生成的内容都没有真正成功。

总是有理由憎恨：始终存在的不适感；与色情的联系；然后，与被AI驱动的经济末日的威胁联系在一起。

AI的“霸王龙时刻”

对我来说，似乎重新创造人类以100%的真实性，在视觉特效的背景下，这是一个值得的、如果不是不可避免的目标。

我想象AI在视觉特效中的演化将以第三个“epochal change”时刻为行业带来欢乐的时刻，就像1977年《星球大战》中星际驱逐舰飞过头顶的第一眼和1993年《侏罗纪公园》中霸王龙逃脱的场景一样。

每一个都导致了行业的根本性转变，每一个都被早期采用者推动了新兴技术或方法的极限。

因此，Metaphysic的发布似乎必然会导致这一刻；我以为，我们终将会在电影中看到一些“不可能”的东西；一些“根本上由AI创造”的东西，而不是用CGI“粉饰”过的东西，那将会让我们感到惊讶。

现在……我不知道。我不一定不相信那一刻的惊奇会来临，AI在电影中的应用也不一定会失败；也不是说AI视频在加入专业人士之前还有很多关键问题需要克服。

只是我已经开始在某种模糊的、也许是道德上懦弱的方式中，分享了日益增长的公众情绪，即AI在视觉特效中的负面联想，以及AI在其他领域的负面影响。

此外，我目前并不相信未付费和非免费数据集（如Common Crawl）的历史影响已经被充分考虑；我认为许多备受关注的“AI许可”协议，在过去18个月左右的时间里，代表了一定程度的知识产权洗钱。

因此，当一个完美且不令人感到不适的AI重现的玛丽莲·梦露或亨弗莱·鲍嘉出现在银幕上时，我想我会感到既惊讶又尴尬，因为AI的魔术已经开始让我感到沉重。

结论

之前的两项技术突破没有这样的警告；ILM和运动控制装置的出现有效地创造了一个以前由零散的自由职业者完成的行业；CGI的出现大大增加了视觉特效行业的就业机会，并在软件开发和各种支持服务中创造了价值。

我对计算机视觉的兴趣仍然存在，包括AI在各种音频视觉应用中的潜力；我对机器学习在各个领域的更广泛应用的热情也没有减弱。

我只希望我仍然能够期待在电影院看到AI的“哇”时刻。

至于为什么最近电影和电视中AI生成的脸的数量突然减少，相比Metaphysic最活跃的年份之一种可能的解释是，AI辅助的调整现在由制作公司以很少或没有公开宣传的方式应用（相比2022-23年期间的高调新闻发布会）；鉴于公众对娱乐业中AI创新日益敌视的反应。

第二，其次，重申：在《美国达人秀》之后，Metaphysic从未真正在任何电影或电视节目中取得过无可争议的成功；而印第安纳·琼斯4的深度伪造或其他制作公司的作品都没有受到好评，足以引发追随者，或者给AI在视觉特效带来真正的可信度和投资吸引力。

* 这可以通过查看公开的LinkedIn个人资料和IMDB信用证来轻松验证。

^† DeepFaceLab和较少与色情相关的FaceSwap。

首次发表于2026年4月27日，星期一