好莱坞深度伪造的伦理问题

为什么最近电视和电影中的深度伪造内容有所减少？作者曾在电影深度伪造先驱Metaphysic.ai工作了两年半，其中包括20个月的全职员工。

观点/特征 作为一个孩子，我被工业光魔（ILM）的故事所吸引，故事发生在一个位于范奈斯的基本仓库中，通过辛苦地建立新的运动控制视觉效果方法，来主导大部分80年代，直到计算机生成图像（CGI）的出现。

在ILM范奈斯中庭摧毁死星的部分。 来源

这是一个出色的起源故事，我推荐许多书籍和文章来讲述《星球大战》（1977年）的特效是如何在经过大量辛苦、指责和延迟后，最终交付的。

年轻的ILM后来搬到旧金山，并继续工业化光化学特效的生产。即使在1978/9年的《帝国反击战》视觉特效工作期间，ILM虽然仍然是一个开创性和创新的特效公司，但已经充满了会计和人力资源部门。

但是在那段时间里，我的想象力被捕获，思考着那些最初的“原始”年份在范奈斯是什么样的，利用模型套件和20世纪60年代的光学方法，并实际上发明了一个行业，这个行业曾经是个人特效专家的保留。

革命的面孔

在我工作于现在解散的Metaphysic.ai视觉特效公司的近三年里，我想我已经尽可能地接近了70年代中期的范奈斯经验。

在那段时间里，Metaphysic为一些最大的特许经营制作了AI驱动的、ID特定的特效镜头，包括疯狂的麦克斯和外星人特许经营，以及为罗伯特·泽米吉斯的这里(2024年)制作了开创性的（如果受到批评）去老化的深度伪造工作，以及许多其他作品：

有更多的“每日”会议（展示最新的制作镜头，在拥挤的Zoom会议中）比任何一个人都可以合理地参加，同时还有一些小型的秘密会议，选择性的小组将共同努力，寻求推进公司的最先进技术。

许多员工直接从ILM或以前曾在ILM工作；即使很明显，根据轶事，范奈斯精神早已让位于大规模的理性化，在ILM和其他一些员工来自的大型VFX公司，但这种联系对我来说仍然很有电力。

乔治·卢卡斯在《星球大战》制作期间与约翰·戴克斯特拉、理查德·埃德伦、乔·约翰斯顿和罗斯·杜伊格南一起审查特效镜头。 来源

我不知道是否可以认为Metaphysic会发明一个AI等同于戴克斯特拉Flex运动控制机构，这个机构来自范奈斯的车间；但它将AI驱动的视觉特效放在了地图上，并且在此期间，或者自那时以来，负责了比任何其他特效公司或单个项目承担的更多的专业级AI面部替换和修改。

减速

并且我必须注意到，自从公司被吸收到DNEG的Brahma AI子公司后，那个稳定的AI视觉特效工作流似乎已经减慢到几乎停滞。

尽管有这样的标题，如本·阿弗莱克的AI视觉特效Netflix合作，以及对AI的承诺来自著名导演索德伯格和阿罗诺夫斯基，我最近没有看到很多电影和电视中的深度伪造面孔（除了捕获的模拟深度伪造技术），与“Metaphysic的巅峰”相比。

考虑到AI在各个领域和行业的强烈反弹，我想知道我们是否都开始“读懂房间”的AI改变的身份；以及AI促进的努力，例如伊恩·霍姆的复活，哈里森·福特的年轻化，以及复兴老鼠帮来卖金酒，可能很快会引发现在经典的表情《那是一个不同的时代》。

负面联想

在很多方面，这是一个联想的问题；但这不是2021年Metaphysic成立时的同一个联想问题。

当时，深度伪造色情已经成为一个病毒式现象，所有SFW和NSFW输出都来自两个开源软件仓库^† 。与今天不同，没有“门槛”或审查的方式来生产照片般逼真的AI内容。

然后，世界上最大的深度伪造色情网站（注定要被调查在2025年关闭）是官方指南的所在地，用于最大的深度伪造软件仓库DeepFaceLab，这也是承认的基础，Metaphysic的原始方法：

曾经是世界上最流行的深度伪造软件的原始用户指南 – 在世界上最大的深度伪造色情网站上托管。自那时以来，软件已被存档，该网站已被关闭. 来源

由于软件开发人员明显没有回避深度伪造和色情之间的联系，这必然会影响任何试图合法采用该技术的公司。

因此（也许不仅仅是因为公司的创始人与DeepFaceLab的创始人一起被列入了2020年关于深度伪造的Arxiv论文的作者名单，并且因这些联系而受到批评），Metaphysic有一个专门的道德部门，公司在这个话题上是公开和非常公开的。

这些日子里，随着广泛和日益增长的全球立法将深度伪造内容定为犯罪，这种“不幸”的联系已经从色情转移到了贫困，因为全球劳动力直接受到不同类型的AI（通常是大型语言模型或LLM）的威胁，开始妖魔化整个“AI”一词。

村民们正在造反

在某个时候，也许是2023年中期，我开始在参加各种公司会议时，感到一种日益增长的随意的、临时的对公司提供的服务的抵抗，这与围绕AI作为对工人生存威胁的社会动荡相吻合（尽管必须指出，好莱坞工会在这方面是先驱）。

AI似乎在某些方面被视为“不值得冒险”。此外，在Metaphysic的巅峰产出期间，它从未真正拥有过一部无可争议的热门作品，除了将（相当悠闲的）年轻埃尔维斯·普雷斯利放在《美国达人秀》中。事实上，任何在主流电影和电视工作中输出AI生成内容的公司都没有。

总是有理由憎恨：始终存在的不适感谷；与色情的联系；然后，与AI驱动的经济末日的联系。

AI的“霸王龙时刻”

这似乎对我来说，重新创造人类以100%的保真度，在一个视觉特效的背景下，这个背景曾经被CGI失败了，是一个有价值的，如果不是不可避免的目标。

我想象AI在视觉特效中的演变将以第三个“epochal变化”时刻为行业而告终，令观众感到高兴。第一次是1977年《星球大战》中的星际毁灭者在头顶上轰鸣而过，第二次是1993年《侏罗纪公园》中的暴龙逃离了它的围栏。

每一个都导致了行业的根本性转变，每一个都被早期采用者推动了新兴技术或方法的极限。

因此，似乎Metaphysic的发布流将不可避免地导致这一“霸王龙时刻”；有一天，我们将在电影中看到一些不可能的事情；一些基本上由AI（而不是用CGI遮盖）制造的东西，这将令我们惊叹。

现在……我不知道。这不一定是我不相信那一刻的惊奇会来，或者AI在电影中的应用；也不是说有很多重要的问题，AI视频需要克服，才能加入专业人士的行列。

这是因为我已经开始在某种模糊的（也许是道德上的懦弱）方式中，分享了日益增长的公众对AI在视觉特效和其他领域的负面联想的感觉。

此外，我目前并不相信，像Common Crawl这样的未付费和非免费数据集的历史影响已经真正被考虑在内，我认为许多备受关注的“AI许可”协议，在过去18个月左右的时间里，代表了一定程度的知识产权洗钱。

因此，当一个完美且不令人感到不适的AI再生玛丽莲·梦露或亨弗莱·鲍嘉步入银幕时，我认为两种情绪——敬畏和尴尬——可能会在我心中产生，因为AI魔术的包袱已经开始压迫我。

结论

之前的两个技术突破没有这样的警告：ILM和运动控制机构的出现有效地发明了一个以前由零散的自由职业者组成的行业；CGI的出现大大增加了视觉特效行业的就业机会，并在相邻的软件开发以及各种支持服务中创造了价值。

我对计算机视觉的兴趣仍然存在，我的兴趣在于AI在各种可能的音频视觉应用中的潜力；我的热情在于更广泛的应用机器学习，在各个行业中，仍然没有减弱。

我只希望我仍然能够期待在电影中看到AI的“哇”时刻。

至于为什么最近电影和电视中AI生成的面孔如此稀少，相比Metaphysic最活跃的年份——一种可能的解释是，AI辅助的调整现在被制作公司以默默无闻的方式应用（相比2022-23年的响亮新闻稿），鉴于公众对娱乐业中AI创新日益敌视的反应。

第二，重申：在《美国达人秀》之后，公司在任何电影或电视节目中都没有真正的成功；其他制作公司的作品，包括印第安纳·琼斯4的深度伪造，也没有受到足够好的评价，或足够盈利，以至于开始一波跟风，或给AI在视觉特效真正的可信度和投资者友好性。

* 这可以通过查看公开的LinkedIn个人资料和IMDB信用来轻松验证。

^† DeepFaceLab和更少与色情相关的FaceSwap。

首次发布于2026年4月27日，星期一