深度伪造和在合成媒体的新时代中导航

记得“假新闻”吗？这个词已经被使用（和滥用）到现在很难记得它最初指的是什么。但这个概念有一个非常具体的起源。十年前，记者开始警告人们关于大量假“新闻”网站散布关于政客和名人的虚假、往往是荒谬的说法。很多人可以立即看出这些网站是非法的。

但很多人缺乏识别这些网站的批判性工具。结果就是第一次引发了一场认识论危机，这场危机现在正在席卷互联网——这场危机已经达到了其最令人恐惧的表现，即深度伪造的崛起。

即使是合格的深度伪造，与过去的“假新闻”网站相比，也显得很温和。更糟糕的是，即使那些认为自己拥有相对较高的媒体素养的人也容易被欺骗。使用合成媒体和深度学习算法以及生成式AI创建的合成媒体有可能破坏我们社会的基础。根据德勤的说法，仅今年，合成媒体就可能通过虚假交易和其他类型的欺诈使企业损失超过2.5亿美元。同时，世界经济论坛将深度伪造称为“最令人担忧的AI应用之一”，指出“有议程驱动的、实时AI聊天机器人和虚拟人物”可能促进新的、超个人化的（和超有效的）操纵形式。

世界经济论坛建议的回应是合理的：他们提倡“零信任心态”，即对每次与数字媒体的互动都持有一定的怀疑态度。如果我们希望在未来，尤其是在沉浸式在线环境中，区分真实和合成内容，那么这种心态将变得越来越重要。

应对深度伪造危机的两种方法

打击由合成媒体滋生的泛滥性虚假信息将需要，依我看，两种不同的方法。

第一种方法是验证：为普通互联网用户提供一种简单的方法来确定他们正在看的视频是否确实是真实的。这种工具在保险等行业已经很普遍，因为坏人可能会使用篡改的视频、照片和文件来提交虚假索赔。将这些工具民主化——使其免费和易于访问——是这场战斗中的关键第一步，我们已经在这方面看到了一些重要的进展。

第二步更具挑战性，也不那么依赖技术：即提高意识和培养批判性思维能力。在最初的“假新闻”丑闻发生后，2015年，全国各地的非营利组织制定了媒体素养计划，并致力于推广最佳实践，通常与当地的公民机构合作，赋予普通公民识别虚假信息的能力。当然，过去的“假新闻”与最先进的深度伪造相比简直是儿童游戏，这就是为什么我们需要在这方面加倍努力并在各个层面投资教育的原因。

高级深度伪造需要高级批判性思维

当然，当时的虚假信息是基于文本的，因此这些教育计划相对容易实施。当时的假新闻网站往往有明显的欺骗迹象：拙劣的网页设计、到处都是打字错误、奇怪的引用来源。对于深度伪造来说，这些迹象要微妙得多，通常很难一眼看出来。

因此，各个年龄段的互联网用户需要有效地重新训练自己，以便在数字视频中识别深度伪造的指标。这意味着要密切关注多个因素。对于视频来说，这可能包括看起来不真实的模糊区域和阴影；看起来不自然的面部运动和表情；过于完美的皮肤色调；不一致的衣物和运动模式；唇部同步错误等等。对于音频来说，这可能意味着听起来过于纯净（或明显数字化）的声音，缺乏人类情感基调，奇怪的语音模式或不寻常的措辞。

在短期内，这种自我训练可能非常有用。通过一次又一次地问自己，这看起来可疑吗？，我们不仅能提高识别深度伪造的能力，还能提高批判性思维能力。然而，我们正迅速接近一个点，即使是最受过训练的眼睛也无法在没有外部帮助的情况下区分事实和虚构。视觉线索——上述不规则性——将被技术上抹平，以至于完全制造的片段将无法与真正的文章区分开来。我们将只剩下我们的环境直觉——我们的能力来问自己这样的问题：某某政治家或名人真的会说这样的话吗？这个视频的内容是否合理？

在这种情况下，AI检测平台变得至关重要。由于裸眼在深度伪造检测方面变得无关紧要，这些平台可以作为现实的最终仲裁者——成为认识论深渊的护栏。当一个视频看起来真实但似乎可疑——这将在未来几个月和几年中越来越频繁地发生——这些平台可以通过确认我们正在查看的内容的基本真实性来使我们保持脚踏实地。最终，拥有如此强大的技术，我们唯一的救星就是AI本身。我们需要用火对火——使用好的AI来根除技术的最坏滥用。

实际上，获得这些技能的过程不需要是愤世嫉俗或消极的。培养零信任心态可以被视为提高批判性思维、直觉和意识的机会。通过一次又一次地问自己某些关键问题——这有意义吗？这可疑吗？——你提高了自己面对不仅仅是假媒体，还有整个世界的能力。如果深度伪造时代有一个 silver lining，那就是这个。这迫使我们自己思考，变得更加实证，在日常生活中——这只能是一件好事。