深度伪造和应对新型合成媒体时代

还记得“假新闻”吗？这个词已经被使用和滥用到现在很难记住它最初指的是什么。但是这个概念有一个非常具体的起源。十年前，记者开始警告人们关于大量假的“新闻”网站的涌入，这些网站发布关于政客和名人的虚假和耸人听闻的声明。很多人可以立即判断出这些网站是非法的。

但是，很多人缺乏批判性思维的能力来识别这些网站的虚假性。结果就是，互联网上出现了一个认识论危机的开始，这个危机现在已经发展到以深度伪造的形式表现出来。相比之下，过去的“假新闻”网站似乎很温和。更糟糕的是，即使那些自认为具有相对较高的媒体素养的人也可能被欺骗。使用深度学习算法和生成式人工智能创建的合成媒体有可能破坏我们社会的基础。根据德勤的报告，仅在今年，合成媒体就可能通过虚假交易和其他类型的欺诈行为使企业损失超过2.5亿美元。同时，世界经济论坛将深度伪造称为“人工智能最令人担忧的应用之一”，指出“有议程驱动的、实时人工智能聊天机器人和虚拟人物”可能会促进新的、个性化的操纵形式。

世界经济论坛提出的解决这个问题的方法是合理的：他们提倡一种“零信任心态”，即对每次与数字媒体的互动都持有一定的怀疑态度。如果我们希望在未来区分真实和合成的媒体，特别是在沉浸式在线环境中，这种心态将变得越来越重要。

应对深度伪造危机的两种方法

在我看来，打击合成媒体滋生出的泛滥的虚假信息需要两种不同的方法。

第一种方法是验证：为普通的互联网用户提供一种简单的方法来确定他们正在看的视频是否真实。这样的工具在保险等行业已经很普遍，因为不法分子可能会使用篡改的视频、照片和文件来提交虚假索赔。使这些工具民主化——使它们免费和易于访问——是这场战斗中的第一步，我们已经在这方面看到了一些进展。

第二步更具挑战性：提高人们的认识和批判性思维能力。在最初的“假新闻”丑闻发生后的2015年，全国各地的非营利组织制定了媒体素养计划，并与当地的公民机构合作，赋予普通公民识别虚假信息的能力。当然，过去的“假新闻”与最先进的深度伪造相比简直是儿戏，这就是为什么我们需要在这方面加倍努力并投资于各级教育。

高级深度伪造需要高级批判性思维

当然，当虚假信息是基于文本时，这些教育计划要容易实施得多。与假新闻网站相比，虚假网站的迹象往往很明显：设计粗糙、错别字频繁、来源可疑。与深度伪造相比，这些迹象要微妙得多，往往很难立即察觉。

因此，各个年龄段的互联网用户需要有效地重新训练自己，以便在数字视频中识别深度伪造的指标。这意味着要密切关注多个因素。对于视频来说，这可能包括看起来不真实的模糊区域和阴影；看起来不自然的面部运动和表情；过于完美的皮肤色调；不一致的服装和动作模式；唇部同步错误；等等。对于音频来说，这可能包括听起来过于完美（或明显数字化）的语音；缺乏人类情感基调；奇怪的语音模式；或不寻常的措辞。

在短期内，这种自我训练可以非常有用。通过一次又一次地问自己，是否可疑，我们不仅提高了识别深度伪造的能力，还提高了我们的批判性思维能力。然而，我们正在迅速接近一个点，即使是最受过训练的眼睛也无法在没有外部帮助的情况下区分事实和虚构。视觉线索——上述不规则性——将被技术上平滑处理，以至于完全制造的片段将与真品无法区分。我们将只剩下我们的环境直觉——我们问自己是否可信的问题，例如“某某政治家或名人会说这样的话吗？”“这个视频的内容是否合理？”

在这种情况下，人工智能检测平台变得至关重要。随着肉眼变得无关紧要，人工智能检测平台可以作为现实的最终仲裁者——防止我们陷入认识论深渊的护栏。当一个视频看起来很真实，但似乎很可疑——这将在未来几个月和几年中越来越常见——这些平台可以通过确认我们正在看的内容的基本真实性来让我们保持脚踏实地。最终，拥有如此强大的技术，我们唯一能拯救自己的就是人工智能本身。我们需要用火对火——使用好的人工智能来消除技术的最坏滥用。

实际上，获得这些技能的过程不需要是愤世嫉俗或消极的。培养零信任心态可以被视为提高批判性思维、直觉和认识的机会。通过一次又一次地问自己某些关键问题——是否有意义？是否可疑？——你提高了自己的能力，不仅可以应对假媒体，还可以应对世界。深度伪造时代的唯一积极方面就是这样。如果我们被迫为自己思考，并在日常生活中变得更加理性——这只能是一件好事。