ما هي Deepfakes؟

随着Deepfakes变得更容易制作和更普遍，人们对其关注也越来越多。Deepfakes已经成为人工智能伦理、虚假信息、信息开放和互联网监管讨论的焦点。了解Deepfakes并对其有直观的理解是非常重要的。本文将阐明Deepfakes的定义，探讨其用途，讨论如何检测Deepfakes，并研究Deepfakes对社会的影响。

什么是Deepfakes？

在进一步讨论Deepfakes之前，了解什么是Deepfakes是非常重要的。Deepfakes是一种使用机器学习系统，特别是深度神经网络，生成的假媒体。目前，人们对Deepfakes的概念还存在很多混淆，经常将任何伪造的媒体都称为Deepfakes。

Deepfakes的关键成分是机器学习。机器学习使得计算机可以快速、轻松地生成视频和音频。深度神经网络通过训练真实的人的视频来学习人在特定环境下的外貌和动作。然后，训练好的网络被用于其他人的图像，并结合计算机图形技术来合成新的人和原始视频。编码算法用于确定原始面部和目标面部之间的相似性。然后，解码算法被用于重构编码的图像，基于原始图像的特征来重建目标面部的图像。

目前，创建Deepfakes仍然需要相当长的时间。创建者需要花费大量时间手动调整模型的参数，因为次优参数会导致明显的缺陷和图像故障，暴露假媒体的真实性质。

虽然人们经常认为大多数Deepfakes都是使用一种称为生成对抗网络（GAN）的神经网络创建的，但事实上，许多Deepfakes都是使用其他方法创建的。GAN在早期Deepfakes的创建中发挥了重要作用，但现在更多的Deepfakes是使用编码器和多个解码器创建的。

Deepfakes有什么用途？

许多在线的Deepfakes都是色情内容。根据Deeptrace的一项研究，2019年9月份，大约15,000个Deepfakes视频中，95%都是色情内容。这一事实令人担忧，因为随着技术的发展，假复仇色情的事件可能会增加。

然而，并非所有Deepfakes都是色情内容。Deepfakes技术也有合法的用途。例如，音频Deepfakes技术可以帮助人们在声音受损或丧失后恢复正常的声音。Deepfakes还可以用于隐藏人们在敏感情况下的面部，同时允许他们的嘴唇和表情被读取。Deepfakes技术还可以用于改进外语电影的配音，修复旧的和受损的媒体，并创造新的艺术风格。

非视频Deepfakes

虽然人们通常将Deepfakes与假视频联系在一起，但Deepfakes不仅仅是假视频。Deepfakes技术还可以用于创建假照片和音频。例如，GAN可以用于生成假图像。据认为，已经有很多假的LinkedIn和Facebook个人资料使用Deepfakes算法生成的头像。

还可以创建音频Deepfakes。深度神经网络可以被训练来产生不同人的声音克隆/声音皮肤，包括名人和政客。一个著名的音频Deepfakes例子是，当AI公司Dessa使用一个支持非AI算法的AI模型来重现播客主持人Joe Rogan的声音时。

如何识别Deepfakes

随着Deepfakes变得更加复杂，区分真实媒体和Deepfakes将变得更加困难。目前，有一些明显的迹象可以帮助人们判断一个视频是否是Deepfakes，例如嘴唇同步不良、不自然的动作、面部边缘闪烁和细节变形等。

虽然这些迹象可能有助于识别Deepfakes，但随着Deepfakes技术的发展，唯一可靠的检测方法可能是其他类型的AI。人工智能公司，包括许多大型科技公司，正在研究检测Deepfakes的方法。去年，三个科技巨头亚马逊、Facebook和微软发起了一个Deepfakes检测挑战，来自世界各地的研究团队竞争开发最佳的检测方法。

其他研究团队，例如谷歌和Jigsaw的联合研究团队，正在开发一种“面部法医”技术来检测篡改的视频，并使他们的数据集公开，鼓励他人开发Deepfakes检测方法。上述的Dessa公司也在完善Deepfakes检测技术，确保检测模型可以在互联网上正常工作，而不仅仅是在预先组装的训练和测试数据集上。

还有其他策略被研究来应对Deepfakes的泛滥。例如，检查视频是否与其他信息源一致是一个策略。可以搜索其他角度拍摄的视频，或者检查视频的背景细节，如天气模式和位置，以发现不一致之处。此外，区块链在线账本系统可以在视频最初创建时注册视频，保存原始音频和图像，以便后续视频可以被检查是否被篡改。

最终，创建可靠的Deepfakes检测方法并使这些方法跟上Deepfakes技术的最新进展是非常重要的。虽然很难预测Deepfakes的影响，但如果没有可靠的Deepfakes检测方法，虚假信息可能会泛滥，破坏人们对社会和机构的信任。

Deepfakes的影响

Deepfakes的危害在于什么？

Deepfakes目前最大的问题之一是非自愿色情，通过将人们的面部与色情视频和图像合成而成。AI伦理学家担心Deepfakes将被用于制造假复仇色情。此外，Deepfakes还可以被用于欺凌和损害任何人的名誉，因为它们可以将人们置于有争议和妥协的场景中。

公司和网络安全专家对Deepfakes被用于诈骗、欺诈和勒索表示担忧。据称，Deepfakes音频已经被用于说服公司员工将钱转给骗子。

Deepfakes可能会对媒体产生更广泛的影响，破坏人们对媒体的信任，使得人们难以区分真实新闻和虚假新闻。如果网络上的许多视频都是假的，那么政府、公司和其他实体就可以轻易地对合法的争议和不道德的行为提出质疑。

在政府方面，Deepfakes甚至可能对民主的运作构成威胁。民主需要公民能够根据可靠的信息对政治家做出明智的决定。虚假信息会破坏民主进程。例如，加蓬总统阿里·邦戈在一段视频中试图安抚加蓬民众，但他的突然出现引发了一次政变企图。美国总统唐纳德·特朗普声称一段他吹嘘自己抓住女性生殖器的音频录音是假的，尽管他也将其描述为“更衣室谈话”。安德鲁王子还声称一张由Emily Maitilis的律师提供的图像是假的，尽管律师坚持其真实性。

最终，虽然Deepfakes技术有合法的用途，但其滥用可能会带来许多危害。因此，创建可靠的媒体真实性检测方法并保持这些方法的更新是非常重要的。