什么是Deepfakes？

随着Deepfakes变得更容易制作和更广泛，人们对它们的关注也越来越多。Deepfakes已经成为人工智能伦理、错误信息、信息开放和互联网监管讨论的焦点。了解Deepfakes并对其有直观的理解是非常重要的。本文将阐明Deepfakes的定义，探讨其用例，讨论如何检测Deepfakes，并研究Deepfakes对社会的影响。

什么是Deepfakes?

在进一步讨论Deepfakes之前，了解什么是Deepfakes是非常重要的。Deepfakes的定义常常被误解，任何伪造的媒体都被称为Deepfakes。然而，为了被认为是Deepfakes，伪造的媒体必须使用机器学习系统，特别是深度神经网络生成。

Deepfakes的关键成分是机器学习。机器学习使计算机能够快速、轻松地生成视频和音频。深度神经网络被训练以学习真实人物在目标环境下的外貌和动作。然后，训练好的网络被用于其他个人的图像，并使用计算机图形技术将新的人物与原始视频结合起来。一个编码器算法被用于确定原始面部和目标面部之间的相似性。一旦面部的共同特征被确定，一个解码器算法被用于重建图像。

目前，创建Deepfakes仍然需要相当长的时间。Deepfakes的创作者需要花费大量时间手动调整模型的参数，因为次优参数会导致明显的缺陷和图像故障。虽然许多Deepfakes都是使用生成对抗网络（GAN）创建的，但并不是所有Deepfakes都使用GAN。事实上，许多Deepfakes都是使用其他方法创建的，例如使用编码器和多个解码器。

GAN需要大量的训练数据，并且渲染图像的速度比其他图像生成技术慢。GAN更适合生成静态图像，而不是视频，因为GAN难以保持帧之间的一致性。使用编码器和多个解码器来创建Deepfakes更为常见。

Deepfakes有什么用途?

许多在线的Deepfakes都是色情内容。根据Deeptrace的一项研究，2019年9月，大约15,000个Deepfakes视频中，95%都是色情内容。这意味着随着技术变得更容易使用，假复仇色情内容的事件可能会增加。

然而，并不是所有Deepfakes都是色情内容。Deepfakes技术也可以用于其他目的，例如帮助人们在声音受损或丧失后恢复正常的声音。Deepfakes可以用于隐藏人们的面部，同时仍允许他们的嘴唇和表情被读取。Deepfakes技术还可以用于改进外语电影的配音，修复旧的和损坏的媒体，甚至创造新的艺术风格。

非视频Deepfakes

虽然大多数人在听到“Deepfakes”这个词时会想到假视频，但假视频并不是Deepfakes唯一的形式。Deepfakes技术也可以用于创建假照片和音频。GAN经常被用于生成假图像。据认为，已经有许多使用Deepfakes算法生成的假LinkedIn和Facebook个人资料。

还可以创建音频Deepfakes。深度神经网络被训练以生成不同人的声音克隆/声音皮肤，包括名人和政客。一个著名的音频Deepfakes例子是，当AI公司Dessa使用一个支持非AI算法的AI模型重现播客主持人Joe Rogan的声音时。

如何识别Deepfakes

随着Deepfakes变得更加复杂，区分它们和真正的媒体将变得更加困难。目前，有一些明显的迹象可以表明一个视频可能是Deepfakes，例如口型不匹配、不自然的动作、面部边缘闪烁和细节变形，如头发、牙齿或反射。其他潜在的Deepfakes迹象包括视频中质量较低的部分和眼睛的不规则眨动。

虽然这些迹象可能有助于识别Deepfakes，但随着Deepfakes技术的改进，可能只有其他类型的AI才能可靠地检测Deepfakes。许多AI公司，包括大型科技公司，正在研究Deepfakes检测方法。去年，三个科技巨头：亚马逊、Facebook和微软，启动了一个Deepfakes检测挑战。来自世界各地的研究团队致力于开发最佳的检测方法。其他研究团队，例如谷歌和Jigsaw的联合研究团队，正在开发一种“面部法医”技术，可以检测视频是否被篡改，并使他们的数据集公开，以鼓励他人开发Deepfakes检测方法。

还有一些其他策略正在被探索，以应对Deepfakes的传播。例如，可以检查视频是否与其他信息源一致。可以搜索可能从其他角度拍摄的视频，或者检查视频的背景细节（如天气模式和位置）是否存在不一致性。此外，区块链在线账本系统可以在视频最初创建时注册视频，保存原始音频和图像，以便可以检查视频是否被篡改。

最终，创建可靠的Deepfakes检测方法并使这些方法跟上Deepfakes技术的最新进展是非常重要的。如果没有可靠的Deepfakes检测方法，错误信息可能会泛滥，人们对社会和机构的信任可能会下降。

Deepfakes的影响

Deepfakes如果不受控制地传播，会带来什么危害？

Deepfakes目前带来的最大问题之一是非自愿色情内容，即将人们的面部与色情视频和图像结合起来。AI伦理学家担心Deepfakes会被用于制造假复仇色情内容。此外，Deepfakes可以用于骚扰和损害任何人的名誉，因为它们可以将人们置于有争议和妥协的情况下。

公司和网络安全专家对Deepfakes被用于诈骗、欺诈和勒索表示担忧。据称，Deepfakes音频曾被用于说服公司员工将钱转给骗子。

Deepfakes可能会对人们对媒体的信任产生更广泛的影响。如果网络上的许多视频都是假的，政府、公司和其他实体可能会对合法的争议和不道德的行为提出质疑。

在政府方面，Deepfakes甚至可能对民主的运作构成威胁。民主需要公民能够根据可靠的信息对政客做出明智的决定。错误信息会破坏民主进程。例如，加蓬总统阿里·邦戈出现在一段视频中，试图安抚加蓬公民。总统被认为长期患病，他突然出现在一段可能是假的视频中，引发了一次政变企图。美国总统唐纳德·特朗普声称一段音频录音，他在录音中吹嘘自己抓住女性的生殖器，是假的，尽管他也将其描述为“更衣室谈话”。安德鲁王子还声称一张由Emily Maitilis的律师提供的图像是假的，尽管律师坚持其真实性。

最终，虽然Deepfakes技术有合法的用途，但其滥用可能会带来许多危害。因此，创建可靠的方法来确定媒体的真实性是非常重要的。