人工智能6 years ago
专家称“完美真实”的DeepFakes将在6个月内出现
南加州大学视觉与图形实验室主任李浩表示，令人印象深刻但颇具争议的DeepFakes——即通过深度神经网络操纵或生成的图像和视频——在不久的将来可能会变得更加令人印象深刻，同时也更具争议性。李浩是计算机视觉和DeepFakes专家，在最近接受CNBC采访时他表示，“完美真实”的Deepfakes很可能在半年内出现。 李浩解释说，大多数DeepFakes在人眼看来仍然可以识别为伪造，即使是那些更具说服力的DeepFakes，也需要创作者付出大量努力才能使其看起来逼真。然而，李浩确信，随着算法变得更加复杂，在六个月内，看起来完美真实的DeepFakes很可能会出现。 李浩最初认为，极具说服力的DeepFakes要变得更为普遍需要两到三年的时间，这一预测是他在麻省理工学院最近主办的一次会议上做出的。然而，在了解到最近的中国应用Zao以及其他有关DeepFakes技术的最新进展后，他修正了自己的时间表。李浩向CNBC解释道，创建逼真DeepFakes所需的方法或多或少是目前正在使用的方法，而创造逼真DeepFakes的主要成分是更多的训练数据。 李浩和他的研究同事们一直在努力研究DeepFake检测技术，以应对极具说服力的DeepFakes的到来。李浩和他的同事们，例如加州大学伯克利分校的Hany Farid，对最先进的DeepFake算法进行了实验，以了解创建它们的技术是如何工作的。 李浩向CNBC解释道： “如果你想能够检测深度伪造，你也必须了解其局限性。如果你需要构建能够检测极其真实内容的AI框架，这些框架必须使用这类技术进行训练，所以在某种程度上，如果你不知道它们如何工作，就不可能检测到它们。” 李浩和他的同事们致力于创建检测DeepFakes的工具，因为他们认识到这项技术可能带来的问题和危险。李浩及其同事远非唯一一群关注DeepFakes可能影响并有意创建应对措施的AI研究人员。 最近，Facebook与MIT、微软和牛津大学启动了联合合作，创建DeepFake检测挑战赛，旨在开发可用于检测图像或视频是否被篡改的工具。这些工具将是开源的，可供公司、媒体组织和政府使用。与此同时，南加州大学信息科学研究所的研究人员最近创建了一系列算法，可以以约96%的准确率区分伪造视频。 然而，李浩也解释说，DeepFakes的问题在于它们可能被滥用的方式，而不是技术本身。李浩指出了DeepFake技术几种可能的合法用途，包括在娱乐和时尚行业。 DeepFake技术也被用于复制面部被遮挡者的表情。研究人员使用生成对抗网络创建了一个全新的面孔，该面孔具有原始图像中主体的相同表情。挪威科技大学开发的技术可以帮助在采访需要隐私的敏感人士（如举报人）时呈现其面部表情。其他人可以允许自己的脸作为需要匿名者的替身，但该人的面部表情仍然可以被解读。 随着Deepfake技术复杂性的提高，Deepfakes的合法用例也将增加。然而，危险也会随之增加，因此，李浩和其他人所做的检测DeepFakes的工作变得更加重要。
