2024 年，Deepfakes 即将走向主流。以下是企业如何保护自己

自 2016 年大选以来，专家们就一直对深度伪造（deepfakes）发出警告，当时有关虚假信息的担忧突然进入公众的视野。这种技术的影响——现在仍然如此——令人恐惧。超现实的合成媒体的无限制传播对每个人都构成了威胁——从政客到普通人。在已经充满广泛不信任的环境中，深度伪造只会进一步煽风点火。

事实证明，我们的担忧是过早的。制作深度伪造所需的技术专长，加上它们往往拙劣的质量，这意味着在过去的两届总统选举周期中，它们仍然是一个最小的担忧。

但是所有这一切都即将改变——已经改变了。过去两年中，生成式人工智能技术已经进入主流，大大简化了普通消费者创建深度伪造的过程。这些创新也大大提高了深度伪造的质量，以至于在盲测中，大多数人无法区分伪造的视频和真实的视频。

今年，我们已经开始看到这种技术可能如何影响社会，如果不采取措施来对抗它。例如，去年，一张由 AI 生成的教皇弗朗西斯穿着一件异常时尚的外套的照片 在网上疯传，并被许多人认为是真实的。虽然这看起来像是一个无害的玩笑，但它揭示了深度伪造的危险力量，以及一旦虚假信息开始传播，就有多难以遏制它。我们可以预计在未来几个月和几年中会发现更多这种类型的病毒式虚假信息，这些信息将远不那么有趣——也远更危险。

因此，所有类型的组织——从媒体到金融、政府到社交媒体平台——必须采取主动措施来检测深度伪造和验证内容的真实性。必须立即建立一个通过保障措施来建立信任的文化，在深度伪造的潮流席卷我们对现实的共同理解之前。

了解深度伪造的威胁

在讨论组织可以采取什么措施来对抗深度伪造的激增之前，值得详细说明为什么保障工具是必要的。通常，担心深度伪造的人会提到它们对政治和社会信任的潜在影响。这些潜在的后果非常重要，不应该在任何关于深度伪造的对话中被忽视。但是，事实证明，深度伪造技术的崛起对美国经济的各个部门都可能产生严重的影响。

例如，保险业。目前，美国每年的保险欺诈金额为 3086 亿美元——这个数字大约是整个行业规模的四分之一。同时，大多数保险公司的后端运营正在变得越来越自动化，预计到 2025 年，70% 的标准理赔将变得无人干预：前端自助，后端由人工智能促进的自动化。

讽刺的是，允许这种自动化增加的技术——即机器学习和人工智能——已经保证了它被不法分子利用。现在，普通人可以更容易地操纵理赔——例如，使用生成式人工智能程序，如 Dall-E、Midjourney 或 Stable Diffusion，使汽车看起来比实际情况更受损。已经有一些应用程序专门用于此目的，例如 Dude Your Car！，它允许用户人工创建车辆照片上的凹痕。

同样，官方文件现在也可以轻松地被操纵——发票、承保评估，甚至签名可以被完全修改或伪造。这不仅是保险公司的问题，也是整个经济的问题。这是金融机构的问题，它们必须验证各种文件的真实性。这也是零售商的问题，他们可能会收到一份投诉，称产品有缺陷，并附上一张经过处理的图像。

企业无法在如此不确定的环境中运营。某种程度的欺诈可能总是不可避免的，但深度伪造并不是边缘上的欺诈——我们正在谈论一种可能发生的认识论灾难，即企业无法区分真相和虚构，并因此而损失数十亿美元。

以火制火：人工智能如何帮助

那么，什么可以做来对抗这一点？也许并不令人惊讶，答案在于促成深度伪造的技术。如果我们想在它获得更多动力之前阻止这一祸害，我们需要以火制火。人工智能可以帮助生成深度伪造——但它也可以帮助自动识别它们。

使用正确的人工智能工具，企业可以自动确定某张照片、视频或文件是否被篡改。通过将数十个不同的模型应用于假象识别，人工智能可以自动告诉企业某张照片或视频是否可疑。像企业已经部署的自动化日常运营的工具一样，这些工具可以在后台运行，而不会给已经超负荷的员工带来负担或占用重要项目的时间。

如果某张照片被识别为可能被篡改，人工员工可以被提醒，并可以直接评估问题，借助人工智能提供的信息。使用深度扫描分析，它可以告诉企业为什么它认为某张照片可能被篡改——例如，手动修改的元数据、网络上存在的相同图像、各种照片不规则性等。

这并不是为了贬低我们在过去几年中看到的生成式人工智能技术的惊人进步，这些技术在各个行业中确实有有用的和富有成效的应用。但是，这种新兴技术的强大性——更不用说它的简单性——几乎可以保证它会被那些试图操纵组织的人滥用，无论是为了个人利益还是为了制造社会混乱。

组织 可以拥有两全其美的效果：人工智能的生产力优势和深度伪造的缺点。但是，这需要一种新的警惕性，特别是考虑到生成式人工智能的输出变得越来越令人信服、详细和逼真。组织越早关注这个问题，就越早能够充分利用自动化世界的好处。