2024 年，Deepfakes 将成为主流。企业可以通过以下方式保护自己

至少自 2016 年大选以来，当人们对虚假信息的担忧突然进入公众意识时，专家们就一直对深度造假发出警报。这项技术的影响曾经并且仍然令人恐惧。超现实合成媒体不受控制的扩散对 每个人——从政治家到普通人。在一个已经存在广泛不信任的易燃环境中，深度造假只会进一步火上浇油。

事实证明，我们的担心还为时过早。实际制造深度假货所需的技术知识，加上它们往往质量低劣，意味着至少在过去两个总统选举周期中，它们仍然是一个最小的关注点。

但所有这一切都即将改变——已经在改变了。在过去的两年里，生成式人工智能技术已经进入主流，从根本上简化了普通消费者制作深度赝品的过程。这些相同的创新显着提高了深度伪造的质量，因此，在盲目测试中，大多数人将无法区分经过修改的视频和真实的视频。

尤其是今年，我们开始看到一些迹象表明，如果不采取措施对抗这项技术可能会对社会产生怎样的影响。例如，去年，人工智能生成的一张弗朗西斯教皇穿着异常时尚外套的照片 病毒了，并被许多人认为是真实的。虽然从某种程度上来说，这似乎是一种无害的乐趣，但它揭示了这些深度造假的危险潜力，以及一旦错误信息开始传播，遏制它是多么困难。预计在未来的几个月和几年里，我们会发现这种病毒式造假的例子远没有那么有趣，而且也更危险。

因此，从媒体到金融、政府再到社交媒体平台，各行各业的组织都必须积极主动地进行深度造假检测和内容真实性验证。需要通过保障措施建立信任文化 现在，在深度伪造的浪潮冲走我们对现实的共同理解之前。

了解 Deepfake 威胁

在深入研究组织可以采取哪些措施来应对深度造假的激增之前，有必要详细阐述为什么需要保护工具。通常，那些担心深度造假的人会提到它们对政治和社会信任的潜在影响。这些潜在的后果极其重要，在任何有关深度伪造的讨论中都不应被忽视。但事实上，这项技术的兴起可能会对美国经济的多个部门产生可怕的影响。

以保险为例。目前，美国每年的保险欺诈金额高达 308.6 亿美元，大约是整个行业的四分之一。与此同时，大多数保险公司的后端运营日益自动化，预计到 70 年，2025% 的标准索赔将实现非接触式处理。这意味着决策越来越多地在最少的人为干预下做出：自助服务前端和后端人工智能促进的自动化。

具有讽刺意味的是，正是这种自动化程度提高的技术——即机器学习和人工智能——却注定会被不良行为者利用。现在，普通人比以往任何时候都更容易操纵索赔，例如，通过使用 Dall-E、Midjourney 或 Stable Diffusion 等生成式人工智能程序，使汽车看起来比实际损坏程度更严重。目前已经有专门用于此目的的应用程序，例如 Dude Your Car！，它允许用户在车辆照片中人为地创建凹痕。

这同样适用于官方文件，这些文件现在很容易被操纵——包括发票、承保评估，甚至批量调整或发明的签名。这种能力不仅对保险公司而且对整个经济来说都是一个问题。这对金融机构来说是一个问题，它们必须验证各种文件的真实性。这对零售商来说是一个问题，他们可能会收到投诉，称产品到达时有缺陷，并伴有图像被篡改的情况。

企业根本无法在这种程度的不确定性下运营。某种程度的欺诈可能总是不可避免的，但对于深度造假，我们谈论的不是边缘的欺诈——我们谈论的是潜在的认识论灾难，企业没有明确的方法来确定事实与虚构，并最终损失数十亿美元。美元造成这种混乱。

以毒攻毒：人工智能如何提供帮助

那么，可以采取什么措施来解决这个问题呢？也许毫不奇怪，答案就在于促进深度造假的技术。如果我们想在这一祸害愈演愈烈之前制止它，我们就需要以毒攻毒。人工智能可以帮助生成深度伪造品，但值得庆幸的是，它还可以帮助自动大规模识别它们。

使用正确的人工智能工具，企业可以自动确定给定的照片、视频或文档是否被篡改。人工智能将数十种不同的模型用于虚假识别任务，可以自动准确地告诉企业给定的照片或视频是否可疑。就像企业已经部署的用于自动化日常运营的工具一样，这些工具可以在后台运行，不会给超负荷的员工带来负担，也不会占用重要项目的时间。

如果照片被识别为可能被更改，人类工作人员就会收到警报，并可以在人工智能提供的信息的帮助下直接评估问题。使用深度扫描分析，它可以告诉企业 为什么 它认为照片可能已被篡改，例如，指出手动更改的元数据、网络上存在相同的图像、各种照片违规行为等。

所有这些都不是为了诋毁过去几年我们在生成式人工智能技术方面所取得的令人难以置信的进步，这些技术确实在各个行业都有有用且富有成效的应用。但这种新兴技术的效力（更不用说简单性）几乎肯定会被那些想要操纵组织的人滥用，无论是为了个人利益还是散布社会混乱。

组织 能够 两全其美：人工智能的生产力优势，同时又没有无处不在的深度造假的缺点。但这样做需要更高程度的警惕，特别是考虑到生成式人工智能的输出只会变得越来越有说服力、更详细、更栩栩如生。组织越早关注这个问题，就能越早获得自动化世界的全部好处。