人工智能驱动的深度伪造如何威胁选举完整性 —— 以及我们该如何应对

发布于 2024年10月18日

更新于 2026年5月20日

作者

Dr. Srinivas Mukkamala, Ivanti首席产品官

竞选广告已经足够混乱和有争议了。

现在，想象一下你被针对性的竞选广告攻击，候选人在广告中表达强烈的观点，这些观点可能会影响你的投票选择 —— 但这则广告并不是真正的。它是一个深度伪造的内容。

这不是某种未来主义的假设；深度伪造是一个真实且普遍存在的问题。我们已经看到人工智能生成的“背书”引起了轰动，到目前为止我们所了解的只是冰山一角。

当我们接近2024年美国总统大选时，我们正在进入网络安全和信息完整性方面的未知领域。我在网络安全和人工智能领域工作了很长时间，自从这些概念刚刚起步时，我就从未见过现在发生的事情。

人工智能的快速演进，特别是生成式人工智能，以及由此产生的创建逼真深度伪造内容的容易性，已经改变了选举威胁的格局。这一新现实要求我们改变对选举安全和选民教育的基本假设。

武器化的人工智能

你不必相信我的个人经验；有足够的证据表明我们今天面临的网络安全挑战正在以前所未有的速度演变。仅在几年内，我们就见证了潜在威胁者的能力和方法的戏剧性转变。这一演变反映了人工智能技术的加速发展，但带有令人担忧的转折。

例如：

漏洞的快速武器化。今天的攻击者可以快速利用新发现的漏洞，通常比补丁可以开发和部署得更快。人工智能工具进一步加速了这个过程，缩短了漏洞发现和利用之间的时间窗口。
攻击面扩大。云技术的广泛采用已经显著扩大了潜在的攻击面。分布式基础设施和云提供商与用户之间的共享责任模型在不正确管理的情况下会创建新的利用向量。
传统安全措施已经过时。像防火墙和防病毒软件这样的传统安全工具在跟上这些不断演变的威胁方面挣扎，特别是在检测和缓解人工智能生成内容方面。

在这个新的威胁格局中，深度伪造对选举完整性构成了特别阴险的挑战。Ivanti最近的一项研究为这一威胁提供了一些数字：超过半数的办公室工人（54%）不知道高级人工智能可以模仿任何人的声音。这种在潜在选民中缺乏意识令人深感担忧，因为我们即将迎来一轮关键的选举周期。

有太多东西处于风险之中。

今天的深度伪造技术的复杂性使得威胁者，无论是国内还是国外，都可以通过最少的努力创建令人信服的假音频、视频和文本内容。一个简单的文本提示现在就可以生成一个越来越难以与真实内容区分的深度伪造。这一能力对虚假信息的传播和公众舆论的操纵有着严重的影响。

归因是我们在人工智能生成的选举干预中面临的最重要的挑战之一。虽然我们过去将选举干预与国家行为者联系在一起，但人工智能工具的民主化意味着国内团体，由各种意识形态动机驱动，现在可以利用这些技术来影响选举。

这种潜在威胁者的扩散使得我们难以识别和缓解虚假信息的来源。这也强调了需要采取多方面的方法来确保选举安全，超越传统的网络安全措施。

应对人工智能驱动的深度伪造在选举中的挑战需要各个领域的协调努力。以下是我们需要集中精力的关键领域：

将安全性移至人工智能系统的左侧。我们需要将“左移安全”的原则应用于人工智能系统的开发本身。这意味着从人工智能模型开发的最早阶段就考虑安全性，包括考虑其在选举干预中的潜在滥用。
强制实施安全配置。可能被用于生成深度伪造的人工智能系统和平台应该具有强大的、安全的默认配置。这包括强大的身份验证措施和对可以生成的内容类型的限制。
保护人工智能供应链。就像我们关注软件供应链的安全一样，我们需要将这种警惕扩展到人工智能供应链。这包括审查用于训练人工智能模型的数据集和在生成式人工智能系统中使用的算法。
增强检测能力。我们需要投资和开发先进的检测工具，以便在选举相关信息的背景下识别人工智能生成的内容。这可能需要利用人工智能本身来对抗人工智能生成的虚假信息。
选民教育和意识。我们防御深度伪造的关键组成部分是知情的选民。我们需要全面性的教育计划来帮助选民了解人工智能生成内容的存在及其潜在影响，并为他们提供批判性评估所遇信息的工具。
跨部门合作。科技行业，特别是IT和网络安全公司，必须与政府机构、选举官员和媒体组织密切合作，共同对抗人工智能驱动的选举干预。