Dr. Srinivas Mukkamala, Chief Product Officer for Ivanti

AI驱动的Deepfakes如何威胁选举完整性 —— 以及我们该如何应对

竞选广告已经足够混乱和有争议。现在，想象一下你被针对性的竞选广告所攻击，这个广告中候选人表达了强烈的观点，这些观点可能会影响你的投票选择 —— 但是这个广告甚至不是真实的。这是一个Deepfakes。这不是某种未来主义的假设；Deepfakes是一个真实的、普遍的问题。我们已经看到人工智能生成的“背书”登上头条新闻，而我们听到的只是冰山一角。当我们接近2024年美国总统大选时，我们正在进入网络安全和信息完整性方面的未知领域。我一直在网络安全和人工智能的交叉点工作，自从这些概念刚刚出现时起，我就从未见过现在发生的事情。人工智能的快速演进 —— 特别是生成式人工智能，以及当然，创建逼真Deepfakes的容易性 —— 已经改变了选举威胁的格局。这种新现实要求我们改变对选举安全和选民教育的基本假设。武器化的人工智能你不必相信我的个人经验；有足够的证据证明我们今天面临的网络安全挑战正在以前所未有的速度演变。在短短几年内，我们见证了潜在威胁者的能力和方法论的戏剧性转变。这种演变反映了我们在人工智能技术方面看到的加速开发，但带有令人担忧的转折。例如： 漏洞的快速武器化。今天的攻击者可以快速利用新发现的漏洞，通常比补丁开发和部署的速度还快。人工智能工具进一步加速了这个过程，缩短了漏洞发现和利用之间的时间窗口。 扩大的攻击面。云技术的广泛采用极大地扩大了潜在的攻击面。分布式基础设施和云提供商与用户之间的共享责任模型创建了新的利用向量，如果不妥善管理，可能会被利用。 过时的传统安全措施。像防火墙和杀毒软件这样的传统安全工具在跟上这些不断演变的威胁方面挣扎，特别是在检测和缓解人工智能生成的内容方面。 谁在说话在这个新的威胁格局中，Deepfakes代表着对选举完整性的特别阴险的挑战。 最近的研究来自Ivanti为这个威胁提供了一些数字：超过一半的办公室工人（54%）不知道高级人工智能可以模仿任何人的声音。在我们接近关键选举周期时，潜在选民中缺乏意识是令人深感担忧的。有太多东西处于危险之中。今天的Deepfakes技术的复杂性使得威胁者，无论是国内还是国外，都可以轻松地创建令人信服的假音频、视频和文本内容。一个简单的文本提示现在可以生成一个越来越难以与真实内容区分的Deepfakes。这一能力对虚假信息的传播和公众舆论的操纵有着严重的影响。归因和缓解的挑战归因是我们在人工智能生成的选举干预中面临的最重要的挑战之一。虽然我们历史上将选举干预与国家行为者联系在一起，但人工智能工具的民主化意味着国内团体现在可以利用这些技术来影响选举。这种潜在威胁者的扩散使得我们难以识别和减轻虚假信息的来源。这也强调了我们需要采取多方面的方法来确保选举安全，超越传统的网络安全措施。维护选举完整性的协调努力解决选举中人工智能驱动的Deepfakes的挑战需要各个领域的协调努力。以下是我们需要专注的关键领域： 人工智能系统的左移安全。我们需要将“左移”安全的原则应用于人工智能系统本身的开发。这意味着从人工智能模型开发的最早阶段就纳入安全考虑，包括对潜在的滥用在选举干预中的考虑。 强制安全配置。可能被用来生成Deepfakes的人工智能系统和平台应该具有强大的、安全的默认配置。这包括强大的身份验证措施和对可以生成的内容类型的限制。 保护人工智能供应链。就像我们专注于保护软件供应链一样，我们需要将这种警惕性扩展到人工智能供应链。这包括审查用于训练人工智能模型的数据集和用于生成式人工智能系统的算法。 增强的检测能力。我们需要投资和开发高级的检测工具，以便在选举相关信息的背景下识别人工智能生成的内容。这可能需要利用人工智能本身来对抗人工智能生成的虚假信息。 选民教育和意识。我们防御Deepfakes的关键组成部分是一个知情的选民群体。我们需要全面性的教育计划来帮助选民了解人工智能生成的内容的存在和潜在影响，并为他们提供工具来批判性地评估他们遇到的信息。 跨部门合作。科技行业，特别是IT和网络安全公司，必须与政府机构、选举官员和媒体组织密切合作，共同对抗人工智能驱动的选举干预。 现在和下一步当我们实施这些策略时，衡量它们的有效性至关重要。这将需要专门设计用于跟踪人工智能生成的内容对选举话语和选民行为影响的新指标和监测工具。我们还应该准备好快速适应我们的策略。人工智能领域正在以惊人的速度发展，我们的防御措施必须同样迅速地演变。这可能涉及利用人工智能本身来创建更强大和适应性的安全措施。人工智能驱动的Deepfakes在选举中的挑战代表着网络安全和信息完整性方面的新篇章。为了应对这一挑战，我们必须超越传统的安全范式，并促进各个领域之间的合作。目标：利用人工智能的力量来造福民主进程，同时减轻其可能造成的危害。这不仅仅是一个技术挑战，也是一个社会挑战，需要持续的警惕、适应和合作。我们的选举的完整性 —— 以及由此带来的民主的健康 —— 取决于我们面对这一挑战的能力。这是一种责任，落在我们所有人身上：技术人员、政策制定者和公民。