人工智能对本季选举诈骗的影响不断加大

2022 年，针对宾夕法尼亚县选举工作人员的恶意电子邮件 激增 17 月 546 日初选前后，六个月内上涨超过 XNUMX%。除了这些传统的网络钓鱼攻击之外，再加上潜在的恶意大型语言模型 (LLM)，普通美国人很可能成为这个选举季更加现实的骗局的目标。

政府开始注意到这一点，特别是当人工智能融入我们的日常生活时。例如，美国网络安全和基础设施安全局 推出 一项旨在加强选举安全的计划——表明政府和公众在本选举季保护自己及其数据免受潜在不良行为者侵害的需求日益增长。

甚至最近，在 2024 年慕尼黑安全会议上，20 家技术和人工智能公司签署了一份 “技术协议旨在打击 2024 年选举中人工智能的欺骗性使用” 其中强调了保护选举和选举进程的指导原则，包括预防、溯源、检测、响应性保护、评估和公众意识。由微软、亚马逊和谷歌等主要科技公司组成，这标志着该行业的一个重要转变，即使超越政治立场，数据安全也将成为公民和网络专家在本次选举年剩余时间里关注的话题。此外，生成式人工智能将极大地影响不良行为者实施攻击的方式，从而更容易制造高度逼真的骗局。

选举诈骗的类型

虽然选举季并不是我们看到诈骗增加的唯一时间，但当投票时，无论是初选还是大选，我们往往会看到多种方法和技术的增加。其中每一个的典型目标都是获得个人账户的访问权限或金钱收益，而陷入其中的后果可能会产生重大后果。事实上，仅深度造假欺诈就给美国造成的损失就超过 的美元3.4亿元 在损失中。

我们在选举季节看到的一些骗局示例包括：

• 網絡釣魚：网络钓鱼涉及使用虚假链接、电子邮件和网站来访问敏感的消费者信息 - 通常是通过在目标系统上安装恶意软件。然后，这些数据被用来窃取其他身份、获取有价值的资产以及垃圾邮件使收件箱超载。在选举季节，网络钓鱼电子邮件可以伪装成捐款电子邮件，让公民点击链接，以为自己正在向候选人捐款，但实际上却参与了不良行为者的阴谋。
• 机器人呼叫、模仿和人工智能生成的语音或聊天机器人: 正如新罕布什尔州所见 当自动电话冒充拜登总统敦促公民不要投票时，选举季将导致冒充民调专家或政治候选人的行为增加，以虚假地赢得信任并获取敏感信息。
• 伪造品： 随着人工智能的兴起，深度造假如今变得异常逼真，可以用来冒充老板，甚至是你最喜欢的名人。 Deepfakes 是利用人工智能替换面部或操纵面部表情或语音的视频或图像。我们每天遇到的许多深度造假都会以视频的形式出现，其中有一段经过修改的剪辑，描绘了人们所说或所做的事情，他们可能从未做过。预计这种情况在这个选举季将尤其普遍，并且存在创建深度伪造品来冒充候选人的风险。即使在美国之外，例如在英国，人们也担心深度造假可能会被用来操纵选举。

人工智能对选举的影响

除了这些诈骗之外，人工智能算法还被用来生成更具说服力和吸引力的虚假消息、电子邮件和社交媒体帖子，以诱骗用户放弃敏感信息。

微软和 OpenAI 发布了一份威胁简报，“应对人工智能时代的网络威胁并加强防御，”该报告指出，来自俄罗斯、朝鲜、伊朗和中国的五个威胁行为者都已经在使用 GenAI 寻求新的创新方法来增强针对软目标的行动。

利用人工智能作为传播错误信息、开发恶意软件和冒充个人的工具，聊天机器人、语音克隆等骗局更进一步。例如，语音克隆工具可以创建选举人物的声音或面部近乎完美的复制品。人工智能还可以用来向呼叫中心发送大量虚假选民电话，用错误信息淹没他们。

最值得警惕的是社交媒体，因为它是本次选举季竞选活动的主要工具。选民会分享他们是否投票，甚至可能在他们的页面上表达对他们最喜欢的候选人的支持。然而，今年带来了新的威胁，因为我们看到人工智能网络钓鱼（包括网络钓鱼和网络钓鱼）诈骗再次增加。

考虑一下是否有人在其社交媒体帐户上发布了对特定候选人的支持。几分钟后，他们收到一封似乎来自竞选经理的电子邮件，感谢他们的支持。潜在的受害者可以通过点击链接来访问该电子邮件，从而导致凭证收集、经济损失或恶意软件安装。由于人工智能能够近乎实时地监控、创建和实施有针对性的网络钓鱼活动，看似无辜的社交媒体帖子现在让用户接触到了现实网络钓鱼方案的新水平。

在这个选举季节保持警惕

网络钓鱼等攻击将继续成为不良行为者制造真实骗局的常见方式，即使是最有知识的人也可能会漏掉这些骗局，而在生成式人工智能时代，这些攻击的潜在影响只会加速，让不良行为者更快地访问敏感信息。信息。

虽然企业部署技术来保护其数据和员工，但消费者也需要了解发现和避免诈骗的技术。其中一些包括：

• 寻找随机或拼写错误的超链接或电子邮件主题行
• 不点击来自未知发件人的链接
• 尽可能采用双因素身份验证或生物识别身份验证
• 将社交媒体帐户设为私密
• 报告恶意活动
• 教育其他同事或家庭成员
• 寻找 .gov 网站域名来验证选举候选人的真实性
• 如果您的工作场所有 IT，您还可以询问：
  • 零信任网络
  • 防网络钓鱼双因素身份验证
  • 电子邮件安全工具（DMARC、DKIM、SPF）
  • 对内容进行数字签名的方法（或以加密方式验证您的通信的另一种方法）

尽管选举季节是高度警惕的时期，但攻击随时可能发生，因此确保您的网络安全基础全年强大且可靠非常重要。