使用 AI 对抗 AI 在现代威胁格局中

说 AI Dramatically 改变了网络安全行业并不是什么新鲜事 。无论是攻击者还是防御者，都在使用人工智能来提高他们的能力，每一方都在努力超越对方。这场猫鼠游戏并不是什么新鲜事——攻击者已经尝试智胜安全团队几十年了——但人工智能的出现为这种动态带来了新的、往往不可预测的元素。全球的攻击者都在为利用这项新技术开发创新、前所未有的攻击方法而欢欣鼓舞。

至少，这是人们的看法。但现实却有些不同。虽然攻击者越来越多地使用 AI，但他们主要是使用它来 增加攻击的规模和复杂性，完善他们对现有战术的方法，而不是开辟新天地。这里的想法很明确：为什么要花时间和精力开发明天的攻击方法，当防御者已经难以阻止今天的攻击？幸运的是，现代安全团队也在利用自己的 AI 能力——其中很多都帮助检测恶意软件、钓鱼尝试和其他常见的攻击战术，以更快的速度和更高的准确率来完成。随着攻击者和防御者之间的“AI 军备竞赛”继续，安全团队将越来越需要了解对手如何实际部署这项技术——并确保他们自己的努力集中在正确的位置。

攻击者如何利用 AI

半自治 AI 被部署来系统地攻击一个组织的防御的想法是令人害怕的，但（目前）它仍然停留在威廉·吉布森的小说和其他科幻作品中。人工智能在过去几年中已经以惊人的速度发展，但我们距离具有完美模拟人类思维模式和行为的 通用人工智能（AGI） 仍然很远。这并不是说今天的 AI 不令人印象深刻——它当然是。但生成式 AI 工具和 大型语言模型（LLM） 最适合从现有材料中合成信息并生成小的、迭代的变化。它不能完全独立地创造出新东西——但不要误会，合成和迭代的能力是非常有用的。

在实践中，这意味着攻击者不需要开发新的攻击方法，而可以改进现有的方法。使用 AI，攻击者可能能够发送数百万封钓鱼邮件，而不是数千封。他们还可以使用 LLM 来制作更令人信服的消息，欺骗更多的收件人点击恶意链接或下载恶意软件。钓鱼等战术基本上是一场数字游戏：大多数人不会上钓鱼邮件的当，但如果数百万人收到它，即使只有 1% 的成功率，也可能导致数千名新受害者。如果 LLM 可以将 1% 的成功率提高到 2% 或更高，骗子可以在几乎不费吹灰之力的情况下有效地将他们的攻击的有效性加倍。同样，对于恶意软件：如果对恶意软件代码进行小的调整可以有效地将其隐藏起来以避免被检测工具发现，攻击者可以在不需要转向新东西之前从单个恶意软件程序中获得更多的收益。

这里的另一个因素是速度。由于基于 AI 的攻击不受人类的限制，因此它们通常可以以比人类操作员更快的速度进行整个攻击序列。这意味着攻击者可能会在安全团队甚至收到警报之前就突破网络并到达受害者的“皇冠上的宝石”——他们最敏感或最有价值的数据。如果攻击者可以移动得更快，他们就不需要那么小心——这意味着他们可以在不被阻止的情况下进行更吵闹、更具破坏性的活动。他们在这里并没有做什么新的事情，但通过加快攻击的速度，他们可以以可能改变游戏规则的方式超越网络防御。

这就是了解攻击者如何利用 AI 的关键。社会工程骗局和恶意软件程序已经是成功的攻击向量——但现在，攻击者可以使它们更加有效，部署得更快，并以更大的规模运作。组织可能不再面临每天数十次攻击，而是面临数百次、数千次甚至数万次快速攻击。如果他们没有解决方案或流程来快速检测这些攻击，确定哪些代表真正的、有形的威胁，并有效地缓解它们，他们就将自己暴露在攻击者的危险之中。与其想知道攻击者可能如何在未来利用 AI，不如让组织利用自己的 AI 解决方案来处理现有的攻击方法，以更大的规模。

将 AI 转化为安全团队的优势

各级安全专家都在寻找利用 AI 进行防御的方法。八月，美国国防高级研究计划局（DARPA）宣布了其最近的 AI 网络挑战（AIxCC）决赛的入围者，该挑战为致力于训练大型语言模型（LLM）来识别和修复基于代码的漏洞的安全研究团队颁发奖项。这个挑战得到了包括谷歌、微软和 OpenAI 在内的主要 AI 提供商的支持，他们为这些努力提供技术和财务支持。当然，DARPA 只是一个例子——你几乎无法在硅谷抖动一根棍子而不击中一打渴望告诉你他们的高级新 AI 基础安全解决方案的创始人。可以这么说，找到新的方法来利用 AI 进行防御目的对于所有类型和大小的组织来说都是一个高优先级的任务。

但与攻击者一样，安全团队通常在使用 AI 来放大他们现有的能力时发现最大的成功。由于攻击的发生速度越来越快，安全团队通常在时间和资源上都很紧张，这使得他们很难充分识别、调查和缓解每个安全警报。简单来说，就没有足够的时间。AI 解决方案在缓解这一挑战方面发挥着重要作用，提供自动化的检测和响应能力。如果有一样东西 AI 擅长的话，那就是识别模式——这意味着 AI 工具非常擅长识别异常行为，特别是当这种行为符合已知的攻击模式时。由于 AI 可以比人类更快速地审查大量数据，因此这使安全团队能够以显著的方式扩大他们的运营。在许多情况下，这些解决方案甚至可以自动化基本的缓解过程，反转低级别的攻击而无需人工干预。它们还可以用于自动化安全验证的过程，持续地测试和检查网络防御，以确保它们按预期运行。

同样重要的是要注意，AI 不仅可以让安全团队更快速地识别潜在的攻击活动——它还可以显著提高他们的准确性。与其追逐虚假警报，安全团队可以相信，当 AI 解决方案提醒他们潜在的攻击时，这是值得他们立即关注的。这个 AI 元素没有被充分讨论——虽然很多讨论都集中在 AI“取代”人类和抢占他们的工作，但现实是 AI 解决方案使人类能够更好、更高效地完成工作，同时也减轻了安全职位相关的单调和重复任务带来的倦怠。远远不是对人类操作员产生负面影响，AI 解决方案正在处理与安全职位相关的许多被认为是“繁忙工作”的事情，让人类能够专注于更有趣和更重要的任务。在像现在这样烧伤率创历史新高、许多企业苦于吸引新安全人才的时期，提高生活质量和工作满意度可以产生巨大的积极影响。

这就是安全团队的真正优势所在。AI 解决方案不仅可以帮助他们扩大运营以有效地对抗使用 AI 工具的攻击者——它们还可以让安全专业人员在工作中更快乐和更满意。这是一个对所有相关人员都有利的罕见解决方案，它应该帮助今天的企业认识到投资 AI 基础安全解决方案的时间是现在。

AI 军备竞赛才刚刚开始

采用 AI 解决方案的竞争已经开始，攻击者和防御者都在找到不同的方法来利用这项技术为自己谋利。随着攻击者使用 AI 来增加攻击的速度、规模和复杂性，安全团队将需要以火对火，使用自己的 AI 工具来提高检测和缓解能力的速度和准确性。幸运的是，AI 解决方案为安全团队提供了关键信息，允许他们更好地测试和评估自己的解决方案的有效性，同时也为更关键的任务释放时间和资源。毫无疑问，AI 军备竞赛才刚刚开始——但安全专业人员已经使用 AI 来领先于攻击者，这是一个非常好的迹象。