AI 在网络安全中的 3 个支柱

人工智能（AI）已经席卷了 网络安全 行业，各类供应商都在努力将 AI 集成到他们的解决方案中。但是，AI 和安全之间的关系不仅仅是关于实施 AI 能力的问题，而是关于攻击者和防御者如何利用这项技术来改变现代威胁格局的面貌。它还关乎如何开发、更新和保护这些 AI 模型。今天，网络安全中的 AI 有三个主要支柱——随着越来越多的组织转向具有 AI 基础的安全解决方案，了解这些技术的实际使用变得越来越重要。

支柱 #1：防御 AI 能力

随着基于 AI 的解决方案的采用率持续飙升，企业越来越认识到保护这些解决方案的重要性。AI 解决方案是在大量数据上进行训练的（数据越多，解决方案越准确），这意味着如果攻击者成功突破这些解决方案，他们可能会获得大量的客户数据、知识产权、财务信息和其他有价值的资产。由于攻击者正以越来越高的速度利用这些攻击向量，组织的第一道防线就是他们保护自己日常使用的 AI 模型的能力。
幸运的是，这个问题并不是秘密——事实上，专门设计用于保护 AI 模型的解决方案市场正在迅速增长，过去一年或两年中出现了大量的初创企业。同时，值得注意的是，虽然诸如生成式 AI 之类的解决方案相对较新，但 AI 已经存在了一段时间——大多数 AI 解决方案都有一定程度的安全 内置保护。话虽如此，组织应该始终采取任何必要的额外步骤来保护自己和他们的数据，并且有大量的第三方解决方案可以帮助防御 AI 流水线免受攻击者的攻击。

支柱 #2：阻止使用 AI 的攻击者

随着 AI变得越来越容易获取，攻击者利用这项技术来达到自己的目的也就不足为奇了。就像 AI能够让组织简化运营并自动化枯燥和重复的过程一样，它也帮助攻击者增加了攻击的规模和复杂性。在实际操作中，攻击者并没有真正地使用 AI来实施“新”的攻击类型——至少目前还没有。但是，这项技术使得攻击者可以以极高的速度实施现有的攻击策略。
例如，钓鱼骗局是一场数字游戏——如果只有 1% 的收件人点击了恶意链接，那么对于攻击者来说就是一个胜利。但是 有了 AI 的帮助，攻击者可以对他们的钓鱼邮件进行前所未有的个性化处理，使其比以往任何时候都更具说服力和危险性。更糟糕的是，一旦一个组织被攻破（无论是通过钓鱼还是其他手段），攻击者就可以利用 AI 来分析发现数据并创建一个决策过程，使得传播变得更容易和更隐秘。攻击者可以自动化传播的程度越高，他们就越能快速达到目标——通常是在传统的安全工具甚至无法识别出攻击之前。
这意味着组织需要做好准备——首先，他们需要拥有能够识别和防御这些高容量、高复杂性攻击的解决方案。虽然许多企业可能已经拥有防御钓鱼骗局、恶意软件攻击和其他攻击向量的解决方案，但测试这些解决方案以确保它们在面对日益频繁和复杂的攻击时仍然有效至关重要。安全领导者必须记住，这不仅仅是关于拥有合适的解决方案的问题——而是确保这些解决方案在面对现实世界威胁时能够正常工作。

支柱 #3：在网络安全产品中使用 AI

最后一个支柱是安全专业人员最熟悉的：网络安全供应商在其产品中使用 AI。AI 最擅长的事情之一就是识别模式，这使得它非常适合识别可疑或异常活动。越来越多的供应商正在其检测解决方案中部署 AI，并且许多供应商还利用 AI 来自动化某些补救措施。过去，处理低级别威胁一直是网络安全中一个枯燥但必要的方面。今天，AI 可以自动化这一过程，自动处理轻微的事件，并允许安全专业人员专注于只有真正需要直接关注的威胁。
这为广泛的安全解决方案增加了显著的价值，但这并不是在真空中发生的。AI 模型需要维护，并且与那些有保持模型一致更新的良好声誉的供应商合作至关重要。审核潜在的安全合作伙伴至关重要，组织需要了解供应商如何与 AI 合作：他们的数据从哪里来，他们如何避免诸如固有偏见等问题，以及其他因素都可能（并且应该）影响决定是否与某个供应商合作。虽然 AI 解决方案在几乎所有行业中都获得了关注，但并非所有 AI 解决方案都是一样的。组织需要确保他们与理解这项技术的来龙去脉的安全合作伙伴合作，而不是那些把“AI”仅仅看作营销噱头的供应商。

以信心对待 AI

随着 AI 在网络安全格局中变得越来越普遍，组织需要熟悉这项技术的实际使用方式。这意味着了解 AI 如何改进安全解决方案，以及如何帮助攻击者制造更先进的攻击。它还意味着认识到构建今天的 AI 模型的数据需要保护——与优先考虑安全和安全地部署这项技术的供应商合作至关重要。通过了解 AI 和安全的三个主要支柱，组织可以确保他们拥有必要的基础知识来以信心对待这项技术。