Nir Loya-Dahan 是 Cymulate 的 VP 产品。他拥有十多年的网络安全经验，包括在以色列军事情报局工作了 7 年。他拥有来自 Reichmnn 大学的经济学学士学位，并创立了一个项目来培训学生成为初级产品经理。
说 AI 已经极大地改变了网络安全行业并不是什么新鲜事。无论是攻击者还是防御者，都在使用人工智能来提升自己的能力，双方都在努力超越对方。这场猫鼠游戏并不是什么新鲜事——攻击者已经在尝试智胜安全团队几十年了——但是人工智能的出现引入了一个新的、往往不可预测的元素。全球的攻击者都在为能够利用这项新技术而欢欣鼓舞，这项技术可以帮助他们开发出创新的、前所未有的攻击方法。至少，这是人们的看法。但是，现实情况却有点不同。虽然攻击者确实越来越多地使用 AI，但是他们主要是使用它来增加攻击的规模和复杂性，而不是突破新的攻击方法。这里的想法很明确：为什么要花时间和精力开发明天的攻击方法，当防御者已经难以阻止今天的攻击方法时？幸运的是，现代安全团队也在利用自己的 AI 能力——其中很多都在帮助检测恶意软件、钓鱼尝试和其他常见的攻击方法，速度和准确性都更高。随着攻击者和防御者之间的“AI 军备竞赛”继续，安全团队将越来越需要了解攻击者实际上如何部署这项技术，并确保自己的努力集中在正确的位置。攻击者如何利用 AI半自治 AI 被部署来系统地攻击一个组织的防御，这是一个可怕的想法，但目前它仍然停留在威廉·吉布森的小说和其他科幻作品中。虽然 AI 在过去几年中取得了令人难以置信的进步，但我们距离实现真正的人工智能（AGI）还很远，AGI 能够完美地模仿人类的思维模式和行为。当然，今天的 AI 并不令人失望——它确实非常强大。但是，生成式 AI 工具和大型语言模型（LLM）最有效的方式是从现有材料中合成信息，并生成小的、迭代的变化。它不能自己创造出全新的东西——但不要误会，合成和迭代的能力是非常有用的。在实践中，这意味着攻击者可以使用 AI 来提升他们现有的攻击方法，而不是开发新的攻击方法。使用 AI，攻击者可以发送数百万封钓鱼邮件，而不是数千封。他们还可以使用 LLM 来制作更令人信服的信息，欺骗更多的收件人点击恶意链接或下载恶意软件。钓鱼等策略基本上就是一个数字游戏——绝大多数人不会上当，但如果数百万人收到钓鱼邮件，即使只有 1% 的成功率，也可以导致数千名新的受害者。如果 LLM 可以将...
人工智能（AI）已经彻底改变了网络安全行业，各类供应商都在努力将AI集成到他们的解决方案中。但是，AI和安全之间的关系不仅仅是实施AI能力，还包括攻击者和防御者如何利用该技术改变现代威胁格局。同时，也包括如何开发、更新和保护这些AI模型。目前，网络安全中的AI有三个主要支柱，随着越来越多的组织转向具有AI基础的安全解决方案，了解这些技术的实际使用变得越来越重要。支柱 #1：防御AI能力随着基于AI的解决方案的采用率持续飙升，企业越来越认识到保护这些解决方案的重要性。AI解决方案是在大量数据上训练的（数据越多，解决方案越准确），这意味着攻击者如果能够突破这些解决方案，可能会获得大量客户数据、知识产权、财务信息和其他有价值的资产。由于攻击者正在以越来越高的速度利用这些攻击向量，组织的第一道防线是他们保护自己使用的AI模型的能力。幸运的是，这个问题并不是秘密——事实上，专门设计用于保护AI模型的解决方案市场正在迅速增长，过去一年或两年中出现了大量初创企业。同时，也很重要的是要记住，虽然像生成式AI这样的解决方案相对较新，但AI已经存在了相当长的一段时间，大多数AI解决方案都有一定程度的安全性内置。话虽如此，组织应该始终采取任何必要的额外步骤来保护自己和自己的数据，并且有大量的第三方解决方案可以帮助防御AI管道免受攻击者的攻击。支柱 #2：阻止使用AI的攻击者随着AI变得越来越容易获取，攻击者利用该技术来达到自己的目的也就不足为奇了。就像AI使组织能够简化运营并自动化枯燥和重复的流程一样，它也帮助攻击者增加了攻击的规模和复杂性。在实际操作中，攻击者并没有真正使用AI来实施“新”的攻击类型——至少目前还没有。但是，该技术使得攻击者可以以极高的速度实施现有的攻击策略。例如，钓鱼骗局是一场数字游戏——如果只有1%的收件人点击恶意链接，那就是攻击者的胜利。但是，有了AI的帮助，攻击者可以对其钓鱼邮件进行前所未有的个性化，使其更加令人信服和危险。更糟糕的是，一旦组织被攻破（通过钓鱼或其他手段），攻击者可以利用AI来分析发现数据并创建决策过程，使得传播变得更容易和更隐蔽。攻击者可以自动化传播的程度越高，他们就越快地达到目标——通常在传统安全工具甚至能够识别攻击之前，甚至更快地做出反应。支柱 #3：在网络安全产品中使用AI最后一个支柱是安全专业人员最熟悉的：网络安全供应商在其产品中使用AI。AI最擅长的事情之一就是识别模式，这使得它非常适合识别可疑或异常活动。越来越多的供应商正在其检测解决方案中部署AI，并且许多供应商还利用AI来自动化某些补救元素。过去，处理低级威胁一直是一个枯燥但必要的网络安全元素。今天，AI可以自动化大部分这个过程，自动处理轻微事件，并允许安全专业人员专注于真正需要直接关注的威胁。这为广泛的安全解决方案增加了显著的价值，但它并不是在真空中发生的。AI模型需要维护，很重要的是要与那些一贯更新其模型的供应商合作。审核潜在的安全合作伙伴至关重要，组织需要了解供应商如何与AI合作：他们的数据来自哪里，他们如何避免诸如固有偏见等问题，以及其他因素可以（并且应该）影响决定是否与某个供应商合作。虽然AI解决方案在几乎所有行业中都获得了关注，但并非所有AI解决方案都是一样的。组织需要确保他们与理解AI技术的安全合作伙伴合作，而不是那些将“AI”视为营销热词的供应商。自信地面对AI随着AI在网络安全格局中变得越来越普遍，组织需要熟悉AI的实际使用方式。这意味着了解AI如何改善安全解决方案，以及如何帮助攻击者制造更先进的攻击。同时，也意味着认识到构建今天的AI模型所需的数据需要保护，并且与优先考虑安全和安全地部署该技术的供应商合作至关重要。通过了解AI和安全的三个主要支柱，组织可以确保他们拥有必要的基础知识来自信地面对该技术。今天的AI模型是建立在需要保护的基础上——与优先考虑安全和安全地部署该技术的供应商合作至关重要。
