Nir Loya-Dahan 是 Cymulate 的 VP 产品。他拥有十多年的网络安全经验,包括在以色列军事情报局工作了 7 年。他拥有来自 Reichmnn 大学的经济学学士学位,并创立了一个项目来培训学生成为初级产品经理。
说 AI 已经极大地改变了网络安全行业并不是什么新鲜事。无论是攻击者还是防御者,都在使用人工智能来提升自己的能力,双方都在努力超越对方。这场猫鼠游戏并不是什么新鲜事——攻击者已经在尝试智胜安全团队几十年了——但是人工智能的出现引入了一个新的、往往不可预测的元素。全球的攻击者都在为能够利用这项新技术而欢欣鼓舞,这项技术可以帮助他们开发出创新的、前所未有的攻击方法。至少,这是人们的看法。但是,现实情况却有点不同。虽然攻击者确实越来越多地使用 AI,但是他们主要是使用它来增加攻击的规模和复杂性,而不是突破新的攻击方法。这里的想法很明确:为什么要花时间和精力开发明天的攻击方法,当防御者已经难以阻止今天的攻击方法时?幸运的是,现代安全团队也在利用自己的 AI 能力——其中很多都在帮助检测恶意软件、钓鱼尝试和其他常见的攻击方法,速度和准确性都更高。随着攻击者和防御者之间的“AI 军备竞赛”继续,安全团队将越来越需要了解攻击者实际上如何部署这项技术,并确保自己的努力集中在正确的位置。攻击者如何利用 AI半自治 AI 被部署来系统地攻击一个组织的防御,这是一个可怕的想法,但目前它仍然停留在威廉·吉布森的小说和其他科幻作品中。虽然 AI 在过去几年中取得了令人难以置信的进步,但我们距离实现真正的人工智能(AGI)还很远,AGI 能够完美地模仿人类的思维模式和行为。当然,今天的 AI 并不令人失望——它确实非常强大。但是,生成式 AI 工具和大型语言模型(LLM)最有效的方式是从现有材料中合成信息,并生成小的、迭代的变化。它不能自己创造出全新的东西——但不要误会,合成和迭代的能力是非常有用的。在实践中,这意味着攻击者可以使用 AI 来提升他们现有的攻击方法,而不是开发新的攻击方法。使用 AI,攻击者可以发送数百万封钓鱼邮件,而不是数千封。他们还可以使用 LLM 来制作更令人信服的信息,欺骗更多的收件人点击恶意链接或下载恶意软件。钓鱼等策略基本上就是一个数字游戏——绝大多数人不会上当,但如果数百万人收到钓鱼邮件,即使只有 1% 的成功率,也可以导致数千名新的受害者。如果 LLM 可以将...
人工智能(AI)已经彻底改变了网络安全行业,各类供应商都在努力将AI集成到他们的解决方案中。但是,AI和安全之间的关系不仅仅是实施AI能力,还包括攻击者和防御者如何利用该技术改变现代威胁格局。同时,也包括如何开发、更新和保护这些AI模型。目前,网络安全中的AI有三个主要支柱,随着越来越多的组织转向具有AI基础的安全解决方案,了解这些技术的实际使用变得越来越重要。支柱 #1:防御AI能力随着基于AI的解决方案的采用率持续飙升,企业越来越认识到保护这些解决方案的重要性。AI解决方案是在大量数据上训练的(数据越多,解决方案越准确),这意味着攻击者如果能够突破这些解决方案,可能会获得大量客户数据、知识产权、财务信息和其他有价值的资产。由于攻击者正在以越来越高的速度利用这些攻击向量,组织的第一道防线是他们保护自己使用的AI模型的能力。幸运的是,这个问题并不是秘密——事实上,专门设计用于保护AI模型的解决方案市场正在迅速增长,过去一年或两年中出现了大量初创企业。同时,也很重要的是要记住,虽然像生成式AI这样的解决方案相对较新,但AI已经存在了相当长的一段时间,大多数AI解决方案都有一定程度的安全性内置。话虽如此,组织应该始终采取任何必要的额外步骤来保护自己和自己的数据,并且有大量的第三方解决方案可以帮助防御AI管道免受攻击者的攻击。支柱 #2:阻止使用AI的攻击者随着AI变得越来越容易获取,攻击者利用该技术来达到自己的目的也就不足为奇了。就像AI使组织能够简化运营并自动化枯燥和重复的流程一样,它也帮助攻击者增加了攻击的规模和复杂性。在实际操作中,攻击者并没有真正使用AI来实施“新”的攻击类型——至少目前还没有。但是,该技术使得攻击者可以以极高的速度实施现有的攻击策略。例如,钓鱼骗局是一场数字游戏——如果只有1%的收件人点击恶意链接,那就是攻击者的胜利。但是,有了AI的帮助,攻击者可以对其钓鱼邮件进行前所未有的个性化,使其更加令人信服和危险。更糟糕的是,一旦组织被攻破(通过钓鱼或其他手段),攻击者可以利用AI来分析发现数据并创建决策过程,使得传播变得更容易和更隐蔽。攻击者可以自动化传播的程度越高,他们就越快地达到目标——通常在传统安全工具甚至能够识别攻击之前,甚至更快地做出反应。支柱 #3:在网络安全产品中使用AI最后一个支柱是安全专业人员最熟悉的:网络安全供应商在其产品中使用AI。AI最擅长的事情之一就是识别模式,这使得它非常适合识别可疑或异常活动。越来越多的供应商正在其检测解决方案中部署AI,并且许多供应商还利用AI来自动化某些补救元素。过去,处理低级威胁一直是一个枯燥但必要的网络安全元素。今天,AI可以自动化大部分这个过程,自动处理轻微事件,并允许安全专业人员专注于真正需要直接关注的威胁。这为广泛的安全解决方案增加了显著的价值,但它并不是在真空中发生的。AI模型需要维护,很重要的是要与那些一贯更新其模型的供应商合作。审核潜在的安全合作伙伴至关重要,组织需要了解供应商如何与AI合作:他们的数据来自哪里,他们如何避免诸如固有偏见等问题,以及其他因素可以(并且应该)影响决定是否与某个供应商合作。虽然AI解决方案在几乎所有行业中都获得了关注,但并非所有AI解决方案都是一样的。组织需要确保他们与理解AI技术的安全合作伙伴合作,而不是那些将“AI”视为营销热词的供应商。自信地面对AI随着AI在网络安全格局中变得越来越普遍,组织需要熟悉AI的实际使用方式。这意味着了解AI如何改善安全解决方案,以及如何帮助攻击者制造更先进的攻击。同时,也意味着认识到构建今天的AI模型所需的数据需要保护,并且与优先考虑安全和安全地部署该技术的供应商合作至关重要。通过了解AI和安全的三个主要支柱,组织可以确保他们拥有必要的基础知识来自信地面对该技术。今天的AI模型是建立在需要保护的基础上——与优先考虑安全和安全地部署该技术的供应商合作至关重要。