生成式 AI 在网络安全中：战场、威胁和现在的防御

战场

最初围绕生成式 AI 的能力所产生的兴奋很快转变为担忧。生成式 AI 工具，如 ChatGPT、Google Bard、Dall-E 等，继续因安全和隐私问题而登上头条。甚至引发了人们对什么是真实的、什么不是真实的质疑。生成式 AI 可以产生非常可信和令人信服的内容。如此之多，以至于在最近一期 60 分钟的 AI 篇节的结尾，主持人 Scott Pelley 留下了这样一句话：“我们将以一条从未出现在 60 分钟的注释结束，但是在 AI 革命中，你可能会经常听到：前面的内容是 100% 由人类创建的。”

生成式 AI 网络战争始于这种令人信服和真实的内容，战场是黑客利用生成式 AI，使用诸如 ChatGPT 等工具的地方。对于网络犯罪者，尤其是那些资源有限、没有技术知识的人来说，通过社会工程、钓鱼和冒充攻击来实施犯罪非常容易。

威胁

生成式 AI 有能力助长日益复杂的网络攻击。

由于该技术可以轻松生成令人信服和类似人类的内容，因此安全团队很难轻易发现利用 AI 的新型网络骗局。AI 生成的骗局可以以社会工程攻击的形式出现，例如通过电子邮件和消息应用程序进行的多渠道钓鱼攻击。一个现实世界的例子可能是第三方供应商通过 Outlook（电子邮件）或 Slack（消息应用程序）向公司高管发送的包含文档的电子邮件或消息。电子邮件或消息提示他们点击查看发票。使用生成式 AI，几乎无法区分真假电子邮件或消息。这就是为什么它如此危险的原因。

然而，最令人担忧的例子之一是，使用生成式 AI，网络犯罪者可以跨多种语言进行攻击——无论黑客是否真正会说这种语言。目标是投下广泛的网，网络犯罪者不会根据语言来区分受害者。

生成式 AI 的进步表明，这些攻击的规模和效率将继续增加。

防御

针对生成式 AI 的网络防御一直是这个谜题中缺失的部分。直到现在。通过使用机器对机器的战斗，或者说 AI 对抗 AI，我们可以抵御这种新的和日益增长的威胁。但是，这种策略应该如何定义，它的样子是什么？

首先，行业必须采取行动，将计算机对阵计算机，而不是人对阵计算机。为了实现这一努力，我们必须考虑先进的检测平台，可以检测 AI 生成的威胁，减少标记和解决社会工程攻击所需的时间，这是人类无法做到的。

我们最近进行了一个测试，以查看这将如何展现。我们让 ChatGPT 制作一个基于语言的回呼钓鱼电子邮件，使用多种语言，以查看自然语言理解平台或先进的检测平台是否可以检测到它。我们给 ChatGPT 提出了一个提示，“写一封紧急电子邮件，敦促某人打电话讨论软件许可协议的最终通知。”我们还命令它用英语和日语写。

先进的检测平台能够立即将电子邮件标记为社会工程攻击。但是，像 Outlook 的钓鱼检测平台这样的本地电子邮件控制无法做到这一点。即使在 ChatGPT 发布之前，通过对话、基于语言的攻击进行的社会工程也已被证明是成功的，因为它们可以避免传统的控制，进入收件箱而不包含链接或有效载荷。因此，确实需要机器对机器的战斗来防御，但我们也必须确保我们使用的是有效的炮弹，例如先进的检测平台。任何拥有这些工具的人都在与生成式 AI 的战斗中占有优势。

当谈到 ChatGPT 和其他形式的生成式 AI 所提供的社会工程攻击的规模和可信度时，机器对机器的防御也可以被改进。例如，这种防御可以部署在多种语言中。它不仅仅局限于电子邮件安全，还可以用于其他通信渠道，例如 Slack、WhatsApp、Teams 等应用程序。

保持警惕

当我们在 LinkedIn 上滚动浏览时，我们的一名员工遇到了一个生成式 AI 社会工程尝试。一个奇怪的“白皮书”下载广告出现，广告创意只能被描述为“怪异”。在仔细观察后，员工在图像的右下角看到一个色彩模式，这是由 Dall-E 生成的图像的标志，Dall-E 是一种从基于文本的提示生成图像的 AI 模型。

遇到这个假的 LinkedIn 广告是对生成式 AI 社会工程新危险的重要提醒。保持警惕和怀疑比以往任何时候都更为重要。

生成式 AI 被用于网络犯罪的时代已经到来，我们必须保持警惕，并准备好使用我们所拥有的所有工具来反击。