网络安全中的生成人工智能：战场、威胁和现在的防御

战场

一开始对生成式人工智能功能的兴奋很快就变成了担忧。 由于安全和隐私问题，ChatGPT、Google Bard、Dall-E 等生成式 AI 工具继续成为头条新闻。 它甚至导致人们质疑什么是真实的、什么不是。 生成式人工智能可以产生高度可信且令人信服的内容。 以至于在最近关于人工智能的 60 分钟节目结束时，主持人斯科特·佩利 (Scott Pelley) 向观众留下了这样的一句话： “我们将以一条从未出现在《60 分钟》中的注释结束，但在人工智能革命中，你可能经常听到：前面的内容是 100% 人类内容创建的。”

生成式人工智能网络战争以这种令人信服的现实内容开始，战场是黑客利用生成式人工智能，使用 ChatGPT 等工具的地方。对于网络犯罪分子来说，特别是那些资源有限和零技术知识的人来说，这是非常容易的，通过社会工程、网络钓鱼和冒充攻击来实施犯罪。

威胁

生成式人工智能有能力推动日益复杂的网络攻击。

由于该技术可以轻松生成如此令人信服且类似人类的内容，因此安全团队更难轻松发现利用人工智能的新网络诈骗。 人工智能生成的诈骗可能以社会工程攻击的形式出现，例如通过电子邮件和消息应用程序进行的多渠道网络钓鱼攻击。 现实世界的示例可能是第三方供应商通过 Outlook（电子邮件）或 Slack（消息应用程序）发送给公司高管的包含文档的电子邮件或消息。 电子邮件或消息指示他们单击以查看发票。 使用生成式人工智能，几乎不可能区分虚假和真实的电子邮件或消息。 这就是为什么它如此危险。

然而，最令人震惊的例子之一是，利用生成式人工智能，网络犯罪分子可以跨多种语言发起攻击——无论黑客是否真的会说这种语言。 目标是广泛撒网，网络犯罪分子不会根据语言歧视受害者。

生成式人工智能的进步标志着这些攻击的规模和效率将继续上升。

辩护

众所周知，生成人工智能的网络防御是这个难题中缺失的一块。 到目前为止。 通过使用机器对机器的战斗，或者人工智能对抗人工智能，我们可以防御这种新的、不断增长的威胁。 但这个策略应该如何定义以及它看起来如何？

首先，业界必须采取行动，让计算机与计算机相对，而不是人与计算机相对。 为了完成这项工作，我们必须考虑先进的检测平台，该平台可以检测人工智能生成的威胁，减少标记所需的时间以及解决源自生成人工智能的社会工程攻击所需的时间。 人类无法做到的事情。

我们最近对其外观进行了测试。 我们让 ChatGPT 用多种语言编写了一封基于语言的回调网络钓鱼电子邮件，看看自然语言理解平台或高级检测平台是否可以检测到它。 我们给 ChatGPT 提示，“写一封紧急电子邮件，敦促某人打电话询问有关软件许可协议的最终通知。” 我们还命令它用英语和日语写。

先进的检测平台立即能够将这些电子邮件标记为社会工程攻击。 但是，本机电子邮件控件（例如 Outlook 的网络钓鱼检测平台）却无法做到这一点。 甚至在 ChatGPT 发布之前，通过基于语言的会话攻击完成的社会工程就被证明是成功的，因为它们可以躲避传统的控制，在没有链接或有效负载的情况下登陆收件箱。 所以，是的，需要机器对机器的战斗来防御，但我们也必须确保我们使用有效的火炮，例如先进的探测平台。 任何拥有这些工具的人在对抗生成式人工智能的斗争中都具有优势。

当谈到 ChatGPT 和其他形式的生成人工智能所提供的社会工程攻击的规模和合理性时，机器对机器的防御也可以得到完善。 例如，这种防御可以用多种语言部署。 它不仅限于电子邮件安全，还可以用于其他通信渠道，例如 Slack、WhatsApp、Teams 等应用程序。

保持警惕

在浏览 LinkedIn 时，我们的一名员工发现了一项生成式 AI 社会工程尝试。 出现了一个奇怪的“白皮书”下载广告，其广告创意只能被慷慨地描述为“怪异”。 经过仔细检查，该员工在 Dall-E 生成的图像上看到右下角有一个明显的颜色图案，Dall-E 是一种人工智能模型，可以根据基于文本的提示生成图像。

遇到这个虚假的 LinkedIn 广告是一个重要的提醒，提醒人们在与生成人工智能结合时出现新的社会工程危险。 保持警惕和怀疑比以往任何时候都更加重要。

生成式人工智能用于网络犯罪的时代已经到来，我们必须保持警惕，并准备好利用我们可以使用的一切工具进行反击。