LLM 和生成式 AI 是否能解决应用安全 20 年来的问题？

在网络安全的不断演变中，始终领先于恶意行为者是一个持续的挑战。过去二十年来，应用安全问题一直存在，传统方法通常无法检测和缓解新出现的威胁。然而，一种新的有前途的技术，生成式 AI（GenAI），即将革新这一领域。在本文中，我们将探讨生成式 AI 如何与安全相关，为什么它能够解决以前的方法无法解决的长期挑战，它能够给安全生态系统带来什么样的破坏，以及它与旧的机器学习（ML）模型有何不同。

为什么问题需要新技术

应用安全问题是多方面和复杂的。传统的安全措施主要依赖于模式匹配、基于签名的检测和基于规则的方法。虽然在简单的情况下这些方法是有效的，但它们在处理开发人员编写代码和配置系统的创造性方法时却难以应对。现代对手不断演变他们的攻击技术，扩大攻击面，并使模式匹配在保护新出现的风险方面变得不够。这需要在安全方法上进行范式转变，而生成式 AI 可能是解决这些挑战的关键。

LLM 在安全中的魔力

生成式 AI 是对机器学习算法中使用的旧模型的改进，这些模型擅长根据合成样本的训练对数据进行分类或聚类。现代 LLM 模型是在数百万个来自大型代码仓库（例如 GitHub）的示例中训练的，这些示例部分标记为安全问题。通过学习大量数据，现代 LLM 模型可以理解应用代码和环境中的底层模式、结构和关系，从而能够识别潜在的漏洞并预测给定输入和预处理的攻击向量。

另一个伟大的进步是生成真实的修复样本的能力，这可以帮助开发人员更快地理解根本原因并解决问题，特别是在安全专业人员被组织隔离和超载的复杂组织中。

GenAI 启用的即将到来的破坏

生成式 AI 有可能以几种方式破坏应用安全生态系统：

自动漏洞检测：传统的漏洞扫描工具通常依赖于手动规则定义或有限的模式匹配。生成式 AI 可以通过学习大量代码仓库和生成合成样本来自动化该过程，从而识别漏洞并减少手动分析所需的时间和精力。

对抗性攻击模拟：安全测试通常涉及模拟攻击以识别应用中的弱点。生成式 AI 可以生成真实的攻击场景，包括复杂的多步骤攻击，从而使组织能够加强对真实世界威胁的防御。一个很好的例子是“BurpGPT”，它是 GPT 和 Burp 的组合，帮助检测动态安全问题。

智能补丁生成：为漏洞生成有效的补丁是一个复杂的任务。生成式 AI 可以分析现有的代码库并生成解决特定漏洞的补丁，从而在补丁开发过程中节省时间并最小化人为错误。

虽然这种类型的修复以前被行业拒绝，但生成式 AI 的自动代码修复和生成测试的能力可能是行业推动新水平的边界的好方法。

增强的威胁情报：生成式 AI 可以分析大量的安全相关数据，包括漏洞报告、攻击模式和恶意软件样本。生成式 AI 可以通过生成洞察力和识别从初始指示到实际可执行的游戏规则的新出现趋势来显著增强威胁情报能力，从而使得主动防御策略成为可能。

LLM 和应用安全的未来

LLM 仍然存在一些缺陷，无法实现完美的应用安全，例如上下文理解有限、代码覆盖不完整、缺乏实时评估和缺乏特定领域的知识。为了解决这些缺陷，未来可能需要将 LLM 方法与专用安全工具、外部丰富源和扫描仪相结合。正在进行的 AI 和安全的进步将有助于弥补这些差距。

一般来说，如果您有更大的数据集，您可以创建更准确的 LLM。这对于代码也是如此，因此当我们有更多相同语言的代码时，我们将能够使用它来创建更好的 LLM，这反过来将推动更好的代码生成和安全性向前发展。

我们预计，在未来几年中，我们将见证 LLM 技术的进步，包括利用更大的令牌大小的能力，这具有巨大的潜力，可以显著改善基于 AI 的网络安全。

ter LLMs，这将反过来推动更好的代码生成和安全性向前发展。我们预计，在未来几年中，我们将见证 LLM 技术的进步，包括利用更大的令牌大小的能力，这具有巨大的潜力，可以显著改善基于 AI 的网络安全。