GenAI 正在改变网络安全

网络安全行业一直面临着艰巨的挑战，今天的挑战比以往任何时候都更陡峭、更广泛。

尽管组织正在采用越来越多的数字工具来优化运营和提高效率，但他们同时也在增加自己的攻击面 – 黑客可能会利用的脆弱入口点的范围 – 使他们更容易受到 日益增长 的网络威胁，即使他们的防御能力在提高。更糟糕的是，组织不得不面对迅速增长的威胁阵列，同时还面临着 网络安全专业人才的短缺。

幸运的是，人工智能（尤其是生成式 AI（GenAI））的创新为网络安全行业的一些最复杂的问题提供了解决方案。但我们才刚刚开始探索 – 虽然 GenAI 在网络安全中的作用预计将在未来几年中 指数级增长，但仍有未被开发的机会，其中该技术可以进一步增强进展。

GenAI 在网络安全中的当前应用和益处

GenAI 对网络安全行业影响最显著的领域之一是其能够提供以前无法获得的自动化洞察。

数据处理、过滤和标记的初始阶段仍然经常由旧的机器学习世代执行，这些世代擅长处理和 分析大量数据，例如对大量漏洞警报进行排序并识别潜在的异常。GenAI 的真正优势在于其之后发生的事情。

一旦数据经过预处理和范围定义，GenAI 就可以提供超出前几代 AI 能力的高级推理能力。GenAI 工具提供更深入的上下文化、更准确的预测和微妙的洞察，这些是用旧技术无法获得的。

例如，在处理大量数据集（例如数百万个文档）并通过其他手段进行过滤和标记后，GenAI 提供了对精心策划的数据的附加分析、验证和上下文，确定其相关性、紧急性和潜在的安全风险。它甚至可以迭代其理解，通过查看其他数据源生成额外的上下文，随着时间的推移完善其决策能力。这种分层方法超出了简单的数据处理，将重点转移到高级推理和自适应分析上。

挑战和局限性

尽管最近有所改进，但将 GenAI 集成到现有的网络安全解决方案中仍然存在许多挑战。

首先，人工智能的能力往往带有不切实际的期望，这导致了过度依赖和欠工程的风险。人工智能既不是神奇的也不是完美的。众所周知，GenAI 经常由于偏见的数据输入或不正确的输出而产生不准确的结果，这被称为 幻觉。

这些系统需要严格的工程设计才能准确有效，必须将其视为更广泛的网络安全框架的一个元素，而不是总的替代品。在更随意的情况下或非专业使用 GenAI 时，幻觉可能是无关紧要的，甚至是 喜剧。但在网络安全的世界里，幻觉和偏见的结果可能会带来灾难性的后果，导致意外暴露 关键资产、漏洞和广泛的声誉和财务损害。

未开发的机会：具有代理的 AI

挑战不应该阻止组织采用 AI 解决方案。技术仍在不断发展，AI 能够增强网络安全的机会将继续增长。

GenAI 的推理和从数据中获取洞察力的能力将在未来几年中变得更加先进，包括识别趋势和建议行动。今天，我们已经看到高级 AI 通过简化和加速流程、主动建议行动和战略下一步来产生的影响，允许团队专注于生产力而不是规划。随着 GenAI 的推理能力继续改进并更好地模仿安全分析师的思维过程，它将作为人类专业知识的扩展，使复杂的网络安全更加高效。

在安全态势评估中，AI 代理可以真正具有代理性，在探索相互连接的系统（例如 Okta、GitHub、Jenkins 和 AWS）时自主做出上下文决策。与其依赖静态规则，AI 代理动态地在生态系统中导航，识别模式、调整优先级并关注安全风险增加的区域。例如，代理可能会识别一个向量，其中 Okta 中的权限允许开发人员通过 GitHub 访问 Jenkins，最后访问 AWS。认识到这条路径是生产中不安全代码的潜在风险，代理可以自主决定进一步探索，关注特定的权限、工作流和安全控制，这些可能是弱点。

通过整合 检索增强生成 (RAG)，代理利用外部和内部数据源 – 从最近的漏洞报告、最佳实践，甚至组织的特定配置中获取 – 来塑造其探索。当 RAG 提供 CI/CD 流水线中常见的安全差距的见解时，代理可以将这些知识纳入其分析中，实时调整其决策，以强调风险因素汇聚的区域。

此外，微调 可以通过将代理的决策能力量身定制到其运行的独特环境中来增强代理的自主性。通常，微调是使用专门的数据来应用于广泛的用例，而不是特定客户的环境中的数据。但是，在某些情况下，例如单租户产品，微调可能应用于特定客户的数据，以便代理能够内化特定的安全细微差别，使其选择更加明智和细致入微。这种方法使代理能够从过去的安全评估中学习，完善其对如何优先考虑特定向量（例如涉及从开发环境到生产环境的直接连接）的理解。

拥有代理、RAG 和微调的组合，代理超越了传统的检测，转向主动和自适应分析，模仿了熟练的人类分析师的决策过程。这创造了一个更细致入微、上下文感知的安全方法，AI 不仅仅是做出反应，而是预测风险并相应地调整，就像人类专家一样。

AI 驱动的警报优先级

AI 基础方法可以产生重大影响的另一个领域是减少警报疲劳。AI 可以通过协作过滤和优先级警报来帮助减少警报疲劳，基于组织内的特定结构和风险进行优先级排序。与其对所有安全事件采用一刀切的方法，这些 AI 代理分析每个活动的更广泛的上下文，并相互通信以突出显示真正的安全问题的警报。

例如，代理不再触发所有访问权限更改的警报，而是识别出对敏感区域产生影响的修改，而另一个代理评估类似更改的历史以衡量风险。这些代理共同关注配置或活动，这些配置或活动真正提高了安全风险，帮助安全团队避免低优先级事件的噪音。

通过不断学习外部威胁情报和内部模式，这个代理系统适应了整个组织中出现的新兴风险和趋势。具有共享的上下文因素理解，这些代理可以实时完善警报，转变为从一系列通知到一个流线型的流程，突出显示关键的洞察力。

这种协作、上下文敏感的方法使安全团队能够专注于高优先级问题，减少管理警报的认知负担，并提高操作效率。通过采用一个代理网络，它们可以根据细致入微、实时的因素进行通信和适应，组织可以在减轻警报疲劳的挑战方面取得有意义的进展，最终提高安全运营的有效性。

网络安全的未来

随着数字化格局的扩展，网络威胁的复杂性和频率也会增加。将 GenAI 集成到网络安全战略中的工作已经在应对这些新威胁方面取得了变革性的成果。

但是，这些工具并不是网络安全行业所有挑战的万能解决方案。组织必须意识到 GenAI 的局限性，因此采取一种方法，即 AI 补充人类专业知识，而不是取代它。那些带着开放的心态和战略眼光采用 AI 网络安全工具的人将有助于塑造行业的未来，使其比以往任何时候都更有效、更安全。