Evan Powell, DeepTempo CEO Evan Powell DeepTempo CEO

人工智能代理使零日漏洞成为人类无法单独赢得的竞赛

多年来，零日漏洞一直很危险，但它们以前很少见，且难以大规模利用。找到一个零日漏洞需要耐心、专门的技能和对软件行为的深入理解。正如Nicole Perlroth和其他记者报道的那样，零日漏洞有一个交易市场，国家将其视为极其宝贵的网络武器。今天，零日漏洞广泛可用。几乎任何人都可以使用开源人工智能模型或专有的AI（如Claude和OpenAI）自己发现新的零日漏洞。使人工智能对编写代码、总结日志和加速安全操作有用的相同进步，也可以用于搜索漏洞、链接漏洞和以机器速度测试利用路径。攻击者不再需要手动检查每个依赖项、反向工程每个应用程序或花费数周时间探测弱点。人工智能代理可以自动执行大部分工作，探索代码库、扫描暴露的系统、生成假设并迭代，直到找到有用的东西。这改变了零日漏洞利用的经济学。人类攻击者可能只有时间追求最有前途的目标。人工智能辅助攻击者可以以更低的疲劳和更快的速度检查更多的软件。即使大多数尝试失败，尝试的庞大数量也使成功更加可能。在网络安全中，规模往往将罕见的事件转化为常见的事件。人工智能正在扩大零日搜索面这就是为什么零日漏洞正在成为一个更加紧迫的企业风险。现代软件太大、太相互关联、太依赖第三方组件，以至于任何组织都无法在攻击者之前完全理解每个弱点。大多数公司依赖于一个庞杂的商业平台、开源库、云服务、SaaS应用程序、API、身份系统、边缘设备和内部工具的混合。每一层都引入了潜在的漏洞。每个集成都创建了新的攻击路径。每个更新都可能悄悄地改变风险配置文件。令人不舒服的现实是，软件中存在大量未发现的漏洞。有些存在于旧代码中，些存在于新代码中，些来自于依赖项，许多组织都没有足够精确地跟踪它们。有些来自于系统之间的交互，即使每个单独的组件看起来是安全的。人工智能代理非常适合探索这种复杂性，因为它们可以广泛、持久、适应性地搜索。防御者面临着一个不可能的补丁问题。你无法修补一个你不知道存在的漏洞。你无法将每个理论弱点都优先考虑为同等重要的。你无法在部署之前完全测试每个软件、配置和用户行为的组合。即使是成熟的漏洞管理计划也经常围绕已知的CVE、供应商建议和威胁情报源构建。这些都是必不可少的，但它们是在发现之后才到来的。在人工智能加速的零日狩猎世界中，发现可能首先出现在攻击者的手中。这就造成了一个越来越大的“拍打老鼠”的游戏。一个漏洞被发现，一个补丁被匆忙发布。利用转移到一个相邻的系统、一个不同的依赖项或一个新暴露的接口。安全团队做出反应，但待办事项列表不断扩大。人工智能在双方都加速了敲打的速度，但攻击者往往首先受益，因为他们只需要找到一个可行的路径。防御者必须保护所有这些路径。长期的答案可能来自于人工智能本身。随着人工智能系统变得更好地生成、审查和测试代码，它们应该有助于在软件进入生产之前消除整个类别的漏洞。安全开发可能会变得更加实用，当人工智能可以持续检查代码、识别不安全的模式、模拟利用可能性并实时建议修复时。在我们DeepTempo的工作中，我们已经看到更广泛地使用像Rust这样的内存安全语言；虽然Rust在某些方面更难以编码，但它更安全，得益于人工智能，编写Rust代码变得更加容易。防御者需要从补丁速度转变为攻击恢复力虽然一个所有软件都已修补或以更安全的方式重写的未来是值得追求的，但由于各种原因，它的理论可能性尚不明确。无论如何，我们知道它还没有到来，也不会在很多年内到来。今天的人工智能生成的代码仍然可以引入漏洞。人工智能安全工具仍然可以忽略上下文。今天的企业环境仍然包含了几十年的技术债务。攻击者已经在使用自动化来加快速度，而防御者仍然在将人工智能集成到现有的工作流程、批准链和风险模型中，并发现LLM在检测攻击时没有用处。有关LLM在检测方面的表现，可以在最近的开源基准测试中找到，例如SOC Bench。例如，SOC Bench背后的工程师发现，最好的LLM具有20%的假阳性率，并且在典型的大型安全环境中，每天的成本将达到数亿美元。因此，人工智能的崛起目前大大有利于攻击者。不幸的是，组织需要假设某些未知漏洞将在公开披露之前被对手发现。此外，感谢改进的钓鱼和广泛捕获的身份，攻击者可以简单地登录。简而言之，至少在中期内，安全策略不能仅仅依赖于预防。预防仍然至关重要，但它必须与更快的检测、更强的行为分析和更紧密的隔离相结合。正如最近几家组织所建议的，包括NIST、五眼联盟和国家科学院，鉴于人工智能使能攻击者的崛起，安全团队应该重新审视他们的方法，以了解在用户、机器、身份、应用程序和数据流中什么是正常的。零日漏洞通常会成功绕过已知的签名，但它们仍然会留下足迹，今天最强大的分类模型可以看到并区分它们。例如，攻击可能会显示出异常的访问模式、异常的权限使用、异常的进程活动、奇怪的身份验证流或数据移动，这些在组合中与环境的基线不匹配。专用人工智能可以帮助防御者更早地找到这些信号，特别是当攻击本身是新颖的时。此外，公司应该减少损害范围。如果使用零日漏洞获得进入，下一个问题是攻击者在被检测之前可以移动多远。窗口越小，漏洞的价值就越小。没有清晰的暂停按钮来停止这一刻。人工智能代理将继续改进。攻击性实验将继续加速。值得探测的系统数量将继续增长。安全社区的任务是确保防御性人工智能能够同样快速地成熟。零日漏洞一直奖励速度、创造力和不对称性。人工智能代理放大了这三种因素。适应的人工智能将被视为安全团队的生产力层。他们还将使用专门设计的人工智能来高效、准确地检测未知威胁，优先考虑看似微弱的信号，这些信号与成千上万的其他信号结合起来，表明存在损害，并在利用漏洞之前做出反应，以免它成为全面的业务危机。