人工智能不会修复破碎的安全基础

人工智能能够提高可见性、分析和决策能力，但其有效性受到底层环境质量的限制

“它是否使用人工智能？”已经成为安全产品对话中的默认问题，安全领导者提出这个问题，几乎每个供应商都在宣传中重复这个问题。

问题在于，这个问题是错误的。一个产品是否使用人工智能并不意味着它能够加强组织的安全态势。人工智能不是所有网络安全问题的万能解决方案。其价值取决于如何应用它，这从明确定义要解决的问题开始。

更好的问题是：“我们试图关闭哪个具体的安全漏洞，这个人工智能技术是否真正有助于关闭它？”

人工智能的优势

人工智能在安全领域提供了三方面的价值。首先，它填补了数据缺口。安全团队从多个来源收集数据，包括过时的资产清单、无法捕获所有访问关系的身份系统和遗漏某些流量的网络遥测。人工智能可以从不完整的数据集中推断出上下文，以建立对资产、身份、连接性和工作负载行为的更完整的图景。

人工智能还可以在规模上改善分析。安全运营中的信号与噪音问题非常严重，并且正在恶化。人工智能可以在多个数据源中关联事件，表面上显示需要关注的警报，并将低优先级的噪音从分析师的视野中推出。这是大多数安全供应商投资人工智能的地方。SOC团队花费的时间更少，用于处理低价值的警报，并且花费更多的时间在需要人类判断的活动上。

第三，一旦人工智能丰富了数据并分析了信号，它就可以通过推荐下一步来指导行动，例如哪个策略变化可以减轻风险、哪个响应操作适合行为模式，或者配置需要更改的位置。

人工智能在改善上下文、分析和决策方面提供了最大的价值。它增强了强大的安全实践，但不能弥补缺失的实践。

为什么弱基础仍然会失败

人工智能受到组织输入的限制。这些输入（例如遥测、架构、策略、控制和现有工具）定义了人工智能可以做什么的边界。提高这些输入的质量，人工智能就会产生更好的结果。削弱它们，输出就会降级。

没有上下文来识别缺失，人工智能无法报告它。它不会自行检查环境并标记缺失的内容。它不会告诉安全团队网络缺乏足够的分段、访问控制过于宽松或可见性缺口使整个环境的某些部分未被监控。

人工智能没有逃避旧的数据质量原则“垃圾输入，垃圾输出”，它加强了这一原则。弱的遥测产生弱的分析。有缺陷的控制使人工智能朝着错误的方向优化。不可见性不完整意味着决策是基于不完整的图景做出的，人工智能使这些决策更快地做出，但不是更准确。速度在底层信息不可靠时并不是一种改进。

这就是为什么基础质量在任何人工智能能力发挥之前就至关重要。强大的基础包括执行有意义的边界的身份和访问控制、用户、工作负载、应用程序、数据和微分段以限制横向移动，以及整个环境的全面可见性/可观察性。它还需要可靠的遥测和对系统如何连接和依赖于彼此的清晰理解。

这些并不是新鲜事物。这些是安全团队多年来讨论的相同学科，从移动设备的转变到云的转变。变化的是忽视它们的成本。人工智能可以放大强大的安全基础，但不能取代它。

人工智能改变了风险方程

转变不是从没有人工智能到有人工智能，而是从辅助人工智能到主动人工智能。传统的人工智能分析数据、表面化洞察和推荐下一步。主动人工智能在不等待人类决策的情况下跨系统、数据和工作流执行。

可以这样想：一夜之间部署100个人工智能代理，相当于雇佣100名新员工，他们永远不会下班，按照机器速度运行，并且可以访问他们权限允许的任何系统。但是，与人类员工不同，这些代理不会暂停、质疑或运用判断力来决定何时使用该访问权限。他们持续执行，跨系统移动，并按照允许的方式精确地触摸多个应用程序。

这是差距。您的访问模型假设人类行为（例如离散操作、较慢的速度和一定的判断力）。人工智能代理消除了这些限制。如果权限过于宽泛（或不准确），它们不仅仅是偶尔被滥用；它们不断地在规模上执行，跨越每个系统。

当组织为代理分配与特定用户相同的访问配置文件时，他们创建了一个克隆，而不是一个有用的代理。该克隆具有与原始用户相同的广泛权限，持续运行，并可能将组织暴露于相同的风险，无论其行为是恶意的还是仅仅是配置错误的。

在人工智能时代，身份、访问控制、最小特权、分段和可观察性不再只是最佳实践——它们是基础安全要求。最近的云安全联盟 简报 由SANS、OWASP Gen AI安全项目和实践者社区开发，强调了主动人工智能不会使这些基本原则过时的观点。它使它们变得不可协商。

人工智能就绪安全的样子

将人工智能就绪视为采购问题，并专注于实施哪些人工智能启用的工具，忽略了这样一个事实：人工智能就绪是一个架构、治理和控制问题。问题不是购买哪些工具，而是环境是否能够支持人工智能安全运行。

首先是可见性。在部署任何人工智能能力之前，安全团队需要对环境中存在的内容有一个清晰的了解：资产、工作负载、身份、应用程序、数据、人工智能模型、代理和第三方连接。这个清单不是人工智能可以为您构建的东西。它是人工智能需要的起点。

然后，定义问题。首先识别控制缺口或特定风险。决定哪个结果需要改善。然后询问人工智能是否可以更好地帮助关闭该缺口。以相反的顺序开始的组织，即首先选择一个人工智能工具，然后寻找一个问题来应用它，往往会产生活动而不提高安全性。

将零信任原则应用于人工智能代理是使其成为操作的方法。直觉往往是定义代理不应该做什么，但这个列表始终是不完整的。更可靠的方法是对每个代理可以做什么进行描述，仅为定义的任务提供必要的访问权限，并在整个堆栈的每个层次强制执行这些限制。将代理可以访问的系统分段，以便如果一个代理的行为超出了定义的边界或攻击者滥用它，损害将保持在可控范围内。

最后，活动的增加并不是成功的指标。人工智能将增加安全团队采取的行动的数量，但这并不意味着它正在提高安全性。显示大量活动的仪表板并不表明人工智能正在提供价值。

衡量结果，例如警报量是否在反映真正的信号和风险水平在最重要的领域下降得更快。确保策略建议加强控制，允许安全团队更快地遏制事件，并使SOC分析师能够花更多时间从事需要人类判断的工作。

基础先行

人工智能不是强大安全态势的基础。它是一个倍数器，像任何倍数器一样，其价值完全取决于应用它的内容。

拥有明确可见性、执行最小特权、分段和强大的身份控制的组织可以使用人工智能来提高上下文、加速分析和根据更好的信息采取行动。那些没有做到这些的组织将发现人工智能会使他们朝着错误的方向移动得更快，优化有缺陷的控制并从不完整的图景中表面化洞察。

在做出任何人工智能投资之前必须提出的问题与驱动每个安全决策的问题相同：我们试图解决什么问题？如果答案是明确的，并且支持它的架构已经到位，那么人工智能就可以使解决方案更有效。如果答案是模糊的或基础是弱的，添加人工智能不会改变这种情况。它只会使缺口更难看清。

人工智能不会修复破碎的基础。它只会使裂缝更快地显现。