Raghu Nandakumara, Illumio行业战略副总裁 Raghu Nandakumara Illumio行业战略副总裁

人工智能不会修复破碎的安全基础

人工智能能够提高可见性、分析和决策能力，但其有效性受到底层环境质量的限制“它是否使用人工智能？”已经成为安全产品对话中的默认问题，安全领导者提出这个问题，几乎每个供应商都在宣传中重复这个问题。 问题在于，这个问题是错误的。一个产品是否使用人工智能并不意味着它能够加强组织的安全态势。人工智能不是所有网络安全问题的万能解决方案。其价值取决于如何应用它，这从明确定义要解决的问题开始。 更好的问题是：“我们试图关闭哪个具体的安全漏洞，这个人工智能技术是否真正有助于关闭它？” 人工智能的优势人工智能在安全领域提供了三方面的价值。首先，它填补了数据缺口。安全团队从多个来源收集数据，包括过时的资产清单、无法捕获所有访问关系的身份系统和遗漏某些流量的网络遥测。人工智能可以从不完整的数据集中推断出上下文，以建立对资产、身份、连接性和工作负载行为的更完整的图景。 人工智能还可以在规模上改善分析。安全运营中的信号与噪音问题非常严重，并且正在恶化。人工智能可以在多个数据源中关联事件，表面上显示需要关注的警报，并将低优先级的噪音从分析师的视野中推出。这是大多数安全供应商投资人工智能的地方。SOC团队花费的时间更少，用于处理低价值的警报，并且花费更多的时间在需要人类判断的活动上。 第三，一旦人工智能丰富了数据并分析了信号，它就可以通过推荐下一步来指导行动，例如哪个策略变化可以减轻风险、哪个响应操作适合行为模式，或者配置需要更改的位置。 人工智能在改善上下文、分析和决策方面提供了最大的价值。它增强了强大的安全实践，但不能弥补缺失的实践。 为什么弱基础仍然会失败人工智能受到组织输入的限制。这些输入（例如遥测、架构、策略、控制和现有工具）定义了人工智能可以做什么的边界。提高这些输入的质量，人工智能就会产生更好的结果。削弱它们，输出就会降级。 没有上下文来识别缺失，人工智能无法报告它。它不会自行检查环境并标记缺失的内容。它不会告诉安全团队网络缺乏足够的分段、访问控制过于宽松或可见性缺口使整个环境的某些部分未被监控。 人工智能没有逃避旧的数据质量原则“垃圾输入，垃圾输出”，它加强了这一原则。弱的遥测产生弱的分析。有缺陷的控制使人工智能朝着错误的方向优化。不可见性不完整意味着决策是基于不完整的图景做出的，人工智能使这些决策更快地做出，但不是更准确。速度在底层信息不可靠时并不是一种改进。 这就是为什么基础质量在任何人工智能能力发挥之前就至关重要。强大的基础包括执行有意义的边界的身份和访问控制、用户、工作负载、应用程序、数据和微分段以限制横向移动，以及整个环境的全面可见性/可观察性。它还需要可靠的遥测和对系统如何连接和依赖于彼此的清晰理解。 这些并不是新鲜事物。这些是安全团队多年来讨论的相同学科，从移动设备的转变到云的转变。变化的是忽视它们的成本。人工智能可以放大强大的安全基础，但不能取代它。 人工智能改变了风险方程转变不是从没有人工智能到有人工智能，而是从辅助人工智能到主动人工智能。传统的人工智能分析数据、表面化洞察和推荐下一步。主动人工智能在不等待人类决策的情况下跨系统、数据和工作流执行。 可以这样想：一夜之间部署100个人工智能代理，相当于雇佣100名新员工，他们永远不会下班，按照机器速度运行，并且可以访问他们权限允许的任何系统。但是，与人类员工不同，这些代理不会暂停、质疑或运用判断力来决定何时使用该访问权限。他们持续执行，跨系统移动，并按照允许的方式精确地触摸多个应用程序。 这是差距。您的访问模型假设人类行为（例如离散操作、较慢的速度和一定的判断力）。人工智能代理消除了这些限制。如果权限过于宽泛（或不准确），它们不仅仅是偶尔被滥用；它们不断地在规模上执行，跨越每个系统。 当组织为代理分配与特定用户相同的访问配置文件时，他们创建了一个克隆，而不是一个有用的代理。该克隆具有与原始用户相同的广泛权限，持续运行，并可能将组织暴露于相同的风险，无论其行为是恶意的还是仅仅是配置错误的。 在人工智能时代，身份、访问控制、最小特权、分段和可观察性不再只是最佳实践——它们是基础安全要求。最近的云安全联盟 简报 由SANS、OWASP Gen AI安全项目和实践者社区开发，强调了主动人工智能不会使这些基本原则过时的观点。它使它们变得不可协商。 人工智能就绪安全的样子将人工智能就绪视为采购问题，并专注于实施哪些人工智能启用的工具，忽略了这样一个事实：人工智能就绪是一个架构、治理和控制问题。问题不是购买哪些工具，而是环境是否能够支持人工智能安全运行。 首先是可见性。在部署任何人工智能能力之前，安全团队需要对环境中存在的内容有一个清晰的了解：资产、工作负载、身份、应用程序、数据、人工智能模型、代理和第三方连接。这个清单不是人工智能可以为您构建的东西。它是人工智能需要的起点。 然后，定义问题。首先识别控制缺口或特定风险。决定哪个结果需要改善。然后询问人工智能是否可以更好地帮助关闭该缺口。以相反的顺序开始的组织，即首先选择一个人工智能工具，然后寻找一个问题来应用它，往往会产生活动而不提高安全性。 将零信任原则应用于人工智能代理是使其成为操作的方法。直觉往往是定义代理不应该做什么，但这个列表始终是不完整的。更可靠的方法是对每个代理可以做什么进行描述，仅为定义的任务提供必要的访问权限，并在整个堆栈的每个层次强制执行这些限制。将代理可以访问的系统分段，以便如果一个代理的行为超出了定义的边界或攻击者滥用它，损害将保持在可控范围内。 最后，活动的增加并不是成功的指标。人工智能将增加安全团队采取的行动的数量，但这并不意味着它正在提高安全性。显示大量活动的仪表板并不表明人工智能正在提供价值。...