曝光报告揭示AI准备度差距，企业安全团队难以应对可见性和治理挑战

来自Manifest的新报告《超越黑盒：AI如何重塑软件供应链》揭示了企业高管和安全团队之间在AI安全准备度方面的日益增长的脱节。该报告基于对300多位来自美国和EMEA的安全领导者和从业者的调查，发现尽管大多数高管认为他们的组织已经准备好应对AI驱动的供应链风险，但安全团队报告了显著的治理缺口、影子AI使用和对现代软件系统的组件缺乏可见性。

报告强调了企业技术中出现的核心紧张关系：AI采用正在跨产品和工作流程加速，但跟踪、治理和保护这些系统的机制尚未跟上。

AI正在以新的形式重现供应链安全问题

十多年来，组织一直致力于通过跟踪依赖关系、监控漏洞和建立治理框架来改善软件供应链安全。然而，Manifest报告认为AI实际上重新引入了许多相同的风险——现在这些风险遍布模型、数据集、代理和第三方AI服务。

AI组件通常作为不透明的系统运行。企业通常无法完全解释模型如何训练、使用了哪些数据集或哪些外部服务嵌入在其应用程序中。因此，组织面临着一种新的供应链风险：软件系统无法可靠地检查、验证或监控。

报告强调，visibility已经开始下降。63%的组织报告了“影子AI”的存在，指的是没有安全、采购或风险管理团队监督的AI工具或集成。

Daniel Bardenstein，Manifest的CEO和联合创始人，说数据揭示了高管认知和运营现实之间的差距：“高管对AI准备度的信心并不符合应用安全团队的日常现实。领导者认为治理已经到位，但从业者看到的是未经管理的AI使用、不明确的所有权和产品及供应商中运行的内容的盲点。”

高管说他们已经准备好了，安全团队却不同意

报告中最引人注目的发现之一是领导层信心和前线安全评估之间的差异。

近80%的安全高管说他们的组织已经具备了成熟的AI安全实践，然而只有大约40%的应用安全（AppSec）团队同意这一评估。

AppSec团队通常是第一个遇到治理框架运营失败的团队，因为他们直接与软件供应链互动。这些从业者报告说，他们遇到了大量的警报、不明确的安全责任所有权和开发和安全环境中的工具分裂。

根据报告，47%的受访者确定了团队分散和不明确的所有权是改善软件供应链安全的最大障碍。

结果是，组织可能认为他们拥有强大的安全计划，但在可见性、问责和运营协调方面仍然存在关键缺口。

SBOM悖论：生成但很少使用

该研究的另一个主要见解是关于软件账单（SBOM）的——软件组件的清单，旨在帮助组织跟踪依赖关系和漏洞。

SBOM的采用在最近几年中扩大，特别是由于监管压力和供应链攻击。然而，Manifest研究表明，许多组织将SBOM生成视为合规性检查，而不是运营能力。

报告强调了几个关键统计数据：

• 60%的组织生成SBOM
• 超过一半不主动管理或在实践中使用它们
• 79.6%使用软件组成分析（SCA）工具
• SBOM的运营使用率远低于41.8%

没有集中式接收、规范化、策略执行和持续监控，SBOM变成了静态的工件，而不是主动的风险管理工具。

安全团队也对传统的软件组成分析平台表示怀疑。56.3%的受访者说SCA工具会产生噪音或延迟开发团队，而46.4%的受访者怀疑这些工具是否真正减少了现实世界中的软件风险。

这种脱节说明了一个更广泛的成熟度挑战：组织可以生成大量的安全数据，但往往缺乏将这些信号转化为可行的风险降低的运营基础设施。

透明度数据改善安全性和部署速度

尽管面临这些挑战，研究表明，实现软件供应链透明度的组织可以获得可衡量的好处。

近半数受访者（49.4%）报告从供应商处获得了可验证的透明度数据，例如SBOM、来源记录或签名二进制文件。

当这种信息是可靠的并被运营化时，影响是显著的：

• 64%报告了新技术的更快实施
• 61.6%报告了安全问题的更快解决
• 15.5%报告了减少的停机时间

缺乏这种透明度的组织将支付报告中描述的“透明度税”——手动调查不透明的软件组件所需的额外时间、成本和风险。

高度监管的行业说明了这一挑战。金融服务和医疗保健组织报告了从供应商处获得可验证的透明度数据的最低比率——分别为14.3%和19.5%——尽管他们对此有最大的需求。

AI采用正在跨企业加速

该研究还强调了AI如何迅速嵌入企业软件生态系统。

几乎没有组织报告完全避免使用AI。相反，公司正在尝试各种方法：

• 80.2%使用内部批准的商业AI模型
• 79.9%广泛使用商业工具，如ChatGPT或Cursor
• 56.7%在内部数据上训练开源模型
• 29.3%从头开始构建自定义AI模型

金融服务和技术公司正在领导这一采用潮流。 近90%的金融服务组织报告了内部批准的AI模型，而 46.9%从头开始构建自定义模型，远高于整体平均水平。

这些行业有强烈的激励因素去快速行动。在金融服务中，AI直接影响欺诈检测、风险管理和收入生成。在技术公司中，AI日益成为产品和平台能力的核心。

然而，采用速度往往超过治理。

影子AI正在成为一个普遍的问题

该研究证实了影子AI——没有正式监督的工具或模型——已经变得普遍。

只有 34.8%的受访者报告说他们的组织中没有影子AI，而其余的承认至少有一些未经管理的AI使用。

这种模式与早期的“影子IT”类似，员工在没有正式采购流程的情况下采用云服务或SaaS工具。

区域差异也正在出现。EMEA的组织报告了 更高的无影子AI运行率（45.7%），可能是由于比其他地区更强的监管框架和更严格的采购流程。

然而，报告警告说，传统的安全工具从来没有被设计成跨分布式开发环境跟踪AI模型、数据集和服务。

许可和法律风险是另一个主要盲点

除了技术治理之外，研究还强调了与AI采用相关的法律和合规挑战。

了解AI模型和数据集的许可条款、知识产权和使用限制对于许多组织来说仍然具有挑战性。调查发现：

• 93%的受访者说他们的组织在管理AI许可和知识产权义务方面有改进的空间
• 54.6%强烈同意这是一个重大挑战

这些风险变得特别严重，当组织在内部数据上训练开源模型或将专有数据集与第三方AI组件结合时。

没有更强的治理框架，公司可能会无意中将许可违规或合规风险引入生产系统。

运营协调可能是真正的挑战

虽然安全工具继续演进，报告表明，AI供应链安全的最大障碍可能不是技术本身。

相反，许多组织难以应对分散的所有权、断裂的工作流程和缺乏软件和AI组件的共享记录系统。

最常被引用的限制包括：

• 47.3%的组织限制
• 36.3%的技能不足
• 35.7%的预算限制
• 34.8%的管理理解不足
• 32.6%的员工短缺

这些运营缺口使得安全信号难以转化为一致的策略执行或可衡量的风险降低。

为什么AI供应链安全正成为战略优先事项

随着AI嵌入到企业软件的每一层，软件供应链的概念正在扩展以包括模型、训练数据集、推理服务和第三方AI平台。

Manifest报告得出结论，组织必须超越点对点的可见性工具，建立对其AI供应链的持续、运营控制。

这包括：

• 跟踪开发环境中使用的所有AI模型
• 验证训练数据的来源和许可
• 在开发和部署期间执行治理策略
• 维护类似于AI组件的SBOM的连续清单

没有这些机制，AI采用和AI治理之间的差距将继续扩大。

正如研究报告所明确指出的那样，这种差距已经存在于许多企业中。