为什么每个企业都需要人工智能账单（AI Bill of Materials）

保障人工智能系统的安全仍然是企业技术中最艰巨的挑战之一。而且风险只会越来越高。根据 Gartner 的预测，到 2026 年，40% 的企业软件应用将包含特定任务的 AI 代理，这一比例将从目前的 5% 大幅增加。同样， IDC 预测，到 2028 年，45% 的 IT 产品和服务交互将使用代理作为主要接口。部署 AI 的竞争正在超越大多数组织对这些系统实际工作原理的理解，而这种竞争带来了模型中毒、数据泄露、偏见和幻觉等风险的增加。为了弥补这一差距，企业需要一个新的透明度层：人工智能账单（AI Bill of Materials，AI BOM）。

类似于软件账单，AI BOM 是一个关于企业技术栈中每个 AI 模型或解决方案的组成部分的综合列表。它们在整个企业中建立透明度，使得审计和适应业务条件的变化变得更加容易。随着组织越来越依赖 AI 自动化工作流程和决策，AI BOM 为负责任、安全和可审计的 AI 操作提供了必要的基础。

人工智能账单：战略企业迫切需要

随着人工智能从实验性试点迅速演变为任务关键的企业平台，这些系统的复杂性和风险-profile 会大幅增加。虽然传统的、更结构化的自动化是逻辑的、基于规则的和系统的，代理自动化涉及认知。随着 AI 代理越来越多地承担需要创造力、决策和从经验中学习的任务，自动化的潜在范围大大扩展。同时，與传统软件不同，AI 系统是由多个相互依赖的组件组成的，例如 UI、API、网关、模型、数据集、提示、特征、向量数据库、库和硬件加速器。为了负责任地和大规模地推进 AI 计划，组织必须清楚地了解 AI 系统的组成部分以及每个独特组件如何随时间变化。

AI BOM 提供了这种透明度。它是一个结构化的清单，捕获了 AI 生命周期中的每个组件、依赖关系和交互。超越模型和数据集，有效的 AI BOM 包括关于为 AI 应用程序提供动力的完整生态系统的详细信息：

• 用户界面（UI），如聊天界面、门户、仪表板和控制面板，人类与 AI 交互。
• API 和集成，包括 REST、GraphQL、Webhook 和系统连接器，实现 AI 与企业应用程序交互。
• 运行时和托管环境，AI 部署（Docker、Kubernetes、AWS Bedrock、Azure OpenAI 和本地）以及使用的计算资源（CPU、GPU 和内存）。
• 执行框架和编排，包括 LangChain、Semantic Kernel、Autogen、NVIDIA NeMo 和 CrewAI 等工具，管理提示、流程、工具调用和代理行为。
• 安全和治理层，如 IAM 角色、令牌控制、加密、日志、审计和使用策略。
• 可观察性和监控，包括成本、延迟、漂移、性能、使用情况和随时间的风险跟踪。

这些元素共同构成了一个 完整且动态的映射，揭示了不仅 您的 AI 系统包含什么，还包括 它来自哪里、如何行为、谁使用它、在哪里运行 和 如何管理。换句话说，AI BOM 服务于单一的真实来源，最初作为技术文档，进而演变为 业务保证和监管文档。

当自动化时，AI BOM 不再仅仅是一个工程资产，而是一个 监管要求、安全框架和企业信任建设者。它提供了对每个模型、数据集、工具和依赖关系的完整透明度，通过精确的配置和环境快照实现可复制性，并通过跟踪模型起源、版本和决策路径建立治理和问责。它通过识别输入、依赖关系和模型工件中的漏洞来增强安全性，同时通过记录的可解释性、公平性和风险控制支持全球监管合规框架。此外，它通过维护对系统更改、性能漂移和模型行为随时间的不可变记录来增强审计能力。

企业对 AI BOM 生命周期的方法：从静态库存到活跃的治理系统

大多数 AI BOM 框架仅关注记录模型和数据集。然而，在代理 AI 时代，先进的企业需要他们的 AI BOM 成为一个活跃的、运营的和持续治理的数字资产——不仅仅是一个静态的合规文档。而且，最有效的组织确保他们的 AI BOM 随着他们的 AI 生态系统而演进。最佳方法涵盖战略、工程、治理和风险管理，使其在技术上完整和组织上可行。

成熟的企业级 AI BOM 生命周期应包括五个核心阶段：

1. 发现和定义：识别和分类所有 AI 组件，包括模型、数据集、工具、提示、API、基础设施资产和执行环境。建立可见性、范围和所有权边界。
2. 治理和标准化：定义元数据格式、版本结构、文档标准和所有权角色。设置一个与治理、合规和安全要求一致的集中 AI BOM 存储库。
3. 基线 BOM：逆向工程和记录现有的 AI 系统，捕获依赖关系、数据血统、模型来源、运行时环境和使用模式。建立 AI 资产的初始“真实来源”。
4. 自动化和集成：将 BOM 生成和更新嵌入到 CI/CD、DevOps 和 MLOps 工作流程中。通过整个生命周期实现模型更改、数据集更新、依赖关系和风险指标的自动跟踪。
5. 监控和改进：持续监控 AI 系统以检测漂移、性能下降、偏见、成本、使用情况、安全漏洞和合规成熟度。启用警报、治理报告和持续改进循环。

不实施 AI BOM 的成本

忽视 AI BOM 的必要性不仅仅是一个治理缺口——它是一个业务风险。没有了解 AI 系统的构成、模型和数据的来源或其随时间的行为，组织将面临监管风险和无法扩展的 AI。随着监管环境的成熟——包括 EU AI 法案、ISO 42001 和 NIST 框架生效——公司将需要 AI 血统、可解释性和控制的证明。没有 AI BOM，证明合规将变得极为困难——通常是不可能的。

超越监管问题，还有安全和声誉风险。隐藏的组件、未经验证的模型或不受控制的提示可能导致数据泄露、偏见、幻觉，甚至损害 AI 行为。并且，当出现问题时，缺失的 AI BOM 通常意味着无法追踪或修复问题。AI 速度的治理与传统 IT 治理根本不同，它需要对安全性、可解释性和合规性进行持续监控，因为这些能力会实时演变。

简单来说，随着公司越来越渴望从他们的 AI 投资中看到 投资回报率，没有 AI BOM，组织将花费更多时间进行故障排除、重新验证、重新训练或重新构建 AI 解决方案——因为没有单一的真实来源。这种情况下，部署 AI 到业务单元、行业或市场将变得不可能，因为不知道正在部署什么资产、它们如何演变以及如何管理它们。

问题不再是，“我们是否拥有 AI？” 而是，“我们是否知道我们的 AI 是建立在什么基础上，并且可以在规模上信任它？” AI BOM 提供了企业推动持久价值所需的清晰度。