思想领袖

为什么每家企业都需要人工智能物料清单(AI BOM)

Jinsook Han Rajesh Padmakumaran
将 Unite.AI 添加到您在 Google 上的首选来源
要点随着智能体AI系统成为关键任务,一份AI物料清单对于管理其复杂风险至关重要。
查看更多
  • 随着智能体AI系统成为关键任务,一份AI物料清单对于管理其复杂风险至关重要。
  • 一份全面的AI物料清单必须完整记录包括模型、数据集、API及治理层在内的整个生态系统。
  • 若缺乏AI物料清单,企业将面临监管风险,且无法大规模追踪或修复AI故障。

保障人工智能系统的安全仍然是企业技术中最艰巨的挑战之一。而且风险只会越来越高。根据 Gartner 的预测,到 2026 年,40% 的企业软件应用将包含智能体 AI,而目前这一比例还不到 5%。同样, IDC 预测,到 2028 年,45% 的 IT 产品和服务交互将使用代理作为主要接口。部署 AI 的竞争正在超越大多数组织对这些系统实际工作原理的理解,而这种竞争带来了模型中毒、数据泄露、偏见和幻觉等风险的增加。为了弥补这一差距,企业需要一个新的透明度层:人工智能物料清单(AI Bill of Materials,AI BOM)。

类似于软件物料清单,AI BOM 是一个关于企业技术栈中每个 AI 模型或解决方案的组成部分的综合列表。它们在整个企业中建立透明度,使得审计和适应业务条件的变化变得更加容易。随着组织越来越依赖 AI 自动化工作流程和决策,AI BOM 为负责任、安全和可审计的 AI 操作提供了必要的基础。

人工智能物料清单:企业的战略必需品

随着人工智能从实验性试点迅速演变为任务关键的企业平台,这些系统的复杂性和风险状况 会大幅增加。虽然传统的、更结构化的自动化是逻辑的、基于规则的和系统的,代理自动化涉及认知。随着 AI 代理越来越多地承担需要创造力、决策和从经验中学习的任务,自动化的潜在范围大大扩展。同时,与传统软件不同,AI 系统是由多个相互依赖的组件组成的,例如 UI、API、网关、模型、数据集、提示、特征、向量数据库、库和硬件加速器。为了负责任地和大规模地推进 AI 计划,组织必须清楚地了解 AI 系统的组成部分以及每个独特组件如何随时间变化。

AI BOM 提供了这种透明度。它是一个结构化的清单,记录了 AI 生命周期中的每个组件、依赖关系和交互。除了模型和数据集,有效的 AI BOM 还包含支撑 AI 应用程序的完整生态系统的详细信息:

  • 用户界面(UI),如供人类与 AI 交互的聊天界面、门户、仪表板和控制面板。
  • API 和集成,包括 REST、GraphQL、Webhook 和系统连接器,实现 AI 与企业应用程序交互。
  • 运行时和托管环境,AI 部署(Docker、Kubernetes、AWS Bedrock、Azure OpenAI 和本地)以及使用的计算资源(CPU、GPU 和内存)。
  • 执行框架和编排,包括 LangChain、Semantic Kernel、Autogen、NVIDIA NeMo 和 CrewAI 等工具,管理提示、流程、工具调用和代理行为。
  • 安全和治理层,如 IAM 角色、令牌控制、加密、日志、审计和使用策略。
  • 可观察性和监控,包括成本、延迟、漂移、性能、使用情况和随时间的风险跟踪。

这些元素共同构成了一个 完整且动态的映射,揭示了不仅 您的 AI 系统包含什么,还包括它来自哪里、其行为方式、谁使用它、在哪里运行以及如何受到治理。换句话说,AI BOM 充当统一的权威信息来源,最初是一份技术文档,进而演变为 业务保证和监管文档。

实现自动化后,AI BOM 不再仅仅是一个工程资产,而是一个 监管要求、安全框架和企业信任建设者。它提供了对每个模型、数据集、工具和依赖关系的完整透明度,通过精确的配置和环境快照实现可复制性,并通过跟踪模型起源、版本和决策路径建立治理和问责。它通过识别输入、依赖关系和模型工件中的漏洞来增强安全性,同时通过记录的可解释性、公平性和风险控制支持全球监管合规框架。此外,它通过维护对系统更改、性能漂移和模型行为随时间变化的不可篡改端到端记录来增强审计能力。

企业管理 AI BOM 生命周期的方法:从静态清单到持续演进的治理系统

大多数 AI BOM 框架仅关注记录模型和数据集。然而,在代理 AI 时代,先进的企业需要他们的 AI BOM 成为一种持续演进、投入运营并受到持续治理的数字资产——不仅仅是一个静态的合规文档。而且,最有效的组织确保他们的 AI BOM 随着他们的 AI 生态系统而演进。最佳方法涵盖战略、工程、治理和风险管理,使其在技术上完整,并能在组织内付诸行动。

成熟的企业级 AI BOM 生命周期应包括五个核心阶段:

  1. 发现和定义:识别和分类所有 AI 组件,包括模型、数据集、工具、提示、API、基础设施资产和执行环境。建立可见性、范围和所有权边界。
  2. 治理和标准化:定义元数据格式、版本结构、文档标准和所有权角色。设置一个与治理、合规和安全要求一致的集中 AI BOM 存储库。
  3. 建立 BOM 基线:对现有 AI 系统进行逆向工程并记录,捕获依赖关系、数据沿袭、模型来源、运行时环境和使用模式。建立 AI 资产的初始“权威信息来源”。
  4. 自动化和集成:将 BOM 生成和更新嵌入到 CI/CD、DevOps 和 MLOps 工作流程中。通过整个生命周期实现模型更改、数据集更新、依赖关系和风险指标的自动跟踪。
  5. 监控和改进:持续监控 AI 系统以检测漂移、性能下降、偏见、成本、使用情况、安全漏洞和合规成熟度。启用警报、治理报告和持续改进循环。

不实施 AI BOM 的成本

忽视 AI BOM 的必要性不仅仅是一个治理缺口——它是一个业务风险。如果不了解 AI 系统的构成、模型和数据的来源或其随时间的行为,组织将面临监管风险和无法扩展的 AI。随着监管环境的成熟——包括 EU AI 法案、ISO 42001 和 NIST 框架生效——公司将需要 AI 沿袭、可解释性和控制的证明。没有 AI BOM,证明合规将变得极为困难——通常是不可能的。

除了监管问题,还有安全和声誉风险。隐藏的组件、未经验证的模型或不受控制的提示可能导致数据泄露、偏见、幻觉,甚至导致 AI 行为遭到篡改。并且,当出现问题时,缺失的 AI BOM 通常意味着无法追踪或修复问题。以 AI 的速度开展治理与传统 IT 治理根本不同,它需要对安全性、可解释性和合规性进行持续监控,因为这些能力会实时演变。

简单来说,随着公司越来越渴望从他们的 AI 投资中看到 投资回报率,没有 AI BOM,组织将花费更多时间进行故障排除、重新验证、重新训练或重新构建 AI 解决方案——因为没有统一的权威信息来源。这种情况下,如果不知道正在部署什么资产、它们如何演变以及如何受到治理,就无法有信心地在不同业务单元、行业或市场中部署 AI。

问题不再是,“我们是否拥有 AI?” 而是,“我们是否知道我们的 AI 是建立在什么基础上,并且能在大规模应用时信任它?” AI BOM 提供了企业创造持久价值所需的清晰认知。

Jinsook Han 是 Genpact 的首席战略、企业发展和智能体 AI 官,协助制定、推动和实施公司的智能体 AI 愿景。在加入 Genpact 之前,她曾在 McKinsey、AIG 和 Accenture 担任高管职位。

Rajesh Padmakumaran 领导 Genpact 的资产和创新团队,负责建设面向全球企业的 AI 启动的 SDLC 加速器和现代化平台。他是一位现代化架构师和 Docker Captain,拥有 20 多年的经验,设计企业级的 AI 平台、应用程序和云原生转型解决方案。