当 AI 采取行动时，IT 仍然拥有后果

负责技术的高管正在面临一个令人不舒服的现实。曾经能够确保控制、问责和恢复力的 IT 管理策略不再适合未来。这不是领导力或纪律的失败，也不是孤立的失误。这反映了技术运作和企业内部决策方式的结构性转变。

在这一转变的中心是人工智能，它不仅重新定义了组织使用的工具，还重新定义了治理的机制。人工智能不仅仅扩展现有系统；它改变了这些系统运作的速度、规模和自主性，并迫使重新考虑如何建立和维持控制。

挑战不再是如何控制每个行动，而是如何设计能够让自主系统快速移动而不产生不可接受的风险、成本或意外后果的护栏。

治理窗口的丧失

几十年来，IT 治理依赖于一个基本假设，即系统以允许人工监督的速度运作。政策可以被审查、预算可以被评估、合规性可以被检查、例外可以被升级，因为总是有时间在结果变得有形之前进行干预。即使组织通过移动、云计算和大数据创新扩展，这个假设在很大程度上仍然成立。总是有一个治理窗口，即意图和执行之间的一个点，可以应用人类判断来塑造、停止或扩展结果。

这个假设不再成立。 安永 2026 年 3 月技术脉搏调查发现，85% 的技术领导者现在优先考虑 AI 的上市速度而不是治理，这表明控制和速度之间的平衡已经开始向执行倾斜。

我们知道为什么。人工智能引入了复杂、相互关联、日益独立于传统约束（如预算、合规和安全监督）的自治决策循环。这些系统不会暂停以供审查或等待批准。它们被设计为不懈地行动、适应和完成目标，通常是在实时和超出人类理解的规模上，即使带有人类礼貌的外表。结果是决策周期被压缩到人类干预不再可行的地步。

人工智能改变了执行的经济学

同时，这一转变与另一项结构性转变汇聚，这一转变正在重塑企业技术。消费已经从固定投资转向基于使用和结果驱动的模型，在这些模型中，成本会随着执行而动态扩展。 Menlo Ventures 的 2025 年 12 月报告，企业中的生成式人工智能状态，说明了这一变化的规模，指出公司在 2025 年仅在生成式人工智能上就花费了 370 亿美元，较前一年增加了 3.2 倍。

在这种新环境中，人工智能系统被优化为实现结果，而不是遵守预定义的约束。它们通过难以预测的资源消耗模式来实现目标，具有可能仅在执行后才可见的财务和运营后果。单个请求可以触发跨 API、内部服务和第三方依赖项的操作级联，具有可能仅在执行后才可见的财务和运营后果。启动时看似简单的操作可以扩展为一系列不再适合传统预算或治理框架的交互。

传统控制模型的崩溃

这对治理的影响是深远的。传统的 IT 管理模型依赖于一个熟悉的序列：定义政策、预先批准决策、管理例外和审计结果。每一步都建立在这样一个假设之上，即意图和影响之间存在明确的分离。在人工智能驱动的环境中，意图和影响之间的差距已经基本消失。

政策无法适应足够快的动态执行。预先批准在决策展开的毫秒内变得不切实际。例外仅在结果已经传播到整个系统后才出现。审计仍然是可能的，但它们只能在事后重建事件，通常是在后果已经出现之后很久之后。

这种崩溃的证据已经显现。 IBM 的数据泄露报告发现，97% 经历了重大人工智能相关泄露的组织缺乏适当的访问控制。然而，即使面临这些风险，采用率也继续加速，由人工智能的战略价值驱动。历史表明，这种不平衡不会永远持续。技术从未在没有治理的情况下运行很长时间，随着时间的推移，人工智能将需要新的结构、纪律和可执行控制形式，这些必须与今天的假设有根本性的不同。

基于生成式人工智能的代理人工智能的出现进一步加速了这一转变。能够规划、执行和改进其自身操作的系统代表了工作方式的根本性转变。控制不再嵌入在人类决策序列中；它嵌入在系统的设计中。该设计不仅决定采取什么行动，还决定了这些行动将如何远、如何快以及以什么成本传播。它必须编码组织必须遵守的假设、约束和义务，从监管合规到运营政策再到客户信任。

问责仍然是人类的

这造成了一个日益增长的紧张关系，即能力与责任之间的紧张关系。人工智能以机器速度运行，而问责仍然牢固地植根于人类，受到人们解释、理解和响应结果的速度的限制。董事会、监管机构和股东不会接受自治系统只是按照设计运行作为失败的充分解释。责任不会随着自动化而转移；它仍然与企业和负责其监督的高管有关联。

结果是行动和问责之间日益扩大的脱节。决策被执行得比治理还快，通常以难以实时追踪的方式进行。同时，解释、控制和证明这些决策的义务随着其数量和影响的增长而加剧。这种脱节定义了现代 IT 领导面临的核心挑战，即治理一个干预不能被假设、成本固有可变且控制不能在事后完全重建的环境。

一种新的企业风险类别

人工智能驱动的决策的速度和自主性创造了一个截然不同的风险特征。这些系统不仅扩大了对熟悉的风险类别（如财务、运营、法律或声誉风险）的暴露；它们改变了这些风险出现、扩展和实现的方式。财务暴露可以随着实时活动的复合而迅速增长。运营中断可以在被检测到之前跨系统传播。法律和监管违规可能在没有明确意图或可追溯性的情况下发生。声誉损害可以比组织能够响应的速度更快地展开。

这些风险不再是理论性的。一个人现在可以部署能够花费、修改系统和启动操作的 AI 代理，这些操作的速度超过了法律、IT 或财务职能定义限制、监控行为或执行控制的能力。随着传统治理机制跟不上执行速度，问责变得越来越困难，预算也变得越来越不合理，因为小的、增量的行动聚合成物质的财务结果。

在这种环境中，人工智能系统将始终追求实现目标的最有效路径。没有明确定义的约束，这条路径通常会偏离组织的期望。

从基础设施管理到护栏设计

这些现实正在重新定义 IT 领导的角色。技术领导者不再仅仅管理系统；他们正在管理大规模的自治行为。IT 的角色正在从基础设施的直接控制转变为设计和执行能够定义可接受的意图、风险和成本水平的护栏。IT 不再仅仅关注存储、计算和连接的提供；它必须关注如何在定义的边界内塑造系统的行为，因为 IT 的未来取决于这些护栏的有效性。

无法适应的组织将难以以客户和市场所需的速度运营。成功的组织将通过将速度与控制相结合而获得持续的竞争优势。这一刻代表了企业的转折点，这将决定它们如何有效地利用人工智能来扩大产出、改善性能和在日益动态的环境中竞争。

最终，问责仍然是人类的。成功的组织将是那些认识到这一现实并准备在其中运作的组织。

面向未来的 CIO 应该做什么

这些转变为未来导向的 CIO 创建了一个明确的优先事项集。

CIO 必须建立强大的财务和运营治理，以控制人工智能活动，基于实时控制管理成本、执行触发器和代理行为。这些控制必须包括强制机制，例如支出阈值、使用上限和自动停止，以防止在创建物质财务影响之前发生失控的消耗。

同时，组织必须定义和管理人工智能的底层经济学。这需要跟踪核心驱动因素，例如提示、模型调用、代理和访问模式，同时确保这些措施直接与业务结果相关，例如客户需求、服务交付、运营生产力和收入增长。

治理还必须包括将持续的实时可见性融入人工智能活动中。可追溯性和可审计性不再依赖于事后分析；它们必须提供对系统操作、活动起源、所涉及的模型和代理以及资源消耗的持续理解。这使得组织能够在必要时观察到行为并进行干预。

人工智能执行必须被理解为一系列交互和交接，这些交互和交接必须被上下文地和持续地跟踪。单个请求可以触发跨内部系统、外部服务和协调代理的下游活动，放大了成本和运营影响。因此，有效的治理需要对这些依赖关系链和定义有可见性，以便完全理解执行的范围。

所有这些努力必须以明确的所有权和问责制为基础。组织必须定义谁负责构建和部署人工智能系统，谁拥有它们生成的输出，谁对财务、运营和合规结果负责。没有明确的所有权，治理就不能成功。

最后，CIO 必须标准化一套能够将技术活动转化为有意义的商业洞察的高级指标。这些包括模型使用成本、人工智能驱动结果的成本、管理下的总人工智能支出以及跨模型和代理的投资组合级别可见性。这些措施共同提供了人工智能使用的规模和效率的清晰视图，使企业最高层的决策得以明智地做出。