AI政策与现实执法之间日益扩大的鸿沟

AI没有一套统一的规则手册

AI在各行各业和各类应用中的部署速度，已经超过了监管所需政策和治理框架的成熟速度。过去，AI应用主要受现有的消费者保护、隐私和行业专项法规以及企业自身的内部政策监管。如今，各国政府开始推出针对AI的具体要求，但这些要求仍然零散，而且往往没有为系统实际应如何运行提供充分指引。因此，企业不得不协调外部要求与自身的风险承受能力、产品目标和运营实际。

欧盟目前正在积极执行《人工智能法案》的部分规定；与此同时，美国联邦政策明确倾向于采用负担较轻的全国性框架，而第14365号行政令旨在限制相互冲突的州级要求，尽管各州在2025年出台了1,000多项与AI相关的措施。这些主管机构各自描绘了不同的目标，而协调这些要求的重担正落在构建和部署相关系统的企业身上。

但制定监管要求只是挑战的一部分。随着AI被部署到更多应用和场景中，企业必须把宽泛的要求和内部政策转化为操作控制措施以及具体的AI决策。任何监管框架都不可能预见每一种应用、场景或权衡取舍。因此，组织需要理清一条路径，将监管要求和内部政策与系统行为、可衡量的结果以及审计或审查工作衔接起来。NIST人工智能风险管理框架也秉持类似理念，强调持续开展测量和管理，而不是把治理视为一项孤立的合规工作。要求自上而下传递，证据则自下而上反馈：监管机构和高管可以明确预期结果，但组织必须证明自己的系统是否确实实现了这些结果。

这意味着，部署这些系统的组织承担了AI治理中许多实际责任。

治理难题出在实施环节

法规和治理框架通常会界定原则、义务和预期结果。然而，生产环境中的系统必须把这些内容转化为一个个具体决策，而治理难题恰恰出在这一转化过程中。政策可以要求防止歧视、保护用户、提供透明度或允许有实质意义的人工审查，但实际运行的系统还必须回答更具体的问题：系统在什么阈值下采取行动？依据什么证据，又有多大把握？何时必须进行人工审查？哪些内容会被记录？系统不确定时又该怎么办？

监管机构早已要求企业给出这些答案。FTC、DOJ、CFPB和EEOC共同表示，将依据现有职权监管自动化系统；这意味着，终有一天会有人要求企业解释其系统如何作出决策。

以一个明确禁止骚扰的平台为例。一条带有脏话的信息，可能只是朋友之间无伤大雅的玩笑；而一条看似无害的信息，也可能是持续针对另一名用户的骚扰行动的一部分。系统必须判断哪些上下文信息可以可靠地用于决策，需要多少证据才足以采取干预措施，以及应采取何种干预：屏蔽信息、警告发送者、升级处理并交由人工审查，还是不采取行动。降低检测阈值或许能发现更多有害行为，但也可能压制正当交流。要求人工审查或许能提升判断质量，却可能延误干预。禁止骚扰的一般性政策并未规定这些具体决策，但这些决策共同决定了该政策在实际中如何执行。

没有任何政策文件能预先解决这些权衡问题，因此公司内部必须有人作出决定、记录决定，并不断重新审视。无论组织架构图上是否如此标注，这个人实际上都在制定政策。

负责任的AI究竟需要什么

如果系统的实施者实际上也在制定政策，那么负责任的AI就不能只是一份意向声明，因为它必须体现在系统的日常行为中。这意味着要随着时间推移管理AI的使用、评估和纠正，而不只是批准一项政策或通过初始评估。实践中，以下三个理念最为重要，每一个都源自上述权衡：

• 治理力度应与后果相称。推荐文案、批准贷款、标记安全威胁或辅助医疗决策的AI系统，会带来截然不同的风险。组织需要根据潜在后果，判断哪些环节应设置更严格的控制、审查和监督。
• 仅有准确性还不够。不同错误造成的代价各不相同。内容审核中的误报可能压制正当言论，而贷款、医疗或安全领域的失误则可能造成严重得多的后果。治理必须反映决策在现实世界中的影响，而不能只看模型表现。
• 持续评估和反馈至关重要。人工推翻系统决定、申诉、事故、边缘案例以及后续结果，都应纳入持续评估。

内部 AI 治理的实用框架

要将这些原则付诸实践，就必须把治理要求融入 AI 系统的设计、部署和管理之中。以下四项实践尤为重要：

• 从一开始就将治理要求视为产品和系统要求。部署后再添加合规控制，往往成本高昂且难以维护。与其事后改造，不如在系统设计阶段就纳入隐私保护、透明度、可审计性和审查机制。
• 建立从政策到决策的可审计链条。组织应能够将适用的要求或内部政策与所实施的控制措施及其产生的决策对应起来，还需要留存评估这些措施所需的证据。
• 明确权责归属。明确谁负责制定政策、谁决定可接受的风险水平，以及谁负责监控绩效。当系统的行为超出这些界限时，还应有人有权介入。
• 构建共享且灵活适应的治理基础设施。数据控制、审计追踪、可配置的政策、审查流程和衡量机制，应能够满足多项监管要求并支持多种使用场景。控制措施和阈值应能根据司法辖区、应用场景和风险进行调整，使组织无需重建系统，也能应对不断变化的要求。

治理必须经得起实践检验

法规可以规定义务和原则，但企业仍须将其转化为能够大规模作出实际决策的系统。因此，内部治理是一项运营责任，而不只是合规工作。每家大规模部署 AI 的企业，都已经通过设定阈值、审查规则和升级处理路径来制定政策；唯一尚待确定的是，这一切是否出于有意为之。

监管机构会继续界定他们希望实现的结果，而且彼此的要求并不总是一致，因此企业必须决定如何将这些预期转化为控制措施，并以证据证明这些措施确实有效。如今就建立明确的权责归属、可衡量的控制措施、可审计性和灵活适应的基础设施，将使企业在监管持续演变时更有准备。

我从多个方面见过这个问题：在网络安全环境中、在构建风险模型时，以及如今在大规模运营 AI 系统时。在这些经历中，我得到的教训大同小异：只有当一个框架能够转化为明确的决策、在实践中加以衡量，并在现实暴露出差距时不断改进，它才真正有效。