什么是 EU AI Act？通用人工智能规则实用指南

EU AI Act 是一项基于风险的法律框架，根据所涉及的系统或模型，向人工智能提供者、部署者、进口商、分销商及其他相关方分配义务。

EU AI Act 值得进行准确阐释，因为它的名称指向特定的信息流、训练选择、运行时机制或治理边界。把它当作“先进人工智能”的同义词，会让相关主张无法检验。本指南将从输入和假设出发，追踪这一概念直至可观察的结果，随后检验最容易与之混淆的简化说法。

EU AI Act：定义、边界与目的

EU AI Act 是一项基于风险的法律框架，根据所涉及的系统或模型，向人工智能提供者、部署者、进口商、分销商及其他相关方分配义务。这一定义包含三项实际要求：存在可识别的输入、具有 EU AI Act 特征的转换或决策，以及能够依据既定目标进行评估的结果。如果缺少其中任何一项，这个标签描述的可能只是愿景，而非已实施的机制。

能力、安全、安保与治理相互影响，但回答的是不同的问题。一个能力强大的系统可能并不安全；流程符合法规要求，测量方法仍可能不完善；有力的基准测试也可能与某项具体部署无关。对于 EU AI Act，这种系统层面的视角很重要，因为即使底层模型没有变化，周边的数据、接口、硬件、权限和人员也可能决定系统表现。因此，恰当的解释应当区分模型习得的行为，以及决定何时、何地、以何种权限使用这些行为的产品。

最容易造成误解的简化说法，是认为一项自愿性技术标准可以同样适用于所有人工智能用途。它或许在表面特征上与 EU AI Act 相似，却改变了因果关系：证明成功所需的证据会有所不同，影响成本的主要资源会有所不同，防止伤害所需的控制措施也会有所不同。因此，两者的边界体现在实际运作上，而非术语上。

EU AI Act 的五阶段运作图

这张图是 EU AI Act 的简明因果关系图，并不意味着每种实现方式都由五个软件组件构成。有些系统会将多个阶段合并，另一些则会循环重复这些阶段。这张图仍然有用，因为它要求每一次信息或权限的变化都有明确的负责人、输入、输出和检验方法。

1. 确定该活动是否属于适用范围：EU AI Act 中的输入与假设

在 EU AI Act 的这一阶段，系统必须确定该活动是否属于适用范围。关键不只是这项操作是否发生，还要明确它使用了哪些信息、改变了什么状态，以及有哪些证据能够证明这种改变有效。审查人员应当能够区分这项操作与一项自愿性技术标准（该标准同样适用于所有人工智能用途），并在相同的既定条件下复现其结果。

进入 EU AI Act 的这一阶段时，应以既定目标为起点，最终得出能够为系统、模型和角色分类提供依据的结果。记录不确定性、被否决的替代方案、资源使用情况，以及在边界处采取的任何人工或软件控制措施。通过这条记录，团队可以在同一弱点影响重要输出之前，发现分类和时间安排是否取决于事实、角色、司法管辖区以及不断变化的官方指导。

2. 对系统、模型和角色进行分类：EU AI Act 中的表征或决策

在 EU AI Act 的这一阶段，系统必须对系统、模型和角色进行分类。关键不只是这项操作是否发生，还要明确它使用了哪些信息、改变了什么状态，以及有哪些证据能够证明这种改变有效。审查人员应当能够区分这项操作与一项自愿性技术标准（该标准同样适用于所有人工智能用途），并在相同的既定条件下复现其结果。

进入 EU AI Act 这一阶段，首先要确定相关活动是否属于适用范围，最终则应得出能够支持梳理适用义务和时间安排的结果。记录不确定之处、被否决的备选方案、资源使用情况，以及在边界处实施的任何人工或软件控制。通过这条记录，团队可以在同样的弱点影响重要输出之前，发现分类和时间安排是否取决于具体事实、角色、司法管辖区以及不断变化的官方指导。

3. 梳理适用义务和时间安排：EU AI Act 中的独特转化

在 EU AI Act 的这一阶段，系统必须梳理适用义务和时间安排。关键不只是确认是否执行了这项操作，还要弄清它使用了哪些信息、改变了什么状态，以及有哪些证据能够证明这一改变有效。审查者应能够将该操作与适用于所有 AI 用途、性质自愿且一视同仁的技术标准区分开来，并在相同的既定条件下复现其结果。

进入 EU AI Act 这一阶段，首先要对系统、模型和角色进行分类，最终则应得出能够支持建立文档、控制措施和监督机制的结果。记录不确定之处、被否决的备选方案、资源使用情况，以及在边界处实施的任何人工或软件控制。通过这条记录，团队可以在同样的弱点影响重要输出之前，发现分类和时间安排是否取决于具体事实、角色、司法管辖区以及不断变化的官方指导。

4. 建立文档、控制措施和监督机制：EU AI Act 中的约束与验证边界

在 EU AI Act 的这一阶段，系统必须建立文档、控制措施和监督机制。关键不只是确认是否执行了这项操作，还要弄清它使用了哪些信息、改变了什么状态，以及有哪些证据能够证明这一改变有效。审查者应能够将该操作与适用于所有 AI 用途、性质自愿且一视同仁的技术标准区分开来，并在相同的既定条件下复现其结果。

进入 EU AI Act 这一阶段，首先要梳理适用义务和时间安排，最终则应得出能够支持监测变化、事件和监管指导的结果。记录不确定之处、被否决的备选方案、资源使用情况，以及在边界处实施的任何人工或软件控制。通过这条记录，团队可以在同样的弱点影响重要输出之前，发现分类和时间安排是否取决于具体事实、角色、司法管辖区以及不断变化的官方指导。

5. 监测变化、事件和监管指导：EU AI Act 中的输出、反馈与停止规则

在 EU AI Act 的这一阶段，系统必须监测变化、事件和监管指导。关键不只是确认是否执行了这项操作，还要弄清它使用了哪些信息、改变了什么状态，以及有哪些证据能够证明这一改变有效。审查者应能够将该操作与适用于所有 AI 用途、性质自愿且一视同仁的技术标准区分开来，并在相同的既定条件下复现其结果。

进入 EU AI Act 这一阶段，首先要建立文档、控制措施和监督机制，最终则应得出能够支持持续监测或作出最终决策的结果。记录不确定之处、被否决的备选方案、资源使用情况，以及在边界处实施的任何人工或软件控制。通过这条记录，团队可以在同样的弱点影响重要输出之前，发现分类和时间安排是否取决于具体事实、角色、司法管辖区以及不断变化的官方指导。

顺向阅读 EU AI Act 流程图，可以了解生产过程；逆向阅读，则有助于诊断故障。顺向分析会考察一个阶段如何为下一阶段提供支持。逆向分析则从错误、缓慢、成本高昂或不安全的结果入手，追溯是哪个先前的假设导致了问题。团队往往正是在逆向追溯过程中发现，决定性的错误在模型生成任何内容之前就已发生。

EU AI Act 实例演练

将通用模型集成到招聘系统中的公司，必须评估该模型在下游的高风险用途，以及自身在供应链中的责任。

这个例子很有说明意义，因为可以依据可观察的输入、中间状态和结果来分析 EU AI Act，而不是只看经过精心包装的演示。严谨的测试应围绕该情境构建常规、困难和刻意误导的案例，保留不使用该技术时的基线，并记录平均表现以及个别失败的严重程度。

在 EU AI Act 示例中改变一个假设，然后重复分析。移除一项必要输入、引入相互矛盾的信号、限制算力、改变用户群体，或要求系统拒绝作答。如果某种机制只在精心安排的单一演示中奏效，就还不能证明它能够推广到实际运行环境。

EU AI Act 与最常见的简化做法

EU AI Act 常被简化为一种适用于所有 AI 用途且一视同仁的自愿技术标准。这种简化抹去了定义这一概念的关键边界。它可能导致买家比较并不相同的产品、研究人员夸大实验所能证明的内容，也可能使运营者在部署后监测错误的信号。

比较时还应明确分析单位。一篇关于欧盟《人工智能法案》的论文可能只考察某个模型或算法，而部署后的服务还包括检索、路由、缓存、策略、身份管理、用户界面和监控。两个产品可能使用相同的概括性术语，却实现了整个技术栈中的不同部分。应弄清哪个组件执行了定义性转换，以及哪些其他组件是取得所报告结果所必需的。

欧盟《人工智能法案》为何对当今的人工智能系统至关重要

欧盟《人工智能法案》之所以在当下受到关注，是因为人工智能系统正被赋予更大的上下文、更丰富的模态、更多的运行时计算资源、更广泛的工具访问权限，也与组织决策建立了更深的联系。在这些条件下，过去看似只是研究细节的因素，如今可能决定延迟、安全性、无障碍性、环境成本、产品质量或法律责任。

衡量标准不在于欧盟《人工智能法案》能否产生一个令人瞩目的结果，而在于该技术能否在具有代表性的条件下改善重要结果，并且比更简单的基准方法更有效。应报告结果分布、故障类别、尾部延迟、资源使用情况以及受影响的子群体，而不是把所有结果压缩成一个平均值。

在选择控制措施之前，应先明确参与方、情境、资产、受影响人群、证据和决策。当模型、数据、工具、司法管辖区或运行环境发生变化时，应重新评估。将这一做法具体应用于欧盟《人工智能法案》，可以让证据具有可迁移性：其他团队能够判断，所声称的收益是否可能经受住模型、语言、硬件平台、数据集、用户群体或风险容忍度的变化。

欧盟《人工智能法案》能够带来的益处

采用欧盟《人工智能法案》最有力的理由，是它能够直接应对预期要解决的瓶颈。根据具体实现方式，益处可能体现为更可靠的信息依据、更忠实的表征、更强的泛化能力、更低的延迟、更少的数据搬运、更清晰的问责机制，或在模型提出建议与实际采取行动之间建立更安全的边界。

应以决策指标和测量结果来表述益处。“更聪明”不能作为欧盟《人工智能法案》的验收标准。一个有用的目标可以具体规定：疑难案例的错误率、面对相互矛盾的证据时的恢复能力、某个流量百分位下的成本、人工审核时间、校准情况，或处于既定权限限制内的操作所占比例。

界定欧盟《人工智能法案》的失效模式

核心局限在于，分类和时间安排取决于具体事实、参与方角色、司法管辖区以及不断更新的官方指南。这种失效模式并非等到开发完成后才需要列出的次要问题。从一开始，它就应影响欧盟《人工智能法案》的数据收集、架构设计、权限设置、评估、发布关卡和监控。

针对欧盟《人工智能法案》的控制措施，只有在造成高昂代价或不可逆后果之前发挥作用，才有意义。找出失败前最早可观察到的征兆，设定阈值或规则，指定负有责任的负责人，并测试恢复机制。根据具体用例，恢复可能意味着弃权、退回到更简单的系统、要求提供更多证据、升级交由人工处理、回滚模型，或彻底停止某项操作。

欧盟《人工智能法案》的评估计划

开始评估欧盟《人工智能法案》时，先写明证据必须支持哪项决策。界定运行人群、错误结果会造成的后果、决策时实际可获得的信息，以及最简单且可信的替代方案。这样可以避免仅仅因为基准测试容易执行，就把它本身当成目标。

使用未经改动的测试集进行受控比较，然后在分阶段的运行环境中验证欧盟《人工智能法案》。离线评估便于比较不同方案；影子模式、金丝雀测试、速率限制或审批关卡，则能揭示真实流量、反馈回路和人员如何改变系统行为。部署阶段应明确设定停止条件，而不是假定每项改进都值得全面上线。

对复现欧盟《人工智能法案》所需的输入进行版本管理：源数据、预处理流程、分词器或编码器、模型权重、配置、提示词或策略、检索索引、评估集、硬件假设，以及适用情况下的服务代码。没有可追溯的沿革，团队就无法判断结果变化究竟源自技术、运行环境，还是未被察觉的流水线修改。

最后，思考什么样的发现会推翻“欧盟《人工智能法案》有帮助”这一主张。如果没有任何结果能够改变是否采用它的决定，那么这项评估就只是营销。预先设定验收阈值并保留确认集，才能让这项工作成为真正的证据。

采用欧盟《人工智能法案》前应提出的问题

• 目标：欧盟《人工智能法案》旨在解决哪个可衡量的瓶颈？
• 机制：五个阶段中的哪一个包含其独特的转化过程？
• 基准：与以同样方式应用于每种人工智能用途的自愿性技术标准或其他更简单的替代方案相比，它表现如何？
• 证据：测试过哪些常规、困难、对抗性及子群体案例？
• 运营：在大规模应用时，会产生哪些延迟、内存、算力、能源、维护和审核成本？
• 风险：团队将如何发现分类和时间安排会因事实、角色、司法管辖区及不断演变的官方指南而异？
• 恢复：系统能否在造成伤害之前弃权、回退、回滚或升级交由人工处理？

研究欧盟《人工智能法案》的主要资料

了解欧盟《人工智能法案》所处人工智能技术栈相关部分的权威入门资料包括：NIST 人工智能风险管理框架、欧盟委员会《人工智能法案》概览、OWASP 提示注入指南。阅读这些资料时，还应参考所涉及的具体模型、数据集、硬件和司法管辖区的文档。通用资料可以界定机制，但只有针对具体部署的证据，才能证明某项特定实施方案是否适用。

关于欧盟《人工智能法案》需要记住的要点

欧盟《人工智能法案》是更广泛的社会技术系统中的一项明确机制。它的价值在于满足明确条件、改善特定结果，而不在于其名称本身。五阶段图展示了信息流向，对比分析指出了它并非什么，而控制路径则说明负责任的运营者可以在哪里介入。

理解欧盟《人工智能法案》的实用准则是：明确目标，与可信的基准进行比较，测试最重要的失败情形，并保留监测变化所需的证据。具备这些要素后，这一概念就成为一项可以评估的工程与治理选择。缺少这些要素，它就仍只是一个前景可期的名称，背后伴随着未知的运行风险。