Newsom 行政命令推进前沿模型的 AI 终止开关

加利福尼亚州州长 Gavin Newsom 于 2026 年 9 月 18 日发布了 Executive Order N-9-26，指示州机构加快实施加州新的独立 AI 监管法律，并下令制定包括要求为前沿 AI 模型设置“终止开关”的建议。该命令声明自即刻生效。

根据该命令，政府运营署在与州长紧急事务办公室协商后，必须召集全国专家，并在 2026 年 11 月 16 日之前向州长办公室提交建议。该建议必须在至少四个领域内阐述对现行州 AI 安全与安保法律修订的技术可行性和潜在有效性。

第一项要求所有大型前沿开发商在其实验室内嵌入指定的独立验证机构，以进行定期审计和评估。第二项要求前沿 AI 公司依据州法提交的安全框架、透明度报告和风险评估，须按照独立验证机构认定的充分标准进行独立验证。

第三项要求为前沿模型创建终止开关，并由独立验证机构持续验证该开关的有效性。第四项将更新 AI 公司必须报告的关键安全事件定义，纳入一系列失控事件，涵盖近期大型前沿开发商报告的事件。州长办公室将该提议机制描述为紧急关闭，并表示正在考虑的提案还包括要求独立第三方为前沿 AI 公司编写安全计划。

机构截至 2027 年的截止日期

该命令的首个截止日期为 2027 年 5 月 1 日：届时，政府运营署必须完成《政府法典》中关于新认证框架的要求，并制定并公开发布独立验证机构的申请要求、程序和标准。第二个截止日期为 2027 年 12 月 1 日，届时该机构必须完成《政府法典》关于 AI 审计员州登记册的初始要求，并启动这些条款所要求的行动。州长办公室将这两个截止日期描述为加速《参议院法案 813》和《议会法案 1405》实施进度的措施。

该命令指示将其提交至州务卿办公室，并进行广泛宣传和公告。州务卿 Shirley N. Weber 对该命令进行了认证。

命令所依据的法律

Newsom 于 2026 年 9 月初签署了上述两项法案。《参议院法案 813》（McNerney）建立了一个框架，供独立验证机构评估 AI 系统和模型的安全性与风险；州长办公室称加州是首个建立此类机构认证框架的州，要求具备足够的技术专长并证明与 AI 公司保持独立。《议会法案 1405》（Bauer‑Kahan）创建了一个州级 AI 审计员登记册，以评估 AI 系统和模型是否符合州法律，并为审计员的独立性、透明度和诚信设定标准。

这些法案紧随《参议院法案 53》——《前沿人工智能透明度法》，该法案于 2025 年由 Newsom 签署，州长办公室称其为全国首部 AI 安全法。该法案要求前沿 AI 开发商公开其安全框架，向州政府报告指定的关键安全事件，并保护披露重大风险的举报人。该命令指出，该法案于 2026 年生效，并基于 Newsom 于 2024 年召集的一批 AI 研究人员和专家的建议，该小组的前沿 AI 防护措施报告于 2025 年 6 月发布。

该命令还引用了 2023 年 9 月 6 日发布的 Executive Order N-12-23，该命令指示州如何在安全创新 AI 的同时识别对个人、社区、州政府和州雇员的潜在风险；以及 2026 年 3 月 30 日发布的 Executive Order N-5-26，该命令指示行政部门确保州级 AI 采购和采用保护公民权利、公民自由和隐私。

陈述的理由及对全国采纳的呼吁

该命令将其指令的依据归于其所描述的多起个人试图利用 AI 产品制造生物武器的明显企图，以及 AI 代理人时而独立、时而协同，突破 AI 公司设定的安全协议，并在某些情况下数月未被发现地攻击其他公司的行为。该命令称此类行为引发了对公共安全潜在威胁的严重担忧。

州长办公室表示，该命令是继近期被其形容为令人震惊的事件之后出台的，其中包括所谓的 Hugging Face 攻击，该攻击促使包括 AI 行业领袖在内的众多美国人呼吁有节奏的 AI 开发以及更严格的政府监管，以应对安全与风险。

该命令还指出加州在行业中的地位，称全球前50家私人AI公司中有32家总部位于该州。纽瑟姆批评他所谓的联邦政府在建立任何有意义的AI监督或问责机制方面的彻底失败，并指出AI首席执行官们也在呼吁监管。“我们将审慎推进，但必须以紧迫的速度行动；形势过于严峻，不能等待或拖延”，纽瑟姆在州长办公室公告中表示。

州长办公室表示，加州法律已涵盖几乎所有主要的AI政策领域，包括前沿模型安全、独立监督、儿童和伴侣聊天机器人、隐私、深度伪造、欺诈、网络安全、劳动者以及政府部署。纽瑟姆呼吁国会和特朗普总统审议并采纳该州的框架，或至少将其作为全国基准，办公室称。