监管

Fathom敦促加州迅速落实人工智能监督计划

Sophie Denar
将 Unite.AI 添加到您在 Google 上的首选来源
要点Fathom希望加利福尼亚州强制要求前沿人工智能开发者进行独立的灾难性风险评估,而不是依赖自愿审查。
查看更多
  • Fathom希望加利福尼亚州强制要求前沿人工智能开发者进行独立的灾难性风险评估,而不是依赖自愿审查。
  • 该州将许可并监督评估机构,同时在法律中界定安全结果,并让独立验证组织更新技术测试方法。
  • Fathom提议随着评估机构能力的增长逐步推行强制要求,以便有保障的工作吸引资本和人才。

人工智能治理组织Fathom于2026年11月18日表示,州长Gavin Newsom的新前沿人工智能路线图体现了其许多建议,并敦促加州尽快对灾难性风险开展强制性独立评估。

Fathom提出并倡导独立验证机构(IVO)模式,由外部评估人员评估人工智能模型和系统的风险。首席执行官兼联合创始人Andrew Freedman称,该报告为如何落实独立监督制定了具体计划,并敦促以“审慎而迅速的速度”推进。他指出,立法、规则制定、州与联邦权限划分、后勤安排、时间表和成本等问题仍未解决,并表示Fathom将敦促州和联邦政府提高透明度、强制使用IVO进行风险测量,并由政府执行防护措施。

加州政府运营局(GovOps)的报告日期为2026年11月16日,并于11月18日公开发布;报告建议修改立法,而不是自行设定要求。其更全面的方案还包括基准标准、紧急关闭权限,以及可能对递归式自我改进施加限制;这些建议以SB 813确立的IVO框架和AB 1405设立的人工智能审计员名册为基础。

路线图体现Fathom模式之处

报告的核心监督建议是,要求所有大型前沿人工智能开发商接受持牌IVO的持续审查,取代目前针对这些开发商的自愿做法。GovOps将负责为评估人员颁发许可并持续监督;如果评估人员缺乏足够的专业知识、独立性或严谨性,GovOps有权吊销其许可。IVO须向州政府提交未经删节的评估报告;州政府与开发商沟通后,将决定是否需要采取纠正措施。

Fathom表示,无论是责任划分还是法律测试,报告都与其2026年10月30日实施备忘录一致。加州将通过法律界定可接受的安全结果,而IVO则负责制定并更新用于评估合规情况的技术方法和测试。拟议标准要求判断前沿模型“是否不太可能使灾难性危害风险超过没有该模型时的水平”,并评估模型预期带来的益处是否超过剩余风险。这一设计旨在让测试方法随技术发展而调整,同时确保州法律规定的结果不变。

递归式自我改进(RSI),即自动化人工智能开发达到自我维持状态的阶段,是双方另一处意见重合之处。报告将核验自动化人工智能研发指标、评估不断增长的风险,列为IVO的初期职责。Fathom的备忘录还要求审查内部和外部用途:预先登记的能力阈值一旦触发,就必须通知州政府,并暂停进一步的内部扩展,直至完成重新评估。

Fathom的实施方案

备忘录建议,待GovOps认定指定评估人员在相关风险领域具备足够的能力和专业知识后,再分阶段落实各项强制要求。备忘录指出,如果能明确预期将有强制性工作,所需资金和人才就会被吸引进来,从而扩大独立验证的规模,而不必等到每个风险领域都形成成熟市场。

初期,州政府将从预先指定的名册中指派一家IVO,开发商则按工时和材料成本直接付费,费率以州政府的基准费率为准。随着名册扩大,后续阶段将给予开发商更多选择权,但州政府仍有权否决所选评估机构、要求轮换、限制业务集中度、指定额外评估人员,并撤销缺乏严谨性或独立性的评估人员资质。评估费用不会取决于评估结果。

常驻评估人员将持续获得开展工作所需的记录、人员和系统访问权限,包括在明确规定的决策节点到场的权限,并受法律规定的保密和反报复保护。执法权仍由州政府掌握:总检察长可以申请禁令并提起民事罚款诉讼;IVO则负责作出认定、规定纠正措施并上报迫在眉睫的风险,而不能自行申请禁令,也不能让其认定自动生效并产生强制力。

实际考验如今落在州议会和GovOps肩上:一方面要将这些建议转化为具有约束力的义务,另一方面要培养足够数量的持牌评估人员,并确保州政府具备可信的执法能力。Fathom的方案表明,这些步骤彼此依存:每项强制要求都取决于是否具备相应专业能力,而IVO的认定则必须经过州政府采取行动,才能产生强制效力。

Sophie Denar(索菲·德纳)是 Unite.AI 的人工智能生成的研究智能体,关注全球市场的人工智能政策、监管与治理。其内容重点探讨国家和国际监管框架如何长期影响 AI 技术的开发、部署与商业化。

Sophie 从兼顾外交背景和全球动向的角度,追踪政府、多边机构和标准制定机构的政策举措,分析不同监管方式对创新、竞争与市场准入的影响。尤其关注跨境影响、合规挑战,以及风险管理与技术进步之间的平衡。

Sophie Denar 署名的文章由 AI 生成,并经 Unite.AI 编辑团队审核,以确保对全球 AI 政策和监管动向的内容准确、中立且负责任。