カリフォルニア州議会、独立したAI安全性検証法案を可決

カリフォルニア州議会は2026年8月30日に、上院議員ジェリー・マクナーニーが起草したSB 813法案に最終承認を与えました。この法案は、政府運営局に対し、AIシステムやモデルの安全リスクを評価できる資格を有する外部監査人である独立検証機関の指定を指示するものです。現在、この法案は知事のギャビン・ニューサムに送られています。

下院は2026年8月30日に本法案を第3読会で可決し、同日上院も下院の修正案に同意し、立法手続きを完了しました（公式投票記録参照）。下院は賛成67票、反対6票、欠席6名で可決し、上院は賛成39票、反対なし、欠席1名で可決しました。

SB 813が求めること

本法案はカリフォルニア州政府法典に新たな章を追加し、カリフォルニア人工知能安全独立検証機関（California Artificial Intelligence Safety Independent Verification Organizations）と名付けられた枠組みを定めます。2028年1月1日までに、政府運営局は独立検証機関（IVO）としての指定に必要な申請要件、指定の停止または取消し手続き、そしてAI監査人の資格を判断する基準を策定しなければなりません。これらの要件と基準は公開され、技術や業界標準の変化に応じて見直し・改訂され、可能な限り既存の専門的・規制的な監査・保証基準と整合させる必要があります。

本法の定義によれば、IVOはAIシステムまたはモデルがもたらすリスクを評価し、その評価に用いる指標や手法を特定できる専門知識を有するAI監査人です。指定されたIVOは、評価対象となる当事者に対して財務的、運営上、管理上の依存関係を持っていてはなりません。市場相当の料金で評価対象から報酬を受け取ることは可能ですが、評価結果に基づく支払い条件を課すことはできません。

停止および取消し手続きは、適切な基準への不遵守、申請書や必要な開示における重大な虚偽、独立性を損なう利益相反、十分な文書管理の欠如、サイバーセキュリティの欠落、そしてIVOの誠実性・客観性・能力に疑義が生じる行為を対象としなければなりません。

また、政府運営局は競合するAI企業のエンジニアやAI安全性の専門家を含む作業部会を召集し、標準に関するステークホルダーの意見を収集し、その調査結果を議会に報告しなければなりません。各指定IVOは、初回指定から12か月以内に年次報告書を提出し、使用している標準や手法を要約し、独立性に関わるガバナンス方針や資金源の変更を開示しなければなりません。IVOは営業秘密、サイバーセキュリティ、公共の安全、国家安全保障を保護するために情報をマスクすることができますが、マスクされていない情報は5年間保存しなければなりません。

本枠組みは任意です。法案は、AIシステムやモデルの開発者、配備者、運用者がIVOを利用したり監査を受けたりすることを義務付けず、標準への不遵守だけで責任を課すこともなく、州が特定のAIシステムやモデルを推奨または支持するものでもありません。AIシステムが被害を与えたとする訴訟においては、本章で定められた標準に基づく監査は事実関係の一部として参考になるものの、決定的な証拠とはなりません。

著者およびスポンサーの声明

マクナーニー議員事務所は、本法案をAIシステムがもたらす潜在的な安全リスクに対する独立した第三者評価のための全米初の枠組みと説明しました。彼の発表では上院の投票は37対0、下院は53対4と報じられましたが、公式立法記録では上院の同意は欠席1名を含む39対0、下院は欠席6名を含む67対6と記載されています。

「カリフォルニア州議会は今日、明確なメッセージを発しました：ワシントンD.C.がAIの潜在的な安全リスクを評価できない、あるいは意欲がないため、カリフォルニアがリーダーシップを取る時です」とマクナーニーは投票を発表した声明で述べました。

SB 813は非営利団体Fathomがスポンサーであり、同団体はIVOモデルを開発・推進し、全米の政策立案者と協力して実装に取り組んでいると述べています。FathomはIVOを、信頼できるテストと分析を用いてAIモデルやシステムのリスクを独立して評価できる資格を有する外部専門家と説明し、本法案により技術がもたらす潜在的リスクを信頼に頼らず独立して評価できるようになると主張しています。

「独立検証モデルの力は、独立した資格ある専門家がAIの能力リスクを評価でき、単一のテストを法制度に固定するのではなく技術の進化に追随できることにあります」とFathomのCEO、アンドリュー・フリードマンは同団体の声明で述べました。

Fathomの声明は、本法案をSB 53と並列に位置付けました。SB 53は大手先端開発者に安全フレームワークの公表と重大インシデントの報告を義務付けると同団体は述べています。Fathomは、SB 813が安全性の判断が依然として主に企業自身の評価に依存しているため、さらなる説明責任の層を構築し始めるとし、カリフォルニアの政策立案者、技術専門家、業界関係者と協力して本枠組みを前進させていくと述べました。

法案の以前のバージョン

マクナーニーは2025年2月21日にSB 813を導入し、下院議員バウアー＝カハンとロウエンタルを共同提案者としました。法案は両院で繰り返し改正され、下院の最新の修正は2026年8月26日まで遡ります（立法記録参照）。上院は2026年1月27日に本法案の以前のバージョンを31対7で可決しました。当時のマクナーニーの発表によると、そのバージョンはカリフォルニア人工知能標準・安全委員会を設置し、IVO専門パネルを指名して任意の標準を策定し、AI開発者とベンダーの認証を行い、コンプライアンスを監視し、認証を取り消す権限を持つとされていました。

ニューサム知事が本法案に署名すれば、政府運営局は2028年1月1日までに指定システムを構築しなければならず、作業部会の調査結果は議会に報告され、組織の初回指定から12か月以内に最初の年次IVO報告書が提出されることになります。