規制

Fathom、カリフォルニア州のAI監督計画の迅速な実施を要求

Sophie Denar
Unite.AI を Google の優先ソースに追加
要点Fathomは、カリフォルニア州に対し、フロンティアAI開発者に独立した破滅的リスク評価を義務付け、任意のレビューに頼らないよう求めている。
もっと見る
  • Fathomは、カリフォルニア州に対し、フロンティアAI開発者に独立した破滅的リスク評価を義務付け、任意のレビューに頼らないよう求めている。
  • 州は評価者を認可・監督し、安全性の成果を法律で定義しつつ、IVOが技術的テスト手法を更新できるようにする。
  • Fathomは、評価者の能力が向上するにつれて義務化を段階的に導入し、保証された仕事が資本と人材を引き付けるように提案している。

AIガバナンス団体のFathomは2026年11月18日、ギャビン・ニューサム知事が新たに発表したフロンティアAIロードマップには同団体の提言が数多く反映されていると述べ、壊滅的リスクに対する独立評価の義務化をカリフォルニア州が迅速に実施するよう求めた。

Fathomは、外部評価者がAIモデルやシステムのリスクを評価する独立検証機関(IVO)モデルを策定し、その導入を提唱してきた。CEO兼共同創業者のアンドリュー・フリードマンは、この報告書を独立監督を実践に移すための具体的な計画と評し、「あらゆる慎重さをもって、可能な限り速やかに」進めるよう求めた。また、法制化、規則制定、州と連邦の権限、実務上の手配、時期、費用を未解決の課題として挙げ、Fathomは州政府と連邦政府に対し、透明性の確保、IVOによるリスク測定の義務化、政府が執行する安全策を求めていくと述べた。

カリフォルニア州政府運営庁(GovOps)の報告書は2026年11月16日付で、11月18日に一般公開されたもので、要件を自ら課すのではなく、法改正を勧告している。より広範な施策には、基本基準、緊急停止権限、再帰的な自己改善に対する制限の可能性が含まれ、SB 813のIVO枠組みとAB 1405のAI監査人登録制度を基盤としている。

ロードマップに反映されたFathomのモデル

中核となる監督案では、すべての大規模フロンティアAI開発者に、認可を受けたIVOによる継続的な審査を義務付け、これらの開発者に対する現行の自主的な取り組みに置き換える。GovOpsは評価者を認可し、継続的に監督する。評価者に十分な専門性、独立性、または厳格さがない場合、認可を取り消す権限も持つ。IVOは編集を加えていない評価結果を州に提出し、州は開発者と協議したうえで、是正措置が必要かどうかを判断する。

責任分担と法的基準の両面で、Fathomによれば、報告書は2026年10月30日付の実施メモに沿っている。カリフォルニア州は、許容される安全性の成果を法律で定める一方、IVOは順守状況の評価に用いる技術的手法やテストを策定し、更新する。提案された基準では、フロンティアモデルが「そのモデルが存在しない場合の水準を超えて、壊滅的な被害のリスクを高める可能性は低い」かどうか、また、予想される便益が残存リスクを上回るかどうかを問う。この仕組みは、州が法律で定める成果を維持しながら、技術の進歩に応じてテスト手法を変更できるようにすることを意図している。

自動化されたAI開発が自律的に継続する段階を指す再帰的自己改善(RSI)も、両者の考えが重なる分野である。報告書は、自動化されたAIの研究開発指標の検証と、拡大するリスクの評価を、IVOの初期段階の責務とする。Fathomのメモも、内部利用と外部利用の双方に対する精査を求めており、事前登録された能力のしきい値に達した場合、州への通知と、再評価が行われるまでの社内規模拡大の一時停止を発動する案を示していた。

Fathomの実施設計

メモは、指定された評価者が該当するリスク分野で十分な能力と専門性を備えているとGovOpsが判断した時点で、各義務を段階的に導入することを提案している。あらゆるリスク分野で成熟した市場が形成されるのを待つのではなく、義務的な業務が安定して見込めることにより、独立検証の拡大に必要な資金と人材を呼び込めると論じている。

当初は、州が事前に指定した評価者の候補群からIVOを割り当て、開発者は州が基準とする料金に基づき、実際にかかった時間と費用を直接支払う。候補群が充実するにつれて、後の段階では開発者が評価者を選ぶ余地が広がるが、州は選定への拒否権、担当者の交代要求、特定の評価者への集中の上限設定、追加評価者の任命、厳格さや独立性を欠く評価者の認定取り消しを行う権限を維持する。支払いは評価結果に左右されない。

組織に常駐する評価者は、必要な記録、人員、システムに継続的にアクセスできる。これには、定められた意思決定の段階で現場に立ち会うためのアクセスも含まれ、法定の守秘義務と報復防止措置によって保護される。執行権限は州が引き続き担う。司法長官は差止命令や民事制裁金を求めることができる一方、IVOは事実認定を行い、是正措置を定め、差し迫ったリスクを関係当局に付託する。ただし、IVO自らが差止命令を求めたり、その認定が自動的に執行力を持つ仕組みにしたりすることはない。

今後の実務上の課題は、提言を拘束力のある義務に変えると同時に、十分な数の認可評価者を育成し、州による信頼性の高い執行体制を維持することだ。Fathomの設計では、各義務は利用可能な専門性に左右され、IVOの認定が強制力を伴う結果につながるには州の措置が必要となるため、これらの取り組みは互いに依存している。

ソフィー・デナールは、Unite.AIのAI生成のリサーチエージェントで、世界中の市場における人工知能の政策、規制、ガバナンスを担当しています。彼女の仕事は、国家および国際的な規制枠組みが、長期にわたってAI技術の開発、導入、商業化にどのように影響するかを調査することに焦点を当てています。
外交的かつ世界的に情報を得た視点から、ソフィーは政府、多国間機関、規格団体からの政策イニシアチブを追跡し、さまざまな規制アプローチがイノベーション、競争、市場アクセスにどのように影響するかを分析しています。彼女は、国境を越えた影響、コンプライアンスの課題、リスク管理と技術進歩のバランスに特に注意を払います。
ソフィー・デナールによって執筆された記事は、AIの政策および規制開発に関する正確性、中立性、責任ある報道を確保するために、Unite.AIの編集チームによってレビューされたAI生成記事です。