ソートリーダー

そう、EU AI法はエージェント型AIも対象にしている――その仕組みを解説

Dr. Ley Muller Gyda Grodås Christiansen
Unite.AI を Google の優先ソースに追加
要点エージェント型AIはAIシステムの定義を満たしているため、すでにEU AI法の範囲内にあります。
もっと見る
  • エージェント型AIはAIシステムの定義を満たしているため、すでにEU AI法の範囲内にあります。
  • AI法は特定の技術を名指しするのではなく、技術が何を行い、どのようなリスクを生み出すかを規制しています。
  • AI法に反対するロビー活動を行うテック大手は、規制の虜囚に等しい自主規制を推し進めています。

現在、エージェント型AIやAIエージェントは規制の隙間に入り込んでおり、EU AI法では十分に規制できないという見方が広く語られています。信頼できるノルウェーの報道機関(MorgenbladetやDagensnæringsliv)でこの見方が取り上げられ、第一線の研究者(University of Oslo)も繰り返し述べています。こうした主張には根本的な問題が二つあると私たちは考えます。そして、それらは事実ではなく、恐れに基づいていると考えています。

第一に、エージェント型AIはEU AI法の下で規制されています。

第二に、こうした主張は既存の規制を損ないます。AI企業は自社システムに伴うリスクを管理するうえで、より適した立場にあるという考えを強めるものです。これは、規制の虜を招くよくある主張です。

私たちは、ノルウェー標準化協会の国家AI委員会の委員として、AI法にかなり深く携わっています。また、高リスクAIシステムの提供者向けに整合規格を策定する欧州委員会にも参加しています。これらの規格は、企業がAI法の法的要件を満たす助けとなります。

EU AI法はエージェント型AIを複数の形で規制している

欧州委員会は、「エージェント」や「エージェント型AI」に関する、平易で読みやすいFAQを複数公開し、これらも規制の対象となることを明確にしています。理由は単純で、AIシステムのより広範な定義に該当するからです(AI法ではAIエージェントはどのように扱われるのか? | AI Act Service Desk)。ほかにも、次のような例があります。

  • エージェント型AIは大規模言語モデルを基盤とすることが多く、これらのモデルは汎用目的AIモデルとして規制されています。
  • エージェント型AIシステムが人間とやり取りする場合、規制の透明性要件も適用されます。
  • AIモデルがシステミックリスクをもたらすと分類された場合、提供者には追加要件が課されます。要件には、モデルの能力評価などが含まれ、自律性やエージェントとしての機能も評価の対象となります。

AI法に「エージェント」という言葉が登場しないのは、特定の種類の技術を規制する法律ではないためです。そうではなく、その技術が何をするために設計されているか、そしてその機能に伴うリスクを規制しています。

AI法は基本的人権の保護を目的としている

より多くの規制を求める人々からのAI法批判の多くは、リスクを完全に取り除くことが構造上不可能である点に起因します。しかし、国際的な規制枠組みが将来のあらゆるリスクを予測することは不可能だったでしょう。

その代わり、AI法は、健康、安全、基本的人権に影響を及ぼす可能性のあるAIシステムのリスクに焦点を当てています。この点は、第一条の冒頭の一文に明記されています。

この冒頭の一文で私たちが取り上げていない点も、同じく重要です。AI法は市場志向の法律です。AIの利用を促進し、イノベーションを支援することを定めています。つまり、AI法はAI推進の立場を取っています。この枠組みの中で、特定の用途や分野が規制されています。

特定の分野はあらかじめ高リスクに分類されている

次の分野で利用されるAIシステムが、その例です。

  • 採用
  • 不可欠なサービスの割り当て
  • 医療機器
  • 安全性が最優先される重要インフラに組み込まれたシステム。

エージェント型か否かを問わず、私たちの権利に影響を及ぼす可能性のあるAIシステムの提供者は、包括的なリスク管理システムを構築することが義務付けられています。その中には、利用者がAIシステムをどのように誤用する可能性があるかの評価も含まれます。

規制の虜:提供者が自主規制を提案するとき

Anthropic、OpenAI、Metaに加え、ノルウェーの議論における一部の声に耳を傾けると、AIやエージェント型AIは複雑すぎてAI法では扱えないという印象を受けるかもしれません。EUには高度すぎる。各社以外には規制できないほど危険だ、と。

世界で最も影響力のあるテクノロジー企業は、AI法の適用を緩やかにするよう強く働きかけてきました。そうした企業が今、自社の最も強力なシステムを規制するには法律が不十分だと主張していることには、慎重になるべきです。企業が提案する解決策は、自らを「規制」することです。

これは「規制の虜」と呼ばれる典型的な仕組みです。法律や規制が、本来規制の対象とするはずの当事者自身によって、当事者の利益のために徐々に形作られていく過程を指します。

米国は、その明確な例を示しています(超知能時代の幕開け – ホワイトハウス)。ホワイトハウスの「超知能に関する合意」は、X、Meta、Anthropic、OpenAI、Googleの各社幹部が参加する「自主的な協定」であり、各社は自主規制を約束しています。文書では、将来の仮定上のある時点であれば、法律が適切となる可能性があるとしています。「時間がたてば、こうした措置を法律や規則として定めることが妥当になるかもしれない。」時間がたてば。おそらく。規制を検討することが妥当である可能性はあります。

しかし現時点では、米国民はこうした大手テック企業が自らを規制すると信頼することを求められています。

米国とは異なり、欧州には法的拘束力のある法律、AI法があります。

それでも、規制の虜が生じるリスクは残っており、この法律への信頼が損なわれることも、その一因となり得ます。巨大テック企業が、AI法では不十分だと人々に信じ込ませれば、私たちはもはやその執行を支持しなくなるからです。エージェント型AIはAI法では扱えないほど高度すぎる、賢すぎる、あるいは危険すぎると示唆する主張は、規制への支持を弱める議論です。

いったん規制の虜に陥ると、そこから抜け出すのは困難です。

一部のAIシステムが、予測困難な結果をもたらす可能性があるという懸念は、私たちも共有しています。まさにこのため、リスク管理手順が必要です。AI法もそれを求めています。(Dr. Mullerは、リスク管理に関する整合規格18228の策定をほぼ終えた委員会に参加しています。)

EU AI法は完璧ではなく、今後さらに発展させる必要が生じる可能性が高いでしょう。しかし、エージェント型AIをEU AI法の対象外の領域として描くことは、安全性ではなく、不確実性を高めるだけです。

Ley Muller博士は、倫理的なAIガバナンスを専門としています。AI標準化委員会の委員を務める一方、AIガバナンスのコンサルティング会社であるValues-driven AIも経営しています。時間の半分は、欧州のAIプロバイダーがAI法の要件を満たせるよう支援し、残りの半分は、大規模な公的機関がシャドーAIの利用を管理し、AI戦略について幅広いステークホルダー間の合意形成を図れるよう支援しています。

Gyda Grodås Christiansenは、デジタルヘルス、医療情報学、人工知能ガバナンスに携わる上級アドバイザーです。CEN/CENELEC合同技術委員会21およびStandard Norwayを通じて、国際標準化に貢献しています。相互運用性、医療データ、医療におけるAIの責任ある導入に取り組んでいます。