EUの人工知能法案の失敗

EUの人工知能法案の新しい法的批判は、4月に発表された提案された規制に対して幅広い批判を加えている。批判では、文書の多くは1980年代の消費者規制から「縫い合わせ」されたものであり、EUにおける規制された人工知能環境を促進するのではなく、むしろ規制のある環境を促進するものであると結論付けている。また、提案された規制は、意味や影響がほとんどない将来の規制AIフレームワークを示しているという批判もある。

『EUの人工知能法案の神話を解く』というタイトルのプレプリントは、UCLロンドンとライデン大学ニイメーヘンからの研究者による共同研究である。

この論文は、実装（意図ではなく）に関する提案についての否定的な意見の増加する一部を補うものであり、4月には、草案規制の1人の貢献者が、提案されたガイドラインは「温い、短絡的で、故意に曖昧である」と主張し、欧州委員会の文書を「偽りの倫理」の提唱者として特徴付けている。

操作的なAIシステム

新しい論文は、AI法の提案された「操作的なシステム」に対する制限は、「損害」の曖昧で矛盾した定義によって妨げられていると主張し、「[a] 愚かな人なら、委員会は禁止の修辞的な価値よりも実際的な効果に関心があるかもしれない」と述べている。

草案規制は、2つの禁止される慣行を概説する：

(a) 人の意識を超えて、人の行動を物質的に歪めるために潜在的な技術を使用するAIシステムの市場への導入、サービスへの導入、または使用；

(b) 特定のグループの人々の脆弱性を利用して、グループに属する人の行動を物質的に歪めるためにAIシステムの市場への導入、サービスへの導入、または使用；

研究者は、これらの制限は、AIプロバイダーのサービスまたはソフトウェアが自分の目的を達成するかどうかには対処していないが、エンドユーザーが「損害」を被るかどうかだけに焦点を当てていると主張する。また、草案の損害の定義は、個人ユーザーに限定されており、近年のAIを基盤とする論争（例：ケンブリッジ・アナリティカ事件）から推測できる集団的または社会的な損害には対処していないと述べている。

論文では、「現実には、損害はしきい値を超える単一のイベントをトリガーすることなく蓄積し、証明するのが難しい」と述べている。

有害なAIシステムの許可

AI法は、公共の場での法執行機関によるバイオメトリックシステムの「リアルタイム」使用を禁止することを提案している。いくつかの公共の懸念は、反テロリズム、児童の人身売買、欧州逮捕令の追求に対する例外的な提案に向けられているが、研究者は、サプライヤーが反対するバイオメトリックシステムを抑圧的な政権に販売することを何も妨げないと指摘している。

この論文は、これは2020年のアムネスティ・インターナショナルの報告書によって既に歴史的な実践であると述べている。

さらに、AI法の「リアルタイム」バイオメトリックシステムの指定は、オフライン分析システム（例：抗議イベントのビデオ映像の後処理）を除外することが任意であると述べている。

また、提案は、法執行機関に関連しないバイオメトリックシステムを制限するメカニズムを提供していないが、代わりにGDPRに怠慢に遅れていると指摘している。さらに、GDPR自体は、スキャンされた各人のための高品質の個別の同意を要求しているが、これは実際には不可能であると述べている。

このセクションのAI法の文言も、研究者から批判されている。草案では、バイオメトリックシステムの「個別の使用」に対する事前の承認が必要であると規定しているが、「個別の使用」とは、この文脈では何を意味するのかは明確ではない。論文では、論争的な令状は「テーマ的」であり、広範な組織、目的、場所に関連している可能性があると指摘している。

さらに、草案規制では、発行された承認の数と種類についての透明性メカニズムを規定していないため、公衆の検査が困難になっている。

規制のアウトソーシング

研究によると、AI法の中で最も重要な実体は、実際には草案規制に一度も言及されていない：CEN（欧州標準化委員会）とCENELEC（欧州電気標準化委員会）－これらは、欧州委員会がAIサービスの特定の種類や展開に対する調和された規格を策定するよう依頼できる3つの欧州標準化組織（ESO）の中の2つである。

これは、AIメーカーが、提案された規制に従うのではなく、調和された規格の規制を選択できることを意味する。提案された規制が2024-5年に施行される際に、より緩く解釈できる。

論文の研究者は、標準化団体における産業ロビー活動の介在する年月が、これらの「基本的な規格」を大幅に再定義する可能性が高く、規制は倫理的かつ立法的な明確さの高いレベルから始まるべきであると述べている。

感情認識システムの誤りを正当化する

AI法には、感情認識および分類システムの展開に対する規制が含まれている。これらのシステムは、必ずしも個人を特定するものではなく、個人が何を感じているかを理解できるか、または性別、民族、さまざまな経済的および社会的指標に基づいて個人の分類ができるかを主張する。

研究者は、この条項は無意味であると主張している。GDPRはすでに、ユーザーに明確な情報を提供することをシステムの提供者に義務付けているため、ユーザーはオプトアウト（例：オンラインサービスを使用しない、またはシステムの存在が発表されているエリアに入らない）することができる。

さらに、論文は、この条項が、論争の的となっている技術を正当化しており、FACSスタイルの感情認識システムを、近代産業時代の初期からのフェレノロジーやその他の近似シャーマニズム的な社会的分類アプローチの恥ずべき歴史の光で特徴付けている。

「感情を検出する」と主張する人々は、単純化された、疑問のある分類体系を使用し、文化や状況を超えて普遍性を誤って仮定し、「顔の構造から性格特性を分析する」フェレノロジーの過去に戻る危険性がある。」

謙虚な提案

研究者は、ディープフェイクの規制、AIシステムの炭素排出量の監視不足、重複する規制の監視、起訴可能な法的実体の不十分な定義など、AI法の他の欠点にも対処している。

彼らは、立法者や市民活動家に、特定された問題に対処するための措置を取るよう促しており、さらに、提案された規制の包括的な批判を行うには、多くの他の懸念事項を省略する必要があったと指摘している。

しかし、論文は、AIシステムの水平的な規制システムを導入しようとするAI法の先駆的な試みを称賛しており、その「賢明な要素」、例えば、リスク評価レベルの階層を作成すること、禁止を導入することへの取り組み、システムの提供者がヨーロッパの正当性を得るために貢献する必要がある公共のデータベースの提案などを挙げているが、最後の要件は法的な難問を引き起こす可能性があると指摘している。