規制

EU、初のAI規制を導入へ

更新中 on ２０２２年７月１１日

欧州連合は 21 月 20 日に、人工知能の使用を管理する初の規制枠組みを発表します。新しい規制では、「高リスク」機械学習システムが完全に禁止され、他の機械学習テクノロジーにも最低基準が導入され、違反に対しては4万ユーロ（売上高のXNUMX％）の罰金が課されることになる。

新法の報告書草案、得ポリティコによると、製造、エネルギー効率の向上、気候変動モデリングなどの分野で、EUの経済と社会の一般的な利益のためにAIシステムの革新と開発を促進することを目指すだろう。しかし、それは、後で明らかにされる他の禁止事項の中でも特に、信用スコアリングシステムでの機械学習の使用、刑罰の自動評価、社会保障給付および亡命またはビザ申請の適合性の評価を禁止することになる。

草案には次のように明記されています中華風個人や企業向けのソーシャルスコアリングシステムは欧州連合の価値観に反するものであり、AIを活用した「大量監視」技術とともに規制の下で禁止されることになる。

規制の監視

それに続いて任命 EUはまた、2021年XNUMX月に人工知能に関するハイレベル専門家グループを設立する予定であり、欧州委員会とEUデータ保護当局の代表とともに、各加盟国が代表を務める新しい欧州人工知能委員会を設立する予定である。

おそらく、この草案の中で最も包括的で潜在的に物議を醸す可能性のある布告は、「行動、意見、決定を操作することによって」EU国民に害を及ぼすシステムを禁止するというものであり、これにはおそらく商業的および政治的マーケティングの分析を強化する多くの技術が含まれることになるだろう。

この規制は重大犯罪との闘いに例外を設け、使用範囲と期間の制限内で顔認識システムの所定の導入を許可する。

大掃除 GDPR に基づくと、これらの新しい規制は、AI の使用に関する厳格なガイドラインが提供されていない分野で「萎縮効果」を引き起こすには十分一般的である可能性があり、企業は機械学習の使用が潜在的なグレーゾーンに該当するリスクにさらされることになります。規制の範囲内で。

EU の新しい AI 規制に基づくバイアス

しかし、これまでで最大の課題であり、起こり得る法的泥沼は、データセットには差別を助長する可能性のある「意図的または非意図的バイアスを組み込んでいない」という規制草案の規定の形で生じている。

データの偏りこれは機械学習システムの開発において最も困難な側面の XNUMX つであり、証明することも対処することも難しく、データ収集団体の中心的な文化と深く結びついています。この問題により、民間および国の研究機関は、さまざまな考慮事項の中でも特に、異なるグループを正確に表現する必要性（実質的には計算数学と実証統計分析の基本目的）と、人種プロファイリングや文化の悪魔化を広める可能性との間でますます板挟みに陥っている。。

したがって、非EU市場は、新しい規制が少なくともいくつかの特定分野のガイダンスと、この点に関して適用可能な範囲の定義を提供することを期待している可能性が高い。

EU AI規制に対する外部の抵抗

この新しい規制は、機械学習を使用して公開データを分析することの法的影響と、現在のポスト追跡時代においても Web ユーザーから抽出できるデータに大きな影響を与える可能性があります。に案内されて Apple, Firefoxのそして（により少ない程度), クロム.

たとえば、FAANG 大手企業が GDPR に従ってユーザーデータを収集しているが、そのデータを欧州連合外の機械学習システムを通じて処理している場合など、管轄区域を明確に定義する必要がある場合があります。このようなシステムを介して派生したアルゴリズムが EU 内のプラットフォームに適用できるかどうかは不明であり、そのようなアプリケーションがどのように証明されるのかはさらに不明瞭です。

拘留の決定と量刑を知らせるために AI を使用する場合、成長傾向米国では、英国でも時折実験もしこの国が欧州連合から離脱していなければ、この分野は新たな規制の対象となっていただろう。

2020年にはホワイトハウスが覚書草案 AI規制については、AIに対する規制が低いという米国の主張を述べ、次のように宣言した。 「連邦政府機関は、AIの革新と成長を不必要に妨げる規制的または非規制的な行為を避けなければなりません」。おそらく、この姿勢はこの覚書が発行されたトランプ政権下でも存続する可能性が高いが、むしろ新しい規制をきっかけに米国とEUの間で今後生じる摩擦を反映していると思われる。

同様に、英国 AI 評議会の「AIロードマップ」 AI導入による経済的利益に多大な熱意を示しているが、新たな規制がこの進歩を妨げることは許されないという一般的な懸念を表明している。

AI に関する最初の実際の法則

AI に対する EU の法的立場への取り組みは革新的です。過去 XNUMX 年間の特徴は次のとおりです。猛吹雪多くの白書や予備委員会の調査結果、世界中の政府からの勧告が AI の倫理に焦点を当てており、実際に可決された法律はほとんどありません。

2019 年の調査による、公開された文書数別の倫理 AI ガイドライン発行者の地理的分布。米国と欧州連合内で最も多くの倫理ガイドラインが公開され、英国、日本がそれに続きます。カナダ、アイスランド、ノルウェー、アラブ首長国連邦、インド、シンガポール、韓国、オーストラリアはそれぞれ 1 つの文書で表されます。特定の G7 声明に貢献した G7 諸国の加盟国は個別に強調表示されます。出典: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf