EU、初のAI規制を発表

4月21日、欧州連合は、人工知能の使用を規定する初の規制枠組みを発表する予定です。新しい規制では、「高リスク」の機械学習システムを完全に禁止し、他の機械学習技術には最低限の基準を導入し、違反に対して2000万ユーロ、または会社の売上の4%の罰金を課します。

新しい法律の草案は、ポリティコによって入手され、EUの経済と社会の一般的な利益のために、製造、エネルギー効率の向上、気候変動モデリングなどの分野でAIシステムの開発とイノベーションを促進することを目的としています。しかし、信用スコアリングシステム、自動的な刑罰評価、社会保障給付や査証申請の適性評価などの使用は禁止されます。

草案では、中国式の社会スコアリングシステムは、EUの価値観に反するものであり、規制により禁止されることが明記されています。また、AIを使用した「大量監視」技術も禁止されます。

規制の監督

EUは、2021年3月に人工知能のハイレベル専門家グループを任命した後、各加盟国と欧州委員会、EUのデータ保護当局の代表からなる新しい欧州人工知能委員会を設立する予定です。

草案の中で最も包括的かつ論争の余地のある規定は、EUの人口に害を及ぼす「行動、意見、または決定を操作する」システムを禁止することです。これは、商業的および政治的なマーケティング分析を支える多くの技術を含むことになります。

規制では、重大な犯罪の取り締まりのために、顔認識システムの使用を一定の範囲と期間で許可する例外を設ける予定です。

GDPRの広範な規制と同様に、これらの新しい規制は、AIの使用に関する厳格なガイドラインが提供されていない分野で、「寒冷化効果」をもたらす可能性があり、企業は規制の灰色地帯に陥るリスクにさらされる可能性があります。

新しいEU AI規制における偏見

しかし、最大の課題と潜在的な法的難題は、データセットが「意図的または非意図的な偏見」を含まないことを規定する草案の規定です。

データ偏見は、機械学習システムの開発で最も困難な側面の1つです。証明が難しく、対処が難しく、データ収集機関の中心的な文化と深く結びついています。この問題は、正確に異なるグループを表現する必要性（計算機数学と経験的統計分析の基本的な目的）と、人種プロファイリングや文化の悪魔化などの偏見を永続させる可能性との間で、民間および国家の研究機関を難しい立場に置いています。

したがって、非EU市場は、新しい規制がこの点で少なくとも一定のガイダンスと適用可能な定義を提供することを希望するでしょう。

EU AI規制への外部からの抵抗

新しい規制は、パブリックデータの分析に機械学習を使用することの法的影響に大きな影響を与える可能性があります。また、Apple 、Firefox、および（ある程度）Chromeによって現在導入されているトラッキングの後時代にまだ抽出可能なWebユーザーデータにも影響します。

例えば、FAANG巨頭がGDPRに従ってユーザーデータを収集するが、EU外で機械学習システムを介してそのデータを処理する場合、どの程度の管轄権が必要かが問題となります。EU内のプラットフォームにそのようなシステムから派生したアルゴリズムを適用できるかどうかは不明です。また、そのような適用を証明する方法も不明です。

AIを使用した刑事事件の判決や刑罰の決定は、米国では増加している傾向です。英国の場合、同様の実験は、EUから離脱していなければ、新しい規制の対象となりました。

2020年に、ホワイトハウスはAI規制に関する草案覚書を発表し、「連邦機関は、AIのイノベーションと成長を不必要に妨げる規制または非規制措置を避けるべきである」と述べました。 この姿勢は、覚書が発表されたトランプ政権の下で存続する可能性がありますが、むしろ新しい規制の導入により、米国とEUの間に摩擦が生じる可能性があります。

同様に、英国のAI評議会の「AIロードマップ」は、AIの採用による経済的利益に対する熱意を表明していますが、新しい規制がこの進歩を妨げないようにすることに対する一般的な懸念を表明しています。

初のAI法

EUのAIに対する法的立場は革新的なものです。過去10年間は、世界中の政府からの白書や委員会の初期の調査結果と勧告の「吹雪」が特徴でしたが、実際の法律が制定されることはほとんどありませんでした。

2019年の調査による、倫理的なAIに関するガイドラインを発行した発行者の地理的分布。アメリカとEUが最も多いです。その次に、イギリスと日本が続きます。カナダ、アイスランド、ノルウェー、 UAE、インド、シンガポール、韓国、オーストラリアはそれぞれ1つの文書で表されています。G7声明に貢献したG7加盟国は別途強調されています。 出典：https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

参考文献

国別AI政策と戦略（OECD）