AI Now研究所は、感情検出ソフトウェアの誤用とその他の倫理的問題について警告する

AI Now研究所は、感情検出技術の使用を制限するために、法律や規制機関が厳格な規制を設けることを求める報告書を発表しました。特に、雇用の採用や学生の受け入れなどの重要な決定を下す場合には、感情検出技術の使用を禁止することが求められています。また、報告書には、AI分野のさまざまなトピックに関する他の提案も含まれています。

AI Now研究所は、ニューヨーク大学に基づく研究機関で、AIの社会への影響を研究する使命を持ちます。AI Now研究所は、毎年、AI研究の現状とAIの使用による倫理的影響についての報告書を発表しています。BBCによると、今年の報告書では、アルゴリズムによる差別、AI研究における多様性の欠如、労働問題などのトピックが取り上げられました。

感情認識、つまり感情検出アルゴリズムは、急速に成長しているAI研究分野です。感情検出技術を使用して決定を下す場合、システムはマイクロエクスプレッションや声のトーン、ボディランゲージなどの手がかりから、人の感情状態について信頼できる情報を抽出できるという主張があります。AI Now研究所は、感情検出技術が、採用、保険料の決定、学生の注意力の監視などのさまざまなアプリケーションで使用されていることを指摘しています。

AI Now研究所の共同創設者であるケイト・クロフォード教授は、人間の感情が簡単なモデルで予測できるという考えが広まっていることを指摘しています。クロフォードは、企業が感情検出ソフトウェアの開発に、ポール・エクマンの理論を基にしており、エクマンは、顔に表れる感情は6つの基本的なタイプしかないと主張しています。しかし、クロフォードは、エクマンの理論が提唱されて以来、研究によって、顔の表情にはより大きな変異があり、表情は状況や文化によって簡単に変化することが示されていると指摘しています。

“同時に、これらの技術が導入されている間、多くの研究が、感情と顔の表情の間には一貫した関係がないことを示しています”と、クロフォードはBBCに語りました。

このため、AI Now研究所は、感情認識の多くは、信頼できない理論や疑わしい科学に基づいていると主張しています。したがって、感情検出システムは、より多くの研究が行われるまで使用すべきではなく、政府は「感情認識を使用した高リスクな決定プロセスを特に禁止すべき」と主張しています。AI Now研究所は、特に雇用、教育、警察活動などの「敏感な社会的および政治的な状況」では、感情検出技術の使用を停止すべきだと主張しています。

少なくとも1つのAI開発企業であるEmteqは、感情認識技術の誤用を防ぐための規制が必要だと同意しています。Emteqの創設者であるチャールズ・ンドゥカは、BBCに対して、AIシステムは顔の表情を正確に認識できるが、表情と感情の間には単純なマッピングがないと語りました。ンドゥカは、規制が研究を妨げることになることを心配しながらも、規制が必要であると述べました。

The Next Webによると、AI Now研究所は、AI業界の将来の指針となる政策や規範に関する提案も行っています。

AI Now研究所は、AI業界がより多様な職場環境を作る必要性を強調し、労働者がAIの使用に関する懸念を表明する権利を保証する必要性を指摘しています。テクノロジー業界の労働者は、自分の仕事が有害または非倫理的な仕事の構築に使用されているかどうかを知る権利を持つべきだと主張しています。

AI Now研究所は、健康関連のAIから得られるデータの使用について、インフォームドコンセントを求めるべきだと提案しています。さらに、データプライバシーをより真剣に受け止めるべきであり、バイオメトリックデータに関するプライバシー法を設計するべきだと主張しています。

最後に、AI Now研究所は、AI業界がよりグローバルな視点で、AIのより大きな政治的、社会的、環境的影響に取り組むべきだと主張しています。AIの地理的変化や気候への影響についての取り組みを強化するべきであり、政府はAI業界の気候への影響を公開すべきだと提案しています。