感情認識AIの開発における倫理的考慮

感情調節のための人工知能は、機械学習分野における最新の技術的進歩の一つです。虽然它具有巨大的潜力，但倫理的な問題は、その採用率と寿命に影響を及ぼす可能性があります。開発者はこれらの問題を克服できるのでしょうか?

感情認識AIとは何か？

感情認識AIは、機械学習モデルのひとつです。コンピュータビジョン技術を使用して、画像や動画の顔の表情を解析し、気分を推測します。ただし、音声のトーンや書かれたテキストの感情を分析するために、オーディオスニペットやテキストを使用することもできます。

この種のアルゴリズムは、人工知能の分野における魅力的な進歩を表しています。なぜなら、モデルはこれまで人間の感情を理解することができなかったからです。ChatGPTのような大規模言語モデルは、気分や個性を信頼性高くシミュレートできますが、言葉を論理的に組み合わせることしかできず、感情的な知能を示すことはできません。感情認識モデルは感情を感じることができませんが、感情を検出してカタログ化することができます。この進歩は重要です。なぜなら、人工知能が将来、真正に幸福、悲しみ、または怒りを理解し、示すことができる可能性があるからです。技術的な飛躍は、進歩を加速することを示しています。

感情認識AIのユースケース

企業、教育者、コンサルタント、精神衛生ケア専門家など、さまざまなグループが感情認識AIを使用できます。

オフィスでのリスク評価

人事チームは、アルゴリズムを使用して、チームメンバー間のメールやチャットの感情分析を実行できます。あるいは、監視システムまたはコンピュータビジョンシステムにアルゴリズムを統合できます。ユーザーは、気分を追跡して、離職率、バーンアウト率、従業員満足度などの指標を計算できます。

カスタマーサービスエージェントの支援

小売業者は、エンドユーザーまたはバーチャルアシスタントのためのインハウスAIカスタマーサービスエージェントを使用できます。モデルが気分を認識できるため、消費者が怒っていることに気付いたときに、消費者を落ち着かせるテクニックを提案したり、トーンを変更したりできます。対策により、顧客満足度とリテンションが向上する可能性があります。

クラスルームでの学生の支援

教育者は、遠隔学習者が後れを取らないようにこのAIを使用できます。すでに一つのスタートアップは、学生の顔の筋肉点を測定し、速度と成績をカタログ化して、気分、動機、強み、弱みを判断するためにツールを使用しています。創設者は、ソフトウェアを使用すると、テストで10%高いスコアが得られるという主張をしています。

インハウスマーケットリサーチの実施

企業は、感情認識モデルを使用してインハウスマーケットリサーチを実施できます。ターゲットオーディエンスが製品、サービス、またはマーケティング資料にどのように反応するかを理解するのに役立ち、貴重なデータ駆動型の洞察を提供します。その結果、時間対市場と収益が増加する可能性があります。

感情を検出するためにAIを使用する問題

研究によると、精度はトレーニング情報に大きく依存しています。ある研究グループは、画像から感情を推測しようとしたときに、この概念を実証しました。モデルは、日本人女性の顔の表情データセットで92.05%の精度を達成し、拡張コーンカナーデータセットで98.13%の精度を達成しました。

92%と98%の違いは無視できません。重要な影響を及ぼす可能性があります。例として、データ汚染率は0.001%で、モデルバックドアを確立したり、意図的に誤分類を引き起こしたりすることが証明されています。パーセントの小さな違いでも重大な結果をもたらす可能性があります。

さらに、研究は約90%の精度で実施されており、研究は制御された環境で実施されています。現実の世界では、画像がぼかされたり、顔の表情が偽られたり、角度が悪かったり、感情が微妙だったりすることが多いため、AIは一貫して実行できない可能性があります。

感情認識AIの現在の状況

アルゴリズムによる感情分析は、アルゴリズムを使用してテキストのトーンが肯定的、中立的、または否定的であるかどうかを判断するプロセスです。この技術は、アルゴリズムによる感情評価の基礎であるため、現代の感情検出モデルの基礎と言えるでしょう。顔認識ソフトウェアなどの類似の技術も進歩に貢献しています。

現在のアルゴリズムは、主に幸福、悲しみ、怒り、恐怖、驚きなどの単純な気分をさまざまな精度で検出できます。これらの顔の表情は、自然で世界的に理解されているため、AIをこれらを識別するようにトレーニングすることは比較的容易です。

さらに、基本的な顔の表情はしばしば誇張されています。人々は怒ったときに眉をしかめ、悲しそうにしているときは口を曲げ、幸せそうにしているときは笑顔になり、驚いたときは目を大きくします。これらの単純で劇的な表情は、区別するのが容易です。複雑な感情は、微妙であるか、基本的な表情の組み合わせであるため、より難しいものです。

このAIのサブセットは、主に研究開発段階にあり、長い、恥、悲しみ、嫉妬、安心、または混乱などの複雑な感情をカバーするには至っていません。将来的にはこれらの感情をカバーする可能性はありますが、すべての感情を解釈できるかどうかは保証されていません。

実際、アルゴリズムは人間に匹敵することはできないかもしれません。例えば、OpenAIのGPT-4データセットは約1ペタバイトですが、人間の脳の一立方ミリメートルには約1.4ペタバイトのデータが含まれています。神経科学者は、感情を認識する脳のメカニズムを十数年研究してきましたが、まだ完全には理解できていません。したがって、高度な精度を持つAIを構築することは不可能かもしれません。

この技術を感情認識に使用することは前例がありますが、この分野はまだ技術的には未成熟です。概念に関する研究は豊富ですが、大規模な展開の実例はほとんどありません。採用の遅れは、精度の不一致や倫理的な問題によるものかもしれません。

開発者への倫理的考慮

ある調査によると、67%の回答者はAIは規制されるべきだと考えています。人々の心を安心させるために、開発者は偏見を最小限に抑え、モデルが予想どおりに動作し、成果を改善する必要があります。これらの解決策は、開発中に倫理的な考慮を優先することで可能です。

1.同意されたデータ収集と利用

同意は、AI規制が増加する時代にすべてです。従業員が自分の顔の表情を無断でカタログ化されていることを発見した場合に何が起こるでしょうか。教育に基づく感情分析の場合、親が署名する必要がありますか、または学生自身が決定できますか。

開発者は、モデルがどのような情報を収集するか、いつ稼働するか、分析結果がどのように使用されるか、誰が詳細をアクセスできるかを明示的に開示する必要があります。さらに、個人がパーミッションをカスタマイズできるように、オプトアウト機能を含める必要があります。

2.匿名化された感情分析出力

データ匿名化は、プライバシー問題とセキュリティ問題の両方です。開発者は、関係する個人を保護するために、収集した感情情報を匿名化する必要があります。少なくとも、保存中の暗号化を利用することを検討する必要があります。

3.人間による意思決定

AIを使用して誰かの感情状態を判断する唯一の理由は、意思決定を支援することです。精神衛生の能力で使用されるか、小売業界で使用されるかに関係なく、人々に影響を与えることになります。開発者は、予期せぬ動作を最小限に抑えるために、人間による意思決定の安全装置を利用する必要があります。

4.AI出力のための人間中心のフィードバック

アルゴリズムがほぼ100%の精度を持っていても、誤陽性を生み出す可能性があります。モデルが50%または70%の精度しか達成できない場合、偏見や幻覚の問題を考えると、開発者はフィードバックシステムの実装を検討する必要があります。

人々は、AIが自分について何を言っているかを確認し、誤りであると思われる場合は異議を唱えることができます。ガイドラインと説明責任の措置が必要になるかもしれませんが、不正確な出力による悪影響を最小限に抑えることができます。

倫理を無視した場合の結果

倫理的考慮は、AIエンジニア、機械学習開発者、ビジネスオーナーにとって優先事項であるべきです。なぜなら、それは彼らに影響を及ぼすからです。公衆の意見が不確実で規制が強化されていることを考えると、倫理を無視した場合の結果は重大なものになる可能性があります。