AIバイアス＆文化的ステレオタイプ：影響、限界、軽減策

人工知能（AI）、特にジェネレーティブAIは、人間の認知と知能を理解し、模倣する能力で期待を上回続けています。しかし、多くの場合、AIシステムの結果または予測は、文化や人種などのさまざまなタイプのAIバイアスを反映することがあります。

Buzzfeedの「バービーの世界」ブログ（現在削除）は、これらの文化的偏見と不正確さを明らかにしています。これらの「バービー」は、ミッドジャーニーというAI画像生成ツールを使用して作成され、世界中のバービーがどのように見えるかを調べるために使用されました。後で詳しく説明します。

しかし、これはAIが「人種差別的」または不正確な結果を生み出した最初の事例ではありません。例えば、2022年、Appleは、訴訟を受けたことがあります。Apple Watchの血液酸素センサーが色素のある人に対して偏っているという疑義がありました。また、Twitterの自動画像トリミングAIは、白人の顔を黒人や女性よりも優先していたことが報告されました。これらは重大な課題であり、解決することは非常に難しい課題です。

この記事では、AIバイアスとは何か、社会に与える影響について見てみます。また、実践者がこれらの課題を軽減する方法について簡単に説明します。

AIバイアスとは何か

AIバイアスとは、AIモデルが特定の人口統計に対して差別的な結果を生み出すことです。AIシステムにはいくつかのタイプのバイアスが入り、不正確な結果を生み出すことがあります。これらのAIバイアスのいくつかは以下の通りです：

• ステレオタイプバイアス：ステレオタイプバイアスとは、AIモデルの結果が特定の人口統計についての固定観念や認識を含む現象です。
• 人種バイアス：AIにおける人種バイアスとは、AIモデルの結果が特定の民族や人種に対して差別的で不公平であることです。
• 文化バイアス：文化バイアスとは、AIモデルの結果が特定の文化を他の文化よりも優先することです。

バイアス以外にも、AIシステムの結果を妨げる他の問題があります。例えば：

• 不正確さ：不正確さとは、AIモデルの結果が不一致したトレーニングデータのために不正確であることです。
• 幻覚：幻覚とは、AIモデルの結果が事実に基づいていない架空のものであることです。

AIバイアスの社会への影響

AIバイアスの社会への影響は有害です。バイアスを持つAIシステムは、不正確な結果を生み出し、社会に既存の偏見を増幅させることができます。これらの結果は、差別や人権侵害を増加させ、採用プロセスに影響を与え、AI技術に対する信頼を損なう可能性があります。

また、バイアスを持つAIの結果は、不正確な予測につながり、無実の個人に深刻な結果をもたらす可能性があります。例えば、2020年8月、ロバート・マクダニエルは、シカゴ警察の予測ポリシングアルゴリズムによって「関心人物」として標的にされました。

同様に、バイアスを持つヘルスケアAIシステムは、患者に深刻な結果をもたらす可能性があります。2019年、サイエンス誌は、米国の医療アルゴリズムが人種バイアスを持っていることを発見しました。黒人患者は、高リスクケア管理を受けなかったことを発見しました。

バービーの世界

2023年7月、Buzzfeedは、世界中の194体のAI生成バービーを紹介するブログを公開しました。この投稿はTwitterで話題になりました。Buzzfeedは免責声明を書きましたが、ネットユーザーが人種や文化の不正確さを指摘するのを止めることはできませんでした。例えば、AI生成されたドイツのバービーの画像は、ナチスSS将校の制服を着用していました。

同様に、AI生成された南スーダンのバービーの画像は、側面に銃を携えていることを示しています。これは、AIアルゴリズムに深く根付いた偏見があることを示しています。

その他の画像も文化的不正確さを示しています。例えば、カタールのバービーは、グトラと呼ばれるアラブ人の伝統的な頭飾りを着用しています。

このブログ投稿は、文化的ステレオタイプとバイアスに対する大きなバックラッシュを受けました。ロンドン・インターディシプリナリー・スクール（LIS）は、これを表現的損害と呼び、質の高い基準を課し、AIの監視機関を設立する必要性を強調しました。

AIモデルの限界

AIは多くの業界を革命させる可能性があります。しかし、上記のようなシナリオが増えると、AIの一般的な採用が減り、機会が失われる可能性があります。これらのケースは、AIシステムの限界により発生することが多いです。例えば：

• 創造性の欠如：AIは、与えられたトレーニングデータに基づいてのみ決定を下すため、創造性に欠け、問題解決能力が制限されます。

• 文脈的理解の欠如：AIシステムは、地域のニュアンスや言語の表現を理解するのに苦労し、結果としてエラーが発生することがあります。

• トレーニングバイアス：AIは、歴史的なデータに基づいており、差別的なサンプルを含むことがあります。トレーニング中に、モデルは差別的なパターンを学習し、不公平な結果を生み出す可能性があります。

AIモデルのバイアスを軽減する方法

専門家は、2026年までに、オンラインコンテンツの90％が合成生成される可能性があると推定しています。したがって、ジェネレーティブAI技術の問題を迅速に軽減することが重要です。

AIモデルのバイアスを軽減するためのいくつかの重要な戦略があります。例えば：

• データの品質を確保：完全で正確でクリーンのデータをAIモデルに取り込むことで、バイアスを軽減し、より正確な結果を生み出すことができます。
• 多様なデータセット：AIシステムに多様なデータセットを導入することで、バイアスを軽減し、AIシステムがより包括的になることができます。

• フィードバックループ：継続的なフィードバックと学習ループを通じて、AIモデルは結果を改善することができます

• 規制の強化：グローバルなAI規制は、国境を越えたAIシステムの品質を維持する上で重要です。したがって、国際的な組織はAIの標準化を確保するために協力する必要があります。

• 責任あるAIの採用の増加：責任あるAI戦略は、AIバイアスを軽減し、AIシステムの公平性と正確性を促進し、多様なユーザーベースをサポートし、継続的な改善を目指す上で重要です。

多様なデータセット、倫理的責任、オープンなコミュニケーションを取り入れることで、AIが世界中でポジティブな変化をもたらすことができます。

もし、あなたがAIのバイアスやAIが社会に与える役割についてもっと知りたい場合は、以下のブログを読んでみてください。

• 都市が先進的な技術を導入し、バイアスがないAIアルゴリズムを利用する方法
• AIがニュースの誤情報とバイアスを打ち負かすことができる
• 金融犯罪におけるAIベースのシステムのバイアスと公平性
• ニュース記事のバイアスをチェックするAIドライブンのツール（Pythonで利用可能）