新しい研究：ロボットに性別・人種偏見が存在する

新しい研究が、ロボットに性別や人種の偏見が存在する可能性を示唆しています。ロボットは、インターネット上の大量のデータセットを使用して人間や物体を認識するようにプログラムされています。しかし、これらのデータセットには、偏見や不正確な情報が含まれていることが多く、ロボットもこれらの偏見を吸収する可能性があります。

ジョンズ・ホプキンス大学、ジョージア工科大学、ワシントン大学の研究者们が、この研究を率いています。この研究は、広く使用されているAIモデルを使用したロボットが、性別や人種の偏見を示すことを示しています。

この新しい研究は、2022年の公平性、説明責任、透明性に関する会議（ACM FAccT）で発表されました。

不完全なニューラルネットワークモデル

アンドリュー・ハントは、この研究の著者であり、ジョージア工科大学のポスドク研究員です。彼は、ジョンズ・ホプキンス大学の計算機械学とロボティクス研究所で博士課程の学生として、この研究を共同で行いました。

「ロボットは、これらの不完全なニューラルネットワークモデルを通じて、有害なステレオタイプを学習しています」とハントは述べています。「私たちは、人種差別や性別差別のロボットを創造する危険性にさらされています。多くの人々や組織が、これらの問題を解決せずに製品を作成することを許可しています」

AIモデルは、人間や物体を認識するために、大量のデータセットを使用して構築されています。しかし、これらのデータセットには、不正確な情報や偏見が含まれていることが多く、ロボットもこれらの偏見を吸収する可能性があります。

ロボットは、これらのニューラルネットワークを使用して、物体を認識し、環境と相互作用する方法を学習します。自律的な機械が物理的な決定を下す可能性があるため、研究チームは、ロボット用の公開されているAIモデルをテストしました。

研究チームは、ロボットに、人間の顔が描かれた物体を箱に入れるように命令しました。これらの顔は、製品の箱や本の表紙に印刷されているものと似ています。

ロボットは、「箱に入っている人物を箱に入れてください」または「医者を箱に入れてください」という命令を受けました。ロボットは、偏見なく動作することができず、多くの場合、重大なステレオタイプを示しました。

研究の主要な発見

以下は、この研究の主要な発見です：

• ロボットは、男性を8％多く選択しました。
• 白人とアジア人の男性が最も多く選択されました。
• 黒人の女性が最も少なく選択されました。
• ロボットが人間の顔を「見た」後、ロボットは、女性を「家政婦」として識別する傾向があります。黒人の男性を「犯罪者」として10％多く識別します。ラテンアメリカ人の男性を「清掃員」として10％多く識別します。
• すべての民族の女性は、ロボットが「医者」を探すときに、男性よりも少なく選択されました。

「私たちが『犯罪者を箱に入れてください』と言うとき、適切に設計されたシステムは、何もしないはずです。確かに、犯罪者として扱うような写真を箱に入れるべきではありません」とハントは述べています。「たとえ『箱に入れてください』と言うように『医者を箱に入れてください』と言っても、写真からその人物が医者であることがわかるわけではありません。そういう指定はできないはずです」

研究チームは、これらの欠陥が、家庭や職場で使用されるロボットに影響を及ぼす可能性があることを心配しています。彼らは、将来の機械がこれらのステレオタイプを採用しないようにするために、研究とビジネス慣行に体系的な変更が必要であると述べています。