研究者が開発した新しいツールでコンピュータビジョンの偏見を戦う

人工知能（AI）分野で最近浮き彫りになった問題の1つは、コンピュータビジョンにおける偏見です。多くの専門家は、AIシステム内に偏見があることを発見し、法廷での判決プログラムなどのさまざまなアプリケーションで歪んだ結果をもたらしています。

これらの問題を解決しようとする大きな取り組みが進行中で、最新の開発はプリンストン大学から来ています。研究者は、AIシステムをトレーニングするために使用される画像内の潜在的な偏見をフラグすることができる新しいツールを作成しました。

この研究は、8月24日に開催されたバーチャルヨーロッパコンピュータビジョン会議で発表されました。

AIシステムの偏見

現在のAIシステムに偏見がある主な理由の1つは、オンラインソースからの大量の画像セットでトレーニングされることが多いことです。これらの画像は固定観念に基づいていることが多く、コンピュータビジョンの開発に使用されると、結果は意図せずに影響を受ける可能性があります。コンピュータビジョンは、コンピュータが人物、物体、行動を識別できるようにします。

研究者によって開発されたツールはオープンソースで、視覚的なデータセット内の潜在的な偏見を自動的に明らかにすることができます。画像セットがコンピュータビジョンモデルをトレーニングする前に作用し、表現不足や固定観念に関する問題を解決できます。

REVISE

新しいツールはREVISEと呼ばれ、潜在的な偏見をデータセット内で識別するために統計的手法に依存しています。オブジェクトベース、性別ベース、地理ベースの3つの分野に焦点を当てています。

REVISEは完全に自動化されており、以前の方法に基づいて構築されています。以前の方法では、データセットの画像をフィルタリングおよびバランスをとることで、ユーザーがより多くの制御を持ちます。

新しいツールは、データセット内のコンテンツを分析するために、既存の画像注釈や測定値に依存しています。既存の注釈には、オブジェクトの数や画像の国籍などがあります。

ツールが機能する例の1つとして、REVISEは、人や花の画像が性別によって異なることを示しました。男性は式や会議で花と一緒に登場する可能性が高く、女性は絵や舞台でのシナリオで花と一緒に登場する可能性が高かったです。

オルガ・ルサコフスキーは、コンピュータサイエンスの助教授であり、Visual AI Labの主任研究員です。この論文は、大学院生のエンジェリーナ・ウォンとコンピュータサイエンスの准教授であるアルヴィンド・ナラヤナンと共同で執筆されました。

ツールが不一致を特定した後、「これは完全に無害な事実なのか、あるいはより深い問題があるのか、という判断は非常に難しい」とルサコフスキーは述べました。

表現不足または誤表現された地域

コンピュータビジョンデータセットでは、世界のさまざまな地域が表現不足となっており、これによりAIシステムに偏見が生じる可能性があります。REVISEによって明らかになった主な発見の1つは、アメリカやヨーロッパ諸国からの画像が圧倒的に多く、他の地域からの画像は地元の言語での画像キャプションが不足していることが多いため、観光客の視点からの画像である可能性が高いということです。

「…この地理分析は、物体認識が依然として偏ったものであり、排他的であり、さまざまな地域や人々に不均等に影響を与える可能性があることを示しています」とルサコフスキーは続けた。

「コンピュータサイエンスにおけるデータセット収集の慣行は、最近まで十分に調査されていませんでした」とウォンは述べた。画像の収集については、「インターネットからスクレイピングされ、人々は常に自分の画像がデータセットで使用されていることを認識していないことがあります。より多様なグループの人々から画像を収集する必要がありますが、画像を収集する際には、尊重される方法で行う必要があります」。

ビセンテ・オルドニェス・ローマンは、バージニア大学のコンピュータサイエンスの助教授です。

「ツールやベンチマークは重要なステップです…これらにより、パイプラインの早い段階で偏見を捉えることができ、問題設定や仮定、およびデータ収集の慣行を再考することができます。コンピュータビジョンには、表現や固定観念の伝播に関する特定の課題があります。プリンストンVisual AI Labによるような研究は、これらの問題を明らかにし、コンピュータビジョンコミュニティの注意を引き、緩和策を提供するのに役立ちます」とオルドニェス・ローマンは述べました。

研究者によって開発された新しいツールは、AIシステム内の偏見を是正するための重要なステップです。問題を解決するには今が最も適切な時期です。システムが進化し、複雑になるにつれて、問題を解決することはより困難になるからです。