コンピュータサイエンティストがAIの偏見に取り組む

プリンストン大学とスタンフォード大学のコンピュータサイエンティストは、人工知能（AI）における偏見の問題に取り組んでいます。彼らは、より公平な画像データセットを作成する方法を開発しています。研究者は、1300万以上の画像を持つデータベースであるImageNetと密接に協力しています。過去10年間、ImageNetはコンピュータビジョンの進歩に貢献してきました。研究者は、ImageNetのデータベースを改善するための提案を行っています。

ImageNetには、物体、風景、人々の画像が含まれています。画像を分類する機械学習アルゴリズムを作成する研究者は、ImageNetをデータソースとして使用しています。データベースの巨大さにより、自動画像収集とクラウドソーシングによる画像注釈が必要でした。現在、ImageNetチームは偏見やその他の問題を修正する作業を行っています。画像には、ImageNetの構築による意図しない結果として、人々が含まれることがあります。

オルガ・ルサコフスキーは、プリンストン大学のコンピュータサイエンスの助教授であり、共同著者です。

「コンピュータビジョンは現在非常に優れており、多くの状況で使用されています」と彼は述べました。「これは、コンピュータビジョンが世界に与える影響について話し合い、公平性に関する問題について考える時期です」。

新しい論文では、ImageNetチームは、非視覚的な概念や不快なカテゴリを体系的に特定しました。これらのカテゴリには、人種的および性的特徴が含まれていました。チームは、これらのカテゴリをデータベースから削除することを提案しました。チームはまた、ユーザーが年齢、性別の表現、肌の色で画像セットを指定して取得できるツールを開発しました。目標は、画像内の人の顔や活動をより公平に分類するアルゴリズムを作成することです。

研究者たちの研究は、1月30日にスペインのバルセロナで開催されたAssociation for Computing MachineryのFairness、Accountability、Transparencyに関する会議で発表されました。

「このような会話に参加するために、技術的な専門知識を持つ研究者や研究所が必要です」とルサコフスキーは述べました。「データを大規模に収集する必要性、クラウドソーシングによって行われる効率的なパイプラインの実現の必要性を考えると、どのようにすればより公平な方法で行えるでしょうか。偏見のある落とし穴に陥らない方法で、どのようにすればより公平な方法で行えるでしょうか。この論文の核心的なメッセージは、構築的な解決策についてです」。

ImageNetは、2009年にプリンストン大学とスタンフォード大学のコンピュータサイエンティストのグループによって立ち上げられました。学術研究者や教育者向けのリソースとして機能することを目的としていました。システムの作成は、プリンストン大学の卒業生であり、教員でもあるフェイフェイ・リーによって主導されました。

ImageNetは、クラウドソーシングを使用して、ラベル付き画像の大規模なデータベースを作成することができました。使用された主なプラットフォームの1つは、Amazon (AMZN ) Mechanical Turk（MTurk）でした。ワーカーは、候補画像を検証するために支払われました。これにより、いくつかの問題が生じ、多くの偏見や不適切なカテゴリ化が見られました。

第一著者カイユ・ヤンは、コンピュータサイエンスの大学院生です。

「大規模な候補画像セットから正しい画像を選択するように人々に依頼すると、人々は圧力を受けて、特徴的なまたはステレオタイプな特徴を持つ画像を選択する傾向があります」と彼は述べました。

研究の第一段階では、ImageNetから潜在的に不快またはデリケートな人々のカテゴリをフィルタリングしました。不快なカテゴリは、汚い言葉や人種的または性別の差別的な言葉を含むものでした。性的指向や宗教に基づく人々の分類は、デリケートなカテゴリの1つでした。多様な背景を持つ12人の大学院生がカテゴリを注釈付けするために参加し、不確実なカテゴリについては、敏感であるとラベル付けするように指示されました。約54%のカテゴリが削除され、ImageNetの2932人のカテゴリのうち1593個が削除されました。

MTurkワーカーは、残りのカテゴリの「イメージャビリティ」を1から5のスケールで評価しました。158のカテゴリは、安全でイメージャブルであると分類され、4以上の評価を受けました。これらのフィルタリングされたカテゴリセットには、133,000以上の画像が含まれており、コンピュータビジョンアルゴリズムのトレーニングに非常に役立つ可能性があります。

研究者は、画像内の人の人口統計的表現と、ImageNetにおける偏見のレベルを調査しました。検索エンジンからのコンテンツは、男性、薄い肌の色の人の画像、18歳から40歳の間の人の画像が過剰に表現されることがあります。

「人々は、画像検索結果の人口統計的分布が非常に偏っていることを発見しています」とヤンは述べました。「これが、ImageNetの分布も偏っている理由です。この論文では、偏りの程度を理解し、分布をバランスさせる方法を提案することを目指しています」。

研究者は、米国の反差別法で保護されている3つの属性を考慮しました。肌の色、性別の表現、年齢です。MTurkワーカーは、各画像内の各人のそれぞれの属性を注釈付けしました。

結果は、ImageNetのコンテンツに大きな偏見があることを示しました。最も表現されていないのは、暗い肌の色の人の画像、女性の画像、40歳以上の人の画像でした。

ユーザーが選択した方法で人口統計的にバランスの取れた画像セットを取得できるウェブインターフェースツールが設計されました。

「人口統計的バランスをとる正しい方法については、簡単な問題ではありません」とヤンは述べました。「世界のさまざまな地域での分布は異なります。たとえば、米国の肌の色の分布はアジアの国々と異なります。したがって、この問題はユーザーに任せ、バランスの取れた画像サブセットを取得するツールを提供します」。

ImageNetチームは現在、ハードウェアとデータベースの技術的な更新に取り組んでいます。また、研究で開発されたフィルタリングツールと再バランスツールを実装することも試みています。ImageNetは、更新とともに再リリースされる予定であり、コンピュータビジョン研究コミュニティからのフィードバックを求める予定です。

論文は、プリンストン大学の博士課程の学生であるクリント・キナミと、コンピュータサイエンスの助教授であるジア・デンも共同著者です。研究は、国家科学財団の支援を受けて行われました。