ハイパースケールAIデータセットのカーケッションが不十分な場合、インターネットそのものよりも悪い吗？

アイルランド、イギリス、米国の研究者は、ハイパースケールAIトレーニングデータセットの増加が、インターネットの悪い側面を広めることになり得るとして警告しています。最近公開された学術データセットには、‘トラブルな画像やテキストのペア、レイプ、ポルノグラフィ、有害なステレオタイプ、人種差別的な言葉や民族的な罵倒など、極めて問題のあるコンテンツ’が含まれていると指摘しています。

研究者たちは、新しい大規模な未フィルタリングまたは不完全にフィルタリングされた多モーダル（画像やテキストなど）データセットが、悪影響を強化する能力において、実際にインターネットよりも有害であると主張しています。なぜなら、これらのデータセットは、オンラインプラットフォームからユーザーの苦情、ローカルモデレーション、またはアルゴリズムによって削除された画像やコンテンツを保持しているからです。

さらに、研究者たちは、ImageNetデータセットの場合のように、データセットのコンテンツに関する長期にわたる苦情に対処するには数年かかることがあり、後続のデータセットではこれらの修正が常に反映されていないこともあると指摘しています。

この論文は、多モーダルデータセット：ミソジニー、ポルノグラフィ、有害なステレオタイプというタイトルで、ダブリン大学、エディンバラ大学、UnifyID認証プラットフォームのチーフサイエンティストらの共同研究によるものです。

この研究は、最近公開されたCLIPフィルタリングされたLAION-400Mデータセットに焦点を当てていますが、研究者たちは、より広いトレンドに対して警告しています。つまり、GPT-3のような機械学習フレームワークに大量のデータを投入することへの結果と、著作権の不注意な使用、有害なデータソースの使用、そして違法データの永続化やAIへの組み込みの可能性についてです。

LAION-400M

先月、LAION-400Mデータセットが公開され、大規模な多モーダル言語データセットの数に加わりました。このデータセットは、Common Crawlリポジトリに依存しており、インターネットを無差別にスクレイピングし、フィルタリングとキュレーションの責任を使用するプロジェクトに転送します。派生データセットには4億のテキスト/画像ペアが含まれています。

LAION-400Mは、2021年3月に公開されたGoogle AIの閉じたWIT（WebImageText）データセットのオープンソースバージョンです。テキストと画像のペアを特徴とし、データベース内の画像に付随するテキスト（例：ウェブギャラリーの画像のaltテキスト）が関連付けられています。これにより、ユーザーはテキストベースの画像検索を実行でき、基礎となるAIがこれらのドメイン（例：‘動物’、‘自転車’、‘人物’、‘男性’、‘女性’）について形成した関連を明らかにできます。

画像とテキストの関係と、クエリ結果に偏見を埋め込むことができるコサイン類似性は、改善された方法論の必要性を強調する論文の核心です。LAION-400Mデータベースへの非常に単純なクエリは、偏見を明らかにできます。

例えば、scitkit-imageライブラリの先駆的な女性宇宙飛行士Eileen Collinsの画像は、LAION-400Mで2つの関連キャプションを取得します：‘これはアメリカの旗を持つ宇宙飛行士の肖像です’と‘これはアメリカの旗を持つオレンジ色のジャンプスーツを着た笑顔の主婦の写真です’。

これらのキャプションが適切である可能性を示すコサイン類似性は非常に近く、研究者たちは、LAION-400Mを使用するAIシステムは、どちらのキャプションも適切である可能性が高いと主張しています。

ポルノグラフィーが再びトップに立つ

LAION-400Mには、検索インターフェイスが用意されており、セーフサーチボタンを外すと、ポルノグラフィックな画像やテキストの関連付けがラベルやクラスをどの程度支配しているかがわかります。例えば、データベースで’修道女’（セーフモードを無効にするとNSFW）を検索すると、結果はほとんどホラー、コスプレ、衣装に関連しており、実際の修道女の画像はほとんどありません。

同じ検索でセーフモードを無効にすると、検索結果ページにはポルノグラフィックな画像が押し寄せ、非ポルノグラフィックな画像は下に押しやられます。これは、LAION-400Mが’修道女’という用語に関してポルノグラフィックな画像に大きな重みを与えていることを示しています。これは、オンラインソースでの用語の普遍性によるものです。

デフォルトでセーフモードが有効になっていることは、オンライン検索インターフェイス上で欺瞞的なものです。なぜなら、UIの癖であり、フィルタであり、必ずしもAIシステムで有効になっているわけではないからです。また、’修道女’ドメインでは、アルゴリズムの使用においてSFW結果と区別がつかないように一般化されています。

論文には、さまざまな検索用語のぼかした例が付属していますが、研究者たちは、画像を調査してぼかす作業が彼らに与えた影響について言及しています。また、大規模なデータベースの人間による監視の課題についても言及しています。

‘私たち（および私たちを支援した同僚たち）は、データセットを調査する過程で、不快感、吐き気、頭痛などの症状を経験しました。さらに、このような作業は、学術的なAI分野で公開された後に重大な否定的な批判に直面することが多く、既に重い作業であるデータセットの調査と分析にさらに感情的な負担を加え、将来の同様の研究を阻害し、AI分野と社会全体に損害を与えることになります。’

研究者たちは、人間によるキュレーションは高価で、個人的なコストが伴うものであると指摘していますが、有害なコンテンツを除去または処理する自動フィルタリングシステムは、明らかにこのタスクに適していないと主張しています。なぜなら、NLPシステムは、大量のスクレイピングデータセットを支配する可能性のある有害なコンテンツを分離または無視するのに苦労するからです。

禁止コンテンツの永続化と著作権保護の剥奪

論文では、このようなデータセットは、’非常に高い確率’で、少数派個人を搾取し、同様のオープンソースデータプロジェクトが、データの責任をエンドユーザーに転嫁する権利を持っているかどうかについて疑問視しています。

‘個人データをウェブサイトから削除し、永遠に消えたと考えるかもしれませんが、研究者や組織のサーバー上ではまだ存在している可能性があります。誰がデータセットからそのデータを削除する責任があるのでしょうか？LAION-400Mの場合、作成者はこのタスクをデータセットユーザーに委ねています。プロセスが複雑であり、平均的なユーザーがデータを削除するための技術的な知識を持っていない場合、これは妥当なアプローチでしょうか？’

研究者たちは、LAION-400Mは、採用されたクリエイティブコモンズCC-BY 4.0ライセンスモデルで公開されるには適していない可能性があると主張しています。なぜなら、このデータセットは、以前はGoogleやOpenAIのような大手企業の独占だった大規模データセットの民主化の潜在的な利点にもかかわらず、著作権保護の剥奪と有害なコンテンツの永続化を伴うからです。

研究者たちは、草の根（ボランティアベース）の取り組みや、研究者によるフィルタリング技術の改善が、データセットの問題に対処するのに役立つ可能性があると示唆しています。

‘ただし、データ主体の権利は、ここでは考慮されていません。大量のデータセットの潜在的な危害を軽視し、産業や商業的な環境でのその使用を奨励することは、無謀で危険です。データセットが提供されるライセンススキームの責任は、データセット作成者にのみ帰属します。’

ハイパースケールデータの民主化の問題

論文では、LAION-400Mのような大規模なビジョン言語データセットは、以前は大手テクノロジー企業やリソースを有する研究機関の独占だったものが、オープンソースで利用可能になったことを指摘しています。研究者たちは、公開の精神を称賛しながら、その実施を批判しています。

研究者たちは、ハイパースケールデータセットの民主化の定義は、脆弱な個人やコミュニティの権利、福祉、利益を考慮していないと主張しています。さらに、これらのデータセットがミリオン scaleで、そして間接的に数十億人のユーザーに配布されることを考えると、研究プロジェクトが編集または削除される前にデータセットを採用する可能性があり、修正された問題が永続化される可能性があると指摘しています。

瓶の中の魔人を元に戻す

一部のデータセットは、コンテンツが長期にわたってAIプロジェクトに組み込まれた後、抑制されました。例えば、Duke MTMC（マルチターゲット、マルチカメラ）データセットは、中国の抑圧的な当局による使用に関する人権組織からの繰り返しの懸念により、最終的に撤回されました。また、Microsoft Celeb（MS-Celeb-1M） は1000万枚の「有名人」顔画像のデータセットで、ジャーナリスト、活動家、政策立案者、作家などのバイオメトリックデータの公開が批判されました。さらに、Tiny Imagesデータセットは、2020年に偏見、有害な画像、差別的な用語のために撤回されました。

研究者たちは、批判を受けて修正されたデータセットの例として、ImageNetデータセットを挙げています。これは、プライバシーと画像化できないクラスの周りの繰り返しの批判に対処するために10年かかりました（2009-2019年）。

研究者たちは、LAION-400Mは、これらの改善を実質的に無視しており、ImageNetの修正が新しいリリースで考慮されていないと指摘しています。さらに、より広いトレンドを示唆しています。

‘これは、Tencent ML-Imagesデータセット（2020年2月）などの大きなデータセットの出現によって強調されます。これらのデータセットには、これらの非画像化可能なクラスが含まれています。さらに、これらのクラスが含まれていることがあります。ImageNet-21kデータセットのフルバージョンがリポジトリで使用され続けています。最新のSotAモデル（例：Googleの最新のEfficientNetV2とCoAtNetモデル）でも、フィルタリングされていないImageNet-21kが使用されています。また、LVISチャレンジ2021などのコンテストでは、フィルタリングされていないImageNet-21kの事前トレーニングの使用が明示的に許可されています。’

‘私たちは、この重要な観察を強調します：ImageNetのようなチームが15百万枚の画像を管理するのに苦労し、失敗していることです。’

‘この大量の多モーダルデータセットと、数十億の画像キャプションペアを含むダウンストリームのトレーニングモデルを完全に除毒するための慎重な努力の規模は、間違いなく天文学的です。’

* 作者のインライン引用をハイパーリンクに変換したものです。