合成データセットから本当の身元を復元できる

2022 年が生成型 AI の破壊的可能性が初めて広く世間の注目を集めた年であったとすれば、2024 年は、その力を活用したい企業にとって、その基礎となるデータの合法性に関する疑問が中心的な話題となった年であった。

アメリカの フェアユースの教義学術界と商業研究部門が生成型AIを研究することを長い間許可してきた暗黙の学術的許可とともに、 盗作の証拠 浮上した。その後、米国は、今のところ、 許可されていない AI 生成コンテンツが著作権で保護されないようにする。

これらの問題は解決には程遠く、すぐに解決されるわけでもない。2023年には、 メディアと国民の懸念が高まる AIが生成した成果物の法的地位について、米国著作権局は生成AIのこの側面について長年にわたる調査を開始し、 最初のセグメント （デジタルレプリカに関して）2024年XNUMX月。

一方、企業側は、最終的に明確な法律や定義が制定された際に、利用したい高価なモデルが法的制裁を受ける可能性に苛立ちを募らせている。

高価な短期的解決策は、企業が利用する権利を持つデータで生成モデルをトレーニングすることで、生成モデルを正当化することだった。Adobeのテキストから画像への変換（そして今では テキストからビデオへ) Fireflyアーキテクチャは主に 購入 2014年のFotoliaストック画像データセットの 補足 著作権が切れたパブリックドメインデータ*の使用によって、ゲッティやシャッターストックなどの既存のストックフォトサプライヤーは、 大文字で ライセンスされたデータの新たな価値に注目が集まっており、コンテンツのライセンス供与や独自の IP 準拠 GenAI システムの開発を行う取引が増加しています。

合成ソリューション

著作権で保護されたデータをトレーニングから削除して以来、 潜在空間 AIモデルの 問題だらけただし、この分野でのミスは、機械学習を使用する消費者向けおよびビジネス向けソリューションを実験している企業にとって、潜在的に非常に大きなコストがかかる可能性があります。

コンピュータビジョンシステム（および また 大規模言語モデル、または LLM）は、 合成データデータセットは、対象ドメインのランダムに生成された例（顔、猫、教会、またはより一般化されたデータセットなど）で構成されます。

thispersondoesnotexist.comのようなサイトは、かなり昔に「非実在」の人物の本物そっくりの写真を合成できる（この場合は、生成的敵対ネットワーク、または GAN）であり、現実世界に存在する人物とは一切関係がありません。

したがって、このような抽象的で非現実的な例に基づいて顔認識システムや生成システムをトレーニングすると、データが法的に使用可能かどうかを考慮する必要なく、AI モデルのフォトリアリスティックな生産性基準を理論的に得ることができます。

綱渡り

問題は、合成データを生成するシステム自体が実際のデータでトレーニングされていることです。そのデータの痕跡が合成データに漏れ出した場合、制限されているか、または許可されていない資料が金銭的利益のために悪用されたという証拠になる可能性があります。

これを避け、真に「ランダム」な画像を生成するためには、このようなモデルは、一般化. 一般化 訓練されたAIモデルが高レベルの概念（例えば、 '顔', '男'、または '女性'実際のトレーニング データを複製することなく、

残念ながら、訓練されたシステムが生成（または認識）することは難しい場合があります。 細かい詳細 データセットでかなり広範囲にトレーニングしない限り、システムは 暗記: 実際のトレーニング データの例をある程度再現する傾向。

これは、より緩やかな 学習率または、コアコンセプトがまだ柔軟で、特定のデータポイント（顔データセットの場合は特定の人物の画像など）に関連付けられていない段階でトレーニングを終了することによっても実現できます。

ただし、これらの両方の対策では、システムが対象ドメインの「基本」を超えて詳細まで進む機会が得られなかったため、詳細度の低いモデルが作成される可能性が高くなります。

そのため、科学文献では、非常に高い学習率と包括的なトレーニング スケジュールが一般的に適用されています。研究者は通常、最終モデルにおける幅広い適用性と粒度の間で妥協しようとしますが、わずかに「記憶された」システムであっても、初期テストにおいてさえ、十分に一般化されていると誤って表現されることがよくあります。

フェイスリビール

ここで、スイスの興味深い新しい論文が紹介されます。この論文は、合成データの元となる元の実際の画像が、理論上は完全にランダムであるはずの生成された画像から復元できることを初めて実証したと主張しています。

トレーニング データから漏洩した顔画像の例。上の行には元の (実際の) 画像が表示され、下の行にはランダムに生成された画像が表示され、実際の画像とかなり一致しています。 出典: https://arxiv.org/pdf/2410.24015

著者らは、この結果は「合成」生成器が、より細かい粒度を求めて、トレーニングデータポイントの多くを実際に記憶していることを示していると主張している。また、AI 製造者を法的責任から守るために合成データに依存するシステムは、この点で非常に信頼性が低い可能性があることも示している。

研究者らは、最先端の合成データセット 6 つについて広範な研究を実施し、すべてのケースで元のデータ (著作権で保護されている可能性のあるデータ) を復元できることを実証しました。研究者らは次のようにコメントしています。

「私たちの実験では、最先端の合成顔認識データセットには、生成モデルのトレーニング データのサンプルに非常に近いサンプルが含まれていることが実証されています。合成サンプルには元の画像に対する小さな変更が含まれている場合もありますが、生成されたサンプルには、アイデンティティが保持されながら、より多くのバリエーション (異なるポーズ、照明条件など) が含まれている場合もあります。」

「これは、ジェネレーターモデルがトレーニングデータからアイデンティティ関連の情報を学習して記憶し、類似のアイデンティティを生成する可能性があることを示唆しています。これにより、生体認証や顔認識などのプライバシーに配慮したタスクに合成データを適用することに関して重大な懸念が生じます。」

AIマーケティング業界は、 紙 というタイトルです 合成顔の解明: 合成データセットが実際の身元を明らかにする方法、マルティニーのイディアップ研究所、ローザンヌ連邦工科大学（EPFL）、ローザンヌ大学（UNIL）の2人の研究者によるものです。

方法、データ、結果

この研究で記憶された顔は、 メンバーシップ推論攻撃この概念は複雑に聞こえますが、かなり自明です。この場合、メンバーシップを推測するということは、探しているデータと一致するか、またはそれに非常に類似したデータが明らかになるまで、システムを調査するプロセスを指します。

研究から推定されたデータ ソースのさらなる例。この場合、ソース合成画像は DCFace データセットからのものです。

研究者らは、（実際の）データセットのソースが判明している 6 つの合成データセットを調査しました。問題の実際のデータセットと偽造データセットの両方に非常に大量の画像が含まれているため、これは事実上、干し草の山から針を探すようなものです。

そこで著者らは市販の顔認識モデルを使用した。^† また、 レスネット100 バックボーンは アダフェイス 損失関数 （ ウェブフェイス12M データセット）。

使用された 6 つの合成データセットは次のとおりです。 DCフェイス （潜在的拡散モデル） IDiff-Face (均一 – FFHQ に基づく拡散モデル); IDiff-Face (2 段階 – 異なるサンプリング方法を使用するバリアント); GANDiffFace （生成的敵対ネットワークと拡散モデルに基づき、 スタイルGAN3 最初のアイデンティティを生成し、その後 ドリームブース 多様な例を作成するため); IDネット （GAN法、 スタイルGAN-ADA）; そして フェイス (アイデンティティを保護するフレームワーク)。

GANDiffFace は GAN と拡散法の両方を使用しているため、このネットワークが提供する「実際の顔」の起源に最も近い StyleGAN のトレーニング データセットと比較されました。

著者らは、AI 手法ではなく CGI を使用する合成データセットを除外し、結果の評価では、この点での分布の異常性のため、子供の一致や顔以外の画像 (顔データセットでは頻繁に発生し、Web スクレイピング システムが顔のような性質を持つオブジェクトやアーティファクトに対して誤検出を生成する) を考慮に入れませんでした。

コサイン類似度 取得されたすべてのペアに対して計算が行われ、以下に示すヒストグラムに連結されました。

さまざまなデータセット全体で計算されたコサイン類似度スコアのヒストグラム表現と、上位 k ペアの類似度の関連値 (破線の縦線)。

類似点の数は、上のグラフのスパイクで表されます。この論文では、6 つのデータセットのサンプル比較と、それに対応する元の (実際の) データセットの推定画像も紹介されており、その中からいくつか抜粋して以下に紹介します。

ソース ペーパーで再現された多数のインスタンスのサンプル。より包括的な選択については、読者が参照してください。

同紙は次のようにコメントしている。

「生成された合成データセットには、ジェネレーターモデルのトレーニングセットと非常によく似た画像が含まれており、このようなアイデンティティの生成に関して懸念が生じています。」

著者らは、この特定のアプローチでは、必要な計算が極めて負担となるため、より大容量のデータセットにスケールアップすることは非効率的である可能性が高いと指摘している。さらに、一致を推測するには視覚的な比較が必要であり、自動化された顔認識だけでは大規模なタスクには十分ではない可能性が高いと指摘している。

この研究の意味と今後の展望について、この論文では次のように述べている。

「合成データセットを生成する主な動機は、大規模なウェブクロールされた顔データセットを使用する際のプライバシーの懸念に対処することであると強調したいと思います。」

「したがって、合成データセット内の機密情報（トレーニング データ内の実際の画像の ID など）の漏洩は、生体認証などのプライバシーに配慮したタスクに合成データを適用することに関する重大な懸念を引き起こします。私たちの研究は、合成顔認識データセットの生成におけるプライバシーの落とし穴を明らかにし、責任ある合成顔データセットの生成に向けた将来の研究への道を開きます。」

著者らは、この研究のコードを プロジェクトページ現在のリポジトリ リンクはありません。

まとめ：

最近、メディアの注目は 収益の減少 AI 生成データで AI モデルをトレーニングすることによって取得されます。

しかし、スイスの新たな研究は、生成型 AI を活用して利益を得たいと考えている企業が増えている中で、より差し迫った問題となる可能性がある、IP 保護されたデータ パターンや無許可のデータ パターンが、このような慣行に対抗するために設計されたデータセット内であっても存続するという問題に焦点をあてています。この場合は、定義するなら「洗顔」と言えるかもしれません。

* しかし、ユーザーがアップロードしたAI生成画像をAdobe Stockに公開するというAdobeの決定は、このデータの法的「純粋性」を事実上損なうものとなった。ブルームバーグ 競合する 2024 年 XNUMX 月には、MidJourney 生成 AI システムからユーザーが提供した画像が Firefly の機能に組み込まれる予定です。

^† このモデルは論文では特定されていません。

初版発行日：6年2024月XNUMX日水曜日