小さなディープフェイクがより大きな脅威となる可能性がある

会話型AIツールであるChatGPTやGoogle Geminiは、顔の交換ではなく、より繊細な方法で画像の中の物語を書き換えるために使用されています。ジェスチャー、プロップ、背景を変更することで、これらの編集は、AI検出ツールと人間の両方を欺き、オンラインでのリアルなものを見分けるためのリスクを高めています。

現在の状況では、特にTAKE IT DOWN法案のような重大な法律の影響を受けて、多くの人々はディープフェイクやAI駆動のアイデンティティ合成を、非同意のAIポルノや政治的操作と関連付けます。一般的に、重大な真実の歪曲です。

これにより、私たちは、AI操作された画像が常に高リスクのコンテンツを狙っていることを期待するようになります。レンダリングの品質とコンテキストの操作が、少なくとも短期的には、信頼性のクーポンを達成する可能性があります。

しかし、歴史的には、はるかに繊細な変更が、より陰険で持続的な影響を及ぼしてきました。たとえば、スターリンの時代の写真トリックは、スターリンが好ましくない人々を写真記録から除去することを可能にしました。ジョージ・オーウェルの小説『1984年』では、ウィンストン・スミスは、歴史を書き換え、写真を作成、破壊、修正する日々を過ごします。

以下の例では、2番目の写真の問題は、私たちが何を知らないかを知らないことです。スターリンの秘密警察の元責任者、ニコライ・エジョフが、安全柵で隠れたスペースを占めていたということです。

<img class=" wp-image-218824" src="https://www.unite.ai/wp-content/uploads/2025/06/stalin-photo-trickery.jpg" alt="今見え、今見えません… スターリン時代の写真操作は、失脚した党員を歴史から抹消します。ソース：パブリックドメイン、https://www.rferl.org/a/soviet-airbrushing-the-censors-who-scratched-out-history/29361426.htmlより” width=”881″ height=”301″ /> 今見え、今見えません… スターリン時代の写真操作は、失脚した党員を歴史から抹消します。 ソース：パブリックドメイン、https://www.rferl.org/a/soviet-airbrushing-the-censors-who-scratched-out-history/29361426.htmlより

このような流れは、繰り返し続けられ、文化的にもコンピュータービジョンにも影響しています。コンピュータービジョンは、トレーニングデータセット内の統計的に支配的なテーマやモチーフからトレンドを導き出します。例えば、スマートフォンが写真撮影への障壁を低下させ、大幅にコストを下げたことは、アイコンの表現が多くの抽象的な概念と密接に結びつくことになりました。たとえば、不適切な時代にiPhoneが描かれることもあります。

MultiFakeVerse

オーストラリアの研究者は、繊細なディープフェイクに対する文献での注目不足に対処するために、人を中心とした画像操作の新しいデータセットを作成しました。このデータセットでは、コンテキスト、感情、物語を変更する編集が行われますが、主体の基本的なアイデンティティは変更されません。

<img class=" wp-image-218825" src="https://www.unite.ai/wp-content/uploads/2025/06/details.jpg" alt="新しいコレクションからサンプル、リアル/フェイクのペア、編集の程度はさまざまです。たとえば、アジアの女性の医者の聴診器がAIによって除去され、権威が失われていることがわかります。一方、医者のノートをクリップボードに置き換える編集には、明らかな意味的な角度がありません。ソース：https://huggingface.co/datasets/parulgupta/MultiFakeVerse_preview” width=”884″ height=”429″ /> 新しいコレクションからサンプル、リアル/フェイクのペア、編集の程度はさまざまです。たとえば、アジアの女性の医者の聴診器がAIによって除去され、権威が失われていることがわかります。一方、医者のノートをクリップボードに置き換える編集には、明らかな意味的な角度がありません。 ソース：https://huggingface.co/datasets/parulgupta/MultiFakeVerse_preview

このコレクションは、MultiFakeVerseと呼ばれ、ビジョン言語モデル（VLMs）を使用して生成された845,826枚の画像で構成されています。これらの画像は、オンラインでアクセスおよびダウンロードできます。また、許可を得た場合にもアクセスできます。

方法

MultiFakeVerseデータセットは、4つの現実世界の画像セットから構成されています。これらの画像セットには、さまざまな状況にある人々が含まれています。研究者は、86,952枚の元の画像から、758,041枚の操作された画像を生成しました。

Gemini-2.0-FlashおよびChatGPT-4oフレームワークを使用して、各画像に6つの最小限の編集を提案しました。これらの編集は、画像の中で最も目立つ人物の認識を微妙に変更するように設計されています。

画像分析

各操作された画像は、変更された画像の量を決定するために、元の画像と比較されました。2つのバージョン間のピクセルレベルの違いは計算され、小さなランダムノイズはフィルタリングされ、意味のある編集に焦点が当てられました。

編集された画像のキャプションは、ShareGPT-4Vビジョン言語モデルを使用して生成され、Long-CLIPを使用して埋め込みに変換され、コンテンツの違いを比較することができました。

認知的影響の評価

Gemini-2.0-Flashを使用して、操作が6つの認知的影響領域で視聴者の認識をどのように変更するかを評価しました。

編集は、感情、個人のアイデンティティ、権力構造、シーンの物語、操作の意図、倫理的懸念の6つの側面で視聴者の認識を変更することが示されました。

メトリクス

MultiFakeVerseコレクションの視覚的な品質は、3つの標準的なメトリクスを使用して評価されました。

これらのメトリクスは、生成された画像の品質を評価するために使用されました。

ユーザー研究

ユーザー研究を実施して、MultiFakeVerseの繊細なフェイクを人間がどれだけ見つけられるかを調べました。

18人の参加者は、50枚の画像を表示され、画像がリアルかフェイクかを判断するように求められました。さらに、フェイクの場合は、どのような操作が行われたかを特定するように求められました。

テスト

テストの前に、データセットはトレーニング、検証、テストセットに分割されました。

各画像の操作された領域の検出を評価するために、面積下の曲線、F1スコア、交差係数を使用しました。

結論

新しい研究は、人間と機械の認識における盲点を暴露しています。ディープフェイクに関する公共の議論の大部分は、見出しを飾るアイデンティティの交換に焦点を当てていますが、これらのより静かな「物語の編集」は、検出がより難しく、長期的にはより腐食性である可能性があります。

システムがこのようなコンテンツの生成に更加積極的に参加し、私たち自身が写真ストリームの現実を変更することに更加参加するにつれて、粗い操作を検出することに頼る検出モデルは、不十分な防御を提供する可能性があります。

MultiFakeVerseが示すのは、検出が失敗したということではなく、問題の少なくとも一部が、より困難で、よりゆっくり進行する形態に移行している可能性があることです。小さな視覚的な嘘が気づかれずに蓄積する形態です。

初めて公開：2025年6月5日木曜日