ディープフェイク検出のための「確率」を採用する

AI生成のビデオとオーディオが十分に良くなると、視覚的なアーティファクトやその他の従来の信号に基づくディープフェイク検出器はもう機能しなくなる。しかし、人々が予測可能な行動からどれほどまれに逸脱するかという点で、「確率」はビデオやニュースのルーマーが真実である可能性の信号としてより深く採用される可能性がある。

意見 1990年代初頭、尊敬される元イギリスのサッカー選手であり、テレビのスポーツコメンテーターであるデビッド・アイクは、あるトークショーで自分が「神の息子」であるとカジュアルに明らかにした。この予想外の明らかなことから、数十年間にわたって持続し、複雑な陰謀理論に発展することになる。

インターネットの採用はまだ数年先のことであり、ソーシャルメディアの登場はさらに先のことだったが、アイクの有名人としての地位と彼の新しい洞察の性質の間の純粋な不協和は、完全な文脈や準備のなさ、そして有名で確立されたスポーツパーソナリティーからの大きな転換のために、英国国民に深い影響を与えた。

20年以上が経過した後、同様の、しかしはるかに暗い、社会的ショックが起こった。愛されたチャリティーキャンペーン担当者であり、子供向けテレビ番組のホストであるジミー・サヴィルが、死後に連続的かつ貪欲な生涯の性的犯罪者であり、彼の罪を犯すために彼の清潔な公のイメージを利用したことが明らかになった。

その後のオペレーション・ヨートリー警察の調査は、長年の性的犯罪歴を持つ多くの英国セレブリティを明らかにすることになった。後に、ハーヴェイ・ワインスタインの起訴は、米国でも同様のセレブリティの性的犯罪者を発見することになり、#MeToo運動に発展し、アメリカ文化に永久に定着することになった。『ショック』ニュースは、新しい突然のテンプレートを開発しているように見えた。最終的にディープフェイク攻撃者によって採用されることになるテンプレートである。

従来のディープフェイク検出の終焉？

社会メディアやAIが90年代初頭に存在していたとしても、世界中の予測システムでは、アイクのトークショーの明らかになったことは予測できなかった。私がよく覚えているように、その出来事の前年の間に何の前触れもなかったからである。

しかし、AIが存在していたら、アイクの声明がGoogle Veo 3や、新しいハイパーリアルオーディオ/ビデオディープフェイクフレームワークの1つによって生成されたものではないことを、より広い聴衆に納得させるのに時間がかかったかもしれない。

ディープフェイク検出のためのAIメソッドは、ディープフェイクによる選挙干渉に関する数年のメディアの予測を満たすのに十分に効果的になるまでに、最後の6〜12ヶ月でようやく十分に発達した。さらに、クイックストライクの評判の汚れを生成することができ、偽であるのに消去するのが難しい、信じやすい文化の中で発生することができる。

現在、AIのビデオ出力は、技術的な障壁によって、真のリアリズムに到達することができず、制限されている。さらに、西側のモデルと中国の検閲のないオープンソースリリースの間のギャップが広がるにつれて、極端に二極化している。

しかし、研究文献では、ディープフェイクビデオが将来にも「機械学習可能な特徴」を含むと仮定しているが、生成的なAIの能力が急速に進化するにつれて、この仮定は崩壊する可能性があるという、冷戦の終焉が近づいていることを私は認識している。たとえば、新しい論文「ディープフェイク検出におけるパフォーマンスの低下」では：

「私たちは、ディープフェイクビデオが、機械学習可能な特徴を含み、信憑性のあるビデオと区別できることを仮定しています。生成的なAIの能力が急速に進化するにつれて、この仮定は崩壊する可能性があります。」

「そのようなシナリオでは、ウォーターマーキングやその他の出所追跡方法が、デジタルメディアの信頼性を維持するための唯一の手段となるでしょう。」

しかし、同論文は、ウォーターマーキングや出所追跡を基盤とする解決策である、アドビが主導するコンテンツの真正性イニシアチブ（および過去7〜8年間に登場したより小規模な 研究 提案）が、広く採用されるには現実的ではないと認めている。論文は、一般的な撤退、あるいは敗北のノートで終わっている。

ディープフェイク検出方法が生成的なAIによって進化する場合、ウォーターマーキングや出所追跡スキームの世界的な採用が技術的な負債や採用に対する摩擦のために失敗する場合、何か共通の中核的な特徴がそれらを置き換えることができるだろうか？それとも、すべてのメディアが疑わしいものとなり、ライアーズ・ディビデンドが支配する世界に我々は自分を諦めなければならないのだろうか？

ナレッジグラフ

「報告された出来事」の「確率」および「あり得性」をディープフェイク検出における信号特性としてより深く活用する時が来ていると思われる。さらに、ビデオおよびオーディオの生成的なAIシステムが急速に収束しているため、「フェイクニュース」（テキストベースの物語的出来事）とフェイク画像/ビデオの個別の研究分野も収束する時が来ているのかもしれない。

確率ベースのディープフェイクメトリックは、RAGを支援した事実の検証とは異なる。後者では、AIモデルは、自分のカットオフ日以降に発生する出来事に関する現在のWeb結果を取得し、またはその主張を裏付けるために使用することができる。

代わりに、確率メソッドは、現在の問い合わせに従う歴史的なパターンから導かれた、一般的に示唆的な統計的傾向に基づいて予測を実行する。つまり、確率メソッドは、より最近の機械学習の潮流よりも、統計分析に近い。

以前は、より最近のトランスフォーマー時代のアプローチによって追い越されていたが、ナレッジグラフは、エンタープライズの分野である程度の復活を遂げており、ディープフェイク検出における「確率」メトリックの潜在的な展開に適しているように見える。

<img class=" wp-image-225719" src="https://www.unite.ai/wp-content/uploads/2025/11/knowledge-graph.jpg" alt="ナレッジグラフの簡略化された図。人、場所、芸術作品、イベントがラベル付きの関係を通じてリンクできるように、機械が現実世界のエンティティとその接続を推論できるようにする。ソース[https://blog.langchain.com/enhancing-rag-based-applications-accuracy-by-constructing-and-leveraging-knowledge-graphs/ ]ナレッジグラフは、現実世界のもの、たとえば人、企業、イベント、またはアイデアを、接続された事実のネットワークにマッピングする方法である。各サブエンティティはノードであり、ノード間のリンク（エッジ）は、それらがどのように関連するかを記述する。たとえば、「マイクロソフト」（ノード）は、「オープンAI」（別のノード）に「クライアントである」というエッジでリンクされている。つまり、ノード間の接続は、グラフデータベースに保存され、主語-述語-目的語の構造をとる。たとえば、「マイクロソフトはオープンAIのクライアントである」という構造である。

永続的メモリ

今年の9月に、中国の研究では、グラフベースの推論を使用して、マルチモーダルディープフェイクの微妙な矛盾を検出するためのトレーニング不要の方法が提案された。

生成的な推論や大規模モデルのファインチューニングではなく、システムは画像テキストのペアを取得し、類似性グラフを構築し、接続をスコアリングして、最も関連性の高い例を取得し、これらがモデルの判断を導くために使用される。

GASP-ICLフレームワークの概要。グラフベースのサンプル選択とコンテキスト内学習を組み合わせて、ディープフェイク検出を改善し、凍結されたビジョン言語モデルが画像/テキストのペアをリアルまたはフェイクとして分類できる。 ソース

これは、私が見た限りで、歴史を意識したディープフェイクの評価と検証のアプローチに最も近いものである。主に、コンピュータビジョンアプローチは「画像」（ビデオのフレームや複数のフレームを包含する時間的異常を含む）を分析し続けている一方で、「フェイクニュース」検出フレームワークは、多モーダルプロジェクトでも、テキストベースのデータを強調し続けている。

機能の肥大化

このような予測システムの課題は、セレブリティや公的人物以外の人物に対してこのアプローチを完全に実行するために必要な監視の範囲である。

現在の研究の中で最も似ているのは、事前犯罪の分野である。多様な多モーダルインテリジェンス信号を「疑わしい」とラベル付けし、ジョナサン・ノーランの「パーソン・オブ・インタレスト」（2011-2016）やスティーブン・スピルバーグの「マイノリティ・リポート」（2002）などの作品で、AIの警告を示す。

「パーソン・オブ・インタレスト」のようなオムニバースな監視システムは、最適な結果を生み出すだろうが、西側の文化が、中国の内部ネットワークが市民に課すようなレベルの個人的な侵入性を現在認めることは、ありそうにない。

したがって、非セレブリティについての潜在的なフェイクニュースの場合、警察のような政府機関（および出生・死亡登録や税務署）のみが、グラフベースのワークフローに情報を提供するのに十分な関連情報を持っている。さらに、それらは、一般市民をカバレッジと分析に含めるために、中国のような意志、能力、立法、リソースが必要である。

確率スコアリング

このようなシステムの潜在的な有効性は、おそらくディープフェイクコンテンツの最も明らかな（現在の）使用例に制限されるだろう：不安定化（国家が支援するディープフェイク）；セレブリティおよび「未知」のポルノグラフィックディープフェイク（後者はより深いメディアの関心を引き付けがちだが、両方とも悪意のあるものと見なされる）；詐欺（オーディオ/ビデオディープフェイクを含む）；および政治的キャラクターアサシネーション。

ナレッジベースのシステムは、さまざまな出来事の多様性の確率の尺度が必要である。スペクトルの一方の端には、人間の欠点、たとえば疑わしい財務管理、不倫、依存症、不注意、などがある。もう一方の端には、テレビのトークショーで自分が「神の息子」であると明らかにするような、同等の規模と影響の出来事がある。

後者の場合でも、個人の歴史的要因は、特定の個人の確率結果に重みを付ける。たとえば、論争的な問題（たとえば、1960年代/70年代の月面着陸の真実性）で公に曖昧な立場を取った著名な政治家は、より保守的な同僚よりも、検証ルーチンで追加の「ワイルドカード」の地位を得る可能性がある。

セレブリティポルノの場合、2012年のセレブリティ写真漏洩などの出来事から十分な現実の文脈がある。したがって、現在のセレブリティポルノビデオの多くは、非常に「ありそうにない」と見なされるだろう（ただし、これは、人のアイデンティティをそのような目的で使用することの問題を解決するものではない）。

国家的混乱の場合、統計データが豊富にあり、報告された出来事の確率を評価するのに役立つ。古代の歴史においてさえも、79年のヴェスヴィオスの噴火のような、表向きは突然の出来事は、十分注意を払えば予測できた。政府やNGOが後援するフィードの利用可能性に加えて、AIの構造化されていない生データからの構造の抽出能力の進化は、確率スコアリングのための追加の歴史的文脈を提供する。

結論

このような予測システムは、偶然、天災、奇跡的な出来事、またはあらゆる監視から遠く離れた場所で作られた悪意のある出来事を説明することはできない。

さらに、非有名人の場合に必要なデータの純粋な量と深さは、政治的な躓き石となるだろう。少なくとも現在のところは。

しかし、選択肢は狭まっている。ビジョンベースの分析は、生成的なAIの前に失敗しつつあり、検証と出所追跡スキームは、技術的な負債と採用に対する摩擦の重い負担を負っている。これにより、コンテンツの真正性イニシアチブや未完のメタフィジックProのような解決策は、普及させるのが難しいものとなる。

RAGベースのシステムは、最も広い意味で、権威のある情報源が未検証の主張を裏付けるかどうかを判断することしかできない。多くの大きな（真実の）ニュースストーリーが、事前の文脈なしに現れるため、権威のある情報源からの裏付けの欠如は、必ずしも重要ではない。

その価値は、歴史的文脈という、現在のAIが苦手とするものの1つに焦点を当てた、より広いデータエコシステムの一部として機能する場合に発揮される可能性がある。

* 2017年にデビューし、最終的に優れたアプローチに取って代わられたオートエンコーダーの初期の出現と混同しないでください。

^† https://arxiv.org/abs/2511.07009

^** これは、より強力なホームPCで自由に実行できるものですが、ChatGPTやVeoシリーズのようなゲートキープされたAPI経由でのみ利用可能です。

^††† 映画やテレビ番組のプロフェッショナルな視覚効果のような、娯楽目的の正当な使用を省略しています。

2025年11月13日初版