Andersonの視点
ディープフェイク検出のための「確率」を採用する
Unite.AI を Google の優先ソースに追加
AI生成のビデオとオーディオが十分に良くなると、視覚的なアーティファクトやその他の従来の信号に基づくディープフェイク検出器はもう機能しなくなる。しかし、人々が予測可能な行動からどれほどまれに逸脱するかという点で、「確率」はビデオやニュースのルーマーが真実である可能性の信号としてより深く採用される可能性がある。 1990年代初頭、尊敬される元イギリスのサッカー選手であり、テレビのスポーツコメンテーターであるデビッド・アイクは、あるトークショーで自分が「神の息子」であると 意見
カジュアルに明らかに した。この予想外の明らかなことから、数十年間にわたって持続し、 複雑な陰謀理論 に発展することになる。 インターネットの採用はまだ数年先のことであり、ソーシャルメディアの登場はさらに先のことだったが、アイクの有名人としての地位と彼の新しい洞察の性質の間の純粋な不協和は、完全な文脈や準備のなさ、そして有名で確立されたスポーツパーソナリティーからの大きな転換のために、英国国民に深い影響を与えた。 20年以上が経過した後、同様の、しかしはるかに暗い、社会的ショックが起こった。愛されたチャリティーキャンペーン担当者であり、子供向けテレビ番組のホストであるジミー・サヴィルが、死後に その後の 連続的かつ貪欲な生涯の性的犯罪者 であり、彼の罪を犯すために彼の清潔な公のイメージを利用したことが明らかになった。 オペレーション・ヨートリー 警察の調査は、長年の性的犯罪歴を持つ多くの英国セレブリティを明らかにすることになった。後に、ハーヴェイ・ワインスタインの起訴は、米国でも同様のセレブリティの性的犯罪者を発見することになり、#MeToo運動に発展し、アメリカ文化に永久に定着することになった。『ショック』ニュースは、新しい突然のテンプレートを開発しているように見えた。最終的にディープフェイク攻撃者によって採用されることになるテンプレートである。
従来のディープフェイク検出の終焉？
社会メディアやAIが90年代初頭に存在していたとしても、世界中の予測システムでは、アイクのトークショーの明らかになったことは予測できなかった。私がよく覚えているように、その出来事の前年の間に何の前触れもなかったからである。 しかし、AIが存在していたら、アイクの声明が Google Veo 3 や、新しいハイパーリアルオーディオ/ビデオディープフェイクフレームワークの1つによって生成されたものではないことを、より広い聴衆に納得させるのに時間がかかったかもしれない。 ディープフェイク検出のためのAIメソッドは、ディープフェイクによる選挙干渉に関する 数年のメディアの予測 を満たすのに十分に効果的になるまでに、最後の6〜12ヶ月でようやく十分に発達した。さらに、 クイックストライクの評判の汚れ を生成することができ、偽であるのに消去するのが難しい、信じやすい文化の中で発生することができる。 現在、AIのビデオ出力は、技術的な障壁によって、真のリアリズムに到達することができず、 しかし、研究文献では、ディープフェイクビデオが将来にも「機械学習可能な特徴」を含むと仮定しているが、生成的なAIの能力が急速に進化するにつれて、この仮定は崩壊する可能性があるという、冷戦の終焉が近づいていることを私は認識している。たとえば、新しい論文「 制限されている。さらに、西側のモデルと中国の検閲のないオープンソースリリースの間のギャップが広がるにつれて、極端に二極化している。 」では：
ディープフェイク検出におけるパフォーマンスの低下 「私たちは、ディープフェイクビデオが、機械学習可能な特徴を含み、信憑性のあるビデオと区別できることを仮定しています。生成的なAIの能力が急速に進化するにつれて、この仮定は崩壊する可能性があります。」 しかし、同論文は、ウォーターマーキングや出所追跡を基盤とする解決策である、アドビが主導する
コンテンツの真正性イニシアチブ
「そのようなシナリオでは、ウォーターマーキングやその他の出所追跡方法が、デジタルメディアの信頼性を維持するための唯一の手段となるでしょう。」 （および過去7〜8年間に登場した より小規模な 研究 提案 ）が、広く採用されるには現実的ではないと認めている。論文は、一般的な撤退、あるいは敗北のノートで終わっている。 ディープフェイク検出方法が生成的なAIによって進化する場合、ウォーターマーキングや出所追跡スキームの世界的な採用が技術的な負債や採用に対する摩擦のために失敗する場合、何か共通の中核的な特徴がそれらを置き換えることができるだろうか？それとも、すべてのメディアが疑わしいものとなり、 ライアーズ・ディビデンド が支配する世界に我々は自分を諦めなければならないのだろうか？
ナレッジグラフ
「報告された出来事」の「 」および「 確率 」をディープフェイク検出における信号特性としてより深く活用する時が来ていると思われる。さらに、ビデオおよびオーディオの生成的なAIシステムが急速に収束しているため、「フェイクニュース」（テキストベースの物語的出来事）とフェイク画像/ビデオの個別の研究分野も収束する時が来ているのかもしれない。 あり得性 ベースのディープフェイクメトリックは、 確率 RAG を支援した 事実の検証 とは異なる。後者では、AIモデルは、自分のカットオフ日以降に発生する出来事に関する現在のWeb結果を取得し、またはその主張を裏付けるために使用することができる。 代わりに、 メソッドは、現在の問い合わせに従う歴史的なパターンから導かれた、一般的に示唆的な統計的傾向に基づいて予測を実行する。つまり、 確率 メソッドは、より最近の機械学習の潮流よりも、 確率 統計分析
永続的メモリ
今年の9月に、 中国の研究 では、グラフベースの推論を使用して、マルチモーダルディープフェイクの微妙な矛盾を検出するためのトレーニング不要の方法が提案された。 生成的な推論や 大規模モデルのファインチューニング
機能の肥大化
このような予測システムの課題は、セレブリティや公的人物以外の人物に対してこのアプローチを完全に実行するために必要な監視の範囲である。 現在の研究の中で最も似ているのは、 事前犯罪 の分野である。多様な多モーダルインテリジェンス信号を「 」とラベル付けし、ジョナサン・ノーランの「 疑わしい 」（2011-2016）やスティーブン・スピルバーグの「 パーソン・オブ・インタレスト 」（2002）などの作品で、AIの警告を示す。 マイノリティ・リポート 「 したがって、非セレブリティについての潜在的なフェイクニュースの場合、警察のような政府機関（および出生・死亡登録や税務署）のみが、グラフベースのワークフローに情報を提供するのに十分な関連情報を持っている。さらに、それらは、一般市民をカバレッジと分析に含めるために、中国のような意志、能力、立法、リソースが必要である。 」のようなオムニバースな監視システムは、最適な結果を生み出すだろうが、西側の文化が、中国の内部ネットワークが市民に課すようなレベルの個人的な侵入性を現在認めることは、ありそうにない。 パーソン・オブ・インタレスト
確率スコアリング
このようなシステムの潜在的な有効性は、おそらくディープフェイクコンテンツの最も明らかな（現在の）使用例 に制限されるだろ するディープ う： （国家が支援 方とも悪意のあるものと見なさ フェイク）； 不安定化 （後者はより深いメディアの関心を引き付けがちだが、両 セ れる）； レブリティおよ び「未知」のポ ルノグラフィックディー プフェイク （ 詐欺 オーディオ/ビデオディープフェイク を含む）；および 政治的キャラクターアサシネーション 。 ナレッジベースのシステムは、さまざまな出来事の多様性の確率の尺度が必要である。スペクトルの一方の端には、人間の欠点、たとえば疑わしい財務管理、不倫、依存症、不注意、などがある。もう一方の端には、テレビのトークショーで自分が「神の息子」であると明らかにするような、同等の規模と影響の出来事がある。 後者の場合でも、個人の歴史的要因は、特定の個人の確率結果に重みを付ける。たとえば、論争的な 問題（たとえば、1 960年代/70年代の月 を得る 面着陸の真実性）で公に曖昧な立場を取った著名な政治家は、より保守的な同僚よりも、検証ルーチンで追加の「 」の地位 可能性がある。 ワイルドカード セレブリティポルノの場合、 国家的混乱の場合、統計データが豊富にあり、報告された出来事の確率を評価するのに役立つ。古代の歴史においてさえも、79年のヴェスヴィオスの噴火のような、表向きは突然の出来事は、 2012年のセレブリティ写真漏洩 などの出来事から十分な現実の文脈がある。したがって、現在のセレブリティポルノビデオの多くは、非常に「 」と見なされるだろう（ただし、これは、人のアイデンティティをそのような目的で使用することの問題を解決するものではない）。 ありそうにない 十分注意を払えば 予測 できた。政府やNGOが後援するフィードの利用可能性に加えて、AIの構造化されていない生データからの構造 の抽出能力の進化は、確 率スコアリングのための追加の歴史的文脈を提供する。
結論
このような予測システムは、偶然、天災、奇跡的な出来事、またはあらゆる監視から遠く離れた場所で作られた悪意のある出来事を説明することはできない。 さらに、非有名人の場合に必要なデータの純粋な量と深さは、政治的な躓き石となるだろう。少なくとも現在のところは。 しかし、選択肢は狭まっている。ビジョンベースの分析は、生成的なAIの前に失敗しつつあり、検証と出所追跡スキームは、技術的な負債と採用に対する摩擦の重い負担を負っている。これにより、 コンテンツの真正性イニシアチブ や未完の メタフィジックPro のような解決策は、普及させるのが難しいものとなる。 RAGベースのシステムは、最も広い意味で、権威のある情報源が未検証の主張を裏付けるかどうかを判断することしかできない。多くの大きな（真実の）ニュースストーリーが、事前の文脈なしに現れるため、権威のある情報源からの裏付けの欠如は、必ずしも重要ではない。 その価値は、歴史的文脈という、現在のAIが苦手とするものの1つに焦点を当てた、より広いデータエコシステムの一部として機能する場合に発揮される可能性がある。 * 2017年にデビューし、最終的に優れたアプローチに取って代わられた オートエンコーダー の初期の出現と混同しないでください。 † https://arxiv.org/abs/2511.07009 **
これは、より強力なホームPCで自由に実行できるものですが、ChatGPTやVeoシリーズのようなゲートキープされたAPI経由でのみ利用可能です。 †††
映画やテレビ番組のプロフェッショナルな視覚効果のような、娯楽目的の正当な使用を省略しています。 2025年11月13日初版
