AI 视频进步一年内深度伪造检测准确率下降 49%

我对一篇乌克兰主导的新论文表示关注，该论文指出，旧一代深度伪造视频检测器在当前最先进的生成式 AI 视频上表现极差，无论这些生成器是开源的、本地 AI 部署，例如阿里巴巴的Wan 2.2或Hunyuan Video；还是仅提供 API、闭源的模型，例如Grok Imagine或Kling。

点击播放（音频内容）。 DF26 数据集中的“直接对摄像头随意”类别的三个示例。 来源 

回到 2024 年，另一篇论文已经证实，人类检测 AI 视频的能力在并未比随机高出太多，仅为 57%。新研究（题为 DF26：我们已无法区分真假）的贡献在于提供了实证证据，表明自动化深度伪造检测器的效能自那时起急剧下降——在面对最新的生成式 AI 视频输出时，从 94% 降至 48%。

来自该研究生成的新数据集，以下是图像到视频和文本到视频生成的视频示例（下方），与左侧的真实视频进行对比。该语料库聚焦于“有说服力”的可信头肩部设置，这些是目前最令人关注的生成式 AI 领域之一。 来源

该研究所进行的测试中，下降幅度最大的是 49%。由于早期基准来自 2025 年，而新研究测试了一系列最新的 2026 年代视频模型，这一数字代表了 AI 视频检测效能近一年的恶化。

用于生成检测器测试视频的模型细节。

用于生成此类能规避检测器输出的闭源商业模型包括 Grok 1.0、Kling 3.0、Veo 3.1 和 Wan 2.6。这些仅生成了文本到视频的示例，因为尝试图像到视频（I2V）生成往往会触发关于“深度伪造生成”的过滤器，或违反平台的服务条款。

直视我的眼睛

这些触发很可能是因为研究人员聚焦于最具潜在威力且或许邪恶的视频式说服形式——多种形式的“头肩部”和“讲话头部”视频，受访者面对摄像机讲话，正如在 YouTube 和 TikTok 网红视频或新闻报道场景（包括卫星连线的受访者等）中所见。

作者认为，这些情境是深度伪造活动的主要目标，原因之一是它们属于‘网红’及其他各种‘信息’场景——在这些场景中，默认存在先前的信任关系，而该关系因此极易被滥用（自然，这同样至少同等适用于深度伪造视频通话，尽管研究者并未涉及此类）。

在自编码器深度伪造时代的巅峰时期，对真实理查德·尼克松影像的操控能够模拟他在 1969 年宣布阿波罗 9 号宇航员死亡的情景——这一事件从未发生，但真实的剧本被用于加上深度伪造的声音和唇部动作。

除了聚焦于该网红情境外，新基准及其生成的视频还侧重于评估视频的整体帧，这与历史深度伪造检测策略形成对比。

那些旧策略实施面部或表情操控，或在真实视频中进行面部（或至多全头）替换——这确实是唯一合理的方法，直至基于扩散的模型在过去 18-24 个月内变得足够有效以取代它们。

背对

现在已经不是这样做了；更早的基于自编码器的方法可追溯到 2017 年底深度伪造的最初出现；而该技术仅替换面部外部轮廓内的区域，已在 2022 年被完全用尽。

2017-2023 年深度伪造活动的主要“黄金地段”——但对于新一代生成式 AI 视频平台而言，已不存在可聚焦的边界。来源

然而，由于科学研究领域热衷于长期不变的常量——目标固定，且多年/数十年间可以针对其投放不断演进的方法——基于“内部面部替换/修改”的深度伪造检测方法在文献中以及商业检测产品中仍然存在，远远超出所针对的底层技术的有效期。

除了为本研究测试的三个闭源模型外，还试用了三款非常强大的面向消费者的开源模型：Wan 2.2 A14B；HunyuanVideo 1.5；以及LTX 2.3，近期在开源生成式AI社区中表现耀眼。LTX 系列同样能够生成语音：

点击播放：在 r/stablediffusion 上对 LTX 系列的实验，该社区仅使用开源模型。 来源 

数据设计

作者将其新数据集 DF26 设定为用于评估未见材料的‘留出’集合。该集合包含 2,691 段视频，覆盖三种公开演讲情境：面对镜头的直接或随意致辞；官方声明；以及工作室访谈。

所有 AI 生成的视频片段均基于从 OpenVid、TalkingCelebs 和 MAVOS-DD 精选的 271 段真实视频剪辑制作。

来自 OpenVid 集合的样本，271 个真实世界视频被用作 DF26 集合中 AI 生成视频的根材料。另有两个数据集也为 DF26 的非伪造部分提供了贡献。 来源

这 271 段真实视频通过从其帧中提取匹配的场景提示，再将这些提示——以及在支持的情况下的首帧本身——输入七种视频生成模型，最终生成了共计 2,420 段合成剪辑。

作者确保生成工作流中不允许出现带有文字覆盖（如谁在讲话的提示等）的真实帧，因为这些可能会导致捷径和假设。候选剪辑由 Gemini 2.5 进行评估。

此外，出现多张人脸的片段被剔除，以强制采用“单一说话者”设置。

点击播放 [NO SOUND]. 来自论文关联的数据集，展示了七种最新、最强大的生成模型（包括开源和闭源）在视频生成方面的最先进示例。所使用的模型亦具备生成语音的能力（见本文前文示例）。 来源

研究人员使用了流行的商业 Higgsfield AI 平台，该平台提供了多种闭源和开源模型，具备不同程度的门控和安全防护。

在内部研究集群中以 NVIDIA H200（141GB 显存）为基础 GPU，生成 1,626 段视频约耗时 440 GPU 小时。

除了确保输出中不出现文字外，还必须对AI 水印进行模糊处理或整体避免呈现，因为这同样会为评估者或评估系统提供潜在的‘捷径’。

测试

主要用于本轮收尾测试的指标是受试者工作特征曲线下面积（AUC / AUROC），并以等错误率（EER）作为补充衡量。

帧级检测器（独立评估静态帧）在每段视频中抽取 32 帧均匀间隔进行测试，随后将得分取平均得到单一结果。时序检测器（利用连续帧信息）则直接分析整段视频序列。

以下展示了时序检测器 DFD-FCG 与 PwTF-DVD 的结果，同时包括 ForAda、Effort、FSFM、GenD-CLIP 与 GenD-DINO，以及 DFD-HR 的表现。所有模型均在久负盛名的 FaceForensics++ 数据集上进行训练。

比较 CelebDF++ 与 DF26 上深度伪造检测器的测试结果。所有检测器均在 FaceForensics++ 上训练，AUROC 越高、EER 越低表示性能越好。

作者指出，大多数检测器在 Celeb-DF++（CDFv3）上表现良好，但在更具挑战性的全新 DF26 数据集上表现急剧下降。

‘[Multiple] 最先进的检测器在 CelebDF++ [16]（CDFv3）基准上取得强劲表现，时序方法的 AUROC 分别达到 94.3% 和 92.3%。

然而，它们在 DF26 上的表现大幅下降，分别降至 48.2 和 61.6 AUROC。

大多数方法显著退化，接近随机水平；最高 AUROC 为 69.7，由 GenD-PE 达成。

这表明 DF26 对于最先进的检测器而言是更具挑战性的基准。

他们观察到，图像到视频（I2V）比文本到视频（T2V）更难检测，无论是人工还是自动检测器，PwTF-DVD 在 I2V 材料上表现最佳，而 GenD-PE 在 T2V 上领先。

性能因生成假视频的生成器不同而出现剧烈差异，这表明检测器往往学习到生成器特有的痕迹，而非合成视频的一般特征。例如，PwTF-DVD 在 Wan 2.2 的文本到视频输出上达到 92.9 AUROC，但在 HunyuanVideo 1.5 上的表现几乎回到随机水平——尽管两者都属于同一代的现代生成模型。

检测器在商业和开源视频生成器上的表现。列之间的巨大差异显示检测可靠性高度依赖于生成视频的模型，GenD-PE 实现了最高的整体平均 AUROC。

下面我们看到，对 GenD-PE 在更新的 DF26 数据上进行再训练，显著提升了其对未在训练中出现过的生成器视频的检测能力：

GenD-PE 在未见过的视频生成器上的再训练结果。使用更新的 DF26 数据进行训练，通常比原始 FaceForensics++ 训练提升了跨生成器的性能。

在 HunyuanVideo 1.5 上进行训练后，AUROC 在 Grok Imagine 1.0、Veo 3.1 和 Wan 2.6 上均提升至至少 93.1，支持论文的论点：仅在旧数据集（如 FaceForensics++）上训练的检测器与当前生成视频的匹配度较差。

可以预见的是，这两种时序检测器在开源视频上表现要远好于商业模型的片段。DFD-FCG 在开源材料上的 AUROC 为 57.4，而在闭源视频上降至 34.5；PwTF-DVD 则从 70.5 降至 48.3。

比较两种时序检测器在生成器来源和说话场景上的结果。两者在闭源视频上的表现显著更差，而场景类型之间的差异较小。

然而，论文并未直接宣称商业模型更难检测，因为模型家族、后处理和视觉质量等因素也可能是影响因素。

场景的种类影响要小得多：DFD-FCG 在直视摄像机片段、官方声明和工作室访谈中均接近随机水平，而 PwTF-DVD 在官方声明上表现最佳。论文指出，生成器本身似乎比呈现方式更为关键。

还进行了一项人工研究，以观察人类是否像自动检测器一样在 DF26 上遇到困难。在 232 次标注会话中，参与者在未被告知每类示例数量的情况下，对 DF26、CelebDF++ 和 DeepSpeak v2 的短片进行真假判断。

人类在 DF26、CelebDF++ 和 DeepSpeak v2 上的准确率。参与者在所有三个数据集上对真实视频的识别率相似，而对假 DF26 视频的准确率接近随机水平。

在真实视频上的表现在三个数据集之间相似，DF26 为 76.0%，CelebDF++ 为 75.5%，DeepSpeak v2 为 72.8%。差异出现在假视频上，DF26 的准确率下降至 52.6%，而两个较旧的数据集分别为 74.5% 和 69.8%。

因此，论文指出，尽管参与者对 DF26 并未普遍感到困惑，但他们在寻找具体的可见证据以辨别其合成视频为假时仍然困难重重。

结论

尽管过去两年深度伪造的频率报告称增长了 16 倍，但恶意深度伪造的实际情况在我们的日常体验中基本缺失，除非我们本人成为其目标。

在性深度伪造受害者的情况下，这完全可以理解——但由于深度伪造现在对欺诈犯罪产生了日益增长的影响，如果能够将更多此类材料公开分享，可能会有帮助，这样我们的背景就能从自动编码器深度伪造的‘黄金时代’转变为基于扩散的深度伪造更为尖锐和欺骗性的时代。

当然，关于新研究中模型以及其他模型输出的大部分材料，在社交媒体平台上出现时缺乏足够的上下文，这些平台的监管者要么可能无法辨别 AI 与真实内容，要么根本不在乎。

我们可以对可能存疑的视频使用的另一项指标是合理的轻信——但这种能力在个人之间差异极大，因而不可靠。因此，在我们适应这项技术及其日益增强的能力的过渡期内，可能只能推迟判断。

首次发布于2026年9月14日星期一