深度伪造可以有效地欺骗许多主要的面部“活体”API

美国和中国之间的一项新研究合作探讨了一些世界上最大的基于面部的身份验证系统对深度伪造的易受攻击性，并发现大多数系统都容易受到正在开发和出现的深度伪造攻击形式的影响。

该研究使用针对常见的面部活体验证（FLV）系统的自定义框架进行了深度伪造入侵，这些系统由主要供应商提供，并作为服务出售给下游客户，例如航空公司和保险公司。

从论文中，FLV APIs在主要提供商中的工作原理概述。 来源：https://arxiv.org/pdf/2202.10673.pdf

面部活体验证旨在抵御诸如对抗性图像攻击、面具和预先录制的视频等技术的使用，以及所谓的“主面部”和其他形式的视觉ID克隆。

该研究得出结论，这些系统中部署的深度伪造检测模块数量有限，许多系统为数百万客户提供服务，远远不够完善，可能是基于现有的深度伪造技术配置的，或者可能过于依赖特定的架构。

作者指出：

‘[不同的]深度伪造方法也在不同供应商中表现出差异…没有访问目标FLV供应商的技术细节，我们推测这种差异是由不同供应商部署的防御措施引起的。例如，某些供应商可能部署了针对特定深度伪造攻击的防御措施。’

并继续说：

‘[大多数]FLV APIs不使用反深度伪造检测；即使对于那些具有此类防御的API，其有效性也令人担忧（例如，它可能检测到高质量的合成视频，但无法检测到低质量的视频）。’

研究人员观察到，在这个方面，“真实性”是相对的：

‘[即使]合成视频对人类来说是不真实的，但它仍然可以以非常高的成功率绕过当前的反深度伪造检测机制。’

…（完整内容）…