使用Deepfaked语音实施的3500万美元银行劫案发生于2020年

对于2020年1月从阿联酋一家银行诈骗3500万美元的调查发现，深度伪造语音技术被用于模仿一位公司董事的语音，这位董事与银行分行经理熟悉，随后分行经理授权进行了这些交易。

该犯罪发生在去年1月15日，并在请求(PDF)中被概述，阿联酋向美国州政府请求帮助追踪被转移到美国的部分被盗资金。

请求指出，阿联酋一家未命名的受害银行的分行经理接到了一位熟悉的声音的电话，伴随着来自一位名叫马丁·泽尔纳（Martin Zelner）的律师的电子邮件，分行经理相信这些信息是合法的，于是批准了这些交易，这些交易显然是用于收购一家公司。

请求指出：

‘根据阿联酋当局的说法，2020年1月15日，受害公司的分行经理接到了一通自称来自公司总部的电话。打电话的人听起来像公司的董事，因此分行经理相信这通电话是合法的。 ‘

‘分行经理还收到了几封电子邮件，他相信这些邮件来自董事，与电话有关。打电话的人告诉分行经理，通过电话和电子邮件，受害公司即将收购另一家公司，并且一位名叫马丁·泽尔纳（Zelner）的律师已被授权协调收购程序。’

分行经理随后收到了泽尔纳的电子邮件，以及（假装的）董事的授权信，董事的声音对受害者来说很熟悉。

深度伪造语音欺诈被识别

阿联酋调查人员随后确定，深度伪造语音克隆技术被用于模仿公司董事的语音：

‘阿联酋的调查发现，被告使用“深度语音”技术模拟了董事的声音。2020年1月，资金从受害公司转移到其他国家的多个银行账户，涉及至少17名已知和未知的被告。阿联酋当局追踪了资金的流动，通过多个账户，并确定了两笔转账到美国。 ‘

‘2020年1月22日，两笔转账，分别为199,987.75美元和215,985.75美元，从两名被告转移到美国的Centennial Bank账户，账号分别为xxxxx7682和xxxxx7885。’

关于这起犯罪的进一步细节尚不清楚，这只是第二起已知的基于语音的深度伪造金融欺诈案。第一起发生在9个月前，即2020年3月，当时一位英国能源公司的高管被一位听起来像其老板的声音的人在电话中骚扰，要求紧急转账22万欧元（243,000美元），这位员工随后进行了转账。

语音克隆开发

深度伪造语音克隆涉及训练机器学习模型使用数百或数千个目标语音样本（将被模仿的语音）。通过直接将目标语音与将在拟议场景中说话的人的语音进行训练，可以获得最准确的匹配，尽管模型将被“过度拟合”到将被模仿的人。
最活跃的合法在线语音克隆开发者社区是Audio FakesDiscord服务器，它包含了许多深度伪造语音克隆算法的论坛，例如Google的Tacotron-2，Talknet，ForwardTacotron，Coqui-ai-TTS和Glow-TTS等。

实时深度伪造

由于电话交谈本质上是交互式的，语音克隆欺诈不能通过“预先录制”的高质量语音剪辑来实现，在两起语音克隆欺诈案中，我们可以合理地假设说话者正在使用实时的深度伪造框架。
实时深度伪造近来引起了人们的关注，这是由于DeepFaceLive的出现，DeepFaceLive是流行的深度伪造软件包DeepFaceLab的实时实现，可以将名人或其他身份叠加到实时网络摄像头视频上。尽管Audio Fakes Discord和DeepFaceLab Discord的用户对将这两种技术结合成一个单一的视频+语音实时深度伪造架构非常感兴趣，但目前尚未公开出现这样的产品。