深度伪造语音实现 2020 年 3500 万美元银行劫案

对 2020 年 1 月阿联酋一家银行被诈骗 3500 万美元的调查发现，深度伪造语音技术被用于模仿一位公司董事的语音，这位董事与银行分支经理熟悉，分支经理随后授权了交易。

该犯罪发生在去年的 1 月 15 日，并在阿联酋向美国州政府请求帮助追踪被转移到美国的部分挪用资金的请求中被概述（PDF）。

请求指出，阿联酋一家未命名受害银行的分支经理接到了一位熟悉的声音电话，并收到了律师马丁·泽尔纳（Martin Zelner）的电子邮件，经理相信该电话是合法的，并随后分发了资金，据称这些资金是用于收购一家公司的。

请求指出：

根据阿联酋当局的说法，2020 年 1 月 15 日，受害公司的分支经理接到了一通电话，声称来自公司总部。打电话的人听起来像公司的董事，因此分支经理相信这通电话是合法的。

分支经理还收到了几封电子邮件，他相信这些电子邮件来自董事，与电话有关。打电话的人告诉分支经理，通过电话和电子邮件，受害公司即将收购另一家公司，并且律师马丁·泽尔纳（Zelner）已被授权协调收购程序。 ‘

分支经理随后收到了泽尔纳的电子邮件，以及（假装的）董事的授权函，董事的声音与受害者熟悉。

深度伪造语音欺诈被识别

阿联酋调查人员随后确定深度伪造语音克隆技术被用于模仿公司董事的语音：

阿联酋调查发现，被告使用了“深度语音”技术来模拟董事的声音。2020 年 1 月，资金从受害公司转移到其他国家的多个银行账户，涉及至少 17 名已知和未知的被告。阿联酋当局追踪了资金的流动，并确定了两笔转账到美国。

2020 年 1 月 22 日，两笔转账，分别为 199,987.75 美元和 215,985.75 美元，从两名被告转移到美国的世纪银行账户，账户号码分别为 xxxxx7682 和 xxxxx7885。 ‘

没有关于该犯罪的进一步细节，这只是第二个已知的基于语音的深度伪造金融欺诈案例。第一个案例发生在九个月前，即 2020 年 3 月，当时一位英国能源公司的高管接到了一通电话，听起来像老板的语音，要求紧急转账 22 万欧元（243,000 美元），员工随后进行了转账。

语音克隆开发

深度伪造语音克隆涉及训练机器学习模型使用数百或数千个目标语音样本（将被模仿的语音）。通过直接将目标语音与拟议场景中说话的人的语音进行训练，可以获得最准确的匹配，尽管模型将被“过度拟合”到拟议场景中的人。
最活跃的语音克隆开发者合法在线社区是 Audio Fakes Discord 服务器，它拥有许多深度伪造语音克隆算法的论坛，例如 Google 的 Tacotron-2、Talknet、ForwardTacotron、Coqui-ai-TTS 和 Glow-TTS 等。

实时深度伪造

由于电话交谈本质上是交互的，语音克隆欺诈不可能通过“预先录制”的高质量语音剪辑来实现，在两个语音克隆欺诈案例中，我们可以合理地假设说话者正在使用实时的深度伪造框架。
实时深度伪造最近由于 DeepFaceLive 的出现而受到关注，DeepFaceLive 是流行的深度伪造软件包 DeepFaceLab 的实时实现，可以将名人或其他身份叠加到实时网络摄像头视频上。虽然 Audio Fakes Discord 和 DeepFaceLab Discord 的用户对将两种技术结合成单个视频 + 语音实时深度伪造架构非常感兴趣，但截至目前尚未公开出现此类产品。
age DeepFaceLab，可以将名人或其他身份叠加到实时网络摄像头视频上。虽然 Audio Fakes Discord 和 DeepFaceLab Discord 的用户对将两种技术结合成单个视频 + 语音实时深度伪造架构非常感兴趣，但截至目前尚未公开出现此类产品。