银行是否准备好应对AI语音欺诈？

AI生成的语音已经改变了欺诈的经济规律。曾经需要一个熟练的模仿者、一个令人信服的脚本或一个被泄露的电话号码，现在可以使用听起来非常像人类的工具在大规模上尝试。

而且更令人担忧的是，他们将金融部门作为目标。在2024年初，工程公司Arup的一名金融工作者加入了一次看似例行的视频通话，参与者包括公司的首席财务官和几位同事。声音很熟悉，面孔也很容易辨认，请求看起来足够令人信服，以通过基本的审查。在通话结束时，她已经授权2500万美元的转账。后来报告显示，包括公司首席财务官在内的通话参与者都是AI生成的深度伪造。

对于金融机构来说，风险不仅仅局限于内部支付审批。同样的信任崩溃也可能发生在客户身份验证、呼叫中心升级、欺诈检查和账户恢复过程中。

骗子们已经利用电话通话的相对匿名性进行欺诈数十年。然而，随着AI的出现，所需的努力现在变得微不足道，结果也更加令人信服。对于银行和金融科技公司来说，这种趋势正在导致一个未知的风险地图。

然而，还有一个更令人不安的现实。即使攻击者正在寻找漏洞，金融机构正在部署的用于现代化客户支持的AI基础设施也使得欺诈在明眼下更容易实施。

听起来很真实的电话

在AI出现之前，语音欺诈相对容易识别。自动电话听起来很平淡，遵循脚本，语音钓鱼尝试依赖于人工操作员按照呼叫表进行操作。在大多数情况下，规模受到骗子尝试社会工程的质量的限制。有了足够的培训和一些常识，员工通常可以发现这些迹象。

AI改变了这一点，几乎消除了模仿的技术障碍。有了足够的提示，AI可以听起来非常像人类，包括语调、情感和你会期望从真正的人那里看到的缺陷。更糟糕的是，能够复制语音的AI工具在商业平台和开源存储库上广泛可用。

McAfee实验室发现，三秒钟的音频足以让AI工具产生一个具有 85%的准确率的语音克隆。十秒钟的录音可以将该数字推高到95%以上。源材料无处不在：社交媒体帖子、语音留言、会议录音、收益电话或LinkedIn视频。

实时语音转换工具于2024年变得广泛可用，这意味着攻击者现在不再需要预先录制的音频片段。他们只需对着麦克风说话，输出就会听起来像他们试图模仿的人。

Arup案例很有启发性：金融工作者有疑虑，但熟悉的语音和面孔的存在覆盖了这些疑虑，她决定相信自己的眼睛和耳朵。同年，香港调查人员揭露了一个单独的行动，涉及克隆一位金融经理的语音，以运行一个 1850万美元的加密货币骗局。

熟悉的语音，原来，是一个值得信赖的语音，AI使得这种假设变得危险起来。

身份验证失败正在成为欺诈机会

金融机构已经在应对外部威胁。企业在AI治理和合规工具上的支出预计将从2025年的22亿美元增长到2035年的95亿美元，这表明市场对此的重视程度。

但是，更严重的风险并不是来自外部。银行和金融科技公司正在将AI融入客户支持堆栈中，构建AI辅助IVR系统、语音生物识别身份验证和处理交易的代理呼叫流程。这些努力旨在改善客户体验和减少人工劳动，但当这些系统失败时，它们会留下弱点，攻击者很容易利用这些弱点。

路由错误、在升级之间丢失的上下文以及行为不可预测的身份验证系统看起来像是客户体验问题，并且被记录为此类问题。

但是，这些客户体验问题可能会演变成更严重的问题。被语音生物识别锁定的客户很少会报告它。相反，他们可能会再次打电话，找到与人工代理交谈的方法，并迫使代理绕过这些系统原本要执行的协议。

更大的问题是，模仿客户的攻击者也可以这样做。金融机构非常清楚这一点。事实上，91%的美国银行正在重新考虑他们的语音生物识别身份验证策略，以应对AI克隆风险。

重新考虑并不能解决这些问题。一个机构的语音身份验证经常会失败合法客户，这已经创造了攻击者可以利用的条件。毕竟，攻击者不需要找到技术漏洞，当客户旅程中的摩擦允许他们进入系统时，他们就不需要这样做。

公司需要改变他们的视角，而不是安全栈

可以检测AI生成的合成语音的工具正在改进，但攻击者并不是在寻找单一的失败点。他们正在寻找系统失灵和错过信号的地方，身份验证系统无法清晰地传递信号。外围的更好检测无法弥补这一差距。

有助于解决这一问题的是重新考虑领导者如何对待语音基础设施。与软件栈的任何部分一样，语音基础设施需要与周边防御相同的审查水平。

在实践中，这种安全态度将需要在生产中IVR、生物识别身份验证和其他语音系统面临的条件下进行功能和恢复力测试：低质量音频、不同的口音和背景噪音、边缘升级和身份验证边界场景，其中合法呼叫者刚刚超出系统的接受阈值。

答案不是一次性认证练习。银行需要对整个语音旅程进行持续验证，从IVR路由和生物识别身份验证到升级、转移和回退路径。不管语音系统更新多频繁，欺诈策略都会自然演变以找到他们遇到的任何防御中的漏洞。部署时通过验证的系统必须在现实世界条件下经常和反复测试，以确保即使其性能已经演变，它仍然是安全的。

值得注意的是，大规模持续测试将带来预算考虑。还有一个固有的紧张关系，即快速行动（部署新功能以保持竞争力）和在系统与真实客户和面临真实欺诈尝试之前彻底验证系统之间的紧张关系。

虽然很难清晰地解决这种紧张关系，但它确实阐明了跳过验证的成本：系统中的故障，已经被沮丧的客户找到了绕过的方法，是一个弱点，无论公司如何分类它。

更好的客户旅程正在成为欺诈防御

上述外部和内部风险并不是具有不同解决方案的独立问题。不可靠的客户旅程产生的摩擦正在创造社会工程师设计的行为差距。

这是一个可以解决的问题，但只有当机构意识到糟糕的客户体验的影响可以超出简单的客户留存或收入时才会发生。银行不会仅通过将其视为单一的检测问题来解决AI语音欺诈问题。他们还需要在自己的语音旅程中消除模糊性、摩擦和故障点。在一个熟悉的语音不再可以被信任的时代，旅程本身的可靠性成为安全模型的一部分。