Deepfakes 和人工智能：Pindrop 2024 年语音智能和安全报告的见解

人工智能（AI）的快速发展给各行业带来了显着的效益和变革。然而，它也带来了新的风险和挑战，特别是在 骗局 和 保安. Deepfakes，...的产品 生成式人工智能，变得越来越复杂，并对完整性构成重大威胁 基于语音的安全系统.

调查结果来自 Pindrop 的 2024 年语音智能和安全报告，强调了深度造假对各个行业的影响、推动这些威胁的技术进步，以及正在开发的创新解决方案来应对这些威胁。

Deepfakes 的崛起：一把双刃剑

Deepfakes 利用先进技术 机器学习算法 创造出高度真实的 合成音频和视频内容。虽然这些技术在娱乐和媒体领域有着令人兴奋的应用，但它们也带来了严峻的安全挑战。 Pindrop 的报告显示，美国消费者最担心银行和金融领域的深度造假和语音克隆风险，67.5% 的消费者表示严重担忧。

对金融机构的影响

金融机构特别容易受到深度造假攻击。欺诈者使用人工智能生成的声音来冒充个人，未经授权访问账户并操纵金融交易。报告显示，2023 年数据泄露事件数量创历史新高，总计 3,205 起事件，比上一年增加了 78%。目前，美国数据泄露的平均成本高达 9.5 万美元，其中联络中心首当其冲受到安全影响。

一个著名的案例涉及使用 Deepfake 语音欺骗一家香港公司转移 25 万美元，强调了这些技术被恶意使用时的破坏性潜力。

对媒体和政治的更广泛威胁

除了金融服务之外， 深度造假还给媒体和政治机构带来重大风险。创建令人信服的虚假音频和视频内容的能力可用于传播错误信息、操纵公众舆论并破坏对民主进程的信任。报告指出，54.9% 的消费者担心深度造假对政治机构的威胁，而 54.5% 的消费者担心其对媒体的影响。

2023 年，deepfake 技术牵涉到多起备受瞩目的事件，其中包括 使用拜登总统的合成声音的机器人呼叫攻击。此类事件凸显了建立强有力的检测和预防机制的紧迫性。

技术进步推动 Deepfakes

生成式人工智能工具的激增，例如 OpenAI 的 ChatGPT、谷歌的 Bard 和微软的 Bing AI，显着降低了创建 Deepfakes 的障碍。如今，超过 350 个生成式 AI 系统用于各种应用，包括 Eleven Labs、Descript、Podcastle、PlayHT 和 Speechify。例如，微软的 VALL-E 模型可以从三秒的音频片段中克隆声音。

这些技术进步使得深度伪造品变得更便宜、更容易生产，从而增加了良性用户和恶意行为者的可及性。到 2025 年， Gartner 预测 80% 的对话式 AI 产品将包含生成式 AI，而 20 年这一比例为 2023%.

打击 Deepfakes：Pindrop 的创新

为了应对日益严重的深度造假威胁，Pindrop 推出了多种尖端解决方案。其中最引人注目的之一是 Pulse Deepfake 保修，这是一项首创的保修服务，如果 Pindrop 的产品套件未能检测到深度伪造或其他合成语音欺诈，则可以向符合条件的客户提供补偿。该举措旨在让客户安心，同时挑战欺诈检测能力的极限。

增强安全性的技术解决方案

Pindrop 的报告强调了其活体检测技术的功效，该技术可以分析实时电话的频谱时间特征，表明通话中的声音是“实时”还是合成的。在内部测试中，Pindrop 的活体检测解决方案在识别合成语音方面比语音识别系统准确率高 12%，比人类准确率高 64%。

此外，Pindrop 采用集成的多因素欺诈预防和身份验证，利用语音、设备、行为、运营商元数据和活跃信号来增强安全性。这种多层次的方法大大提高了欺诈者的门槛，使他们越来越难以成功。

未来趋势和准备

展望未来， 报告预测 深度造假欺诈将继续增加，仅给美国的联络中心带来 5 亿美元的风险。文本转语音系统日益复杂，加上低成本的合成语音技术，带来了持续的挑战。

为了领先于这些威胁，Pindrop 建议采用早期风险检测技术，例如来电显示欺骗检测和持续欺诈检测，以实时监控和减轻欺诈活动。通过实施这些先进的安全措施，组织可以更好地保护自己免受人工智能驱动的欺诈不断发展的影响。

结论

深度造假和生成人工智能的出现代表了欺诈和安全领域的重大挑战。 Pindrop 的 2024 年语音情报和安全报告强调了迫切需要创新解决方案来应对这些威胁。凭借在活体检测、多因素身份验证和全面的欺诈预防策略方面的进步，Pindrop 处于确保基于语音交互的未来的努力的最前沿。随着技术格局的不断发展，我们确保数字时代安全和信任的方法也必须不断发展。