Ron Kerbs 是 Kidas 的创始人和 CEO。他拥有以色列理工大学信息系统工程和机器学习的硕士学位,宾夕法尼亚大学沃顿商学院的 MBA 学位,以及宾夕法尼亚大学劳德学院的全球研究硕士学位。 Ron 曾是早期风险投资者,此前他曾是研发经理,领导团队开发大数据和机器学习解决方案用于国家安全。
如果一个诈骗者可以利用大型语言模型(LLM)在一小时内生成一百万个完美、独特的钓鱼邮件,为什么我们还在使用人工速度的签名更新来对抗 AI 战争?生成式人工智能的崛起不再是一个抽象的威胁;它是一个不可否认的现实,组织化的网络犯罪者已经利用深度学习工具来自动化和完善社会工程学的古老艺术。对于消费者来说,这一转变带来了巨大的经济损失:美国联邦贸易委员会(FTC)报告称,2024 年消费者因诈骗损失超过 125 亿美元,比 2023 年增加了 25%。这一惊人的数字证实了一个令人不安的新时代,在这个时代,传统的人类依赖的安全措施正在失败,无法对抗 AI 驱动的威胁。这些新型诈骗的复杂性需要一种新的战场策略。我们必须超越反应式安全模型、基于签名的扫描、简单的关键字过滤器和“bolt-on”安全解决方案,采用与保护我们最关键的数字基础设施相同的实时、行为 AI。AI 驱动诈骗的新现实生成式 AI 降低了网络犯罪的门槛,同时提高了恶意内容的可信度。骗子现在可以执行超个人化、高容量的活动,完美地模仿受信任的个人和机构。最值得注意的例子包括:深度伪造和语音克隆经典的冒名顶替诈骗,即犯罪者假装成受害者或高级执行官,已经通过 AI 得到了完善。 CEO 和高管深度伪造:在高调的企业欺诈案中,深度伪造的视频和音频被用于冒名顶替高级执行官,在视频通话中说服财务职员授权数百万美元的电汇。通过训练 AI 学习一段高管的语音或公开视频,犯罪者可以创建几乎完美的实时音频和视频,绕过受害者的最可靠防御:他们的眼睛和耳朵。 深度伪造加密货币骗局:在消费者平台上,埃隆·马斯克的深度伪造经常用于“加倍比特币”的骗局中。深度伪造的视频通常在受损平台上直播,显示“推荐”虚假的加密货币赠送,这导致了数百万美元的重大损失。这些深度伪造如此令人信服,以至于它们通过保持眼神接触来欺骗受害者。 超个人化对话钓鱼生成式 AI 消除了经典的“尼日利亚王子”骗局的明显迹象:糟糕的语法、外国短语和通用问候语。 多态钓鱼:...