Shai Gabay, 首席执行官兼联合创始人，Trustmi Shai Gabay 首席执行官兼联合创始人，Trustmi

AI驱动的欺诈活动正在增加“预先批准”的支付攻击

大多数组织仍然在防御着上一代的欺诈。从那时到现在发生了什么变化，不仅仅是数量；而是运营模式。或者说，欺诈是如何在日常运营中进行的。假设有人发送一个支付请求，看起来与您的供应商一模一样。相同的语气，相同的格式，相同的时间。会发生什么？几年前，简单的电子邮件检测软件就能捕获到它。现在？它只是通过您的工作流程作为掩护。最有效的活动不再看起来像入侵；它们看起来像正常的业务。很多团队忽略的是如何系统地利用信任。并且总是相同的三个事情：发送者信任，文档信任和批准过程信任。请求带有内置的可信度，符合内部期望，并且看起来已经验证，因此它们在没有摩擦的情况下执行。AI正在加速这一转变，压缩运行连续、适应性活动所需的努力，这些活动在每个步骤都感觉很常规。这意味着很明显：如果您的控制假设“看起来有效”的请求实际上是一个有效的请求，那么它们已经过时了。风险表面现在是您自己的运营节奏；如何做出决定和批准。每个关键操作都需要独立验证，无论它看起来多么正常。了解现代AI驱动的欺诈活动最终，企业在结构上无法应对AI驱动的欺诈。财务团队拥有较少的资源，同时被要求更快地移动，导致对手动审查和过时系统的依赖增加。这种组合产生了关键的差距。AI驱动的欺诈旨在利用这种环境，通过常规工作流程，模仿合法请求，并避免审查。这些攻击看起来不令人怀疑。它们看起来像运营。事实是，我们今天看到的大多数控制都是为一个更慢的环境而构建的，现在与现代欺诈运作方式根本不符。AI已经迅速地将欺诈从孤立的、精心制作的信息转变为完全编排的活动。早期的用例专注于改善语气和消除明显的危险信号。那个阶段已经结束。2025年，超过90%的欺诈账户看起来合法且与当地对齐。攻击者现在生成整个欺骗生态系统，包括伪造的域名、完整的电子邮件对话和现实的财务文档，如发票和银行文件，都在一次尝试中交付。这些活动的设计目的是通过模拟业务流程来通过验证。生产令人信服的欺诈的成本已经崩溃，而其规模已经爆发。企业不再面临偶尔的尝试；它们面临的是持续的、高容量的活动，这些活动的设计目的是成功的。现在，什么又发生了变化？代理AI。这些模型不仅仅生成内容；它们实际上具有自主性，根据上下文和响应不断完善其方法。它们可以在没有持续的人类输入的情况下启动、适应和扩大欺诈活动。那么，会发生什么？团队被淹没。每件事情看起来都是合法的。错误开始发生。与传统工具或静态钓鱼套件不同，代理系统在活动中学习和演变，使它们对检测更具弹性。这是从自动化欺诈到智能、自主欺诈运营的转变，它使静态、点对点的防御变得过时。用AI对抗AI：新的欺诈防御手册AI正在重塑财务和安全团队的运营方式，自动化工作流程、批准和支付。然而，自动化可能会在完成和实际验证之间产生差距。支付可能会继续进行，因为它遵循正确的流程，而不是因为请求是合法的。这些差距，跨越身份、上下文和行为，是现代欺诈的繁荣之地。团队必须超越工作流程的完成，确保请求真正得到验证。安全和财务团队应该建立在预防、保护和缓解的核心原则之上，以解决不断演变的企业支付欺诈问题。将这些基础扩展到可行的、运营的实践中，允许组织采用AI驱动的自动化，同时加强对关键系统和财务工作流程的防御。那么，让我们分解它，看看团队实际如何运作。 预防在滥用开始之前减少滥用。积极的姿态不再足够；团队必须嵌入风险为基础的尽职调查和监督，以检测和停止滥用。 保护意味着使用户安全成为默认设置。它还需要可扩展的防御，以保护员工免受钓鱼和网络启用的欺诈。团队应该加强内部风险培训，并实施减少社会工程攻击暴露的保障措施。 检测和响应仍然至关重要。监控应该使整个生态系统能够跨部门和行业共享经过验证的、保护隐私的滥用指标。这种共享的智能帮助防御者更快地行动并更有效地对抗高级威胁。 有效的防御还依赖于理解财务运营如何在支付生命周期、供应商通信、发票模式、支付时间、批准者、工作流路线和银行详细信息或联系信息更改方面正常运作的行为AI。直接集成到现有系统、电子邮件、ERP和采购到付款平台中的解决方案提供了可见性和异常检测，以实时停止威胁。这尤其紧迫，因为Nacha引入了对ACH交易的更强的欺诈监控要求。这些变化是对日益增长的欺诈支付请求和针对财务团队的社会工程骗局的回应。为了遵守，企业必须重新评估其检测和预防能力，并在需要时升级监控和响应。Nacha的目标很明确：确保每笔企业支付都是安全的、准确的和可靠的。从风险到韧性：前进之路AI不仅改进了欺诈；它使欺诈变得可运营，改变了偶尔的活动变为持续的、高频率的活动，这些活动无缝地融入日常工作流程中。攻击现在更快、更令人信服，并且旨在通过看起来正常的方式通过控制。传统的、被动的防御已经过时了。这是一个结构性的转变。欺诈不再是一个边缘情况。它是持续的。它总是在那里，领导者必须通过将实时检测、行为洞察和独立验证直接嵌入关键流程中来做出相应的反应。最终，风险不仅仅在于攻击更复杂。它在于它们看起来完全正常。