Dan Kim, CFO, Ottimate Dan Kim CFO, Ottimate

为什么人工智能驱动的发票欺诈变得越来越难以检测

发票欺诈并不是什么新鲜事。这一直是各行各业财务团队关注的焦点。然而，人工智能的兴起却加剧了风险，尤其是对于继续依赖旧时代控制措施的组织来说。具有讽刺意味的是，人工智能既是发票欺诈增长威胁的主要原因，也正成为防御此类欺诈的最有力工具之一。发票欺诈正在增加最近的一项针对250多名财务专业人士的调查发现，41%的受访者在过去12个月内经历过发票欺诈或过度支付。虽然各行各业的风险都很高，但医疗和零售业的财务团队尤其容易受到影响。超过四分之一的组织经历过最近的发票欺诈，这个数字已经足够令人震惊。但更令人担忧的是，实际数字可能更高，因为欺诈往往在造成损害后很长时间才被发现。有些情况下，欺诈可能永远不会被发现。每次发票欺诈都可能对企业造成重大经济损害。更不用说它可能带来的监管后果和对内部、外部利益相关者信任的影响。但是，为什么发票欺诈变得越来越普遍和具有破坏性呢？虽然有很多因素，但人工智能的快速演变和广泛应用是主要原因。欺诈手段正在迅速演变在过去，发票欺诈需要一定的技术专长。然而，即使是最有技术专长的诈骗者也倾向于依赖简单的计划和可预测的模式。因此，欺诈通常很容易被财务团队发现和阻止。例如，诈骗者可能会创建和提交虚假发票，但在一系列发票中，它显然不是合法的。然而，情况正在迅速改变。任何拥有合适工具和信息的人都可以实施难以检测的发票欺诈手段。人工智能，曾经是只有最技术专长的用户才能使用的工具，现在已经变得广泛可用。采用率也很高，因为消费者在日常生活中发现了很多用途。事实上，圣路易斯联邦储备银行最近的一项调查发现，54.6%的美国18至64岁的成年人在个人或职业生活中（或两者）使用生成性人工智能。这比前一年增加了整整10个百分点。与此同时，诈骗者可以轻松获取比以往更多的信息。快速搜索可以轻松找到公司数据、供应商合作伙伴关系和员工详细信息等公共信息。诈骗者可以将这些信息输入生成性人工智能工具中，创建与合法商业文件非常相似的发票和收据。供应商品牌、格式、发票历史和支付模式都可以以惊人的准确性复制。诈骗者还可能将这些文件与人工智能生成或模拟的通信配对，似乎来自公司高管，催促员工加快支付速度。人工智能提高了发票欺诈的门槛。由于手段变得越来越难以察觉，这正在为高发票量的组织带来真正的风险。然而，许多财务团队仍然依赖于为不同的风险环境而构建的防范措施。手动控制措施不足以应对现代发票欺诈财务团队并不是在发票欺诈威胁面前坐视不管。到目前为止，大多数团队已经建立了控制措施来降低风险，例如手动审查每个发票，需要多个审批者在支付之前，并定期进行审计或审查应付账款活动。所有这些控制措施都依赖于人力和判断力。它们可能足以发现传统的欺诈，这种欺诈通常表现为明显的问题，例如重复发票。但是，由人工智能驱动的发票欺诈的异常现象更加微妙，仅凭手动控制措施已经不够了。由于手动控制措施依赖于人力，因此容易出错。今天，50%的财务团队每月处理5,000多个发票，四分之一的团队管理超过10,000个。每月审查数千个发票是一项枯燥的任务，当疲劳感袭来时，即使是最勤奋的员工也可能会错过微妙的不一致性。随着发票量的增长，组织可能会通过增加人手来应对，这种方法不可持续。当增加人手不是一个选项时，团队会尽量用更少的资源做更多的事情。但是，当团队被要求在发票量增长的同时保持速度和控制时，风险就会增加。当传统控制措施是防止人工智能驱动的发票欺诈的主要防御措施时，速度也是一个重大挑战。一旦启动了自动清算系统（ACH）交易，组织就有一个很短的时间窗口来取消或请求逆转。如果他们没有检测潜在欺诈并立即采取行动的工具，资金可能会永远丢失。考虑到这些挑战，很容易理解为什么有限的欺诈检测是许多财务团队的主要挫败点。人工智能正在成为最强大的防御线人工智能在很大程度上促进了发票欺诈的普遍性和复杂性的增加。但是，它也正在成为防止欺诈的最有力工具之一，尤其是在大规模上。手动审查一次集中于一个发票，这可能足以发现明显的问题。但是，没有完整的背景，很难检测到可能表明人工智能驱动的发票欺诈的微妙异常。因此，团队可能不会注意到问题，直到为时已晚。到那时，损害已经造成，无法逆转。另一方面，人工智能可以有效地分析每个发票，考虑到之前发生的一切。它学会了什么是“正常”的，并且可以检测到可能表明发票欺诈的潜在问题，例如与预期模式不符的计费模式、计时和银行信息。如果发现任何可疑活动，团队会实时收到警报，以便他们可以审查和确定下一步行动。人工智能还可以扩展以支持增长。与人类不同，它不会面临认知疲劳。它可以对每个发票施加高水平的审查，无论公司处理500个还是5,000个发票，都不会减慢支付周期。与静态基于规则的控制措施不同，人工智能可以随着时间的推移不断学习。随着它对每个供应商的正常行为有了更深入的了解，它变得更加有效地检测到可能表明发票欺诈的异常活动。人类判断仍然是解决方案中的关键部分虽然人工智能可以在检测人工智能驱动的发票欺诈方面发挥重要作用，但人类判断力始终是必不可少的。人工智能可以识别异常模式并标记需要更仔细审查的发票。但最终，人类负责审查背景并做出判断。人工智能并不是取代应付账款专业人员，而是帮助他们将注意力集中在真正需要的地方。团队不必花时间审查每个发票，而是可以专注于高风险交易和潜在的异常情况。当组织采用这种方法时，他们更有能力保持控制，立即解决潜在威胁，并释放财务团队的时间来专注于战略工作和分析。结论人工智能提高了发票欺诈的门槛，使得可疑活动更难与合法交易区分。仅仅依赖旧时代的手动控制措施的组织将越来越难以在不减慢业务速度的情况下防止风险。随着人工智能驱动的欺诈手段变得更加复杂，发票量持续增长，财务团队需要能够在大规模上发现微妙异常的工具。通过将人工智能驱动的检测与人类判断力相结合，组织可以在不牺牲控制力的情况下跟上节奏。