Dan Kim, 最高財務責任者、Ottimate Dan Kim 最高財務責任者、Ottimate

AIを利用した請求書詐欺は検出が難しくなっている

請求書詐欺は新しいものではない。財務チームが業界横断的に常に警戒しているものである。しかし、人工知能の台頭はリスクを高めており、特に旧来の時代に構築されたコントロールに依存し続ける組織にとってはそうである。皮肉なことに、人工知能は請求書詐欺の脅威を拡大させているが、同時にそれを防ぐための最も強力なツールともなっている。請求書詐欺は増加している250人以上の財務専門家を対象に行われた最近の調査によると、41%の組織が過去12ヶ月間に請求書詐欺または過払いを経験したことがある。リスクは業界全体で高まっているが、特にヘルスケアと小売りの財務チームにとっては顕著である。4人に1人が請求書詐欺を経験したという事実は驚くべきものである。しかし、もっと心配するべきことは、実際の数字がもっと高い可能性があることである。なぜなら、詐欺はしばしば損害が及ぶまで検出されないからである。場合によっては、全く検出されないこともある。請求書詐欺の各事例は、事業に重大な財務上の損害をもたらす可能性がある。規制上の結果や内部・外部の利害関係者への信頼への影響も考えると、さらに深刻である。しかし、請求書詐欺が増加し、損害が拡大しているのはなぜか。要因は多岐にわたるが、人工知能の急速な進化と広範な普及が主な原因である。詐欺手法は急速に進化している過去、請求書詐欺にはある程度の技術的知識が必要だった。しかしその技術を持った詐欺師でも、単純なスキームや予測可能なパターンに頼ることが多かった。したがって、財務チームが詐欺を検出して阻止することは比較的容易だった。例えば、詐欺師が偽の請求書を作成して提出するかもしれないが、真正の請求書と並べた場合、偽物であることは比較的明らかだった。しかし、現在は事態が急速に変化している。正しいツールと情報を持った誰でも、検出が難しい、複雑で、巧妙な請求書詐欺手法を行うことができる。人工知能は、もともと技術に精通したユーザーだけが利用できたツールだったが、現在は広く利用可能になっている。採用率も高く、消費者は日常生活で多くの用途を見出している。実際、連邦準備銀行セントルイス支店の最近の調査によると、18歳から64歳までのアメリカ人の54.6%が、個人または職業上の生活（または両方）で生成的な人工知能を利用している。これは、前年比で10パーセントポイント上昇したものである。同時に、詐欺師は以前よりも多くの情報にアクセスできるようになっている。簡単な検索で、会社データ、ベンダーパートナーシップ、従業員の詳細などの公開情報を容易に取得できる。詐欺師はこれらの情報を生成的な人工知能ツールに供給して、真正のビジネス文書に近い請求書や領収書を作成できる。ベンダーのブランディング、フォーマット、請求書履歴、支払いパターンなどを驚くほどの精度で再現できる。詐欺師は、これらの文書を会社の幹部から見えるようにAI生成された、または擬似されたコミュニケーションと組み合わせて、スタッフに支払いを急ぐように促すこともある。人工知能は請求書詐欺のレベルを引き上げている。検出が難しくなっていることは、特に大量の請求書を処理する組織にとって、実際のリスクを生み出している。しかしながら、多くの財務チームは依然として、別の時代に構築されたリスク環境に対応した防止措置に頼っている。手動コントロールは現代の請求書詐欺に対して十分ではない財務チームは請求書詐欺の脅威が迫っているのに、無策ではいない。ほとんどのチームは、リスクを減らすためのコントロールを確立している。たとえば、毎回請求書を手動で確認したり、支払前に複数の承認者を必要としたり、定期的な監査またはAP活動のレビューを行ったりする。これらのコントロールの共通点は、すべて人間の能力と判断に依存していることである。伝統的な詐欺は、たとえば複製された請求書のような明らかな問題を示すことが多かったが、AIを利用した請求書詐欺の異常ははるかに繊細である。人間の判断だけでは、十分に対応できない。これらのコントロールは人間に依存しているため、ミスが生じる可能性がある。現在、50%の財務チームが毎月5,000以上の請求書を処理しており、25%のチームが10,000以上を処理している。毎月数千の請求書を確認することは退屈で、集中力が低下すると、最も注意深い従業員でも繊細な不一致を見逃すことがある。請求書の数量が増加すると、組織は人員を増やすことを検討するかもしれない。これは持続可能なアプローチではない。人員増加が不可能な場合、チームはより少ないリソースでより多くのことを行うように努力する。しかしながら、数量が増加するにつれて、チームがスピードとコントロールを維持することは、リスクを増大させることになる。伝統的なコントロールがAIを利用した請求書詐欺に対する主な防御である場合、スピードも大きな課題となる。ACH取引が開始されると、組織には取引を取消したり、返金を要求したりするための非常に狭い時間枠がある。適切なツールがなければ、詐欺を検出してすぐに措置を講じることができない場合、資金は永久に失われる可能性がある。これらの課題があるため、限定された詐欺検出は多くの財務チームにとって最大の 苦労事である。AIは最も強力な防御線となっている人工知能は請求書詐欺の増加と複雑化の主な原因であるが、同時にそれを大規模に防ぐための最も強力なツールともなっている。手動レビューは1つの請求書ずつに焦点を当てるが、明らかな問題を検出するには十分かもしれない。しかし、全体の状況を考慮しないと、繊細な異常を検出することは難しい。結果として、チームは問題を発見するまでに時間がかかるかもしれない。しかしその時点では、損害を回復するには遅すぎる。一方、人工知能は各請求書を、それ以前のすべての請求書との関連で分析できる。何が「正常」であるかを学び、請求書のパターン、タイミング、銀行情報などが予想される基準から外れている可能性のある問題を検出できる。何か疑わしいことが検出されると、チームはリアルタイムで通知され、次のステップを決定できる。人工知能は成長に対応するスケーラビリティも持っている。人間と違って、認知的疲労に陥ることはない。500件の請求書を処理する会社でも、5,000件を処理する会社でも、支払いサイクルを遅くすることなく、毎回請求書に高いレベルの注意を払うことができる。静的なルールベースのコントロールと違って、人工知能は継続的に学習できる。各ベンダーの正常な行動についてより深く理解するにつれて、不通常な活動を検出して請求書詐欺を示唆する異常をより効果的に検出できるようになる。人間の判断は依然として重要なピースである人工知能はAIを利用した請求書詐欺を検出する上で重要な役割を果たすが、人間の判断は常に不可欠である。人工知能は異常なパターンを検出して、詳しくレビューする必要がある請求書をフラグすることができる。しかし、最終的には人間が状況をレビューし、判断を下す責任がある。人工知能はAP専門家を置き換えるのではなく、注目が必要なところに焦点を当てられるように支援する。毎回請求書を確認するのではなく、チームは高リスク取引や潜在的な例外に集中できる。組織がこのアプローチを採用すると、コントロールを維持し、潜在的な脅威に対処し、財務チームが戦略的作業や分析に集中できるようになる。結論人工知能は請求書詐欺のレベルを引き上げ、疑わしい活動を合法的な取引から区別することをより困難にしている。旧来の時代に構築された手動コントロールのみに頼る組織は、ビジネスを遅くすることなくリスクを防ぐことが困難になるだろう。AIを利用した詐欺手法がより複雑になり、請求書の数量が増加するにつれて、財務チームは大規模な繊細な異常を検出できるツールが必要になる。人工知能による検出と人間の判断を組み合わせることで、組織はコントロールを犠牲にすることなくペースを維持できるようになる。