AIによる音声詐欺に対して銀行は準備できているか？

AI生成音声は、詐欺の経済学を変えました。かつては熟練した擬装者、説得力のあるスクリプト、または危殆化された電話番号が必要でしたが、現在は人間に非常に近い音声で大規模に試みることができます。

さらに心配するべきことは、金融部門が標的になっていることです。2024年初頭、エンジニアリング会社Arupの財務担当者は、会社の最高財務責任者や同僚数人と、通常のビデオ会議に出席しました。声は馴染みがあり、顔は認識でき、要求は基本的な検証に合格するには十分でした。会議終了時点で、2500万ドルの送金を承認しました。会議に出席したと思われた人々、会社の最高財務責任者を含め、後にAI生成のディープフェイクだったと報告されました。

金融機関にとって、リスクは内部の支払い承認に限定されません。同じ信頼の崩壊は、顧客認証、コールセンターのエスカレーション、詐欺チェック、口座回復の旅程でも発生します。

詐欺師は、電話の相対的な匿名性を利用して、数十年間にわたって詐欺を犯してきました。ただし、AIにより、必要な労力は現在、些細なものとなり、結果はより説得力のあるものとなりました。銀行やフィンテック企業にとって、この収束は未知のリスクマップをもたらしています。

これらの下にあるより不快な現実があります。攻撃者が銀行のシステムの脆弱性を探している間、金融機関が顧客サポートの近代化に使用しているAIインフラストラクチャは、詐欺をより簡単に犯すことを可能にしているのです。

信頼されるべき声ではありません

AI以前、音声詐欺は比較的容易に識別できました。ロボコールは平坦で、スクリプトに従っていたため、フィッシング試みは人間のオペレーターがコールシートに従っていたため、ほとんどの場合、スケールは、社会工学を試みる詐欺師の質によって制限されていました。十分なトレーニングと共通の感覚があれば、スタッフは通常、兆候を発見できました。

AIは、擬装の技術的な障壁をほぼ消滅させました。十分なプロンプトがあれば、AIは非常に人間に近い音声で、インフレクション、感情、人間の欠点を再現できます。さらに悪いことに、声のコピーができるAIツールは、商用プラットフォームやオープンソースリポジトリで利用可能です。

マCAFEE Labsは、3秒のオーディオがAIツールに85%の精度で音声クローンを生成するのに十分であることを発見しました。10秒の録音で、95%以上の精度を達成できます。ソースマテリアルは至る所にあります: ソーシャルメディア投稿、ボイスメールの挨拶、会議録音、収益発表、またはLinkedInビデオです。

リアルタイムの音声変換ツールは2024年に広く利用可能になりました。つまり、攻撃者は現在、事前に録音されたクリップを必要としません。マイクに話しかけるだけで、出力は誰にでも聞こえます。

Arup事件は教訓です: 財務担当者は疑問を抱いていましたが、会議に出席したと思われた声や顔が彼女の疑問を上回りました。しかし、彼女は目と耳を信じることにしました。同年、香港の捜査官は、1850万ドルの暗号通貨詐欺を実行するために、財務マネージャーの声をクローン化した別の作戦を発見しました。

信頼できる声は、実際には信頼できる声です。AIは、その仮定を危険なものにしました。

認証の失敗は詐欺の機会になります

金融機関はすでに外部の脅威に反応しています。企業はAIのガバナンスとコンプライアンスツールへの支出を予測しています。2025年には220億ドルから2035年には95億ドルに達する見込みです。これは、市場がこの問題をどれほど深刻に受け止めているかを示しています。

しかし、より重大なリスクは外部から生じるのではなく、内部から生じています。銀行やフィンテック企業は、顧客サポートスタックにAIを積み込んでおり、AIアシストのIVRシステム、音声生体認証、トランザクションを人間のエージェントなしで処理するエージェントコールフローを構築しています。これらの努力は、顧客体験の向上と人間の労力の削減を目的としていますが、これらのシステムが故障すると、脅威行為者が簡単に利用できる弱点が残ります。

ルーティングエラー、エスカレーション間で失われたコンテキスト、予測不可能な動作をする認証システムは、顧客体験の問題のように見えます。これらはそのようにログされます。

しかし、これらのCXの問題は、ダウンストリームでより悪いものになる可能性があります。音声生体認証によってロックアウトされた顧客は、まれにそれを報告します。代わりに、彼らは電話を繰り返し、人間のエージェントと話す方法を見つけ、プロトコルをバイパスするよう圧力をかけます。認証システムが構築されたものです。

より大きな問題は、攻撃者が顧客を擬装できることです。金融機関はこれを認識しています。実際、91%の米国銀行は、AIクローニングリスクの光で音声生体認証戦略を再考しています。

再考はこれらの問題を解決しません。正当な顧客を音声認証で定期的に失敗させる機関は、既に決定的なハッカーがシステムを利用するための条件を作成しています。ハッカーは技術的な脆弱性を見つける必要はありません。顧客の旅程の摩擦が彼らに道を示します。

企業は視点を変える必要があります

AI生成の合成音声を検出できるツールは改善されていますが、脆弱性を探している攻撃者は、単一の故障点を見つけようとしていません。彼らは、システムが躊躇したり、信号を明確に伝えなかったりする領域を見つけようとしています。周囲の検出の改善はそのギャップを埋められません。

何が役立つかは、音声インフラストラクチャをどのように扱うかです。ソフトウェアスタックの他の部分と同様に、音声インフラストラクチャには、周囲の防御と同じレベルのスクラッチが必要です。

実践では、このようなセキュリティ姿勢は、IVR、バイオメトリック認証、その他の音声システムが生産環境で直面する条件に対する機能的および回復力テストを必要とします: 低品質オーディオ、異なるアクセント、背景ノイズ、エッジケースのエスカレーション、システムの受け入れしきい値の外側にある正当な呼び出し。

答えは、一時的な認定行為ではありません。銀行は、IVRルーティング、バイオメトリック認証、エスカレーション、転送、フォールバックパスを含む、フルボイスの旅程の継続的な検証が必要です。音声システムがどれほど頻繁に更新されても、詐欺戦術は自然に進化して、出会う防御の裂け目を見つけるでしょう。展開時に検証に合格したシステムは、実世界の条件で頻繁に繰り返しテストされ、パフォーマンスが進化してもまだ安全であることを確認する必要があります。

継続的なテストのスケールで予算の考慮が必要になることもわかっています。競争力を維持するために新しい機能を迅速に展開することと、システムを徹底的に検証することの間には、内在的な緊張があります。

これは、検証をスキップするコストを明確に示しています: 顧客がすでに回避方法を見つけたシステムの故障は、弱点です。会社がそれをどのように分類するかに関係なく。

顧客の旅程が詐欺防止になる

上記の内部および外部のリスクは、別々の問題ではありません。顧客の旅程の摩擦は、社会工学が利用するための行動的ギャップを生み出しています。

これは解決可能な問題ですが、機関が悪い顧客体験の影響が、顧客の維持や収益だけでなく、さらに遠くまで及ぶことを認識する必要があります。銀行は、AI音声詐欺を単に検出問題として扱うだけでは解決しません。彼らはまた、自らの音声の旅程の中の曖昧さ、摩擦、故障点を取り除く必要があります。信頼できる声がデフォルトでは信頼できるものではなくなった時代に、旅程自体の信頼性がセキュリティモデルの一部になります。