サティッシュ・バロットは、Klearcomの共同創設者兼最高技術責任者です。テレコムとクラウドテクノロジー分野における深い専門知識を持ち、会社の製品イノベーションと技術戦略を牽引しています。サティッシュは、グローバル企業が完璧なIVRとコンタクトセンターのパフォーマンスを確保するためのKlearcomのAI駆動プラットフォームの構築に尽力しています。
AI生成音声は、詐欺の経済学を変えました。かつては熟練した擬装者、説得力のあるスクリプト、または危殆化された電話番号が必要でしたが、現在は人間に非常に近い音声で大規模に試みることができます。さらに心配するべきことは、金融部門が標的になっていることです。2024年初頭、エンジニアリング会社Arupの財務担当者は、会社の最高財務責任者や同僚数人と、通常のビデオ会議に出席しました。声は馴染みがあり、顔は認識でき、要求は基本的な検証に合格するには十分でした。会議終了時点で、2500万ドルの送金を承認しました。会議に出席したと思われた人々、会社の最高財務責任者を含め、後にAI生成のディープフェイクだったと報告されました。金融機関にとって、リスクは内部の支払い承認に限定されません。同じ信頼の崩壊は、顧客認証、コールセンターのエスカレーション、詐欺チェック、口座回復の旅程でも発生します。詐欺師は、電話の相対的な匿名性を利用して、数十年間にわたって詐欺を犯してきました。ただし、AIにより、必要な労力は現在、些細なものとなり、結果はより説得力のあるものとなりました。銀行やフィンテック企業にとって、この収束は未知のリスクマップをもたらしています。これらの下にあるより不快な現実があります。攻撃者が銀行のシステムの脆弱性を探している間、金融機関が顧客サポートの近代化に使用しているAIインフラストラクチャは、詐欺をより簡単に犯すことを可能にしているのです。信頼されるべき声ではありませんAI以前、音声詐欺は比較的容易に識別できました。ロボコールは平坦で、スクリプトに従っていたため、フィッシング試みは人間のオペレーターがコールシートに従っていたため、ほとんどの場合、スケールは、社会工学を試みる詐欺師の質によって制限されていました。十分なトレーニングと共通の感覚があれば、スタッフは通常、兆候を発見できました。AIは、擬装の技術的な障壁をほぼ消滅させました。十分なプロンプトがあれば、AIは非常に人間に近い音声で、インフレクション、感情、人間の欠点を再現できます。さらに悪いことに、声のコピーができるAIツールは、商用プラットフォームやオープンソースリポジトリで利用可能です。マCAFEE Labsは、3秒のオーディオがAIツールに85%の精度で音声クローンを生成するのに十分であることを発見しました。10秒の録音で、95%以上の精度を達成できます。ソースマテリアルは至る所にあります: ソーシャルメディア投稿、ボイスメールの挨拶、会議録音、収益発表、またはLinkedInビデオです。リアルタイムの音声変換ツールは2024年に広く利用可能になりました。つまり、攻撃者は現在、事前に録音されたクリップを必要としません。マイクに話しかけるだけで、出力は誰にでも聞こえます。Arup事件は教訓です: 財務担当者は疑問を抱いていましたが、会議に出席したと思われた声や顔が彼女の疑問を上回りました。しかし、彼女は目と耳を信じることにしました。同年、香港の捜査官は、1850万ドルの暗号通貨詐欺を実行するために、財務マネージャーの声をクローン化した別の作戦を発見しました。信頼できる声は、実際には信頼できる声です。AIは、その仮定を危険なものにしました。認証の失敗は詐欺の機会になります金融機関はすでに外部の脅威に反応しています。企業はAIのガバナンスとコンプライアンスツールへの支出を予測しています。2025年には220億ドルから2035年には95億ドルに達する見込みです。これは、市場がこの問題をどれほど深刻に受け止めているかを示しています。しかし、より重大なリスクは外部から生じるのではなく、内部から生じています。銀行やフィンテック企業は、顧客サポートスタックにAIを積み込んでおり、AIアシストのIVRシステム、音声生体認証、トランザクションを人間のエージェントなしで処理するエージェントコールフローを構築しています。これらの努力は、顧客体験の向上と人間の労力の削減を目的としていますが、これらのシステムが故障すると、脅威行為者が簡単に利用できる弱点が残ります。ルーティングエラー、エスカレーション間で失われたコンテキスト、予測不可能な動作をする認証システムは、顧客体験の問題のように見えます。これらはそのようにログされます。しかし、これらのCXの問題は、ダウンストリームでより悪いものになる可能性があります。音声生体認証によってロックアウトされた顧客は、まれにそれを報告します。代わりに、彼らは電話を繰り返し、人間のエージェントと話す方法を見つけ、プロトコルをバイパスするよう圧力をかけます。認証システムが構築されたものです。より大きな問題は、攻撃者が顧客を擬装できることです。金融機関はこれを認識しています。実際、91%の米国銀行は、AIクローニングリスクの光で音声生体認証戦略を再考しています。再考はこれらの問題を解決しません。正当な顧客を音声認証で定期的に失敗させる機関は、既に決定的なハッカーがシステムを利用するための条件を作成しています。ハッカーは技術的な脆弱性を見つける必要はありません。顧客の旅程の摩擦が彼らに道を示します。企業は視点を変える必要がありますAI生成の合成音声を検出できるツールは改善されていますが、脆弱性を探している攻撃者は、単一の故障点を見つけようとしていません。彼らは、システムが躊躇したり、信号を明確に伝えなかったりする領域を見つけようとしています。周囲の検出の改善はそのギャップを埋められません。何が役立つかは、音声インフラストラクチャをどのように扱うかです。ソフトウェアスタックの他の部分と同様に、音声インフラストラクチャには、周囲の防御と同じレベルのスクラッチが必要です。実践では、このようなセキュリティ姿勢は、IVR、バイオメトリック認証、その他の音声システムが生産環境で直面する条件に対する機能的および回復力テストを必要とします: 低品質オーディオ、異なるアクセント、背景ノイズ、エッジケースのエスカレーション、システムの受け入れしきい値の外側にある正当な呼び出し。答えは、一時的な認定行為ではありません。銀行は、IVRルーティング、バイオメトリック認証、エスカレーション、転送、フォールバックパスを含む、フルボイスの旅程の継続的な検証が必要です。音声システムがどれほど頻繁に更新されても、詐欺戦術は自然に進化して、出会う防御の裂け目を見つけるでしょう。展開時に検証に合格したシステムは、実世界の条件で頻繁に繰り返しテストされ、パフォーマンスが進化してもまだ安全であることを確認する必要があります。継続的なテストのスケールで予算の考慮が必要になることもわかっています。競争力を維持するために新しい機能を迅速に展開することと、システムを徹底的に検証することの間には、内在的な緊張があります。これは、検証をスキップするコストを明確に示しています: 顧客がすでに回避方法を見つけたシステムの故障は、弱点です。会社がそれをどのように分類するかに関係なく。顧客の旅程が詐欺防止になる上記の内部および外部のリスクは、別々の問題ではありません。顧客の旅程の摩擦は、社会工学が利用するための行動的ギャップを生み出しています。これは解決可能な問題ですが、機関が悪い顧客体験の影響が、顧客の維持や収益だけでなく、さらに遠くまで及ぶことを認識する必要があります。銀行は、AI音声詐欺を単に検出問題として扱うだけでは解決しません。彼らはまた、自らの音声の旅程の中の曖昧さ、摩擦、故障点を取り除く必要があります。信頼できる声がデフォルトでは信頼できるものではなくなった時代に、旅程自体の信頼性がセキュリティモデルの一部になります。
コールセンターが電話での大量の顧客の問い合わせを処理するために構築された時代がありました。今日、コンタクトセンターはこれらの多くを置き換えました。コンタクトセンターは、電話、電子メール、ソーシャルメディア、およびメッセージングアプリを含む複数のチャンネルで顧客とのやり取りを管理するための運用の中心地です。しかし、このチャンネルのシフトにもかかわらず、基本的なモデルはほとんど同じままです。シンプルな顧客のリクエストは依然として断片化されたスタックを通過します。インタラクティブなボイスレスポンス（IVR）による認証、顧客関係管理（CRM）プラットフォームによるアカウントの詳細、チケットツールによる追跡、およびタスクを完了するための別々のバックエンドシステム。クラウドベースのプラットフォームであるContact-Center-as-a-Service（CCaaS）は、これらのツールをより近くに持ってきました。より柔軟な運用を可能にしましたが、エクスペリエンスは依然として複数のステップ、ハンドオフ、および手動の調整に依存するため、無шовではありません。このモデルは何年にもわたって機能しました。次に、AIが登場しました。AIが登場して以来、スタートアップと既存の企業は、AIのシステム全体に知能を解放し、以前はシロ化されていたデータを利用する能力を備えた新しい段階を約束するツールを構築して展開し始めました。断片化されたシステムはレリックになりつつあるAIエージェントが配置されている場合、コンタクトセンターはもうシロで動作しません。エージェントは情報を取得し、操作をトリガーし、プラットフォーム全体でタスクを完了できます。顧客が請求を争いたい場合、AIエージェントは顧客のIDを確認し、CRMから取引履歴を取得し、関連するポリシーを確認し、異議を申し立て、結果を確認できます。すべてが1つの継続的なやり取りの中で行われます。ハンドオフや手動の調整は必要ありません。以前、複数のツールを切り替える必要があったタスクは、現在はバックグラウンドで実行されます。多くの複雑さを抽象化できます。顧客、または人間のエージェントは、プロセスがどのように機能するかを知る必要はありません。このシフトは、ソフトウェア自体の役割も変えています。ソフトウェアは、ブロックのセットのようですが、AIエージェントはシステムを接続して調整するレイヤーとして機能します。固定されたワークフローは、柔軟性の高いやり取りに置き換わります。やり取りは、事前に定義されたパスではなく、状況によって形作られます。メニューのオプションやスクリプト化されたフローに従うのではなく、決定はリアルタイムでコンテキストに基づいて行われます。テクノロジースタックを再考する時今日のコンタクトセンターのリーダーは、重大な質問に直面しています。ソフトウェアが主要な価値の保管庫でなくなった場合、テクノロジーの投資はどこに向けられるべきですか？幸いなことに、既存のシステムを完全に置き換える必要はありません。ただし、システムがどのように相互作用するかを再考する必要があります。この新しいモデルでは、AIエージェントがオーケストレーションを担い、事前に定義されたワークフローに頼るのではなく、システム全体で操作を調整します。アプリケーション・プログラミング・インターフェイス（API）とモデル・コンテキスト・プロトコル（MCP）は、システムが通信する主な方法となり、エージェントがデータ、システム、コンテキストにアクセスしてツールを適切に使用できるようにします。ただし、再構成のみでは十分ではありません。AIツールは便利ですが、まだ誤りを犯す可能性があります。さまざまな要因により、AIツールが妄想を抱いたり、方針から外れたり、ポリシーおよびガイドラインから逸脱したりする可能性があります。このシフトが起こるにつれて、可視性、測定、説明責任の必要性が高まっています。AIエージェントは単にタスクを実行するのではなく、返金の承認、口座の更新、問題のエスカレーションなどの決定を下しています。また、これらのツールは人間ができるよりもはるかに速く動作するため、間違いが発生すると、数時間のうちに数百、または数千のインスタンスで繰り返される可能性があります。そのため、組織は、AIの決定を把握するための可視性、間違いを時間内に検出するためのテストツール、およびエラーを迅速に調査するためのログインフラストラクチャを構築する必要があります。AIの展開を適切に構築することで、柔軟性と反応性の高いアーキテクチャが実現し、従来のワークフローでは処理できなかった複雑さに対処できるようになります。ただし、このアーキテクチャは、従来のワークフローとは異なり、予測不可能な側面があり、監視とガバナンスに対する新しいアプローチが必要になります。トレードオフAIは多くの可能性を提供しますが、コンタクトセンターへのシフトは、信頼と一貫性が重要なビジネスにおいて、新たなリスクをもたらします。構造化されたワークフローは、長年にわたってコンタクトセンターの運用の基盤でした。事前に定義されたパスに従い、毎回承認されたルールに従い、毎回監査可能なやり取りを行います。この構造により、顧客とのやり取りが一貫性を保ち、規制要件が満たされ、ポリシーが一貫して適用されることが保証されます。自律的なAIエージェントは、デフォルトで異なる方法で動作します。従来のソフトウェアは予測可能なアルゴリズムに従うのに対し、AIエージェントはモデル、トレーニングデータ、コンテキストに基づいてリアルタイムで決定を下します。この柔軟性により、各状況に適応できますが、変動性ももたらします。2つの類似した顧客のリクエストは、エージェントが入力をどのように解釈するか、利用可能なデータ、またはモデルがさまざまな信号をどのように重み付けするかによって、若干異なる方法で処理される可能性があります。これにより、組織にとって重要な運用上の質問が生じます。スクリプトに従うのではなく、AIベースのシステムによって決定が下された場合、説明責任をどのように維持しますか。特にモデルが複雑で常に解釈しやすいわけではない場合、決定の透明性をどのように確保しますか。動的に生成されるアクションの環境では、どのようにしてコンプライアンスを維持しますか。これらの質問は、コンタクトセンターの場合、効率とエクスペリエンスの交差点に立つため、特に重要です。遅れた応答、不正確な解決、または説明のない決定は、顧客を苛立たせ、ビジネス全体の信頼性について疑問を抱かせる可能性があります。彼らはあなたの解決策について疑問を持ち、別のプロバイダーに切り替える可能性さえあります。さらに、監視の課題があります。AIエージェントがより多くの責任を負うにつれて、組織は、動作をリアルタイムで監視し、異常を検出し、必要に応じて介入する方法を見つける必要があります。このレベルの可視性がなければ、システムが意図したとおりに動作しているか、動作していないかを確認することは困難です。進む道組織は、AIエージェントの採用に段階的なアプローチを取ります。既存のワークフローを完全に置き換えるのではなく、リスクが低く、利点が即時である制御されたシナリオでAIを導入し始める必要があります。このアプローチにより、コンタクトセンターは、信頼性を犠牲にすることなく、実験し、適応できます。リスクが低く、利点が即時のシナリオでAIエージェントを展開して、偏見を特定し、ルーティングのズレを検出し、発生する問題に対処できます。目標は、AIエージェントがどれほど有能であっても、品質を維持することです。コンタクトセンターは、このテクノロジーを、慎重さと楽観主義のバランスを保った適切な方法で採用することで、1日、コンタクトセンターとコールセンターを同じ視点で見るようになるでしょう。つまり、過去のものです。
