エージェントAIの「パーソナルデジタルダブル」には、アイデンティティ検証の進化が必要

Amazonの「Buy for Me」機能の発表は、エージェントAIの電子商取引における潜在力を示す大胆な動きであった。AIエージェントがAmazon以外のウェブサイトからアイテムを直接購入できるようにすることで、同社は最も便利で満足のいくショッピング体験を提供する第一人者としての地位を確立している。

エージェントAI – 自律エージェントが実際のユーザーの代理として行動する – は、特にB2Bの文脈で、企業での採用が急速に進む見通しである。さまざまな分野（例：カスタマーサービス、セールス、サプライチェーン、IT運用、財務、人事）で「B2B AIエージェント」が人間の介入なしにより多くの日常的な企業タスクを実行できる世界を想像してみてください。企業での採用が進むにつれて、

エージェントAIは、消費者にも歓迎されるニュースであり、「B2C AIエージェント」は消費者が日常生活で時間と労力を節約できる多大な機会を提供する。オンラインショッピングで最良の取引を探したり、価格の低下を監視したり、購入を自動化したり、返品を処理したり、旅行の予約を行ったりできる「バイヤーエージェント」を考えてみてください。さまざまな業界での可能性は尽きないようです:

• 個人金融と資産運用 – 金融戦略を自律的に実行したり、ポートフォリオを最適化したり、貯蓄の最適な利率を見つけたり、税金の申告まで行うAIエージェントを想像してみてください。
• カスタマーサービスとサポート（個人向け） – ヘルプラインに電話したり、ボットとチャットしたりする代わりに、個人のエージェントAIが会社のエージェントAIと直接通信して問題を解決したり、注文を明確にしたり、変更を行ったりできるようになります。これにより、個人に情報を繰り返し伝えたり、複雑なIVRシステムをナビゲートしたりする必要がなくなります。
• ヘルスケア – エージェントAIは、予約の管理、処方箋の発行、保険の請求、さらには患者に代わって第二の意見を求めたり、医療研究を分析したりできるようになるでしょう。

エージェントAIを採用することで、ウェブサイトは、ユーザーの便利性と体験を優れたものにすることで自分を他から区別できるようになる。しかし、エージェントAIは、詐欺に対して非常に脆弱である。研究によると、ボットは約40〜50パーセントのウェブトラフィックを占め、そのうち約65パーセントが悪意のあるものと考えられている。エージェントAIは、基本的に、通常の消費者がボットを使用する方法であり、詐欺師は、ボットを大量に使用して大規模な作戦を実行することができるため、合法的なエージェントトラフィックの中で簡単に隠れることができるようになる。

しかし、電子商取引の風景は準備ができているか?

エージェントAIは、既存のオンラインアイデンティティ検証フレームワークの再考または拡張を必要とし、これはソリューション提供者がすでにしていることをさらに改善することを必要とする。現在のところ、このフレームワークは、以下の3つの質問に中心づけられている。

• この人物は実在の人物か? ディープフェイクの急速な普及により、高リスク取引のすべてに対して生存確認が必要となっている。これらの取引は、実在の生きた人物によって開始されることを保証する。エージェントAIの文脈では、答えは「いいえ、私は人物ではありません」かもしれないが、それは生存性が無関係であることを意味しない。生存性検出は、常にバイオメトリック検査の一部として、高リスクポイントでのユーザージャーニーで人間が関与していることを確認するために必要である（例：アカウント作成、送金、またはアカウント復旧の際に「パスワードを忘れた」）。
• この人物は信頼できるか? これは、ユーザーが詐欺師、将来のVIP顧客、またはその間の何かであるかどうかを判断する能力であり、通常、公開データベースに対してチェックが行われる。たとえば、オンラインレンタルマーケットプレイスで宿泊施設を予約しようとする人物が、過去に居住権侵害や財産破壊の犯罪歴がある場合、リスクが高いとフラグが立てられる。
• アカウントの背後にある人物はまだ同じ人物か? これは、継続的な認証、または、ログイン時に検証されたアイデンティティが、定期的な間隔でまだ存在していることを確認することを指す。これにより、アカウントの乗っ取りが他の人間によって防止される。

エージェントAIは、4番目の質問を追加する – このエージェントは、実在のユーザーの代理人として行動する権限を持っているか? この権限の問題は、批判的であり、人間の承認の範囲と期間を確認すること、つまり、AIエージェントが人間の代理人として行動するために必要な特定の、取り消し可能な、コンテキストに応じた、人間由来の権限を持っていることを確認することである。これは、人間がタスクを委任することではなく、AIエージェントが特定の、取り消し可能な、コンテキストに応じた、人間由来の権限を持っていることを保証することである。すべてのAIエージェントのアクションは、実在の、合法的な人間に遡及できる必要がある。これが、B2Cサイトが安全で責任を持ってエージェントAIを展開するための鍵である。

最近の推定によると、AIは2024年全セクターでの詐欺の約20パーセントを占め、ハッカーが新しいテクニックを展開するにつれてこの数字は増加する予定である。また、悪意のあるAIエージェントが合法的なものを模倣したり、エージェントのハイジャック（攻撃者がエージェントが情報をどのように認識するか、または決定を下す方法を妨害する）などの例もある。したがって、AIエージェントの合法性と権限を検証するだけでなく、エージェントの完全性を確認することも重要である。これは、エージェントが改ざんされていないことを保証するためである。

Gartnerは、エージェントAIの成長予測を、重要な注意書きで抑制している。2027年末までに、40パーセント以上のエージェントAIプロジェクトがキャンセルされるだろう。これは、多くの組織がエージェントAIの実装の複雑さ、特に適切なリスク管理を確保する必要性を過小評価していることを示す、目覚ましい警鐘であった。エージェントAIエージェントを悪用して被害を与える方法は多数あるが、合法性と権限を検証する能力は、リスクを最小限に抑えるための基本的なステップである。幸いなことに、必要なのは、再発明ではなく、進化 – 現在存在するオンラインアイデンティティ検証フレームワークの拡張である。