エグゼクティブのなりすましからエージェントのなりすましへ

過去数年間、ブランドが直面していた最大のデジタル脅威は、エグゼクティブのなりすましでした。これは、偽のメールアドレスやソーシャルメディアの偽アカウントを通じて行われていました。ただし、現在、私たちが直面しているのは、より複雑で、より説得力のある敵です：AIエージェントです。

大規模言語モデル（LLM）を利用した自律エージェントの台頭により、新しい可能性が解放され、web2やモバイルアプリの初期の頃と同様の興奮が見られます。

完全に自律的なエージェントはまだ現実にはなっていませんが、専門家は警告しています、来年には企業ネットワーク内を自由に移動できるようになる可能性があります。自律エージェントの採用と関連するサイバーセキュリティの脅威について、企業は警戒する必要があります。

モバイルアプリが偽物のアプリによって脅かされたのと同様に、AIエージェントも偽物のエージェントによって脅かされる可能性があります。この場合、リスクはより難検知であり、被害の規模もより広範囲になる可能性があります。

エグゼクティブのなりすましからエージェントのなりすましへ

AIはすでに新しい形の詐欺や偽装をもたらしています。たとえば、音声クローニング詐欺は、わずか数秒の音声でエグゼクティブの話し方を再現することができます。また、最近では、リアルタイムのディープフェイク動画や音声によるなりすましの事例も報告されています。想像してみてください。自社のエージェントが、顧客、投資家、またはパートナーと交流しているのですが、そのエージェントが実は偽物だったとしたらどうでしょうか。そんなエージェントは、ウェブサイトに埋め込まれたり、チャットボットに統合されたり、メールで交流したりすることができます。そうしたエージェントは、信頼できるように見えますが、完全に偽物です。

偽のエージェントの前身は、「ジェイルブレイク」モデルであると考えられています。サイバー攻撃者は、LLMを操作して、有害または虚偽の出力を生成します。しかし、これはまだ初期段階にすぎません。

PitchBookのデータによると、AIスタートアップは2024年に1315億ドルを調達し、世界中のベンチャーキャピタル投資の3分の1以上を占めました。AIの技術は急速に進化し、合法的な用途だけでなく、悪用される可能性もあります。

ジェネレーティブAIは、エージェントの作成を民主化し、プラットフォームがそれらを統合する競争が激化しています。しかし、偽物のエージェントが現れることを防ぐためのガードレールはほとんどありません。つまり、人ではなく、ソフトウェアのなりすましが新たな脅威となります。

ブランドと消費者にとっての警鐘

消費者とブランドは、エージェントを信頼するということの意味を理解し始めています。しかし、信頼はデジタルな交流の鍵であり、信頼が損なわれると、被害は深刻になる可能性があります。

ディープフェイク動画や音声クローニングと同様に、偽のエージェントは以下のような悪用に利用される可能性があります：

• 既存のブランドや信頼できるブランドに成りすまして、支払いや機密情報を要求する
• ソーシャルメディアのダイレクトメッセージや有料広告を通じて、ユーザーをマルウェアに感染したウェブサイトへ誘導する
• 顧客の信頼を損ない、ブランドの評判を大幅に損なう

最近の連邦取引委員会の報告によると、なりすまし詐欺は、米国だけで約30億ドルの被害をもたらしており、AIによるなりすましがよりスムーズに、より大規模に行われるようになれば、被害額はさらに増加する可能性があります。

偽のエージェントの蔓延：広告、検索、ソーシャルメディア

特に危険なのは、偽のエージェントがどのように配布されるかです。彼らは独自のウェブサイトやドメインを持たなくても、有害な活動を行うことができます。悪意のある攻撃者は、有料検索結果やソーシャルメディアプラットフォームを利用して、信頼できるブランド、エグゼクティブ、または製品の偽物を宣伝することができます。たとえば、GoogleのスポンサーリンクやInstagramのプロモーション投稿は、ユーザーを偽のエージェントまたはサポートポータルへ誘導するのに十分です。

このようなエコシステムレベルのリスクでは、サイバーセキュリティに対する新しい考え方が必要です。単に自社のネットワークやクラウド、従業員の資格情報を保護するだけでは不十分です。ブランドの脅威対象領域には、顧客が交流するすべての広告ネットワーク、検索プラットフォーム、第三者ツールが含まれます。

遅れを避けるための対策

人間とエージェントの境界線は、ますます曖昧になっています。脅威は、人をなりすますことだけではありません。デジタルな個性をなりすますことです。

企業はどうすれば準備できますか？

1. ブランドのデジタル存在を把握する：顧客が自社と交流する場所、エージェントが利用するAPIや第三者サービスを把握し、偽物のエージェントの侵入に注意する。
2. 新しいエージェントエコシステムを監視する：Hugging Face Spacesのようなオープンエージェントマーケットプレイスやプラットフォームが普及するにつれて、自社のツールの偽物やフォークが他に出現しないように注意する。
3. 検出時間と対処時間を短縮する：偽のエージェントを迅速に検出して除去するためのソリューションを利用し、特に有料広告やソーシャルメディアプラットフォームを悪用する偽エージェントに対して、被害を最小限に抑えることが重要です。
4. ユーザーに教育する：エージェントとの交流において、透明性を提供する。ユーザーは、どこで、どのように自社のツールと交流するかを理解し、偽物のエージェントを識別する方法を知る必要があります。
5. エージェントの真正性を確立する：エージェントの出自と正当性を確認できる、暗号化やメタデータベースの検証を実施する。

解決策は、AIエージェントのエコシステムを保護することにある。過去に、ドメインを検証し、メールを認証し、モバイルアプリを検証することを学んできたように、今度はAIエージェントの世界にも同じ注意を払う必要があります。エージェントのなりすましに対処しなければ、いつの日か、見た目は同じだが、実は反対側で働いているエージェントと会話することになるかもしれません。