犯罪者が勝つAIアームズレース：企業が内部でAIを導入する前に

AIが業界を前例のないスピードで変革する時代に、暗い面も同様に警戒すべきものがあります。企業がAIの潜在能力を利用する競争を繰り広げる中、サイバー犯罪者はこれらの進歩を悪用し、サイバー犯罪と詐欺の動態を変えているのです。

サイバー犯罪と詐欺の経済学の変化

サイバー犯罪者は、企業が使用するのと同じAIモデルや技術を使用し、しばしばその公開から数日以内にそれらを適応させています。最初の例の1つは、悪用でした。ChatGPT-1を使用したCAPTCHAの自動化で、基本的なセキュリティコントロールをバイパスするために生成モデルをどのように迅速に使用できるかを実証しました。

その後、各主要な生成AIのブレークスルーは、すぐに犯罪者による適応に追随されました。ダークネットプラットフォームにすぐに現れる深偽の音声やビデオ生成を含みます。この加速サイクルにより、詐欺師が複雑な詐欺を構築するために高度な技術を利用できるようになり、従来のセキュリティ対策を弱体化させています。

2025年第1四半期だけで、深偽を使った詐欺が200万ドル以上の損失をもたらしたと報告されています。サイバー犯罪の利益は急激に上昇し、「詐欺としてのサービス」を提供するプラットフォームにより、犯罪者が合成IDや高度なフィッシングキットを含む複雑なスキームを実行することが容易になりました。

企業がAIの能力を拡大するのに苦労している間、犯罪者は先んじてイノベーションを続け、古いセキュリティフレームワークのギャップを悪用しています。

なぜレガシーサイバーセキュリティと信頼フレームワークはAI搭載アクターに対して失敗するのか

従来のサイバーセキュリティ対策は、以前はある程度の保護を提供していたものの、不十分であることが明らかになっています。ブラックリスト、CAPTCHA、シングルファクタ認証に依存するレガシーシステムは、進化するAI駆動型攻撃に対抗するには不十分です。犯罪者は、バイオメトリックスキャナーを欺くことができる深偽や、KYCプロトコルを簡単にバイパスできる合成IDを使用しています。

この失敗は、多くの組織がまだサイバーセキュリティをコストセンターとして扱い、重要なインフラコンポーネントとして扱っていないという現実によって悪化しています。ペンタゴンがAIハッカーを雇用するために数百万ドルを投資する一方で、テクノロジーギャップは明らかです。企業がコンプライアンス劇を繰り広げている間、犯罪者はAIを利用して人間の脆弱性を悪用し、上級者を模倣したスピアフィッシング攻撃を実行しています。

「AIネイティブ」攻撃の実際

近年の詐欺手口は、以前のフィッシングスキームをはるかに超えています。攻撃者は、各ステップで妥当なように見える複雑な詐欺チェーンを構築します。

ある会社の朝を想像してみましょう。火曜日、9:43。CFOが「緊急」と表示されたメールを受け取ります。それはCEOから来たように見えます。口調は馴染みがあり、以前のリクエストと同じ言葉遣いです。数分後、別のチャンネルでフォローアップのメッセージが届き、緊急性を強調します。11:00までに、数百万ドルのワイヤー転送が承認されますが、後に攻撃者が管理するオフショアアカウントにルーティングされたことが発覚します。

これらのAIネイティブ攻撃は、信頼と権限を利用した心理操作です。こうした作戦の高度さは、既存のセキュリティ対策にギャップがあることを強調しています。なぜなら、これらの対策は、現代の詐欺を特徴付ける繊細な行動の異常を検出できないからです。

企業が内部でさらにAIを導入する前に、現実的に優先すべきこと

企業は、内部でさらにAIを導入する前に、信頼に関する前提を再評価する必要があります。AI搭載犯罪の加速は、構造的な弱点を明らかにしました。組織はまだ昨日の脅威に対して防御している一方で、今日の攻撃はデフォルトで妥当なように設計されています。

1. 企業はリスクそのものを再定義する必要があります。

従来のリスクマトリックスは、システムダウン、データ漏洩、ポリシーの違反などの故障を中心に構築されていました。AI時代には、リスクは故障ではなくシミュレーションから生じます。したがって、「何が間違うことができるか」というのではなく、「何が信頼性があり、迅速に偽造できるか」を問うほうが適切です。

合成ID、上級者を模倣したもの、AI生成の物語は、従来の脅威とは異なり、より迅速に広がり、合法的な活動に紛れ込み、技術的なギャップではなく信頼を悪用します。驚くことではありませんが、これらのリスクは、非AIの前例よりも頻繁に発生し、サイバーセキュリティ、詐欺、評判のリスク、コンプライアンスの中に隠れています。

2. 組織は、予防だけでは不十分であることを受け入れる必要があります。

トップ企業は、AIリスクを3つの防御レイヤーにマッピングしています。これらは、AI Defenderのモジュラーアーキテクチャに対応しています：

• リスク予防 – これには、人間の信頼とAI生成コンテンツを悪用する攻撃を予測することが含まれます。既知の脅威だけをブロックするのではなく、
• AI対応のID検証
• デバイスとセッションの完全性
• 上級者のコミュニケーションの保護
• 脅威の検出と監視 – 技術的な異常分析と行動およびメディアの監視を組み合わせ、AIネイティブ攻撃の多くはコードではなくコミュニケーションパターンで表れるという事実を反映しています。
• 信号と異常の継続的な監視
• AI対AIの検出
• 物語とメディアの監視
• 調査と帰属 – イベントの再構築、意図の帰属、有効な証拠の生成に焦点を当て、組織が初期の防御よりも迅速に拡大する欺瞞に対して効果的に対応できるようにします。
• AIアラートの説明可能性
• 疑わしい活動の帰属
• 証拠グレードのOSINT

3. 企業は、AIネイティブ詐欺の人間的側面と向き合う必要があります。

従業員は、現代の攻撃の主なエントリーポイントのままですが、搾取の性質は変化しています。AI駆動型詐欺で増加しているパターンの1つは、内部からのやり取りではなく、外部からの攻撃です。従業員は、HRから来たように見える短いビデオコールを受け取り、給与に関する問題を解決するために「すぐにIDを確認する」という無害なリクエストを受け取ります。顔、声、ブランディングは本物のように見えます。しかし、そのリクエストは後にアカウントの乗っ取りを可能にします。

このシナリオは、AI搭載詐欺がコンテキスト、権限、タイミングを利用し、不安を覚えるほど上級者のコミュニケーションを模倣する方法を示しています。この環境では、従来のセキュリティトレーニングは、実際の堅牢性ではなく、コンプライアンス劇になる可能性があります。

課題は、認識だけではなく、問題がどのように構成されているかということです。

問題を再構成する（これはステップ0です）

古い精神モデル: 「従業員がミスをしないようにトレーニングする。」

新しい精神モデル: 「従業員が標的にされ、操作され、兵器化されることを前提とする。」

トレーニングは教育ではありません。

トレーニングは、免疫と筋肉の記憶です。

このレンズを通して見たとき、チームは反復的な詐欺パターンを認識する必要があります。

従業員を介して行われる5つの支配的なAI詐欺ベクトル – これらはすべて認識ポスターで停止されません：

4. 組織は、合成現実の世界で「アイデンティティ」とは何を意味するかを再考する必要があります。

深偽の音声やビデオがバイオメトリックの信頼を損なうにつれ、単一の要素だけでは本物性を確実に証明することはできません。耐性は、デバイス、セッション、外部データポイント全体でのコンテキスト、継続性、整合性の累積から来るようになっています。

長い間二次的なものと見なされていたオープンで外部のデータは、戦略的な重要性を獲得しています。これらのデータを内部の行動信号と組み合わせると、アイデンティティや行動がコンテキスト全体で妥当かどうかを判断することができます。ほとんどすべてを偽造できる世界では、整合性は残された少ない信頼のアンカーの1つになります。