AI武装攻撃が実際に何を引き起こすのか？

長年にわたり、サイバーセキュリティ業界はAI攻撃について将来形で話してきました。私たちは、防火壁を解体する異星人のロジックを持った超ハッカーを想像しました。シンベアンの研究所で発見した現実は、映画的なものではなく、より危険なものです。

脅威となるのは、AIが超人的に賢いことではありません。AIが専門家レベルの粘り強さをスケーラブルにし、瞬時に変化させることです。AIは、「マージナルの改善」というスクリプトを、人間のSOCチームが処理できないエントロピーの雪崩に変えます。

ここで、実際にマシンがキーボードを操作するときに何が起こるのかを見てみましょう。

フェーズ1：偵察 – コンテキスト時代

旧来の世界では、偵察は「スプレーと祈る」でした。攻撃者はメールアドレスのリストを購入し、汎用テンプレートを爆撃して、0.1％のクリック率を期待しました。

AI武装攻撃では、偵察は「槍とクローン」です。生成エージェントは、ターゲットのデジタル足跡 – LinkedInの投稿、最近のツイート、ニュース記事、公開コードコミット – を消費して、心理プロファイルを数秒で構築できます。彼らは、フィッシングメールを書くだけでなく、コンテキストを書きます。

AIエージェントは、汎用の「パスワードのリセット」リンクを送信しません。彼らは、2:00 AMに特定のGitHubリポジトリにコードをコミットしたことを確認します。彼らは、特定のリポジトリの「シニアデブ」という名前のSlack通知を送信し、リンクを「修正する」ために送信します。緊急性は作り出されたものですが、コンテキストは現実です。

フェーズ2：実行 – 多形的な悪夢

ここで、防御が真正に壊れます。従来、攻撃者が悪意のあるスクリプト（例：Mimikatzのバリアント）を書いた場合、セキュリティベンダーはそれを発見し、ハッシュ化し、ブロックしました。「署名」が盾でした。

生成AIは、静的な署名の概念を破壊します。AI武装攻撃者は、静的なツールを使用しません。彼らは、ターゲットでツールを書くエージェントを使用します。エージェントがEDR（エンドポイント検出および対応）センサーを検知すると、LLMバックエンドに「これらの特定のAPIフックを避けるために、資格情報ダンプロジックを書き直してください。すべての変数を名前変更してください。制御フローを変更してください。」と尋ねます。

コードの意図は同じままです。構文は完全に変わります。ルールベースの防御システムでは、これは新しい、未知のプログラムのように見えます。

フェーズ3：横方向の移動 – 連れ去りのスピード

内部に侵入すると、人間の対応のスピードは無関係になります。人間の侵入者は慎重に動き、ログを確認し、コマンドを入力し、考え事をします。彼らは数時間で新しいサーバーに移動するかもしれません。

AIエージェントは、ミリ秒で移動します。

しかし、スピードだけが要因ではありません。アブダクションの推論、または最も良い説明への推論が必要です。AIは、ネットワークの構造を断片から推測するのが驚くほど上手です。US-WEST-SQL-01という名前のサーバーを見ると、US-EAST-SQL-01やUS-WEST-BAK-01の存在を推測します。彼らはこれらの仮説を瞬時に内部IPアドレスの数千個にテストします。

完全に正確である必要はありません。ただ速さが必要です。SOCアナリストがまだ最初のフィッシングアラートをトライアージングしている間に、AIはすでにドメインコントローラーをマップし、バックアップサーバーを特定し、組織の王冠ジュエルを抽出しています。

フェーズ4：影響 – エントロピー爆弾

AI武装攻撃の究極の目標は、常にステルスではありません。時には、カオスです。私たちは、高エントロピー攻撃の時代に入っています。AIエージェントは、10,000個のリアルなアラートを同時に生成できます – 失敗したログイン、ポートスキャン、デコイマルウェアの実行。

これが「エントロピー爆弾」です。SOCを信号でフラッドさせ、分析者が認知的過負荷に陥るようにします。彼らは、デコイと戦っている間に、実際の攻撃が静かにバックグラウンドで発生しています。防御者の課題は、「針をハースタックから見つける」ことから、「針を針の山から見つける」ことに変わります。

火で火を攻める

私たちの研究から得られた教訓は明確です：マシンと戦うにはチケットキューではありません。

攻撃者がコードを数秒で反復できる場合、防御が人間によって検出ルールを数時間で書く必要がある場合、あなたはすでに負けています。非対称性は数学的なものです。AI武装攻撃に生き残む唯一の方法は、攻撃者と同じスピードで動作するAIディフェンダーを持つことです – 推論、検証、ブロッキングが攻撃者が変異するよりも速いです。

攻撃は進化しました。防御も進化しなければなりません。