ソートリーダー

AI 対 AI: サイバーセキュリティの新たな現実

Kevin Urbanowicz Mark Nicholson
Unite.AI を Google の優先ソースに追加
要点AIを活用した攻撃は、攻撃ライフサイクル全体を機械速度で自動化し、従来の人間管理型の防御策を圧倒します。
もっと見る
  • AIを活用した攻撃は、攻撃ライフサイクル全体を機械速度で自動化し、従来の人間管理型の防御策を圧倒します。
  • 自律システムが重要なビジネスアクセス権を獲得するにつれ、企業は非人間型AIエージェントのアイデンティティを把握し保護する必要があります。
  • 組織は、データ汚染や敵対的操りを防ぐため、セキュアバイデザインの原則に基づいてAIモデルを堅牢に保護しなければなりません。

AIを利用したサイバー攻撃が現実となり、かつては予想されながらも理論上のものだったリスクが確認され、脅威環境は新たな時代を迎えています。AIエージェントは複雑な攻撃キャンペーンを最初から最後まで数分で実行できるようになり、サイバー犯罪者は機械の速度で企業の脆弱性を特定し、悪用できます。攻防のルールは変わりました。従来のサイバー防御では、今日のAIを駆使した攻撃にはもはや追いつけません。

AIがサイバー脅威を増幅する中、企業も速度、規模、精度で対抗するため、自らAIを活用した防御能力を導入する必要があります。現時点で攻撃者が使う戦術・技法・手順(TTP)は従来と共通していますが、AIはその手口を加速し、高度化しています。さらに、企業のAIモデル自体もモデルポイズニングや言語を使ったソーシャルエンジニアリングの新たな標的となっており、サイバーセキュリティチームは自社のAI能力を適切に保護しなければなりません。したがって、 セキュリティは組織全体のAI戦略の中核に位置付けるべきです。

AIを利用したサイバー攻撃の違いとは?

ほぼ絶え間ないサイバー侵入の試みで飽和したデジタル世界では、悪意ある行為者の参入障壁が下がり、攻撃の件数だけでなく複雑さも増しています。AIを利用した攻撃は、AIや機械学習(ML)によって、偵察と情報収集から脆弱性の悪用、機密データの外部流出に至る攻撃ライフサイクルのあらゆる段階を自動化し、加速し、強化できます。

攻撃者が利用するのと同じ先端技術を導入せず、既存のセキュリティプロセスや技術だけに頼れば、相手に優位性を与えることになります。防御にAIを使わなければ、その規模に追いつくことはほぼ不可能です。組織は従来の脅威行為者から企業を守るための監視だけですでに手いっぱいです。AIを利用した攻撃はアラート疲れをさらに悪化させます。このため、人間が管理するプロセスから、人とデジタル人材が協働するハイブリッドなサイバーセキュリティ体制へと進化する必要があります。

すべてのデジタル資産を把握する

今日、企業環境全体の潜在的な侵入口を把握することは基本要件ですが、多くの大企業でもまだ達成できていません。デジタルシステムや資産に加え、組織内のすべてのアイデンティティとアクセス権を包括的に把握する必要があります。身体的・行動的特徴を個人と結び付けるデジタルアイデンティティは、デジタルアクセスを管理する既存の統制とともに、すでによく理解されています。

一方、デジタル資産を保護するには、企業全体の非人間アイデンティティ(NHI)の状況を理解することが不可欠です。組織内でAIの潜在的な価値を実現するには、業務プロセスを自律的に完了できるアクセス権と許可をAIエージェントに与える必要があります。以前のセキュリティ時代におけるクラウド環境と同様、今日のエージェント型ワークフローはNHIを大規模に作成し、無効化します。そのため、環境内のどこで動作し、意図した任務や役割をどのように果たしているかを管理・追跡する高度な能力が必要です。

企業は、エージェントのアイデンティティのライフサイクル全体にガバナンスを適用し、その行動を監視すべきです。これは、現在、人間の利用者によるアクセスを監視して内部者リスクにつながる行動や攻撃者によるアカウント侵害を見つけるのと同じです。エージェントがより大きな自律性と事業上重要な仕事を担うにつれ、そのアイデンティティの活動範囲とアクセスパターンを把握することが重要になります。それが、エージェントと企業を不正利用から守るためのアクセス統制や監視の実装につながります。

AIモデルの防御を固める

AIは効率性と生産性を高める可能性を持つ一方、組織に牙をむく形で悪用されるおそれもあります。業務のあらゆる側面へのAI導入は、もはや「あれば便利」なものではなく、現在の競争環境で成功するための要件です。したがって、事業の潜在力と成果を安全に十分実現するには、AIを安全に導入することが欠かせません。

AIで強化したサイバー防御への移行が進む一方、 AIモデル自体も攻撃の標的になっています。攻撃者はモデルに与えるデータを汚染し、意図しない行動を取らせたり、機密情報を開示させたりする可能性があります。

AIへの敵対的攻撃には、ポイズニング攻撃やプロンプトインジェクション攻撃など、さまざまな形があります。組織はAIを不正な操作から適切に保護するため、米国サイバーセキュリティ・インフラストラクチャセキュリティ庁(CISA)の セキュア・バイ・デザインという考え方を活用すべきです。出発点は、モデルの学習に使用するデータです。開発の初期段階から入力を保護・制限することが、導入後の信頼できる出力の基盤になります。

モデルや能力の開発にどのような入力が使われるかは、意図的に設計した データガバナンスとモデル自体へのアクセス統制を通じて把握できます。望ましい出力を検証する重要な統制には、データ漏えい防止(DLP)、ポリシーと安全規則の適用、検証可能な情報源に基づくグラウンディング、影響の大きい行動への厳格な承認統制、監査可能性、継続的なテストがあります。攻撃への耐性を高めるためのモデルの侵入テストも、ここに含まれます。

セキュリティ運用にAIを組み込む

これまでサイバー防御へのAI適用は戦術的なものが中心で、多くの組織はAI中心のプロセスをどう築くかを戦略的に考え直すのではなく、従来の人間中心のプロセスにAIを後付けしてきました。これは、自転車にV8エンジンを載せようとするようなものです。AI活用の次の段階では、エージェント型AIと自動化を最初から組み込んで、プロセスを一から設計することになります。脅威検知、脅威ハンティング、検知エンジニアリングといった実績あるセキュリティ運用の方法やプロセスは、AI時代にも組織を守る重要な要素です。AIが人の能力を補完できるよう現在のセキュリティプロセスを変革すれば、将来のAIを活用したセキュリティ運用センター(SOC)の強固な基盤を築けます。

また、自動化はAIの登場によって生まれた独自の概念ではありません。セキュリティのワークフローやプロセスは長年自動化されており、成熟した組織は非常に高度なオーケストレーションや自動化の能力を備えています。ただしAIは、従来のルールベースの自動化を強化し、さらに発展させます。動的で適応性があり、豊かな文脈を踏まえた自動ワークフローを可能にし、新たなAIリスクへの対処に必要な速度と敏捷性を支援します。

次の一手は?

事業部門とIT部門は、重要な資産や利用者を悪意ある攻撃から守るため、引き続きセキュリティを最優先で考える必要があります。AIモデルが素早く導入され、より重要な活動を求められることを踏まえると、セキュア・バイ・デザインのAIは不可欠です。サイバーセキュリティチームは、新しいAI能力を適切に実装し、攻防のいたちごっこに対応するため、戦略的に プロセスを一から変革すること を考えるべきです。

セキュリティリーダーが短期的に取れる具体的な行動はいくつもあります。現在のセキュリティプロセスを包括的に見直し、欠落、近代化の機会、変革に適した領域を特定することです。AIに関する新たな脅威、動向、技術を継続的に把握することも必要です。何より、長年その有効性が実証されてきた多層防御という基本原則を守るべきです。アイデンティティからエンドポイント、ネットワーク、データまで、層を重ねた保護と検証を実施し、強力な監視・対応能力を常にテストし続ける必要があります。

AIがもたらす変革の利益は、導入を避けるにはあまりに大きく、脅威行為者にとっては、すでに魔法のランプの精が解き放たれています。したがって次の時代のセキュリティリーダーの役割も、これまでと変わりません。慎重なリスク低減によって、組織の事業目標の達成を支えることです。ただし今後は、AIを活用し、機械の速度でそれを行うことになります。

ケビン・アーバノウィッツはDeloitte & Touche LLPのプリンシパルであり、デロイトの米国サイバーセキュリティ運用リーダーを務めています。

マーク・ニコルソンはDeloitte & Touche LLPのプリンシパル(Principal)であり、デロイトの米国サイバーAI責任者を務めています。