ソートリーダー

AIでセキュリティは拡張できる。では、何を拡張するのか?

Eyal Fisher
Unite.AI を Google の優先ソースに追加
要点組織的な文脈がなければ、より多くのデータを処理しても脅威検知が自動的に向上するわけではない。
もっと見る
  • 組織的な文脈がなければ、より多くのデータを処理しても脅威検知が自動的に向上するわけではない。
  • 微調整されたモデルは、最先端モデルよりも予測可能なコストで大規模な調査を支援できる。
  • 自律性はリスクに比例すべきであり、エージェントを拡大する前にガバナンスを設計する必要がある。

今日、企業のセキュリティチームは、手作業で現実的に調査できる量を超える活動、テレメトリー、アラートに直面しています。推定値には幅がありますが、調査によっては、セキュリティ運用チームが1日に受け取るアラートは平均で4,400件を超えるとされています。組織が拡大してツールを追加し、AIによって攻撃が増えるにつれ、この数は増加の一途をたどるでしょう。すでに、環境内に200万台のエンドポイントを抱える企業や、アラートを手作業で調査するセキュリティチームが、エージェントをますます活用する攻撃者を相手に、対等とはいえない戦いを強いられている事例が見られます。

防御側にとって、AIエージェントは環境全体にわたる調査やその他の反復作業を担うことで、この状況を変えられる可能性があります。しかし、より多くのデータを処理できるからといって、脅威の検知や対応が自動的に向上するわけではありません。必要なのは、規模の拡大だけではなく、コンテキストです。

規模を評価するうえでコンテキストが重要な理由

何百万台ものエンドポイントを調査するエージェントは、何を探しているのか、その環境でどのような挙動が異常に当たるのか、どのような発見がさらなる調査に値するのかを理解する必要があります。こうしたコンテキストがなければ、自動化によってノイズが拡大し、無関係または誤解を招く結論が生み出されるおそれがあります。

また、すべての組織が各アラートの調査に最先端モデルを利用できるわけではないことも、念頭に置く必要があります。それではコストがあまりにも高くなります。

セキュリティ環境は、インフラ、アプリケーション、運用要件、規制上の義務、リスク許容度によって異なります。防御側は、コンプライアンス要件に対応し、運用の妨げを避けながら、アプリケーションを稼働させ続けなければなりません。

エージェントが効果を発揮するには、過去の調査、確立された手順、経験豊富なアナリストの判断など、組織の知識を取り込む必要があります。こうした知識の多くは、表計算シートなどの形式でエージェントに渡せば済むものではありません。経験豊富な防御担当者の実務を観察し、そこから学ぶ必要があります。

企業にとっての大きな課題は、こうした組織に蓄積された知識を、機械の速度で一貫性のある、状況に即した判断を下せるシステムにどう落とし込むかです。

組織の知識を実運用に生かす方法

組織には、過去の事例における判断、確立された手順、アナリストによる証拠の解釈など、調査の判断材料となる知識を収集し、活用する仕組みが必要です。企業には、独自のプロセスやツール、暗黙知が存在する場合もあり、それらも記録しておく必要があります。

モデルの特化は、選択肢の一つです。個々の企業顧客に合わせてモデルをファインチューニングすれば、高い性能を維持しながら、大規模な調査をより予測しやすいコストで行えます。ファインチューニングしたオープンソースモデルは、特に非常に多くのエンドポイントを対象とするタスクで有用となる可能性があります。

モデル、ワークフロー、企業環境の変化に応じて、組織はエージェントの性能も評価しなければなりません。本番データを利用できなくなった場合や、データが古くなった場合には、合成環境、つまりデジタルツインを、さまざまなバージョンのエージェントをテストするための代表的な環境として活用できます。

コンテキストを与える方法は、ファインチューニングだけではありません。検索、メモリー、ワークフローのオーケストレーション、明示的なポリシー制御も代替手段です。中心となる要件は、選んだ方法によって、エージェントが実際に稼働する環境での性能が向上することです。

自律性を大規模に実現するには、明確な境界、監督、連携が必要

脅威を正しく特定することは、課題の一部にすぎません。エージェントは、どのような行動を取る権限があるのか、人間の承認が必要なのはどのような場合か、正当な業務を妨げないためにはどうすればよいのかを理解しなければなりません。エージェントが自律的に行動できる範囲と、人間の判断が必要な範囲を見極めることは、信頼できる導入に不可欠です。

自律性を大規模に実現するには、規模の経済も必要です。何百万件もの調査に最先端モデルを利用する企業は、自らを破産に追い込むことになるでしょう。そのため、小規模言語モデル(SLM)であれ独自モデルであれ、AIモデルを用いた調査で最も効率的な方法を見つけることが極めて重要です。

自律性の程度は、リスクに見合ったものであるべきです。定型的で内容が十分に理解されているタスクは自律的な実行に適している一方、重大な影響を及ぼす行動や業務を妨げる行動には、人間の承認や追加の権限付与が必要になる場合があります。企業のセキュリティには、チーム間の連携も欠かせません。ファイアウォール設定の変更が必要な脅威を特定した調査から、そのシステムを担当するチームへと、適切な権限付与と修復に関する説明責任を確保しながら、滞りなく引き継げる必要があります。

したがって、ガバナンスとワークフローの設計はエージェント導入に不可欠な要素であり、技術を大規模に展開した後で追加すればよい制御策ではありません。

セキュリティAIの次なる成功指標は、成果の質

組織は、調査の正確性、偽陽性率と偽陰性率、調査と修復に要する時間、調査1件あたりのコスト、エスカレーションの質、認可ポリシーの遵守など、成果に基づく指標を用いてエージェントを評価すべきです。

モデルやワークフローが変化する中、継続的な評価は欠かせません。さまざまなバージョンのエージェントを代表的な事例に照らしてテストし、合成環境を活用することで、組織は更新を本番環境に導入する前に、性能の後退を特定できます。

セキュリティ責任者は、自動化のメリットと導入に伴う運用上のリスクとのバランスを取る必要があります。アプリケーションの可用性、コンプライアンス上の義務、組織のリスク許容度、導入スケジュールはいずれも、新たな機能をどれほど迅速に採用できるかに影響します。

AIは、セキュリティチームが長年の人員・処理能力不足に対処する機会をもたらしますが、規模を拡大すること自体が最終目標ではありません。本当の可能性は、機械の処理速度を組織の状況に関する理解、適切な権限、人間の判断力と組み合わせることにあります。それにより、エージェントは何が重要かを見極め、適切な対応を取り、必要に応じて適切な人々を関与させることができます。

Eyal FisherはLegion Securityの共同創業者兼CTOで、同社のエージェント型セキュリティ運用プラットフォームの技術面のビジョンを主導しています。AI分野のオピニオンリーダーであり起業家でもあるEyalは、以前、生成AI企業ART AIとクラウドセキュリティのスタートアップを共同創業し、University of Cambridgeでの研究経験も有しています。生成AIの先駆者として広く認められており、機械学習を実際のセキュリティ運用にどう活用できるか、その可能性を切り拓くことにキャリアを捧げてきました。