AIは別のダッシュボードを必要としていない。行動許可が必要だ。

何年もの間、サイバーセキュリティは可視性に執着してきた。ネットワークをより多く見え、テレメトリをより多く収集し、イベントをより多く相関させ、脅威を早期に検出したいと考えていた。そこでダッシュボードを作った。さらに改良したダッシュボードを作った。そのダッシュボードに機械学習を組み込んだ。今度はAIを導入している。

しかしある時点で、明白な質問をしなければならない。攻撃が見えるようになったら、実際に何をする準備ができているのか？ 次の大きなサイバーセキュリティ課題は検知ではなく、権限になると考えている。

AIは、セキュリティチームが何十年も求めてきたもの、すなわち攻撃を特定し、理解し、機械的な速度で攻撃に対応する能力を提供する可能性がある。これは、攻撃が従来のSOCモデルが追いつけない速度で増加しているため重要である。

しかし多くの組織は、以前と全く同じ運用モデルにAIを導入している。技術は数秒で何かを検知し、何が起きているかを理解し、適切な対応を推奨できるかもしれないが、次に何が起こるかは依然として誰かが承認しなければならない。

その時点では、真に自律防御は構築されていない。極めて高度な警報システムを作っただけだ。この点には矛盾があり、直面しなければならない。私たちは何年もセキュリティチームが過負荷であると訴えてきた。アラートが多すぎ、インフラが過剰で、熟練者が不足し、すべてを調査する時間も足りない。人間は十分に迅速に対応できないと不平を言っている。

それでも人間よりも速く対応できる技術を導入し、その技術に行動許可を与えない。

それは理にかなわない。事が起きている最中に対応する権限がなければ、常に事後検証に追われることになる。検知技術がどれほど高度でも関係ない。対応メカニズムがまだ誰かの決定を待っているだけなら、攻撃者が有利なままである。

自律防御には明確な対応権限が必要

そしてこれは単にAIが引き起こした問題だけではない。多くの組織は、人間のセキュリティチームに対する対応権限の問題も適切に解決できていない。

実際に機械を隔離できるのは誰か？ サーバーをオフラインにできるのは誰か？ 攻撃の証拠があるために生産プロセスを中断する権限があるのは誰か？ 多くの組織では、これらの決定は依然として不明確で、インシデント時に交渉されたり、管理層を通じてエスカレーションされたりしている。

AIは単に、そのモデルがいかに持続不可能になったかを露呈している。

本当に自律防御を望むなら、権限はトップから出さなければならない。取締役会や経営層は、攻撃が発生する前に、セキュリティシステムにどの程度の権限を与えるかを決定する必要がある。すべての人が事態の進行を見守っている間ではなく。しかし、AIに行動許可を与えることは別の問題を生む。

AIには資産インテリジェンスとビジネスコンテキストが必要

正しい判断を下すために十分なコンテキストを提供しなければならない。AIシステムが機械への侵入を検知し、最も安全な技術的対応としてそれを隔離することを決定したと想像してみよう。サイバーセキュリティの観点からは、これは完全に正しいかもしれない。

しかし、その機械が時給100万ポンドを生み出す生産ラインを制御していると想像してみよう。

突然、技術的に正しい決定がビジネス上は誤った決定になることがある。

脅威が十分に封じ込められており、機械を停止せずに数時間で修復できるかもしれない。あるいは、機械をオフラインにすることで、より厳格な制御下で一時的に稼働させ続けるよりもはるかに大きな損害が生じるかもしれない。

AIは、組織がその資産が何であるか、何をするか、そしてそれが消失した場合にビジネスに何が起きるかを教えていなければ、その区別をつけることはできない。これが、AI主導のSOCにおいて資産に関する知識とビジネスコンテキストが重要になる理由である。

セキュリティチームは何十年も資産管理について語ってきたが、率直に言って、多くの組織は依然として自分たちが何を持っているかを把握していない。

シャドーITがそれを十分に困難にしている。ビジネス部門はサーバーを購入し、アプリケーションを展開し、デバイスを接続するが、セキュリティが必ずしもそれらを把握しているわけではない。その後、クラウドインフラ、リモートワーク、SaaS、そしてますます分散化された環境が加わった。完璧に管理されたインベントリを含む整然とした境界という概念は数年前に消えた。

運用モデルが主にリアクティブであった時はそれを容認していた。重大な事象が起きた際、アナリストが調査し、コンテキストを確立しようとした。

AIが自律的に意思決定を行うことが期待されると、これははるかに難しくなる。

自律システムは、これは単なる IP アドレス X やエンドポイント Y ではないことを認識する必要があります。このマシンが製造プロセスを制御し、このサーバーが SAP をサポートし、このデータベースが重要な顧客情報を含み、あるいはこの特定のシステムをオフラインにすると収益を生む業務が停止することを理解しなければなりません。

その知識がなければ、自律は推測にすぎません。皮肉なことに、これは AI 自体が支援できる領域でもあります。AI は資産を発見・分類し、関係性を特定し、誰も存在に気付いていなかったシステムを見つけ、ビジネスオーナーに足りないコンテキストを求めて連絡できます。正確な資産データベースの維持は、組織がこれまで行ってきたような、恐ろしい手作業で数年かかる作業である必要はありません。

しかし、情報はどこかに存在していなければなりません。組織自体が資産の機能や重要性を理解していなければ、AI システムにそれについて賢明なビジネス判断を期待することは合理的ではありません。

自律型サイバーセキュリティの境界を定義する

だからこそ、SOC における AI の議論はモデルや検知率だけでなく、もっと先に進む必要があると考えています。

技術は十分に実用的になりつつあります。

より大きな課題は、組織がその能力を実際に活用できる運用上の準備ができているかどうかです。

これはいくつかの不快な質問に答えることを意味します。AI が独立して下すことのできる決定は何ですか？何を分離できるか？何をブロックできるか？どのような状況で人間の承認を待つべきか？どの資産が極めて重要で、異なるルールが適用されるか？そして、組織内でそのルールを策定する権限を持つのは誰か？

それらはガバナンスの質問ですが、同時にサイバーセキュリティの質問でもあります。

答えは単に「人間がすべての重要な事項を承認しなければならない」というものにはなりません。守ろうとしている環境を考えると、それは安全に聞こえるかもしれませんが、実際にはそうではありません。

攻撃が 1 分未満で展開できる場合、誰かがアラートを理解し、適切な担当者を見つけ、対応を承認するまでに 10 分待つことは慎重さではなく、脆弱性です。

当然ながらミスは起こります。自律システムは時に、私たちが望まない決定を下すことがあります。だからこそ、組織は明確な指示、優れた資産インテリジェンス、ビジネスコンテキスト、そして慎重に定義された境界を必要とするのです。

しかし、結果を恐れて自律性を排除することは本質を見誤っています。

目的は、決して誤った判断をしない AI を構築することではありません。AI に十分な知識、コンテキスト、権限を与え、重要になるまでに迅速に正しい判断を下せるようにすることです。

そうしなければ、我々はセキュリティ業界が何年もやってきたことを続けるだけです。攻撃の検知、アラートの生成、ダッシュボードへの情報入力、そして事後に何が起きたかを説明することです。

AI はそれを変える機会を私たちに与えてくれますが、最終的に行動する許可を与えたときに限ります。