インタビュー
マーク・ニコルソン、デロイトの米国サイバーモダERN化リーダー – インタビューシリーズ：再訪
マーク・ニコルソン、デロイトの米国サイバーモダERN化リーダーは、デロイトのプリンシパルであり、サイバーセキュリティ、人工知能、エンタープライズリスクの交差点で20年以上の経験を持つ。彼はサイバーAIイニシアチブとデロイトのサイバー慣行の商業戦略を牽引し、大規模な組織がセキュリティフレームワークをモダERN化し、サイバーリスクの変化する環境にサイバー投資を合わせるのを支援する。デロイトに入社する前、彼は脅威インテリジェンスと悪意のあるイベントモニタリングに焦点を当てた情報セキュリティコンサルティング会社であるVigilant、Inc.の共同創設者であり、COOを務めた。彼の以前のキャリアでは、複数のテクノロジー会社でのセールスとビジネス開発の役割で、サイバーセキュリティの技術的および商業的側面の強い基盤を築いた。
デロイトは、世界最大のプロフェッショナルサービス会社の一つであり、ほぼすべての業界の組織に対して監査、コンサルティング、税務、そしてアドバイザリーサービスを提供する。デロイトのサイバーセキュリティ慣行は、企業が複雑な脅威環境を航海しながら、人工知能などのテクノロジーを通じてデジタル変革を促進するのを支援することに焦点を当てている。同社はサイバーストラテジー、耐久性、リスク管理、エンタープライズセキュリティを含むサービスを提供し、サイバーセキュリティを保護機能としてだけでなく、イノベーションと成長の戦略的推進力として位置付けている。
これは、以前のインタビューに続くものであり、2025年に公開された。
あなたはサイバーセキュリティの初期のモダンな脅威モニタリングの日々から関与しており、Vigilantの共同創設者であり、早期のセキュリティインフォメーションおよびイベントマネジメント（SIEM）および脅威インテリジェンス機能を市場に導入するのに役立った。モニタリングシステムから今日のAI駆動型サイバーディフェンスプラットフォームへの進化は、組織が脅威を検出して対応する方法をどのように変えたか。
私たちが最初にモニタリングプラットフォームを構築し始めたとき、基本的な課題はデータを1つの場所にまとめてそれを理解することでした。私は、分析者が毎朝ファイアウォールログを印刷して手動でそれらを調べて異常を見つけるのを覚えています。SIEMが成熟したとしても、スケールの問題がありました。人間のスピードは検出されたイベントの大量の数に匹敵しませんでした。自動化の使用にもかかわらず、サイバーディフェンダーは依然としてデータの相関と分析の問題に直面していました。新しいルールを頻繁に書き込む必要があり、監視の失敗に応じてそれらを書き込む必要がありました。
AIがそのダイナミクスを根本的に変えることが期待されています。レベル1のセキュリティ操作を自動化するエージェント機能を展開すること以外に、AIは検出と対応を「事後」から「発生中」に近づけることを約束しています。モニタリングアルゴリズムの動的マシンターニングを利用して、サイバー組織はAIが修復アクションを開始することを許可するようになるでしょう。
しかし、難しい部分は消えません。それは変化するだけです。システムがより自律的で複雑になるにつれて、信頼と観察可能性が戦場になります。システムが何をしているのか、为什么それをしているのか、そしてそれが操作されていないかどうかを知る方法は何ですか。AIの機会は巨大ですが、それもリスクを高めるのです。環境がマシンスピードで動作している場合、賭けは高まります。
あなたは、AIが攻撃者に偵察を自動化し、エクスプロイトを生成し、攻撃サイクルを加速することを可能にしていることを指摘しています。実際的には、脆弱性の発見と悪用の間の時間をどれだけ圧縮しましたか。
歴史的に、脆弱性の発見と悪用の間に時間差がありました。緊急性はありましたが、一般的には、ゼロデイ攻撃に遭わない限り、脅威を理解し、修正し、緩和する時間がありました。AIはその時間差をほぼ消滅させました。
攻撃者は偵察を自動化し、公開に対して継続的にスキャンし、エクスプロイト開発とターゲット化の部分を高速化するためにAI有効なツールを使用できます。多くの場合、週単位で進行していたものが今では数時間に圧縮され、自動化されたシナリオでは、ほとんどのセキュリティプログラムが処理できるよりも速くなります。
結論はシンプルです。セキュリティチームは、強力なコントロールとペアになった自動化とAIを防御側に必要とします。
セキュリティチームは、人間がループ内にある「人間がループ内にある」モデルから「人間がループ上にある」監視モデルに移行しています。現代のセキュリティオペレーションセンター（SOC）内では、運用的にその移行はどのように見えますか。AIがより自律的なタスクを担うにつれて、組織はアナリストの役割をどのように再考する必要がありますか。
従来のSOCでは、アナリストが毎つの意思決定ポイントの中心に座ります。アラートが入る、アナリストがそれらをトライアージュし、調査し、どのようなアクションを取るべきかを決定します。そのアプローチは、アラートと攻撃のペースが管理可能なときは機能しました。しかし、今日の環境では、活動のスケールが人間がゲートキーパーとして機能するにはあまりに大きいです。
ループ上の人間への移行は、AIシステムが以前アナリストが処理していたルーチンタスクを実行できることを意味します。人間の役割は、実行ではなく、監督と検証へのシフトになります。
運用的に、それはアナリストの時間を「アラートの挽回」から、高い価値の仕事である脅威ハンティング、検出エンジニアリング、敵対シミュレーション、防御アーキテクチャの改善へとシフトします。人間は依然として不可欠ですが、役割は監督、判断、戦略へと進化します。
「セキュアAI by Design」という概念について、モデルセーフティ以外にアイデンティティシステム、パーミッションアーキテクチャ、オーケストレーションレイヤーに拡張する必要がある理由を説明してください。
セキュアAIについての多くの議論は、モデル自体（例：トレーニングデータの保護、モデル汚染の防止、プロンプトインジェクション攻撃の防止）に重点を置いています。 those are real issues、しかし、それらはリスクの一部だけです。
実践では、AIシステムは、より大きなデジタルエコシステムの一部として動作します。データにアクセスし、APIとやり取りし、ワークフローをトリガし、エージェントを通じて増えていく程度に自律的に動作します。
その場合、アイデンティティとパーミッションがコントロールプレーンになります。AIエージェントは、実際にはエンタープライズ内に新しいデジタルアイデンティティです。如果それらのアイデンティティが適切に管理されていない場合、重大なリスクをもたらす可能性があります。
したがって、セキュアAI by Designは、アイデンティティガバナンス、Accessコントロール、オーケストレーションレイヤー、AIエージェントが何をしているかを追跡するモニタリングシステムに拡張する必要があります。組織は、AIエージェントを、定義されたパーミッション、監査、監督を持つ人間のユーザーのように扱う必要があります。そうでない場合、攻撃面は急速に拡大します。
多くの企業は、AIツールを人間のスピードで設計されたレガシーセキュリティワークフローの上に重ねています。組織がサイバーディフェンスでAIを活用するために、どのような最も重要なアーキテクチャの変更が必要ですか。
一般的なパターンは、AIを人間主導の操作で設計されたレガシープロセスとワークフローにボルトオンすることです。特にコンピュータビジョンが現実になった場合、それは悪いアプローチではありません。例えば、デロイトは、既存の目的のためのソフトウェアソリューションを廃棄することなく、アイデンティティガバナンスと管理プロセスで人間を置き換えることができるエージェントを作成しました。これにより、劇的なコスト削減が可能になります。
将来的には、企業はセキュリティワークフローを端から端まで再考することになるでしょう。データ基盤をモダERN化して、セキュリティツールが信頼性の高い、高品質の、構造化されたテレメトリにアクセスできるようにします。検出、対応、アイデンティティ機能が調整されたシステムとして動作するオーケストレーションを構築します。
アイデンティティは、最も重要なコントロールの1つとして残ります。自動化とAIエージェントが導入されるにつれて、非人間のアイデンティティの数が急増します。 thoseアイデンティティを効果的に管理することは、コントロールを維持するために不可欠です。
AIネイティブセキュリティは、最終的には、人間とマシンの両方のアクターを考慮したガバナンスとアイデンティティ管理を含む、より優れたデータ、より優れたオーケストレーションの混合です。
AIシステムがより自律的になるにつれて、攻撃面はエージェントオーケストレーション、APIチェーン、自動化された意思決定パイプラインなどの領域に拡大します。どれかがあなたを最も心配させますか。
注目する必要がある1つの領域があるとしたら、それはエージェントドリブンシステム内のアイデンティティとデータアクセスパーミッションです。
組織がより多くのエージェントAIを導入するにつれて、エンタープライズ内に自律的なアクターの増えていく集団を作成します。 thoseエージェントは、データ、API、ワークフローにアクセスする可能性があり、非常に強力で、攻撃者にとって魅力的なターゲットになります。 thoseパーミッションが厳密に設計、監視、監査されていない場合、 thoseは攻撃者にとって魅力的なパスになります。新しい従業員のようにそれらを扱うことが重要です。名前を付けて、スコープを定め、監視し、必要に応じて迅速に切断できるようにします。
APIチェーンと自動化された意思決定パイプラインもリスクをもたらしますが、アイデンティティガバナンスはしばしば基礎となるコントロールです。エージェントが何であるか、どのリソースにアクセスできるか、どのようなアクションを実行したかを明確に答えることができない場合、 thoseを制御していないのと同じです。
取締役会の視点から、経営陣と取締役は現在、AI駆動型サイバーリスクについてどう考えているのか。技術的現実と取締役会の理解の間で最大のギャップはどこにあるのか。
取締役会は、AIがビジネス変革を形作る可能性があることを認識し始めています。また、AIはリスクももたらすことを理解しています。大多数の取締役は、AIがサイバーセキュリティ、ガバナンス、耐久性について質問しています。
ギャップが現れるのは、スピードと複雑さのときです。多くの取締役会の議論は依然として従来のサイバーフレームワークに既存していますが、 thoseは常にAI駆動型の脅威がどのように急速に進化し、拡大するかを反映していないかもしれません。
別の断絶は、「私たちのAIはセキュアですか？」という質問が単純な質問のように聞こえるが、その答えはデータガバナンス、モデルの完全性、アイデンティティ管理、オーケストレーションなど、複数のシステムにわたって存在するということです。ギャップを埋める取締役会は、 thoseコンポーネントを可視化し、テスト可能にするコントロールベースの報告を推進し、監督を維持するためにディレクターの流暢性を構築する時間を投資しています。
AIはサイバー戦争の両側で使用されています。永久に続くAI対AIのサイバーセキュリティの軍拡競争に突入していますか。そうであれば、攻撃者が複製するのが難しい防御側のどのような利点がありますか。
明らかに、攻撃者と防御者が両方ともAIを使用する時代に入りました。攻撃者はすでにAIを使用して偵察を加速し、脆弱性を特定し、攻撃ライフサイクルの一部を自動化しています。しかし、防御者には依然として実際的な利点があります。
防御者は自社の環境の可視性を持ち、内部のテレメトリにアクセスし、AIを使用してネットワーク、エンドポイント、アイデンティティ全体の大量のデータを分析し、異常な動作を早期に検出する可能性があります。
つまり、防御者がAIを強力なガバナンスとともに展開する場合、勝者になります。自動化に留まっている間、攻撃者が自動化する場合、非対称性は激烈になります。軍拡競争は現実であり、勝者はAIを展開するものではありません。 thoseがそれを統治するものです。
大規模企業にアドバイスする中で、組織がサイバーセキュリティ戦略にAIを統合しようとするときに最も一般的な間違いは何ですか。
私たちが見る最も一般的な間違いは、AIをスタンドアロンツールとして扱うことではなく、アーキテクチャのシフトとして扱うことです。チームは、必要なデータ基盤、ガバナンスモデル、または運用プロセスをアップグレードすることなく、孤立した実験を実行し、結果は頭打ちになります。
別の間違いは、AI機能を展開することなく、新しいリスク（新しいアイデンティティ、新しいデータフロー、自動化された意思決定パス）を十分に考慮していないことです。如果 thoseが正しいコントロールなしでボルトオンされる場合、AIは堅牢性の代わりに脆弱性を追加します。
最後に、多くの組織は、ワークフォースの関与の重要性を軽視しています。セキュリティ操作を毎日実行する実務者は、どこに摩擦があるか、そして「良い」ものは何であるかを知っています。最も強力な変革は、 thoseチームを初期に参加させ、テクノロジーが their判断を増幅するのではなく、 thoseを妨げるのではなく、 thoseを増幅するのです。
3〜5年先を見て、AIネイティブセキュリティオペレーションセンターは今日のSOC環境と比べてどう見えますか。
それは、多くの点で、間違いなく異なって見えます。将来的には、SOCは人間とデジタルのハイブリッドワークフォースとして運用される可能性があります。AIシステムは、データ処理、相関、初期対応活動の多くを処理します。エージェントシステムは、脆弱性管理、アイデンティティガバナンス、インシデント対応、継続的なコントロールモニタリングのワークフローを自動化するのに役立ちます。
人間のアナリストは依然として不可欠ですが、重心は変わります。AIシステムの監督、検証、検出ユースケース（書き込みではなく）、複雑な脅威の調査、防御アーキテクチャの改善に焦点を当てます。目標は、人間を除去することではなく、それらの役割を高めることです。人間は、手動でアラートをトライアージュしてデータを手動で組み立てるのではなく、サイバーセキュリティの戦略的な側面に集中します。質問は、「次の世代のセキュリティ専門家をどう訓練するか」となります。答えは、AIが私たちを助けることができるシミュレーションとトレーニングテクノロジーの劇的な改善にあります。
組織が人間の専門知識とAI駆動型の自動化を組み合わせて、成功したハイブリッドワークフォースを構築する場合、現代の脅威環境で必要なスピードで運用するために最も適した立場になります。
素晴らしいインタビュー、ありがとうございます。読者がもっと学びたい場合は、デロイトを訪問するか、以前のインタビューを読んでください。
