ソートリーダー
AI レジリエンスの再考: ‘セット・イット・アンド・フォーゲット・イット’ モデルを放棄すべき時が来た
Unite.AI を Google の優先ソースに追加
最近のGallup の調査によると、AI の導入が拡大している傾向が見られ、就業者の半数以上が年に数回はこの技術を利用していると回答しています。このデータは、企業環境全体で急速に進む AI 導入の一端に過ぎません。複数の企業リーダーがAI の ROI を疑問視し始めているものの、組織が手作業を効率化し生産性を最大化するために技術に依存することは止まっていません。
このような導入が続く中で、組織は自動化ワークフローにおける有害なミスを無視したくなる誘惑に駆られがちです。AI を、IT チームが技術を設定し、稼働させ、そして「存在を忘れる」だけのターンキーソリューションと見なす傾向があります。一部のセキュリティチームはこの考え方に対抗し、安全で確実な AI 活用を促す自動化プレイブックを作成しようとしています。しかし、IT とセキュリティの優秀なチームでさえ、これらのプレイブックに調整の余地をほとんど残していません。その結果、企業は AI が自ら進化するのと同様に、安全に AI と共に進化することができなくなっています。
企業が AI にビジネスクリティカルなワークフローでより大きな権限を与えるにつれ、運用の俊敏性が現代組織の新たな使命となります。これを普遍的な実践にするためには、エンタープライズのセキュリティリーダーが「セット・イット・アンド・フォーゲット・イット」的な考え方を捨て、レジリエンスを設計しなければなりません。
オートメーションのパラドックスを理解する
AI を活用したオートメーションは、複数の企業機能全体で大幅な生産性向上をもたらしています。例としてサイバーセキュリティを取り上げましょう。AI ツールにより、アナリストは過重労働で手が回らなかった追加の作業を行えるようになります。これには、アラートの優先順位付け、イベントのレビュー、脅威検知、相関参照の検証、そして第二の意見を求めるといったタスクが含まれます。一部の C-suite リーダーとは異なり、CISO は AI が将来提供する価値に対して概ね楽観的です。「The CISO Report: From Risk to Resilience in the AI Era」のデータによれば、CISO の 83% がオートメーションを期待を上回る投資と見なしています。
これらの利点がある一方で、パラドックスが残ります。同じレポートは、CISO が AI に対して抱く懐疑心、特に自律的なエラーの結果を恐れていることを指摘しています。CISO の 83% が、アラートの見逃しや誤検知といった「幻覚」の影響をエージェント型 AI に対する最大の懸念として挙げています。これらの幻覚に関する懸念を裏付ける十分な証拠があります。大手商業航空会社が法的責任を負わされ、顧客サービスチャットボットが喪失料金返金ポリシーを幻覚したとして損害賠償を支払うよう命じられました。また、脅威インテリジェンス企業は、スタートアップと外国勢力のハッカーを結びつけたとされる報告書を公開したとして法的問題に直面しています。AI が誤りを犯すと、その影響は内部システムを超えて資本や評判にまで及ぶ可能性があります。
陳腐化したプレイブックの問題点
AI に特化したセキュリティプレイブックは、成功かつ安全な AI 導入の基盤となります。しかし、これらのプレイブックが決して変わらない場合、問題が生じます。脅威、IT インフラ、ビジネス環境は常に変化しています。AI は脅威アクターが攻撃を規模拡大できるようにし、一方で拡大しますます複雑化する IT 環境は検知を困難にします。同時に、企業が AI により大きな責任を委ねるほど、エラーの結果はより重大になります。
これらすべての要因が引き続き進化し続けるのであれば、オートメーションロジックもそれに合わせて進化しなければなりません。凍結されたオートメーションプレイブックはこれを阻害します。古いロジックで現在の問題に直面せざるを得なくなり、場合によってはプレイブックが全くない状態よりも悪化することさえあります。
プレイブックが現在の AI 実装に適した生きた有機体となり、内部レジリエンスを促進するためには、次のようにする必要があります:
- 最新の脅威インテリジェンスに対して継続的にテストする
- 実際のインシデントが発生した後に更新する
- 効果がなくなった、または価値を提供しなくなったら廃止する
この考え方は、CISA（サイバーセキュリティ・インフラストラクチャー・セキュリティ庁）やその他の世界的なサイバーセキュリティ機関からのガイダンスと一致しており、AI システムの継続的な監視と継続的な人的介入を推奨しています。
レジリエンスの公式を実装する
AI 時代は、AI を単一のソリューションと捉える、あるいは既存のユースケースに自動化を単に貼り付けるという考え方から企業が脱却することを求めています。組織は、IT 担当者とシステムが AI の正しい部分を強化し、技術が誤ったときに効率的に対応できるレジリエンス文化を構築する必要があります。
3 つの実践的な要素からなる公式は、このレジリエンスを自動化された行動に組み込むのに役立ちます。
- Confidence: 各自動化ワークフローについて、チームは自問すべきです: 自動応答を開始したトリガーにどれだけ自信がありますか？
- Reversibility: 行動は可逆的ですか？ もし可能なら、どれだけ迅速かつ安全に実行できますか？
- Blast Radius: エラーが拡散した場合の影響はどれほど広範か、影響を受ける資産はどれほどビジネスにとって重要か？
これらの質問に答えるには、適切な可観測性と監視ツールが不可欠です。チームは統合された可観測性およびデータ管理プラットフォームを活用し、IT 環境内で自動応答がどこで発生し得るか、どの資産に影響を与えるか、そしてそれに伴うビジネス上の結果を完全に把握できるようにすべきです。この作業を定期的に実施することで、セキュリティチームは最新の AI プレイブックを維持できます。さらに、IT チームがどこでどのように介入すべきかを把握できるため、適切なヒューマン・イン・ザ・ループの実践が可能となり、不適切な自動化アクションが広範かつ高コストな影響を及ぼすのを防げます。
『セット・イット・アンド・フォーゲット・イット』はもうやめよう
現代の CISO や IT リーダーにとって、AI の挙動に関して最終的な責任が自分たちにあることを認識することが重要です。AI が重要な企業業務に関わるほど、最高情報セキュリティ責任者の負担は大きくなります。覚えておくべき格言は次のとおりです。「オートメーションはボタンを押す人を変えるが、ボタンが押されたことに対する責任者は変わらない。」
今日の CISO に課されたリスクと責任は、セット・イット・アンド・フォーゲット・イットのプレイブックを維持するにはあまりにも大きすぎます。代わりに、レジリエンスは実践であると同時に企業全体に浸透する文化であり、AI が誤りを犯した後に企業が立ち直ることを可能にしなければなりません。チームが継続的な監視、可逆性、封じ込め、そして人的所有権をオートメーションプレイブックに組み込むことで、企業は自動化された決定が全社的な問題に発展するのを防げます。
