マーク・ニコルソンはデロイト トウシュ トーマツ LLPのパートナーであり、デロイトのUSサイバーアイレーダーを務めています。
AIを利用したサイバーアタックが現実のものとなり、以前は理論的なものであったが予想されていたリスクが実現した。AIエージェントが複雑なエンドツーエンドのキャンペーンを数分で実行できるようになり、サイバー犯罪者は企業の脆弱性を機械のスピードで特定し、悪用できるようになった。従来のサイバー防御では、今日のAI駆動型の攻撃に対抗することができなくなった。AIがサイバーセキュリティの脅威を高めているため、企業は自らのAI駆動型の防御能力を展開して、スピード、規模、精度で対抗する必要がある。現在、サイバー攻撃者は従来の戦術、技術、手順（TTPs）に従っているが、AIは彼らの戦略を加速し、強化している。また、企業のAIモデル自体も、新たな標的となり、モデルポイズニングや言語駆動型のソーシャルエンジニアリングの対象となり、サイバーセキュリティチームはAIの能力を適切に保護する必要がある。したがって、セキュリティは、企業の全体的なAI戦略の核心となるべきである。AIを利用したサイバーアタックの特徴は何か？デジタル世界では、ほぼ常にサイバー侵入の試みが行われているが、悪意のある行為者が参入するための障壁は低くなり、攻撃の数と複雑さが増加している。AIを利用した攻撃は、攻撃ライフサイクルの各段階で、偵察、情報収集、悪用、機密データの抽出を自動化、加速、または強化できる。 従来のセキュリティプロセスとテクノロジーにのみ頼り、攻撃者が利用している高度なテクノロジーを展開しない場合、攻撃者にほぼ不可能なほどの大きなアドバンテージを与えることになる。企業は既に従来の脅威行為者からの攻撃を監視するのに手一杯である。AIを利用した攻撃は、アラートの疲労を悪化させる。人間が管理するプロセスから、サイバーとデジタルのハイブリッドワークフォースへの移行が必要である。デジタル資産をすべてマッピングする今日の世界では、企業環境における潜在的な侵入点を理解することは、企業にとって基本的な要件であるが、多くの大企業にとってまだ達成されていない。デジタルシステムと資産以外に、組織内のすべてのアイデンティティとアクセスを包括的にマッピングする必要がある。デジタルアイデンティティは、物理的および行動的特性を個々に結び付けるものであり、デジタルアクセスを管理するための既存のコントロールが理解されている。しかし、非人間アイデンティティ（NHIs）の企業全体の景観を理解することは、デジタル資産を保護するために不可欠である。AIの潜在的な価値を組織内で実現するには、AIエージェントにビジネスプロセスを自律的に完了するためのアクセスと許可を与える必要がある。クラウド環境の前のセキュリティ時代と同様に、今日のエージェント駆動型ワークフローは、スケールで非人間アイデンティティを起動および終了するため、環境内で動作し、意図されたミッションまたは役割を果たしているかどうかを管理および追跡するための高度な能力が必要である。企業は、エージェントアイデンティティのライフサイクル全体にわたってアイデンティティガバナンスを拡大し、エージェントのアクションを監視する必要がある。内部リスク行為や脅威行為者からのアカウントの危殆化に対するように、今日人間ユーザーのアクセスを監視するのと同様に。エージェントの能力がより自律性とビジネスクリティカルな作業を担うにつれて、そのアイデンティティフットプリントとアクセスパターンがどのようなものであるかを理解することは、誤用や企業を保護するために必要なアクセスと監視コントロールを実装するために不可欠である。AIモデルをロックダウンするAIの能力は、効率と生産性を解放する可能性があるが、組織に対して反対する可能性もある。ビジネス運営のあらゆる側面にAIを導入することは、今日の競争環境で成功するために必要な要件である。したがって、AIを安全に展開することは、ビジネスの完全な潜在と成果を安全に実現するために必要なコンポーネントである。AIを利用したサイバーディフェンスへの移行は進行中であるが、AIモデル自体が標的となっている。攻撃者は、これらのモデルに与えられたデータを汚染し、意図しないアクションを取らせたり、機密情報を漏らす可能性がある。AIに対する攻撃は、データポイズニング攻撃、プロンプトインジェクション攻撃など、さまざまな形式で行われる可能性がある。AIを潜在的な操作から適切に保護するには、サイバーインフラストラクチャおよびセキュリティ機関（CISA）のセキュアバイデザインの哲学を利用する必要がある。これは、モデルのトレーニングに与えられるデータから始まる。開発プロセスの初期段階で入力をロックダウンすることで、展開時に信頼できる出力の基礎を築くことができる。モデルの開発と能力に与えられる入力を理解することは、データガバナンスとモデルのアクセス制御を通じて可能である。望ましい出力を検証するための重要なコントロールは、データロス防止（DLP）、ポリシーとセーフティの適用、検証可能なソースによるグラウンド化、以及高影響アクションに対する厳格な承認コントロール、監査可能性、および継続的なテスト、モデルに対するペネトレーションテストを含む。セキュリティ運用にAIを埋め込むこれまで、AIをサイバーディフェンスに適用することは、多くの企業がレガシーの人間中心のプロセスにAIを追加するという戦術的なアプローチで行われてきた。しかしこれは、バイシクルにV8エンジンを搭載するようなものである。AIの活用の次の進化は、プロセスを最初からAIと自動化をネイティブに組み込んだものとして設計することである。脅威検出、脅威ハンティング、検出エンジニアリングなどのセキュリティ運用方法とプロセスは、AI時代の組織のセキュリティにとって不可欠なものである。AIの強化を可能にするために、現在のセキュリティプロセスを変換することは、将来のAIを活用したセキュリティ運用センター（SOC）の基盤を築くことができる。 さらに、自動化はAIの出現に独特の概念ではなく、セキュリティワークフローとプロセスはこれまでに自動化されてきた。成熟した組織はすでに高度なオーケストレーションと自動化の能力を持っている。ただし、AIは既存のルールベースの自動化を強化し、さらに進化させ、ダイナミックで適応性のあるコンテキストに富んだ自動化ワークフローを可能にする。これにより、登場するAIリスクに対するスピードと敏捷性の要件に対処できる。次に何が起こる？セキュリティは、ビジネスとITが重要な資産とユーザーを悪意のある悪用から守るために、常に最優先事項である必要がある。セキュアバイデザインのAIは、AIモデルが展開され、より重要な活動を実行するスピードのために必要である。サイバーテームは、適切に新しいAIの能力を実装して、サイバーの猫と鼠のゲームでペースを保つために、プロセスを最初から変換することを戦略的に考える必要がある。セキュリティリーダーは、近い将来に具体的なステップを講じることができる。現在のセキュリティプロセスを包括的にレビューして、ギャップ、近代化の機会、変革のための領域を特定する。AIの新しい脅威、トレンド、テクノロジーを追跡する。最も重要なのは、時間の経過に耐えている防御の深さの基本原則にしがみつくことである。アイデンティティ、エンドポイント、ネットワーク、データへの層状の保護と検証、そして常にテストされているロバストな監視と対応能力である。AIの変革的な潜在性は、採用を拒否することによるデメリットよりも大きい。脅威行為者にとって、AIのジェニーはもう瓶から出てしまった。したがって、セキュリティリーダーの役割は、組織がビジネス目標を達成するのを支援することであり、機械のスピードでAIを使用して、慎重なリスク軽減を行うことである。
