Steve Povolny, Exabeam の AI戦略＆セキュリティ研究担当VP Steve Povolny Exabeam の AI戦略＆セキュリティ研究担当VP

AIセキュリティへの支出が増えても、AIリスクは軽減されない

AIセキュリティの予算は急速に増加している。多くの組織では、保護すべきシステムよりもセキュリティ予算が増加している。この不均衡は簡単に気付かれない。人工知能への投資は続々と増加しており、2025年 aloneでは全球的なプライベートファンディングが$33.9 billionに達した。同時に、セキュリティリーダーはモデル動作、データ漏洩、敵対的操作に関連する新しいリスクに対処するよう求められている。対応は予測可能だった。より多くのツール、より多くのコントロール、より多くの予算。これをビジネスのコストとして考えることは簡単だ。ただし、AIセキュリティの問題に取り組むには、組織が正しいツールを保護しているかどうかを検討する必要がある。ほとんどの企業では、AIはまだタスクレベルで導入されている。チームは要約、コード支援、分析、またはワークフロー自動化を使用して個々の生産性を向上させる。これらのツールはローカライズされた利点を提供するが、決定やシステムの運用方法に大きな変化をもたらさない。ギャップは結果に現れ始めている。採用は広範囲にわたっているが、約20%の組織のみが収益に有意な影響を報告している。セキュリティ投資は、この実験とともに拡大している。ただし、多くの場合、統合されたシステムではなく、断片的なツールのコレクションに適用されている。AIはタスクレベルで評価され、システムレベルで保護され、ワークフローレベルで設計されていない。AIの導入は統合よりも速く拡大している現在のほとんどのAI導入は、設計によって狭い範囲に限定されている。個々のタスクを高速化するために構築されているが、チームやシステム全体のワークフローを再構築するものではない。セールスチームは、AIを使用してメールを下書きしたり、通話を要約したりすることがある。エンジニアリングチームはコード生成を高速化するためにAIを使用する。オペレーションチームは分析または予測支援を使用することがある。これらのユースケースは、個々のレベルで測定可能な生産性の向上をもたらす。初期投資を正当化するのに十分である。複雑さは、これらの孤立した利点が蓄積されるときに始まる。各導入は独自のモデル、データアクセスパターン、API、および依存関係を導入する。時間の経過とともに、組織はAI機能の拡大するエコシステムを管理することになる。現在でも、多くの企業はまだ初期の実験段階にあり、多くのイニシアチブはまだコアビジネス運用に組み込まれていない。セキュリティチームは、この環境を受け継ぐ。単一のシステムではなく、拡大するツール、統合、およびデータフローのコレクションを保護するように求められている。統一されたアーキテクチャなしでは、セキュリティはコントロールではなくカバレッジの演習になる。実際のリスクは個々のツールではなく、システムの断片化であるAIの実験が続くにつれて、リーダーシップの期待は変化し始めている。取締役会と経営チームは、AIへの支出がどのようにビジネス成果に影響するかを尋ね始めている。初期のイニシアチブが期待を裏切ると、組織は活動を減速させることはない。活動を拡大する。さらに多くのパイロットプロジェクトが開始され、さらに多くのツールが導入され、さらに多くの統合が行われる。まだ実現していない価値を探すために。予測によると、AIプロジェクトの半分以上が、近い将来、運用開始または期待される結果に到達することができない可能性がある。セキュリティチームにとって、このサイクルは新しい種類のリスクを作成する。課題は、単に個々のアプリケーションまたはモデルを保護することではなく、基礎となるシステムが常に変化する環境を管理することである。各新しいツールは、防御者がそれを完全に理解する前に、追加のアイデンティティ、データフロー、およびモデル動作を導入することで攻撃面を拡大する。この文脈では、セキュリティ支出の増加は必ずしもリスクを軽減するとは限らない。代わりに、運用の複雑さを増大させる可能性がある。断片化されたシステムを保護するには、さらに多くのツール、さらに多くの監視、およびさらに多くの調整が必要になるが、根本的な問題であるAIの導入と使用のための統合された構造の欠如には対処できない。セキュリティ投資は、AIが運用レベルになるまで戦略的になるAIセキュリティ投資は、革新の度合いが天文学的であり、AIの将来は明るいが、セキュリティ投資は、AIが実際に価値を生み出している場所から切り離されている。AIが主に個々の生産性ツールとして導入されている場合、セキュリティ努力はその断片化に従わなければならない。チームは、ビジネス成果に大きな影響を与えない断片化されたアプリケーションの保護に従事することになる。より大きな価値は、AIがビジネス運用を形作るワークフローに組み込まれたときに現れる。計画、予測、リソース割り当て、運用上の意思決定は、AIが成果に有意な影響を与え始める場所である。これらは、セキュリティ投資がより戦略的になる環境でもある。断片化されたツールを保護することはタスクを保護することである。統合されたシステムを保護することはビジネスプロセスを保護することである。ここで、タスクレベルでの導入とワークフローレベルでの設計の違いが重要になる。意思決定に影響を与えないAIは、測定可能な影響をもたらすのに苦労する。意思決定システムに整合していないセキュリティは、実質的なリスクを軽減するのに苦労する。変化はすぐに必要である組織は、AIイニシアチブを減らす必要はない。より意図的なイニシアチブが必要である。最初の変化は、AIの成功を評価する方法にある。導入が意思決定やワークフローに変化をもたらさない場合、その影響は限定される。ワークフローレベルでの成功を評価することは、AIが実際に価値をもたらしている場所をより明確に示す。2番目の変化は、セキュリティ投資の優先順位にある。実験ツール全体にコントロールを分散するのではなく、計画、運用、意思決定を影響するシステムを中心に保護を集中させる必要がある。これらは、リスクと価値が交差する環境である。3番目の変化は構造的なものである。AIシステムは、従来のアプリケーション境界を超えた新しい所有権形式を導入する。モデル、トレーニングデータ、データパイプライン、およびAI生成の出力すべてに明確な所有権が必要である。明確な所有権なしでは、ガバナンスは一貫性がなく、セキュリティギャップは特定しにくくなる。これらの変更をまとめると、組織は活動を保護するのではなく、成果を保護するようになる。実際に拡張可能なAIシステムを構築するワークフローレベルでの設計とAIの導入を整合する組織は、価値とコントロールの両方に明確なパスを得る。セキュリティリソースは、最も重要なシステムに集中することでより効果的になる。リーダーシップは、AI投資がどのように運用上の影響に影響するかをよりよく理解する。時間の経過とともに、AIプログラムは構造化されたシステムに基づいているため、ツールの蓄積に基づいていないため、より持続可能になる。AIへの投資は減速しない。セキュリティ支出も増加し続ける。違いは、これらの投資がどのように適用されるかである。組織がタスクレベルでAIを拡大し続ける場合、断片化されたツールの拡大する表面を保護することになる。組織がワークフローレベルでAIを設計する場合、実際に保護する価値のあるシステムを保護することになる。