2025年のAIセキュリティ状況：シスコの報告書から得られた主要な洞察

AIを採用する企業が増えるにつれて、AIのセキュリティリスクを理解することは、以前よりも重要になっています。AIは業界やワークフローを再定義していますが、新しいセキュリティ上の課題も引き起こしています。AIシステムを保護することは、信頼を維持し、プライバシーを守り、ビジネス運用をスムーズに行うために不可欠です。この記事では、シスコの最近の「2025年のAIセキュリティ状況」報告書から得られた主要な洞察をまとめています。現在のAIセキュリティ状況と企業が将来に備えて考慮すべき点についての概要を提供します。

AIへの成長するセキュリティ脅威

2024年が教えてくれたことは、AIの採用が多くの組織がセキュリティを確保するよりも速く進んでいることです。シスコの報告書によると、約72%の組織がビジネス機能でAIを使用していますが、わずか13%の組織のみがAIの潜在能力を安全に最大化する準備ができていると感じています。この採用と準備のギャップは、主にセキュリティ上の懸念によって引き起こされています。これがさらに懸念されるのは、AIが従来のサイバーセキュリティ方法では完全に対処できない新しいタイプの脅威を引き起こすことです。従来のサイバーセキュリティとは異なり、AIは予測が難しい動的で適応性のある脅威をもたらします。報告書では、組織が認識すべき新たな脅威について以下のように述べています：

• インフラストラクチャ攻撃： AIインフラストラクチャは攻撃者にとって主要な標的となりました。NVIDIAのコンテナツールキットの脆弱性の悪用は、攻撃者がファイルシステムにアクセスし、悪意のあるコードを実行し、特権を昇格させることを可能にしました。同様に、GPU管理のためのオープンソースAIフレームワークであるRayは、悪用されました。これらのケースは、AIインフラストラクチャの弱点が多くのユーザーとシステムに影響を与える可能性があることを示しています。
• サプライチェーンリスク： AIサプライチェーンの脆弱性も重大な懸念事項です。約60%の組織がオープンソースのAIコンポーネントまたはエコシステムを使用しています。これにより、攻撃者がこれらの広く使用されているツールを悪用するリスクが生じます。報告書では、「Sleepy Pickle」と呼ばれる手法について言及しています。これにより、攻撃者はAIモデルを配布した後でも改ざんできます。これにより、検出が極めて困難になります。
• AI特有の攻撃： 新しい攻撃手法が急速に進化しています。プロンプトインジェクション、ジェイルブレイク、トレーニングデータ抽出などの手法により、攻撃者はセーフティコントロールをバイパスし、トレーニングデータセット内に含まれる機密情報にアクセスできます。

AIシステムを標的とする攻撃ベクトル

報告書では、悪意のあるアクターがAIシステムの弱点を悪用するために使用する攻撃ベクトルの出現について言及しています。これらの攻撃は、データ収集、モデルトレーニング、デプロイ、推論の各段階で発生する可能性があります。目標は、AIが予期せぬ方法で動作するようにしたり、プライベートデータを漏らしたり、有害な行動を実行したりすることです。
最近の年間で、これらの攻撃方法はより高度化し、検出が困難になりました。報告書では、以下のような攻撃ベクトルの種類について説明しています：

• ジェイルブレイク： この手法では、安全性の保証をバイパスするために、攻撃的なプロンプトを設計します。AIの防御が改善されたにもかかわらず、シスコの研究では、簡単なジェイルブレイクが依然としてDeepSeek R1のような高度なモデルに対して有効であることを示しています。
• 間接的なプロンプトインジェクション： 直接的な攻撃とは異なり、この攻撃ベクトルでは、入力データまたはAIモデルが使用するコンテキストを間接的に操作します。攻撃者は、悪意のあるソースマテリアル（悪意のあるPDFやWebページなど）を提供し、AIが予期せぬまたは有害な出力を生成するようにします。これらの攻撃は、AIシステムへの直接的なアクセスを必要としないため、多くの従来の防御をバイパスできます。
• トレーニングデータ抽出と汚染： シスコの研究者は、チャットボットをトリックしてトレーニングデータの断片を再生する方法を実証しました。これにより、データプライバシー、知的財産、コンプライアンスに関する深刻な懸念が生じます。攻撃者はまた、トレーニングデータを汚染することで悪意のある入力を注入できます。驚くべきことに、汚染は、LAION-400MやCOYO-700Mのような大規模なデータセットの0.01%で行うだけで、モデル動作に影響を与えるのに十分であり、これは約60ドルで実行できます。これにより、これらの攻撃は多くの悪意のあるアクターにとってアクセス可能になります。

報告書では、これらの攻撃に関する深刻な懸念を強調し、研究者がDeepSeek R1やLlama 2のような高度なモデルに対して100%の成功率を達成したことを示しています。これにより、これらのモデル使用に関連する重大なセキュリティ上の脆弱性とリスクが明らかになります。さらに、報告書では、音声ベースのジェイルブレイクのような新しい脅威の出現を特定しています。これらは、多モーダルAIモデルを標的とするように設計されています。

シスコのAIセキュリティ研究からの発見

シスコの研究チームは、AIセキュリティのさまざまな側面を評価し、以下のような重要な発見を行っています：

• アルゴリズムによるジェイルブレイク： 研究者は、トップレベルのAIモデルを自動的にトリックする方法を実証しました。Tree of Attacks with Pruning (TAP)という方法を使用して、GPT-4とLlama 2の保護をバイパスしました。
• ファインチューニングのリスク： 多くの企業は、特定のドメインの関連性を向上させるために、基礎モデルをファインチューニングしています。ただし、研究者は、ファインチューニングによって内部のセーフティガードレールが弱まる可能性があることを発見しました。ファインチューニングされたバージョンは、元のモデルよりもジェイルブレイクに対して3倍以上、有害なコンテンツの生成に対して22倍以上の脆弱性がありました。
• トレーニングデータ抽出： シスコの研究者は、チャットボットをトリックしてニュース記事の断片を再生するために、単純な分解方法を使用しました。これにより、機密または専有データの漏洩のリスクが生じます。
• データ汚染： シスコのチームは、大規模なWebデータセットを汚染することが容易で、費用もかからないことを実証しました。約60ドルで、LAION-400MやCOYO-700Mのようなデータセットの0.01%を汚染することができました。また、0.01%の汚染レベルでモデル動作に影響を与えるのに十分であることも強調しました。

サイバー犯罪におけるAIの役割

AIは標的としてのみならず、サイバー犯罪者にとってのツールとしても使用されています。報告書では、自動化とAI駆動のソーシャルエンジニアリングが攻撃をより効果的で検出が困難にしていることを指摘しています。フィッシング詐欺から音声クローニングまで、AIは攻撃者が説得力のあるパーソナライズされた攻撃を生成するのを助けています。報告書では、サイバー犯罪を支援するために設計された悪意のあるAIツールの出現、例えば「DarkGPT」についても言及しています。これらのツールは、フィッシングメールの生成や脆弱性の悪用を可能にします。これらのツールが特に懸念されるのは、そのアクセス性です。低スキルな犯罪者でも、従来の防御を回避する高度なパーソナライズされた攻撃を生成できます。

AIをセキュアにするためのベストプラクティス

AIセキュリティの変化する状況を考慮して、シスコは以下のような実践的なステップを組織に推奨しています：

1. AIライフサイクル全体でリスクを管理する： データソーシング、モデルトレーニング、デプロイ、モニタリングの各段階でリスクを特定し、軽減することが不可欠です。これには、サードパーティコンポーネントのセキュリティ、強力なガードレールの適用、以及アクセスポイントの厳格な管理が含まれます。
2. 確立されたサイバーセキュリティプラクティスを使用する： AIはユニークですが、従来のサイバーセキュリティのベストプラクティスは依然として重要です。アクセス制御、パーミッション管理、データロス防止などの手法は重要な役割を果たします。
3. 脆弱な領域に焦点を当てる： 組織は、サプライチェーンやサードパーティAIアプリケーションなどの、標的となる可能性が高い領域に焦点を当てる必要があります。脆弱性がどこにあるかを理解することで、企業はよりターゲットを絞った防御を実装できます。
4. 従業員を教育およびトレーニングする： AIツールが広く使用されるにつれて、責任あるAIの使用とリスク認識についてのトレーニングが重要になります。十分に情報を得た労働力は、事故によるデータ漏洩と誤用を減らすのに役立ちます。

今後の展望

AIの採用は続き、セキュリティリスクも進化します。世界中の政府や組織は、これらの課題を認識し、AIの安全性を導く政策や規制を構築し始めています。シスコの報告書では、AIの安全性と進歩のバランスが、AIの開発と展開の次の時代を定義することになることを強調しています。セキュリティをイノベーションと並行して優先する組織は、課題に対処し、出現する機会を活用するために最も適切に準備されます。ildポリシーや規制を導入してAIの安全性を確保する。シスコの報告書では、AIの安全性と進歩のバランスが、AIの開発と展開の次の時代を定義することになることを強調しています。組織がイノベーションと並行してセキュリティを優先することで、課題に対処し、出現する機会を活用するために最も適切に準備されます。