企業のAIセキュリティ対策が遅れている。企業ができること

企業は、市場での競争力を維持するために、急速にジェネレーティブ人工知能（AI）を採用しようとしています。しかし、セキュリティチームは、大きな課題に直面しています。なぜなら、彼らは、過去の技術時代に設計された古いフレームワークに頼っているからです。組織を保護してきたツールは、ブラウザベースのAIプラットフォームと従業員がやり取りするときに、重要な脆弱性を露呈します。最新のテクノロジーを安全に採用するには、企業は情報へのアクセスを制御し、新たな脅威を検出する方法を完全に再考する必要があります。

企業におけるシャドウAIの脅威の成長

シャドウAIは、従業員が公式のITチャネルを迂回して、仕事のタスクに未承認の消費者向けAIツールを使用することによって生じます。これらのプラットフォームは、内部の承認プロセスが提供できない速度と利便性を提供し、生産性に焦点を当てた労働者にとって不可欠です。

最近の調査によると、73.8%の従業員がChatGPTとやり取りするのは、非社用アカウント上で行われており、機密情報が直接パブリックモデルに流れ込むことを意味します。同様に、GeminiとBardの個人アカウントでの使用率は、それぞれ94.4%と95.9%に達します。

検証されていない外部プラットフォームにタスクをアウトソーシングすることは、重大な結果をもたらします。分析によると、55%のAIの失敗は、これらの第三者ソリューションに起因し、評判の損害や財務的損失を含むリスクを生み出します。消費者の不信、コンプライアンス違反の罰金、訴訟がよく続きます。第三者AIツールをリスク分析を行わずに導入した企業にとって、これは警告です。

強制できるガイドラインがなければ、従業員は機密会社情報を過度に共有し、巨大なプライバシー責任を生み出しますが、多くの第三者プラットフォームは、機密業務レコードを保護するために必要な厳格なセキュリティ対策が不足しています。ストレージポリシーと実践は、これらのソリューション全体で顧客情報と財務レコードを潜在的な侵害にさらす可能性があります。

伝統的なデータ漏洩防止の失敗

レガシーのデータ漏洩防止（DLP）ツールは、ファイルのダウンロードや電子メール添付ファイルを停止するために設計されました。これらのソリューションは、元の目的で優れていますが、ブラウザベースのAIの時代に根本的な制限に直面しています。たとえば、従業員がAIプロンプトウィンドウに直接手動で入力または貼り付けるテキストを容易に監視またはブロックすることができません。これにより、セキュリティカバーの盲点が生じ、四半期ごとに問題が増大しています。

このギャップは、これらのツールが保護できることとできないことを調べると明らかになります:

• DLPが捕捉する:ファイルのダウンロード、電子メール添付ファイル、USB転送、ドキュメントのアップロード
• DLPが見逃す:ブラウザウィンドウへのコピーとペースト、アクション、スクリーンショットをテキストに変換、Webアプリケーションへの直接テキスト入力

AIの採用が組織全体で加速するにつれて、このカバーのギャップは拡大し、従来のセキュリティインフラストラクチャが対処できない情報漏洩の手段を生み出します。セキュリティチームは、機密コンテンツがすでに組織の管理外に出た後にのみ漏洩を発見する、反応的な立場に置かれます。

企業AIのセキュアなアプローチ

レガシーのDLPソリューションに固執し、AIの採用の現実を無視することは、長期的なビジネス戦略ではありません。企業は、新しい攻撃に適応し、機密情報を保護するAI駆動の脅威検出にアップグレードする必要があります。中央集権的なガバナンス慣行を確立して、情報の偶発的な漏洩を防ぐことで、このセキュリティ基盤を完成させます。

マルチレイヤードAIコンテキストへの移行

伝統的な脅威検出ツールは、既知の攻撃の歴史的な署名を検索する反応的なルールに依存しています。このアプローチは、正常な従業員の行動を疑わしいものとしてフラグを立てる過剰な誤検知を生成するか、データベース内の以前のパターンに一致しない新しい攻撃を見逃します。

例えば、Artesia General Hospitalは、患者のケア業務とデジタルエコシステムを保護する際に、これらの制限を認識しました。このため、病院はDarktraceテクノロジーを展開しました。事前に定義された脅威のリストなしで動作し、プラットフォームはネットワーク内のすべてのデバイス、ユーザー、インタラクションを学習して、正常な動作がどのように見えるかを基盤から理解します。

Cyber AI Analystコンポーネントは、人間のアナリストに似た方法でアラートを調査し、潜在的な脅威を示す微妙な異常を結び付けます。システムは、Artesiaのネットワークの脅威を自律的に調査して、どのアラートが実際のセキュリティインシデントを表すかを判断します。

このマルチレイヤードAIアプローチは、セキュリティチームに課せられる誤検知を大幅に削減します。1日に100の無害なアラートから、人間の注意が真正に必要な2、3の重要インシデントに移行することで、アナリストの焦点が絞られます。アナリストは、手動の調査に数時間を費やすことなく、必要な情報を正確に受け取ります。

厳格な内部AI使用ポリシーの施行

明確な境界を確立し、パブリックAIモデルに入力できる情報を制御する技術的なガードレールを展開することで、従業員は機密情報を保護することができます。

サムスンは、技術的なセーフガードなしでAIツールにアクセスした場合に起こることを警告する例です。2023年4月にChatGPTへのアクセスを許可した20日以内で、会社は複数の部門で機密情報が漏洩する3つの個別の漏洩を経験しました。

エンジニアは、ChatGPTに半導体データベースのソースコードを貼り付けて、コードのエラーを確認しました。これにより、サムスンの製造プロセスに関する重要な詳細が明らかになりました。別の事件では、従業員は、最適化の提案を求めて、機器の欠陥を特定するために設計された特殊なコードをアップロードしました。スタッフは、記録された内部ミーティングをテキストに変換して、ChatGPTに自動的に会議の記録を生成するためにそれらを提供しました。

一度情報がパブリックAIモデルのトレーニングデータセットに入ると、そこから情報を回収または消去する「削除」ボタンはありません。サムスンは最終的に、漏洩した独自のコンテンツを回収できないため、ChatGPTを完全に禁止しました。

中央集権的なデータガバナンスの確立

企業のAIソリューションは、組織内でアクセスできる情報のセキュリティだけに依存します。すべてのシステムにわたって 権限を標準化することは、セキュアなAIの展開の基盤を形成します。会社の内部ネットワークが一貫性のないアクセス制御と断片化された管理慣行に苦しんでいる場合、承認されたAIツールでも、機密のHRファイルや財務レコードが承認されていない従業員に意図せず公開される可能性があります。

例えば、AXIS Capitalは、異なる地理的地域に散在する独立したポリシーとクレームプラットフォームに直面しました。各ビジネスラインは独自のレポート参照基準を作成しており、これらの不一致は、企業レベルのレポート作成を非常に困難にする、見積もり、保険、クレーム調整のミスにつながりました。

保険会社は、Webベースの管理フォームと厳格なセキュリティルールを使用して、コア参照階層を標準化する、組織全体の戦略を開発しました。北米産業分類システムと標準産業分類コードから始めて、AXISは、以前は場所によって異なっていた、評価と保険コードに拡大しました。

中央集権的なデータ管理とコントロールを実施することで、会社は、すべての業務でアクセスできる単一のセキュアな真実の源を創出したことで、不一致を排除し、コアの保険プロセスを加速化しました。新しい製品の導入、運用リスクの軽減、企業レベルの信頼できる分析を実現しました。

企業イノベーションの将来を守る

企業でのAIの採用は、企業が市場での競争力を維持するために不可欠です。レガシーのセキュリティフレームワークに頼り、構造化されていないガバナンス慣行を容認することで、漏洩とコンプライアンス違反が加速します。企業がAIを採用するかどうかという問題ではなく、セキュアに採用するかどうかです。マルチレイヤードAIの脅威検出を実施し、情報へのアクセスを厳格に監視することで、企業はAIのイノベーションを取り入れると同時に、最も機密性の高いコンテンツを保護することができます。