AIが凶暴化したとき：自律エージェントの時代に内部脅威を軽減する

 AIエージェントの急速な台頭は、セキュリティとITチームに新たな課題をもたらしています。ビジネス継続タスクのためのエージェント自動化ワークフローへの移行の最中、最近のテストでは、AIエージェントは特定の条件下で不安全または欺瞞的な動作を示すことができることが発見され、企業にとって新たな内部脅威をもたらしています。

企業は、機密データにアクセスし、人間の監視なしに動作するAIエージェントを適切に監視する必要性を強く感じています。これにより、より速く、予測不能で、帰属が困難な新しいリスククラスが導入される可能性があります。このリスクの現実は二重です。一方では、セキュリティチームは、社員を標的とした社会工学攻撃を強化するためにAIエージェントを利用する悪意のあるアクターに対して準備する必要があります。他方では、企業が内部的に承認したAIエージェントが新しいセキュリティリスクと脆弱性をもたらす可能性があるため、準備する必要があります。

内部AIエージェントが内部脅威につながる方法

AIエージェントは、エンタープライズネットワーク内で2つの重要な内部セキュリティリスクをもたらします。まず、AIエージェントは、人間の労働者が固有に持つ倫理的境界や責任を伴わないまま、自律的に動作します。明示的な指示ではなく、推測された目標に基づいて動作するため、効率性と執念により、承認なしに動作することができます。必要なチェックとバランスが整っていない場合、漏洩や脆弱性が容易に生じ、見過ごされる可能性があります。

これらのエージェントはまた、膨大な量のデータにアクセスできますが、機密情報と通常の情報を区別する能力が欠けているため、単純なタスクであるデータセットの分析でも、データが漏洩または外部の第三者に公開される可能性があります。この課題は、AIがさまざまなシステムやワークフローにわたって拡大し、さまざまなデータルールやプロトコルが存在する場合にさらに複雑になります。地域を跨いで動作するエージェントは、不一致なポリシーの適用により、ロケーション固有のデータ処理ルールを侵害する可能性があり、セキュリティリスクを増大させます。現実は、アメリカの企業のうちわずか30%だけが、どのAIエージェントが重要なシステムにアクセスできるかを積極的にマッピングしており、これが大きなセキュリティの盲点となっています。

外部AIエージェントが内部脅威につながる方法

最も一般的なハッカーの侵入方法の1つは、フィッシングと社会工学攻撃を利用することです。悪意のあるアクターとサイバーギャングは、AIエージェントを使用してこれらの攻撃を強化し、洗練されたディープフェイクやなりすまし事件を実行しています。AIエージェントは、未訓練の目にはよりリアルで信頼性の高いフィッシングと社会工学攻撃を作成できます。 2024年の60%のセキュリティ侵害は人間の要素が含まれており、そのうち約4分の1は社会工学攻撃から生じました。この数は、AIエージェントの使用がこれらの侵入方法をさらに強化するにつれて増加するだけです。

AIエージェントは、プラットフォームやチャンネルを跨いで、膨大な量のソーシャルメディアや個人データを分析して、ターゲット化されたパーソナライズされたコミュニケーションを送信できます。送信者の口調や声のトーンを模倣したメッセージは、より成功し、本当のものから区別するのが難しくなります。AIエージェントは、攻撃の有効性を高めるためにキャンペーンを適応させることができ、効果がない場合には切り替えるか、成功した攻撃を模倣することができます。

ディープフェイクの場合、AIエージェントは、大量操作につながる驚異的な速度でこれらのなりすましを生成できます。悪意のあるアクターは、ほとんど遅延がないリアルタイムビデオ通話を使用して、信頼性を高め、さらに攻撃を強化しています。彼らはターゲットの反応にリアルタイムで対応し、必要に応じてアプローチを変更できます。これらの強化された攻撃は、機密データの漏洩、取引の承認、または脅威アクターとの資格情報の共有につながる可能性のある、無警戒な従業員を内部脅威のリスクにさらす可能性があります。

セキュリティチームがエージェントAIの課題に対処する役割

セキュリティチームは、AIエージェントによって生じる盲点を制限するための具体的な措置を講じる必要があります。IT部門は、まず、データ管理とリアルタイムの可視性コントロールを通じて、AIエージェントの機密データへのアクセスを制限する必要があります。これを実現するためのステップには、IAMシステムでAIエージェントのIDを分類し、特権アカウントと同じ厳格さでそのアクティビティを監視することが含まれます。可視性の部分は、すでにAIエージェントに割り当てられた行動基準に基づいてネットワークアクティビティを監視することによりさらに進みます。可視性により、ITチームは、特権アクセスの移動と異常を監視できます。これにより、防止努力を支援すると同時に、ローグエージェントの場合の包含と復旧努力を加速させることができます。

さらに、AIエージェント攻撃で使用される新しいパターンと戦術を特定することで、組織は防御戦略を更新し、将来の同様の脅威を認識して阻止するためにセキュリティシステムを訓練できます。

AIエージェントがもたらす内部脅威を先んじて対処する

現実は、AIエージェントが自律性と機密システムへのアクセスの増加により、新しい内部リスクをもたらすことです。さらに、脅威アクターは、ディープフェイク、フィッシング、社会工学攻撃をより効果的に利用するためにAIエージェントを使用し続けるでしょう。

この技術が進化するにつれて、企業は、ワークフローに採用する前に、AIエージェントのアクセスと動作に対する可視性を高める必要があります。これには、AIエージェントワークフォースとともに、積極的、360度、リアルタイムの監視に投資することが含まれます。AIエージェントは、重要なビジネスボトルネックと課題を解決するかもしれませんが、将来の内部脅威を制限するためのプロアクティブアプローチが必要です。