サイバーセキュリティ専門家がAIサイバー攻撃から防御する

善意を持ってAIの利点を利用する人は誰でもありません。サイバーセキュリティは、特定のサイバーシステムを防御しようとする人と、それを攻撃しようとする人が、最も高度な技術を使用している分野の1つです。

このテーマに関する分析において、世界経済フォーラム（WEF）は、2019年3月に、「ある大手エネルギー会社のCEOが、東ヨーロッパの新しいサプライヤーの口座であると信じていた口座に22万ユーロを緊急に転送することを承認したという例を挙げています。電話彼は、親会社のCEOと話していると信じていた。数時間以内に、金はラテンアメリカの口座を経由して、AIを使用してCEOの声を信憑性を持って模倣したと疑われる犯罪者に渡されました。」一方、フォーブスは、「オハイオ州とウェストバージニア州の2つの病院が、ランサムウェア攻撃のために患者を断った システムの故障につながったため、病院は緊急患者要請を処理できませんでした。したがって、病院は入院患者を近くの病院に送りました。」

このサイバーセキュリティ脅威は、確かに エクイファックスと世界経済フォーラムが最初のFuture Series：Cybercrime 2025を召集した理由です。世界中のサイバーセキュリティ専門家がアトランタで会合を開き、サイバーセキュリティ分野でAIを使用する能力を検討します。また、カプジェミニ研究所は、サイバーセキュリティ防御をAIで構築することがほとんどの組織にとって不可欠であると結論付けた報告書を発表しました。

WEFの分析では、サイバー犯罪におけるAIの使用を防ぐ上で4つの課題が指摘されています。最初の課題は攻撃者の高度化です。攻撃の量は増加し、「AIを搭載した技術は、攻撃者が匿名性と被害者からの距離を維持する能力を高める可能性がありますが、すでに挑戦的な環境で犯罪を特定し、調査することは難しいです。」

2番目の課題は目標の非対称性です。防御者は100%の成功率を達成する必要がありますが、攻撃者は1回だけ成功すればよいです。「AIと自動化は変動性とコストを減らし、スケールを向上させ、エラーを制限していますが、攻撃者もAIを使用してバランスを崩す可能性があります。」

3番目の課題は、組織が成長し、テクノロジーとデータ資産の規模と複雑性が増大するため、攻撃者が探索し、悪用できる表面が増えるという事実です。攻撃者を先んじるために、組織は「防御可能な『ボトルネック』を創出するのではなく、環境全体に努力を分散させるのではなく、AIや自動化などの高度な技術を展開できます。」

4番目の課題は、防御者がリスクと「運用的有効性」のバランスを達成することです。WEFは、セキュリティチームが「リスクベースのアプローチを使用し、ガバナンスプロセスと重要性のしきい値を確立し、運用リーダーにサイバーセキュリティ態勢を通知し、継続的に改善するためのイニシアチブを特定することで」これを達成できると考えています。WEFとそのパートナーは、Future Series：Cybercrime 2025プログラムを通じて、これらのリスクを軽減し、克服するために必要な効果的な措置を特定しようとしています。

フォーブスは、サイバーセキュリティにおけるAIの直接的な使用について4つのステップを特定しています。これは、フォーブスの寄稿者であるナヴィーン・ジョーシュによって準備され、以下のグラフィックに示されています。

どちらにしろ、サイバーセキュリティ分野の防御者と攻撃者は、技術が複雑性の新しい段階に達するにつれて、AIの使用を継続して開発するでしょう。