サイバーセキュリティ専門家がAIサイバー攻撃から防御する

良い意図を持っている人が、人工知能の利点を利用するわけではありません。サイバーセキュリティは、特定のサイバーシステムを守ろうとする人と、それを攻撃しようとする人、両方が最も先進的な技術を利用している分野です。

このテーマについての分析において、World Economic Forum (WEF)は、2019年3月に、「彼が親会社のCEOであると思っていた電話を受けた後、ある大手エネルギー会社のCEOが、新しい東ヨーロッパのサプライヤーの口座に€220,000を緊急に転送することを許可した」という例を挙げています。数時間以内に、金額はラテンアメリカの口座のネットワークを経由して、人工知能（AI）を使用してCEOの声を信頼性高く模倣した疑わしい犯罪者に渡されました。」一方、Forbesは、「オハイオ州とウェストバージニア州の2つの病院が、ランサムウェア攻撃のため患者を断ったという事例を挙げています。システムの故障により、病院は緊急患者のリクエストを処理できなかったため、入院する患者を近くの病院に送りました。」

このサイバーセキュリティの脅威は、確実に EquifaxとWorld Economic Forumが、Future Series: Cybercrime 2025の最初の会議を開催した理由です。世界中のサイバーセキュリティの専門家が、ジョージア州アトランタで会合を開き、サイバーセキュリティの分野でAIが彼らに与える可能性について議論します。また、Capgemini Research Instituteは、報告書を発表し、ほぼすべての組織がAIでサイバーセキュリティの防御を強化することが不可欠であると結論付けています。

WEFの分析では、AIをサイバー犯罪に使用しないことを防ぐ上で4つの課題が挙げられています。第一に、攻撃者の高度化 – 攻撃の量は増加し、「AI搭載テクノロジーは、すでに犯罪の特定や捜査が困難な環境において、攻撃者が匿名性と被害者からの距離を維持する能力を高める可能性があります。」

第二に、目標の非対称性 – 守備側は100%の成功率を達成する必要がありますが、攻撃側は1度だけ成功すればよい。「AIや自動化は変動性とコストを削減し、スケールを向上させ、エラーを制限していますが、攻撃者もAIを使用してバランスを変える可能性があります。」

第三に、組織が成長するにつれて、「テクノロジーとデータ資産の規模と複雑さも増大し、攻撃者は探索し、悪用できる表面が増えます。攻撃者に対抗するために、組織はAIや自動化などの高度なテクノロジーを利用して、防御可能な『ボトルネック』を創造することができます。」

第四に、守備側の可能なリスクと実際の「運用的有効性」のバランスを達成することです。WEFは、「セキュリティチームは、リスクベースのアプローチを使用して、ガバナンスプロセスと重要性のしきい値を確立し、運用リーダーにサイバーセキュリティのポストを通知し、継続的に改善するためのイニシアチブを特定することができます。」と述べています。Future Series: Cybercrime 2025プログラムを通じて、WEFとそのパートナーは、「これらのリスクを軽減し、克服するために必要な効果的な措置を特定する」ことを目指しています。

一方、Forbesは、Naveen Joshiが作成し、以下のグラフィックに示された、サイバーセキュリティでAIを直接使用する4つのステップを特集しています:

どちらにしろ、サイバーセキュリティの分野で守備側と攻撃側は、テクノロジーが新しい複雑さの段階に達するにつれて、人工知能の使用を継続的に開発することになります。