サイバーセキュリティ
Generative AI in Cybersecurity: The Battlefield, The Threat, & Now The Defense
The Battlefield
Generative AIの能力に対する期待が、急速に懸念に変わった。Generative AIツールであるChatGPT、Google Bard、Dall-Eなどは、セキュリティとプライバシーの懸念により、注目を集めている。現実と非現実の区別がつかなくなっている。Generative AIは、高度に妥当で、そして説得力のあるコンテンツを生成できる。60 Minutesの最近のAIに関するセグメントの終わりで、ホストのScott Pelleyは、次のように述べた。「私たちが60 Minutesで初めて行うことですが、AI革命の中で、聞く機会が増えることになるでしょう。前述の内容は、100%人間のコンテンツで作成されています。」
Generative AIサイバー戦争は、この妥当で現実的なコンテンツから始まり、戦場は、ハッカーがGenerative AIを利用し、ChatGPTなどのツールを使用して攻撃を行っている場所である。特に、リソースが限られている、または技術的な知識がゼロのサイバー犯罪者にとって、Generative AIを使用して社会工学、フィッシング、または擬装攻撃を行うことは非常に容易である。
The Threat
Generative AIは、ますます複雑なサイバー攻撃を助長する力を持っている。
この技術が人間のようなコンテンツを容易に生成できるため、新しいサイバー詐欺がセキュリティチームに簡単に発見されることはない。AI生成の詐欺は、メールやメッセージアプリを介したマルチチャンネルフィッシング攻撃などの社会工学攻撃の形式を取ることができる。実際の例として、Outlook（メール）またはSlack（メッセージアプリ）を介して、第三者ベンダーから企業の幹部に送信されたドキュメントが含まれるメールまたはメッセージがある。メールまたはメッセージは、請求書を表示するためにクリックするように指示する。Generative AIを使用すると、偽のメールまたはメッセージと本物のメールまたはメッセージを区別することはほぼ不可能である。したがって、これは非常に危険である。
最も心配な例の1つは、Generative AIを使用すると、サイバー犯罪者が、攻撃者自身が言語を話さなくても、複数の言語で攻撃を行うことができるということである。目標は、広範なネットワークを張り、サイバー犯罪者は言語に基づいて被害者を区別しない。
Generative AIの進歩は、これらの攻撃の規模と効率が継続的に増加することを示唆している。
The Defense
Generative AIに対するサイバー防御は、パズルの欠けているピースとして知られている。ただし、現在はそうではない。マシン対マシンの戦闘、またはAI対AIを使用して、この新しい脅威に対して防御することができる。しかし、この戦略はどのように定義され、どのように見えるべきか。
まず、業界は人間対コンピュータではなく、コンピュータ対コンピュータの戦闘に取り組む必要がある。この取り組みを実行するために、AI生成の脅威を検出することができる、先進的な検出プラットフォームを検討する必要がある。Generative AIから生じる社会工学攻撃を検出して、フラグを設定して解決する時間を短縮することができる。人間ではできないことである。
私たちは最近、どのように見えるかをテストした。ChatGPTに、複数の言語で言語ベースのコールバックフィッシングメールを生成するように指示した。自然言語理解プラットフォームまたは先進的な検出プラットフォームがそれを検出できるかどうかを確認した。ChatGPTに、英語と日本語で、「ソフトウェアライセンス契約の最終通知について電話するように促す緊急メールを書いてください」というプロンプトを与えた。
先進的な検出プラットフォームは、すぐにメールを社会工学攻撃としてフラグすることができた。ただし、Outlookのフィッシング検出プラットフォームなどのネイティブなメールコントロールはできなかった。ChatGPTのリリース前に、会話型の言語ベースの攻撃による社会工学は、リンクやペイロードなしでインボックスに着陸することができたため、成功を収めた。したがって、マシン対マシンの戦闘で防御する必要があるが、効果的な砲弾である先進的な検出プラットフォームを使用していることを確認する必要がある。誰でもこれらのツールを使用することができ、Generative AIに対する戦いにおいて優位性を持つことができる。
ChatGPTやその他のGenerative AI形式によって提供される社会工学攻撃の規模と妥当性については、マシン対マシンの防御をさらに洗練することができる。たとえば、この防御は複数の言語で展開することができ、メールセキュリティに限定されず、Slack、WhatsApp、Teamsなどの他のコミュニケーションチャネルでも使用することができる。
Remain Vigilant
LinkedInをスクロールしているときに、私たちの従業員の1人がGenerative AIの社会工学攻撃に遭遇した。奇妙な「白書」ダウンロード広告が表示されたが、Dall-Eによって生成された画像の右下隅に特徴的な色パターンが表示されていた。
この偽のLinkedIn広告に遭遇したことは、Generative AIと組み合わせた新しい社会工学の危険性を思い出させる重要なリマインダーであった。より注意深く、疑わしい態度でいることが非常に重要である。
Generative AIがサイバー犯罪に使用される時代が到来し、利用可能なすべてのツールを使用して戦う準備をしなければならない。
