この選挙シーズンにおけるAIの影響が選挙詐欺に及ぼす影響の増大

2022年、ペンシルバニア州の郡選挙担当者を標的とした悪意のあるメールが、5月17日の予備選挙の頃に急増し、6ヶ月で546％以上増加した。従来のフィッシング攻撃に加えて、悪意のある大規模言語モデル（LLM）が使用される可能性があるため、日常的なアメリカ人がより現実的な詐欺の標的となる可能性が高い。

政府は、AIが私たちの日常生活に統合されるにつれて、注意を始めている。例えば、米国サイバーセキュリティ・インフラストラクチャー・セキュリティ庁は、選挙のセキュリティを強化するプログラムを立ち上げた。これは、政府と一般から、選挙シーズン中に悪意のある行為者から自分自身とデータを保護するための需要が高まっていることを示している。

さらに最近、2024年ミュンヘン安全保障会議では、20のテクノロジーとAI企業が「2024年選挙でのAIの欺瞞的使用に対するテクノロジー協約」を署名した。この協約は、選挙と選挙プロセスを保護するための指針を強調しており、予防、出所、検出、対応保護、評価、公共の認識が含まれる。マイクロソフト、Amazon (AMZN ) 、Googleなどの主要テクノロジー企業で構成されるこの協約は、業界における重要な変化を示しており、政治的所属を超えて、データセキュリティは、市民とサイバーセキュリティ専門家にとって、今年の残りの期間に関心事となるテーマである。さらに、生成的なAIは、悪意のある行為者が攻撃を実行する方法に大きな影響を与えることになる。これにより、非常に現実的な詐欺を作成することが容易になる。

選挙詐欺の種類

選挙シーズンに限らず、様々な手法とテクニックが使用されるが、投票の際には、これらの詐欺が増加する傾向にある。これらの詐欺の目的は、通常、個人のアカウントまたは金銭的利益を得ることであり、その結果は重大なものとなる。実際、ディープフェイク詐欺 alone で、米国では 3.4 億ドル以上の損失が発生している。

選挙シーズンに発生する詐欺の例としては以下のようなものがある：

• フィッシング：フィッシングには、個人情報を入手するために、偽のリンク、メール、ウェブサイトが使用される。通常、ターゲットシステムにマルウェアをインストールすることで、これらのデータは、他のアイデンティティを盗むために、貴重な資産へのアクセスを得るために、またはスパムメールでインボックスを圧倒するために使用される。選挙シーズンの場合、フィッシングメールは、寄付メールとして偽装され、市民が候補者に寄付しているように思われるが、実際には悪意のある行為者の計画に従っていることになる。
• ロボコール、偽装、AI生成ボイスまたはチャットボット：ニューハンプシャー州で見られたように、ロボコールがジョー・バイデン大統領を偽装し、市民に投票しないように促すことがある。選挙シーズンには、投票を偽装したり、政治家を偽装したりして、信頼を得るために、偽の投票や偽の情報が増える可能性がある。
• ディープフェイク：AIの登場により、ディープフェイクは非常に現実的なものとなり、ボスや好きな有名人を偽装するために使用されることがある。ディープフェイクは、AIを使用して顔や表情、声などを操作したビデオまたは画像である。私たちが日常的に出会うディープフェイクの多くは、誰かが何かをしたり言ったりしているように見える映像である。選挙シーズンには、候補者を偽装するためにディープフェイクが作成される可能性が高く、イギリスでは、ディープフェイクが選挙を操作するために使用される可能性があると懸念されている。

選挙へのAIの影響

これらの詐欺に加えて、AIアルゴリズムは、ユーザーが個人情報を漏らすように騙すために、より説得力のあるメッセージ、メール、ソーシャルメディア投稿を生成するために使用されている。

マイクロソフトとOpenAIは、サイバーセキュリティ脅威に関するブリーフィング「AI時代のサイバーセキュリティ脅威を乗り越え、防御を強化する」を公開した。このブリーフィングでは、ロシア、北朝鮮、イラン、中国の5つの脅威行為者が、GenAIを使用して新しい方法で作戦を強化していることが報告された。

チャットボット、ボイスクローニングなどは、AIを使用して、誤った情報を広め、悪性コードを開発し、個人を偽装するために使用される。ボイスクローニングツールは、選挙関係者の声や顔を非常にリアルに再現することができる。AIは、偽の投票者電話でコールセンターを洪水のように埋めることもできる。

最も警戒すべきは、選挙シーズンにおける主要なキャンペーン手段であるソーシャルメディアである。投票者は、投票したことを共有したり、好きな候補者を支持することを投稿したりする可能性がある。しかし、この年は、AIフィッシング（スミッシング、ヴィッシングを含む）詐欺の新しい増加が見られる。

ある人が特定の候補者を支持する投稿をしたとします。数分後、キャンペーンマネージャーから感謝のメールが届く可能性があります。その潜在的な被害者は、リンクをクリックすることで、資格情報の収集、金銭的損失、またはマルウェアのインストールにさらされる可能性があります。AIは、ターゲットを絞ったフィッシングキャンペーンをほぼリアルタイムで作成して配信できるため、無害-looking なソーシャルメディア投稿も、ユーザーを新しいレベルの現実的なフィッシングスキームにさらす可能性があります。

選挙シーズンに備える

フィッシングなどの攻撃は、非常に知識のある人でも気づかれないような、より現実的な詐欺を作成するために使用されることになる。生成的なAIの出現により、これらの影響はさらに加速される。

企業は、テクノロジーを使用してデータと従業員を保護する一方で、消費者も詐欺を発見して回避するための方法を知る必要がある。以下のような方法がある：

• ランダムなリンクやメールの件名に注意する
• 不明な送信者からのリンクをクリックしない
• 可能な限り2要素認証またはバイオメトリック認証を使用する
• ソーシャルメディアアカウントをプライベートにする
• 悪意のある活動を報告する
• 同僚や家族のメンバーに教育する
• .govドメインのウェブサイトを確認して、選挙候補者の正当性を確認する
• 仕事場にIT部門がある場合は、以下について問い合わせることもできる：
• ゼロトラストネットワーク
• フィッシング耐性のある2要素認証
• メールセキュリティツール（DMARC、DKIM、SPF）
• コンテンツをデジタル署名する方法（または通信を暗号化する別の方法）

選挙シーズンは、高警戒度の時期であるが、攻撃はいつでも発生する可能性があるため、サイバーセキュリティの基盤を年間を通じて強固に維持することが重要である。セキュリティツール（DMARC、DKIM、SPF）メソッドを使用してコンテンツをデジタル署名する方法（または通信を暗号化する別の方法）を使用して、選挙シーズンに備えることができる。