Dr. Srinivas Mukkamala, イヴァンティのチーフ・プロダクト・オフィサー Dr. Srinivas Mukkamala イヴァンティのチーフ・プロダクト・オフィサー

AIパワーのディープフェイクが選挙の完全性を脅かす — そして何をするべきか

選挙運動の広告はすでに少し混乱し、論争の的になることがあります。今、選挙運動の広告で候補者が強い意見を述べ、投票に影響を与えるような広告が出てきたとします — しかし、その広告は本物ではありません。ディープフェイクです。これは、将来的な仮説的な話ではありません。ディープフェイクは現実の、普遍的な問題です。私たちはすでにAIによって生成された「支持」のニュースを聞いてきましたが、聞いたことのあるものは表面的なものに過ぎません。2024年の米国大統領選挙に近づくにつれ、サイバーセキュリティと情報の完全性の未踏の領域に入ります。私はサイバーセキュリティとAIの両方がまだ新しい概念だったときからその交差点で働いてきましたが、現在起こっていることは今まで見たことがありません。人工知能、特に生成的なAIの急速な進化と、当然のことながら、現実的なディープフェイクを作成する容易さは、選挙の脅威の風景を変えました。この新しい現実は、選挙のセキュリティと有権者教育に関する基本的な前提を変更することを要求しています。兵器化されたAI私の個人的な経験を証拠として受け取らなくても、サイバーセキュリティの課題が前例のない速度で進化している証拠はたくさんあります。わずか数年で、潜在的な脅威者たちの能力と方法論が劇的に変化しました。この進化は、AI技術の急速な発展と一致していますが、心配するべき側面があります。例を挙げると： 脆弱性の迅速な兵器化。今日の攻撃者は、新しく発見された脆弱性を迅速に利用することができます。パッチが開発され、展開されるよりも速い場合があります。AIツールはこのプロセスをさらに加速させ、脆弱性の発見と利用の間の時間を短縮します。 攻撃対象の拡大。クラウドテクノロジーの広範な採用により、潜在的な攻撃対象が大幅に拡大しました。分散型インフラストラクチャとクラウドプロバイダーとユーザー間の共有責任モデルは、適切に管理されなければ、新しい攻撃ベクトルを作成します。 伝統的なセキュリティ対策の旧式化。レガシーセキュリティツールであるファイアウォールやウイルス対策ソフトウェアは、これらの進化する脅威、特にAI生成コンテンツの検出と緩和に追いつくのに苦労しています。 誰が話しているのかこの新しい脅威の風景では、ディープフェイクは選挙の完全性にとって特に悪意のある課題を表しています。最近の調査によると、オフィスの半分以上の従業員（54％）は、先進的なAIが誰かの声を真似できることを認識していません。この認識の欠如は、重要な選挙サイクルに近づくにつれて、潜在的な有権者の中で深刻な懸念を引き起こします。多くのことが懸かっています。今日のディープフェイク技術の洗練度により、国内外の脅威者が簡単な努力で信憑性のある偽のオーディオ、ビデオ、テキストコンテンツを作成できます。単純なテキストプロンプトで、より本物に近いディープフェイクを作成できます。この能力は、デマの広まりと世論操作に重大な影響を及ぼします。帰属と緩和の課題帰属は、AI生成の選挙干渉に対する我々が直面する最も重大な課題の1つです。歴史的に、選挙干渉は国家行為者と関連付けられてきましたが、AIツールの民主化により、さまざまなイデオロギー的動機を持つ国内グループがこれらの技術を使用して選挙に影響を与えることができます。潜在的な脅威者の拡散は、デマの源を特定して緩和する能力を複雑にします。また、伝統的なサイバーセキュリティ対策を超えた、多面的な選挙セキュリティアプローチの必要性を強調しています。選挙の完全性を維持するための調整された努力AIパワーのディープフェイクの選挙への挑戦に対処するには、複数のセクターをまたぐ調整された努力が必要です。私たちが注力すべき主な分野は以下のとおりです： AIシステムのセキュリティを左にシフト。AIシステムの開発自体に「左にシフト」のセキュリティ原則を適用する必要があります。これには、選挙干渉の潜在的な悪用を含む、セキュリティの考慮がAIモデルの開発の初期段階から含まれることを意味します。 セキュアな構成の適用。ディープフェイクを作成する可能性のあるAIシステムやプラットフォームには、デフォルトでロバストでセキュアな構成が必要です。これには、強力な認証措置と、生成できるコンテンツの種類の制限が含まれます。 AIサプライチェーンの保護。ソフトウェアサプライチェーンを保護するのと同様に、AIサプライチェーンにも注意を向ける必要があります。これには、AIモデルのトレーニングに使用されるデータセットと、生成的なAIシステムで使用されるアルゴリズムを慎重に検討することが含まれます。 検出能力の強化。特に選挙関連情報の文脈において、AI生成コンテンツを特定できる高度な検出ツールに投資し、開発する必要があります。これには、AI生成のデマに対抗するためにAI自体を利用することが含まれる可能性があります。 有権者教育と認識。ディープフェイクに対する私たちの防御の重要な要素は、情報に基づいた有権者です。有権者がAI生成コンテンツの存在と潜在的な影響を理解し、出会う情報を批判的に評価するためのツールを提供するための包括的な教育プログラムが必要です。 セクター間の協力。テクノロジー業界、特にITとサイバーセキュリティ企業は、政府機関、選挙管理官、メディア組織と密接に協力して、AI駆動の選挙干渉に対する統一された戦線を構築する必要があります。 今と次に何が起こるかこれらの戦略を実施するにつれて、それらの有効性を継続的に測定することが重要です。これには、選挙の議論と有権者の行動に対するAI生成コンテンツの影響を追跡するために特別に設計された新しいメトリックと監視ツールが必要になる可能性があります。また、私たちが戦略を迅速に適応させる準備をしなければなりません。AIの分野は急速に進化しているため、私たちの防御対策も同様に進化する必要があります。これには、より強固で適応性の高いセキュリティ対策を作成するためにAI自体を利用することが含まれる可能性があります。選挙におけるAIパワーのディープフェイクの課題は、サイバーセキュリティと情報の完全性の新しい章を表しています。これに対処するには、伝統的なセキュリティの枠組みを超えて、セクターや分野を超えた協力を促進する必要があります。目標は、AIの力を民主的なプロセスに役立てつつ、その潜在的な危害を緩和することです。これは技術的な課題だけではなく、社会的な課題でもあり、継続的な警戒、適応、協力が必要です。私たちの選挙の完全性 — そしてその結果、私たちの民主主義の健全性 — は、私たちがこの課題に真っ向から対処できる能力に依存しています。これは、テクノロジー者、政策立案者、市民全員に課せられた責任です。