フェイスブック、AIによって生成されたアカウントを削除し、陰謀論を広めていたアカウントを停止

ソーシャルメディア企業は、2020年の選挙シーズン前に、様々な方法で誤情報を制御しようとしています。ツイッターは最近、プラットフォームから政治広告を禁止しましたが、フェイスブックは数百の偽のアカウント、グループ、ページを閉鎖したことを発表しました。これらのアカウントの多くは、プロフィール画像が人工知能によって生成されたように見えますが、多くは誤情報や陰謀論を広めるために使用されていたと報告されています。

フォーブスによると、フェイスブックは、禁止されたアカウントやページが「Beauty of Life」ネットワーク、または「TheBL」と呼ばれるものにリンクされていたと述べました。フェイスブックによると、TheBLは、保守的なニュース出版グループであるエポックタイムズにリンクされていたとされています。フェイスブックによると、エポックメディアグループは、禁止されたページやグループを通じて約950万ドルを広告に費やしており、多くの投稿がトランプ大統領を支持する陰謀論を含んでいました。エポックメディアグループはこれらの非難を否定していますが、フェイスブックは、グラフィカやアトランティックカウンシルのデジタルフォレンジックリサーチラボ（DFRLab）などの独立した研究者と密接に協力して、アカウントやページの性質を決定するために行動を起こす前に調査を行ったと述べています。

フェイスブックによると、アカウントは「調整された不正な行動」、自分たちのアイデンティティについて他人を故意に欺くこと、および政治干渉を試みたために削除されました。CNETによると、フェイスブックは、アカウントが特定の政治家やイデオロギーを推進するコンテンツを投稿していたと述べています。フェイスブックは、保守的な選挙、保守的な政策、トランプ大統領への強い支持に焦点を当てていたと述べています。

フェイスブックは、この出来事に関する39ページの報告書を公開しました。報告書の中で注目すべき点の1つは、禁止されたアカウントの多くが人工知能の支援を受けて作成されたことです。フェイスブックの研究者は報告書の中で次のように述べています。

「これらの偽のアカウントの何十もが、人工知能によって生成されたプロフィール画像を持っていました。これは、報告書の著者が知る限りでは、偽の顔の最初の大規模な展開でした。」

報告書の調査結果によると、AIによって生成された画像は完全ではありませんでした。画像の詳細は、偽の性質を明らかにしていました。画像の中の連続する要素、たとえば眼鏡や髪の毛は、非対称でした。さらに、背景の詳細は、ぼかされ、歪んでいました。ただし、これらの要素は、最初の目で見えにくい可能性があります。特に、フェイスブックのコメントチェーンでのプロフィール画像のサイズは小さく、気づきにくい可能性があります。多くの偽のプロフィールは、偽のプロフィール情報や投稿、さらにはAIによって生成された投稿を持っていたようです。

NBCによると、フェイスブックのセキュリティポリシーの責任者、ネイサニエル・グライヒャーは、アカウントの行動が不正なものであることを示していたと述べています。グライヒャーは、偽の画像やプロフィール情報を使用することは、アカウントを発見するのを助けるものではないと述べています。グライヒャーは、AIによって生成された画像が、アカウントを発見する可能性を高めていたと述べています。グライヒャーは次のように述べています。

「私たちは、これらのアカウントを偽の行動によって検知しました。AIによって生成されたプロフィールを使用して自分たちをよりリアルに見せることは、実際には助けになりません。ここでの最大の教訓は、ネットワークが偽のアイデンティティを使用して政治的なコンテンツを推進していることです。アメリカ国内のメディア会社が、外国人を装ったアメリカ人として政治的なコンテンツを推進していることは、以前から見られませんでした。」

それでも、グラフィカやアトランティックカウンシルの独立した研究者は、悪意のあるアクターが多くの画像を作成し、アカウントに偽の現実性を与えることができたのは、懸念すべきことであると述べています。フェイスブックや他のソーシャルメディア企業は、政治的な誤情報の拡散に対抗するための努力を強化する圧力を受けています。これは、誤情報を広めることを目指す人々に対して技術的に先んじる必要がある課題です。

フェイスブックがアカウント、ページ、グループを閉鎖する前に、これらのエンティティによって投稿されたコンテンツは、数百万の人々に到達していました。少なくとも5500万のアカウントが、89の異なる禁止されたページの1つをフォローしていました。フォロワーの大部分は、アメリカ国外からのアカウントでした。合計で、約600のアカウント、90のページ、150のグループがフェイスブックから削除されました。インスタグラムからも約70のアカウントが削除されました。

このニュースは、フェイスブックがディープフェイク検出チャレンジを開始する直前に発表されました。このチャレンジは、2020年3月まで行われる予定です。ツイッターも、最近、サウジアラビアから発信されたと疑われる約6000のアカウントを禁止しました。これらのアカウントは、故意に誤解を招くコンテンツを投稿していたと報告されています。