FacebookはAIによって生成されたアカウントを削除、陰謀論を永続させるために使用されていた

ソーシャルメディア企業は、2020年の選挙シーズン前に、様々な方法で誤情報を制御しようとしています。Twitterは最近、プラットフォームから政治広告を禁止しましたが、Facebookは数百の偽アカウント、グループ、ページを閉鎖したことを発表しました。多くのアカウントには、人工知能によって生成されたプロフィール画像があり、多くのアカウントが誤情報や陰謀論を広めるために使用されていたと報告されています。

Forbesによると、Facebookは、禁止されたアカウントやページは、「Beauty of Life」ネットワーク、または「TheBL」と呼ばれるものにリンクされており、Facebookによると、保守的なニュース出版グループであるEpoch Timesにリンクされていたと述べました。Facebookによると、Epoch Media Groupは、禁止されたページやグループを通じて約950万ドルの広告費を支払い、多くの投稿にはトランプ大統領を支持する陰謀論が含まれていたと述べました。Epoch Media Groupはこれらの主張を否定していますが、Facebookは、GraphikaやAtlantic CouncilのDigital Forensic Research Lab (DFRLab)などの独立した研究者と密接に協力して、アカウントやページの性質を調査した後、対策を講じたと述べました。

Facebookによると、アカウントは、「調整された不正な行動」、他者に対する身元の誤解、政治的干渉の試みのために削除されました。 CNETによると、Facebookは、アカウントが特定の政治家やイデオロギーを支持するコンテンツを投稿していたと述べました。保守的な選挙、保守的な政策、トランプ大統領への強い支持に焦点を当てていたと述べました。

Facebookは、この出来事に関する39ページの報告書を公開しました。報告書の注目すべき点の1つは、禁止されたアカウントの多くが、人工知能の支援を受けて作成されたことです。Facebookの研究者は報告書で次のように述べています。

「これらの偽アカウントの何十もが、人工知能によって生成されたプロフィール画像を持っており、これは、報告書の著者にとって初めての大規模な偽の顔の展開でした。」

報告書の調査結果によると、AIによって生成された画像は完璧ではなく、細部が真の性質を明らかにしていました。画像の連続する要素、たとえば眼鏡や髪は、非対称でした。さらに、背景の詳細は、ぼやけていて歪んでいました。ただし、これらの要素は、最初の目に触れないかもしれません。特に、Facebookのコメントチェーンのプロフィール画像のサイズは小さいためです。多くの偽のプロフィールには、偽のプロフィール情報や偽の投稿もあり、AIによって生成された可能性があります。

NBCによると、Facebookのセキュリティポリシーの責任者、Nathaniel Gleicherは、アカウントの行動が不正なものであることを示し、偽の画像やプロフィール情報を使用する試みは、アカウントを発見から守るのを助けないと述べました。Gleicherは、AIによって生成された画像が実際にアカウントをより発見されやすくしていることを述べました。Gleicherは次のように述べています。

「私たちは、これらのアカウントが偽の行動に従事していることを検出しました。AIによって生成されたプロフィールを使用して自分自身をより現実的に見せることは、実際には彼らを助けません。ここでの最大の教訓は、ネットワークの偽の身元を使用して政治的コンテンツを推進することの重大性です… ここで新しいのは、米国に拠点を置くメディア会社が、政治的コンテンツを推進するためにアメリカ人として偽装した外国人を利用しているということです。過去に国家行為者からこれを見たことがあります。」

ただし、GraphikaやAtlantic Councilの独立した研究者は、悪い行為者が多くの画像を作成し、アカウントに認識された正当性を与えることができたことは「懸念事項」であると述べました。Facebookや他のソーシャルメディア企業は、政治的誤情報の蔓延に対抗するための努力を強化する必要があります。これは、技術的に誤情報を広めることを目指す人々を先んじる必要があるタスクです。

Facebookがアカウント、ページ、グループを削除する前に、これらのエンティティによって投稿されたコンテンツは、数百万の人々に到達しました。報告によると、少なくとも5500万のアカウントが、89の異なる禁止されたページの1つをフォローしていました。ほとんどのフォロワーは米国以外のアカウントでした。合計で、約600のアカウント、90のページ、150のグループがFacebookから削除されました。約70のアカウントもInstagramから削除されました。

このニュースは、FacebookがDeepFake検出チャレンジを開始する直前に発表されました。このチャレンジは、2020年3月まで実施される予定です。Twitterも、最近、サウジアラビアから発信されたと疑われる約6000のアカウントを禁止しました。这些アカウントは、故意に誤解を招くコンテンツを投稿していたと報告されました。