ボットは2020年の選挙で人間の行動をよりよく模倣するように進化した

USC情報科学研究所（USC ISI）のコンピューターサイエンティストであるエミリオ・フェラーラは、新しい研究で、ソーシャルメディアのボットや偽アカウントが、検出されないように人間の行動をよりよく模倣するように進化していることを示している。これは、主に人工知能によって可能になっている。

フェラーラと彼のチームによる研究（チームメンバーには、ルカ・ルチェリ（Scuola Universitaria Professionale della Svizzera Italiana）、アショク・デブ（USC ISI）、シルビア・ジョルダーノ（Scuola Universitaria Professionale della Svizzera Italiana）が含まれる）は、ジャーナル「First Monday」に掲載された。この研究では、2016年と2018年の米国選挙期间に使用されたさまざまなボットと偽アカウントの行動を比較検討した。

研究チームは、約25万人のソーシャルメディアのアクティブユーザーを調査し、2016年と2018年の選挙について議論したユーザーに焦点を当てた。25万人のユーザーのうち、3万人がボットであった。

2016年の選挙では、ボットは主にリツイートを行い、同じ問題やメッセージに関する大量のツイートを送信していた。2018年のボットは、人間と同様にソーシャルメディアで進化した。ボットはリツイートを行う頻度が減り、高い頻度でメッセージを共有するのをやめた。

2018年のボットは、人間の行動をよりよく模倣するようになった。研究者は、ボットがより本物らしく見せるために、複数のボットを同時に使用する可能性が高くなったことを発見した。ボットは、ある考えやメッセージについての本物の人間の関与を模倣するために、これを使用した。

当時、人間はリツイートではなく返信を通じて関与し始めた。ボットもこれに従った。ボットは、対話に参加し、問題やメッセージについての声を持つために返信を使用した。ボットはまた、正当なニュース媒体や世論調査機関によって使用される戦略を模倣するために、投票を使用した。研究者は、ボットが信頼性のあるイメージを作るためにこれらの投票を使用したと考えている。

研究者が使用した例の1つは、連邦選挙についてのオンラインツイッターポールを投稿したボットである。ポールでは、選挙で投票する際に身分証明書を提示する必要があるかどうかを尋ね、ツイッターのユーザーに投票し、ポールをリツイートするように求めた。

研究の主著者であるエミリオ・フェラーラは、新しい研究とその意味について話した。

「私たちの研究は、ボットと検出アルゴリズムの間で武器競争が行われているという考えをさらに裏付ける。ソーシャルメディア企業が悪用を軽減し、自動化アカウントを抑制するための努力を増やすにつれて、ボットは人間の戦略を模倣するように進化する。人工知能の進歩により、ボットはより人間らしいコンテンツを生成できるようになる。ボットがどのように進化し、より洗練されたボットを検出する方法を理解するための努力をより多く払う必要がある。2020年の米国選挙が近づく中、民主的なプロセスを外部の影響から守るために、ソーシャルメディアの議論の完全性は極めて重要である。」

将来への大きな影響

オンラインのソーシャルメディアの偽アカウントやボットの問題は、選挙期間中ずっと大きな問題であった。2016年の選挙期間中の問題は当時としては大きかったが、それは近未来に起こることの小さな一部にすぎない。人工知能の進歩により、状況は悪化する。

ボットは、人間の行動をよりよく模倣するように進化し続けるだろう。これは主に人工知能によって可能になる。ボットが人間と区別できないレベルに達する時が来る。つまり、2020年の米国選挙だけでなく、将来のすべての選挙に対して、重大な影響が生じることになる。