AIモデルはデマを広めるユーザーを事前に特定できる

シェフィールド大学の研究者によって作成されたAIモデルは、Twitterのユーザーがデマを投稿する前に、そのユーザーを特定することができる可能性がある。モデルが信頼性が高い場合、ソーシャルメディアでのデマ対策のための既存の方法を補完するために使用できる。

TechXploreによると、この研究は、シェフィールド大学のコンピューターサイエンス学部の研究者、ニコス・アレトラス博士とイーダ・ムによって主導された。研究は、PeerJ誌に掲載され、ソーシャルメディアのユーザーが信頼できないニュース源からのコンテンツを投稿する可能性を予測するために使用された方法について説明している。

研究チームは、6000人以上のTwitterユーザーから約100万件のツイートを収集し、すべてが公開されていた。チームは、自然言語処理技術を使用して、データをAIモデルへのトレーニングのために準備した。AIモデルは、ユーザーを信頼できない情報源からの情報を共有する可能性のあるものまたはそうでないものに分類する二値分類モデルであった。モデルがトレーニングデータでトレーニングされた後、約79.7%の分類精度を達成した。

モデル性能の結果を分析した研究者は、不礼貌な言語を頻繁に使用し、宗教や政治について頻繁にツイートするユーザーは、信頼できない情報源からの情報を投稿する可能性が高いことを発見した。特に、「リベラル」、「メディア」、「政府」、「イスラエル」、「イスラム教」という言葉が頻繁に使用されていた。一方、信頼できる情報源からの情報を投稿するユーザーは、「I’ll」、「gonna」、「wanna」、「mood」、「excited」、「birthday」という言葉を使用する傾向があった。また、友人との交流、感情、または趣味についての話題を共有する傾向にもあった。

研究の結果は、Facebook (META ) 、Reddit、Twitterなどのソーシャルメディア企業が、オンラインでのデマの拡散に対抗するための新しい方法を開発するのに役立つ可能性がある。研究はまた、心理学者や社会学者が、ソーシャルネットワーク内でのデマの拡散につながる行動をよりよく理解するのに役立つ可能性がある。

Aletrasによると、ソーシャルメディアは、人々がニュースを入手する主要な方法になっている。世界中の数百万の人々が毎日FacebookやTwitterを通じてニュースを入手しているが、これらのプラットフォームは社会全体にデマを広めるためのツールにもなっている。Aletrasは、ユーザーの行動の特定の傾向を特定することで、デマを抑制するのに役立つ可能性があると説明した。Aletrasは、不礼貌な言語の使用と信頼できないコンテンツの拡散の間には相関関係があると述べた。

Muによると、信頼できない情報源からのコンテンツを共有するユーザーの行動を分析することで、ソーシャルメディアプラットフォームが既存の事実確認方法を補完し、ユーザーレベルでのデマをモデル化するのに役立つ可能性がある。MuはTechXploreに次のように述べた。

「信頼できないニュース源からのコンテンツを共有するユーザーの行動を研究し、分析することで、ソーシャルメディアプラットフォームがユーザーレベルでのデマの拡散を防ぐのに役立つ可能性がある。既存の事実確認方法を補完し、投稿またはニュース源レベルでのデマをモデル化することができる」

AletrasとMuによる研究は、AIを使用してAIによって生成されたデマに対抗する例である可能性がある。近月では、地元や全国的な政治に関するデマが増加しており、その多くはAIアルゴリズムによって生成および拡散されている。ディープラーニングを使用して、偽のアカウントの写真やプロフィールを生成し、デマの拡散者として機能することができる。AletrasとMuが行っている研究は、ソーシャルメディア企業が、有害なプロパガンダやデマを広める目的で作成されたボットアカウントである偽のアカウントを特定するのに役立つ可能性がある。