AI 模型可以在用户行动前识别虚假信息传播者

谢菲尔德大学的研究人员创建了一个可以潜在地确定哪些 Twitter 用户会发布虚假信息的 AI 模型，即使在他们实际发布之前。如果该模型被证明是可靠的，它可以被用来补充现有的对抗虚假信息的方法，特别是在社交媒体上。

根据 TechXplore 的报道，该研究由谢菲尔德大学计算机科学系的研究人员领导，包括 Nikos Aletras 博士和 Yida Mu。该研究发表在 PeerJ 期刊上，详细介绍了预测社交媒体用户是否可能传播虚假信息的方法，方法是发布不可靠的新闻来源的内容。

研究团队收集了超过 100 万条来自 6000 多名 Twitter 用户的推文，所有这些数据都是公开可用的。该团队应用自然语言处理技术来准备数据以训练 AI 模型。该 AI 模型是一个二元分类模型，标记用户为可能或不可能分享不可靠来源的信息。训练完成后，该模型能够达到大约 79.7% 的分类准确率。

分析模型性能的结果时，研究人员发现那些大量使用不礼貌语言并不断发布关于宗教和政治的推文的用户更有可能发布不可靠来源的信息。特别是，他们经常使用诸如“自由派”、“媒体”、“政府”、“以色列”和“伊斯兰教”等词语。与此同时，发布可靠来源信息的用户往往使用诸如“我会”、“要”、“想”、“情绪”和“生日”等词语。此外，他们通常分享关于他们的个人生活的故事，例如与朋友的互动、他们的情绪或关于他们的爱好的信息。

该研究的发现可以帮助社交媒体公司，如 Facebook (META ) 、Reddit 和 Twitter，开发新的方法来对抗在线虚假信息的传播。该研究还可以帮助心理学家和社会科学家更好地理解导致虚假信息在社交网络中广泛传播的行为。

正如 Aletras 根据 TechXplore 所说，社交媒体已经成为人们获取新闻的主要方式之一。全球数百万用户每天通过 Facebook 和 Twitter 获取新闻故事，但这些平台也已成为传播虚假信息的工具。Aletras 进一步解释说，能够可靠地识别某些用户行为趋势可以帮助遏制虚假信息。正如 Aletras 所说，“不礼貌语言使用和不可靠内容传播之间的相关性可以归因于在线政治敌对性。”

根据 Mu 的分析，研究分享不可靠信息的用户的行为可以帮助社交媒体平台通过补充现有的事实核查方法和在用户级别建模虚假信息。 正如 Mu 在 TechXplore 上所说：

“研究和分析分享不可靠新闻来源内容的用户的行为可以帮助社交媒体平台在用户级别防止虚假新闻的传播，补充现有的在帖子或新闻来源级别工作的事实核查方法。”

Aletras 和 Mu 进行的研究可能是使用 AI 对抗由 AI 生成的虚假信息的一个例子。过去几个月，围绕地方和国家政治的虚假信息有所增加，内容大部分由 AI 算法生成和传播。深度神经网络被用于构造真实的照片和为虚假新闻传播者创建的虚假账户的个人资料。Aletras 和 Mu 从事的研究可以帮助社交媒体公司确定哪些账户是虚假的，哪些是由 bot 创建的，目的是传播有害的宣传和虚假信息。