人工智能工程师开发出检测传播虚假信息者意图的方法

在数字时代，处理虚假信息是一个复杂的问题。不仅要识别、标记和纠正虚假信息，还要区分那些负责传播虚假信息的人的意图。一个人可能无意中传播虚假信息，或者只是对某个问题发表自己的意见，即使后来被报道为事实。最近，达特茅斯大学的一组人工智能研究人员和工程师创建了一个可以从“假新闻”报告中推导出意见的框架。

据ScienceDaily报道，达特茅斯大学团队的研究最近发表在《实验与理论人工智能杂志》上。虽然之前的研究试图识别假新闻和打击欺骗，但这可能是首次研究旨在识别新闻报道中说话者的意图。虽然一个真实的故事可以被歪曲成各种欺骗形式，但区分是否有意图欺骗是很重要的。研究团队认为，意图在考虑虚假信息时很重要，因为欺骗只有在有意图欺骗时才是可能的。如果一个人没有意识到自己正在传播虚假信息，或者只是在发表自己的意见，那么就不能算作欺骗。

达特茅斯大学的工程教授尤金·桑托斯（Eugene Santos Jr.）向ScienceDaily解释为什么他们的模型尝试区分欺骗意图：

“故意欺骗听众的意图比无意中犯错的威胁要大得多。据我们所知，我们的算法是唯一能够检测欺骗并同时区分恶意行为和良性行为的方法。”

为了构建他们的模型，研究团队分析了欺骗性推理的特征。所得到的算法可以通过关注一个人过去的论点和当前陈述之间的差异来区分欺骗意图和其他形式的交流。研究团队构建的模型需要大量数据来衡量一个人如何偏离过去的论点。用于训练他们模型的训练数据包括来自对争议话题的意见调查的数据。超过100人对这些争议话题发表了自己的意见。数据还包括来自20家不同酒店的评论，包括400条虚构评论和800条真实评论。

根据桑托的说法，研究人员开发的框架可以被新闻组织和读者改进和应用，以分析“假新闻”文章的内容。读者可以检查文章中是否存在意见，并自行判断是否使用了逻辑论证。桑托还表示，团队希望研究虚假信息的影响及其涟漪效应。

流行文化通常将非语言行为，如面部表情，描绘为判断某人是否在撒谎的指标，但研究论文的作者指出，这些行为线索并不总是可靠的撒谎指标。论文的共同作者德青李（Deqing Li）解释说，他们的研究发现，基于推理意图的模型比基于行为和语言差异的模型更好地指示撒谎。李解释说，推理意图模型“更擅长区分故意撒谎和其他类型的信息歪曲”。

达特茅斯研究人员的工作并不是最近在使用人工智能打击虚假信息方面的唯一进展。新闻文章的标题经常掩盖虚假信息。例如，它们经常暗示了一件事发生了，而实际上发生了另一件事。

据AINews报道，亚利桑那州立大学和宾夕法尼亚州立大学的研究人员合作创建了一个可以检测标题党的AI。研究人员要求人们编写自己的标题党标题，并编写了一个程序来生成标题党标题。然后使用这两种形式的标题来训练一个可以有效地检测标题党标题的模型，无论它们是由机器还是人编写的。

根据研究人员的说法，他们的算法在检测标题党标题方面比以前的AI更准确，准确率提高了大约14.5%。该项目的首席研究人员和宾夕法尼亚州立大学信息科学与技术学院的副教授董元李（Dongwon Lee）解释了他们的实验如何展示使用AI生成数据并将其反馈到训练流水线中的实用性。

“这个结果相当有趣，因为我们成功地证明了机器生成的标题党训练数据可以反馈到训练流水线中，以训练各种机器学习模型并提高其性能，”李解释道。