早期虚假信息警告系统开发，采用人工智能技术

圣母大学的研究人员正在开展一个项目，以应对网络虚假信息，包括媒体宣传活动，以煽动暴力，制造纷争，并干预民主选举。

研究团队依靠人工智能（AI）开发了一个早期警告系统。该系统能够识别篡改的图像，深度伪造视频和网络虚假信息。它是一个可扩展的，自动化的系统，使用基于内容的图像检索。然后，它可以应用基于计算机视觉的技术来识别多个社交媒体网络上的政治表情包。

蒂姆·温格（Tim Weninger）是圣母大学计算机科学和工程系的副教授。

“表情包很容易创建，甚至更容易分享，”温格说。“当谈到政治表情包时，这些可以用来帮助投票，但也可以用来传播不准确的信息和造成伤害。”

温格与沃尔特·沙伊尔（Walter Scheirer）合作，沙伊尔是圣母大学计算机科学和工程系的助理教授，另外还有研究团队的成员。

2019年印度尼西亚大选

该团队使用2019年印度尼西亚大选测试了该系统。他们从Twitter和Instagram上收集了超过200万张图像和内容，所有这些都与选举有关。

在选举中，左倾的，中立的现任总统击败了保守的，民粹主义候选人。选举后，暴力抗议爆发，导致8人死亡，数百人受伤。该团队的研究发现，社交媒体上发起了自发和协调的宣传活动，以影响选举和煽动暴力。

协调宣传活动使用了篡改的图像，传播虚假声明和歪曲某些事件。新闻故事和表情包被制造出来，使用合法的新闻标志，目的是激怒公民和双方的支持者。

其他地区

2019年印度尼西亚大选代表了世界其他地区可能发生的情况。虚假信息，特别是通过社交媒体传播，可能威胁民主进程。

圣母大学的研究团队包括数字法医专家和和平研究专家。根据团队的说法，该系统正在开发，以标记篡改的内容，目的是防止暴力，并警告记者或选举监察员注意潜在的威胁。

该系统仍处于研究和开发阶段，但最终将成为可扩展的和个性化的系统，允许用户监控内容。开发该系统的一些最大挑战包括确定如何扩大数据摄取和处理。根据沙伊尔的说法，该系统目前正在被评估，下一步将是转移到运营使用。

有可能该系统将被用于监控2020年美国大选，预计届时将会出现大量的虚假信息和操纵。

“虚假信息时代已经到来，”沙伊尔说。“一个深度伪造的视频可以取代演员在一部流行电影中，这看起来很有趣，但想象一下一个视频或表情包的唯一目的是为了让世界领导人相互对立——说他们实际上没有说过的话。想象一下这样的内容可以多快地在平台上分享和传播。考虑一下这些行为的后果。”