Facebook 删除由 AI 生成并用于传播阴谋论的账户

社交媒体公司一直试图通过各种方式控制错误信息，尤其是在 2020 年选举季节来临之前。虽然 Twitter 最近禁止了其平台上的政治广告，但 Facebook 刚刚宣布已经关闭了数百个假账户、群组和页面。许多这些账户似乎使用了由人工智能生成的个人资料图片，并且据报道已被用于传播错误信息和阴谋论。

据 Forbes 报道，Facebook 表示，禁止的账户和页面与“生命之美”网络或“TheBL”有关，Facebook 称其与保守派新闻出版集团 Epoch Times 有关。根据 Facebook 的说法，Epoch Media Group 已经在现在禁止的页面和群组上花费了近 950 万美元用于广告，其中许多帖子包含了亲特朗普的阴谋论。虽然 Epoch Media Group 否认这些指控，但 Facebook 表示，它与独立研究人员如 Graphika 和大西洋理事会的数字法医研究实验室 (DFRLab) 密切合作，以确定账户和页面的性质，然后对其采取行动。

根据 Facebook 的说法，这些账户因“协调的不真实行为”而被删除，故意误导他人关于他们的身份，并试图干预政治。 据 CNET 报道，Facebook 表示，这些账户经常发布内容以推广特定的政治候选人和意识形态，重点关注保守派选举、保守政策和对特朗普总统的坚定支持。

Facebook 发布了一份 39 页的报告，涵盖了他们的许多发现。Facebook 报告中一个值得注意的方面是，许多被禁止的账户都是在人工智能的帮助下创建的。Facebook 的研究人员在报告中表示：

“几十个假账户有由人工智能生成的个人资料图片，这是作者第一次看到的大规模部署的假面孔。”

根据报告的发现，AI 生成的图像并不完美，图像中的细节往往会暴露其真实性质。图像中的连续元素，如一个人的眼镜或头发，往往是不对称的。另外，背景细节往往模糊和扭曲。然而，这些元素可能不容易被察觉，特别是考虑到 Facebook 评论链中个人资料照片的大小。许多假个人资料似乎还有假的个人资料信息，甚至还有假的帖子，可能是由人工智能生成的。

据 NBC 报道，Facebook 的安全政策负责人 Nathaniel Gleicher 表示，账户的行为是使其被识别为不真实的原因，尝试使用假图像和个人资料信息并不能帮助账户避免被发现。Gleicher 表示，AI 生成的图像实际上使账户更容易被抓住。Gleicher 说：

“我们检测到这些账户是因为它们从事假行为。使用 AI 生成的个人资料作为使自己看起来更真实的方式实际上并不能帮助它们。这里最大的收获是网络使用假身份的严重性… 这里有什么新鲜的，是一个据称是美国媒体公司利用外国行为者伪装成美国人来推广政治内容。我们过去经常看到国家行为者这样做。”

尽管如此，Graphika 和大西洋理事会的独立研究人员表示，恶意行为者能够如此轻松地创建如此多的图像并使其账户具有看似真实性的“是一个令人担忧的问题”。Facebook 和其他社交媒体公司正在承受压力，要求它们加强努力以打击政治错误信息的传播，这将需要在技术上领先于那些试图传播错误信息的人。

在 Facebook 关闭这些账户、页面和群组之前，这些实体发布的内容已经到达了数百万人。据报道，至少有 5500 万个账户关注了 89 个不同的禁止页面。其中大多数关注者是非美国账户。总共有大约 600 个账户、90 个页面和 150 个群组从 Facebook 中删除。另外，大约 70 个账户也从 Instagram 中删除。

这一消息恰逢 Facebook 正在启动 DeepFake 检测挑战，这将持续到 2020 年 3 月。Twitter 也最近禁止了几乎 6000 个账户，据怀疑这些账户源自沙特阿拉伯，并发布了故意误导性的内容。