Facebook 删除了由人工智能生成并用于传播阴谋论的账户

社交媒体公司一直在通过各种方式尝试控制误导信息，尤其是在 2020 年选举季节之前。虽然 Twitter 最近禁止了其平台上的政治广告，但 Facebook (META ) 刚刚宣布已关闭数百个假账户、群组和页面。许多这些账户似乎具有由人工智能生成的个人资料图片，并且据报道已被用来传播虚假信息和阴谋论。

据福布斯报道，Facebook 表示，禁止的账户和页面与“生活的美丽”网络或“TheBL”有关，Facebook 称其与保守派新闻出版集团Epoch Times有关。根据 Facebook 的说法，Epoch Media Group 已经在许多现在被禁止的页面和群组上花费了近 950 万美元用于广告，其中许多帖子包含了亲特朗普的阴谋论。虽然 Epoch Media Group 否认这些指控，但 Facebook 表示，它与独立研究人员如 Graphika 和大西洋理事会的数字取证研究实验室（DFRLab）密切合作，以确定账户和页面的性质，然后采取行动。

根据 Facebook 的说法，这些账户因“协调的不真实行为”而被删除，故意误导他人关于他们的身份，并试图干预政治。 据 CNET 报道，Facebook 表示，这些账户经常发布内容以促进特定的政治候选人和意识形态，重点关注保守派选举、保守派政策和对特朗普总统的坚定支持。

Facebook 发布了一份 39 页的报告，涵盖了他们的许多发现。报告中一个值得注意的方面是，许多被禁止的账户都是在人工智能的帮助下创建的。Facebook 的研究人员在报告中指出：

“几十个假账户具有由人工智能生成的个人资料图片，这是作者所知的首次大规模部署假面孔。”

根据报告的发现，AI 生成的图像并不完美，细节往往会泄露它们的真实性质。图像中的连续元素，例如一个人戴的眼镜或头发，往往是不对称的。另外，背景细节往往模糊且失真。然而，这些元素可能在第一眼看起来并不明显，尤其是考虑到 Facebook 评论链中个人资料照片的大小。许多假个人资料似乎还具有假的个人资料信息，甚至可能由人工智能生成的假帖子。

据 NBC 报道，Facebook 的安全政策负责人 Nathaniel Gleicher 表示，账户的行为使他们被识别为不真实的，尝试使用假图像和个人资料信息并不能帮助他们避免被发现。Gleicher 表示，AI 生成的图像实际上使账户更容易被抓住。他说：

“我们检测到这些账户，因为它们从事假行为。使用 AI 生成的个人资料作为使自己看起来更真实的方式实际上并不能帮助他们。这里的最大收获是该网络使用假身份的严重性……新的东西是，这据称是一个美国媒体公司，利用外国行为者伪装成美国人来推广政治内容。我们过去曾多次看到国家行为者这样做。”

尽管如此，Graphika 和大西洋理事会的独立研究人员表示，恶意行为者能够如此轻松地创建这么多图像并使他们的账户看起来如此真实“令人担忧”。Facebook 和其他社交媒体公司正在承受压力，需要加强努力以打击政治虚假信息的传播，这将需要他们在技术上领先于那些试图传播虚假信息的人。

在 Facebook 删除这些账户、页面和群组之前，这些实体发布的内容已经传达给了数百万人。据报道，至少有 5500 万账户关注了 89 个不同页面中的一个。大多数关注者是非美国账户。总共，Facebook 删除了大约 600 个账户、90 个页面和 150 个群组。另外，大约 70 个账户也从 Instagram 中删除。

这一消息恰逢 Facebook 正在启动 DeepFake 检测挑战战役，该挑战战役将持续到 2020 年 3 月。Twitter 也最近禁止了几乎 6000 个账户，据怀疑这些账户起源于沙特阿拉伯，并发布了故意误导性的内容。