Facebook 的 AI 如何传播错误信息和威胁民主

曾在 LinkedIn 负责 AI 研究的 Dan Tunkelang 表示：“当推荐有影响决策的力量时，它们就会成为骗子、诈骗者和其他不怀好意的人的目标。”

这是社交媒体公司如 Facebook 正在面临的困境。Facebook 使用 隐式反馈 来跟踪点击、查看和其他可衡量的用户行为。这种反馈被用来设计一个“推荐引擎”，这是一个具有决定用户看到什么内容和何时看到的最终权力的 AI 系统。

Facebook 优化了其推荐引擎，以最大化用户参与度，即用户在 Facebook 平台上花费的时间。时间最大化优先于任何其他变量，包括所推荐内容的质量或准确性。

该系统旨在奖励耸人听闻的标题，这些标题通过利用认知偏见来吸引用户，即使这些标题是由俄罗斯网络喷子撰写的，目的是分裂社会或影响政治选举。

Facebook 如何使用 AI

人们对 Facebook 如何使用 AI 来决定其用户看到和与之交互的内容缺乏了解。首先，我们必须了解确认偏见是什么。Psychology Today 将其描述为：

确认偏见是指人们倾向于寻找、解释、偏爱和回忆信息的方式，以确认或支持他们先前的信念或价值观。

Facebook 了解到，用户更有可能点击符合他们先入之见的新闻。这种做法为阴谋论的传播和回音室的形成创造了危险的先例，在回音室中，用户被喂以他们想要看到的内容，无论其准确性或社会影响如何。

麻省理工学院的一项 研究 表明，Twitter 上的虚假新闻传播速度是真实新闻的 6 倍。

这意味着 Twitter 和 Facebook 都可以被用作武器。虽然 Twitter 允许任何人跟随具有狭隘或偏见观点的信息源，Facebook 更进一步。Facebook 用户目前无法控制或衡量他们看到的内容，这完全由 Facebook 的推荐引擎、用户参与度和优化用户参与度来决定。

Facebook 尝试预测和塑造其用户的欲望。Facebook 估计用户可能喜欢或不喜欢某个新闻项目，即使用户尚未体验过。为了避免用户参与度下降，Facebook 会绕过可能降低参与度的新闻项目，而选择通过满足确认偏见的新闻项目来吸引用户，从而获得更多点击、评论、点赞和分享。

Facebook 还使用历史用户行为和意见的自动协同过滤来自动匹配具有相似意见的参与者（朋友）。Facebook 使用一个实用函数来自动和数学地预测和排名您想要看到的项目。

这会导致用户陷入兔子洞，他们被困在虚假新闻中，呈现的内容旨在影响他们的点击。呈现的内容本质上是为了影响用户的点击而设计的。如果用户相信比尔·盖茨正在使用疫苗微芯片人类的阴谋论，为什么 Facebook 要向用户呈现相反的证据，这可能会导致用户脱离平台？如果用户支持某位政治候选人，为什么 Facebook 要提供可能与用户对该候选人的积极看法相矛盾的新闻？

如果这还不够，Facebook 还使用所谓的“社会证明”。社会证明是指人们会跟随大众的行为。其理念是，既然很多其他人都以某种方式行事，那么这种行为一定是正确的。

Facebook 在点赞、评论或分享的背景下提供这种社会证明。由于只有某些朋友可能会看到新闻源（除非他们特意搜索用户的新闻源），社会证明只会强化确认偏见。

Facebook 还使用 过滤气泡 来限制对相互矛盾的观点的暴露。

Facebook 广告

未经怀疑的 Facebook 用户可能会 点击广告，而不知道他们正在查看广告。原因很简单，如果有广告，只有第一个看到广告的人会看到广告免责声明。如果该用户分享广告，朋友列表上的每个人都只会看到“分享”作为新闻源，Facebook 故意删除广告免责声明。立即，用户放松警惕，他们无法区分广告和可能在新闻源中自然出现的内容。

Facebook 分享

不幸的是，情况变得更糟。如果一个用户有 1000 个朋友同时分享内容，推荐引擎将优先考虑少数持有相同观点的内容，即使这些观点经常由未经证实的阴谋论组成。然后，用户会认为这些新闻源被所有人看到。通过与这些新闻源交互，这些用户正在优化彼此的社会证明。

如果用户试图向另一个用户澄清误导性或虚假的项目，仅仅是对新闻源的评论或参与行为就足以增加原始用户的参与时间。这种反馈循环导致 Facebook 加强对该用户的虚假新闻的参与度。

这会产生回音室，一个过滤气泡，用户被训练只相信他们看到的内容。真相只是一个幻觉。

问题的严重性

超过 1000 万人 参与了一个新闻源，声称教皇方济各在 2016 年支持特朗普的选举。没有证据支持这一说法，它只是俄罗斯制造的一个虚假新闻故事，是 2016 年选举前三个月中 Facebook 上最受分享的新闻故事。

该新闻项目由一个自称为“互联网研究机构”的俄罗斯网络喷子农场生成。同一组织还负责在 Twitter 和 Facebook 上推广和分享种族煽动性文章，支持妖魔化黑人生命问题，并传播关于美国政客的虚假声明的虚假新闻项目。

情报特别委员会发布了一份 85 页的报告，详细介绍了俄罗斯的积极措施活动和干预，主要涉及传播有分裂性和虚假新闻、宣传的传播，旨在影响 2016 年美国选举。

快进到 2020 年选举，问题只会加剧。2020 年 9 月，在 FBI 提示后，Facebook 和 Twitter 终止了与俄罗斯国家宣传工作相关的新闻机构 PeaceData 的社交媒体账户。

不幸的是，关闭账户只是一个暂时的、无效的解决方案。俄罗斯账户通常以朋友请求的形式出现，通常由具有吸引人个人资料的女性或具有正常帖子历史的被劫持的用户账户组成。这些被劫持的账户会逐渐转向更多政治帖子，直到它们被宣传或阴谋论所主导。

一位不知情的用户可能不知道朋友的账户已经被泄露。如果该用户容易受到阴谋论的影响，他们可能会参与虚假新闻源，俄罗斯网络喷子（通常是一个机器人）然后会通过点赞或评论的形式提供额外的社会证明。

容易受到攻击的用户通常是那些最不了解技术和 AI 工作原理的人。65 岁及以上的人口是最有可能投票的群体，也是最有可能传播虚假新闻的群体，正如 纽约时报 所报道的那样。

根据研究，Facebook 65 岁及以上的用户从虚假新闻网站发布的文章数量是 29 岁及以下的成年人发布的文章数量的 7 倍。数字媒体素养的缺乏使这一年龄段的人们无法应对一个不以事实或准确性为基础的新闻源，而是以用户参与度为基础的新闻源。

不法分子正在利用 Facebook 的推荐引擎，该引擎利用我们的认知偏见对我们不利。这些组织已经优化了 Facebook 的 AI，以传播阴谋论和宣传。这些阴谋论看起来最初似乎是无害的，但通常被用作通往白人至上主义、极右翼民族主义或 QAnon 的渠道，后者是一个涉及特朗普试图从自由派恋童癖中拯救世界的奇怪阴谋论，完全没有事实依据。

总结

Facebook 明显意识到存在问题，并已公开 宣布了一项策略，专注于删除违反 Facebook 社区标准的内容。问题在于，删除账户只是一个临时的权宜之计，当账户由机器人批量生成或大量黑客攻击用户账户时，这种方法是无效的。它也不能解决大多数分享是由不知情的普通用户传播的虚假信息的问题。

添加警告标签只会强化社会媒体巨头偏袒保守派的阴谋论，这些人是最容易受到虚假新闻影响的群体，正如 牛津大学 所报道的那样。

解决方案需要是一个新的推荐引擎，该引擎不仅衡量用户参与度，还优化用户幸福度，通过提供真相和促进增强的自我意识来实现这一点。

与此同时，Facebook 应该遵循 Twitter 禁止政治广告的做法。

最后，需要提出一个重要问题。如果人们不再有选择看到什么新闻的权利，那么新闻推荐何时变成精神控制？

推荐阅读：

俄罗斯积极措施活动和干预 – 美国参议院情报特别委员会报告。

预测民主终结的令人震惊的论文 – 由乔治华盛顿大学历史新闻网络创始人 Rick Shenkman 撰写。

老年人在 Facebook 上分享虚假新闻更多 – 纽约时报。