Facebook 使用机器人和模拟技术尝试对抗用户的不良行为

Facebook 设计了一种新的人工智能，旨在更好地检测有害、破坏性和违法行为。 如 The Verge 报道，Facebook 伦敦人工智能部门的研究人员创建了一个名为“WW”的人工智能驱动的 Facebook 模拟器，用于模拟诈骗者、违法商品商家、垃圾邮件发送者和其他不良行为者在 Facebook 模拟版本上的行为。

Facebook 模拟器“WW”是从“WWW”缩写而来， 如 Facebook 发表的论文，WW 是一个克隆的、封闭的 Facebook 版本，旨在协助测试各种 Facebook 工具和算法。

该公司最近刚刚披露了更多有关 WW 的使用细节，其中之一就是通过人工智能模拟不良行为。通过使用一系列 机器人来模拟诸如诈骗、垃圾邮件、骚扰等行为，研究人员希望能够更好地检测和对抗有害行为。

根据 Facebook 工程师 Mark Harman 的说法，正如 The Verge 引用，他预计 WW 将成为一种有价值的工具，用于抑制 Facebook 上的各种有害行为。例如，Harman 认为模拟可以用于开发更好的方法来检测诈骗者。

Facebook 工程师通过创建两个机器人群来模拟现实生活中的 Facebook 诈骗者：一个目标群和一个诈骗者群。诈骗者经常在朋友网络中搜索，探索用户的朋友，以找到潜在的目标。这种行为被诈骗机器人模拟，工程师尝试了不同的方法来防止无辜的机器人被诈骗。他们尝试的策略包括许多限制，例如限制机器人每分钟可以发送的私人消息数量。

模拟的 Facebook 与真实的 Facebook 有几处不同。首先，Facebook 模拟不包括任何视觉元素，因此从模拟中获得的数据全部是数字数据和机器人之间交互的统计数据。其次，模拟中的所有行为者都是机器人，不能与真实用户交互。WW 模拟也不能考虑到诸如用户意图或对话内容等因素，只有发送消息、评论等行为被模拟。

根据 Harman 的说法，这个实验约束的过程类似于城市规划师试图通过铺设“减速带”来减少某些道路的速度。与城市规划师尝试创建减速带然后收集数据类似，工程师分析了他们的模拟器中机器人之间的消息和交互如何随着参数和约束的变化而变化。Harman 解释说，目标是了解可以对 Facebook 平台做出什么样的改变，以抑制有害行为而不严重限制正常行为或信息流动。

Harman 还解释说，使用 WW 进行模拟的好处是他们研究的行为发生在真实的 Facebook 基础设施上，这让他们更好地了解他们提出的改变可能如何影响真实的 Facebook 用户。任何应用这些发现的结果都将不得不等待一段时间，因为现在 WW 和其模拟仍处于研究阶段。Harman 和其他 Facebook 研究人员还没有将他们的发现应用于 Facebook 的实时版本，因为仍然有很多工作要做。研究小组需要确定他们创建的模拟是否充分匹配真实的人类行为。

根据 Harman 的说法，WW 的主要好处是其能够在大规模上运行，让 Facebook 研究人员可以检查成千上万个小的调整的潜在后果，所有这些都通过其产生的模拟。

在未来，研究人员可能会让机器人自由地玩耍和实验一段时间，以查看他们自己会产生什么样的交互，这通常是研究人员没有预料到的东西。

“目前，主要重点是训练机器人模仿我们知道在平台上发生的事情。但是，从理论上讲和实际上，机器人可以做我们 没有 见过的事情，” Harman 说。 “这实际上是我们想要的，因为我们最终希望在不良行为之前采取行动，而不是不断地追赶。”

如果一切顺利，Facebook 可能会在 2020 年底开始根据 WW 的模拟进行修改。