Reddit 禁止“SFW”深度伪造社区

周末，Reddit 禁止了名为 r/deepfakesfw 的“SFW”（安全的工作环境）深度伪造社区。这是对社交媒体巨头删除原始、AI 色情内容丰富的 r/deepfakes 子版块的回应，该子版块于 2018 年被删除。

现在访问该子版块的人会看到一个标准的说明，解释说它 “由于违反 Reddit 的规则而被禁止，特别是关于非自愿色情内容的规则”。

r/deepfakesfw 的新首页。

r/deepfakesfw 子版块没有被流行的保护平台频繁存档，但最近的 WayBack Machine 快照（于 2022 年 6 月 3 日左右拍摄）表明，该子版块当时有 3,095 名读者。

这实际上比 r/DeepFakesSFW 子版块（注意多了一个“s”）拥有更多的订阅者，后者目前有 2,827 名读者（存档快照于 2022 年 6 月 13 日拍摄）。目前最受欢迎的“合法”SFW 深度伪造社区似乎是 r/SFWdeepfakes，截至撰写本文时，它有 16,636 名读者（快照于 2022 年 6 月 13 日拍摄）。

别问

似乎 r/deepfakesfw 被禁止的原因不是发布，而是 请求 深度伪造色情内容。Reddit 的性感媒体规则指出：

“[图片] 或视频的目的是为了伪造色情内容或征求‘类似’色情内容（例如‘深度伪造’或‘气泡色情’），也违反了规则。”

根据现在被禁止的 SFW 子版块的最后可用 RSS 源，似乎是请求而不是发布 NSFW 深度伪造内容触发了禁止：

现在被禁止的 r/deepfakesfw 子版块的最后一些明显不适合工作场所的帖子。来源：Inoreader。

虽然这些 RSS 源指向的帖子不再可用，但点击请求者个人资料链接（如上图所示）显示，许多发布者在多个论坛上请求被禁止的深度伪造内容，并且正在请求或提供此类内容的最极端版本，包括乱伦色情和各种非自愿色情主题。

这表明剩余的“SFW”Reddit 子版块通过其版主的速度、勤勉和快速响应时间得以生存，因为Reddit似乎不愿意成为一个深度伪造内容交易的“分类广告”论坛，特别是在无法在帖子中明确请求的情况下通过 DM 进行交易。

如果是这样，那么尚未被禁止的 r/DeepFakesSFW 子版块可能正在“借来的时间”生存；进入根子版块 URL 时启用“旧”Reddit 主题的两个当前顶级帖子已被明确标记为“NSFW”（一个不应该在这个社区中可用的标签）。

根据情况，r/DeepFakesSFW 子版块中的一些违反规则的帖子目前正在显示。来源：https://www.reddit.com/r/DeepFakesSFW/

您可以在这里看到这些两个 NSFW 帖子，它们目前在 r/DeepFakesSFW 论坛中被存档 这里（快照于 2022 年 6 月 13 日拍摄）。

实际上，r/DeepFakesSFW 没有可用的“NSFW”标签，当在 r/DeepFakesSFW 发布新帖子时：

发布到 r/DeepFakesSFW 时可用的标签。

因此，r/DeepFakesSFW 中的 NSFW 标签似乎要么是由论坛版主应用的，要么是由更高级的管理员应用的，甚至可能是由算法应用的，没有当地版主的干预或反对。我联系了 r/DeepFakesSFW 的唯一列出的版主，询问了这个问题，并将在有更新时发布。

(编辑，2022 年 6 月 14 日 – r/DeepFakesSFW 的一个版主回应说，“似乎当用户的帐户被标记为 NSFW 时就会发生这种情况。”因此，减缓此类请求在 SFW 深度伪造子版块中出现的唯一方法可能是禁止那些“获得”此分类的用户。

大多数内容都与使用深度伪造技术来“重选”流行或经典电影中的演员，或以其他方式使用流行媒体和深度伪造技术进行一些无害的 AI 驱动的乐趣有关，并且确实符合“SFW”的标准。

深度伪造社区是否即将面临“焦土”政策？

困扰深度伪造 Discord 社区（如 DeepFaceLab，包括 DeepFaceLive）、FaceSwap、Machine Video Editor（MVE，DFL 的一个基于 GUI 的环境，具有许多附加功能）和新的基于音频的深度伪造 Discord 服务器（如 Audio Deepfakes）的问题是 当前门户和平台所有者是否很快会简单地因为原则而禁止深度伪造社区，而不是承担不断的审查成本，以对抗 NSFW 从业者和创作者的潮流？
FaceSwap 的开发者之一、项目关联 Discord 服务器的所有者 Bryan Lyon 评论说：

“我们已经通过保持绝对干净的状态，成功地留在了 Discord 上，尽管经历了几次清理。我们没有任何隐藏的频道或带有非法内容的第二个服务器。几年前，DeepFaceLab 服务器被清理了一次。每个人都被禁止了。他们有仅限邀请的角色，可以访问带有非自愿色情内容的频道。”

鉴于 Google 本身是世界上最大的技术资源之一，已经在其服务器和 GPU 上全面禁止深度伪造训练，因此，即使 Microsoft 所拥有的 GitHub 也可能决定 促进这些技术* 最终将不值得道德模糊性或监督投资。

目前，合法化深度伪造技术的过程仍然处于初期阶段，尚未产生明确的平台和社区主机服务政策指南。

* 2022 年 6 月 13 日 https://github.com/search?q=deepfake 的存档。
† 在 Discord 的私人 DM 中。

首次发布于 2022 年 6 月 13 日。编辑于 2022 年 6 月 14 日 15:08 UTC，以修改图像。
2022 年 6 月 14 日 6:24 UTC 修改，以添加 Reddit 版主关于某些发布者的 NSFW 状态的回应。还修改了 RSS 源的图像。