Anderson 视角

Reddit 封禁自称 SFW 的深度伪造社区

Martin Anderson
将 Unite.AI 添加到您在 Google 上的首选来源
要点Reddit封禁了r/deepfakesfw板块,原因是其主动征集非自愿色情内容,而非用户发布此类内容。
查看更多
  • Reddit封禁了r/deepfakesfw板块,原因是其主动征集非自愿色情内容,而非用户发布此类内容。
  • 谷歌禁止在Colab上进行深度伪造训练,但仅针对DeepFaceLab触发限制,其他工具不受影响。
  • 合法的深度伪造社区仅通过严格禁止NSFW内容请求的审核机制才得以存续。

周末,显然是在周日左右,Reddit 禁止了名为 r/deepfakesfw 的“SFW”(适合在工作场所观看)深度伪造社区。这是对社交媒体巨头迅速删除原始、AI 色情内容丰富的 r/deepfakes 子版块的回应,该子版块于 2018 年被删除。

现在访问该子版块的人会看到一个相对常见的说明(存档快照摄于 6 月 13 日星期一),解释说它 “由于违反 Reddit 禁止未经当事人同意的色情内容的规则而被封禁”。

r/deepfakesfw 的新首页。

r/deepfakesfw 的新首页。

r/deepfakesfw 子版块没有被流行的存档平台频繁存档,但最近的 WayBack Machine 快照(于 2022 年 6 月 3 日左右拍摄)表明,该子版块当时有 3,095 名读者。

这实际上比 r/DeepFakesSFW 子版块(注意多了一个“s”)拥有更多的订阅者,后者目前有 2,827 名读者(存档快照于 2022 年 6 月 13 日拍摄)。目前最受欢迎的“合法”SFW 深度伪造社区似乎是 r/SFWdeepfakes,截至撰写本文时,它有 16,636 名读者(快照于 2022 年 6 月 13 日拍摄)。

别问

似乎 r/deepfakesfw 被禁止的原因不是发布,而是 请求 深度伪造色情内容。Reddit 关于露骨性内容的媒体规则指出:

“发布他人的[图片]或视频,专门用于伪造露骨性内容,或征求由相貌相似者出演的色情内容(例如‘深度伪造’或‘气泡色情’),同样违反该规则。”

根据现在被禁止的 SFW 子版块的最后可用 RSS 源,似乎是请求而不是发布 NSFW 深度伪造内容触发了禁止:

现在被禁止的 r/deepfakesfw 子版块的最后一些明显不适合工作场所的帖子。来源:Inoreader。

现在被禁止的 r/deepfakesfw 子版块的最后一些明显不适合工作场所的帖子。来源:Inoreader。

虽然这些 RSS 源指向的帖子不再可用,但点击请求者个人资料链接(上图中已作模糊处理)显示,许多发布者在多个论坛上请求被禁止的深度伪造内容,并且正在请求或提供此类内容的最极端版本,包括乱伦色情和各种非自愿色情主题。

这表明剩余的“SFW”Reddit 子版块通过其版主的速度、勤勉和快速响应时间得以生存,因为Reddit似乎不愿意成为一个深度伪造内容交易的“分类广告”论坛,特别是在无法在帖子中明确请求的情况下通过 DM 进行交易。

如果是这样,那么尚未被禁止的 r/DeepFakesSFW 子版块可能正在面临随时被封禁的风险;进入根子版块 URL 时启用“旧”Reddit 主题的两个当前顶级帖子已被明确标记为“NSFW”(一个不应该在这个社区中可用的标签)。

根据情况,r/DeepFakesSFW 子版块中的一些违反规则的帖子目前正在显示。来源:https://www.reddit.com/r/DeepFakesSFW/

根据情况,r/DeepFakesSFW 子版块中的一些违反规则的帖子目前正在显示。来源:https://www.reddit.com/r/DeepFakesSFW/

您可以在这里看到这些两个 NSFW 帖子,它们目前在 r/DeepFakesSFW 论坛中被存档 这里(快照于 2022 年 6 月 13 日拍摄)。

实际上,r/DeepFakesSFW 没有可用的“NSFW”标签,当在 r/DeepFakesSFW 发布新帖子时;根据侧栏信息,该社区已经运营了四年:

发布到 r/DeepFakesSFW 时可用的标签。

发布到 r/DeepFakesSFW 时可用的标签。

因此,r/DeepFakesSFW 中的 NSFW 标签似乎要么是由论坛版主应用的,要么是由更高级的管理员应用的,甚至可能是由算法应用的,没有当地版主的干预或反对。我联系了 r/DeepFakesSFW 的唯一列出的版主,询问了这个问题,并将在有更新时发布。

(编辑,2022 年 6 月 14 日 – r/DeepFakesSFW 的一个版主回应说,“似乎当用户的帐户被标记为 NSFW 时就会发生这种情况。”因此,减缓此类请求在 SFW 深度伪造子版块中出现的唯一方法可能是禁止那些“获得”此分类的用户。

大多数内容都与使用深度伪造技术来“重选”流行或经典电影中的演员,或以其他方式使用流行媒体和深度伪造技术进行一些无害的 AI 驱动的乐趣有关,并且确实符合“SFW”的标准。

尽管许多此类帖子徘徊在可能因侵犯版权而被封禁的边缘,但 Ctrl-Shift-Face 等知名 YouTube 深度伪造创作者使用他人知识产权制作的非色情深度伪造视频仍然存在,表明至少目前影视公司和权利人对此类活动普遍持容忍态度。

深度伪造流程与生态系统看似“无害”的外表

两周前,外界发现 Google 突然在其广受欢迎的 Colab 云端处理环境中禁止了深度伪造制作软件,并引发了大量讨论。截至目前,Colab 似乎只在有人尝试运行 DeepFaceLab(DFL)时才触发限制。DFL 是全球最受欢迎的深度伪造软件,也是与 AI 色情内容联系最密切的软件。相比之下,使用人数较少、口碑更好的 FaceSwap 并未触发同样的限制,尽管它执行的任务与 DFL 完全相同。

在一定程度上,这可能是 Colab 能对深度伪造色情内容制作施加任何限制的唯一方式,因为实际训练过程仅使用开源软件和经过大幅裁剪的人脸图像(通常只有 512×512 像素,甚至更小),图像识别算法几乎不可能在其中发现真正的色情内容。

模型一旦训练完成,制作者就不再需要 Colab 的巨大算力或昂贵的本地 GPU。大多数实际的转换,即把人脸叠加到视频中,无论视频是否涉及色情,都可以在低性能笔记本 GPU 上本地完成,甚至可以使用 CPU,只是处理时间稍长。当流程中真正出现色情内容时,Colab 早已不再参与。

因此,深度伪造色情内容制作者之间交换的组成素材通常至多涉及潜在的轻微版权侵权:他们传递的人脸图像集往往提取自 YouTube 视频、蓝光影碟、电视采访、社交媒体及其他来源。

深度伪造社区是否即将面临“焦土”政策?

困扰深度伪造 Discord 社区(如 DeepFaceLab,包括 DeepFaceLive)、FaceSwap、Machine Video Editor(MVE,DFL 的一个基于 GUI 的环境,具有许多附加功能)和新的基于音频的深度伪造 Discord 服务器(如 Audio Deepfakes)的问题是 当前门户和平台所有者是否很快会简单地因为原则而禁止深度伪造社区,而不是承担不断的审查成本,以对抗 NSFW 从业者和创作者的潮流?
FaceSwap 的开发者之一、项目关联 Discord 服务器的所有者 Bryan Lyon 评论说†:

“我们已经通过保持绝对干净的状态,成功地留在了 Discord 上,尽管经历了几次清理。我们没有任何隐藏的频道或带有非法内容的秘密第二服务器。几年前,DeepFaceLab 服务器被清理了一次。每个人都被禁止了。他们有仅限邀请的角色,可以访问带有非自愿色情内容的频道。”

鉴于 Google 本身是世界上最大的技术资源之一,已经在其服务器和 GPU 上全面禁止深度伪造训练,因此,即使 Microsoft 所拥有的 GitHub 也可能决定 促进这些技术* 最终将不值得道德模糊性或监督投资。

目前,让深度伪造技术获得正当认可、使其用途从自制色情内容转向影视制作,以及不侵犯他人权利且不涉及犯罪的应用,这一过程仍处于早期阶段,尚不足以形成面向平台和社区托管服务的明确政策指南。

* 2022 年 6 月 13 日 https://github.com/search?q=deepfake 的存档。
† 在 Discord 的私人 DM 中。

首次发布于 2022 年 6 月 13 日。于 15:08 UTC 编辑,以修改图像。
2022 年 6 月 14 日 6:24 UTC 修改,以添加 Reddit 版主关于某些发布者的 NSFW 状态的回应。还修改了 RSS 源的图像。

机器学习撰稿人,专注于人类图像合成的领域专家。曾任 Metaphysic.ai 的研究内容负责人,直至其并入 DNEG 的 Brahma.ai。
网站: martinanderson.ai
联系:martin@martinanderson.ai