谷歌禁止在 Colab 中训练 Deepfakes

过去两周的某个时候，谷歌悄悄改变了 Colab 用户的服务条款，增加了 Colab 服务不得再用于训练 Deepfake 的规定。

XNUMX 月的更新为 Colab 带来了 Deepfake 禁令。 资料来源：https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

互联网档案馆第一个包含深度造假禁令的网络存档版本是 捕获 上周二，即 24 月 XNUMX 日。 Colab 常见问题解答的最后捕获版本 而不去 提到禁令是针对 14th五月.

在两个流行的 Deepfake 创作发行版中， 深度人脸实验室 （DFL）和 换脸，两者都是发布在 Reddit 上的有争议的匿名代码的分支 在2017，只有更多 臭名昭著 DFL 似乎是该禁令的直接目标。 根据 DFL Discord 的 Deepfake 开发者“chervonij”的说法，现在在 Google Colab 中运行该软件 产生警告:

“您可能正在执行不允许的代码，这可能会限制您将来使用 Colab 的能力。 请注意我们的常见问题解答中指定的禁止行为。

然而，有趣的是，当前允许用户继续执行代码。

试图在 Google Colab 上运行代码的 DFL 深度造假者收到了新警告。 来源：https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

据竞争对手 FaceSwap 的 Discord 中的一位用户称，该项目的代码显然尚未触发警告，这表明 DeepFaceLab 的代码（也是实时 Deepfake 流实现的馈送架构） 深脸直播）是迄今为止最主要的 Deepfakes 方法，Colab 已专门针对该方法。

FaceSwap 联合首席开发人员 Matt Tora 评论道：

“我发现谷歌这样做不太可能是出于任何特定的道德原因，更重要的是 Colab 存在的理由是让学生/数据科学家/研究人员能够以一种简单易懂的方式运行计算量大的 GPU 代码，无需收费。 然而，我怀疑不少用户正在利用此资源大规模创建深度伪造模型，这不仅需要大量的计算成本，而且需要大量的训练时间才能产生结果。

“你可以说 Colab 更倾向于人工智能的教育和研究方面。 执行不需要用户输入或理解的脚本往往与此背道而驰。 在 Faceswap，我们尝试专注于对用户进行人工智能及其相关机制的教育，同时降低进入门槛。 我们非常鼓励道德地使用该软件，并认为向更广泛的受众提供此类工具有助于教育人们了解当今世界可以实现的目标，而不是将其隐藏起来供少数人使用。

“不幸的是，我们无法控制我们的工具最终如何使用，也无法控制它们在哪里运行。 让我感到难过的是，人们尝试我们的代码的途径已经关闭，但是，在保护这一特定资源以确保其对实际目标受众的可用性方面，我发现这是可以理解的。

没有证据表明新的限制仅限于 Google Colab 的免费套餐——在禁止活动列表的底部，现已添加了深度伪造品，这是注释 “付费用户存在额外限制”，表明这些是基线法规。 关于深度造假禁令，这让一些人感到困惑，因为 “加密货币挖矿” 和 “参与点对点文件共享” 包含在免费版和专业版的“限制”部分中。

按照这种逻辑，免费“限制”部分中禁止的所有内容在专业版中都是允许的，只要专业版没有明确禁止它，包括 '运行拒绝服务攻击'和 ‘密码破解’。 尽管存在令人困惑和选择性的重复禁令，但对 Pro 级别的额外限制主要涉及不得“转租”Pro Colab 访问权限。

Google Colab 是一个专门的实现 Jupyter笔记本 环境，允许在比许多用户能承受的更强大的 GPU 上远程训练机器学习项目。

由于 Deepfake 训练需要大量 VRAM，而且自从 GPU 饥荒出现以来，近年来许多 Deepfake 都放弃了家庭训练，转而在 Colab 进行远程训练，在 Colab 中，根据机会和等级，训练 Deepfake 是可能的。强大的卡上的模型，例如 特斯拉T4 （16GB VRAM，目前约为 2 美元） V100 （32GB VRAM，约 4 美元），以及强大的 A100（80GB VRAM， 建议零售价 32,097.00 美元）等。

对 Colab 训练的禁令似乎可能会减少能够训练更高分辨率模型的 Deepfaker 池，这些模型的输入和输出图像更大，更适合高分辨率结果，并且能够提取和再现更多面部细节。

据 Discord 和论坛帖子称，尽管 GPU 的价格很高，但一些最忠实的 Deepfake 爱好者和爱好者在过去几年中对本地硬件进行了大量投资。

然而，考虑到成本高昂，出现了一些子社区来应对在 Colabs 上训练 Deepfake 的挑战，自从 Colab 限制免费用户使用高端 GPU 以来，随机 GPU 分配是最常见的抱怨。

* 在 Discord 上的私人消息中

首次发布于 28 年 2022 月 XNUMX 日。
美国东部时间上午 7:28 修正，更正引文拼写错误。
美国东部时间中午 12:40 修订 - 添加了有关免费和专业级 Deepfake 禁令的澄清，最好可以从“免费”和“专业”禁令列表中理解。