Anderson 视角
谷歌禁止在Colab中训练深度伪造
将 Unite.AI 添加到您在 Google 上的首选来源
在过去的两周内，谷歌悄悄地改变了Colab用户的服务条款，添加了一项规定，Colab服务不得用于训练深度伪造。
五月更新带来了Colab的深度伪造禁令。 来源: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions
互联网档案馆中第一个包含深度伪造禁令的网页存档版本是在上周二，即5月24日捕获的。 Colab FAQ中最后一个不提及禁令的版本是在5月14日捕获的。
在两个流行的深度伪造创建分布中，DeepFaceLab（DFL）和FaceSwap，都是2017年在Reddit上发布的匿名代码的分支，只有更有名的DFL似乎被禁令直接针对。根据DFL Discord上的深度伪造开发者’chervonij’，在Google Colab中运行该软件现在会产生一个警告：
‘您可能正在执行不允许的代码，这可能会限制您使用Colab的能力。请注意FAQ中指定的禁止行为。’
然而，用户目前仍然可以继续执行代码。
DFL深度伪造者在Google Colab中运行代码时遇到的新警告。 来源: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136
根据FaceSwap Discord上的一个用户，该项目的代码似乎还没有触发警告，这表明DeepFaceLab（也是实时深度伪造流媒体实现DeepFaceLive的feeding架构）的代码已经被Colab特意针对。
FaceSwap联合开发者Matt Tora评论说：
‘我认为谷歌这样做的原因不太可能是出于道德原因，而是因为Colab的目的就是让学生、数据科学家和研究人员能够以一种易于使用和免费的方式在远程运行计算密集型的GPU代码。然而，我怀疑有一部分用户正在利用这个资源来创建深度伪造模型，这既耗费计算资源又需要大量的训练时间。’
‘你可以说Colab更倾向于教育和研究方面的AI。执行需要很少用户输入和理解的脚本，这与Colab的初衷相违背。我们在FaceSwap上专注于教育用户关于AI和相关机制，并降低进入门槛。我们非常鼓励用户以合乎道德的方式使用我们的软件，并认为使这些工具对更广泛的受众开放有助于教育人们了解今天世界上可以实现的东西，而不是将其隐藏起来只让少数人使用。’
‘不幸的是，我们无法控制我们的工具最终如何被使用，也无法控制它们在哪里运行。看到一个途径被关闭，人们无法再使用我们的代码，这让我感到悲伤。然而，为了保护这个资源并确保其对目标受众的可用性，我认为这是可以理解的。’
没有证据表明新的限制仅限于Google Colab的免费层——在禁止活动列表的底部，深度伪造已经被添加到其中，有一条注释“对于付费用户有额外的限制”，这表明这些是基准规定。在深度伪造禁令方面，这让一些人感到困惑，因为“加密货币挖矿”和“参与点对点文件共享”同时出现在免费和专业版的“限制”部分。
根据这种逻辑，免费“限制”部分中禁止的所有内容在专业版中都是允许的，只要专业版没有明确禁止，包括“运行拒绝服务攻击”和“密码破解”。专业层的额外限制主要涉及不允许“转租”专业Colab访问权限，尽管有混淆和选择性的重复禁止行为。
Google Colab是一个专用的Jupyter笔记本环境，允许远程在远程更强大的GPU上训练机器学习项目，而这些GPU的计算能力可能超过许多用户能够负担的水平。
由于深度伪造训练是一个VRAM-hungry的追求，而GPU荒已经持续了几年，近年来许多深度伪造者已经放弃了在家中训练，转而使用Colab进行远程训练，在那里，根据机会和层级，可能会使用强大的卡，如Tesla T4（16GB VRAM，目前约为2000美元），V100（32GB VRAM，约4000美元），以及强大的A100（80GB VRAM，MSRP为32097.00美元），以及其他几种。
Colab训练的禁令可能会减少能够训练高分辨率模型的深度伪造者的数量，这些模型的输入和输出图像更大，更适合高分辨率结果，并能够提取和复制更大的面部细节。
根据Discord和论坛帖子，一些最专注的深度伪造爱好者和热情者在过去的几年中已经大量投资于本地硬件，尽管GPU价格很高。
然而，由于成本很高，子社区已经出现以应对在Colab中训练深度伪造的挑战，随机GPU分配是最常见的抱怨，自从Colab限制了免费用户使用更高端的GPU以来。
* 在Discord的私人消息中
首次发布于2022年5月28日。
修订于2022年5月28日7:28 AM EST，纠正引语中的打字错误。
修订于2022年5月28日12:40 PM EST – 添加了有关免费和专业层深度伪造禁令的澄清，如“免费”和“专业”禁止列表中所述。
