GoogleはColabでのディープフェイクのトレーニングを禁止した

2週間前に、GoogleはColabユーザーの利用規約を変更し、Colabサービスを使用してディープフェイクをトレーニングすることはできなくなった。

5月の更新により、Colabにディープフェイク禁止が導入された。 ソース: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

インターネットアーカイブに保存されたウェブページの最初のバージョンには、ディープフェイク禁止が記載されており、先週の24日にキャプチャされた。 ColabのFAQの最後のキャプチャされたバージョンには、禁止が記載されていなかったのは、5月14日だった。

ディープフェイク作成の2つの人気分布、DeepFaceLab(DFL)とFaceSwapのうち、2017年にRedditに投稿された物議を醸した匿名コードのフォークであるDFLのみが、直接的に禁止の対象となっているようだ。 DFLの開発者である’chervonij’によると、Google Colabでソフトウェアを実行すると、警告が表示される。

‘あなたは禁止されているコードを実行している可能性があり、これによりColabの使用が制限される可能性があります。FAQに記載されている禁止行為に注意してください。’

しかし、興味深いことに、ユーザーは現在、コードの実行を続行することができる。

DFLのディープフェイクを作成しようとしたときにGoogle Colabに表示される新しい警告。 ソース: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

FaceSwapの共同リード開発者であるMatt Toraはコメントした：

‘私は、Googleがこれを特定の倫理的な理由で行っている可能性は低いと思います。Colabの目的は、学生やデータサイエンティストや研究者が無料で容易にアクセスできるGPUコードを実行できるようにすることです。しかし、多くのユーザーがこのリソースを利用してディープフェイクモデルを作成していることは、計算コストが高く、トレーニング時間も長いため、問題です。’

‘Colabは、教育や研究の側面に重点を置いています。ユーザーの入力や理解が不要なスクリプトを実行することは、これに反することです。FaceSwapでは、ユーザーにAIや関連するメカニズムを教育し、入門の障壁を低くすることに重点を置いています。私たちは、倫理的なソフトウェアの使用を奨励し、ツールをより広いオーディエンスに提供することで、人々が今日の世界で何が可能かを学ぶことができるようにしています。’

‘残念ながら、私たちがツールをどのように使用するか、またはどこで実行するかを制御することはできません。私たちのコードを実験するためのアベニューが閉じられたことは残念ですが、リソースを保護して、実際のターゲットオーディエンスに利用できるようにすることは、理解できます。’

新しい制限が無料ティアのGoogle Colabにのみ適用されるわけではないようです。禁止行為のリストの下部には、‘有料ユーザーには追加の制限があります’という注釈があり、基準規制であることを示唆しています。ディープフェイク禁止については、これは一部のユーザーを混乱させています。なぜなら、‘暗号通貨の採掘’や‘ピアツーピアのファイル共有への参加’は、無料とプロの両方の「制限」セクションに含まれているからです。

この論理では、無料の「制限」セクションで禁止されているすべてが、プロバージョンでは許可されるはずです。プロバージョンが明示的に禁止していない限りはです。つまり、‘サービス拒否攻撃の実行’や‘パスワードのクラッキング’も含まれます。プロティアーの追加の制限は、主にプロのColabアクセスを「サブレット」しないことに関するものです。混乱を招く選択的な重複の禁止事項にもかかわらずです。

Google Colabは、リモートでマシンラーニングプロジェクトをトレーニングできるJupyterノートブック環境の専用実装です。多くのユーザーが自宅でトレーニングするよりもはるかに強力なGPUでトレーニングできます。

ディープフェイクのトレーニングはVRAMを大量に消費する作業であり、GPUの不足が起こって以来、多くのディープフェイカーは自宅でのトレーニングを避けて、Colabでのリモートトレーニングを選択しています。ここでは、チャンスとティアに応じて、Tesla T4(16GB VRAM、現在約2,000ドル)やV100(32GB VRAM、約4,000ドル)などの強力なカードでディープフェイクモデルをトレーニングできます。

Colabでのトレーニング禁止は、高解像度のモデルをトレーニングできるディープフェイカーの数を減らす可能性があります。ここでは、入力画像と出力画像が大きく、高解像度の結果に適しています。

Discordやフォーラムの投稿によると、ディープフェイクの愛好家や熱心なユーザーの中には、過去2年間で高価なローカルハードウェアに多く投資しているようです。

しかし、高額なコストがかかるため、Colabでのディープフェイクトレーニングの課題に対処するためにサブコミュニティが形成されています。最も一般的な苦情は、Colabが無料ユーザーに高性能GPUの使用を制限したことです。

* Discordのプライベートメッセージ

初めて発行: 2022年5月28日。
修正: EST 7:28、引用符のタイポを修正。
修正: EST 12:40 – 無料とプロのディープフェイク禁止の明確化を追加しました。可能な限り「無料」と「プロ」の禁止事項のリストから理解できます。