Andersonの視点
Google Colabのディープフェイクトレーニングを禁止した
Unite.AI を Google の優先ソースに追加
先日、GoogleはColabの利用規約を変更し、Colabサービスを使用してディープフェイクをトレーニングすることを禁止しました。
5月の更新でColabにディープフェイク禁止が導入された。 ソース: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions
インターネットアーカイブで最初にディープフェイク禁止が記載されたのは、先週の火曜日、5月24日でした。ColabのFAQで禁止が記載されていない最後のキャプチャは、5月14日でした。
ディープフェイク作成の2つの人気分布、DeepFaceLab（DFL）とFaceSwapのうち、DFLのみがこの禁止の対象となっているようです。DFLは、2017年にRedditに投稿された匿名コードのフォークです。2017年、DFLは有名になりました。DFLのDiscordでの開発者「chervonij」によると、Google ColabでDFLを実行すると、警告メッセージが表示されます。
‘あなたは禁止されているコードを実行している可能性があります。これにより、Colabを使用する能力が制限される可能性があります。FAQに記載されている禁止行為をご確認ください。’
ただし、ユーザーは現在、コードの実行を続けることができます。
DFLを実行しようとしたユーザーに表示される新しい警告。 ソース: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136
FaceSwapのDiscordでは、FaceSwapのコードは警告をトリガーしないようです。これは、ColabがDFLのコードを特にターゲットにしていることを示唆しています。
FaceSwapの共同開発者Matt Toraは次のように述べています*：
‘Googleがこのようなことをするのは、特に倫理的な理由でやることではないと思います。Colabの目的は、学生やデータサイエンティスト、研究者が無料で計算機を使用できるようにすることです。しかし、多くのユーザーがColabのリソースを使用してディープフェイクモデルを作成していることは事実です。これは計算コストが高く、トレーニング時間もかかります。’
‘Colabは教育、研究に重点を置いています。ユーザーの入力や理解が不要なスクリプトを実行することは、Colabの目的と反対です。FaceSwapでは、ユーザーにAIとそのメカニズムを教育することに重点を置いています。ユーザーがAIの可能性を理解できるように、障壁を低くしています。ただし、ツールがどのように使用されるかは制御できないことは残念です。Colabのリソースを保護することは理解できます。’
‘Colabの禁止は、無料プランにのみ適用されるわけではありません。禁止行為のリストの最後には、「有料ユーザーには追加の制限があります」と記載されています。ディープフェイク禁止は、無料プランと有料プランの両方に適用されるようです。ただし、「暗号通貨の採掘」や「ピアツーピアのファイル共有」は、無料プランと有料プランの両方で禁止されています。’
これは、無料プランで禁止されているすべての行為が、有料プランでは許可されていることを意味します。ただし、「サービス拒否攻撃の実行」や「パスワードクラッキング」は、有料プランでは禁止されています。有料プランの追加の制限は、主にColabのアクセスをサブレットしないことに関するものです。
Google Colabは、Jupyterノートブック環境の実装です。ユーザーは、遠隔地のより強力なGPUでマシンラーニングプロジェクトをトレーニングできます。
ディープフェイクのトレーニングは、VRAMを大量に消費する作業です。GPUの不足により、多くのディープフェイカーは、Colabで遠隔地のトレーニングを実行することを選択しています。Colabでは、Tesla T4（16GB VRAM、約2,000ドル）、V100（32GB VRAM、約4,000ドル）、A100（80GB VRAM、約32,000ドル）などの強力なGPUでトレーニングできます。
Colabでのディープフェイクトレーニングの禁止は、高解像度のモデルをトレーニングできるディープフェイカーの数を減らす可能性があります。
一部のディープフェイクの愛好家やエンスージアストは、GPUの高価なコストにもかかわらず、ローカルハードウェアに多大な投資をしています。
しかし、Colabでのディープフェイクトレーニングの禁止は、ディープフェイクコミュニティに大きな影響を与える可能性があります。
* Discordのプライベートメッセージ
初版は2022年5月28日に公開されました。7:28 AM ESTに修正され、引用のタイポが修正されました。12:40 PM ESTに修正され、無料プランと有料プランのディープフェイク禁止に関する明確化が追加されました。
