GoogleがColabでのディープフェイク学習を禁止

この2週間のどこかで、GoogleはColabユーザー向けの利用規約をひそかに変更し、Colabサービスをディープフェイクの学習に使用してはならないという規定を追加しました。

5月の更新でColabにディープフェイク学習の禁止が導入されました。 出典： https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

インターネットアーカイブでディープフェイク禁止を記載した最初の保存版は、先週火曜日の5月24日に取得されました。禁止に言及しない最後のColab FAQ保存版は5月14日のものです。

人気のあるディープフェイク制作ソフトウェアDeepFaceLab（DFL）とFaceSwapは、いずれも2017年にRedditに匿名で投稿された、物議を醸したコードから派生したものです。このうち、より悪名高いDFLだけが禁止の直接の対象になったようです。DFLのDiscordにいる開発者「chervonij」によると、Google Colabでこのソフトウェアを実行すると、現在は警告が表示されます。

「許可されていないコードを実行している可能性があります。その場合、今後のColab利用が制限される可能性があります。FAQに記載されている禁止行為をご確認ください。」

ただし興味深いことに、現時点ではユーザーはそのままコードの実行を続けることができます。

Google Colabでコードを実行しようとしたDFLユーザーに表示された新しい警告。 出典： https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

競合ソフトウェアFaceSwapのDiscordにいるユーザーによれば、同プロジェクトのコードはまだ警告を引き起こしていないようです。このことは、最も支配的なディープフェイク制作手法であり、リアルタイムのディープフェイク配信実装DeepFaceLiveの基盤でもあるDeepFaceLabのコードが、Colabによって特に標的にされた可能性を示しています。

FaceSwapの共同主任開発者の一人、Matt Toraは次のようにコメントしました*。

「Googleが特別な倫理上の理由からこの措置を取っているとは、非常に考えにくいと思います。むしろColabが存在するのは、学生、データサイエンティスト、研究者が、計算負荷の高いGPUコードを簡単かつ利用しやすい形で無料実行できるようにするためです。しかし、相当数のユーザーがこのリソースを使ってディープフェイクモデルを大規模に作成しているのではないかと考えています。それには大きな計算コストがかかり、結果を出すまでにかなりの学習時間が必要です。」

「ColabはAIの教育・研究面に重点を置いていると言えるでしょう。ユーザーの入力や理解がほとんど不要なスクリプトの実行は、その目的に反します。FaceSwapでは、参入障壁を下げつつ、AIとその仕組みをユーザーに教えることに力を入れています。私たちはソフトウェアの倫理的な利用を強く勧めています。こうしたツールを一部の人だけに隠しておくのではなく、より幅広い人々に提供すれば、現在の世界で何が可能なのかを知ってもらう助けになると考えています。」

「残念ながら、私たちのツールが最終的にどう使われるか、どこで実行されるかを制御することはできません。私たちのコードを試す道が一つ閉ざされたことは残念です。ただ、このリソースを守り、本来の対象利用者が使える状態を確保するという観点からは、理解できる措置です。」

新たな制限がGoogle Colabの無料プランだけに限られるという証拠はありません。ディープフェイクが追加された禁止行為一覧の末尾には「有料ユーザーには追加の制限があります」とあり、これらが基本規則であることを示しています。ただし、「暗号通貨のマイニング」と「ピアツーピアのファイル共有への参加」が無料・Pro両方の制限一覧に含まれるため、一部の人は混乱しています。

この論理に従うなら、無料プランの制限一覧で禁止されるものは、Pro側で明示的に禁止されていない限り、Proでは許されることになります。「サービス拒否攻撃の実行」や「パスワードのクラッキング」もその例です。Proの追加制限は主にColab Proへのアクセスを又貸ししないことに関するものですが、禁止事項の重複は混乱を招く選択的なものです。

Google ColabはJupyter Notebook環境を専用に実装したサービスです。多くのユーザーが自費では買えないほど強力なGPUで、機械学習プロジェクトを遠隔学習できます。

ディープフェイク学習は大量のVRAMを必要とします。GPU不足が始まって以来、多くの制作者は自宅での学習をやめ、Colabでの遠隔学習に移っています。運やプラン次第で、Tesla T4 (TSLA )（VRAM 16GB、当時約2,000米ドル）、V100（VRAM 32GB、約4,000米ドル）、A100（VRAM 80GB、希望小売価格32,097.00米ドル）などの高性能カードでモデルを学習できるためです。

Colabでの学習禁止は、高解像度モデルを学習できるディープフェイク制作者の数を減らす可能性があります。そのようなモデルでは入出力画像が大きく、高解像度の結果に適しており、顔の細部をより多く抽出・再現できます。

Discordやフォーラムの投稿によると、特に熱心なディープフェイク愛好家の一部は、GPUが高価でも過去数年間にローカル機器へ多額の投資をしてきました。

しかし費用が高いため、Colab上でのディープフェイク学習の課題に対処する下位コミュニティが生まれています。Colabが無料ユーザーによる上位GPUへのアクセスを制限して以降、ランダムなGPU割り当てが最もよくある不満となっています。

* Discordのプライベートメッセージにて。

初出：2022年5月28日。午前7時28分（EST）改訂：引用中の誤字を修正。午後12時40分（EST）改訂：無料・Proそれぞれの禁止一覧から読み取れる範囲で、各プランのディープフェイク禁止に関する説明を追加。