Google Telah Melarang Pelatihan Deepfakes di Colab

Beberapa waktu dalam dua minggu terakhir, Google telah diam-diam mengubah ketentuan layanan untuk pengguna Colab, menambahkan ketentuan bahwa layanan Colab tidak lagi dapat digunakan untuk melatih deepfakes.

Pembaruan Mei membawa larangan deepfake ke Colab. Sumber: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Versi web-arsip pertama dari Internet Archive yang menampilkan larangan deepfake ini ditangkap hari Selasa terakhir, 24 Mei. Versi terakhir dari FAQ Colab yang tidak menyebutkan larangan ini adalah pada 14 Mei.

Dari dua distribusi pembuatan deepfake yang populer, DeepFaceLab (DFL) dan FaceSwap, keduanya merupakan fork dari kode kontroversial dan anonim yang diposting di Reddit pada 2017, hanya DFL yang lebih notoris yang tampaknya telah ditargetkan langsung oleh larangan ini. Menurut pengembang deepfake ‘chervonij’ di Discord DFL, menjalankan perangkat lunak di Google Colab sekarang menghasilkan peringatan:

‘Anda mungkin menjalankan kode yang dilarang, dan ini dapat membatasi kemampuan Anda untuk menggunakan Colab di masa depan. Perhatikan tindakan yang dilarang yang ditentukan dalam FAQ kami.’

Namun, menariknya, pengguna saat ini diizinkan untuk melanjutkan eksekusi kode.

Peringatan baru yang menyambut DFL deepfakers yang mencoba menjalankan kode di Google Colab. Sumber: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Menurut pengguna di Discord untuk distribusi rival FaceSwap, kode proyek tersebut tampaknya belum memicu peringatan, menunjukkan bahwa kode untuk DeepFaceLab (juga arsitektur pakan untuk implementasi streaming deepfake waktu nyata DeepFaceLive), oleh jauh metode deepfake yang paling dominan, telah ditargetkan secara khusus oleh Colab.

Pengembang utama FaceSwap, Matt Tora, mengomentari*:

‘Saya menemukan sangat tidak mungkin bahwa Google melakukan ini untuk alasan etis tertentu, lebih bahwa Colab ada untuk memungkinkan siswa/ilmuwan data/peneliti untuk menjalankan kode GPU yang mahal secara komputasi dengan cara yang mudah dan dapat diakses, tanpa biaya. Namun, saya curiga bahwa sejumlah pengguna tidak sedikit yang mengeksploitasi sumber daya ini untuk membuat model deepfake, yang sangat mahal secara komputasi dan membutuhkan waktu pelatihan yang tidak sedikit untuk menghasilkan hasil.

‘Anda bisa mengatakan bahwa Colab lebih condong ke sisi pendidikan, penelitian AI. Menjalankan skrip yang memerlukan sedikit input pengguna, atau pemahaman, cenderung bertentangan dengan ini. Di FaceSwap kami berfokus pada mendidik pengguna tentang AI dan mekanisme yang terlibat, sambil menurunkan hambatan masuk. Kami sangat mendorong penggunaan etis perangkat lunak dan merasa bahwa membuat alat-alat ini tersedia untuk audiens yang lebih luas membantu mendidik orang-orang tentang apa yang dapat dicapai di dunia saat ini, bukan menyembunyikannya untuk beberapa orang tertentu.

‘Sayangnya kami tidak dapat mengontrol bagaimana alat kami digunakan, atau di mana mereka dijalankan. Ini menyedihkan saya bahwa sebuah jalur telah ditutup untuk orang-orang untuk bereksperimen dengan kode kami, namun, dalam hal melindungi sumber daya ini untuk memastikan ketersediaannya untuk audiens target yang sebenarnya, saya menemukannya dapat dipahami.’

Tidak ada bukti bahwa pembatasan baru ini hanya terbatas pada tingkat gratis Google Colab – di bagian bawah daftar aktivitas yang dilarang yang telah ditambahkan deepfakes, ada catatan ‘Batasan tambahan ada untuk pengguna berbayar’, yang menunjukkan bahwa ini adalah peraturan dasar. Dalam hal larangan deepfake, ini telah membingungkan beberapa orang, karena ‘penambangan cryptocurrency’ dan ‘berpartisipasi dalam berbagi file peer-to-peer’ termasuk dalam kedua bagian ‘Pembatasan’ gratis dan pro.

Dengan logika itu, semua yang dilarang dalam bagian ‘Pembatasan’ gratis diizinkan di versi Pro, selama versi Pro tidak secara eksplisit melarangnya, termasuk ‘menjalankan serangan denial-of-service’ dan ‘pemecahan kata sandi’. Pembatasan tambahan untuk tingkat Pro terutama berkaitan dengan tidak ‘menyewakan’ akses Colab Pro, meskipun pembatasan ganda yang membingungkan dan selektif.

Google Colab adalah implementasi khusus dari lingkungan notebook Jupyter, yang memungkinkan pelatihan jarak jauh proyek pembelajaran mesin pada GPU yang jauh lebih kuat daripada yang dapat dibeli oleh banyak pengguna.

Karena pelatihan deepfake adalah kegiatan yang lapar VRAM, dan karena adanya kelangkaan GPU, banyak deepfakers dalam beberapa tahun terakhir telah meninggalkan pelatihan di rumah demi pelatihan jarak jauh di Colab, di mana, tergantung pada keberuntungan dan tingkat, memungkinkan untuk melatih model deepfake pada kartu yang kuat seperti Tesla T4 (16GB VRAM, saat ini sekitar $2k USD), V100 (32GB VRAM, sekitar $4k USD), dan A100 (80GB VRAM, MSRP $32.097,00), di antara lainnya.

Larangan pelatihan di Colab tampaknya akan mengurangi jumlah deepfakers yang dapat melatih model dengan resolusi lebih tinggi, di mana gambar input dan output lebih besar, lebih sesuai untuk hasil resolusi tinggi, dan dapat mengekstrak dan mereproduksi detail wajah yang lebih besar.

Beberapa hobiis dan penggemar deepfake yang paling berdedikasi, menurut postingan Discord dan forum, telah berinvestasi besar-besaran dalam perangkat keras lokal selama beberapa tahun terakhir, meskipun harga GPU yang tinggi.

Namun, mengingat biaya yang tinggi, sub-komunitas telah muncul untuk mengatasi tantangan pelatihan deepfakes di Colab, dengan alokasi GPU acak menjadi keluhan paling umum sejak Colab membatasi penggunaan GPU tingkat tinggi untuk pengguna gratis.

* Dalam pesan pribadi di Discord

Publikasi pertama 28 Mei 2022.
Revisi 7:28 EST, koreksi typo kutipan.
Revisi 12:40 siang EST – menambahkan klarifikasi tentang larangan deepfake tingkat gratis dan pro, sebaik yang dapat dipahami dari daftar ‘gratis’ dan ‘pro’ larangan.