Google Melarang Pelatihan Deepfakes di Colab

Beberapa waktu lalu, Google telah mengubah ketentuan layanan untuk pengguna Colab, menambahkan ketentuan bahwa layanan Colab tidak lagi dapat digunakan untuk melatih deepfakes.

Pembaruan Mei membawa larangan deepfake ke Colab. Sumber: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Versi web-arsip pertama dari Internet Archive yang menampilkan larangan deepfake adalah ditangkap hari Selasa, 24 Mei. Versi terakhir dari FAQ Colab yang tidak menyebutkan larangan adalah pada 14 Mei.

Dari dua distribusi pembuatan deepfake yang populer, DeepFaceLab (DFL) dan FaceSwap, keduanya merupakan fork dari kode anonim yang diposting di Reddit pada 2017, hanya DFL yang lebih terkenal yang tampaknya telah ditargetkan langsung oleh larangan. Menurut pengembang deepfake ‘chervonij’ di Discord DFL, menjalankan perangkat lunak di Google Colab sekarang menghasilkan peringatan:

‘Anda mungkin menjalankan kode yang dilarang, dan ini dapat membatasi kemampuan Anda untuk menggunakan Colab di masa depan. Perhatikan tindakan yang dilarang yang ditentukan dalam FAQ kami.’

Namun, menariknya, pengguna saat ini diizinkan untuk melanjutkan eksekusi kode.

Peringatan baru yang menyambut DFL deepfakers yang mencoba menjalankan kode di Google Colab. Sumber: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Menurut pengguna di Discord untuk distribusi saingan FaceSwap, kode proyek tersebut tampaknya tidak memicu peringatan, menunjukkan bahwa kode untuk DeepFaceLab (juga arsitektur pakan untuk implementasi streaming deepfake waktu nyata DeepFaceLive), yang jauh merupakan metode deepfake yang paling dominan, telah ditargetkan secara khusus oleh Colab.

Pengembang FaceSwap, Matt Tora, mengomentari*:

‘Saya menemukan sangat tidak mungkin bahwa Google melakukan ini untuk alasan etika tertentu, lebih bahwa Colab ada untuk memungkinkan siswa/ilmuwan/data untuk dapat menjalankan kode GPU yang mahal dengan mudah dan gratis. Namun, saya curiga bahwa sejumlah besar pengguna memanfaatkan sumber daya ini untuk membuat model deepfake, yang membutuhkan biaya komputasi dan waktu pelatihan yang tidak sedikit.

‘Anda bisa mengatakan bahwa Colab lebih condong ke sisi pendidikan, penelitian AI. Menjalankan skrip yang membutuhkan sedikit input pengguna, atau pemahaman, cenderung bertentangan dengan ini. Di FaceSwap, kami berfokus pada mendidik pengguna tentang AI dan mekanisme yang terlibat, serta menurunkan hambatan untuk memulai. Kami sangat mendorong penggunaan etis perangkat lunak dan merasa bahwa membuat alat ini tersedia untuk audiens yang lebih luas membantu mendidik orang tentang apa yang dapat dicapai di dunia saat ini, bukan menyembunyikannya untuk beberapa orang terpilih.

‘Sayangnya, kami tidak dapat mengontrol bagaimana alat kami digunakan, atau di mana mereka dijalankan. Ini menyedihkan saya bahwa sebuah jalur telah ditutup untuk orang-orang yang ingin bereksperimen dengan kode kami, namun, dalam hal melindungi sumber daya ini untuk memastikan ketersediaannya bagi audiens target sebenarnya, saya menemukannya dapat dipahami.’

Tidak ada bukti bahwa pembatasan baru ini hanya terbatas pada tingkat gratis Google Colab – di bagian bawah daftar aktivitas yang dilarang, di mana deepfakes telah ditambahkan, ada catatan ‘Batasan tambahan ada untuk pengguna berbayar’, yang menunjukkan bahwa ini adalah peraturan dasar. Dalam hal larangan deepfake, ini telah membingungkan beberapa orang, karena ‘penambangan cryptocurrency’ dan ‘berpartisipasi dalam berbagi file peer-to-peer’ termasuk dalam kedua bagian ‘Batasan’ untuk pengguna gratis dan pro.

Menurut logika itu, semua yang dilarang dalam bagian ‘Batasan’ untuk pengguna gratis diperbolehkan di versi Pro, selama versi Pro tidak secara eksplisit melarangnya, termasuk ‘menjalankan serangan penolakan layanan’ dan ‘pemecahan kata sandi’. Batasan tambahan untuk tingkat Pro sebagian besar berkaitan dengan tidak ‘mensubkontrak’ akses Colab Pro, meskipun ada larangan ganda yang membingungkan dan selektif.

Google Colab adalah implementasi khusus dari lingkungan notebook Jupyter, yang memungkinkan pelatihan jarak jauh proyek pembelajaran mesin pada GPU yang jauh lebih kuat daripada yang dapat dibeli oleh banyak pengguna.

Because pelatihan deepfake adalah kegiatan yang lapar VRAM, dan karena kelangkaan GPU, banyak deepfakers dalam beberapa tahun terakhir telah meninggalkan pelatihan di rumah demi pelatihan jarak jauh di Colab, di mana, tergantung pada keberuntungan dan tingkat, memungkinkan untuk melatih model deepfake pada kartu yang kuat seperti Tesla T4 (16GB VRAM, sekitar $2k USD), V100 (32GB VRAM, sekitar $4k USD), dan A100 (80GB VRAM, harga jual $32,097.00), di antara lainnya.

Larangan pelatihan di Colab tampaknya akan mengurangi jumlah deepfakers yang dapat melatih model dengan resolusi lebih tinggi, di mana gambar input dan output lebih besar, lebih sesuai untuk hasil resolusi tinggi, dan mampu mengekstrak dan mereproduksi detail wajah yang lebih besar.

Beberapa hobiis dan penggemar deepfake yang paling berdedikasi, menurut postingan Discord dan forum, telah berinvestasi besar-besaran dalam perangkat keras lokal selama beberapa tahun terakhir, meskipun harga GPU yang tinggi.

Namun, mengingat biaya yang terlibat, sub-komunitas telah muncul untuk mengatasi tantangan pelatihan deepfakes di Colab, dengan alokasi GPU acak menjadi keluhan paling umum sejak Colab limited the use of higher-end GPUs to free users. * Dalam pesan pribadi di Discord

Pertama kali dipublikasikan 28 Mei 2022.
Direvisi 7:28 AM EST, koreksi typo kutipan.
Direvisi 12:40pm EST – tambahan klarifikasi mengenai larangan deepfake untuk tingkat gratis dan pro, sebagaimana dapat dipahami dari daftar ‘gratis’ dan ‘pro’ larangan.