Google Telah Melarang Pelatihan Deepfakes di Colab

Dalam dua minggu terakhir, Google diam-diam mengubah persyaratan layanan untuk pengguna Colab, menambahkan ketentuan bahwa layanan Colab tidak lagi digunakan untuk melatih deepfake.

Pembaruan Mei membawa larangan deepfake ke Colab. Sumber: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Versi arsip web pertama dari Internet Archive yang menampilkan larangan deepfake adalah ditangkap Selasa lalu, 24 Mei. FAQ Colab versi terakhir yang diambil tidak menyebutkan larangan itu di 14th Mei.

Dari dua distribusi pembuatan deepfake yang populer, Lab Wajah Dalam (DFL) dan Tukar Muka, keduanya merupakan garpu dari kode kontroversial dan anonim yang diposting ke Reddit di 2017, hanya lebih terkenal jahat DFL tampaknya menjadi target langsung dari larangan tersebut. Menurut pengembang deepfake 'chervonij' di DFL Discord, menjalankan perangkat lunak di Google Colab sekarang menghasilkan peringatan:

'Anda mungkin mengeksekusi kode yang tidak diizinkan, dan hal ini dapat membatasi kemampuan Anda untuk menggunakan Colab di masa mendatang. Harap perhatikan tindakan terlarang yang ditentukan dalam FAQ kami.'

Namun, yang menarik, pengguna saat ini diizinkan untuk melanjutkan eksekusi kode.

Peringatan baru yang menyapa deepfaker DFL yang mencoba menjalankan kode di Google Colab. Sumber: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Menurut pengguna di Discord untuk distribusi pesaing FaceSwap, kode proyek tersebut tampaknya belum memicu peringatan, menunjukkan bahwa kode untuk DeepFaceLab (juga arsitektur pengumpanan untuk implementasi streaming deepfake waktu nyata DeepFaceLive), sejauh ini merupakan metode deepfake yang paling dominan, telah ditargetkan secara khusus oleh Colab.

Pengembang bersama FaceSwap Matt Tora berkomentar*:

'Saya merasa sangat tidak mungkin Google melakukan ini karena alasan etika tertentu, apalagi tujuan Colab adalah agar siswa/ilmuwan data/peneliti dapat menjalankan kode GPU yang mahal secara komputasi dengan cara yang mudah dan dapat diakses, bebas dari mengenakan biaya. Namun, saya menduga bahwa jumlah pengguna yang tidak sedikit mengeksploitasi sumber daya ini untuk membuat model deepfake, dalam skala besar, yang mahal secara komputasi dan membutuhkan waktu pelatihan yang tidak sedikit untuk menghasilkan hasil.

'Bisa dibilang Colab lebih condong ke sisi pendidikan dan penelitian AI. Menjalankan skrip yang membutuhkan sedikit input pengguna, atau pemahaman, cenderung bertentangan dengan ini. Di Faceswap kami mencoba untuk fokus mendidik pengguna tentang AI dan mekanisme yang terlibat, sambil menurunkan penghalang untuk masuk. Kami sangat mendorong penggunaan perangkat lunak secara etis dan merasa bahwa membuat alat semacam ini tersedia untuk audiens yang lebih luas membantu mendidik orang dalam hal apa yang dapat dicapai di dunia saat ini, daripada menyembunyikannya untuk beberapa orang terpilih.

'Sayangnya kami tidak dapat mengontrol bagaimana alat kami pada akhirnya digunakan, atau di mana mereka dijalankan. Saya sedih bahwa jalan telah ditutup bagi orang-orang untuk bereksperimen dengan kode kami, namun, dalam hal melindungi sumber daya khusus ini untuk memastikan ketersediaannya bagi audiens target yang sebenarnya, saya rasa itu dapat dimengerti.'

Tidak ada bukti bahwa pembatasan baru hanya terbatas pada tingkat gratis Google Colab – di bagian bawah daftar aktivitas terlarang yang sekarang telah ditambahkan deepfake, adalah catatannya 'Pembatasan tambahan ada untuk pengguna berbayar', menunjukkan bahwa ini adalah peraturan dasar. Sehubungan dengan larangan deepfake, ini telah membingungkan beberapa orang sejak saat itu 'penambangan mata uang kripto' dan 'terlibat dalam berbagi file peer-to-peer' termasuk dalam bagian 'Pembatasan' gratis dan pro.

Dengan logika itu, semua yang dilarang di bagian 'Pembatasan' gratis diizinkan di versi Pro, asalkan versi Pro tidak secara eksplisit melarangnya, termasuk 'menjalankan serangan denial-of-service'dan 'membobol kata sandi'. Pembatasan tambahan untuk tingkat Pro terutama terkait dengan tidak 'menyewa' akses Colab pro, meskipun ada larangan duplikat yang membingungkan dan selektif.

Google Colab adalah implementasi khusus dari Notebook Jupyter lingkungan, yang memungkinkan pelatihan jarak jauh untuk proyek pembelajaran mesin pada GPU yang jauh lebih kuat daripada yang mampu dibeli oleh banyak pengguna.

Karena pelatihan deepfake adalah pengejaran yang haus akan VRAM, dan sejak munculnya kelaparan GPU, banyak deepfake dalam beberapa tahun terakhir menghindari pelatihan di rumah demi pelatihan jarak jauh di Colab, yang memungkinkan, bergantung pada peluang dan tingkatan, untuk melatih deepfake model pada kartu kuat seperti Tesla T4 (VRAM 16GB, saat ini sekitar $2k USD), itu V100 (VRAM 32GB, sekitar $4k USD), dan A100 yang perkasa (VRAM 80GB, MSRP sebesar $32,097.00), antara lain.

Pelarangan pelatihan Colab tampaknya akan mengurangi kumpulan deepfaker yang mampu melatih model beresolusi lebih tinggi, di mana gambar input dan output lebih besar, lebih cocok untuk hasil beresolusi tinggi, dan mampu mengekstraksi dan mereproduksi detail wajah yang lebih besar.

Beberapa penghobi dan penggemar deepfake yang paling berkomitmen, menurut Discord dan posting forum, telah banyak berinvestasi dalam perangkat keras lokal selama beberapa tahun terakhir, terlepas dari tingginya harga GPU.

Namun, mengingat tingginya biaya yang terlibat, sub-komunitas telah muncul untuk mengatasi tantangan pelatihan deepfake di Colab, dengan alokasi GPU acak menjadi keluhan paling umum karena Colab membatasi penggunaan GPU kelas atas untuk pengguna gratis.

* Dalam pesan pribadi di Discord

Pertama kali diterbitkan 28 Mei 2022.
Revisi 7:28 EST, koreksi salah ketik kutipan.
Revisi 12:40 EST – klarifikasi tambahan mengenai larangan deepfake gratis dan pro tingkat,sebagaimana dapat dipahami dari daftar larangan 'bebas' dan 'pro'.