CivitAI dalam Krisis Penyedia Pembayaran Baru, saat Trump Menandatangani Undang-Undang Anti-Deepfake

Presiden Trump telah menandatangani Undang-Undang TAKE IT DOWN, yang mengkriminalisasi deepfake seksual pada tingkat federal di AS. Pada saat yang sama, upaya komunitas CivitAI untuk “membersihkan tindakan” mereka terkait AI dan konten selebriti telah gagal memuaskan penyedia pembayaran, sehingga situs tersebut harus mencari alternatif atau menghadapi penutupan. Semua ini terjadi dalam waktu dua minggu sejak situs deepfake porn terbesar di dunia offline…

Sudah dua minggu yang lalu, domain nomor satu untuk berbagi deepfake selebriti, Mr. Deepfakes, tiba-tiba offline setelah lebih dari tujuh tahun beroperasi. Pada saat itu, situs tersebut menerima rata-rata lebih dari lima juta kunjungan per bulan.

Latar belakang, domain Mr. Deepfakes pada awal Mei; inset, pemberitahuan penangguhan, sekarang digantikan oleh kesalahan 404, karena domain tersebut tampaknya dibeli oleh pembeli tidak dikenal pada 4 Mei 2025 (https://www.whois.com/whois/mrdeepfakes.com). Sumber: mrdeepfakes.com

Penghentian layanan Mr. Deepfakes secara resmi dikaitkan dengan penarikan “penyedia layanan kritis” (lihat gambar inset di atas, yang digantikan oleh kegagalan domain dalam waktu satu minggu). Namun, investigasi jurnalistik kolaboratif telah mengidentifikasi seorang tokoh kunci di balik Mr. Deepfakes sebelum penutupan, memungkinkan kemungkinan bahwa situs tersebut ditutup karena alasan pribadi atau hukum individu tersebut.

Sekitar waktu yang sama, CivitAI, platform komersial yang banyak digunakan untuk selebriti dan NSFW LoRAs, menerapkan serangkaian langkah sensor diri yang tidak biasa dan kontroversial. Langkah-langkah ini memengaruhi generasi deepfake, hosting model, dan serangkaian aturan dan pembatasan baru, termasuk larangan total pada beberapa fetisisme NSFW marginal dan apa yang mereka sebut ‘ideologi ekstremis’.

Langkah-langkah ini dipicu oleh penyedia pembayaran yang tampaknya mengancam untuk menarik layanan dari domain kecuali perubahan terkait konten NSFW dan penggambaran AI selebriti dilakukan.

CivitAI Cut Off

Saat ini, tampaknya langkah-langkah yang diambil oleh CivitAI tidak memuaskan VISA dan Mastercard: sebuah posting baru di situs, dari Manajer Keterlibatan Komunitas Alasdair Nicoll, mengungkapkan bahwa pembayaran kartu untuk CivitAI (yang ‘buzz’ virtual uangnya sebagian besar didukung oleh kartu kredit dan debit dunia nyata) akan dihentikan dari Jumat ini (23 Mei 2025).

Hal ini akan mencegah pengguna memperbarui keanggotaan bulanan atau membeli buzz baru. Meskipun Nicoll menyarankan bahwa pengguna dapat mempertahankan hak keanggotaan saat ini dengan beralih ke keanggotaan tahunan (biaya^†† $100-$550 USD) sebelum Jumat, jelas bahwa masa depan situs tersebut tidak pasti pada saat ini (Perlu dicatat bahwa keanggotaan tahunan diluncurkan pada saat yang sama dengan pengumuman tentang kehilangan penyedia pembayaran).

Mengenai kekurangan penyedia pembayaran, Nicoll mengatakan ‘Kami berbicara dengan setiap penyedia yang nyaman dengan inovasi AI’.

Mengenai kegagalan upaya terbaru untuk memikirkan kembali kebijakan situs tersebut tentang konten AI selebriti dan NSFW, Nicoll menyatakan dalam posting tersebut:

‘Beberapa perusahaan pembayaran melabeli platform generatif-AI sebagai risiko tinggi, terutama ketika kami mengizinkan konten dewasa yang dihasilkan pengguna, bahkan jika itu legal dan dimoderasi. Pilihan kebijakan itu, bukan apa yang dilakukan pengguna, memaksa pemutusan.’

Komentar dari pengguna ‘Faeia’, yang ditunjuk sebagai kepala staf perusahaan di profil CivitAI-nya*, menambahkan konteks pada pengumuman ini:

‘Hanya untuk memperjelas, kami dihapus dari penyedia pembayaran karena kami memilih tidak untuk menghapus konten NSFW dan dewasa dari platform. Kami tetap berkomitmen untuk mendukung semua jenis kreator dan bekerja pada solusi alternatif.’

Sebagai penggerak tradisional teknologi baru, tidak biasa bagi konten NSFW digunakan untuk memulai minat pada domain, teknologi, atau platform – hanya untuk pengikut awal ditolak begitu modal yang cukup atau basis pengguna telah dibangun (yaitu, pengguna yang cukup untuk entitas itu bertahan, ketika kehilangan konteks NSFW).

Tampaknya CivitAI akan mengikuti Tumblr dan berbagai inisiatif lainnya menuju produk yang “disanitasi” dan siap melupakan akarnya. Namun, kontroversi dan stigma yang tumbuh di sekitar konten AI yang dihasilkan jenis apa pun mewakili beban kumulatif yang tampaknya akan mencegah penyelamatan terakhir, dalam hal ini. Sementara itu, pengumuman resmi menyarankan pengguna untuk mengadopsi kripto sebagai metode pembayaran alternatif.

Fake Out

Kehadiran Presiden Donald Trump dengan antusias menandatangani Undang-Undang Federal TAKE IT DOWN kemungkinan besar telah mempengaruhi beberapa peristiwa ini. Undang-undang baru ini mengkriminalisasi distribusi gambar intim non-konsensual, termasuk deepfake yang dihasilkan AI.

Legislasi ini mengharuskan platform untuk menghapus konten yang diberi label dalam waktu 48 jam, dengan penegakan yang diawasi oleh Komisi Perdagangan Federal. Ketentuan pidana undang-undang mulai berlaku segera, memungkinkan penuntutan individu yang dengan sengaja menerbitkan atau mengancam untuk menerbitkan gambar intim non-konsensual (termasuk deepfake yang dihasilkan AI) dalam yurisdiksi Amerika Serikat.

Meskipun undang-undang ini mendapat dukungan bipartisan yang langka, serta dukungan dari perusahaan teknologi dan kelompok advokasi, para kritikus berpendapat bahwa undang-undang ini mungkin menekan konten yang sah dan mengancam alat privasi seperti enkripsi. Bulan lalu, Electronic Frontier Foundation (EFF) menyatakan penentangan terhadap tagihan, dengan menyatakan bahwa mekanisme penghapusan yang dimandatkan menargetkan materi yang lebih luas daripada definisi gambar intim non-konsensual yang lebih sempit yang ditemukan di tempat lain dalam legislasi.

‘Ketentuan penghapusan dalam TAKE IT DOWN berlaku untuk kategori konten yang lebih luas—potensial semua gambar yang melibatkan konten intim atau seksual—daripada definisi gambar intim non-konsensual yang lebih sempit yang ditemukan di tempat lain dalam tagihan. Ketentuan penghapusan juga kekurangan perlindungan kritis terhadap permintaan penghapusan yang tidak serius atau tidak beritikad baik.

‘Layanan akan mengandalkan filter otomatis, yang merupakan alat yang terkenal tumpul. Mereka sering menandai konten yang sah, dari komentar yang dilindungi oleh fair use hingga pelaporan berita. Waktu yang ketat dalam undang-undang ini mengharuskan aplikasi dan situs web untuk menghapus ucapan dalam waktu 48 jam, yang jarang cukup waktu untuk memverifikasi apakah ucapan tersebut sebenarnya ilegal.

‘Sebagai hasilnya, penyedia layanan online, terutama yang lebih kecil, kemungkinan akan memilih untuk menghindari risiko hukum yang berat dengan hanya menghapus ucapan tersebut, bukan mencoba memverifikasinya.’

Platform sekarang memiliki waktu hingga satu tahun sejak undang-undang disahkan untuk membangun proses pemberitahuan dan penghapusan formal, yang memungkinkan individu yang terkena atau perwakilan mereka untuk mengajukan permintaan penghapusan konten.

Ini berarti bahwa meskipun ketentuan pidana segera berlaku, platform tidak diwajibkan untuk mematuhi infrastruktur penghapusan (seperti menerima dan memproses permintaan) sampai jendela waktu satu tahun tersebut berakhir.

Apakah Undang-Undang TAKE IT DOWN Menutupi Konten Selebriti yang Dihasilkan AI?

Meskipun Undang-Undang TAKE IT DOWN melintasi semua perbatasan negara bagian, tidak secara otomatis melarang semua media AI yang dihasilkan selebriti. Undang-undang ini mengkriminalisasi distribusi gambar intim non-konsensual, termasuk deepfake yang dihasilkan AI, hanya ketika individu yang digambarkan memiliki harapan privasi yang wajar:

Undang-undang ini menyatakan:

“(2) KEJAHATAN YANG MELIBATKAN GAMBAR INTIM ASLI.—

“(A) YANG MELIBATKAN DEWASA.—Kecuali [untuk tujuan bukti, pelaporan, dll.], akan menjadi tindakan pidana bagi siapa pun, dalam perdagangan antar negara bagian atau asing, untuk menggunakan layanan komputer interaktif untuk dengan sengaja menerbitkan gambar visual intim dari individu yang dapat diidentifikasi yang bukanlah seorang anak di bawah umur jika—

“(i) gambar visual intim diperoleh atau dibuat dalam keadaan di mana orang tersebut tahu atau seharusnya tahu bahwa individu yang dapat diidentifikasi memiliki harapan privasi yang wajar;

“(ii) apa yang digambarkan tidak dipublikasikan secara sukarela oleh individu yang dapat diidentifikasi dalam pengaturan publik atau komersial [yaitu, pornografi yang dipublikasikan sendiri];

“(iii) apa yang digambarkan bukanlah masalah yang menjadi perhatian publik; dan

“(iv) penerbitan gambar visual intim—

“(I) dimaksudkan untuk menyebabkan kerusakan; atau

“(II) menyebabkan kerusakan, termasuk kerusakan psikologis, keuangan, atau reputasi, kepada individu yang dapat diidentifikasi.

Klausul ‘harapan privasi yang wajar’ yang diterapkan di sini tidak secara tradisional menguntungkan hak-hak selebriti. Tergantung pada hukum yang akhirnya muncul, mungkin saja bahkan konten AI yang dihasilkan yang melibatkan tokoh publik dalam pengaturan publik atau komersial tidak akan jatuh di bawah larangan Undang-Undang.

Klausul terakhir tentang menentukan luasnya kerusakan terkenal elastis dalam istilah hukum, dan dalam arti ini menambahkan tidak ada yang benar-benar baru pada beban legislatif. Namun, niat untuk menyebabkan kerusakan tampaknya membatasi ruang lingkup Undang-Undang pada konteks ‘revenge porn’, di mana (bekas) pasangan menerbitkan media konten (asli atau palsu) dari (bekas) pasangan lain.

Sementara persyaratan ‘kerusakan’ dalam Undang-Undang mungkin tampak tidak sesuai untuk kasus di mana pengguna anonim memposting gambaran AI yang dihasilkan dari selebriti, hal ini dapat terbukti lebih relevan dalam skenario pelecehan, di mana pola pelecehan yang lebih luas mendukung kesimpulan bahwa seorang individu telah secara sengaja dan dengan niat jahat menargetkan tokoh publik melalui berbagai cara.

Meskipun Undang-Undang mengacu pada ‘platform yang tercakup’ yang mengecualikan saluran pribadi seperti Signal atau email dari ketentuan penghapusan, pengecualian ini hanya berlaku untuk kewajiban untuk menerapkan mekanisme penghapusan formal oleh Mei 2026. Ini tidak berarti bahwa gambaran AI non-konsensual atau asli yang dibagikan melalui komunikasi pribadi jatuh di luar ruang lingkup larangan pidana Undang-Undang.

Jelas bahwa kurangnya mekanisme pelaporan di situs tidak menghalangi pihak yang terkena dampak untuk melaporkan apa yang sekarang ilegal kepada polisi; tidak ada yang menghalangi pihak tersebut untuk menggunakan metode kontak konvensional yang mungkin disediakan oleh situs untuk mengajukan keluhan dan meminta penghapusan materi yang melanggar.

Hak-Hak yang Ditinggalkan

Lebih dari tujuh tahun kritik publik dan media yang meningkat atas konten deepfake tampaknya telah mencapai puncaknya dalam waktu yang sangat singkat. Namun, sementara Undang-Undang TAKE IT DOWN menawarkan larangan federal yang luas, mungkin tidak berlaku dalam setiap kasus yang melibatkan simulasi AI yang dihasilkan, sehingga meninggalkan beberapa skenario untuk ditangani oleh undang-undang tingkat negara bagian yang tumbuh, di mana undang-undang yang disahkan sering mencerminkan ‘kepentingan lokal’.

Sebagai contoh, di California, Undang-Undang Hak Selebriti California membatasi penggunaan eksklusif identitas selebriti untuk diri mereka sendiri dan warisan mereka, bahkan setelah kematian; sebaliknya, Undang-Undang ELVIS Tennessee fokus pada melindungi musisi dari reproduksi suara dan gambar AI yang tidak sah, dengan setiap kasus mencerminkan pendekatan yang ditargetkan untuk kelompok kepentingan yang menonjol di tingkat negara bagian.

Sebagian besar negara bagian sekarang memiliki undang-undang yang menargetkan deepfake seksual, meskipun banyak yang tidak menjelaskan apakah perlindungan tersebut diperluas sama untuk individu pribadi dan tokoh publik. Sementara itu, deepfake politik yang dilaporkan mendorong dukungan Donald Trump untuk undang-undang federal baru ini mungkin, dalam prakteknya, bertabrakan dengan hambatan konstitusional dalam konteks tertentu.

^† Versi yang diarsipkan: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Versi yang diarsipkan (tidak menampilkan harga bulanan): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Kepala staf yang sebenarnya untuk CEO di CivitAI terdaftar di LinkedIn dengan nama yang tidak terkait, sementara ‘Faiona’ yang terdengar mirip adalah moderator staf resmi CivitAI di subreddit domain civitai.

Dipublikasikan pertama kali pada hari Selasa, 20 Mei 2025