CivitAI Memperketat Aturan Deepfake di Bawah Tekanan Mastercard dan Visa

CivitAI, mungkin repositori model AI paling populer di internet, akhirnya menyerah pada tekanan dari fasilitator pembayaran MasterCard dan Visa untuk secara radikal merevisi kebijakan mereka tentang konten NSFW – dan khususnya TOS mereka mengenai LoRA selebriti, salah satu aliran konten yang dikirimkan pengguna paling populer di situs tersebut, yang memungkinkan orang untuk menggunakan model tambahan yang dapat diunduh secara bebas seperti LoRA untuk membuat penggambaran AI (termasuk penggambaran video) orang-orang terkenal.

Klik untuk main. Meskipun Civit tidak memberikan angka pastinya (dan kesalahan pelabelan/pengkategorian yang salah adalah hal yang lumrah, yang kemungkinan dapat mendistorsi angka), jumlah model AI selebriti, terutama LoRA, jelas mencapai ratusan atau bahkan ribuan, dan jelas didominasi oleh subjek perempuan. Sumber: civitai.com

Jelas beroperasi di bawah tekanan dalam Siaran langsung Twitch** atas nama perusahaan, Manajer Keterlibatan Komunitas perusahaan Alasdair Nicoll, yang juga merupakan pencipta model (SFW) di Civit, mengakui bahwa perubahan tersebut dipaksakan kepada situs tersebut oleh kekhawatiran pemroses pembayaran mereka tentang konten dewasa, dan penggambaran orang sungguhan. Ia juga mengakui kemungkinan bahwa kekuatan utama di balik pemroses ini, Visa dan MasterCard, kemungkinan akan menuntut perubahan yang lebih besar di kemudian hari:

"Ini bukan perubahan yang ingin kami buat. Ini bermuara pada undang-undang baru yang akan datang. Ada undang-undang deepfake, ada undang-undang pornografi AI... pemroses pembayaran, dan pada akhirnya Visa dan MasterCard ketakutan; mereka tidak ingin dituntut, dan pada akhirnya merekalah yang mendorong perubahan ini."

'Beberapa opsi lain yang diberikan kepada kami adalah menghapus sama sekali konten yang tidak aman untuk pekerjaan; menghapus konten x dan triple-x dari CivitAI dan menggantinya dengan platform yang sama sekali baru, lalu melakukan pemblokiran geografis pada platform tersebut, karena lebih dari setengah negara bagian AS mewajibkan beberapa bentuk pemblokiran geografis untuk konten porno, [serta] banyak negara Asia dan Inggris Raya…

'Pilihan ketiga adalah beralih sepenuhnya ke kripto, hanya pembayaran kripto saja... jadi benar-benar tidak ada pilihan bagus untuk ini.'

Domain Civit telah ditutup secara berkala untuk revisi selama beberapa hari terakhir, tampaknya untuk memberlakukan perubahan. Meskipun situs tersebut telah melarang penggunaan tema NSFW dalam penggambaran LoRA/model selebritas, kini mustahil untuk menelusuri bagian model Civit dan melihat pratinjau LoRA selebritas berdampingan dengan sejumlah besar model NSFW generik yang dirancang untuk menghasilkan konten dewasa.

pengumuman resmi menyatakan:

'Konten yang diberi tag dengan nama orang sungguhan (seperti "Tom Cruise") atau ditandai sebagai sumber daya POI (orang sungguhan) akan disembunyikan dari umpan.'

Dalam sesi Twitch, Nicoll mengungkapkan detail lebih lanjut tentang langkah-langkah yang dirancang untuk melindungi tokoh-tokoh terkenal dan orang-orang nyata. Civit selalu mengizinkan orang-orang nyata untuk meminta agar model AI yang dihosting Civit yang menggambarkan mereka dihapus, tetapi sekarang Nicoll menyinggung sebuah sistem yang dapat mencegah pengunggahan ulang gambar-gambar tersebut setelah penolakan awal, dengan fasilitas untuk mengidentifikasi tokoh yang 'dilindungi' bahkan dalam gambar-gambar yang belum pernah dilihat oleh sistem sebelumnya.

Untuk tujuan ini, situs tersebut kini bermitra dengan sistem moderasi AI Clavata – meskipun sejauh mana Clavata akan mendukung fasilitas baru ini belum jelas.

Nicoll mengatakan:

'Tom Hanks telah mengklaim kemiripannya dari kita, misalnya. Banyak aktris dewasa yang melakukannya; banyak aktor dan aktris papan atas yang melakukannya…

'Saya pikir yang pertama yang pernah kami miliki adalah Barbara Eden, tanah miliknya* – dia adalah salah satu orang pertama yang mengklaim kemiripannya, yang agak lucu, karena dia sudah tua.'

Dilindungi secara Default?

Selama beberapa tahun terakhir, perusahaan AI VFX Metaphysic (pengungkapan penuh: Saya bekerja untuk Metaphysic.ai dari awal 2022 hingga akhir 2024) mencoba membuat sistem kepemilikan yang akan memungkinkan siapa pun untuk mendaftarkan kemiripan mereka sendiri, meskipun terutama ditujukan kepada nama-nama Hollywood yang khawatir tentang pembajakan identitas mereka berbasis AI, dengan dukungan dari para aktor seperti Anne Hathaway, Octavia Spencer dan Tom Hanks (yang bekerja sama dengan perusahaan dalam film Robert Zemeckis) Sini [2024]).

Secara logika, manfaat sistem ini akan selalu bergantung pada putusan pengadilan yang ada; berdasarkan langkah-langkah yang kini harus diambil Civit, layanan berbasis langganan^† yang diusulkan oleh Metaphysic mungkin akan berlebihan mengingat pesatnya pertumbuhan hukum deepfake, dan potensi cakupan (gratis) berdasarkan hukum umum. Saat ini belum diketahui apakah penawaran Metaphysic Pro akan dialihkan ke perusahaan Double Negative VFX, yang mengakuisisi aset Metafisika tahun lalu.

Bagaimanapun, semakin tampak bahwa hukum global dan tekanan pasar umum lebih cenderung memberikan perlindungan dan solusi, dibandingkan dengan solusi komersial semacam ini.

Merebus Katak

Laporan tahun 2023 oleh 404 Media membawa perhatian terhadap kecenderungan selebriti dan model AI porno di Civit, meskipun pendiri situs tersebut, Justin Maier diremehkan hubungan antara kemiripan selebriti yang disumbangkan pengguna dan penggunaannya dalam menghasilkan materi pornografi.

Meskipun Civit menghasilkan uang dengan memfasilitasi penggunaan LoRA di tempat dan model lain yang disediakan pengguna, Nicoll menegaskan bahwa ini bukanlah perhatian utama yang memotivasi Visa dan MasterCard untuk menetapkan perubahan pada situs tersebut, agar situs tersebut dapat terus dimonetisasi:

"Beberapa orang bilang alasan kita berada dalam kekacauan ini adalah karena kita membiarkan generasi. Itu tidak penting. Hosting model-model ini, hosting konten ini, sudah cukup untuk menarik perhatian Sauron."

Dalam beberapa tahun terakhir, utas komentar komunitas merasa heran karena Civit diizinkan untuk mengunggah foto selebritas. Menyadari kemungkinan, mungkin keniscayaan dari tindakan keras, sejumlah inisiatif untuk melestarikan LoRA yang dihapus oleh Civit atau pengunggahnya, telah diusulkan atau dilaksanakan, termasuk subreddit r/CivitaiArchives yang (hingga saat ini) agak terabaikan.

Meskipun banyak yang menyarankan bahwa inisiatif berbasis torrent adalah solusi alami, tampaknya belum ada domain yang diikuti dengan baik – dan bagaimanapun, hal ini tampaknya pasti akan memindahkan aktivitas yang dilarang di Civit dan di tempat lain ke pinggiran internet terluar; ke taman bertembok; dan, kemungkinan besar, ke dark net, karena sebagian besar kerangka kerja yang dapat mengakomodasi LoRA kemiripan yang dilarang (seperti Reddit dan Discord) telah melarang konten tersebut atau tampaknya pasti akan melarangnya dalam waktu dekat.

Saat ini, LoRA selebriti masih dapat dilihat dengan beberapa pembatasan di Civit, meskipun sebagian besar konten yang dihasilkan telah dihapus dari daftar dan akan dikecualikan dari penemuan biasa. Yang tampaknya mungkin, menurut salah satu komentator kepada Nicoll dalam sesi Twitch, adalah tindakan keras akan semakin ketat (mungkin sampai pada pelarangan semua kemiripan orang sungguhan dalam model atau penggambaran yang diunggah).

Nicoll menanggapi:

"Mereka tidak akan berhenti di sini, mereka akan terus menuntut lebih dan lebih lagi" – tentu saja! Ya, tentu saja. Begitulah dunia tempat kita tinggal. Satu-satunya harapan adalah kita menjadi cukup besar dan kuat sehingga kita akan memiliki lebih banyak suara dalam apa yang didiktekan kepada kita […]

Putus asa dengan alternatif yang ditawarkan kepada Civit, Nicoll menambahkan:

[…] Tidak ada yang akan membeli Bitcoin untuk [menggunakan] generator CivitAI. Jadi, kami telah berusaha membuatnya semenarik mungkin, dan inilah hasilnya. Jadi, saya mohon maaf jika ini sesuatu yang tidak bisa Anda terima, tetapi sayangnya memang begitulah adanya. Kami telah berusaha sebaik mungkin, kami menolak sebisa mungkin, tetapi akhirnya kami diberi tahu bahwa inilah akhirnya – Anda harus melakukan ini atau ini akan menjadi akhir […]'

[…] Lembaga-lembaga keuangan ini, mereka tidak mengerti apa yang dilakukan orang-orang di sini dengan konten ini. Kami sudah mencoba memberi tahu mereka, kami sudah mencoba berbicara dengan mereka, tetapi kami praktis menjadi benteng terakhir konten [NSFW].

Nicoll mengatakan bahwa Civit telah menghubungi 'setiap pemroses pembayaran yang dapat dibayangkan:

"Bahkan pemroses pembayaran berisiko tinggi yang digunakan situs porno, dan mereka semua sangat waspada terhadap konten AI. Itulah masalahnya – ini konten AI. Jika kami situs porno tradisional, kami akan baik-baik saja, tetapi konten AI-lah yang mereka takuti."

Dimana Selanjutnya?

Sebelum pengumuman ini, Civit diketahui telah menghapus unggahan yang termasuk dalam beberapa kategori dan jenis konten yang kini dilarang. Saat artikel ini ditulis, 'repositori darurat' untuk LoRA Wan 2.1 telah mapan di situs web Hugging Face. Meskipun beberapa LoRA yang diarsipkan di sana dirancang untuk memfasilitasi aktivitas seksual umum yang kurang terlatih atau bahkan tidak ada dalam model video baru seperti Wan 2.1, beberapa di antaranya termasuk dalam kategori 'melepas pakaian' yang sekarang dilarang keras (yaitu, 'menelanjangi'), termasuk beberapa model yang dapat dikatakan 'ekstrem' atau secara nyata berpotensi menyinggung.

Subreddit r/datahoarders, yang telah di garis depan tentang pelestarian literatur daring pemerintah AS di bawah pemerintahan Donald Trump kampanye penghapusan massal, sejauh ini menunjukkan penghinaan untuk ide menyimpan konten CivitAI yang hilang.

Dalam literatur, kemudahan CivitAI dalam memfasilitasi pembuatan AI NSFW tidak luput dari perhatian. Namun, salah satu studi yang paling banyak dikutip, 2024 kertas Menjelajahi Penggunaan Model AI Generatif Abusif di Civitai, terhambat oleh fakta bahwa Civit belum mengizinkan generasi AI selebriti atau ilegal hingga saat ini, dan oleh tekad para peneliti untuk menemukan bukti mereka di Civit sendiri.

Namun, yang jelas, yang menjadi perhatian para pemroses pembayaran bukanlah apa yang diproduksi dengan LoRA di Civit itu sendiri, atau apa yang dipublikasikan di sana, tetapi apa yang dilakukan dengan model-model ini di Lainnya komunitas yang tertutup atau umumnya kurang diatur.

Situs web Mr. Deepfakes, yang identik dengan yang berlaku umum metode berbasis autoencoder Deepfaking NSFW, hingga munculnya Difusi Stabil dan model berbasis difusi pada tahun 2022, baru-baru ini mulai memposting contoh video porno berbasis selebritas menggunakan gelombang terbaru generator teks-ke-video dan gambar-ke-video, termasuk Hunyuan Video dan Wan 2.1 – keduanya rilis terbaru yang pengaruhnya masih baru, tetapi tampaknya akan mengumpulkan berita utama yang menghasut seiring berkembangnya komunitas masing-masing selama tahun ini.

Metadata Wajib

Satu perubahan menarik yang tampaknya dituntut oleh pemroses pembayaran, menurut Nicoll, adalah bahwa semua gambar di situs sekarang harus berisi metadata. Ketika gambar atau video diproduksi oleh model generatif dalam alur kerja umum pada platform seperti ComfyUI, output umumnya berisi metadata yang mencantumkan model yang digunakan (hash dan namanya, sehingga jika model diubah namanya oleh pengguna, asal-usulnya tetap jelas) dan beberapa pengaturan lainnya.

Karena titik data tersembunyi tentang bagaimana gambar dibuat, pengguna bisa menyeret video atau gambar yang dibuat oleh orang lain ke dalam alur kerja ComfyUI mereka sendiri dan membuat ulang seluruh alur, serta mengatasi dependensi yang hilang (seperti model atau komponen yang dimiliki pembuat asli, yang kemudian harus ditemukan dan diunduh oleh pengguna).

Civit telah mengumumkan bahwa setiap gambar atau video yang tidak memiliki data ini akan dihapus dalam waktu tiga puluh hari. Pengguna dapat menambahkan data tersebut secara manual, dengan mengetiknya di situs web Civit itu sendiri.

Karena nilai metadata (mungkin) bersifat pembuktian, ketentuan ini tampaknya tidak ada gunanya; mudah untuk menyalin dan menempel metadata dari satu file ke file lain, dan ad hoc Penemuan metadata melalui formulir web membuat aturan baru ini sedikit membingungkan.

Meskipun demikian, beberapa pengguna (termasuk satu pengguna yang berkomentar di sesi Twitch) telah mengunggah ribuan gambar di Civit. Satu-satunya jalan keluar mereka saat ini adalah memberi anotasi manual pada masing-masing gambar, atau menghapus dan mengunggah ulang versi gambar dengan metadata tambahan – yang akan menghapus semua 'suka', 'buzz', atau percakapan yang dihasilkan oleh gambar asli.

Aturan Baru

Berikut ini adalah ringkasan perubahan yang berlaku di Civit mulai hari ini:

• Konten yang diberi tag dengan nama individu sungguhan atau diidentifikasi sebagai sumber daya orang sungguhan tidak akan muncul lagi di umpan publik.
• Konten dengan tema anak-anak/di bawah umur akan disaring dari umpan.
• Konten berperingkat X dan XXX yang tidak memiliki metadata pembuatan akan disembunyikan dari tampilan publik dan ditandai dengan peringatan, yang memungkinkan pengunggah untuk menambahkan detail yang hilang. Konten tersebut tidak akan dihapus tetapi akan tetap terlihat hanya oleh pembuatnya hingga diperbarui.
• Gambar yang dibuat menggunakan fitur Bring Your Own Image (BYOI) kini harus menerapkan setidaknya 50% perubahan noise selama proses pembuatan. Ini berarti AI harus memodifikasi gambar yang diunggah secara signifikan, sehingga mengurangi kemungkinan menghasilkan replika yang mendekati persis. Namun, gambar yang sepenuhnya dibuat di CivitAI atau di-remix dari konten CivitAI lainnya tidak tunduk pada aturan ini dan masih dapat menggunakan tingkat denoise apa pun, mulai dari tanpa perubahan sama sekali (0.0) hingga transformasi penuh (1.0). Perubahan ini bertujuan untuk mengurangi penyalahgunaan alat BYOI, yang dapat digunakan untuk menghasilkan deepfake yang halus atau tidak terdeteksi dengan hampir tidak mengubah gambar asli. Memaksa perubahan minimal 50% memastikan AI tidak hanya mengedit foto orang asli yang sudah ada.
• Saat menjelajah dengan konten X atau XXX diaktifkan, pencarian nama selebriti tidak akan memberikan hasil apa pun. Menggabungkan nama selebriti dengan konten dewasa tetap dilarang.
• Iklan tidak akan muncul pada gambar atau sumber daya yang dirancang untuk meniru penampilan individu sungguhan.
• Pemberian tip (Buzz) akan dinonaktifkan untuk gambar atau sumber daya yang menggambarkan individu sungguhan.
• Model yang dirancang untuk meniru orang sungguhan tidak akan memenuhi syarat untuk Akses Awal, fitur Civitai yang memungkinkan kreator merilis konten terlebih dahulu kepada pendukung yang membayar. Fitur ini membatasi monetisasi kemiripan selebritas atau orang sungguhan.
• A 2257 Pernyataan Kepatuhan telah ditambahkan untuk memperjelas bahwa platform tersebut tidak mengizinkan konten yang tidak dibuat oleh AI. Ini membantu memastikan perlindungan hukum dengan menegaskan bahwa semua materi eksplisit bersifat sintetis dan tidak berdasarkan pada foto atau video asli.
• Sebuah baru Halaman Permintaan Penghapusan Konten Memungkinkan siapa pun melaporkan materi yang kasar atau ilegal tanpa perlu masuk. Pengguna terdaftar harus tetap menggunakan alat pelaporan bawaan di setiap unggahan. Fitur ini terpisah dari formulir yang sudah ada untuk meminta penghapusan foto diri dari platform.
• CivitAI telah memperkenalkan sistem moderasi baru melalui kemitraan dengan Clavata, yang alat analisis gambarnya mengungguli solusi sebelumnya seperti Amazon Rekognition dan Hive.

** Pada hari Selasa, 20 Mei 2025 11:23:47 (mungkin terjadi lebih awal), siaran langsung Twitch telah dihapus. Untuk memastikan saya dapat memverifikasi fakta yang dilaporkan dalam siaran tersebut, saya menyimpan salinannya.

* Meskipun menyebutkan 'harta milik' Barbara Eden, I Dream of Jeannie aktris tersebut masih hidup, saat ini berusia 93 tahun.
^† Diarsipkan: https://archive.ph/tsMb0

Pertama kali diterbitkan pada hari Kamis, 24 April 202. Diubah pada hari Kamis, 24 April 2025 14:32:28: tanggal yang dikoreksi.
Dimodifikasi pada Selasa, 20 Mei 2025 untuk mencerminkan penghapusan konten Twitch yang digunakan sebagai materi referensi.