CivitAI, Derin Sahte Rules’u Mastercard ve Visa’nın Baskısı Altında Değiştiriyor

CivitAI, muhtemelen internet上的 en popüler AI model deposu, sonunda NSFW içeriği ve özellikle de site’nin en popüler kullanıcı tarafından oluşturulan içerik akışlarından biri olan ünlü LoRAs ile ilgili TOS’u radikal olarak değiştirmek için MasterCard ve Visa’nın baskısına boyun eğdi. Bu, insanların ücretsiz olarak indirilebilen ek modeller gibi LoRAs’ı kullanarak ünlü kişilerin AI temsillerini (video temsilleri dahil) oluşturmasına olanak tanıyan bir içerik akışıdır.

Oynatmak için tıklayın. Civit, kesin rakamlar vermez (ve yanlış etiketleme/yanlış kategorilendirmeye maruz kalma alışılmadık bir durum değildir, bu da muhtemelen rakamları çarpıtabilir), ancak ünlü AI modellerinin, özellikle LoRAs’ın sayısı, açıkça yüzler veya binlerce kişiden oluşmakta ve açıkça kadın konular tarafından domine edilmektedir. Kaynak: civitai.com

Açıkça, şirketin Topluluk Katılımı Yöneticisi Alasdair Nicoll, şirket adına bir Twitch canlı yayınında** konuştu ve değişikliklerin, ödeme işleyicilerinin yetişkin içeriği ve gerçek kişilerin temsili hakkında endişeleri nedeniyle siteye zorla getirildiğini kabul etti. Ayrıca, bu işleyicilerin arkasındaki主要 güçlerin, Visa ve MasterCard’in, daha fazla değişiklik talep etme olasılığının yüksek olduğunu da kabul etti:

‘Bu değişiklikleri yapmak istemediğimiz şeyler. Bu, yeni ve yaklaşan yasalara bağlı. Derin sahte yasaları var, AI porn yasaları… ödeme işleyicileri ve nihayetinde Visa ve MasterCard korkuyor; dava edilmek istemiyorlar ve bu değişiklikleri sonunda yönlendiriyorlar.

‘Diğer seçeneklerimiz, tüm güvenli olmayan içeriği kaldırmak; x ve triple-x içeriğini CivitAI’dan completely yeni bir platforma taşımak ve sonra bu platformu coğrafi olarak engellemekti, çünkü ABD’nin yarısından fazlası bazı türden porn coğrafi engellemesini gerektiriyor, [as well as] birçok Asya ülkesi ve Birleşik Krallık…

‘Üçüncü seçenek, tamamen kripto para ödemelerine geçmekti… yani hiç iyi seçenek yoktu.’

Civit domaine, değişiklikleri gerçekleştirmek için son günlerde periyodik olarak kapatıldı. Site, zaten ünlü LoRA/model temsillerinde NSFW temalarının kullanımını yasaklamıştı, ancak şimdi Civit’in model bölümünü gezinlemek ve ünlü LoRA ön izlemelerini, çok sayıda generic NSFW modelle birlikte görmek artık mümkün değildir.

Resmi açıklama şöyle diyor:

‘Gerçek kişi adları (örneğin “Tom Cruise”) ile etiketlenen veya POI (gerçek kişi) kaynakları olarak işaretlenen içerik, artık beslemelerden gizlenecek.’

Twitch oturumunda Nicoll, ünlü kişiler ve gerçek kişilerin korunmasına yönelik önlemler hakkında daha fazla ayrıntı açıkladı. Civit, her zaman gerçek kişilerin, Civit tarafından barındırılan ve onları temsil eden bir AI modelinin kaldırılmasını talep etmelerine izin vermiştir, ancak şimdi Nicoll, bu tür görüntülerin ilk reddedilmesinden sonra yeniden yüklenmesini önleyebilecek bir sisteme atıfta bulunuyor, ayrıca daha önce hiç görülmemiş görüntülerde bile bir ‘korunan’ kişiliği tanımlayabilme yeteneği sunuyor.

Bu amaçla, site artık Clavata AI moderasyon sistemini ortak olarak kullanıyor – ancak Clavata’nın bu yeni olanakları ne ölçüde güçlendireceği henüz net değil.

Nicoll dedi ki:

‘Örneğin Tom Hanks, bize benzerliğini iddia etti. Çok sayıda yetişkin aktris de öyle; çok sayıda A-list oyuncular ve aktrisler…

‘Sanırım ilk yaptığımız Barbara Eden’in mülküydü – çok eski.

Varsayılan Olarak Korunuyor Mu?

Son iki yıl içinde, AI VFX şirketi Metaphysic (tam açıklama: 2022’den 2024’e kadar Metaphysic.ai için çalıştım), özellikle AI tabanlı kimlik kaçırma konusunda endişe duyan Hollywood isimlerine yönelik, kendi benzerliğini kayıt ettirmelerine olanak tanıyan bir sistem oluşturmaya çalıştı, aktörler gibi Anne Hathaway, Octavia Spencer ve Tom Hanks’tan destek aldı.

Mantıksal olarak, sistemin faydası her zaman eventual dava yasalarına bağlı olacaktı; Civit’in şimdi yapmak zorunda olduğu değişikliklere dayanarak, Metaphysic tarafından önerilen abonelik tabanlı hizmet, derin sahte yasalarının hızlı büyümesi ve potansiyel olarak ücretsiz ortak hukuk kapsamına karşı anlamsız olabilir. Metaphysic Pro teklifinin, Metaphysic’in varlıklarını geçen yıl satın alan Double Negative VFX şirketine aktarılacağı bilinmiyor.

Her halükarda, artık küresel yasa ve genel piyasa baskılarının, bu tür ticari çözümler yerine koruma ve çareler sağlama olasılığı daha yüksek görünüyor.

Kurbağa Kaynatma

2023’te 404 Media tarafından yapılan bir rapor, Civit’teki ünlülerin ve pornografik AI modellerinin eğilimini vurguladı, ancak site’nin kurucusu Justin Maier, ünlü benzerliklerin NSFW materyal oluşturmak için kullanılmasındaki ilişkiye dikkat çekti.

Civit, site’de LoRAs ve diğer kullanıcı tarafından sağlanan modellerin kullanımını kolaylaştırdığı için para kazanıyor, ancak Nicoll, bu değişiklikleri site’yi para kazandırabilmek için yapmaya zorlayan şeyin bu olmadığını açıkça belirtiyor:

‘Bazı insanlar, bu durumun sebebinin generation’a izin verdiğimizden kaynaklandığını söylüyor. Bu durumla ilgili değil. Bu modellerin, bu içeriklerin barındırılması, Sauron’un dikkatini çekmeye yeterli.’

Topluluk yorum thread’leri, son yıllarda Civit’in ünlü benzerliklerini barındırdığına şaşırıyor. Müdahale olasılığını fark eden bazı girişimler, Civit tarafından kaldırılan veya yükleyenler tarafından kaldırılan LoRAs’ı korumak için önerildi veya uygulandı, bunlar arasında şimdiye kadar ihmal edilen r/CivitaiArchives subreddit’i de var.

Çok kişi, bir torrent tabanlı girişimin doğal bir çözüm olduğunu önerdi, ancak şimdiye kadar iyi bir domaine sahip gibi görünmüyor – ve her durumda, bu, Civit ve diğer yerlerde yasaklanan faaliyeti internetin en dış kenarlarına, duvarlı bahçelere ve muhtemelen karanlık ağa taşıyacaktır; çoğu framework, yasaklanmış benzerlik LoRAs’ını barındıracak (örneğin Reddit ve Discord) ya da bunları yakında yasaklayacak gibi görünüyor.

Şu anda, ünlü LoRAs, bazı kısıtlamalarla birlikte Civit’te hala görülebilir, ancak çoğu oluşturulan içerik listeden çıkarıldı ve casual keşiften çıkarıldı. Bir yorumcu, Nicoll’a Twitch oturumunda önerdiği gibi, muhtemelen bu baskının derinleşmesi (muhtemelen tüm gerçek kişilerin benzerliklerini yüklü modellerde veya temsillerde yasaklayarak).

Nicoll yanıtladı:

‘”Burada durmayacaklar, daha fazlasını talep edecekler” – kesinlikle! Evet, kesinlikle. Bu, yaşadığımız dünya. Tek umudumuz, büyüyecek ve güçlü olacağız, böylece bize dikte edilen şeyde biraz daha fazla söz sahibi olacağız […]

Civit’e sunulan alternatiflere umutsuzlukla bakan Nicoll, şunları ekledi:

‘[…] Hiç kimse CivitAI generator’ı kullanmak için Bitcoin almayacak. Bu nedenle, bu durumu mümkün olduğunca kabul edilebilir hale getirmeye çalıştık ve bu, bizimle kaldığımız şey. Bu, dayanabileceğiniz bir şey değilse, üzgünüm, ancak bu, olduğu gibi.’

‘[…] Bu finansal kurumlar, insanların burada neler yaptığını anlamıyor. Onlara anlattık, onlarla konuştuk, ancak praktikte NSFW içeriği olan son sığınak gibiyiz.

Nicoll, Civit’in ‘her türlü ödeme işleyicisine’ ulaştığını söyledi:

‘Hatta yetişkin siteleri kullanan yüksek riskli ödeme işleyicileri bile, AI içeriğinden çok korkuyorlar. Bu, AI içeriği. Geleneksel bir porn sitesi olsaydık, sorun olmazdı, ancak AI içeriği korktukları şey.’

Nereye Gidiliyor?

Bu duyurudan önce, Civit, şimdi yasaklanan bazı içerik türlerini ve kategorilerini kaldırmaya başlamıştı. Yazıldığı sırada, Wan 2.1 LoRAs için bir ‘acil deposu’ kuruldu Hugging Face sitesinde. Bu arşivlenen LoRAs’lardan bazıları, yeni video modellerinde az eğitimli veya eksik olan genel cinsel faaliyetleri kolaylaştırmak için tasarlandı, ancak bazıları şimdi严格 olarak yasaklanan ‘soyunma’ kategorisine giriyor (yani ‘çıplaklaştırma’), bazı modellerin ‘aşırı’ veya açıkça potansiyel olarak saldırıya uğramış olabileceği iddia edilebilir.

Veri koruma subreddit’i r/datahoarders, ABD hükümetinin Donald Trump’ın veri silme kampanyası altında çevrimiçi literatürü korumada ön saflardaydı, ancak şimdiye kadar CivitAI içeriğinin kaybını korumak için bir ilgi göstermedi.

Literatürde, CivitAI’nin NSFW AI oluşturmayı kolaylaştırması gözden kaçmadı. Ancak, en çok alıntı yapılan çalışmalardan biri, 2024 makale Civitai’de Suistimal Edilen AI Modellerinin Kullanımını Araştırma, Civit’in şimdiye kadar ünlü veya yasadışı AI oluşturmalarına izin vermediği ve araştırmacıların kanıtlarını Civit’te bulmaya çalıştığı gerçeğiyle engelleniyor.

Açıkça, ödeme işleyicilerini endişelendiren şey, Civit’te LoRAs ile ne üretildiği veya orada ne yayınlandığı değil, bu modellerin diğer, kapalı veya daha az düzenlenmiş topluluklarda neler yaptığıdır.

Mr. Deepfakes sitesi, 2022’de Stable Diffusion ve difüzyon tabanlı modellerin ortaya çıkmasından önce, yaygın otoencoder tabanlı yöntem ile ünlü tabanlı pornografik videolar üreten derin sahte ile eşanlamlı hale geldi. Şimdi, Hunyuan Video ve Wan 2.1 gibi son metin-ve-görsel-ve-video oluşturucuları kullanarak ünlü tabanlı pornografik videoların örneklerini yayınlamaya başladı – bu, bu yılın ilerleyen döneminde ateşli başlıklar kazanmaya mahkum gibi görünüyor.

Zorunlu Meta Verisi

Ödeme işleyicileri tarafından talep edilen ilginç bir değişiklik, Nicoll’a göre, site’deki tüm resimlerin artık meta veri içermesi gerektiğidir. Bir generatif model tarafından bir platformda oluşturulan bir resim veya video, genellikle modelin adını (adı ve karması, böylece model bir kullanıcı tarafından yeniden adlandırıldığında, kökeni açık kalır) ve diğer birçok ayarı listelemek için meta veri içerir.

Kullanıcılar, bu gizli veri noktalarını kullanarak, bir başkası tarafından oluşturulan bir videoyu veya resmi kendi ComfyUI iş akışına sürükleyebilir ve tüm akışı yeniden oluşturabilir ve eksik bağımlılıkları (orijinal yaratıcının sahip olduğu ancak kullanıcının indirmesi gereken modeller veya bileşenler gibi) ele alabilir.

Meta veri içermeyen herhangi bir resim veya video oluşturması, Civit tarafından duyurulduğu üzere, otuz gün içinde silinecek. Kullanıcılar, Civit web sitesine elle bu verileri girebilir.

Meta verilerin değeri (muhtemelen) kanıtlamaya dayandığından, bu şart biraz anlamsız görünüyor; bir dosyadan diğerine meta veri kopyalamak çok kolay ve bir web formu aracılığıyla meta veri icat etmek bu yeni kuralı biraz tuhaf hale getiriyor.

Bununla birlikte, birkaç kullanıcı (Twitch oturumunda yorum yapan biri de dahil), Civit’te binlerce resim yükledi. Şimdi, bunları elle açıklamak veya resimleri meta veri ekleyerek silip yeniden yüklemek dışında bir çareleri yok – bu da orijinal resimlerin oluşturduğu ‘beğeniler’ veya ‘buzz’ veya konuşmaları silecek.

Yeni Kurallar

Aşağıda, Civit’te bugün geçerli olan değişikliklerin özeti yer almaktadır:

• Gerçek kişilerin adlarıyla etiketlenen veya gerçek kişi kaynakları olarak işaretlenen içerik, artık halka açık beslemelerde görünmeyecektir.
• Çocuk/alt tema içeren içerik, beslemelerden filtrelenecektir.
• Meta veri içermeyen X ve XXX dereceli içerik, halka açık görüntüden gizlenecek ve bir uyarı ile işaretlenecek, ancak yükleyici tarafından eksik ayrıntılar eklenebilecek ve güncellenebilecek. Bu içerik silinmeyecek, ancak yalnızca oluşturucusuna görünür kalacaktır.
• Kendi Resminizi Getir (BYOI) özelliğini kullanan resimlerin, oluşturma sırasında en az %50 gürültü değişikliği uygulaması gerekir. Bu, AI’nin yüklenen resmi önemli ölçüde değiştirmesi gerektiği anlamına gelir, böylece gerçek bir kişinin neredeyse aynı kopyasını üretme olasılığı azaltılır. Ancak, tamamen CivitAI’de oluşturulan veya CivitAI içeriğinden karıştırılan resimler, bu kurala tabi değildir ve herhangi bir gürültü seviyesini (0.0’dan 1.0’a) kullanabilir.
• X veya XXX içeriği etkinleştirilmişken, ünlü adları arama sonuçları vermeyecektir. Ünlü adlarını yetişkin içeriği ile birleştirmek hala yasaktır.
• Gerçek kişilerin benzerliğini taklit eden kaynaklar veya resimler için reklam gösterilmeyecektir.
• Gerçek kişilerin benzerliğini taklit eden resim veya kaynaklar için ‘buzz’ (tipping) devre dışı bırakıldı.
• Gerçek kişileri taklit eden modeller, Erken Erişim için uygun olmayacak – bu, yaratıcıların içeriğini önce ödeme yapan destekçilere sunmasına olanak tanıyan bir Civitai özelliğidir. Bu, ünlü veya gerçek kişi benzerliklerinin para kazanma olasılığını sınırlar.
• CivitAI, platformun AI oluşturulan içeriğe izin vermediğini açıklamak için bir 2257 Uyum Beyanı ekledi. Bu, tüm açık materyalin sentetik olduğunu ve gerçek fotoğraf veya video temel alınmadığını onaylayarak yasal koruma sağlar.
• Yeni bir İçerik Kaldırma Talep sayfası, herhangi birine, içeriği báo etmek için giriş yapmasına gerek kalmadan, kötüye kullanım veya yasadışı materyal raporlama olanağı sunar. Kayıtlı kullanıcılar, her gönderi için yerleşik raporlama araçlarını kullanmaya devam etmelidir. Bu, platformdan benzerliğini kaldırma talebinde bulunan mevcut formdan ayrıdır.
• CivitAI, Clavata ile bir moderasyon sistemi kurdu – Clavata’nın görüntü analizi araçları, önceki çözümler gibi Amazon Rekognition ve Hive’i aştı.

** 20 Mayıs 2025 11:23:47’de (daha önce de olabilirdi), Twitch canlı yayını kaldırıldı. Bilgileri doğrulayabilmem için yayını kopyaladım.

* Barbara Eden’in ‘mülkü’nden bahsedilmesine rağmen, I Dream of Jeannie oyuncusu hala yaşıyor, şu anda 93 yaşında.
^† Arşivlenmiş: https://archive.ph/tsMb0

İlk olarak 24 Nisan 2022’de yayımlandı. 24 Nisan 2025 14:32:28’de düzeltilmiş: tarihleri düzeltildi. 20 Mayıs 2025’te, referans materyali olarak kullanılan Twitch içeriğinin kaldırılmasını yansıtmak için değiştirildi.