CivitAI, Derin Sahte Rules’ı Mastercard ve Visa’nın Baskısı Altında Sıkılaştırdı

CivitAI, muhtemelen internet上的 en popüler AI model deposu, sonunda NSFW içeriği – ve özellikle ünlü LoRAs ile ilgili TOS’u konusunda MasterCard ve Visa gibi ödeme kolaylaştırıcılarının baskılarına boyun eğdi. Sitenin en popüler kullanıcı tarafından oluşturulan içerik akışlarından biri olan ünlü LoRAs, insanların ücretsiz olarak indirilebilen ek modelleri gibi LoRAs kullanmalarına olanak tanır ve böylece AI betimlemeleri (dahil video betimlemeleri) oluşturabilirler.

Oynatmak için tıklayın. Civit, kesin rakamlar vermiyor (ve yanlış etiketleme/yanlış kategorilendirme alışılmadık bir durum değil, bu da muhtemelen rakamları bozacak), ancak ünlü AI modellerinin, özellikle LoRAs’ın sayısı açıkça yüzler veya hatta binlerce ve açıkça kadın konular tarafından domine ediliyor. Kaynak: civitai.com

Açıkça, Twitch canlı yayını** şirketin adına, şirketin Topluluk Etkileşim Yöneticisi Alasdair Nicoll, kendisi de Civit’te (SFW) modellerin bir yaratıcısı, değişikliklerin sitenin ödeme işlemcileri tarafından yetişkin içeriği ve gerçek kişilerin betimlenmesi konusunda endişeleri nedeniyle siteye zorla uygulandığını kabul etti. Ayrıca, bu işlemcilerin arkasındaki primary güçlerin, yani Visa ve MasterCard’in, daha fazla değişiklik talep etme olasılıklarının yüksek olduğunu da kabul etti:

‘Bu, yapmak istediğimiz değişiklikler değil. Bu, yeni ve yaklaşan yasalara bağlı. Derin sahte yasaları var, AI porn yasaları… ödeme işlemcileri ve sonunda Visa ve MasterCard korkuyor; dava edilmek istemiyorlar ve bu değişiklikleri sonunda onlar zorluyor.

‘Diğer seçeneklerimiz, güvenli olmayan içeriği tamamen kaldırmak; x ve üçlü-x içeriğini CivitAI’den completely yeni bir platforma taşıyarak ve sonra bu platformu coğrafi olarak engellemekti, çünkü ABD’nin yarısından fazlası bazı türden porn coğrafi engellemesini gerektiriyor, [ve] birçok Asya ülkesi ve İngiltere…

‘Üçüncü seçenek, tamamen kripto para ödemelerine geçmekti… Yani hiç iyi seçenek yoktu bu konuda.’

Civit alanı, son birkaç gün içinde değişiklikleri gerçekleştirmek için periyodik olarak kapalıydı. Sitede zaten ünlü LoRA/model betimlemelerinde NSFW temalarının kullanımı yasaklanmış olsa da, şimdi Civit’in model bölümünü gezinmek ve ünlü LoRA önizlemelerini çok büyük bir generic NSFW modellerle birlikte görmek artık mümkün değil.

Resmi açıklama:

‘Gerçek kişi adları ile etiketlenen içerik (örneğin “Tom Cruise”) veya POI (gerçek kişi) kaynakları olarak işaretlenen içerik, beslemelerden gizlenecek.’

Twitch oturumunda, Nicoll, ünlü kişiler ve gerçek kişilerin korunmasına yönelik önlemlerin daha fazla ayrıntısını açıkladı. Civit, her zaman gerçek kişilerin, site tarafından barındırılan ve onları betimleyen AI modellerinin kaldırılmasını talep etmelerine izin vermiştir, ancak şimdi Nicoll, bu tür görüntülerin ilk reddedildikten sonra yeniden yüklenmesini önleyen bir sisteme atıfta bulunuyor ve bu sistem, daha önce hiç görülmemiş görüntülerde bile ‘korunan’ bir kişiliği tanımlayabiliyor.

Bu amaçla, site şimdi Clavata AI moderasyon sistemi ile ortaklık kuruyor – ancak Clavata’nın bu yeni olanakları ne ölçüde güçlendiracağı henüz açık değil.

Nicoll dedi:

‘Tom Hanks, bizimle benzerliğini talep etti, örneğin. Çok sayıda yetişkin aktris de talep etti; çok sayıda A-listesi aktör ve aktris de…

‘Sanırım ilk talep eden Barbara Eden’in mirasıydı – o, benzerliğini talep eden ilklerden biriydi, bu biraz komik, çünkü o yaşlı.’

Varsayılan Koruma?

Son iki yıl içinde, AI VFX şirketi Metaphysic (tam açıklama: 2022’nin başından 2024’ün sonuna kadar Metaphysic.ai için çalıştım), özellikle Hollywood isimlerinin AI tabanlı kimlik kaçırma konusunda endişeleri olanların, aktörler gibi Anne Hathaway, Octavia Spencer ve Tom Hanks’in (şirket, Robert Zemeckis’in Here [2024] projesinde birlikte çalıştı) desteğiyle bir sistem oluşturmaya çalıştı.

Mantıken, sistemin faydası her zaman eventual dava yasalarına bağlı olacaktır; Civit’in şimdi yapmak zorunda olduğu değişikliklere dayanarak, Metaphysic tarafından önerilen abonelik tabanlı hizmet ^† derin sahte yasalarının hızlı büyümesi ve potansiyel (ücretsiz) kapsamı altında common law altında gereksiz olabilir. Metaphysic Pro teklifinin, şirketin varlıklarını geçen yıl satın alan Double Negative VFX şirketine aktarılacağı bilinmemektedir.

Her durumda, artık global yasa ve genel piyasa baskılarının, bu tür ticari çözümler yerine koruma ve çözüm sağlama olasılığı daha yüksek görünüyor.

Kaynar Su

2023’te 404 Media tarafından yapılan bir rapor, Civit’teki celeb ve porn AI modellerinin eğilimini vurguladı, ancak site kurucusu Justin Maier bunu küçümsedi ve kullanıcı tarafından oluşturulan ünlü benzerliklerinin pornografik materyal oluşturmak için kullanılma ilişkisini reddetti.

Civit, site içi LoRAs ve diğer kullanıcı tarafından sağlanan modellerin kullanımını kolaylaştırmak yoluyla para kazansa da, Nicoll, bu değişikliklere neden olan primary endişenin, sitenin para kazanmaya devam edebilmesi için bu değişiklikleri yapması gerektiği değil, dedi:

‘Bazı insanlar, bizim bu durumda olmamızın nedeni olarak generation’ı gösteriyorlar. Bu, konuya girmez. Bu modellerin barındırılması, bu içeriğin barındırılması, Sauron’un gözünü çekmeye yeter.’

Topluluk yorum threads, son yıllarda Civit’in ünlü benzerliklerini barındırmaya izin verilmesini merak etti. Birkaç girişimi, ya Civit tarafından ya da yükleyenler tarafından kaldırılan LoRAs’ı korumak için önerildi veya uygulandı, bunlar arasında şimdiye kadar ihmal edilen subreddit r/CivitaiArchives de vardı.

Birçok kişi, bir torrent tabanlı girişimin doğal bir çözüm olduğunu önerdi, ancak şimdiye kadar böyle bir alan ortaya çıkmadı – ve her durumda, bu, Civit’te ve başka yerlerde yasaklanan faaliyeti internetin en dışına, walled garden’lara ve muhtemelen dark net’e taşıyacaktır; çünkü bu tür benzerlik LoRAs’ını barındırabilecek çerçeveler (örneğin Reddit ve Discord) ya böyle bir içeriği zaten yasaklıyor ya da bunu yakın zamanda yasaklayacak gibi görünüyor.

Şu anda, ünlü LoRAs, bazı kısıtlamalarla birlikte Civit’te hala görülebilir, ancak üretilen içeriğin çoğu artık listeden çıkarıldı ve kazara keşfedilmeyecektir. Bir yorumcu, Nicoll’a Twitch oturumunda önerdiği gibi, muhtemelen gerçek kişilerin tüm benzerliklerinin uploaded modellerde veya betimlemelerde yasaklanacağı yönünde bir saldırı derinleşmesi olabilir.

Nicoll yanıtladı:

‘”Onlar burada durmayacak, daha fazlasını ve daha fazlasını talep edecekler” – kesinlikle! Evet, kesinlikle. Bu, yaşadığımız dünya. Tek umudumuz, büyümemiz ve güçlü olmamız, bize dikte edilen şeyde biraz daha söz sahibi olmamız…

Civit’e sunulan alternatiflere umutsuzlukla bakarak, Nicoll ekledi:

‘… Hiç kimse CivitAI jeneratörünü kullanmak için Bitcoin almayacak. Bu nedenle, bunu mümkün olduğunca kabul edilebilir hale getirmeye çalıştık ve bu, bizimle kaldı. Bu, bir şeyse, bu konuda özür dilerim, ancak maalesef bu, bu. En iyi şekilde çabaladık, mümkün olduğunca geri ittik, ancak sonunda bize, bunu yapmanız gerekiyor, yoksa bu, son olacak, dediler… ‘

‘… Bu finansal kurumlar, insanların burada neler yaptığını anlamıyor. Onlara anlatmaya çalıştık, onlarla konuşmaya çalıştık, ancak praktikte [NSFW] içeriğinin son kalesiyiz.

Nicoll, Civit’in her türlü ödeme işlemcisine ulaştığını söyledi:

‘Hatta porn sitelerinin kullandığı yüksek riskli ödeme işlemcileri bile, AI içeriğinden çok korkuyorlar. Bu, problem. Eğer geleneksel bir porn sitesi olsaydık, sorun olmazdı, ancak AI içeriği, korktukları şey.’

Sonraki Adım?

Bu açıklamadan önce, Civit, bazı kategoriler ve şimdi yasaklanan içerik türlerini kapsayan yüklemeleri kaldırmaya başlamıştı. Yazı thờiğında, Wan 2.1 LoRAs için bir ‘acil deposu’ Hugging Face sitesinde kuruldu. Bu arşivlenen LoRAs’ların bazıları, genel cinsel faaliyetleri kolaylaştırmak için tasarlandı, bu faaliyetler yeni video modellerinde az eğitimli veya eksik olabilir, ancak bazıları şimdi严格 olarak yasaklanan ‘soyunma’ kategorisine girer (yani, ‘çıkarmak’) ve bazı modeller açıkça saldırıya uğramış veya potansiyel olarak saldırıya uğramış olabilir.

Subreddit r/datahoarders, US hükümetinin Donald Trump’ın kitlesel silme kampanyası altında online literatürü korumada ön saflardaydı, şimdiye kadar kaybolan CivitAI içeriğini korumak fikrine horgörü ile baktı.

Literatürde, CivitAI’nin NSFW AI oluşturmayı kolaylaştırması gözden kaçmadı. Ancak, en çok alıntı yapılan çalışmalardan biri, 2024 makale Civitai’de Suistimal Edilen AI Modellerinin Kullanımını Araştırma, Civit’in ünlü veya yasadışı AI oluşturmalarına izin vermediği ve araştırmacıların delillerini Civit’te aramaya karar vermeleri nedeniyle engellenmiştir.

Açıkça, ödeme işlemcilerini endişelendiren şey, Civit’te oluşturulan şey değil, ya da orada yayınlanan şey, sondern bu modellerin diğer, kapalı veya daha az düzenlenmiş topluluklarda neler yaptığıdır.

Mr. Deepfakes sitesi, 2022’de Stable Diffusion ve difüzyon tabanlı modellerin ortaya çıkmasına kadar, yaygın otoencoder tabanlı yöntem ile ünlü tabanlı pornografik videolar oluşturmak için kullanılıyordu, yakın zamanda Hunyuan Video ve Wan 2.1 gibi son nesil metin-videya ve görüntü-videya jeneratörleri kullanarak celeb tabanlı pornografik videolar yayınlamaya başladı – bunlar, henüz etkileri yeni ortaya çıkan ancak bu yıl gelişmeleriyle skandallar yaratmaya hazır gibi görünüyor.

Zorunlu Meta Verisi

Ödeme işlemcileri tarafından talep edilen değişikliklerden biri, Nicoll’a göre, sitenin tüm resimlerinin artık meta veri içermesi gerektiğidir. Bir jeneratif model tarafından bir platformda üretilen bir resim veya video genellikle, kullanılan modelin (hem adını hem de hashini, böylece modelin bir kullanıcı tarafından yeniden adlandırılması durumunda kökeni net kalır) ve diğer birçok ayarın listelendiği meta veri içerir.

Bu gizli veri noktaları sayesinde, kullanıcılar diğer bir kişinin bir video veya resmini kendi ComfyUI iş akışına sürükleyerek tüm akışı yeniden oluşturabilir ve eksik bağımlılıkları (örneğin, orijinal yaratıcının sahip olduğu ancak kullanıcının bulup indirmesi gereken modeller veya bileşenler) adresleyebilir.

Bu meta verilere sahip olmayan herhangi bir resim veya video üretimi, Civit tarafından 30 gün içinde silinecektir. Kullanıcılar, bu verileri manuel olarak Civit sitesinde girebilir.

Meta verilerin değeri (muhtemelen) delil niteliğinde olduğundan, bu şart biraz anlamsız görünüyor; meta verilerini bir dosyadan diğerine kopyalamak ve yapıştırmak kolaydır ve bir web formu aracılığıyla meta verileri ad hoc olarak icat etmek bu yeni kuralı biraz şaşkınlık verici kılar.

Bununla birlikte, birkaç kullanıcı (Twitch oturumunda yorum yapan biri de dahil), Civit’te binlerce resim yüklemiştir. Şimdi, onların tek çaresi, her birini manuel olarak not etmek veya silip meta veri eklenmiş sürümlerini yeniden yüklemek – bu, orijinal resimlerin oluşturduğu ‘beğenileri’ veya ‘sohbetleri’ veya konuşmaları silecek.

Yeni Kurallar

Aşağıda, Civit’te bugün geçerli olan değişiklikler özetlenmiştir:

• Gerçek kişilerle ilgili içerik, artık kamu beslemelerinde görünmeyecektir.
• Çocuk/alt içerikli temalar, beslemelerden filtrelenmiştir.
• X ve XXX dereceli içerik, oluşturma meta verisine sahip değilse, kamu görüşünden gizlenecek ve bir uyarı ile işaretlenecektir, böylece yükleyici eksik ayrıntıları ekleyebilecek. Bu tür içerik silinmeyecektir, ancak güncellenene kadar sadece oluşturucuya görünür olacaktır.
• Bring Your Own Image (BYOI) özelliğini kullanan resimlerin, oluşturma sırasında en az %50 gürültü değişikliği uygulaması gerekir. Bu, AI’nin yüklenen resmi önemli ölçüde değiştirmesi gerektiğini意味 eder, böylece gerçek kişilerin neredeyse aynı kopyalarını üretme olasılığı azalır. Ancak, CivitAI’de tamamen oluşturulan veya CivitAI içeriğinden karıştırılan resimler, bu kurala tabi değildir ve herhangi bir gürültü seviyesini (0.0’dan 1.0’a) kullanabilir.
• Ünlü isimlerle birlikte X veya XXX içerik araması yapıldığında, artık sonuç döndürülmeyecektir. Ünlü isimlerle birlikte yetişkin içeriği birleştirilmesi hala yasaktır.
• Reklam, gerçek kişilerin görünümünü taklit eden resim veya kaynaklarda görünmeyecektir.
• Gerçek kişiler tarafından betimlenen resim veya kaynaklar için Bahşiş (Buzz) devre dışı bırakıldı.
• Gerçek kişileri taklit eden modeller, Early Access’e uygun olmayacak – bu, ünlü veya gerçek kişi benzerliklerinin para kazanma olanaklarını sınırlar.
• Bir 2257 Uyum Beyanı eklendi – bu, platformun yalnızca sentetik, gerçek fotoğraf veya video tabanlı olmayan içeriklere izin verdiğini açıklar ve yasal koruma sağlar.
• Herhangi birine, İçerik Kaldırma Talep sayfası aracılığıyla, giriş yapmadan suiistimal veya yasadışı materyali raporlama olanağı sunar. Kayıtlı kullanıcılar, her bir gönderi için yerleşik raporlama araçlarını kullanmaya devam etmelidir. Bu, platformdan benzerliğini kaldırma talebinde bulunma için mevcut formdan ayrıdır.
• CivitAI, Clavata ile bir moderasyon sistemi ortaklığı başlattı – Clavata’nın görüntü analiz araçları, önceki çözümler gibi Amazon Rekognition ve Hive’i aştı.

** Salı, 20 Mayıs 2025 11:23:47 itibarıyla, Twitch canlı yayını kaldırıldı. Bilgileri doğrulayabilmem için yayını kopyaladım.

* Barbara Eden’in ‘mirası’ndan bahsedilmesine rağmen, I Dream of Jeannie oyuncusu hala yaşıyor, şu anda 93 yaşında.
^† Arşivlendi: https://archive.ph/tsMb0

İlk olarak Perşembe, 24 Nisan 2025’te yayımlandı. Perşembe, 24 Nisan 2025 14:32:28’de düzeltilmiş: tarihleri düzeltildi.
Salı, 20 Mayıs 2025’te değiştirildi: Twitch içeriği referans materyali olarak kullanıldı.