CivitAI, Mastercard ve Visa'nın Baskısı Altında Deepfake Kurallarını Sıkılaştırıyor

İnternetteki muhtemelen en popüler yapay zeka modeli deposu olan CivitAI, ödeme kolaylaştırıcıları MasterCard ve Visa'nın, NSFW içerikle ilgili politikalarını ve özellikle de sitenin en popüler kullanıcı tarafından gönderilen içerik akışlarından biri olan ve insanların ücretsiz olarak indirilebilen ek modelleri kullanmalarına olanak tanıyan ünlü LoRA'larla ilgili TOS'larını kökten gözden geçirmeleri yönündeki baskılarına sonunda boyun eğdi. LoRA'lar AI tasvirleri oluşturmak için (dahil olmak üzere) video tasvirleri) tanınmış kişilerden.

Oynatmak için tıklayın. Civit kesin rakamlar sunmasa da (ve yanlış etiketleme/yanlış kategorilendirme alışılmadık bir durum değildir, bu muhtemelen rakamları çarpıtır) ünlü yapay zeka modellerinin, özellikle LoRA'ların sayısının açıkça yüzlerce hatta binlerce olduğu ve bunların çoğunun kadın deneklerden oluştuğu açıktır. Kaynak: civitai.com

Açıkça baskı altında faaliyet gösteriyor Twitch canlı yayın** Şirket adına, şirketin Topluluk Katılım Yöneticisi Alasdair Nicoll, kendisi de Civit'teki (SFW) modellerden biri, değişikliklerin ödeme işlemcilerinin yetişkinlere yönelik içerik ve gerçek kişilerin tasviri konusundaki endişeleri nedeniyle siteye dayatıldığını kabul etti. Ayrıca, bu işlemcilerin arkasındaki temel güçler olan Visa ve MasterCard'ın ileride daha da büyük değişiklikler talep etme olasılığının yüksek olduğunu da kabul ediyor:

'Bunlar yapmak istediğimiz değişiklikler değildi. Bu, yeni ve yaklaşan yasalara dayanıyor. Ortada deepfake yasaları var, yapay zeka pornosu yasaları var... ödeme işlemcileri ve nihayetinde Visa ve MasterCard ürkmüş durumda; dava edilmek istemiyorlar ve nihayetinde bu değişiklikleri onlar yönlendiriyor.

'Bize verilen diğer seçeneklerden bazıları, iş için güvenli olmayan içerikleri tamamen kaldırmak, x ve triple-x içeriklerini CivitAI'dan kaldırıp tamamen yeni bir platforma aktarmak ve ardından bu platformu coğrafi olarak engellemekti, çünkü ABD eyaletlerinin yarısından fazlası, [ayrıca] birçok Asya ülkesi ve Birleşik Krallık bir tür porno coğrafi engellemesi gerektiriyor...

'Üçüncü seçenek tamamen kriptoya yönelmekti, sadece kripto ödemeleri... bu yüzden bunun için gerçekten iyi bir seçenek yoktu.'

Civit alanı son birkaç gündür, görünüşe göre değişiklikleri gerçekleştirmek için, revizyonlar için periyodik olarak kapalıydı. Site, ünlü LoRA/model tasvirlerinde NSFW temalarının kullanımını zaten yasaklamış olsa da, artık Civit'in model bölümüne göz atmak ve yetişkin içerik üretmek için tasarlanmış çok sayıda genel NSFW modeliyle yan yana ünlü LoRA önizlemelerini görmek imkansız.

MKS resmi duyuru devletler:

'Gerçek kişi adlarıyla etiketlenen (örneğin "Tom Cruise") veya POI (gerçek kişi) kaynakları olarak işaretlenen içerikler akışlardan gizlenecektir.'

Nicoll, Twitch oturumunda ünlü isimleri ve gerçek kişileri korumak için tasarlanan önlemlerin ayrıntılarını açıkladı. Civit, gerçek kişilerin kendilerini tasvir eden Civit tarafından barındırılan bir yapay zeka modelinin kaldırılmasını talep etmelerine her zaman izin vermiştir, ancak Nicoll şimdi, ilk reddedilen görüntülerin yeniden yüklenmesini engelleyebilen ve sistemin daha önce hiç görmediği görüntülerde bile "korunan" bir kişiyi tespit etme olanağı sağlayan bir sisteme değiniyor.

Bu amaçla site şu anda Clavata AI moderasyon sistemiyle ortaklık kuruyor; ancak Clavata'nın bu yeni tesislere ne ölçüde güç sağlayacağı henüz belli değil.

Nicoll şöyle dedi:

'Örneğin Tom Hanks bizden kendi benzerliğini talep etti. Yetişkin aktrislerin birçoğu talep etti; A listesindeki aktör ve aktrislerin birçoğu talep etti...

'Sanırım sahip olduğumuz ilk örnek Barbara Eden'dı, mirasıydı* - benzerliğini iddia eden ilk kişilerden biriydi, bu biraz komik, çünkü yaşlıydı.'

Varsayılan olarak korunuyor mu?

Son birkaç yıldır, AI VFX şirketi Metaphysic (tam açıklama: 2022'nin başından 2024'ün sonuna kadar Metaphysic.ai için çalıştım) tescilli bir sistem Herkesin kendi benzerini kaydettirmesine izin verecek olan bu uygulama, öncelikle kimliklerinin yapay zeka tarafından ele geçirilmesinden endişe duyan Hollywood isimlerine yönelik olacak ve aktörlerin desteğiyle gerçekleştirilecek. gibi Anne Hathaway, Octavia Spencer ve Tom Hanks (şirketin Robert Zemeckis filminde birlikte çalıştığı kişiler) İşte [2024]).

Mantıksal olarak, sistemin faydası her zaman nihai içtihatlara bağlı olacaktır; Civit'in şimdi almaya zorlandığı önlemlere dayanarak, aboneliğe dayalı hizmet^† Metaphysic tarafından önerilen bu teklif, deepfake yasalarının hızla büyümesi ve genel hukuk kapsamındaki potansiyel (ücretsiz) kapsam nedeniyle gereksiz olabilir. Metaphysic Pro teklifinin Double Negative VFX şirketine devredilip devredilmeyeceği henüz bilinmiyor. Metaphysic'in varlıklarını satın aldı geçen yıl.

Her halükarda, küresel hukukun ve genel piyasa baskılarının, bu tür ticari çözümlere kıyasla koruma ve çözüm sağlama olasılığının daha yüksek olduğu giderek daha fazla görülüyor.

Kurbağayı Haşlamak

2023 Media'nın 404 raporu dikkat çekti Civit'teki ünlü ve porno AI modellerinin eğilimine rağmen, sitenin kurucusu Justin Maier küçümsedi Kullanıcıların katkıda bulunduğu ünlü benzerlikleri ile pornografik materyal üretmede kullanımı arasındaki ilişki.

Civit, LoRA'ların ve diğer kullanıcı tarafından sağlanan modellerin site içi kullanımını kolaylaştırarak para kazansa da, Nicoll, Visa ve MasterCard'ın sitenin para kazanmaya devam edebilmesi için sitede değişiklik yapmalarını sağlayan temel kaygının bu olmadığını açıkça belirtiyor:

'Bazıları bu karmaşanın içinde olmamızın sebebinin üretime izin vermemiz olduğunu söylüyor. Bu işin içinde yok. Bu modellerin, bu içeriklerin barındırılması, Sauron'un dikkatini çekmeye yeter.'

Topluluk yorum dizileri son yıllarda Civit'in ünlü benzerliklerine ev sahipliği yapmasına izin verilmesine hayret ediyor. Bir baskının olasılığının, belki de kaçınılmazlığının farkında olarak, Civit veya yükleyicileri tarafından kaldırılan LoRA'ları korumak için bir dizi girişim önerildi veya uygulandı, (şimdiye kadar) oldukça ihmal edilmiş alt dizin r/CivitaiArchives dahil.

Birçok kişi torrent tabanlı bir girişimin doğal çözüm olduğunu öne sürse de, henüz iyi takip edilen bir alan adı ortaya çıkmış değil - ve her durumda, bunun Civit ve diğer yerlerde yasaklanan faaliyetleri internetin en dış sınırlarına; duvarlı bahçelere; ve büyük olasılıkla karanlık ağa taşıyacağı kesin gibi görünüyor, çünkü yasaklanmış benzer LoRA'ları barındırabilen çerçevelerin çoğu (Reddit ve Discord gibi) bu tür içerikleri zaten yasaklıyor veya yakın zamanda yasaklayacağından emin görünüyor.

Şu anda, ünlü LoRA'lar Civit'te bazı kısıtlamalarla hala görülebiliyor, ancak üretilen içeriklerin çoğu listeden çıkarıldı ve rastgele keşiften hariç tutulacak. Bir yorumcunun Twitch oturumunda Nicoll'a önerdiği gibi, olası olan şey, baskının derinleşmesi (muhtemelen yüklenen modellerde veya tasvirlerde gerçek insanların tüm benzerliklerinin yasaklanması noktasına kadar).

Nicoll şöyle cevap verdi:

"Burada durmayacaklar, daha fazlasını talep etmeye devam edecekler" - kesinlikle! Evet, kesinlikle. İçinde yaşadığımız dünya bu. Tek umudumuz, bize dikte edilenler konusunda biraz daha söz sahibi olacak kadar büyük ve güçlü olmamız […]

Civit'e sunulan alternatiflerden umudunu kesen Nicoll, şunları söyledi:

'[…] CivitAI jeneratörünü kullanmak için kimse Bitcoin almayacak. Bu yüzden bunu mümkün olduğunca makul hale getirmeye çalıştık ve ortaya çıkan sonuç bu oldu. Bu yüzden, eğer bu sizin için dayanılmaz bir şeyse özür dilerim, ama maalesef durum bu. Elimizden gelenin en iyisini yaptık, elimizden geldiğince direndik ama sonunda bize bunun son olduğu söylendi - bunu yapmalısınız, yoksa sonunuz gelecek […]'

'[…] Bu finans kuruluşları, insanların burada bununla ne yaptığını anlamıyor. Onlara anlatmaya çalıştık, onlarla konuşmaya çalıştık ama pratikte [NSFW] içeriğinin son kalesi biziz.

Nicoll, Civit'in 'akla gelebilecek her ödeme işlemcisine' ulaştığını söyledi:

'Porno sitelerinin kullandığı yüksek riskli ödeme işlemcileri bile yapay zeka içeriklerine karşı çok ama çok temkinli. Sorun bu – yapay zeka içeriği. Geleneksel bir porno sitesi olsaydık sorun yaşamazdık, ama asıl korktukları şey yapay zeka içeriği.'

Sıradaki nerede?

Bu duyurudan önce, Civit'in şu anda yasaklı olan bazı içerik kategorileri ve türlerini kapsayan yüklemeleri kaldırdığı gözlemlenmişti. Yazının yazıldığı sırada, Wan 2.1 LoRA'lar için bir "acil durum deposu" oluşturuldu. kurulmuş Hugging Face web sitesinde. Arşivlenen LoRA'ların bazıları, Wan 2.1 gibi yeni video modellerinde yetersiz eğitimli veya eksik olan genel cinsel aktiviteleri kolaylaştırmak için tasarlanmış olsa da, birçoğu artık kesinlikle yasaklanmış olan "soyunma" kategorisine (yani "çıplaklaştırma") giriyor; bunların arasında "aşırı" veya açıkça potansiyel olarak rahatsız edici olduğu iddia edilebilecek bazı modeller de var.

r/datahoarders adlı alt dizin, ön planda Donald Trump'ın yönetimi altındaki ABD hükümetinin çevrimiçi literatürünün korunması toplu silme kampanyası, şu ana kadar var gösterilen küçümseme Kayıp CivitAI içeriğini kurtarma fikri için.

Literatürde, CivitAI'nin NSFW yapay zeka üretimini kolaylaştırması gözden kaçmamıştır. Ancak, en çok atıf alan çalışmalardan biri olan 2024 kâğıt Civitai'de Kötüye Kullanımlı Üretken Yapay Zeka Modellerinin Kullanımının Araştırılması, Civit'in bugüne kadar ünlü veya yasadışı yapay zeka nesillerine izin vermemiş olması ve araştırmacıların kanıtları Civit'te bulma konusundaki kararlılıkları nedeniyle engelleniyor.

Ancak açıkça, ödeme işlemcilerini ilgilendiren şey Civit'te LoRA'larla ne üretildiği veya orada ne yayınlandığı değil, bu modellerle ne yapıldığıdır. Diğer kapalı veya genel olarak daha az düzenlenmiş topluluklar.

Bay Deepfakes web sitesi, eşanlamlı yaygın olanla otokoder tabanlı yöntem NSFW deepfaking'in, 2022'de Stable Diffusion ve difüzyon tabanlı modellerin ortaya çıkmasına kadar olan kısmı, yakın zamanda Hunyuan Video ve Wan 2.1 dahil olmak üzere metinden videoya ve resimden videoya üreteçlerin son dalgasını kullanarak ünlü tabanlı pornografik videoların örneklerini yayınlamaya başladı - her ikisi de etkisi yeni başlayan, ancak bu yıl içinde ilgili toplulukları geliştikçe kışkırtıcı manşetlere çıkmaya hazır görünüyor.

Zorunlu Meta Veriler

Nicoll'a göre ödeme işlemcileri tarafından talep edilen ilginç bir değişiklik, sitedeki tüm görsellerin artık meta veri içermesi gerektiğidir. ComfyUI gibi bir platformda tipik bir iş akışında bir görüntü veya video bir jeneratif model tarafından üretildiğinde, çıktı genellikle kullanılan modeli (hem karmasını hem de adını, böylece model bir kullanıcı tarafından yeniden adlandırıldığında kökeninin açık kalması için) ve diğer birçok ayarı listeleyen meta veri içerir.

Görüntünün nasıl yapıldığına ilişkin bu gizli veri noktaları nedeniyle kullanıcılar sürüklenebilir Başkası tarafından yapılmış bir video veya görüntüyü kendi ComfyUI iş akışına dahil edebilir ve tüm akışı yeniden oluşturabilir ve eksik bağımlılıkları giderebilir (örneğin orijinal yaratıcının sahip olduğu ve kullanıcının daha sonra bulup indirmesi gereken modeller veya bileşenler).

Civit, bu verilerden yoksun herhangi bir görüntü veya video neslinin otuz gün içinde silineceğini duyurdu. Kullanıcılar bu verileri Civit web sitesine yazarak manuel olarak ekleyebilirler.

Meta verilerin değeri (muhtemelen) delil niteliğinde olduğundan, bu şart oldukça anlamsız görünüyor; meta verileri bir dosyadan diğerine kopyalayıp yapıştırmak basittir ve özel Meta verilerin bir web formu aracılığıyla icat edilmesi bu yeni kuralı biraz şaşırtıcı kılıyor.

Bununla birlikte, birkaç kullanıcının (Twitch oturumunda yorum yapan biri de dahil) Civit'e yüklediği binlerce görsel var. Şimdilik tek çareleri, her birine manuel olarak açıklama eklemek veya görsellerin meta veri eklenmiş versiyonlarını silip yeniden yüklemek. Bu da orijinal görsellerin oluşturduğu tüm "beğenileri", "etkileşimleri" veya konuşmaları silecektir.

Yeni Kurallar

Civit’te bugünden itibaren uygulanacak değişikliklerin özeti şöyle:

• Gerçek kişilerin isimleriyle etiketlenen veya gerçek kişi kaynakları olarak tanımlanan içerikler artık herkese açık akışlarda görünmeyecek.
• Çocuk/küçük temalı içerikler akışlardan filtrelenecektir.
• Üretim meta verisi olmayan X ve XXX dereceli içerikler genel görünümden gizlenecek ve bir uyarıyla işaretlenecek, böylece yükleyicinin eksik ayrıntıları eklemesine izin verilecek. Bu tür içerikler silinmeyecek ancak güncellenene kadar yalnızca yaratıcısı tarafından görülebilecek.
• Kendi Görüntünüzü Getirin (BYOI) özelliği kullanılarak oluşturulan görüntüler artık oluşturma sırasında en az %50 gürültü değişikliği uygulamak zorundadır. Bu, yapay zekanın yüklenen görüntüyü önemli ölçüde değiştirmesi gerektiği ve neredeyse birebir kopyalar oluşturma olasılığını azalttığı anlamına gelir. Ancak, tamamen CivitAI üzerinde oluşturulan veya başka bir CivitAI içeriğinden yeniden düzenlenen görüntüler bu kurala tabi değildir ve hiç değişiklik yapılmamasından (0.0) tam dönüşüme (1.0) kadar herhangi bir gürültü azaltma seviyesini kullanabilirler. Bu değişiklik, gerçek görüntüleri neredeyse hiç değiştirmeden incelikli veya algılanamayan deepfake'ler üretmek için kullanılabilecek olan BYOI aracının kötüye kullanımını azaltmayı amaçlamaktadır. Minimum %50 değişiklik zorunluluğu, yapay zekanın gerçek bir kişinin mevcut fotoğrafını yalnızca hafife almadığından emin olur.
• X veya XXX içeriği etkinleştirildiğinde, ünlü isimleri için yapılan aramalar hiçbir sonuç getirmeyecektir. Ünlü isimlerin yetişkin içerikle birleştirilmesi yasak olmaya devam etmektedir.
• Gerçek kişilerin görünümünü taklit edecek şekilde tasarlanmış görsellerde veya kaynaklarda reklam yayınlanmayacaktır.
• Gerçek kişileri tasvir eden görseller veya kaynaklar için Bahşiş (Buzz) özelliği devre dışı bırakılacaktır.
• Gerçek kişileri taklit etmek için tasarlanan modeller, içerik oluşturucuların içeriklerini önce ücretli destekçilere yayınlamasına olanak tanıyan bir Civitai özelliği olan Erken Erişim için uygun olmayacaktır. Bu, ünlü veya gerçek kişi benzerliklerinin para kazanmasını sınırlar.
• A 2257 Uyumluluk Beyanı platformun AI tarafından üretilmemiş hiçbir içeriğe izin vermediğini açıklığa kavuşturmak için eklendi. Bu, tüm açık materyalin sentetik olduğunu ve gerçek fotoğraf veya videoya dayanmadığını doğrulayarak yasal korumayı sağlamaya yardımcı olur.
• A new İçerik Kaldırma Talebi sayfası Herkesin oturum açmadan taciz edici veya yasa dışı içerikleri bildirmesine olanak tanır. Kayıtlı kullanıcılar, her gönderide yerleşik bildirim araçlarını kullanmaya devam etmelidir. Bu, platformdan kendi fotoğraflarının kaldırılmasını talep etmek için kullanılan mevcut formdan ayrıdır.
• CivitAI, görüntü analiz araçları Amazon Rekognition ve Hive gibi önceki çözümlerden daha iyi performans gösteren Clavata ile yaptığı ortaklıkla yeni bir moderasyon sistemi tanıttı.

** Salı, 20 Mayıs 2025 11:23:47 itibarıyla (daha erken gerçekleşmiş olabilir), Twitch canlı yayını kaldırıldı. Yayında bildirilen gerçekleri doğrulayabilmem için bir kopyasını saklıyorum.

* Barbara Eden'in 'mirası'ndan bahsedilmesine rağmen, Ben Jeannie Rüya Oyuncu şu anda 93 yaşında ve hala hayatta.
^† Arşivlendi: https://archive.ph/tsMb0

İlk yayın tarihi Perşembe, 24 Nisan 202. Perşembe, 24 Nisan 2025 14:32:28'de değiştirildi: tarihler düzeltildi.
Referans materyali olarak kullanılan Twitch içeriğinin kaldırılmasını yansıtmak için 20 Mayıs 2025 Salı günü değiştirildi.