Trump'ın Deepfake Karşıtı Yasayı İmzalamasıyla CivitAI Yeni Ödeme Sağlayıcı Krizinde

Başkan Trump, ABD'de federal düzeyde cinsel deepfake içerikleri suç sayan Take It Down Yasası'nı imzaladı. Aynı zamanda, CivitAI topluluğunun NSFW yapay zeka ve ünlü içerikleri konusunda "düzeltme" çabaları, ödeme işlemcilerini memnun edemedi ve sitenin alternatifler aramasına veya kapatılma tehlikesiyle karşı karşıya kalmasına yol açtı. Tüm bunlar, dünyanın en eski ve en büyük deepfake porno sitesinin kapanmasının üzerinden sadece iki hafta geçti...

Düzenlenmemiş görüntü ve video deepfake'lerinin durumu için önemli birkaç hafta oldu. Sadece iki hafta önce, ünlü deepfake pornolarının topluluk paylaşımı için bir numaralı alan adı. Bay Deepfake'ler, baskın ve çok çalışılmış cinselleştirilmiş yapay zeka ünlü içerikleri için küresel bir yer olarak konumlanıyor. Site çöktüğünde, site bir ortalama beş milyondan fazla ziyaret bir ay.

Arka plan, Mayıs ayı başında Bay Deepfakes alan adı; ekte, alan adının 404 Mayıs 4'te bilinmeyen bir alıcı tarafından satın alındığı anlaşıldığından, askıya alma bildirimi artık 2025 hatasıyla değiştirildi (https://www.whois.com/whois/mrdeepfakes.com). Kaynak: mrdeepfakes.com

Bay Deepfakes'e yönelik hizmetlerin durdurulması resmen duyuruldu atfedilen 'Kritik hizmet sağlayıcısının' geri çekilmesine (yukarıdaki ek görsele bakın, bir hafta içinde alan adı arızasıyla değiştirildi). Ancak, işbirlikçi bir gazetecilik araştırması önemli bir şahsiyetin kimliğinin açığa çıkarılması Mr.Deepfakes'in kapanmadan hemen önce arkasında olduğu ve sitenin o kişinin kişisel ve/veya yasal nedenlerinden dolayı kapatılmış olabileceği ihtimalini göz önünde bulunduruyor.

Aynı zamanlarda, ünlüler ve NSFW için yaygın olarak kullanılan ticari platform CivitAI LoRA'lar, alışılmadık ve tartışmalı bir dizi uygulama getirdi otosansür önlemleriBunlar, deepfake üretimini, model barındırmayı ve tam yasaklar da dahil olmak üzere daha geniş bir dizi yeni kural ve kısıtlamayı etkiledi. belli marjinal NSFW saplantıları. ve 'aşırı ideolojiler' olarak adlandırdıkları şeyler.

Bu önlemler, ödeme sağlayıcılarının, NSFW içerik ve ünlülerin yapay zeka tasvirleri konusunda değişiklik yapılmadığı takdirde alan adından hizmetlerini geri çekecekleri tehdidinde bulunması üzerine alındı.

CivitAI Kesildi

Bugün itibariyle CivitAI tarafından alınan önlemlerin VISA ve Mastercard'ı yatıştırmadığı anlaşılıyor: yeni posta^† Sitede, Topluluk Katılım Yöneticisi Alasdair Nicoll'un açıklamasına göre, CivitAI'ye (çoğunlukla gerçek dünyadaki kredi ve banka kartlarıyla çalışan 'vızıldayan' sanal para sistemi) kart ödemeleri bu Cuma gününden (23 Mayıs 2025) itibaren durdurulacak.

Bu, kullanıcıların aylık üyeliklerini yenilemelerini veya yeni buzz satın almalarını engelleyecektir. Nicoll, kullanıcıların yıllık üyeliğe geçerek mevcut üyelik ayrıcalıklarını koruyabileceklerini önerse de (maliyetlendirme^†† Cuma gününden önce 100-550 ABD Doları arasında bir ücret ödenecek, bu nedenle alan adının geleceği şu anda belirsizliğini koruyor (Yıllık üyeliklerin canlı gitti (Ödeme işlemcilerinin kaybına ilişkin duyurunun yapıldığı sırada).

Ödeme işlemcisinin olmamasıyla ilgili olarak Nicoll şunları söylüyor: 'Yapay zeka inovasyonu konusunda rahat olan her sağlayıcıyla görüşüyoruz'.

Sitenin yeniden yeterince düşünülmesine yönelik son çabaların başarısızlığına gelince; sık sık eleştirilen Ünlülerin yapay zekası ve NSFW içerikleri etrafındaki politikalar hakkında Nicoll gönderide şunları belirtiyor:

'Bazı ödeme şirketleri, özellikle kullanıcılar tarafından oluşturulan yetişkin içeriklere, yasal ve denetleniyor olsa bile izin verdiğimizde, üretken yapay zeka platformlarını yüksek riskli olarak nitelendiriyor. Kullanıcıların yaptığı herhangi bir şey değil, bu politika tercihi, kesintiye yol açtı.'

Şirketin CivitAI'da personel şefi olarak atanan 'Faeia' adlı kullanıcının yorumu profil*, bu duyuruya bağlam ekler:

'Açıklığa kavuşturmak gerekirse, platformdan NSFW ve yetişkinlere yönelik içerikleri kaldırmamayı seçtiğimiz için ödeme işlemcisinden çıkarılıyoruz. Her türlü içerik üreticisini desteklemeye devam ediyor ve alternatif çözümler üzerinde çalışıyoruz.'

Olarak yeni teknolojilerin geleneksel sürücüsüNSFW içeriğinin kullanılması alışılmadık bir durum değildir ilgiyi harekete geçirmek bir alanda, teknolojide veya platformda – yalnızca yeterli 'meşru' sermaye ve/veya kullanıcı tabanı kurulduğunda (yani, NSFW bağlamından koparıldığında varlığın hayatta kalması için yeterli kullanıcıya ulaşıldığında) ilk taraftarların reddedilmesi.

Bir süreliğine CivitAI'nin bunu takip edeceği düşünülüyordu tumblr ve köklerini unutmaya hazır 'temizlenmiş' bir ürüne doğru bu yolda ilerleyen çeşitli diğer girişimler. Ancak, ek ve artan tartışma/damgalama AI tarafından üretilen içerik etrafında her türlü bu durumda son dakika kurtarmayı önleyecek gibi görünen kümülatif bir ağırlığı temsil ediyor. Bu arada, resmi duyuru kullanıcılara kriptoyu alternatif bir ödeme yöntemi olarak benimsemelerini tavsiye ediyor.

sahte

Başkan Donald Trump'ın gelişi coşkuyla karşılandı imza Federal İndir onu Bu yasanın bu olayların bazılarını etkilemiş olması muhtemeldir. Yeni yasa, AI tarafından oluşturulan deepfake'ler de dahil olmak üzere rızaya dayanmayan mahrem görüntülerin dağıtımını suç sayıyor.

Yasa, platformların işaretli içerikleri 48 saat içinde kaldırmasını ve uygulamanın Federal Ticaret Komisyonu tarafından denetlenmesini zorunlu kılıyor. Yasanın cezai hükümleri derhal yürürlüğe giriyor ve Amerika Birleşik Devletleri'nin yetki alanı içinde rızaya dayanmayan mahrem görüntüleri (AI tarafından oluşturulan deepfake'ler dahil) bilerek yayınlayan veya yayınlamakla tehdit eden kişilerin kovuşturulmasına olanak sağlıyor.

Yasa, teknoloji şirketleri ve savunma gruplarından destek almanın yanı sıra nadir görülen iki partili destek almış olsa da, eleştirmenler, bunun meşru içerikleri bastırabileceğini ve şifreleme gibi gizlilik araçlarını tehdit edebileceğini savunuyor. Geçtiğimiz ay Electronic Frontier Foundation (EFF) şunları ilan etti: yasa tasarısına muhalefet, mevzuatta yer alan rızaya dayanmayan mahrem görüntülerin daha dar tanımından daha geniş bir materyali hedef alan kaldırma mekanizmalarının zorunlu kılındığını ileri sürüyor.

'TAKE IT DOWN'daki kaldırma hükmü, yasa tasarısında başka yerlerde bulunan daha dar NCII tanımlarından çok daha geniş bir içerik kategorisine uygulanır - potansiyel olarak samimi veya cinsel içerik içeren herhangi bir görüntü. Kaldırma hükmü ayrıca anlamsız veya kötü niyetli kaldırma taleplerine karşı kritik güvenlik önlemlerinden yoksundur.

'Hizmetler, kötü şöhretli kaba araçlar olan otomatik filtrelere güvenecektir. Bunlar, adil kullanım yorumlarından haber raporlamasına kadar yasal içerikleri sık sık işaretler. Yasanın sıkı zaman çerçevesi, uygulamaların ve web sitelerinin konuşmayı 48 saat içinde kaldırmasını gerektirir; bu, konuşmanın gerçekten yasadışı olup olmadığını doğrulamak için nadiren yeterli bir zamandır.

'Sonuç olarak, özellikle küçük olanlar olmak üzere çevrimiçi hizmet sağlayıcıları, konuşmayı doğrulamaya çalışmaktansa, yalnızca yayınlamayı kaldırarak ağır hukuki riskten kaçınmayı tercih edeceklerdir.'

Platformların, etkilenen kişilerin veya temsilcilerinin içerik kaldırma talebinde bulunmak için kanuna başvurmasını sağlayacak resmi bir bildirim ve kaldırma süreci başlatmaları için kanunun yürürlüğe girmesinden itibaren bir yıla kadar süreleri var.

Bu, cezai hükümlerin derhal yürürlüğe girmesine rağmen, platformların, söz konusu bir yıllık süre dolana kadar kaldırma altyapısına (talepleri alma ve işleme gibi) uymak zorunda olmadıkları anlamına geliyor.

TAKE IT DOWN Yasası, yapay zeka tarafından üretilen ünlü içeriklerini kapsıyor mu?

TAKE IT DOWN Yasası tüm eyalet sınırlarını aşsa da, ünlülerin tüm yapay zeka destekli medyasını yasaklamıyor. Yasa, rızaya dayanmayan mahrem görüntülerin dağıtımını suç sayıyor. dahil olmak üzere Yapay zeka tarafından üretilen deepfake'ler, yalnızca tasvir edilen bireyin bir makul gizlilik beklentisi:

Kanunda şöyle deniliyor:

“(2) OTANTİK YAKIN GÖRSEL TASLAKLARI İÇEREN SUÇ.—

“(A) YETİŞKİNLERİ İÇEREN.—Hariç [delil oluşturma, raporlama amaçları vb. için], eyaletler arası veya dış ticaret yapan herhangi bir kişinin, reşit olmayan, kimliği belirlenebilir bir bireyin mahrem görsel tasvirini bilerek yayınlamak için etkileşimli bir bilgisayar hizmeti kullanması, aşağıdaki durumlarda yasadışıdır:

“(i) mahrem görsel tasvir, kişinin kimliği belirlenebilir bireyin makul bir gizlilik beklentisine sahip olduğunu bildiği veya makul bir şekilde bilmesi gerektiği koşullar altında elde edilmiş veya yaratılmıştır;

“(ii) tasvir edilen şey, kimliği belirlenebilir birey tarafından kamusal veya ticari bir ortamda gönüllü olarak ifşa edilmemiştir [yani, kendi kendine yayınlanan porno];

“(iii) tasvir edilen şey kamuoyunu ilgilendiren bir konu değildir; ve

“(iv) mahrem görsel tasvirin yayınlanması—

“(I) zarar vermeyi amaçlamaktadır; veya

“(II) Tanımlanabilir bireye psikolojik, mali veya itibar kaybı da dahil olmak üzere zarar verir.

Burada uygulanan 'makul gizlilik beklentisi' koşulu geleneksel olarak tercih edilmeyen Ünlülerin hakları. Sonunda ortaya çıkan içtihatlara bağlı olarak, açık Kamuya açık veya ticari ortamlarda kamuya mal olmuş kişileri ilgilendiren yapay zeka tarafından üretilen içerikler, Kanun'un yasakları kapsamına girmeyebilir.

Belirlemeye ilişkin son madde kapsam Zararın ünlü elastik yasal açıdan ve bu anlamda yasama yüküne özellikle yeni bir şey eklemiyor. Ancak, niyet Zarar vermek, Kanunun kapsamını, (bilinmeyen) eski bir partnerin (eşit derecede bilinmeyen) diğer eski partnerinin gerçek veya sahte medya içeriğini yayınlaması durumunda ortaya çıkan 'intikam pornosu' bağlamıyla sınırlandırıyor gibi görünüyor.

Yasanın 'zarar' şartı, anonim kullanıcıların yapay zeka tarafından oluşturulmuş ünlü tasvirlerini paylaştığı durumlar için pek uygun görünmese de, daha geniş bir taciz örüntüsünün bir bireyin birden fazla cephede bir kamu figürünü kasıtlı ve kötü niyetli bir şekilde hedef aldığı sonucunu desteklediği takip senaryolarında daha geçerli olabilir.

Yasanın "kapsanan platformlar" ifadesine atıfta bulunması, Signal veya e-posta gibi özel kanalları kaldırma hükümlerinden hariç tutsa da, bu hariç tutma yalnızca Mayıs 2026'ya kadar resmi bir kaldırma mekanizması uygulama yükümlülüğü için geçerlidir. Bu, özel iletişimler aracılığıyla paylaşılan rıza dışı yapay zeka veya gerçek tasvirlerin yasanın cezai yasakları kapsamı dışında kaldığı anlamına gelmez.

Açıkçası, yerinde bildirim mekanizmalarının olmaması, etkilenen tarafların artık yasadışı olan içeriği polise bildirmesini engellemiyor; aynı şekilde, bu tür taraflar, bir sitenin şikayette bulunmak ve rahatsız edici materyalin kaldırılmasını talep etmek için sunabileceği geleneksel iletişim yöntemlerini kullanmaktan da alıkonulamıyor.

Geride Bırakılan Haklar

Deepfake içeriklere yönelik yedi yılı aşkın süredir artan kamuoyu ve medya eleştirileri, alışılmadık derecede kısa bir sürede doruğa ulaşmış gibi görünüyor. Ancak, "TAKE IT DOWN" Yasası kapsamlı federal yasaklar getirse de, yapay zeka tarafından oluşturulan simülasyonları içeren her vaka için geçerli olmayabilir ve bu da bazı senaryoların, çıkarılan yasaların genellikle "yerel ilgiyi" yansıttığı, giderek artan eyalet düzeyindeki deepfake mevzuatı kapsamında ele alınmasını gerektirir.

Örneğin, Kaliforniya'da, Kaliforniya Ünlü Hakları Yasası ünlülerin kimliklerinin yalnızca kendileri ve mirasları ile sınırlı olduğunu, hatta ölümünden sonra bile; tersine, Tennessee'nin ELVIS Yasası Her bir vaka, eyalet düzeyinde öne çıkan çıkar gruplarına yönelik hedefli bir yaklaşımı yansıtarak, müzisyenleri yetkisiz yapay zeka tarafından oluşturulmuş ses ve görüntü çoğaltmalarından korumaya odaklanıyor.

Çoğu eyalet artık yasalar var cinsel deepfake'leri hedef alıyor, ancak birçoğu bu korumaların özel kişilere ve kamu figürlerine eşit şekilde uzanıp uzanmadığını açıklamaktan kaçınıyor. Bu arada, bildirildiğine göre yardımcı olan politik deepfake'ler mahmuz Donald Trump'ın yeni federal yasaya verdiği destek, pratikte, anayasal engellerle karşılaşmak belirli bağlamlarda.

^† Arşivlenmiş versiyon: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Arşivlenmiş versiyon (aylık fiyatları içermiyor): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* CivitAI'daki CEO'nun gerçek 'personel şefi' listelenmiş LinkedIn'de alakasız bir isimle, benzer sesli 'Faiona' ise resmi CivitAI personel moderatörü alan adının subreddit.

İlk yayın tarihi Salı, 20 Mayıs 2025