Anderson’un Açısı
Reddit SFW Deepfake Topluluğunu Yasakladı

Öne çıkan noktalarReddit, r/deepfakesfw'yi, içerik paylaşımından değil, rızasız pornografi teşvik ettiği…
Daha fazla göster
- Reddit, r/deepfakesfw'yi, içerik paylaşımından değil, rızasız pornografi teşvik ettiği için yasakladı.
- Google, Colab'da deepfake eğitimini yasakladı ancak bu yasak yalnızca DeepFaceLab için geçerli, diğer araçları kapsamıyor.
- Yasal deepfake toplulukları, yalnızca NSFW içerik taleplerine karşı sıkı bir denetim uygulayarak varlıklarını sürdürebiliyor.
Geçtiğimiz hafta sonu, görünüşe göre pazar günü civarında, Reddit, isim olarak ‘SFW’ (iş yerinde görüntülenmeye uygun) derin sahte r/deepfakesfw adlı topluluğunu yasakladı. Bu subreddit, sosyal medya devinin orijinal, AI-porn dolu r/deepfakes subını 2018’de hızla silmesinden sonra ortaya çıkan ilk yanıtlardan biriydi.
(Nispeten) standart bildirim, şimdi bu alt topluluğa ziyaret eden herkesi karşılar (13 Haziran Pazartesi günü alınan arşiv görüntüsü) ve ‘Reddit’in kişilerin rızası dışında üretilen veya paylaşılan pornografiyi yasaklayan kurallarını ihlal ettiği için yasaklandı’ diyor.
r/deepfakesfw alt topluluğu, popüler koruma platformları tarafından sık arşivlenmedi, ancak en son WayBack Machine anlık görüntüsü (3 Haziran 2022’de alınmıştı), o zamanlarda 3.095 okuyucu olduğunu gösteriyor.
Bu, aslında r/DeepFakesSFW (ekstra ‘s’ notu) topluluğundan daha yüksek bir abone sayısı, şu anda 2.827 okuyucu (13 Haziran Pazartesi günü alınan arşiv görüntüsü). En popüler ‘meşru’ SFW derin sahte topluluğu şu anda r/SFWdeepfakes gibi görünüyor, bu da şu anda 16.636 okuyucu (13 Haziran Pazartesi günü alınan arşiv görüntüsü).
İstemeyin Bile
r/deepfakesfw’u mahkum eden şey, paylaşım yapmak değil, derin sahte pornografisi talep etmekti. Reddit’in Cinsel İçerikle İlgili Kuralları şunları söylüyor:
‘Başka bir kişinin resim veya videosu, açık içerik oluşturmak veya görüntüdeki kişiye benzeyen insanları içeren pornografi talep etmek (ör. “derin sahteler” veya “balon pornosu”) için özel amaçla paylaşılan kuralları ihlal ediyor.’
Son kullanılabilir RSS beslemeleri, şimdi yasaklanan SFW alt topluluğundan, aslında derin sahte pornografisi talebinin, paylaşımından daha çok yasaklanma nedeninin olduğunu gösteriyor:
Bu gönderilerin bağlantıları artık mevcut değil, ancak talepte bulunanların profil bağlantılarını tıklamak (yukarıdaki resimde bulanıklaştırılmış), birçok göndericinin birden fazla forumda yasaklanmış derin sahte içeriği talep ettiğini veya sunduğunu gösteriyor ve bazıları ensest pornografisi ve rıza dışı pornografik temalar dahil bu türün en aşırı içeriklerini talep ediyor veya sunuyor.
Bu, Reddit’in, özellikle yerel moderatörlerin hızlı ve etkili müdahalesi sayesinde, ‘SFW’ derin sahte alt topluluklarını yaşatabildiğini gösteriyor, çünkü Reddit, derin sahtelerin DM’ler aracılığıyla bağlantılı olabileceği bir tür seri ilan forumu haline gelmek istemiyor gibi görünüyor.
Eğer öyleyse, henüz yasaklanmayan r/DeepFakesSFW, ödünç alınmış zamanla yaşıyor olabilir; şu anda ‘eski’ Reddit temasını etkinleştirdiğinizde, bu subredditin iki en üst gönderisi, özellikle ‘NSFW’ (bu toplulukta bulunmaması gereken bir etiket) olarak işaretlenmiş.

Bazı durumlar altında, bazı kural ihlal eden gönderiler şu anda r/DeepFakesSFW subredditinde görünüyor.
Bu iki NSFW gönderisini, 13 Haziran Pazartesi günü alınan arşiv görüntüsünde, burada görebilirsiniz.
Aslında, r/DeepFakesSFW’de yeni bir gönderi oluştururken, ‘NSFW’ etiketi mevcut değil, bu da dört yıldır faaliyette olan bu subredditin yan çubuğundaki bilgilere göre:

r/DeepFakesSFW’ye gönderi eklerken mevcut etiketler.
Bu nedenle, r/DeepFakesSFW’deki NSFW etiketleri, bu subredditin moderatörleri veya daha üst düzey yöneticileri tarafından uygulanmış olabilir veya yerel moderatörlerin müdahalesi ya da itiraz imkânı olmadan algoritmalar tarafından otomatik olarak eklenmiş olabilir. r/DeepFakesSFW’deki tek listede bulunan moderatöre ulaştım ve herhangi bir güncelleme olursa, buraya ekleyeceğim.
(14 Haziran Salı, 2022’de DÜZELTME – r/DeepFakesSFW’den bir moderatör, ‘Kullanıcının hesabının NSFW olması durumunda böyle oluyor’ dedi. Bu nedenle, ‘SFW’ derin sahte subredditlerinde böyle taleplerin olasılığını azaltmanın tek yolu, ‘NSFW’ olarak sınıflandırılmış kullanıcıları yasaklamak olabilir.)
Bu subredditdeki ve daha büyük r/SFWdeepfakes’teki içeriğin çoğu, popüler filmlerden veya klasik filmlerden aktörleri rollerde yeniden canlandırmak veya popüler medyayla ve derin sahte teknolojisiyle daha masum yapay zekâ destekli eğlence için kullanılan derin sahte teknolojisini kullanma ile ilgilidir ve gerçekten de SFW kapsamındadır.
Bununla birlikte, birçok böyle gönderi, telif hakkı ihlallerine çok yakın bir şekilde ilerliyor, ancak büyük YouTube derin sahte yaratıcılarından Ctrl-Shift-Face’in başkalarının fikrî mülkiyetini kullanan pornografik olmayan derin sahte video gönderilerinin devam eden varlığı, stüdyo ve hak sahibi toleransına işaret ediyor, en azından şimdilik.
Deepfake Sürecinin ve Ekosisteminin “Masum” Görünümü
İki hafta önce Google’ın popüler Colab bulut işlem ortamlarında deepfake oluşturma yazılımlarını aniden yasakladığı ortaya çıktı ve çokça tartışıldı. Bugün bile Colab’ın yalnızca DeepFaceLab (DFL) çalıştırma girişimlerinde kısıtlamayı etkinleştirdiği görülüyor. DFL dünyadaki en popüler deepfake yazılımı ve yapay zekâ pornografisiyle en yakından ilişkilendirilen yazılım. Aynı görevleri yerine getiren, daha az kullanılan ancak daha iyi itibara sahip FaceSwap ise aynı tepkiyi tetiklemiyor.
Bir bakıma bu, Colab’ın deepfake pornografisi üretimine herhangi bir kısıtlama getirmesinin tek yolu olabilir. Çünkü eğitim sürecinde yalnızca açık kaynak yazılımlar ve yoğun biçimde kırpılmış yüz görüntüleri kullanılır; bunlar genellikle 512×512 piksel, hatta daha küçüktür. Görüntü tanıma algoritmalarının gerçek pornografik içeriği tespit etme olasılığı neredeyse sıfırdır.
Model eğitildikten sonra yapımcının Colab’ın muazzam işlem gücüne veya pahalı bir yerel GPU’ya ihtiyacı kalmaz. Gerçek dönüştürme işlemlerinin çoğu, yani pornografik olsun olmasın bir videoya yüz yerleştirme, düşük güçlü dizüstü bilgisayar GPU’larında, hatta biraz daha uzun sürede CPU’da yapılabilir. Süreçte pornografik içerik ortaya çıktığında Colab çoktan devreden çıkmıştır.
Bu nedenle deepfake pornografisi üreticileri arasında dolaşan bileşenler genellikle olası küçük telif hakkı ihlallerinden fazlasını oluşturmaz. Bunlar YouTube videoları, Blu-ray diskleri, televizyon röportajları, sosyal medya ve başka kaynaklardan çıkarılan yüz görüntüsü kümeleridir.
Derin Sahte Topluluklarına yakıp yıkma politikası Geliyor mu?
Derin sahte Discord topluluklarındaki kişiler, DeepFaceLab (dahil DeepFaceLive), FaceSwap, Machine Video Editor (MVE, bir DFL için GUI tabanlı bir ortam, birçok ek özellik ile) ve yeni ses tabanlı derin sahte Discord sunucuları gibi Audio Deepfakes için geçerli olan soru, Portal ve platform sahipleri, NSFW taraftarları ve yaratıcılarına karşı sürekli moderasyon masrafına katlanmak yerine, derin sahte topluluklarını prensip olarak yasaklayacaklar mı?
FaceSwap’in geliştiricilerinden biri ve projenin Discord sunucusunun sahibi Bryan Lyon, şunları söyledi†:
‘Discord’da kalmayı, tamamen temiz kalarak başardık. Birkaç tasfiyeye rağmen kurallara tamamen uyarak Discord’da kaldık. Gizli kanallarımız ya da yasa dışı içerik barındıran gizli ikinci bir sunucumuz yok. Birkaç yıl önce popüler DeepFaceLab sunucusu tasfiye edildi ve oradaki herkes yasaklandı. Yalnızca davetle verilen roller üzerinden rıza dışı pornografi içeren kanallara erişim sağlanıyordu.’
Google, dünyanın en büyük teknoloji kaynaklarından biri olarak, sunucularında ve GPU’larında derin sahte eğitimini tamamen yasakladı, bu nedenle Microsoft’a ait GitHub’un da bu teknolojileri desteklemenin* sonunda ahlaki belirsizliğe ya da denetim yatırımına değip değmeyeceğini değerlendirmesi mümkündür.
Derin sahte teknolojilerini, ev yapımı pornodan uzaklaştırmak ve film ve TV prodüksiyonu ile başkalarının haklarını ihlal etmeyen ve suç teşkil etmeyen kullanımlara yöneltme ve meşruiyet kazandırma süreci, platformlar ve topluluk barındırma hizmetleri için net politika rehberleri üretmek için çok yeni.
* 13 Haziran Pazartesi, 2022’den https://github.com/search?q=deepfake arşivi.
† Discord’da özel DM’ler.
İlk olarak 13 Haziran 2022’de yayımlandı. 3:08 PM UTC’de resim düzeltmesi için düzenlendi.
14 Haziran 2022 Salı, 6:24 AM UTC’de, bazı posterlerin NSFW durumuna ilişkin Reddit moderatörünün yanıtını eklemek için değiştirildi. Ayrıca RSS beslemeleri illüstrasyonunda resim düzeltmesi yapıldı.














