Reddit, ‘SFW’ Derin Sahte Topluluğunu Yasakladı

Geçtiğimiz hafta sonu, apparentemente pazar günü civarında, Reddit, isim olarak ‘SFW’ (İş İçin Güvenli) derin sahte topluluğunu titled r/deepfakesfw yasakladı. Bu subreddit, sosyal medya devinin orijinal, AI-porn dolu r/deepfakes subını 2018’de silmesinden sonra ortaya çıkan ilk yanıtlardan biriydi.

(Nispeten) standart efsane, şimdi bu alt topluluğa ziyaret eden herkesi karşılar (13 Haziran Pazartesi günü alınan arşiv görüntüsü) ve ‘Reddit’in kurallarını ihlal ettiği için yasaklandı’ diyor.

r/deepfakesfw için yeni ana sayfa.

r/deepfakesfw alt topluluğu, popüler koruma platformları tarafından sık sık arşivlendi, ancak en recent WayBack Machine snapshot (3 Haziran 2022’de alınmıştı), o zamanlarda 3.095 okuyucu olduğunu gösteriyor.

Bu, aslında r/DeepFakesSFW (ekstra ‘s’ notu) topluluğundan daha yüksek bir abone sayısı, şu anda 2.827 okuyucu (13 Haziran Pazartesi günü alınan arşiv görüntüsü). En popüler ‘meşru’ SFW derin sahte topluluğu şu anda r/SFWdeepfakes gibi görünüyor, bu da şu anda 16.636 okuyucu (13 Haziran Pazartesi günü alınan arşiv görüntüsü).

Sormaya Gerek Yok

r/deepfakesfw’u mahkum eden şey, aslında derin sahte pornografisi talebiydi. Reddit’in Cinsel İçerikle İlgili Kuralları şunları söylüyor:

‘Başka bir kişinin resim veya videosu, açık içerik oluşturmak veya “benzer” pornografi talep etmek (ör. “derin sahteler” veya “balon pornosu”) için özel amaçla paylaşılan kuralları ihlal ediyor.’

Son kullanılabilir RSS beslemeleri, şimdi yasaklanan SFW alt topluluğundan, aslında derin sahte pornografisi talebinin, paylaşımından daha çok yasaklanma nedeninin olduğunu gösteriyor:

Şimdi ölü r/deepfakesfw subredditinden bazı son, açıkça NSFW gönderileri. Kaynak: Inoreader.

Bu gönderilerin bağlantıları artık mevcut değil, ancak talepte bulunanların profil bağlantılarını tıklamak (yukarıdaki resimde bulanıklaştırılmış), birçok göndericinin birden fazla forumda yasaklanmış derin sahte içeriği talep ettiğini veya sunduğunu gösteriyor ve bazıları bu türün en aşırı içeriklerini talep ediyor veya sunuyor.

Bu, Reddit’in, özellikle yerel moderatörlerin hızlı ve etkili müdahalesi sayesinde, ‘SFW’ derin sahte alt topluluklarını yaşatabildiğini gösteriyor, çünkü Reddit, derin sahtelerin DM’ler aracılığıyla bağlantılı olabileceği bir tür ‘sınıflandırılmış ilan’ forumu haline gelmek istemiyor gibi görünüyor.

Eğer öyleyse, henüz yasaklanmayan r/DeepFakesSFW, ödünç alınmış zamanla yaşıyor olabilir; şu anda ‘eski’ Reddit temasını etkinleştirdiğinizde, bu subredditin iki en üst gönderisi, özellikle ‘NSFW’ (bu toplulukta bulunmaması gereken bir etiket) olarak işaretlenmiş.

Bazı durumlar altında, bazı kural ihlal eden gönderiler şu anda r/DeepFakesSFW subredditinde görünüyor.

Bu iki NSFW gönderisini, 13 Haziran Pazartesi günü alınan arşiv görüntüsünde, burada görebilirsiniz.

Aslında, r/DeepFakesSFW’de yeni bir gönderi oluştururken, ‘NSFW’ etiketi mevcut değil, bu da dört yıldır faaliyette olan bu subredditin yan çubuğundaki bilgilere göre:

r/DeepFakesSFW’ye gönderi eklerken mevcut etiketler.

Bu nedenle, r/DeepFakesSFW’deki NSFW etiketleri, bu subredditin moderatörleri veya daha üst düzey yöneticileri tarafından uygulanmış olabilir veya algoritmalar tarafından otomatik olarak eklenmiş olabilir. r/DeepFakesSFW’deki tek listede bulunan moderatöre ulaştım ve herhangi bir güncelleme olursa, buraya ekleyeceğim.

(13 Haziran Salı, 2022’de DÜZELTME – r/DeepFakesSFW’den bir moderatör, ‘Kullanıcının hesabının NSFW olması durumunda böyle oluyor’ dedi. Bu nedenle, ‘SFW’ derin sahte subredditlerinde böyle taleplerin olasılığını azaltmanın tek yolu, ‘NSFW’ olarak sınıflandırılmış kullanıcıları yasaklamak olabilir.)

Bu subredditdeki ve daha büyük r/SFWdeepfakes’teki meisten içerik, popüler filmlerden veya klasik filmlerden aktörleri ‘yeniden dağıtmak’ veya popüler medyayla ve derin sahte teknolojisiyle daha masum AI sürüklenen eğlence için kullanılan derin sahte teknolojisini kullanma ile ilgili.

Bununla birlikte, birçok böyle gönderi, telif hakkı ihlallerine çok yakın bir şekilde ilerliyor, ancak büyük YouTube derin sahte yaratıcılarından Ctrl-Shift-Face’in ‘IP’ye dayalı’ derin sahte video gönderilerinin devam eden varlığı, stüdyo ve hak sahibi toleransına işaret ediyor, en azından şimdilik.

Derin Sahte Topluluklarına ‘Küller İçinde’ Bir Politika Geliyor mu?

Derin sahte Discord topluluklarındaki kişiler, DeepFaceLab (including DeepFaceLive), FaceSwap, Machine Video Editor (MVE, bir DFL için GUI tabanlı bir ortam, birçok ek özellik ile) ve yeni ses tabanlı derin sahte Discord sunucuları gibi Audio Deepfakes için geçerli olan soru, Portal ve platform sahipleri, NSFW taraftarları ve yaratıcılarına karşı sürekli moderasyon masrafına katlanmak yerine, derin sahte topluluklarını prensip olarak yasaklayacaklar mı?

FaceSwap’in geliştiricilerinden biri ve projenin Discord sunucusunun sahibi Bryan Lyon, şunları söyledi:

‘Discord’da kalmayı, tamamen temiz kalarak başardık. Gizli kanallarımız veya非-consensual pornografiye erişim sağlayan davetiye-only rollerimiz yok. İki yıl önce DeepFaceLab sunucusu temizlendi. Herkes yasaklandı. İnvite-only rolleri ve non-consensual pornografiye erişim sağlayan kanalları vardı.’

Google, dünyanın en büyük teknoloji kaynaklarından biri olarak, sunucularında ve GPU’larında derin sahte eğitimini tamamen yasakladı, bu nedenle Microsoft’a ait GitHub’un da bu teknolojileri desteklemeye* değer olup olmadığını düşünebilir.

Derin sahte teknolojilerini, ev yapımı pornodan uzaklaştırmak ve film ve TV prodüksiyonu ile suç teşkil etmeyen kullanımlar için legitimizing süreci, platformlar ve topluluk barındırma hizmetleri için net politika rehberleri üretmek için çok yeni.

* 13 Haziran Pazartesi, 2022’den https://github.com/search?q=deepfake arşivi.
† Discord’da özel DM’ler.

İlk olarak 13 Haziran 2022’de yayımlandı. 3:08 PM UTC’de resim düzeltmesi için düzenlendi.
14 Haziran 2022 Salı, 6:24 AM UTC’de, bazı posterlerin NSFW durumuna ilişkin Reddit moderatörünün yanıtını eklemek için değiştirildi. Ayrıca RSS beslemeleri illüstrasyonunda resim düzeltmesi yapıldı.