Reddit 'SFW' Deepfake Topluluğunu Yasakladı

Hafta sonu, görünüşe göre Pazar günü civarında, Reddit, sözde 'SFW' (İş İçin Güvenli) r/deepfakesfw başlıklı deepfakes topluluğunu yasakladı. Alt dizi, sosyal medya devinin talebine verilen ilk yanıtlardan biriydi silme 2018'de orijinal, AI-porno yüklü r/deepfakes altyazısının.

Denizaltıyı ziyaret eden herkesi selamlayan (nispeten) standart efsane (arşiv anlık görüntüsü 13 Haziran Pazartesi çekilmiştir) şunu açıklıyor: 'Reddit'in ihlali nedeniyle yasaklandı kurallar istemsiz pornografiye karşı'.

r/deepfakesfw için yeni ön sayfa.

r/deepfakesfw alt dosyası, popüler koruma platformları tarafından sıklıkla arşivlenmiyordu, ancak en çok en son WayBack Machine anlık görüntüsü, yaklaşık on gün önce (3 Haziran 2022'de) çekildi, o sırada denizaltının 3,095 okuyucusu olduğunu gösteriyor.

Bu aslında abone sayısından daha yüksek bir sayıdır. r/DerinSahteler (fazladan 's'ye dikkat edin), şu anda 2,827 okuyucuları (arşiv anlık görüntüsü 13 Haziran 2022 Pazartesi günü alınmıştır). En popüler 'meşru' SFW deepfake topluluğu şu anda r/SFWdeepfake'ler, yazı yazarken sahip olduğu 16,636 okuyucuları (enstantane 13 Haziran 2022 Pazartesi alınmıştır).

Sorma Bile

Görünüşe göre r/deepfakesfw'yi ölüme mahkum eden gönderi değil, İstemek deepfake pornografi. Reddit'in Müstehcen Medya ile ilgili kuralları şunları belirtir:

'[Resimler] veya müstehcen içeriği taklit etmek veya "benzer" pornografi (örn. "derin sahte" veya "baloncuklu porno") talep etmek gibi belirli bir amaçla yayınlanan başka bir kişinin videosu da Kurala aykırıdır.'

Şu anda yasaklı olan SFW abonesinden gelen son RSS beslemelerine göre, yasağı tetikleyen şey NSFW deepfake içeriğinin yayınlanmasından ziyade talep edilmesi olmuştur:

Artık ölü olan r/deepfakesfw alt dizinindeki son, açıkça NSFW gönderilerinden bazıları. Kaynak: Inoreader.

Bu RSS gönderilerinin işaret ettiği gönderiler artık mevcut olmasa da, istekte bulunanların profil bağlantılarına (yukarıdaki resimde bulanıklaştırılmış) tıklamak, gönderenlerin çoğunun birden fazla forumda yasaklanmış deepfake içeriği talep ettiğini ve ya istediğini ya da teklif ettiğini ortaya koyuyor. ensest pornosu ve istemsiz pornografik temaların çeşitli tonlarını içeren bu türün en aşırı içeriklerinden bazıları.

Bu, geri kalan 'SFW' Reddit abonelerinin moderatörlerinin hızı, titizliği ve hızlı yanıt süreleriyle hayatta kaldıklarını gösteriyor, çünkü Reddit'in insanların bağlantı kurması ve gayri meşru deepfake'lerle işlem yapması için bir tür 'gizli reklam' forumu olmaya isteksiz olduğu görülüyor. DM'ler (bunun bir gönderide açıkça talep edilemediği durumlarda).

Öyleyse, henüz yasaklanmamış r/DeepFakesSFW ödünç alınmış bir zamanda yaşıyor olabilir; "eski" Reddit teması etkinken kök alt dizin URL'sine girerken en çok kullanılan iki gönderisi özellikle "NSFW" olarak işaretlendi (muhtemelen bu belirli toplulukta bulunmaması gereken bir etiket).

Koşullara bağlı olarak, bazı kuralları çiğneyen gönderiler şu anda r/DeepFakesSFW alt bölümünde görünmektedir. Kaynak: https://www.reddit.com/r/DeepFakesSFW/

Bugünkü r/DeepFakesSFW forumunun en üst sıralarında yer alan bu iki NSFW gönderisini arşivlenmiş olarak görebilirsiniz. okuyun (enstantane 13 Haziran 2022 Pazartesi alınmıştır).

Kenar çubuğundaki bilgilere göre, dört yıldır faaliyette olan r/DeepFakesSFW'de yeni bir gönderi oluştururken aslında hiçbir NSFW 'yeteneği' yok:

r/DeepFakesSFW'de gönderi paylaşırken mevcut 'yetenekler'.

Bu yüzden NSFW r/DeepFakesSFW'deki etiketler, muhtemelen herhangi bir müdahale veya yerel moderatörlerin mevcut muhalefeti olmaksızın, forumdaki moderatörler veya üst düzey yöneticiler tarafından veya hatta algoritmalar tarafından uygulanmış gibi görünüyor. Bu konuda r/DeepFakesSFW'nin listelenen tek moderatörüne ulaştım ve mevcut güncellemeleri yayınlayacağım.

(DÜZENLE, 14 Haziran 2022 Salı – r/DeepFakesSFW'deki bir moderatör, "Kullanıcının hesabı NSFW olduğunda oluyor gibi görünüyor" şeklinde yanıt verdi. SFW deepfake alt dizinlerinde bu tür taleplerin olasılığını yavaşlatmanın muhtemelen tek yolu, bu sınıflandırmayı 'kazanan' kullanıcıları yasaklamak olacaktır.)

Bu subreddit'teki ve daha büyük r/SFWdeepfakes'teki içeriğin çoğu, popüler veya klasik filmlerdeki aktörleri 'yeniden canlandırmak' için deepfake teknolojisinin kullanılmasıyla veya başka bir şekilde popüler medya ve deepfake teknolojisiyle yapay zeka güdümlü daha zararsız bir eğlenceyle ilgilidir. ve gerçekten de 'SFW' olarak nitelendirilirler.

Bu tür gönderilerin çoğu telif hakkı kaynaklı yasaklara tehlikeli bir şekilde yaklaşsa da, Ctrl-Shift-Face gibi büyük YouTube derin sahtekarları tarafından 'IP'ye uygun' porno olmayan deepfake video gönderilerinin devam eden hayatta kalması, geniş bir stüdyo ve hak sahibi toleransı gösteriyor. en azından şimdilik böyle bir aktivite.

Deepfake Sürecinin ve Ekoyapının 'Masum' Görünüşü

İki hafta önce o ortaya çıktı (ve çok tartışma) Google'ın, popüler Colab bulut işleme ortamlarından deepfake oluşturma yazılımını aniden yasakladığını. Bugüne kadar bile, Colab görünüşe göre yalnızca çalıştırma girişimleriyle 'tetiklendi' Derin Yüz Laboratuvarı (DFL), dünyanın en popüler deepfake yazılımı (ve en AI pornosu ile yakından ilişkili), gibi daha az sıklıkta kullanılan uygulamalardan ziyade Yüz nakliDFL ile tam olarak aynı görevleri yerine getirmesine rağmen, daha iyi tanınan .

Bir dereceye kadar bu yaklaşım, Colab'ın uygulayabileceği tek yol olabilirdi. herhangi gerçek deepfake eğitim süreci, açık kaynak yazılım ve yüksek oranda kırpılmış yüz görüntüleri (genellikle yalnızca 512x512 pikselde, genellikle daha az) dışında hiçbir şey kullanmadığından, görüntü tanıma algoritmalarının herhangi bir gerçek pornografiyi engelleme olasılığı neredeyse sıfır olduğundan, deepfake pornografi üretimi üzerindeki kısıtlama içerik.

Deepfake modeli eğitildiğinde, deepfaker artık Colab'ın muazzam işlem gücüne veya pahalı bir yerel GPU'ya ihtiyaç duymaz. En güncel dönüşümler (yani, pornografik veya başka türlü bir videoya yüz yerleştirme işlemi), yerel olarak, düşük güçlü dizüstü bilgisayar GPU'larında veya hatta bir CPU'da (biraz daha uzun işlem süresiyle) gerçekleştirilebilir. Deepfake sürecinde pornografik herhangi bir şey olduğunda, Colab uzun zaman önce resmin dışında kaldı.

Bu nedenle, deepfake porno içerik oluşturucuları arasında aktarılan kurucu unsurlar, nadiren potansiyel küçük bir telif hakkı ihlalinden fazlasını temsil eder; deepfake içerik oluşturucularının YouTube videoları, Blu-ray'ler, televizyon röportajlarından çıkardıkları 'yüz setlerinin' ortalıkta dolanması şeklinde. , sosyal medya ve diğer çeşitli kaynaklar.

Deepfake Toplulukları için 'Yakılmış Dünya' Politikası mı Geliyor?

Deepfake Discord topluluklarının sakinlerini rahatsız eden soru, örneğin Derin Yüz Laboratuvarı (Dahil DerinYüzCanlı), Yüz nakli, Makine Video Düzenleyici (MVE, GUI tabanlı DFL ortamı, birçok ek özellikle birlikte) ve yeni ses tabanlı derin sahte Discord sunucuları gibi Ses Deepfakes is Mevcut portal ve platform sahipleri, bir NSFW taraftarları ve yaratıcıları dalgasına karşı sürekli ılımlılık masrafına katlanmak yerine, derin sahte toplulukları kısa süre içinde prensip olarak yasaklayacak mı?

FaceSwap'in geliştiricilerinden biri ve projenin ilişkili Discord sunucusunun sahibi Bryan Lyon yorum yaptı.^†:

"Birkaç tasfiyeye rağmen kesinlikle temiz kalarak Discord'da kalmayı başardık. Herhangi bir gizli kanalımız veya yasa dışı içeriğe sahip gizli bir ikinci sunucumuz yok. Birkaç yıl önce popüler DeepFaceLab sunucusu tasfiye edildi. Üzerindeki herkes yasaklandı. Rıza dışı pornografi içeren kanallara erişimi olan yalnızca davetli rolleri vardı.'

Kendisi de dünyanın en büyük teknolojik barındırma kaynaklarından biri olan Google'ın sunucularında ve GPU'larında kapsamlı bir şekilde yasaklanmış derin sahte eğitime sahip olduğu göz önüne alındığında, Microsoft'un sahibi olduğu GitHub'ın buna karar vermesi bile mümkündür. Bu teknolojileri kolaylaştıran* sonunda ahlaki belirsizliğe veya gözetim yatırımına değmeyecek.

Şu anda, deepfake teknolojilerini meşrulaştırma süreci, böylece kullanımları ev yapımı pornodan film ve TV prodüksiyonuna ve hak ihlali yapmayan/suç teşkil eden kullanımlara geçecek şekilde, platformlar ve topluluk barındırma hizmetleri için net politika yönergeleri üretmek için çok yeni.

* 13 Haziran 2022 Pazartesi tarihli https://github.com/search?q=deepfake arşivi.
† Discord'daki özel DM'lerde.

İlk olarak 13 Haziran 2022'de yayınlandı. Görüntü değişikliği için 3:08 UTC düzenlendi.
Reddit moderatörünün bazı posterlerin NSFW durumuyla ilgili yanıtını eklemek için 14 Haziran 2022 Salı 6:24 UTC olarak değiştirildi. Ayrıca RSS beslemeleri çiziminde görüntü değişikliği.