Google, Colab'da Deepfakes Eğitimini Yasakladı

Son iki hafta içinde Google, Colab kullanıcılarının hizmet şartlarını sessizce değiştirerek Colab hizmetlerinin artık derin sahtekarlıkları eğitmek için kullanılamayacağına dair bir şart ekledi.

Mayıs güncellemesi, Colab'a derin bir sahte yasak getiriyor. Kaynak: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

İnternet Arşivinden alınan ve derin sahte yasağı içeren ilk web arşivli versiyonu şuydu: Yakalanan geçen Salı, 24 Mayıs. Colab SSS'nin yakalanan son sürümü değil yasağın açık olduğundan bahset 14th Mayıs.

İki popüler deepfake oluşturma dağıtımından, Derin Yüz Laboratuvarı (DFL) ve Yüz nakli, her ikisi de Reddit'te yayınlanan tartışmalı ve anonim kodun çatallarıdır. 2017 yılında, sadece daha fazlası adı çıkmış DFL'nin doğrudan yasaktan etkilendiği anlaşılıyor. DFL Discord'daki deepfake geliştiricisi 'chervonij'e göre, yazılımı şu anda Google Colab'da çalıştırıyor. bir uyarı üretir:

'İzin verilmeyen bir kod çalıştırıyor olabilirsiniz ve bu, gelecekte Colab'ı kullanma yeteneğinizi kısıtlayabilir. Lütfen SSS bölümümüzde belirtilen yasaklı eylemlere dikkat edin.'

Bununla birlikte, ilginç bir şekilde, kullanıcının şu anda kodu yürütmeye devam etmesine izin verilmektedir.

Kodu Google Colab'da çalıştırmaya çalışan DFL deepfakerlarını karşılayan yeni uyarı. Kaynak: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Rakip dağıtım FaceSwap için Discord'daki bir kullanıcıya göre, bu projenin kodu henüz uyarıyı tetiklemiyor gibi görünüyor; bu da DeepFaceLab kodunun (aynı zamanda gerçek zamanlı deepfake akışı uygulaması için besleme mimarisi) DerinYüzCanlı), açık ara en baskın deepfake yöntemi, Colab tarafından özel olarak hedef alındı.

FaceSwap ortak baş geliştiricisi Matt Tora yorum yaptı*:

"Google'ın bunu belirli bir etik nedenden ötürü yaptığını pek sanmıyorum; Colab'ın varoluş amacı, öğrencilerin/veri bilimcilerinin/araştırmacıların hesaplama açısından maliyetli GPU kodlarını kolay ve erişilebilir bir şekilde, ücretsiz olarak çalıştırabilmelerini sağlamaktır. Ancak, azımsanmayacak sayıda kullanıcının bu kaynağı, hem hesaplama açısından maliyetli hem de sonuç üretmek için azımsanmayacak miktarda eğitim süresi gerektiren, büyük ölçekte deepfake modelleri oluşturmak için kullandığından şüpheleniyorum."

'Colab'ın yapay zekanın eğitimsel ve araştırma odaklı tarafına daha fazla eğildiğini söyleyebiliriz. Kullanıcının çok az girdisini veya anlayışını gerektiren komut dosyalarını çalıştırmak genellikle buna aykırıdır. Faceswap'ta, kullanıcıyı yapay zeka ve ilgili mekanizmalar konusunda eğitmeye odaklanırken, aynı zamanda giriş engellerini de düşürmeye çalışıyoruz. Yazılımın etik kullanımını şiddetle teşvik ediyor ve bu tür araçları daha geniş bir kitleye sunmanın, günümüz dünyasında neyin başarılabilir olduğu konusunda insanları eğitmeye yardımcı olduğuna inanıyoruz; bunu belirli bir azınlık için gizli tutmak yerine.

'Maalesef araçlarımızın nihai olarak nasıl kullanılacağını veya nerede çalıştırılacağını kontrol edemiyoruz. İnsanların kodlarımızla denemeler yapması için bir yolun kapanmış olması beni üzüyor, ancak bu özel kaynağın gerçek hedef kitleye erişilebilirliğini sağlamak açısından bunu anlaşılır buluyorum.'

Yeni kısıtlamanın yalnızca Google Colab'ın ücretsiz katmanıyla sınırlı olduğuna dair hiçbir kanıt yok - artık deepfake'lerin eklendiği yasaklanmış etkinlikler listesinin en altında, not var 'Ücretli kullanıcılar için ek kısıtlamalar mevcut', bunların temel düzenlemeler olduğunu belirtir. Deepfake yasağı ile ilgili olarak, bu bazılarının kafasını karıştırdı, çünkü 'kripto para madenciliği' ve 'eşler arası dosya paylaşımına katılmak' hem ücretsiz hem de pro 'Kısıtlamalar' bölümünde yer almaktadır.

Bu mantıkla, ücretsiz 'Kısıtlamalar' bölümünde yasaklanan her şeye, Pro sürümünde açıkça yasaklanmadığı sürece, Pro sürümünde de izin verilir. hizmet reddi saldırıları yürütüyor' ve 'şifre kırma'Pro katmanı için ek kısıtlamalar, kafa karıştırıcı ve seçici çoğaltma yasaklarına rağmen, esas olarak Pro Colab erişiminin 'alt kiraya verilmemesi' ile ilgilidir.

Google Colab, aşağıdakilerin özel bir uygulamasıdır: Jupyter dizüstü bilgisayar Birçok kullanıcının karşılayabileceğinden çok daha güçlü GPU'lar üzerinde makine öğrenimi projelerinin uzaktan eğitimine olanak tanıyan ortamlar.

Deepfake eğitimi VRAM'e aç bir uğraş olduğundan ve GPU kıtlığının ortaya çıkmasından bu yana, son yıllarda birçok deepfake uygulayıcısı, şansa ve kademeye bağlı olarak güçlü kartlar gibi bir deepfake modelini eğitmenin mümkün olduğu Colab'da uzaktan eğitim lehine ev eğitimini reddetti. Tesla T4 (16GB VRAM, şu anda yaklaşık 2 USD), V100 (32GB VRAM, yaklaşık 4 USD) ve güçlü A100 (80GB VRAM, MSRP 32,097.00 $), diğerleri arasında.

Colab eğitiminin yasaklanması, giriş ve çıkış görüntülerinin daha büyük olduğu, yüksek çözünürlüklü sonuçlara daha uygun olduğu ve daha fazla yüz ayrıntısını çıkarabilen ve yeniden üretebilen daha yüksek çözünürlüklü modelleri eğitebilen deepfaker havuzunu azaltacak gibi görünüyor.

Discord ve forum gönderilerine göre en kararlı deepfake meraklıları ve meraklılarından bazıları, GPU'ların yüksek fiyatlarına rağmen son birkaç yılda yerel donanıma büyük yatırımlar yaptı.

Bununla birlikte, söz konusu yüksek maliyetler göz önüne alındığında, Colab'ın üst düzey GPU'ların kullanımını ücretsiz kullanıcılarla sınırlandırmasından bu yana en yaygın şikayetin rastgele GPU tahsisi olması nedeniyle, Colab'larda derin sahte eğitim vermenin zorluklarıyla başa çıkmak için alt topluluklar ortaya çıktı.

* Discord'daki özel mesajlarda

İlk olarak 28 Mayıs 2022'de yayınlandı.
Revize 7:28 EST, fiyat teklifi yazım hatasının düzeltilmesi.
12:40pm EST'de revize edildi - 'ücretsiz' ve 'pro' yasak listelerinden anlaşılabileceği üzere, ücretsiz ve profesyonel düzeyde deepfake yasaklarına ilişkin açıklamalar eklendi.