Google, Colab'da Deepfakes Eğitimini Yasakladı

Son iki hafta içinde Google, Colab kullanıcılarının hizmet şartlarını sessizce değiştirerek Colab hizmetlerinin artık derin sahtekarlıkları eğitmek için kullanılamayacağına dair bir şart ekledi.

Mayıs güncellemesi, Colab'a derin bir sahte yasak getiriyor. Kaynak: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

İnternet Arşivinden alınan ve derin sahte yasağı içeren ilk web arşivli versiyonu şuydu: Yakalanan geçen Salı, 24 Mayıs. Colab SSS'nin yakalanan son sürümü değil yasağın açık olduğundan bahset 14th Mayıs.

İki popüler deepfake oluşturma dağıtımından, Derin Yüz Laboratuvarı (DFL) ve Yüz nakli, her ikisi de Reddit'te yayınlanan tartışmalı ve anonim kodun çatallarıdır. 2017 yılında, sadece daha fazlası adı çıkmış DFL doğrudan yasağın hedefi olmuş gibi görünüyor. DFL Discord'daki deepfake geliştiricisi 'chervonij'e göre, yazılımı şimdi Google Colab'da çalıştırıyor bir uyarı üretir:

İzin verilmeyen bir kod yürütüyor olabilirsiniz ve bu, gelecekte Colab'ı kullanma becerinizi kısıtlayabilir. Lütfen SSS bölümümüzde belirtilen yasaklanmış eylemlere dikkat edin.'

Bununla birlikte, ilginç bir şekilde, kullanıcının şu anda kodu yürütmeye devam etmesine izin verilmektedir.

Kodu Google Colab'da çalıştırmaya çalışan DFL deepfakerlarını karşılayan yeni uyarı. Kaynak: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Rakip dağıtım FaceSwap için Discord'daki bir kullanıcıya göre, bu projenin kodu görünüşe göre henüz uyarıyı tetiklemiyor, bu da kodun DeepFaceLab için olduğunu gösteriyor (aynı zamanda gerçek zamanlı derin sahte akış uygulaması için besleme mimarisi) DerinYüzCanlı), açık ara en baskın deepfake yöntemi, Colab tarafından özel olarak hedef alındı.

FaceSwap ortak baş geliştiricisi Matt Tora yorum yaptı*:

"Google'ın bunu belirli bir etik nedenden ötürü yapmasının pek olası olmadığını düşünüyorum, dahası Colab'ın var olma nedeni öğrencilerin/veri bilimcilerin/araştırmacıların hesaplama açısından pahalı GPU kodunu kolay ve erişilebilir bir şekilde çalıştırabilmesidir. şarj. Bununla birlikte, önemli miktarda kullanıcının bu kaynağı, hem hesaplama açısından pahalı hem de sonuç üretmek için önemsiz olmayan bir eğitim süresi gerektiren derin ölçekli derin modeller oluşturmak için kullandığından şüpheleniyorum.

"Colab'ın yapay zekanın eğitim ve araştırma yönüne daha fazla eğildiğini söyleyebilirsiniz. Çok az kullanıcı girdisi veya anlayış gerektiren betikleri çalıştırmak buna karşı gelme eğilimindedir. Faceswap'te, giriş engelini düşürürken, kullanıcıyı yapay zeka ve ilgili mekanizmalar konusunda eğitmeye odaklanmaya çalışıyoruz. Yazılımın etik kullanımını fazlasıyla teşvik ediyoruz ve bu tür araçları daha geniş bir kitlenin kullanımına sunmanın, insanları seçkin birkaç kişi için saklamak yerine günümüz dünyasında neyin başarılabileceği konusunda eğitmeye yardımcı olacağını düşünüyoruz.

"Maalesef araçlarımızın nihai olarak nasıl kullanılacağını veya nerede çalıştırılacağını kontrol edemiyoruz. İnsanların kodumuzu denemeleri için bir yolun kapatılmış olması beni üzüyor, ancak bu özel kaynağın gerçek hedef kitle tarafından kullanılabilirliğini sağlamak için korunması açısından bunu anlaşılır buluyorum.'

Yeni kısıtlamanın yalnızca Google Colab'ın ücretsiz katmanıyla sınırlı olduğuna dair hiçbir kanıt yok - artık deepfake'lerin eklendiği yasaklanmış etkinlikler listesinin en altında, not var 'Ücretli kullanıcılar için ek kısıtlamalar var', bunların temel düzenlemeler olduğunu belirtir. Deepfake yasağı ile ilgili olarak, bu bazılarının kafasını karıştırdı, çünkü 'kripto para madenciliği' ve 'eşler arası dosya paylaşımına katılma' hem ücretsiz hem de profesyonel 'Kısıtlamalar' bölümüne dahildir.

Bu mantıkla, ücretsiz 'Kısıtlamalar' bölümünde yasaklanan her şeye, Pro sürümü açıkça yasaklamadığı sürece, Pro sürümünde izin verilir. hizmet reddi saldırıları yürütüyor' ve 'şifre kırma'. Profesyonel katmanı için ek kısıtlamalar, kafa karıştırıcı ve seçici mükerrer yasaklara rağmen, esas olarak pro Colab erişimini 'devretmeme' ile ilgilidir.

Google Colab, aşağıdakilerin özel bir uygulamasıdır: Jupyter dizüstü bilgisayar Birçok kullanıcının karşılayabileceğinden çok daha güçlü GPU'lar üzerinde makine öğrenimi projelerinin uzaktan eğitimine olanak tanıyan ortamlar.

Deepfake eğitimi, VRAM'e aç bir arayış olduğundan ve GPU kıtlığının ortaya çıkışından bu yana, son yıllarda birçok deepfake kullanıcısı evde eğitimden kaçınarak, şansa ve seviyeye bağlı olarak bir deepfake eğitmenin mümkün olduğu Colab'da uzaktan eğitim lehine oldu. gibi güçlü kartlarda model Tesla T4 (16GB VRAM, şu anda yaklaşık 2 USD), V100 (32GB VRAM, yaklaşık 4 USD) ve güçlü A100 (80GB VRAM, MSRP 32,097.00 $), diğerleri arasında.

Colab eğitiminin yasaklanması, giriş ve çıkış görüntülerinin daha büyük olduğu, yüksek çözünürlüklü sonuçlara daha uygun olduğu ve daha fazla yüz ayrıntısını çıkarabilen ve yeniden üretebilen daha yüksek çözünürlüklü modelleri eğitebilen deepfaker havuzunu azaltacak gibi görünüyor.

Discord ve forum gönderilerine göre en kararlı deepfake meraklıları ve meraklılarından bazıları, GPU'ların yüksek fiyatlarına rağmen son birkaç yılda yerel donanıma büyük yatırımlar yaptı.

Bununla birlikte, söz konusu yüksek maliyetler göz önüne alındığında, Colab'ın üst düzey GPU'ların kullanımını ücretsiz kullanıcılarla sınırlandırmasından bu yana en yaygın şikayetin rastgele GPU tahsisi olması nedeniyle, Colab'larda derin sahte eğitim vermenin zorluklarıyla başa çıkmak için alt topluluklar ortaya çıktı.

* Discord'daki özel mesajlarda

İlk olarak 28 Mayıs 2022'de yayınlandı.
Revize 7:28 EST, fiyat teklifi yazım hatasının düzeltilmesi.
Revize 12:40pm EST - 'ücretsiz' ve 'profesyonel' yasaklama listelerinden en iyi şekilde anlaşılabileceği gibi, ücretsiz ve profesyonel katmanlı deepfake yasaklarına ilişkin açıklama eklendi.