Google, Colab’da Derin Sahtecilik Eğitimini Yasakladı

Son iki haftada, Google, Colab kullanıcıları için hizmet şartlarını sessizce değiştirdi ve Colab hizmetlerinin artık derin sahtecilik eğitimi için kullanılamayacağına ilişkin bir şart ekledi.

Mayıs güncellemesi, Colab’a derin sahtecilik yasağı getiriyor. Kaynak: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

İnternet Arşivi’nden web-arşivi sürümünde derin sahtecilik yasağı bulunan ilk sürüm, geçen salı, 24 Mayıs’ta kaydedildi. Colab SSS’sinde yasağa yer vermeyen son kaydedilen sürüm, 14 Mayıs’ta kaydedildi.

Derin sahtecilik oluşturma dağıtımlarının ikisi, DeepFaceLab (DFL) ve FaceSwap, her ikisi de 2017’de Reddit’e gönderilen tartışmalı ve anonim kodu çatallayan, ancak yalnızca daha çok bilinen DFL’nin doğrudan yasaklama hedefi olduğu görünüyor. DFL Discord’daki derin sahtecilik geliştiricisi ‘chervonij’ göre, Google Colab’da yazılımı çalıştırmak şimdi uyarı üretiyor:

‘Yasaklanmış kod çalıştırıyor olabilirsiniz ve bu, Colab’ı gelecekte kullanma yeteneğinizi kısıtlayabilir. Lütfen FAQ’mizde belirtilen yasaklanmış eylemleri unutmayın.’

Ancak ilginç bir şekilde, kullanıcı hiện tại kodun çalıştırılmasına devam edebiliyor.

DFL derin sahtecilik yapanların Google Colab’da kodu çalıştırmaya çalışırken karşılaştığı yeni uyarı. Kaynak: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Rakip dağıtım FaceSwap’in Discord’undaki bir kullanıcıya göre, bu projenin kodu henüz uyarı üretmiyor, bu da derin sahteciliklerin en baskın yöntemi olan DeepFaceLab’in (ayrıca gerçek zamanlı derin sahtecilik akışı uygulaması DeepFaceLive için besleme mimarisi) kodunun Colab tarafından özel olarak hedef alındığını gösteriyor.

FaceSwap ortak geliştiricisi Matt Tora yorumunda*:

‘Google’ın bunu herhangi bir özel etik nedenlerle yaptığını çokunlikely buluyorum, daha çok Colab’ın öğrenciler/data bilimcileri/araştırmacılara, ücretsiz olarak güçlü GPU’larda hesaplama yoğun GPU kodlarını çalıştırma imkanı sunma amacını taşıdığını düşünüyorum. Ancak, bir miktar kullanıcının bu kaynağı, büyük ölçekli derin sahtecilik modelleri oluşturmak için kullanıyor olabileceğini ve bu modellerin üretimi için önemli miktarda eğitim zamanı gerektiğini düşünüyorum.

‘Colab’ın daha çok eğitim, araştırma tarafına eğildiğini söyleyebiliriz. Kullanıcı girdisi veya anlayış olmadan çalışan betikler, bu amaca aykırı görünüyor. FaceSwap’te AI ve ilgili mekanizmaları kullanıcıya öğretmeye odaklanmaya çalışıyoruz ve bu tür araçların daha geniş bir kitleye sunulmasını teşvik ediyoruz. Etik kullanımını teşvik ediyor ve insanların bugün neler yapabileceğini anlamalarına yardımcı oluyoruz.’

‘Maalesef, araçlarımızın nihayetinde nasıl kullanılacağını kontrol edemeyiz, nerede çalıştırıldıklarını da kontrol edemeyiz. Bir yolun kapatılması, insanların bizim kodumuzu denemek için bir fırsat kaybetmesi üzücü, ancak bu kaynağın korunması ve asıl hedef kitleye sunulması için anlaşılır buluyorum.’

Yeni kısıtlamanın yalnızca Google Colab’ın ücretsiz sürümüne özgü olmadığına dair bir kanıt yok – yasak faaliyetlere eklenen derin sahteciliklerin altındaki notta, ‘Ücretli kullanıcılar için ek kısıtlamalar vardır’ ifadesi yer alıyor, bu da bu düzenlemelerin temel düzenlemeler olduğunu gösteriyor. Derin sahtecilik yasağı konusunda bu, bazılarını şaşırttı, çünkü ‘kripto para madenciliği’ ve ‘eşler arası dosya paylaşımı’ her iki ücretsiz ve pro ‘Kısıtlamalar’ bölümünde yer alıyor.

Bu mantıkla, ücretsiz ‘Kısıtlamalar’ bölümünde yasaklanan her şey, pro sürümde yasaklanmadığı sürece izinlidir, bu da ‘reddedilen hizmet saldırıları’ ve ‘parola kırma’ gibi faaliyetleri içerir. Pro sürümdeki ek kısıtlamalar, principalmente pro Colab erişimini alt kiralamayla ilgili.

Google Colab, uzak makinelerde makine öğrenimi projelerini çalıştırmak için daha güçlü GPU’lara sahip Jupyter defteri ortamlarının bir uygulamasıdır.

Derin sahtecilik eğitimi, VRAM açlığı olan bir faaliyettir ve GPU kıtlığından bu yana, birçok derin sahtecilik yapan son yıllarda yerel eğitimden uzaklaşarak Colab’da uzak eğitim yapmaya yönelmiştir, burada güçlü kartlar gibi Tesla T4 (16GB VRAM, yaklaşık 2.000 ABD Doları), V100 (32GB VRAM, yaklaşık 4.000 ABD Doları) ve A100 (80GB VRAM, 32.097,00 ABD Doları MSRP) gibi kartlar üzerinde model eğitimini gerçekleştirebilmek mümkündür.

Colab’da derin sahtecilik eğitimi yasağı, daha yüksek çözünürlüklü modelleri eğitebilecek derin sahtecilik yapanların havuzunu azaltmaya likely görünüyor, burada girdi ve çıktı görüntüleri daha büyük, yüksek çözünürlüklü sonuçlara daha uygun ve daha fazla yüz ayrıntısı çıkarabilme ve yeniden üretebilme yeteneğine sahiptir.

En çok bağlı derin sahtecilik hobi severleri ve meraklıları, Discord ve forum gönderilerine göre, son iki yılda yerel donanıma önemli yatırımlar yapmışlardır,尽管 GPU’ların yüksek fiyatları.

Ancak, yüksek maliyetler nedeniyle, Colab’da derin sahtecilik eğitimi zorluklarıyla başa çıkmak için alt topluluklar ortaya çıkmıştır, en yaygın şikayet ise Colab’ın yüksek son GPU’ların ücretsiz kullanıcılara kullanımını sınırlamasıdır.

* Özel Discord mesajlarında

İlk olarak 28 Mayıs 2022’de yayımlandı.
07:28 EST’de düzeltme, alıntı yazım hatası düzeltmesi.
12:40 EST’de revize – ücretsiz ve pro katman derin sahtecilik yasaklarına ilişkin açıklama eklendi, ‘ücretsiz’ ve ‘pro’ yasak listelerinden anlaşılabilir.