Google, Colab’da Derin Sahte Oluşturma Eğitimini Yasakladı

Son iki haftada, Google, Colab kullanıcıları için hizmet şartlarını sessizce değiştirdi ve Colab hizmetlerinin artık derin sahteler oluşturmak için kullanılamayacağına ilişkin bir şart ekledi.

Mayıs güncellemesi, Colab’a derin sahte yasağı getiriyor. Kaynak: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

İnternet Arşivi’nden web arşivi olarak ilk kez derin sahte yasağının yer aldığı sürüm, geçen Salı, 24 Mayıs’ta yakalandı. Colab SSS’sinin derin sahte yasağından bahsetmeyen son sürümü, 14 Mayıs’ta yakalandı.

Popüler iki derin sahte oluşturma dağıtımı, DeepFaceLab (DFL) ve FaceSwap, her ikisi de 2017’de Reddit’e anonim olarak yayınlanan tartışmalı kodun çatallarıdır. Ancak sadece daha ünlü DFL, yasağın doğrudan hedefi olduğu görünüyor. DFL Discord’da derin sahte geliştiricisi ‘chervonij’ göre, Google Colab’da yazılımı çalıştırmak artık bir uyarı üretir:

‘Muhtemelen yasaklanmış kod çalıştırdığınız için, bu da gelecekte Colab’ı kullanma yeteneğinizi kısıtlayabilir. Lütfen FAQ’mizde belirtilen yasaklanmış eylemlere dikkat edin.’

Ancak ilginç bir şekilde, kullanıcı, kodun yürütülmesine devam etmeye şu anda izin veriliyor.

DFL derin sahte oluşturucuların Google Colab’da kodu çalıştırmaya çalışırken karşılaştıkları yeni uyarı. Kaynak: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

FaceSwap’in Discord’unda bir kullanıcıya göre, bu projenin kodu henüz uyarıya neden olmuyor, bu da DeepFaceLab’in (ayrıca gerçek zamanlı derin sahte akış uygulaması DeepFaceLive için besleme mimarisi) kodunun, en baskın derin sahte yöntemi olarak, Colab tarafından özel olarak hedef alındığını gösteriyor.

FaceSwap’in ortak lider geliştiricisi Matt Tora yorumladı*:

‘Google’ın bunu herhangi bir özel etik neden için yaptığını çokunlikely görüyorum, daha çok Colab’ın varoluş nedeni, öğrencilerin, veri bilimcilerinin ve araştırmacıların hesaplama açısından yoğun GPU kodunu kolay ve erişilebilir bir şekilde çalıştırabilmesi için. Ancak, şüpheliyim ki önemli miktarda kullanıcı, bu kaynağı, derin sahte modeller oluşturmak için, hem hesaplama açısından yoğun hem de önemli miktarda eğitim zamanı gerektiren bir şekilde, kullanıyor.’

‘Colab’ın daha çok eğitim, araştırma tarafına eğildiğini söyleyebiliriz. Az kullanıcı girdisi veya anlama gerektiren komut dosyaları çalıştırmak, buna karşıt bir şekilde görünüyor. FaceSwap’te, kullanıcıyı AI ve ilgili mekanizmalar hakkında eğitmeye odaklanıyoruz, aynı zamanda bu tür araçların kullanımını daha geniş bir kitleye açmaya çalışıyoruz. Etik kullanımını teşvik ediyoruz ve insanların bugün neler başarmaya muktedir olduğunu anlamalarına yardımcı olmak için bu tür araçları sunmanın, onları seçilen birkaç kişi için gizli tutmaktan daha iyi olduğunu düşünüyoruz.’

‘Maalesef, araçlarımızın nasıl kullanılacağını veya nerede çalıştırıldığını kontrol edemeyiz. Bir yolun kapatıldığını görmek, insanların bizim kodumuzla deneysel çalışmasını engellemektedir, ancak bu kaynağın korunması ve asıl hedef kitleye ulaşmasını sağlamak için, bunu anlayışla karşılıyorum.’

Yeni kısıtlamanın sadece Google Colab’ın ücretsiz katmanına özgü olmadığına dair bir kanıt yok – yasak faaliyetlere eklenen derin sahtelerin bulunduğu listede, ‘Ücretli kullanıcılar için ek kısıtlamalar vardır’ notası yer alıyor, bu da bu düzenlemelerin temel düzenlemeler olduğunu gösteriyor. Derin sahte yasağıyla ilgili olarak, bu bazılarını şaşırttı, çünkü ‘kripto para madenciliği’ ve ‘eşler arası dosya paylaşımı’ her iki ücretsiz ve pro ‘Kısıtlamalar’ bölümünde yer alıyor.

Bu mantıkla, ücretsiz ‘Kısıtlamalar’ bölümünde yasaklanan her şey, pro sürümde, pro sürümün bunu açıkça yasaklamadığı sürece, izin verilir, bu da ‘inkar edilemez hizmet saldırıları’ ve ‘parola kırma’ dahil olmak üzere. Pro katmanındaki ek kısıtlamalar, principalmente pro Colab erişimini ‘alt kiralamak’ ile ilgili.

Google Colab, uzaktan makine öğrenimi projelerini çalıştırmak için daha güçlü GPU’lara sahip Jupyter defteri ortamlarının özel bir uygulamasıdır.

Derin sahte eğitimi, bir VRAM açlığı olan bir faaliyettir ve GPU kıtlığının ortaya çıkmasından bu yana, birçok derin sahte oluşturucu, evde eğitim yerine, güçlü kartlar gibi Tesla T4 (16GB VRAM, şu anda yaklaşık 2.000 ABD Doları), V100 (32GB VRAM, yaklaşık 4.000 ABD Doları) ve A100 (80GB VRAM, MSRP 32.097,00 ABD Doları) gibi kartları çalıştırmak için Colab’da uzaktan eğitim tercih ediyorlar.

Colab’da eğitim yasağı, daha yüksek çözünürlüklü modelleri eğitebilen derin sahte oluşturucuların sayısını azaltmaya muhtemel görünüyor, bu modellerde girdi ve çıktı görüntüleri daha büyük, daha yüksek çözünürlüklü sonuçlar için daha uygun ve daha fazla yüz ayrıntısı çıkarmaya ve yeniden üretmeye uygun.

Derin sahte hobisi ve meraklılarının bir kısmı, son iki yıl içinde, yüksek GPU fiyatlarına rağmen, yerel donanımlarına önemli yatırımlar yaptılar.

Ancak, yüksek maliyetler nedeniyle, Colab’da derin sahteleri eğitmekle ilgili zorluklarla başa çıkmak için alt topluluklar ortaya çıktı, en yaygın şikayet, Colab’ın daha yüksek düzeyde GPU kullanımını ücretsiz kullanıcılarla sınırlamasıydı.

* Discord’da özel mesajlarda

İlk olarak 28 Mayıs 2022’de yayınlandı.
07:28 EST’de revize edildi, alıntı yazım hatasının düzeltilmesi.
12:40 öğleden sonra EST – ücretsiz ve pro katman derin sahte yasaklarına ilişkin açıklamalar eklendi, ‘ücretsiz’ ve ‘pro’ yasak listelerinden anlaşıldığı kadarıyla.