Google, Colab’da Derin Sahtecilik Eğitimini Yasakladı

Son iki haftada, Google, Colab kullanıcıları için hizmet şartlarını sessizce değiştirdi ve Colab hizmetlerinin artık derin sahtecilik eğitimi için kullanılamayacağına ilişkin bir şart ekledi.

Mayıs güncellemesi, Colab’a derin sahtecilik yasağı getiriyor. Kaynak: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

İnternet Arşivi’nden web-arşivi sürümünde derin sahtecilik yasağı bulunan ilk sürüm, geçen salı, 24 Mayıs tarihinde kaydedildi. Colab SSS’sinde yasağa yer vermeyen son kaydedilen sürüm, 14 Mayıs tarihinde kaydedildi.

Derin sahtecilik oluşturma dağıtımlarının ikisi, DeepFaceLab (DFL) ve FaceSwap, her ikisi de 2017’de Reddit’e gönderilen tartışmalı ve anonim kodu çatallayan, ancak yalnızca daha kötü şöhretli DFL’nin doğrudan yasaklama hedefi olduğu görünüyor. DFL Discord’daki derin sahtecilik geliştiricisi ‘chervonij’ göre, Google Colab’da yazılımı çalıştırmak şimdi uyarı üretiyor:

‘Yasaklanmış kod çalıştırıyor olabilirsiniz ve bu, Colab’ı gelecekte kullanma yeteneğinizi kısıtlayabilir. Lütfen FAQ’mizde belirtilen yasaklanmış eylemleri unutmayın.’

Ancak ilginç bir şekilde, kullanıcı halen kodun çalıştırılmasına devam edebiliyor.

DFL derin sahtecilik yapanların Google Colab’da kodu çalıştırmaya çalışırken karşılaştığı yeni uyarı. Kaynak: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Rakip dağıtım FaceSwap’in Discord’undaki bir kullanıcıya göre, bu projenin kodu henüz uyarı üretmiyor, bu da derin sahteciliklerin en baskın yöntemi olan DeepFaceLab’in (ayrıca gerçek zamanlı derin sahtecilik akışı uygulaması DeepFaceLive için temel mimarisi) kodunun Colab tarafından özel olarak hedef alındığını gösteriyor.

FaceSwap’in baş geliştiricilerinden biri olan Matt Tora yorumunda*:

‘Google’ın bunu herhangi bir özel etik nedenlerle yaptığını pek olası bulmuyorum, daha çok Colab’ın öğrencilere/veri bilimcilerine/araştırmacılara, ücretsiz olarak kolay ve erişilebilir biçimde hesaplama açısından maliyetli GPU kodlarını çalıştırma olanağı sunma amacını taşıdığını düşünüyorum. Ancak, bir miktar kullanıcının bu kaynağı, büyük ölçekli derin sahtecilik modelleri oluşturmak için kullanıyor olabileceğini ve bu modellerin üretimi için önemli miktarda eğitim zamanı gerektiğini düşünüyorum.

‘Colab’ın daha çok eğitim, araştırma tarafına eğildiğini söyleyebiliriz. Kullanıcı girdisi veya anlayış olmadan çalışan betikler, bu amaca aykırı görünüyor. FaceSwap’te AI ve ilgili mekanizmaları kullanıcıya öğretmeye odaklanmaya çalışıyoruz ve giriş engelini düşürüyoruz. Yazılımın etik kullanımını güçlü biçimde teşvik ediyoruz. Araçları seçilmiş bir azınlıktan gizlemek yerine daha geniş bir kitleye açmanın, insanların bugün nelerin mümkün olduğunu öğrenmesine yardımcı olduğunu düşünüyoruz.’

‘Maalesef, araçlarımızın nihayetinde nasıl kullanılacağını kontrol edemeyiz, nerede çalıştırıldıklarını da kontrol edemeyiz. Bir yolun kapatılması, insanların bizim kodumuzu denemek için bir fırsat kaybetmesi üzücü, ancak bu kaynağın korunması ve asıl hedef kitleye sunulması için anlaşılır buluyorum.’

Yeni kısıtlamanın yalnızca Google Colab’ın ücretsiz katmanıyla sınırlı olduğuna dair bir kanıt yok – yasak faaliyetlere eklenen derin sahteciliklerin altındaki notta, ‘Ücretli kullanıcılar için ek kısıtlamalar vardır’ ifadesi yer alıyor, bu da bu düzenlemelerin temel düzenlemeler olduğunu gösteriyor. Derin sahtecilik yasağı konusunda bu, bazılarını şaşırttı, çünkü ‘kripto para madenciliği’ ve ‘eşler arası dosya paylaşımı’ her iki ücretsiz ve pro ‘Kısıtlamalar’ bölümünde yer alıyor.

Bu mantıkla, ücretsiz ‘Kısıtlamalar’ bölümünde yasaklanan her şey, pro sürümde yasaklanmadığı sürece izinli sayılacaktır, bu da ‘hizmet engelleme saldırıları’ ve ‘parola kırma’ gibi faaliyetleri içerir. Pro sürümdeki ek kısıtlamalar, esas olarak Colab Pro erişiminin alt kiraya verilmemesiyle ilgilidir; ancak yasakların yinelenmesi kafa karıştırıcı ve seçicidir.

Google Colab, uzak makinelerde makine öğrenimi projelerini çalıştırmak için daha güçlü GPU’lara sahip Jupyter not defteri ortamlarının bir uygulamasıdır.

Derin sahtecilik eğitimi, VRAM açlığı olan bir faaliyettir ve GPU kıtlığından bu yana, birçok derin sahtecilik yapan son yıllarda yerel eğitimden uzaklaşarak Colab’da uzak eğitim yapmaya yönelmiştir, burada güçlü kartlar gibi Tesla T4 (TSLA ) (16GB VRAM, yaklaşık 2.000 ABD Doları), V100 (32GB VRAM, yaklaşık 4.000 ABD Doları) ve A100 (80GB VRAM, 32.097,00 ABD Doları MSRP) gibi kartlar üzerinde model eğitimini gerçekleştirebilmek mümkündür.

Colab’da derin sahtecilik eğitimi yasağı, daha yüksek çözünürlüklü modelleri eğitebilecek derin sahtecilik yapanların havuzunu azaltması olası görünüyor, burada girdi ve çıktı görüntüleri daha büyük, yüksek çözünürlüklü sonuçlara daha uygun ve daha fazla yüz ayrıntısı çıkarabilme ve yeniden üretebilme yeteneğine sahiptir.

En çok bağlı derin sahtecilik hobi severleri ve meraklıları, Discord ve forum gönderilerine göre, son iki yılda yerel donanıma önemli yatırımlar yapmışlardır,GPU fiyatlarının yüksek olmasına rağmen.

Ancak, yüksek maliyetler nedeniyle, Colab’da derin sahtecilik eğitimi zorluklarıyla başa çıkmak için alt topluluklar ortaya çıkmıştır, en yaygın şikayet ise Colab’ın ücretsiz kullanıcıların daha üst düzey GPU’lara erişimini kısıtlamasıdır.

* Özel Discord mesajlarında

İlk olarak 28 Mayıs 2022’de yayımlandı.
07:28 EST’de düzeltme, alıntı yazım hatası düzeltmesi.
12:40 EST’de revize – ücretsiz ve pro katman derin sahtecilik yasaklarına ilişkin açıklama eklendi, ‘ücretsiz’ ve ‘pro’ yasak listelerinden anlaşılabilir.