Google zakázal trénování deepfake modelů v Colabu

Několik týdnů zpět Google změnil podmínky služby pro své uživatele Colab, přidáním ustanovení, že služby Colab již nelze použít pro školení deepfake.

Aktualizace v květnu přinesla zákaz deepfake do Colab. Source: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

První archivovaná verze z Internet Archive, která obsahuje zákaz deepfake, byla pořízena minulé úterý, 24. května. Poslední archivovaná verze Colab FAQ, která zákaz nezmiňuje, pochází ze 14. května.

Z dvou populárních distribucí pro tvorbu deepfake, DeepFaceLab (DFL) a FaceSwap, které jsou obě forkem kontroverzního a anonymního kódu zveřejněného na Reddit v roce 2017, byl zřejmě pouze více proslulý DFL cíleně zasažen zákazem. Podle developera deepfake ‘chervonij’ na DFL Discord, spuštění softwaru v Google Colab nyní vyvolá varování:

‘Možná spouštíte zakázaný kód, a to může omezit vaši schopnost používat Colab v budoucnu. Poznámka k zákazům uvedeným v našich FAQs.’

Nicméně, zajímavě, uživateli je zatím stále dovoleno pokračovat ve spuštění kódu.

Nové varování, které přivítalo deepfaky při pokusu o spuštění kódu v Google Colab. Source: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Pokud podle uživatele v Discordu pro rivalizující distribuci FaceSwap, kód tohoto projektu zřejmě nevyvolá varování, což naznačuje, že kód pro DeepFaceLab (také architektura pro reálné streamování deepfake DeepFaceLive), který je dominantní metodou deepfake, byl cíleně zasažen Colab.

Jeden z vedoucích vývojářů FaceSwap Matt Tora komentoval*:

‘Není mi pravděpodobné, že Google dělá toto z nějakých etických důvodů, spíše proto, že Colab je určen pro studenty, datové vědce a výzkumníky, aby mohli snadno, přístupně a zdarma spouštět výpočetně náročný GPU kód. Nicméně, předpokládám, že jistý počet uživatelů zneužívá tyto zdroje k tvorbě modelů deepfake, které jsou výpočetně náročné a vyžadují značné množství času na trénování.

‘Můžete říci, že Colab se více zaměřuje na vzdělávací a výzkumnou stránku AI. Spouštění skriptů, které vyžadují málo uživatelského vstupu, ani porozumění, jde proti tomuto. V FaceSwap se snažíme vzdělávat uživatele v AI a mechanismech, které jsou zapojeny, a snižovat bariéru vstupu. Velmi podporujeme etické použití softwaru a cítíme, že zpřístupňování těchto nástrojů širšímu publiku pomáhá lidem pochopit, co je dnes možné, místo toho, aby to bylo skryto pro vybranou skupinu.

‘Bohužel, nemůžeme ovlivnit, jak jsou naše nástroje nakonec použity, ani kde jsou spuštěny. Mrzí mě, že jedna z možností pro experimentování s našimi kódy byla uzavřena, nicméně, pokud jde o ochranu tohoto zdroje, aby byl k dispozici skutečnému cílovému publiku, považuji to za pochopitelné.’

Není žádný důkaz, že nové omezení se vztahuje pouze na bezplatnou verzi Google Colab – na konci seznamu zakázaných aktivit, kam byly přidány deepfaky, je poznámka ‘Další omezení existují pro placené uživatele’, což naznačuje, že se jedná o základní předpisy. Pokud jde o zákaz deepfake, to způsobilo určitou zmatenost, protože ‘těžba kryptoměn’ a ‘účast na peer-to-peer sdílení souborů’ jsou zahrnuty v obou bezplatných a placených ‘Omezeních’ sekcích.

Podle logiky, všechno, co je zakázáno v bezplatné sekci ‘Omezení’, by podle této interpretace bylo povoleno ve verzi Pro, pokud Pro verze to výslovně nezakazuje, včetně ‘spouštění útoků na odepření služby’ a ‘prolamování hesel’. Další omezení pro Pro verzi se týkají hlavně toho, aby se nepodnájely přístup k Pro Colab, navzdory matoucím a selektivním duplicitním zákazům.

Google Colab je specializovaná implementace Jupyter notebook prostředí, která umožňuje vzdálené školení projektů strojového učení na daleko výkonnějších GPU, než mají k dispozici mnozí uživatelé.

Protože školení deepfake je náročné na VRAM, a protože od začátku nedostatku GPU, mnoho deepfakers v posledních letech upustilo od domácího školení ve prospěch vzdáleného školení v Colab, kde je možné, v závislosti na štěstí a verzi, školení modelu deepfake na výkonných kartách, jako je Tesla T4 (TSLA ) (16GB VRAM,tehdy kolem 2 000 USD), V100 (32GB VRAM, kolem 4 000 USD), a mohutný A100 (80GB VRAM, MSRP 32 097,00 USD), mezi jinými.

Zákaz školení v Colab se zdá být pravděpodobný důvodem pro snížení počtu deepfakers, kteří mohou trénovat modely s vyšším rozlišením, kde jsou vstupní a výstupní obrázky větší, lépe přizpůsobené pro vysoké rozlišení a schopné extrahovat a reprodukovat větší detaily obličeje.

Někteří z nejvíce oddaných deepfake nadšenců a entuziastů, podle příspěvků na Discordu a fórech, investovali značné prostředky do místního hardwaru v posledních dvou letech, navzdory vysokým cenám GPU.

Nicméně, vzhledem k vysokým nákladům, subkomunity se objevily, aby řešily výzvy spojené se školením deepfake v Colab, s náhodným přidělováním GPU jako nejčastější stížností, od doby, kdy Colab omezil použití vyšších koncových GPU pro bezplatné uživatele.

* V soukromých zprávách na Discord

První zveřejnění 28. května 2022.
Revidováno 7:28 hodin EST, oprava chyby v citátu.
Revidováno 12:40 hodin EST – přidána objasnění týkající se zákazu deepfake pro bezplatnou a placenou verzi, jak je nejlépe možné pochopit z ‘bezplatných’ a ‘placených’ seznamů zákazů.