Google Zákazal Školení Deepfake V Colab

Několik týdnů zpět Google změnil podmínky služby pro své uživatele Colab, přidáním ustanovení, že služby Colab již nelze použít pro školení deepfake.

Aktualizace v květnu přinesla zákaz deepfake do Colab. Source: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

První archivovaná verze z Internet Archive, která obsahuje zákaz deepfake, byla pořízena minulý týden, 24. května. Poslední archivovaná verze Colab FAQ, která zákaz nezmiňuje, pochází z 14. května.

Z dvou populárních distribucí pro tvorbu deepfake, DeepFaceLab (DFL) a FaceSwap, které jsou obě forkem kontroverzního a anonymního kódu zveřejněného na Reddit v roce 2017, byl zřejmě pouze více proslulý DFL cíleně zasažen zákazem. Podle developera deepfake ‘chervonij’ na DFL Discord, spuštění softwaru v Google Colab nyní vyvolá varování:

‘Můžete spouštět kód, který je zakázán, a to může omezit vaši schopnost používat Colab v budoucnu. Poznámka k zákazům uvedeným v našich FAQs.’

Nicméně, zajímavě, uživatel je目前 stále povolen pokračovat ve spuštění kódu.

Nové varování, které přivítalo deepfaky při pokusu o spuštění kódu v Google Colab. Source: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Pokud podle uživatele v Discordu pro rivalizující distribuci FaceSwap, kód tohoto projektu zřejmě nevyvolá varování, což naznačuje, že kód pro DeepFaceLab (také architektura pro reálné streamování deepfake DeepFaceLive), který je dominantní metodou deepfake, byl cíleně zasažen Colab.

Spoluzakladatel FaceSwap Matt Tora komentoval*:

‘Není mi pravděpodobné, že Google dělá toto z nějakých etických důvodů, spíše proto, že Colab je určen pro studenty, datové vědce a výzkumníky, aby mohli spouštět výpočetně náročné kódy na daleko výkonnějších GPU, než mají k dispozici. Nicméně, předpokládám, že jistý počet uživatelů zneužívá tyto zdroje k tvorbě modelů deepfake, které jsou výpočetně náročné a vyžadují značné množství času na trénování.

‘Můžete říci, že Colab se více zaměřuje na vzdělávací a výzkumnou stránku AI. Spouštění skriptů, které vyžadují málo uživatelského vstupu, ani porozumění, jde proti tomuto. V FaceSwap se snažíme vzdělávat uživatele v AI a mechanismech, které jsou zapojeny, a snižovat bariéru vstupu. Velmi podporujeme etické použití softwaru a cítíme, že zpřístupňování těchto nástrojů širšímu publiku pomáhá lidem pochopit, co je dnes možné, místo toho, aby to bylo skryto pro vybranou skupinu.

‘Bohužel, nemůžeme ovlivnit, jak jsou naše nástroje nakonec použity, ani kde jsou spuštěny. Mrzí mě, že jedna z možností pro experimentování s našimi kódy byla uzavřena, nicméně, pokud jde o ochranu tohoto zdroje, aby byl k dispozici skutečnému cílovému publiku, považuji to za pochopitelné.’

Není žádný důkaz, že nové omezení se vztahuje pouze na bezplatnou verzi Google Colab – na konci seznamu zakázaných aktivit, kam byly přidány deepfaky, je poznámka ‘Další omezení existují pro placené uživatele’, což naznačuje, že se jedná o základní předpisy. Pokud jde o zákaz deepfake, to způsobilo určitou zmatenost, protože ‘těžba kryptoměn’ a ‘účast na peer-to-peer sdílení souborů’ jsou zahrnuty v obou bezplatných a placených ‘Omezeních’ sekcích.

Podle logiky, všechno, co je zakázáno v bezplatné sekci ‘Omezení’, je povoleno v Pro verzi, pokud Pro verze to výslovně nezakazuje, včetně ‘spouštění útoků na odepření služby’ a ‘lomití hesel’. Další omezení pro Pro verzi se týkají hlavně toho, aby se nepodnájely přístup k Pro Colab, navzdory matoucím a selektivním duplicitním zákazům.

Google Colab je specializovaná implementace Jupyter notebook prostředí, která umožňuje vzdálené školení projektů strojového učení na daleko výkonnějších GPU, než mají k dispozici mnozí uživatelé.

Protože školení deepfake je náročné na VRAM, a protože od začátku nedostatku GPU, mnoho deepfakers v posledních letech upustilo od domácího školení ve prospěch vzdáleného školení v Colab, kde je možné, v závislosti na štěstí a verzi, školení modelu deepfake na výkonných kartách, jako je Tesla T4 (16GB VRAM,目前 kolem 2 000 USD), V100 (32GB VRAM, kolem 4 000 USD), a mohutný A100 (80GB VRAM, MSRP 32 097,00 USD), mezi jinými.

Zákaz školení v Colab se zdá být pravděpodobný důvodem pro snížení počtu deepfakers, kteří mohou školení vyššího rozlišení modelů, kde jsou vstupní a výstupní obrázky větší, lépe přizpůsobené pro vysoké rozlišení a schopné extrahovat a reprodukovat větší detaily obličeje.

Někteří z nejvíce oddaných deepfake nadšenců a entuziastů, podle příspěvků na Discordu a fórech, investovali大量ně do místního hardwaru v posledních dvou letech, navzdory vysokým cenám GPU.

Nicméně, vzhledem k vysokým nákladům, subkomunity se objevily, aby řešily výzvy spojené se školením deepfake v Colab, s náhodným přidělováním GPU jako nejčastější stížností, od doby, kdy Colab omezil použití vyšších koncových GPU pro bezplatné uživatele.

* V soukromých zprávách na Discord

První zveřejnění 28. května 2022.
Revidováno 7:28 hodin EST, oprava chyby v citátu.
Revidováno 12:40 hodin EST – přidána objasnění týkající se zákazu deepfake pro bezplatnou a placenou verzi, jak je nejlépe možné pochopit z ‘bezplatných’ a ‘placených’ seznamů zákazů.