Google har förbjudit utbildning av deepfakes i Colab

Någon gång under de senaste två veckorna har Google tyst förändrat villkoren för sina Colab-användare och lagt till en bestämmelse som säger att Colab-tjänster inte längre får användas för att träna deepfakes.

Uppdateringen i maj för med ett förbud mot deepfake-utbildning i Colab. Källa: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Den första webbarkiverade versionen från Internet Archive som innehåller förbudet mot deepfakes är sparad från förra tisdagen, den 24 maj. Den senaste sparade versionen av Colab-FAQ som inte nämner förbudet är från den 14 maj.

Av de två populära deepfake-skapande distributionerna, DeepFaceLab (DFL) och FaceSwap, som båda är forkar av den kontroversiella och anonyma koden som publicerades på Reddit 2017, verkar det som att endast den mer ökningsbara DFL har riktats direkt av förbudet. Enligt deepfake-utvecklaren “chervonij” på DFL Discord, producerar körningen av programvaran i Google Colab nu en varning:

‘Du kan vara i färd med att köra kod som inte är tillåten, och detta kan begränsa din förmåga att använda Colab i framtiden. Observera de förbjudna åtgärderna som anges i vår FAQ.’

Men, intressant nog, tillåts användaren för närvarande att fortsätta med körningen av koden.

Den nya varningen som mötte DFL-deepfakers som försökte köra koden på Google Colab. Källa: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Enligt en användare i Discord för rivaliserande distribution FaceSwap, verkar det som att projektets kod inte utlöser varningen, vilket tyder på att koden för DeepFaceLab (också arkitekturen för realtids-deepfake-strömning DeepFaceLive), som är den mest dominerande deepfakes-metoden, har riktats specifikt av Colab.

FaceSwap-samutvecklare Matt Tora kommenterade*:

‘Jag tycker att det är mycket osannolikt att Google gör detta av några särskilda etiska skäl, utan mer att Colabs syfte är att studenter/dataforskare/forskare ska kunna köra beräkningskrävande GPU-kod på ett enkelt och tillgängligt sätt, utan kostnad. Men jag misstänker att en inte oväsentlig mängd användare utnyttjar denna resurs för att skapa deepfake-modeller i stor skala, vilket är både beräkningskrävande och tar en inte oväsentlig mängd tid att producera resultat.

‘Man kan säga att Colab lutar mer mot den utbildningsmässiga, forskningsmässiga sidan av AI. Att köra skript som kräver liten användarinput, eller förståelse, tenderar att gå emot detta. Hos FaceSwap försöker vi fokusera på att utbilda användaren i AI och de mekanismer som är inblandade, samtidigt som vi sänker tröskeln för inträde. Vi uppmuntrar starkt till etisk användning av programvaran och känner att det är viktigt att göra dessa verktyg tillgängliga för en bredare publik, snarare än att hålla dem dolda för ett fåtal utvalda.

‘Tyvärr kan vi inte kontrollera hur våra verktyg slutligen används, eller var de körs. Det sörjer mig att en väg har stängts för människor att experimentera med vår kod, men i termer av att skydda denna specifika resurs för att säkerställa dess tillgänglighet för den faktiska målgruppen, tycker jag att det är förståeligt.’

Det finns inga bevis för att den nya begränsningen endast gäller den kostnadsfria nivån av Google Colab – längst ner på listan över förbjudna aktiviteter, som deepfakes nu har lagts till, står det ‘Ytterligare begränsningar finns för betalade användare’, vilket tyder på att dessa är basregler. I fråga om deepfakes-förbudet har detta förvirrat vissa, eftersom ‘kryptokurvalgruvdrift’ och ‘deltagande i peer-to-peer-fildelning’ ingår i både den kostnadsfria och pro-nivåns ‘Begränsningar’-avdelning.

Enligt den logiken är allt som är förbjudet i den kostnadsfria ‘Begränsningar’-avdelningen tillåtet i pro-versionen, så länge pro-versionen inte uttryckligen förbjuder det, inklusive ‘att köra förnekelse av tjänst-attacker’ och ‘lösenordsknäckning’. De ytterligare begränsningarna för pro-nivån är främst inriktade på att inte ‘underuthyra’ pro-Colab-åtkomst, trots de förvirrande och selektiva dubblettförbuden.

Google Colab är en dedikerad implementering av Jupyter-anteckningsboks-miljöer, som tillåter fjärrträning av maskinlärningsprojekt på mycket kraftfullare GPU:er än vad många användare kan ha råd med.

Sedan deepfake-utbildning är en VRAM-hungrig syssla, och sedan GPU-bristen började, har många deepfakers under de senaste åren övergett hemmaträning till förmån för fjärrträning i Colab, där det, beroende på chans och nivå, är möjligt att träna en deepfake-modell på kraftfulla kort som Tesla T4 (16 GB VRAM, för närvarande runt 2 000 USD), V100 (32 GB VRAM, runt 4 000 USD) och den mäktiga A100 (80 GB VRAM, MSRP på 32 097,00 USD), bland andra.

Förbudet mot Colab-utbildning verkar troligt att minska poolen av deepfakers som kan träna högupplösta modeller, där indata- och utdata-bilderna är större, mer lämpade för högupplösta resultat och kan extrahera och reproducera större ansiktsdetaljer.

Några av de mest engagerade deepfake-hobbyisterna och entusiasterna, enligt Discord- och forum-inlägg, har investerat kraftigt i lokal hårdvara under de senaste åren, trots de höga priserna på GPU:er.

Men, med tanke på de höga kostnaderna, har subkommunarer uppstått för att hantera utmaningarna med att träna deepfakes på Colabs, med slumpmässig GPU-tilldelning som den vanligaste klagomålen sedan Colab begränsade användningen av högkvalitativa GPU:er till kostnadsfria användare.

* I privata meddelanden på Discord

Publicerad första gången 28 maj 2022.
Reviderad 7:28, korrigering av citattecken.
Reviderad 12:40 – tillagt förtydligande avseende kostnadsfri och pro-nivå-deepfake-förbud, såsom det bäst kan förstås från ‘kostnadsfri’ och ‘pro’-listor över förbud.