Google Har Bannlyst Utbildning Av Deepfakes I Colab

Någon gång under de senaste två veckorna har Google tyst ändrat villkoren för sina Colab-användare och lagt till en bestämmelse som anger att Colab-tjänster inte längre får användas för att träna deepfakes.

Uppdateringen i maj medför ett förbud mot deepfakes i Colab. Källa: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Den första webbarkiverade versionen från Internet Archive som innehåller förbudet mot deepfakes togs fångad förra tisdagen, den 24 maj. Den senaste arkiverade versionen av Colab-FAQ som inte nämner förbudet var den 14 maj.

Av de två populära distributionerna för skapande av deepfakes, DeepFaceLab (DFL) och FaceSwap, som båda är grenar av den kontroversiella och anonyma koden som publicerades på Reddit 2017, verkar det som att endast den mer ökningsbara DFL har riktats direkt av förbudet. Enligt deepfake-utvecklaren ‘chervonij’ på DFL Discord, producerar körningen av programvaran i Google Colab nu en varning:

‘Du kan vara i färd med att köra kod som inte är tillåten, och detta kan begränsa din förmåga att använda Colab i framtiden. Observera de förbjudna åtgärderna som anges i vår FAQ.’

Men, intressant nog, tillåts användaren för närvarande att fortsätta med körningen av koden.

Den nya varningen som mötte DFL-deepfakers som försökte köra koden på Google Colab. Källa: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Enligt en användare i Discord för rivaliserande distribution FaceSwap, verkar det som att projektets kod inte utlöser varningen, vilket tyder på att koden för DeepFaceLab (även arkitekturen för realtids-deepfake-strömning DeepFaceLive), som är den mest dominerande metoden för deepfakes, har riktats specifikt av Colab.

FaceSwap co-lead developer Matt Tora kommenterade*:

‘Jag tycker att det är mycket osannolikt att Google gör detta av några särskilda etiska skäl, mer att Colabs raison d’être är för studenter/dataforskare/forskare att kunna köra beräkningskrävande GPU-kod på ett enkelt och tillgängligt sätt, utan kostnad. Men jag misstänker att en inte oväsentlig mängd användare utnyttjar denna resurs för att skapa deepfake-modeller, i stor skala, vilket är både beräkningskrävande och tar en inte oväsentlig mängd tränings tid för att producera resultat.’

‘Man kan säga att Colab lutar mer mot den pedagogiska, forskningssidan av AI. Körning av skript som kräver liten användarindata, eller förståelse, tenderar att gå emot detta. Hos FaceSwap försöker vi fokusera på att utbilda användaren i AI och de mekanismer som är inblandade, samtidigt som vi sänker tröskeln för inträde. Vi uppmuntrar starkt till etisk användning av programvaran och känner att det är viktigt att göra dessa verktyg tillgängliga för en bredare publik, snarare än att hålla dem dolda för en utvald grupp.’

‘Tyvärr kan vi inte kontrollera hur våra verktyg slutligen används, eller var de körs. Det sörjer mig att en väg har stängts för människor att experimentera med vår kod, men i termer av att skydda denna specifika resurs för att säkerställa dess tillgänglighet för den faktiska målgruppen, tycker jag att det är förståeligt.’

Det finns inga bevis för att den nya begränsningen är begränsad endast till den kostnadsfria nivån av Google Colab – längst ner på listan över förbjudna aktiviteter som deepfakes nu har lagts till, är notisen ‘Ytterligare begränsningar finns för betalda användare’, vilket indikerar att dessa är baslinje-regler. I fråga om förbudet mot deepfakes, har detta förvirrat vissa, eftersom ‘kryptotillgångsbrytning’ och ‘engagemang i peer-to-peer-fildelning’ ingår i både den kostnadsfria och pro-versionen av ‘Begränsningar’-avsnittet.

Enligt den logiken är allt som är förbjudet i den kostnadsfria ‘Begränsningar’-avsnittet tillåtet i Pro-versionen, så länge Pro-versionen inte uttryckligen förbjuder det, inklusive ‘körning av förnekelse av tjänst-attacker’ och ‘lösenordsknäckning’. De ytterligare begränsningarna för Pro-nivån är huvudsakligen inriktade på att inte ‘underuthyra’ pro-Colab-åtkomst, trots de förvirrande och selektiva dubblerade förbuden.

Google Colab är en dedikerad implementering av Jupyter-anteckningsboksmiljöer, som tillåter fjärrträning av maskinlärningsprojekt på mycket kraftfullare GPU:er än vad många användare kan ha råd med.

Eftersom deepfake-träning är en VRAM-krävande syssla, och sedan GPU-bristen, har många deepfakers under de senaste åren övergivit hemmaträning till förmån för fjärrträning i Colab, där det är möjligt, beroende på chans och nivå, att träna en deepfake-modell på kraftfulla kort som Tesla T4 (16 GB VRAM, för närvarande runt 2 000 USD), V100 (32 GB VRAM, runt 4 000 USD), och den mäktiga A100 (80 GB VRAM, MSRP på 32 097,00 USD), bland andra.

Förbudet mot Colab-träning verkar troligt att minska poolen av deepfakers som kan träna högupplösta modeller, där indata- och utdata-bilderna är större, mer lämpade för högupplösta resultat, och kan extrahera och reproducera större ansiktsdetaljer.

Några av de mest engagerade deepfake-hobbyisterna och entusiasterna, enligt Discord- och forum-inlägg, har investerat kraftigt i lokal hårdvara under de senaste åren, trots de höga priserna på GPU:er.

Men, med tanke på de höga kostnaderna som är inblandade, har subkommunier uppstått för att hantera utmaningarna med att träna deepfakes på Colabs, med slumpmässig GPU-allokering som den vanligaste klagomålen sedan Colab begränsade användningen av högkvalitativa GPU:er för kostnadsfria användare.

* I privata meddelanden på Discord

Publicerad första gången 28 maj 2022.
Reviderad 7:28 AM EST, korrigering av citatstavningsfel.
Reviderad 12:40 pm EST – tillagt förtydligande avseende kostnadsfri och pro-nivå förbud mot deepfakes, såsom det bäst kan förstås från ‘kostnadsfri’ och ‘pro’-listor över förbud.