Google Ha Vietato l’Addestramento di Deepfakes in Colab

In qualche momento nelle ultime due settimane, Google ha cambiato silenziosamente i termini di servizio per gli utenti di Colab, aggiungendo una specifica che i servizi Colab non possono più essere utilizzati per addestrare deepfakes.

L’aggiornamento di maggio porta un divieto di deepfake a Colab. Source: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

La prima versione web-archiviata da Internet Archive che presenta il divieto di deepfake è stata catturata l’ultima martedì, il 24 maggio. L’ultima versione catturata della FAQ di Colab che non menziona il divieto è del 14 maggio.

Tra le due popolari distribuzioni di creazione di deepfake, DeepFaceLab (DFL) e FaceSwap, entrambe sono fork del controverso e anonimo codice pubblicato su Reddit nel 2017, solo il più noto DFL sembra essere stato direttamente colpito dal divieto. Secondo lo sviluppatore di deepfake ‘chervonij’ nel Discord di DFL, eseguire il software in Google Colab ora produce un avviso:

‘Potresti essere in esecuzione di codice che non è consentito, e ciò potrebbe limitare la tua capacità di utilizzare Colab in futuro. Si prega di notare le azioni proibite specificate nella nostra FAQ.’

Tuttavia, interessantemente, l’utente è attualmente autorizzato a continuare con l’esecuzione del codice.

Il nuovo avviso che ha accolto i creatori di deepfake DFL che tentavano di eseguire il codice su Google Colab. Source: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Secondo un utente nel Discord della distribuzione rivale FaceSwap, il codice di quel progetto apparentemente non attiva ancora l’avviso, suggerendo che il codice per DeepFaceLab (anche l’architettura di alimentazione per l’implementazione di streaming di deepfake in tempo reale DeepFaceLive), di gran lunga il metodo di deepfake più dominante, è stato specificamente preso di mira da Colab.

Il co-lead developer di FaceSwap, Matt Tora, ha commentato*:

‘Trovo molto improbabile che Google stia facendo questo per particolari motivi etici, più che Colab è stato progettato per studenti/scienziati dei dati/ricercatori per poter eseguire codice GPU computazionalmente costoso in modo facile e accessibile, gratuito. Tuttavia, sospetto che una quantità non insignificante di utenti stia sfruttando questa risorsa per creare modelli di deepfake, su larga scala, che è sia computazionalmente costoso che richiede un tempo di addestramento non insignificante per produrre risultati.’

‘Potresti dire che Colab si inclina più sul lato educativo, di ricerca dell’AI. Eseguire script che richiedono poca entrata dell’utente, né comprensione, tende a essere contrario a questo. A FaceSwap ci concentriamo sull’istruire l’utente sull’AI e sui meccanismi coinvolti, riducendo la barriera all’ingresso. Incoraggiamo molto l’uso etico del software e sentiamo che rendere questi strumenti disponibili a un pubblico più ampio aiuta a educare le persone in termini di ciò che è possibile nel mondo di oggi, piuttosto che tenerlo nascosto per una selezione di pochi.’

‘Purtroppo non possiamo controllare come vengono utilizzati i nostri strumenti, né dove vengono eseguiti. Mi dispiace che una via sia stata chiusa per le persone che sperimentano con il nostro codice, tuttavia, in termini di protezione di questa particolare risorsa per garantirne la disponibilità al pubblico target, lo trovo comprensibile.’

Non c’è evidenza che la nuova restrizione sia limitata solo al livello gratuito di Google Colab – in fondo all’elenco delle attività proibite a cui sono stati aggiunti i deepfake, c’è la nota ‘Esistono ulteriori restrizioni per gli utenti paganti’, che indica che queste sono regolamentazioni di base. Per quanto riguarda il divieto di deepfake, ciò ha confuso alcuni, poiché ‘mining di criptovalute’ e ‘partecipazione al peer-to-peer file sharing’ sono inclusi in entrambe le sezioni ‘Restrictions’ gratuite e pro.

Secondo questa logica, tutto ciò che è vietato nella sezione ‘Restrictions’ gratuita è consentito nella versione Pro, a condizione che la versione Pro non lo vieti esplicitamente, compreso ‘esecuzione di attacchi di negazione del servizio’ e ‘cracking delle password’. Le ulteriori restrizioni per il livello Pro sono principalmente preoccupate per non ‘sottorendere’ l’accesso a Colab Pro, nonostante le proibizioni confuse e selettive duplicate.

Google Colab è un’implementazione dedicata di ambienti Jupyter notebook, che consentono l’addestramento remoto di progetti di apprendimento automatico su GPU molto più potenti di quelle che molti utenti possono permettersi.

Poiché l’addestramento di deepfake è un’attività affamata di VRAM, e poiché l’avvento della carenza di GPU, molti creatori di deepfake negli ultimi anni hanno abbandonato l’addestramento a casa in favore dell’addestramento remoto in Colab, dove è possibile, a seconda della possibilità e del livello, addestrare un modello di deepfake su schede potenti come la Tesla T4 (16GB VRAM, attualmente intorno a 2.000 dollari USA), la V100 (32GB VRAM, intorno a 4.000 dollari USA), e la potente A100 (80GB VRAM, MSRP di 32.097,00 dollari USA), tra gli altri.

Il divieto di addestramento in Colab sembra probabile ridurre la piscina di creatori di deepfake in grado di addestrare modelli ad alta risoluzione, dove le immagini di input e output sono più grandi, più adatti a risultati ad alta risoluzione e in grado di estrarre e riprodurre maggiori dettagli facciali.

Alcuni dei più impegnati hobbisti e appassionati di deepfake, secondo i post su Discord e forum, hanno investito molto in hardware locale negli ultimi due anni, nonostante i prezzi elevati delle GPU.

Tuttavia, data l’elevata spesa coinvolta, sono emerse sottocomunità per affrontare le sfide dell’addestramento di deepfake su Colab, con l’allocazione casuale di GPU la lamentela più comune dal momento in cui Colab ha limitato l’uso di GPU di fascia alta per gli utenti gratuiti.

* In messaggi privati su Discord

Pubblicato per la prima volta il 28 maggio 2022.
Riveduto 7:28 AM EST, correzione di un errore di citazione.
Riveduto 12:40 PM EST – aggiunta di chiarimenti riguardo al divieto di deepfake per i livelli gratuito e pro, per quanto possibile capire dalle liste di proibizioni ‘gratuito’ e ‘pro’.