Google Ha Vietato l’Addestramento di Deepfake in Colab

Qualche tempo fa, nelle ultime due settimane, Google ha modificato silenziosamente i termini di servizio per gli utenti di Colab, aggiungendo una specifica che i servizi di Colab non possono più essere utilizzati per addestrare deepfake.

L’aggiornamento di maggio porta un divieto di addestramento di deepfake su Colab. Fonte: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

La prima versione archiviata nel web che presenta il divieto di deepfake è stata catturata lo scorso martedì, il 24 maggio. L’ultima versione catturata della FAQ di Colab che non menziona il divieto risale al 14 maggio.

Tra le due popolari distribuzioni per la creazione di deepfake, DeepFaceLab (DFL) e FaceSwap, entrambe derivano dal controverso e anonimo codice pubblicato su Reddit nel 2017, solo il più noto DFL sembra essere stato direttamente colpito dal divieto. Secondo lo sviluppatore di deepfake ‘chervonij’ nel canale Discord di DFL, eseguire il software in Google Colab produce ora un avviso:

‘Potresti essere in esecuzione di codice non consentito, e ciò potrebbe limitare la tua capacità di utilizzare Colab in futuro. Si prega di notare le azioni proibite specificate nella nostra FAQ.’

Tuttavia, interessantemente, l’utente è attualmente autorizzato a continuare l’esecuzione del codice.

Il nuovo avviso che ha accolto gli utenti di DFL che tentavano di eseguire il codice su Google Colab. Fonte: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Secondo un utente nel canale Discord della distribuzione rivale FaceSwap, il codice di quel progetto non sembra ancora scatenare l’avviso, suggerendo che il codice per DeepFaceLab (anche l’architettura di alimentazione per l’implementazione di streaming di deepfake in tempo reale DeepFaceLive), di gran lunga il metodo di deepfake più dominante, sia stato specificamente preso di mira da Colab.

Il co-lead developer di FaceSwap, Matt Tora, ha commentato*:

‘Trovo molto improbabile che Google stia facendo questo per particolari motivi etici, ma piuttosto che il raison d’être di Colab è per studenti/scienziati dei dati/ricercatori per poter eseguire codice GPU computazionalmente costoso in modo facile e accessibile, gratuito. Tuttavia, sospetto che una quantità non insignificante di utenti stia sfruttando questa risorsa per creare modelli di deepfake, su larga scala, che è sia computazionalmente costoso che richiede un tempo di formazione non insignificante per produrre risultati.’

‘Potresti dire che Colab si concentra più sul lato educativo, di ricerca dell’AI. Eseguire script che richiedono poca input dell’utente, né comprensione, tende ad andare contro questo. A FaceSwap ci concentriamo sull’educare l’utente sull’AI e i meccanismi coinvolti, riducendo la barriera all’ingresso. Incoraggiamo fortemente l’uso etico del software e sentiamo che rendere questi strumenti disponibili a un pubblico più ampio aiuta a educare le persone in termini di ciò che è possibile nel mondo di oggi, piuttosto che tenerlo nascosto per una élite selezionata.’

‘Purtroppo non possiamo controllare come vengono utilizzati i nostri strumenti, né dove vengono eseguiti. Mi dispiace che una via sia stata chiusa per le persone che sperimentano con il nostro codice, tuttavia, in termini di protezione di questa particolare risorsa per garantirne la disponibilità al pubblico target, lo trovo comprensibile.’

Non c’è evidenza che la nuova restrizione sia limitata solo al livello gratuito di Google Colab – in fondo all’elenco delle attività proibite a cui sono stati aggiunti i deepfake, c’è la nota ‘Ulteriori restrizioni esistono per gli utenti paganti’, indicando che queste sono regolamentazioni di base. Per quanto riguarda il divieto di deepfake, ciò ha confuso alcuni, poiché ‘mining di criptovalute’ e ‘partecipazione al file-sharing peer-to-peer’ sono inclusi in entrambe le sezioni ‘Restrizioni’ gratuite e a pagamento.

Per logica, tutto ciò che è vietato nella sezione ‘Restrizioni’ gratuita è consentito nella versione Pro, a condizione che la versione Pro non lo vieti esplicitamente, compreso ‘esecuzione di attacchi di negazione del servizio’ e ‘cracking delle password’. Le ulteriori restrizioni per il livello Pro sono principalmente preoccupate di non ‘sottolocare’ l’accesso a Colab Pro, nonostante le restrizioni duplicate confuse e selettive.

Google Colab è un’implementazione dedicata di ambienti Jupyter notebook, che consentono la formazione remota di progetti di apprendimento automatico su GPU molto più potenti di quelle che molti utenti possono permettersi.

Dal momento che la formazione di deepfake è un’attività affamata di VRAM, e dal momento dell’avvento della carenza di GPU, molti deepfakers negli ultimi anni hanno abbandonato la formazione a casa in favore della formazione remota in Colab, dove è possibile, a seconda della fortuna e del livello, formare un modello di deepfake su schede potenti come la Tesla T4 (16GB VRAM, attualmente intorno a 2.000 dollari), la V100 (32GB VRAM, intorno a 4.000 dollari) e la potente A100 (80GB VRAM, prezzo di listino di 32.097,00 dollari), tra gli altri.

Il divieto di formazione di deepfake su Colab sembra probabile ridurre la quantità di deepfakers in grado di formare modelli ad alta risoluzione, dove le immagini di input e output sono più grandi, più adatti a risultati ad alta risoluzione e in grado di estrarre e riprodurre maggiori dettagli facciali.

Alcuni dei deepfakers più impegnati e appassionati, secondo i post su Discord e i forum, hanno investito molto in hardware locale negli ultimi due anni, nonostante i prezzi elevati delle GPU.

Tuttavia, data la spesa elevata, sono emerse sottocomunità per affrontare le sfide della formazione di deepfake su Colab, con l’allocation casuale di GPU la lamentela più comune dal momento che Colab ha limitato l’uso di GPU di fascia alta per gli utenti gratuiti.

* In messaggi privati su Discord

Pubblicato per la prima volta il 28 maggio 2022.
Riveduto alle 7:28 del mattino, ora est, correzione di un errore di citazione.
Riveduto alle 12:40 del pomeriggio, ora est – aggiunta di chiarimenti riguardo ai divieti di deepfake per i livelli gratuiti e a pagamento, come meglio si può capire dalle liste di proibizioni ‘gratuito’ e ‘pro’.