Google ha vietato la formazione di deepfake in Colab

Nelle ultime due settimane, Google ha silenziosamente modificato i termini di servizio per i suoi utenti Colab, aggiungendo una clausola secondo cui i servizi Colab non possono più essere utilizzati per addestrare i deepfake.

L'aggiornamento di maggio porta un divieto di deepfake a Colab. Fonte: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

La prima versione archiviata sul Web da Internet Archive che presenta il divieto di deepfake è stata catturato martedì scorso, 24 maggio. L'ultima versione catturata delle FAQ di Colab che funziona non è un menzionare il divieto era sul 14 maggio a.

Delle due popolari distribuzioni per la creazione di deepfake, DeepFaceLab (DFL) e Cambia faccia, entrambi fork del codice controverso e anonimo pubblicato su Reddit in 2017, solo di più famigerato DFL sembra essere stato direttamente preso di mira dal divieto. Secondo lo sviluppatore di deepfake "chervonij" al DFL Discord, il software è in esecuzione in Google Colab ora produce un avviso:

'Potresti eseguire codice non consentito e ciò potrebbe limitare la tua capacità di utilizzare Colab in futuro. Si prega di notare le azioni proibite specificate nelle nostre FAQ.'

Tuttavia, è interessante notare che l'utente è attualmente autorizzato a continuare con l'esecuzione del codice.

Il nuovo avviso che ha salutato i deepfaker DFL che tentavano di eseguire il codice su Google Colab. Fonte: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Secondo un utente in Discord per la distribuzione rivale FaceSwap, il codice di quel progetto apparentemente non attiva ancora l'avviso, suggerendo che il codice per DeepFaceLab (anche l'architettura di alimentazione per l'implementazione dello streaming deepfake in tempo reale DeepFace dal vivo), di gran lunga il metodo deepfake più dominante, è stato specificamente preso di mira da Colab.

Il co-sviluppatore capo di FaceSwap, Matt Tora, ha commentato*:

"Trovo molto improbabile che Google lo stia facendo per particolari ragioni etiche, più che la raison d'être di Colab è che studenti/data scientist/ricercatori siano in grado di eseguire codice GPU computazionalmente costoso in modo facile e accessibile, senza carica. Tuttavia, sospetto che una quantità non trascurabile di utenti stia sfruttando questa risorsa per creare modelli di deepfake, su larga scala, il che è sia computazionalmente costoso che richiede una quantità non trascurabile di tempo di addestramento per produrre risultati.

'Si potrebbe dire che Colab si appoggia maggiormente al lato educativo e di ricerca dell'IA. L'esecuzione di script che richiedono poco input da parte dell'utente, né comprensione, tende ad andare contro questo. In Faceswap cerchiamo di concentrarci sull'educazione dell'utente all'intelligenza artificiale e ai meccanismi coinvolti, abbassando al contempo la barriera all'ingresso. Incoraggiamo fortemente l'uso etico del software e riteniamo che rendere questi tipi di strumenti disponibili a un pubblico più ampio aiuti a educare le persone in termini di ciò che è realizzabile nel mondo di oggi, piuttosto che tenerlo nascosto per pochi eletti.

'Purtroppo non possiamo controllare come vengono utilizzati i nostri strumenti, né dove vengono utilizzati. Mi rattrista che sia stata chiusa una strada per consentire alle persone di sperimentare il nostro codice, tuttavia, in termini di protezione di questa particolare risorsa per garantirne la disponibilità al pubblico target effettivo, lo trovo comprensibile.'

Non ci sono prove che la nuova restrizione sia limitata solo al livello gratuito di Google Colab - in fondo all'elenco delle attività vietate a cui ora sono stati aggiunti i deepfake, c'è la nota "Esistono ulteriori restrizioni per gli utenti a pagamento", indicando che si tratta di regolamenti di base. Per quanto riguarda il divieto di deepfakes, questo ha confuso alcuni, da allora 'estrazione di criptovalute' e 'impegnarsi nella condivisione di file peer-to-peer' sono inclusi sia nella sezione "Restrizioni" gratuita che pro.

In base a tale logica, tutto ciò che è vietato nella sezione "Restrizioni" gratuita è consentito nella versione Pro, a condizione che la versione Pro non lo proibisca esplicitamente, incluso 'esecuzione di attacchi denial-of-service' e 'decifrare la password'. Le restrizioni aggiuntive per il livello Pro riguardano principalmente il non "subaffitto" dell'accesso pro Colab, nonostante i divieti di duplicazione confusi e selettivi.

Google Colab è un'implementazione dedicata di Notebook Jupyter ambienti, che consentono la formazione remota di progetti di machine learning su GPU molto più potenti di quelle che molti utenti possono permettersi.

Poiché l'addestramento deepfake è una ricerca affamata di VRAM e dall'avvento della carestia GPU, molti deepfaker negli ultimi anni hanno evitato l'allenamento a casa a favore dell'addestramento remoto in Colab, dove è possibile, a seconda delle possibilità e del livello, addestrare un deepfake modello su carte potenti come il TeslaT4 (VRAM da 16 GB, attualmente circa $ 2k USD), il V100 (32 GB di VRAM, circa $ 4k USD) e il potente A100 (80 GB di VRAM, Prezzo di listino di $ 32,097.00), tra gli altri.

Il divieto di formazione Colab sembra ridurre il pool di deepfaker in grado di addestrare modelli a risoluzione più elevata, in cui le immagini di input e output sono più grandi, più adatte a risultati ad alta risoluzione e in grado di estrarre e riprodurre maggiori dettagli facciali.

Alcuni degli hobbisti e appassionati di deepfake più impegnati, secondo Discord e i post del forum, hanno investito molto nell'hardware locale negli ultimi due anni, nonostante i prezzi elevati delle GPU.

Tuttavia, dati gli alti costi coinvolti, sono emerse sotto-comunità per affrontare le sfide dell'addestramento dei deepfake su Colabs, con l'assegnazione casuale della GPU la lamentela più comune poiché Colab ha limitato l'uso di GPU di fascia alta agli utenti gratuiti.

* Nei messaggi privati ​​su Discord

Pubblicato per la prima volta il 28 maggio 2022.
Rivisto 7:28 EST, correzione dell'errore di citazione.
Rivisto 12:40 EST – ha aggiunto chiarimenti sui divieti di deepfake gratuiti e di livello professionale, come meglio si può capire dagli elenchi di divieti "gratuiti" e "pro".