Google a interzis antrenarea de deepfakes în Colab

În ultimele două săptămâni, Google a modificat în mod tacit termenii și condițiile pentru utilizatorii Colab, adăugând o stipulare care interzice utilizarea serviciilor Colab pentru antrenarea de deepfakes.

Actualizarea din mai aduce o interzicere a deepfake-urilor în Colab. Sursă: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Prima versiune arhivată pe Internet care conține interzicerea deepfake-urilor a fost capturată marți, 24 mai. Ultima versiune arhivată a FAQ-ului Colab care nu menționează interzicerea a fost pe 14 mai.

Dintre cele două distribuții populare de creare de deepfakes, DeepFaceLab (DFL) și FaceSwap, ambele fiind fork-uri ale codului controversat și anonim postat pe Reddit în 2017, doar DFL, care este mai notoriu, pare să fi fost vizat direct de interzicere. Conform dezvoltatorului de deepfakes “chervonij” de la DFL Discord, rularea software-ului în Google Colab produce acum o avertizare:

‘Poate că executați cod care nu este permis și acest lucru poate restricționa capacitatea dvs. de a utiliza Colab în viitor. Vă rugăm să rețineți acțiunile interzise specificate în FAQ-ul nostru.’

Cu toate acestea, în mod interesant, utilizatorul este în prezent autorizat să continue executarea codului.

Noua avertizare care a întâmpinat deepfakerii DFL care au încercat să ruleze codul în Google Colab. Sursă: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Conform unui utilizator din Discord-ul distribuției rivale FaceSwap, codul acestui proiect nu pare să declanșeze încă avertizarea, sugerând că codul pentru DeepFaceLab (care este și arhitectura de alimentare pentru implementarea streaming-ului de deepfakes în timp real DeepFaceLive), care este cu mult cea mai dominantă metodă de deepfakes, a fost vizat în mod specific de Colab.

Co-lead developer Matt Tora de la FaceSwap a comentat*:

‘Consider că este foarte puțin probabil ca Google să facă acest lucru din motive etice, mai degrabă pentru că scopul Colab este de a permite studenților, oamenilor de știință și cercetătorilor să poată rula coduri GPU computațional scump într-un mod ușor și accesibil, fără costuri. Cu toate acestea, suspectez că un număr semnificativ de utilizatori exploatează această resursă pentru a crea modele de deepfakes la scară, ceea ce este atât computațional scump, cât și necesită un timp semnificativ de antrenament pentru a produce rezultate.

‘Ați putea spune că Colab se îndreaptă mai mult spre partea educațională, de cercetare a IA. Executarea de scripturi care necesită puțină intrare a utilizatorului, nici înțelegere, tinde să meargă împotriva acestui lucru. La FaceSwap, ne străduim să ne concentrăm pe educarea utilizatorului în IA și mecanismele implicate, în timp ce reducem bariera de intrare. Încurajăm în mod deosebit utilizarea etică a software-ului și considerăm că punerea la dispoziție a acestor unelte pentru o audiență mai largă ajută la educarea oamenilor în ceea ce privește ceea ce este realizabil în lumea de astăzi, mai degrabă decât a-l ține ascuns pentru unii selectați.

‘Din nefericire, nu putem controla cum sunt utilizate în final uneltele noastre, nici unde sunt rulate. Mă întristează că o cale a fost închisă pentru oameni să experimenteze cu codul nostru, cu toate acestea, în ceea ce privește protejarea acestei resurse pentru a asigura disponibilitatea sa pentru publicul țintă, consider că este înțelept.’

Nu există dovezi că noua restricție se aplică doar nivelului gratuit al Google Colab – la partea de jos a listei de activități interzise, la care deepfake-urile au fost adăugate, se află nota ‘Există restricții suplimentare pentru utilizatorii plătiți’, ceea ce indică faptul că acestea sunt reglementări de bază. În ceea ce privește interzicerea deepfake-urilor, acest lucru a creat confuzie, deoarece ‘minarea de criptomonede’ și ‘implicarea în partajarea fișierelor peer-to-peer’ sunt incluse în ambele secțiuni ‘Restrictii’ gratuite și plătite.

Prin urmare, tot ceea ce este interzis în secțiunea ‘Restrictii’ gratuită este permis în versiunea Pro, atâta timp cât versiunea Pro nu interzice în mod explicit, inclusiv ‘rularea atacurilor de refuz de serviciu’ și ‘spargerea parolelor’. Restricțiile suplimentare pentru nivelul Pro se referă în principal la faptul de a nu ‘subînchiria’ accesul Pro Colab, în ciuda interzicerilor duplicate și selective.

Google Colab este o implementare dedicată a mediilor Jupyter notebook, care permit antrenarea la distanță a proiectelor de învățare automată pe GPU-uri mult mai puternice decât cele pe care multe utilizatori le pot permite.

Deoarece antrenarea de deepfakes este o activitate foarte solicitantă pentru VRAM, și deoarece de la apariția foametei de GPU, mulți deepfakeri în ultimii ani au abandonat antrenamentul la domiciliu în favoarea antrenamentului la distanță în Colab, unde, în funcție de șansă și nivel, este posibil să antrenezi un model de deepfake pe carduri puternice, cum ar fi Tesla T4 (16GB VRAM, aproximativ 2.000 de dolari), V100 (32GB VRAM, aproximativ 4.000 de dolari) și puternicul A100 (80GB VRAM, preț de listă de 32.097,00 dolari), printre altele.

Interzicerea antrenării de deepfakes în Colab pare să reducă probabil numărul de deepfakeri care pot antrena modele de înaltă rezoluție, unde imaginile de intrare și ieșire sunt mai mari, mai potrivite pentru rezultate de înaltă rezoluție și capabile să extragă și să reproducă mai multe detalii faciale.

Unii dintre cei mai dedicați hobbyiști și entuziaști de deepfakes, conform postărilor de pe Discord și forumuri, au investit masiv în hardware local în ultimii doi ani, în ciuda prețurilor ridicate ale GPU-urilor.

Cu toate acestea, având în vedere costurile ridicate implicate, au apărut subcomunități pentru a face față provocărilor antrenării de deepfakes pe Colab, cu alocarea aleatorie a GPU-urilor fiind cea mai frecventă plângere de la limitarea utilizării GPU-urilor de înaltă performanță pentru utilizatorii grațuiți.

* În mesaje private pe Discord

Publicat pentru prima dată pe 28 mai 2022.
Revizuit la 7:28 AM EST, corectură a unei erori de citat.
Revizuit la 12:40 PM EST – adăugată clarificarea cu privire la interzicerea deepfake-urilor pentru nivelurile gratuite și plătite, așa cum se poate înțelege din listele ‘gratuit’ și ‘plătit’ de interzicere.