Google je prepovedal usposabljanje Deepfake v Colabu

Nekje v zadnjih dveh tednih je Google tiho spremenil pogoje storitve za svoje uporabnike Colab in dodal določilo, da se storitve Colab ne smejo več uporabljati za usposabljanje globokih ponaredkov.

Majska posodobitev prinaša prepoved deepfake za Colab. Vir: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Prva spletno arhivirana različica iz internetnega arhiva, ki vsebuje prepoved deepfake, je bila Zajeto prejšnji torek, 24. maja. Zadnja zajeta različica pogostih vprašanj o Colabu, ki ima ne omeniti, da je bila prepoved na 14th maj.

Od dveh priljubljenih distribucij za ustvarjanje deepfake, DeepFaceLab (DFL) in Zamenjava obraza, ki sta obe razcepi kontroverzne in anonimne kode, objavljene na Redditu v 2017, samo še več znano Zdi se, da je bil DFL neposredno tarča prepovedi. Po besedah ​​razvijalca deepfake 'chervonij' pri DFL Discord programsko opremo zdaj izvaja v Google Colab izdela opozorilo:

»Morda izvajate kodo, ki ni dovoljena, in to lahko omeji vašo zmožnost uporabe Colaba v prihodnosti. Upoštevajte prepovedana dejanja, navedena v naših pogostih vprašanjih.'

Zanimivo pa je, da lahko uporabnik trenutno nadaljuje z izvajanjem kode.

Novo opozorilo, ki je pozdravilo DFL deepfakerje, ki so poskušali zagnati kodo na Google Colab. Vir: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Po mnenju uporabnika v Discordu za konkurenčno distribucijo FaceSwap koda tega projekta očitno še ne sproži opozorila, kar nakazuje, da je koda za DeepFaceLab (tudi arhitektura hranjenja za implementacijo pretakanja deepfake v realnem času DeepFaceLive), daleč najbolj prevladujočo metodo deepfakes, je Colab posebej ciljal.

So-vodilni razvijalec FaceSwap Matt Tora je komentiral*:

»Zdi se mi zelo malo verjetno, da Google to počne iz kakršnih koli posebnih etičnih razlogov, bolj kot Colabov raison d'être je, da študenti/podatkovni znanstveniki/raziskovalci lahko poganjajo računalniško drago kodo GPU na enostaven in dostopen način, brez napolniti. Vendar sumim, da nezanemarljivo število uporabnikov izkorišča ta vir za ustvarjanje globoko ponarejenih modelov v velikem obsegu, kar je računalniško drago in zahteva nezanemarljiv čas usposabljanja za doseganje rezultatov.

„Lahko bi rekli, da se Colab bolj nagiba k izobraževalni, raziskovalni strani umetne inteligence. Izvajanje skriptov, ki zahtevajo malo uporabniškega vnosa ali razumevanja, je običajno v nasprotju s tem. Pri Faceswap se poskušamo osredotočiti na izobraževanje uporabnika o umetni inteligenci in vključenih mehanizmih, hkrati pa znižujemo ovire za vstop. Močno spodbujamo etično uporabo programske opreme in menimo, da dajanje tovrstnih orodij na voljo širšemu občinstvu pomaga izobraževati ljudi o tem, kaj je dosegljivo v današnjem svetu, namesto da bi to skrivali za nekaj izbranih.

„Na žalost ne moremo nadzorovati, kako se naša orodja končno uporabljajo, niti kje se izvajajo. Žalosti me, da je bila pot ljudem zaprta za eksperimentiranje z našo kodo, vendar se mi zdi razumljivo v smislu zaščite tega posebnega vira, da se zagotovi njegova dostopnost dejanski ciljni publiki.«

Ni dokazov, da je nova omejitev omejena le na brezplačno raven Google Colab – na dnu seznama prepovedanih dejavnosti, ki so mu zdaj dodani deepfake, je opomba "Za plačljive uporabnike obstajajo dodatne omejitve", kar pomeni, da so to osnovni predpisi. V zvezi s prepovedjo globokih ponaredkov je to nekatere zmedlo 'rudarjenje kriptovalut' in 'vključevanje v skupno rabo datotek enakovrednim' so vključeni tako v brezplačnem kot v profesionalnem razdelku »Omejitve«.

Po tej logiki je vse, kar je prepovedano v brezplačnem razdelku »Omejitve«, dovoljeno v različici Pro, če različica Pro tega izrecno ne prepoveduje, vključno z »izvajanje napadov zavrnitve storitve"in 'razbijanje gesel'. Dodatne omejitve za raven Pro se nanašajo predvsem na to, da se dostop do pro Colab ne daje v podnajem, kljub zmedenim in selektivnim prepovedim podvajanja.

Google Colab je namenska implementacija Jupyterjev zvezek okoljih, ki omogočajo oddaljeno usposabljanje projektov strojnega učenja na veliko zmogljivejših grafičnih procesorjih, kot si jih lahko privoščijo številni uporabniki.

Ker je usposabljanje za globoko ponarejanje dejavnost, ki zahteva VRAM, in od pojava lakote po GPU, se je veliko ponaredkov v zadnjih letih izogibalo domačemu usposabljanju v korist usposabljanja na daljavo v Colabu, kjer je mogoče, odvisno od možnosti in stopnje, usposobiti globoko ponaredek. model na močnih karticah, kot je Tesla T4 (16 GB VRAM, trenutno okoli 2k USD), V100 (32 GB VRAM, približno 4 USD) in mogočni A100 (80 GB VRAM, Cena 32,097.00 USD), med drugim.

Zdi se, da bo prepoved usposabljanja Colab verjetno zmanjšala skupino ponarejevalcev globine, ki lahko usposabljajo modele z višjo ločljivostjo, kjer so vhodne in izhodne slike večje, bolj primerne za rezultate z visoko ločljivostjo ter zmožne ekstrahirati in reproducirati več podrobnosti obraza.

Nekateri izmed najbolj zavzetih hobistov in navdušencev nad globokim ponarejanjem so glede na objave v Discordu in forumih v zadnjih nekaj letih veliko vlagali v lokalno strojno opremo, kljub visokim cenam grafičnih procesorjev.

Vendar so se glede na visoke stroške pojavile podskupnosti, ki se ukvarjajo z izzivi usposabljanja deepfakes v Colabsu, pri čemer je naključna dodelitev GPE najpogostejša pritožba, odkar je Colab omejil uporabo GPE višjega razreda na brezplačne uporabnike.

* V zasebnih sporočilih na Discordu

Prvič objavljeno 28. maja 2022.
Spremenjeno 7:28 EST, popravek tipkarske napake.
Spremenjeno ob 12:40 EST – dodano pojasnilo glede brezplačnih in profesionalnih prepovedi deepfake, kar je najbolje razbrati iz seznamov prepovedi »brezplačnih« in »profesionalnih«.