Google on kieltänyt syväväärennösmallien kouluttamisen Colabissa

Jossain vaiheessa viimeisten kahden viikon aikana Google on hiljaisesti muuttanut Colab-käyttäjien palveluehtoja ja lisännyt siihen määräyksen, jonka mukaan Colab-palveluja ei enää saa käyttää syväväärennösten kouluttamiseen.

Toukokuun päivitys tuo syväväärennöksen kiellon Colabiin. Lähde: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Ensimmäinen verkkoversio, jossa syväväärennöksen kielto on mainittu, on tallennettu viime tiistaina, 24. toukokuuta. Viimeisin Colab-FAQ:n versio, jossa kieltoa ei mainita, on 14. toukokuuta.

Kahden suositun syväväärennöksen luomisjakauman, DeepFaceLab (DFL) ja FaceSwap, molemmat ovat forkkeja kiistanalaisesta ja tuntemattomasta koodista, joka julkaistiin Redditissä vuonna 2017, vain huonomaineisempi DFL näyttää olevan kohdistettu suoraan kiellon alaiseksi. Syväväärennöksen kehittäjän ‘chervonij’ mukaan DFL:n Discordissa, ohjelmiston suorittaminen Google Colabissa tuottaa varoituksen:

‘Saatat suorittaa koodia, jota ei sallita, ja tämä voi rajoittaa Colabin käyttöä tulevaisuudessa. Huomaa kielletyt toimet, jotka on mainittu FAQ:ssamme.’

Kuitenkin mielenkiintoista on, että käyttäjä on tällä hetkellä sallittu jatkaa koodin suorittamista.

Uusi varoitus, joka tervehti DFL:n syväväärennöksen luojia, jotka yrittivät suorittaa koodia Google Colabissa. Lähde: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Kilpailevan FaceSwap-jakelun Discord-käyttäjän mukaan sen koodi ei vielä näytä laukaisevan varoitusta. Tämä viittaa siihen, että Colab olisi kohdentanut rajoituksen nimenomaan selvästi yleisimpään DeepFaceLabiin, joka toimii myös reaaliaikaisen DeepFaceLive-toteutuksen pohjana.

FaceSwapin toinen johtava kehittäjä Matt Tora kommentoi*:

‘En usko, että Google tekee tämän jonkin tietyn eettisen syyn vuoksi, vaan Colabin tarkoitus on opiskelijoille, datatieteilijöille ja tutkijoille tarjota mahdollisuus suorittaa laskennallisen koodin tehokkailla GPU:illa ilman maksua. Olen kuitenkin sitä mieltä, että merkittävä määrä käyttäjiä hyödyntää tätä resurssia syväväärennösten luomiseen, mikä on sekä laskennallisesti vaativaa että vie paljon aikaa tuloksien tuottamiseen.

‘Voit sanoa, että Colab on enemmän opetus-/tutkimussuuntautunut. Skriptien suorittaminen, joka vaatii vähän käyttäjän syötettä tai ymmärrystä, on vastoin tätä. FaceSwapissa pyrimme opettamaan käyttäjiä AI:sta ja sen mekanismeista sekä madaltamaan esteitä. Kannustamme eettistä ohjelmiston käyttöä ja uskomme, että näiden työkalujen tarjoaminen laajemmalle yleisölle auttaa ihmisiä ymmärtämään, mitä on mahdollista nykyään, eikä piiloteta sitä valitulle joukolle.

‘Valitettavasti emme voi kontrolloidä, miten työkalujamme lopulta käytetään eikä missä ne suoritetaan. Harmittaa minua, että yksi kokeilumahdollisuus on suljettu ihmisiltä, mutta ymmärrän, että tämä resurssi on suojeltava sen oikean kohderyhmän saataville.’

Ei ole näyttöä siitä, että uusi rajoitus olisi rajoitettu vain Google Colabin ilmaiseen tasoon – kiellon alaiseen toimintaan on lisätty huomautus, jonka mukaan “Lisärajoituksia on maksaville käyttäjille”, mikä osoittaa, että nämä ovat perusmääräyksiä. Syväväärennöksen kiellon osalta tämä on aiheuttanut hämmennystä, koska “kryptovaluutan louhinta” ja “vertaisverkkotiedostonjakoon osallistuminen” on mainittu sekä ilmaisen että maksullisen “Rajoitukset”-osiossa.

Näiden logiikan mukaan kaikki, mitä ilmaisen “Rajoitukset”-osio kieltää, olisi sallittua Pro-versiossa, kunhan Pro-versio ei erikseen kiellä sitä, mukaan lukien “palvelunestohyökkäykset” ja “salasanan murtaminen”. Pro-tason lisärajoitukset koskevat lähinnä sitä, ettei Pro Colab -käyttöä saa alivuokrata, vaikka rajoitukset ovat osittain samat.

Google Colab on omistautunut Jupyter-muistikirjien toteutus, joka mahdollistaa koneoppimisprojektien etäkoulutuksen tehokkaampien GPU:iden kanssa kuin monet käyttäjät voivat maksaa.

Koska syväväärennöksen koulutus on runsaasti näytönohjaimen muistia vaativa tehtävä, ja koska GPU-pula on ollut voimassa useita vuosia, monet syväväärennöksen luojat ovat hylkääneet kotikoulutuksen ja siirtyneet Colabiin, jossa on mahdollista, riippuen onnesta ja tasosta, kouluttaa syväväärennöksen malli voimakkaiden korttien kanssa, kuten Tesla T4 (TSLA ) (16 GB VRAM, noin 2 000 USD), V100 (32 GB VRAM, noin 4 000 USD) ja A100 (80 GB VRAM, 32 097,00 USD), ja muita.

Colab-koulutuksen kielto näyttää todennäköisesti vähentävän syväväärennöksen luojien määrää, jotka voivat kouluttaa korkearesoluutioisia malleja, joissa syöte- ja tulokuvat ovat suurempia, sovellettavampia korkearesoluutioisille tuloksille ja pystyvät keräämään ja toistamaan enemmän kasvojen yksityiskohtia.

Jotkut omistautuneimmat syväväärennöksen harrastajat ja ystävät ovat sijoittaneet paikalliseen laitteistoon viimeisten kahden vuoden aikana, huolimatta korkeista hintoja.

Kuitenkin korkeiden kustannusten vuoksi on syntynyt alayhteisöjä, jotka käsittelevät syväväärennösten koulutuksen haasteita Colabissa, ja satunnainen GPU-jakelu on yleisin valitus siitä lähtien, kun Colab rajoitti ilmaiskäyttäjien pääsyä tehokkaampiin näytönohjaimiin.

* Yksityisviestit Discordissa

Julkaistu ensimmäisen kerran 28. toukokuuta 2022.
Muokattu 7:28 EST, korjattu lainausvirhe.
Muokattu 12:40 pm EST – lisätty selitys ilmaisen ja Pro-tason syväväärennöksen kielloista, kuten parhaillaan ymmärretään ‘ilmaisen’ ja ‘Pro’-kieltojen luettelosta.