Reddit kielsi ‘SFW’ Deepfake-yhteisön

Viikonloppuna, ilmeisesti sunnuntaina, Reddit kielsi nimellisesti ‘SFW’ (Safe For Work) deepfake-yhteisön nimeltä r/deepfakesfw. Subredditi oli yksi varhaisimmista vastauksista sosiaalisen median jättiläisen poistamiseen alkuperäisestä, AI-pornon täyttämästä r/deepfakes-subredditistä vuonna 2018.

(Suhteellisen) peruslegenda, joka nyt tervehtii (arkistokuva otettu maanantaina 13. kesäkuuta) ketä tahansa, joka vierailee aliryhmässä, selittää, että se ‘oli kielletty Redditin sääntöjen vastaisen tahattoman pornografian vuoksi’.

Uusi etusivu r/deepfakesfw:lle.

R/deepfakesfw-aliryhmää ei arkistoitu usein suosituilla säilytysalustoilla, mutta viimeisin WayBack Machine -kuva, joka on otettu noin kymmenen päivää sitten (3. kesäkuuta 2022), osoittaa, että aliryhmässä oli 3 095 lukijaa tuolloin.

Se on itse asiassa suurempi luku kuin r/DeepFakesSFW:ssä (huomaa ylimääräinen ‘s’), jossa on tällä hetkellä 2 827 lukijaa (arkistokuva otettu maanantaina 13. kesäkuuta 2022). Suosituin ‘legitiimi’ SFW-deepfake-yhteisö näyttää olevan tällä hetkellä r/SFWdeepfakes, jossa on tällä hetkellä 16 636 lukijaa (kuva otettu maanantaina 13. kesäkuuta 2022).

Älä Edes Kysy

Mikä näyttää tuhoavan r/deepfakesfw:n, ei ole julkaistu sisältö, vaan pyyntö deepfake-pornografiaa. Redditin säännöt seksuaalisesti eksplisiittisestä mediasta sanovat:

‘[Kuvia] tai videoita toisesta henkilöstä, jotka on julkaistu tietoisesti tekaistun eksplisiittisen sisällön tai “lookalike”-pornografian (esim. “deepfakes” tai “bubble porn”) pyytämiseksi, on myös sääntöjen vastaista.’

Viimeisten saatavilla olevien RSS-syötteiden perusteella nyt kielletystä SFW-aliryhmästä, pyynnöt eivät ole niin paljon julkaistu NSFW-deepfake-sisältöä, vaan pyynnöt, jotka lopulta laukaisivat kiellon:

Jotkut viimeisistä selvästi NSFW-posteista nyt kuolleesta r/deepfakesfw-aliryhmästä. Lähde: Inoreader.

Vaikka nämä RSS-postit osoittavat viittauksia, jotka eivät ole enää saatavilla, napsauttamalla pyynnön tekijän profiililinkkejä (sumennettu yllä olevassa kuvassa) paljastuu, että moni julkaistu pyytäjä pyytää kiellettyä deepfake-sisältöä useammassa kuin yhdessä foorumissa, ja pyytää tai tarjoaa jotain tämän kaltaista sisältöä, mukaan lukien insesti-porno ja erilaisia tahattomia pornografisia teemoja.

Tämä osoittaa, että jäljellä olevat ‘SFW’ Reddit-aliryhmät selviävät moderointityön nopeuden, ahkeruuden ja nopean vastausajan ansiosta, koska Redditin näyttää olevan haluton muuttumaan jonkinlaiseksi “luokituimien ilmoitusten” foorumiksi, jossa ihmiset voivat yhdistää ja käydä laitonta deepfake-kauppaa yksityisissä viesteissä (tapauksissa, joissa sitä ei voida pyytää eksplisiittisesti postissa).

Jos näin on, niin vielä kielletty r/DeepFakesSFW saattaa elää lainatulla ajalla; sen kaksi nykyistä huipputestiä, kun käytetään “vanhaa” Reddit-aihetta, on nimenomaan merkitty ‘NSFW’ (tagi, joka ei pitäisi olla saatavilla tässä yhteisössä).

Joissain olosuhteissa joitain sääntöjä rikkoavia posteja näkyy tällä hetkellä r/DeepFakesSFW-aliryhmässä. Lähde: https://www.reddit.com/r/DeepFakesSFW/

Näitä kahta NSFW-postia voidaan nähdä r/DeepFakesSFW-foorumin arkistossa täällä (kuva otettu maanantaina 13. kesäkuuta 2022).

Todella ei ole NSFW-“flairia” saatavilla, kun tehdään uusi postaus r/DeepFakesSFW:ssä, joka on ollut toiminnassa neljä vuotta sen sivupalkitiedon mukaan:

Saatavilla olevat “flairit”, kun postaa r/DeepFakesSFW:hen.

Siten NSFW-tagit r/DeepFakesSFW:ssä näyttävät joko olleen sovellettuna foorumin moderateuroilla tai korkeamman tason hallinnollaan – tai jopa algoritmeilla, mahdollisesti ilman paikallisten moderateurien väliintuloa tai saatavilla olevaa vastustusta. Olen ollut yhteydessä ainoaan listattuun moderateuriin r/DeepFakesSFW:stä tästä, ja postaan saatavilla olevat päivitykset.

(MUOKATTU, tiistai, 14. kesäkuuta 2022 – r/DeepFakesSFW:n moderateuri on vastannut, sanomalla ‘Näyttää siltä, että se tapahtuu, kun käyttäjän tilillä on NSFW’. Luultavasti ainoa keino hidastaa tällaisten pyyntöjen todennäköisyyttä SFW-deepfake-aliryhmissä olisi kieltää käyttäjiä, jotka ovat “ansainneet” tämän luokan.)

Suurin osa sisällöstä tässä aliryhmässä ja suuremmassa r/SFWdeepfakes:ssä koskee deepfake-tekniikan käyttöä “uudelleenvalintaan” näyttelijöille suositulla elokuvista tai klassikoista, tai muuten vain viihdyttävään, viattomaan AI-vetoon suositun median ja deepfake-tekniikan kanssa, ja ne kelpaavat todella ‘SFW’:ksi.

Vaikka moni tällainen postaus on lähellä tekijänoikeuksien mukaisia kieltoja, jatkuva selviytyminen “IP-omistettujen” ei-pornografisten deepfake-videopostien julkaisemisesta suurten YouTube-deepfake-tekijöiden, kuten Ctrl-Shift-Facen, kanssa viittaa laajaan studio- ja oikeudenhaltijoiden suvaitsevuuteen tällaisia toimia kohtaan, ainakin toistaiseksi.

Deepfake-Prosessin ja -Ekosysteemin “Viattoman” Ulkonäön

Kaksi viikkoa sitten tuli ilmi (ja keskustelu) siitä, että Google oli yllättäen kieltänyt deepfake-luomisohjelmistot Colab-pilviolentoista. Edelleen Colab näyttää olevan “laukaistu” vain DeepFaceLab (DFL):n, maailman suosituimman deepfake-ohjelmiston, yrittäessä ajaa, eikä vähemmän käytettyjä toteutuksia, kuten FaceSwap, joka on paremmin mainittu, vaikka se suorittaa samat tehtävät kuin DFL.

Jossain määrin tämä lähestymistapa saattaa olla ollut ainoa tapa, jolla Colab olisi voinut toteuttaa minkäänlaisen rajoituksen deepfake-pornografian tuottamiselle, koska itse deepfake-koulutusprosessi käyttää ainoastaan avoimen lähdekoodin ohjelmistoa ja hyvin leikattuja kasvokuvia (yleensä vain 512x512px, usein vähemmän), ja lähes nolla mahdollisuus kuvatunnistusalgoritmien havaitseville todellisille pornografisille sisällöille.

Kun deepfake-malli on koulutettu, deepfaker ei enää tarvitse Colabin tai kalliin paikallisen GPU:n valtavaa laskentakapasiteettia. Useimmat todelliset muunnokset (ts. prosessi, jossa kasvo upotetaan videoon, pornografiseen tai muuhun), voidaan suorittaa paikallisesti, alitehoisilla kannettavien tietokoneiden GPU:illa – tai jopa CPU:lla (hieman pitemmällä prosessointiajalla). Kun deepfake-prosessissa tapahtuu jotain pornografista, Colab on jo pitkään poistunut kuvasta.

Siten deepfake-pornografian luomiseen osallistuvien luomien välistä kulkevat rakenteelliset osat edustavat harvoin muuta kuin mahdollisen vähäisen tekijänoikeusloukkauksen, joka on muodoltaan “kasvokokoelma”, jonka deepfake-luojat ovat poistaneet YouTube-videosta, Blu-ray-levyistä, televisiohaastatteluista, sosiaalisesta mediasta ja muista lähteistä.

Onko “Polttomaata” -politiikka tulossa deepfake-yhteisöille?

Kysymys, joka vaivaa deepfake-Discord-yhteisöjen asukkaita, kuten DeepFaceLab (mukaan lukien DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-pohjainen ympäristö DFL:lle, useilla lisäominaisuuksilla), ja uudet ääniin perustuvat deepfake-Discord-palvelimet, kuten Audio Deepfakes on kohtaavatko nykyiset portaalien ja alustojen omistajat lopulta yksinkertaisesti deepfake-yhteisöjä periaatteellisesti, sen sijaan, että kantaisivat jatkuvan moderoinnin kustannukset vastaan NSFW-kannattajia ja luojia?

Bryan Lyon, FaceSwappin kehittäjä ja projektiin liittyvän Discord-palvelimen omistaja, kommentoi^†:

‘Olemme onnistuneet pysymään Discordissa, vaikka useita puhdistuksia, pysymällä täysin puhtaana. Meillä ei ole piilotettuja kanavia tai salainen toissijainen palvelin, jossa on laitonta sisältöä. Tämä on DeepFaceLab-palvelimen puhdistus pari vuotta sitten. Jokainen siinä sai porttikiellon. Heillä oli kutsuvaatimukset pääsystä kanaviin, joissa oli tahaton pornografia.’

Ottaen huomioon, että Google, yksi maailman suurimmista teknologisista resursseista, on kieltänyt deepfake-koulutuksen palvelimillaan ja GPU:illa, on myös mahdollista, että Microsoftin omistama GitHub saattaa päätyä siihen, että tämänkaltaisten teknologioiden mahdollistaminen* ei lopulta ole arvokasta moraaliselle epäselvyydelle tai valvontaan liittyville investoinneille.

Tällä hetkellä deepfake-tekniikkojen legitimoimisen prosessi on liian nuori tuottamaan selkeitä ohjeita alustoille ja yhteisöpalveluille.

* Arkisto https://github.com/search?q=deepfake maanantaina 13. kesäkuuta 2022.
† Yksityisissä viesteissä Discordissa.

Julkaistu ensimmäisen kerran 13. kesäkuuta 2022. Muokattu 15:08 UTC:aikaan kuvan muokkauksen vuoksi.
Muokattu tiistaina 14. kesäkuuta 2022 kello 6:24 UTC, lisätty Reddit-moderatorin vastaus NSFW-tilasta joissain posteissa. Myös kuvan muokkaus RSS-syötteiden kuvauksessa.