Reddit kieltää ‘SFW’ Deepfake-yhteisön

Viime viikonloppuna, ilmeisesti sunnuntaina, Reddit kielsi nimellisesti ‘SFW’ (Safe For Work) deepfake-yhteisön nimeltä r/deepfakesfw. Subredditi oli yksi varhaisimmista vastauksista sosiaalisen median jätti Redditin pyynnöstä poistaa alkuperäinen, AI-pornon täyttämä r/deepfakes-subredditi vuonna 2018.

Selite, joka nyt tervehtii (arkistokuva otettu maanantaina 13. kesäkuuta) ketä tahansa, joka vierailee aliryhmässä, selittää, että se “kärsi Redditin sääntöjen vastaisesta toiminnasta epäsuostuvaa pornografiaa vastaan”.

Uusi etusivu r/deepfakesfw:lle.

r/deepfakesfw-aliryhmää ei arkistoida usein suositulla conservation-alustalla, mutta viimeisin WayBack Machine -kuva, joka on otettu noin kymmenen päivää sitten (3. kesäkuuta 2022), osoittaa, että aliryhmässä oli 3 095 lukijaa tuolloin.

Tämä on itse asiassa suurempi määrä kuin r/DeepFakesSFW:llä (huomaa ylimääräinen ‘s’), jolla on tällä hetkellä 2 827 lukijaa (arkistokuva otettu maanantaina 13. kesäkuuta 2022). Suosituin “legitiimi” SFW-deepfake-yhteisö näyttää olevan r/SFWdeepfakes, jolla on tällä hetkellä 16 636 lukijaa (kuva otettu maanantaina 13. kesäkuuta 2022).

Älä Edes Kysy

Mikä näyttää tuhonneen r/deepfakesfw:n, ei ollut julkaisu vaan pyyntö deepfake-pornografiaa varten. Redditin säännöt seksuaalisesti eksplisiittisestä mediasta sanovat:

‘[Kuvia] tai videoita toisesta henkilöstä, jotka on julkaistu tietoisesti eksplisiittisen sisällön väärentämistä tai “kaltaistuvan” pornografian (esim. “deepfakes” tai “bubble porn”) pyytämistä varten, on myös sääntöjen vastaista.’

Viimeisten saatavilla olevien RSS-syötteiden perusteella nyt kielletystä SFW-aliryhmästä, on näyttänyt, että pyynnöt eivät ole julkaisuja, vaan lopulta laukaisseet kiellon:

Jotkut viimeisistä selvästi NSFW-posteista nyt kuolleesta r/deepfakesfw-subredditistä. Lähde: Inoreader.

Vaikka nämä RSS-postit eivät enää ole saatavilla, klikkaamalla pyynnön tekijän profiililinkkejä (sumennettu yllä olevassa kuvassa) paljastuu, että monista pyynnön tekijöistä on useita foorumeita, joissa he pyytävät tai tarjoavat jotain tämän kaltaista sisältöä, mukaan lukien insesti-pornoa ja erilaisia epäsuostuvia pornografisia teemoja.

Tämä osoittaa, että jäljellä olevat ‘SFW’ Reddit-aliryhmät selviävät nopeuden, ahkeruuden ja nopean vastausajan ansiosta, koska näyttää siltä, että Reddit ei halua tulla “luokituille ilmoituksille” foorumiksi, jossa ihmiset voivat yhdistää ja transaktioita laittomia deepfake-kuvia DM: n kautta (tapauksissa, joissa tätä ei voida eksplisiittisesti pyytää postissa).

Jos näin on, niin ei vielä kielletty r/DeepFakesSFW saattaa olla elävä lainalla; sen kaksi nykyistä ylintä postia, kun käytetään “vanhaa” Reddit-aihetta, on erityisesti merkitty ‘NSFW’ (tagi, joka ei pitäisi olla saatavilla tässä yhteisössä).

Joissain olosuhteissa joitain sääntöjä rikkoavia postauksia näkyy tällä hetkellä r/DeepFakesSFW-aliryhmässä. Lähde: https://www.reddit.com/r/DeepFakesSFW/

Näitä kahta NSFW-postia voidaan nähdä r/DeepFakesSFW-foorumin arkistossa täällä (kuva otettu maanantaina 13. kesäkuuta 2022).

Ei ole NSFW-“flair”-merkintää, kun tehdään uusi postaus r/DeepFakesSFW:lle, joka on ollut toiminnassa neljä vuotta sivupalkin tiedon mukaan:

Saatavilla olevat “flairit”, kun postataan r/DeepFakesSFW:lle.

Siksi NSFW-tagit r/DeepFakesSFW:ssä näyttävät olevan joko moderatorien tai korkeamman tason adminien soveltamia – tai jopa algoritmeja, mahdollisesti ilman paikallisten moderatorien väliintuloa tai saatavilla olevaa vastustamista. Olen ollut yhteydessä r/DeepFakesSFW:n ainoaan listattuun moderatoriin tästä, ja ilmoitan mahdolliset päivitykset.

(MUOKATTU, tiistai, 14. kesäkuuta 2022 – r/DeepFakesSFW:n moderatori on vastannut, sanomalla ‘Näyttää siltä, että se tapahtuu, kun käyttäjän tilillä on NSFW’. Luultavasti ainoa keino hidastaa tällaisten pyyntöjen todennäköisyyttä SFW-deepfake-aliryhmissä olisi kieltää käyttäjiä, jotka ovat “ansainneet” tämän luokan.)

Suurin osa tätä aliryhmää ja suurempaa r/SFWdeepfakesiä koskee deepfake-tekniikan käyttämistä “uudelleenvalintaan” elokuvista tai televisiosarjoista tai muuhun viattomaan AI-vetoon deepfake-tekniikalla, ja ne ovat todella “SFW”.

Vaikka monet tällaiset postaukset ovat lähellä tekijänoikeusperäisiä kieltoja, jatkuvan selviytymisen “IP-omisteisia” ei-pornodeepfake-videopostauksia suurista YouTube-deepfake-käyttäjiltä, kuten Ctrl-Shift-Face, osoittaa laajan studio- ja oikeudenhaltijoiden suvaitsevaisuuden tällaisia toimia kohtaan, ainakin toistaiseksi.

Deepfake-prosessin ja -ekosysteemin “viattoman” ulkonäön

Kaksi viikkoa sitten selvisi, että Google oli yllättäen kieltänyt (ja paljon keskustelua) deepfake-luomisohjelmistoa Colab-pilviolosuhteista. Jopa tähän päivään mennessä Colab näyttää olevan “laukaistu” ainoastaan DeepFaceLabia (DFL) ajamalla, joka on maailman suosituin deepfake-ohjelmisto (ja se, joka on lähinnä liitetty AI-pornoon), eikä vähemmän käytettyjä toteutuksia, kuten FaceSwap, joka on paremmin maineeltaan, vaikka se suorittaa samat tehtävät kuin DFL.

Jossain määrin tämä lähestymistapa saattaa olla ollut ainoa keino, jolla Colab olisi voinut asettaa minkäänlaisen rajoituksen deepfake-pornografian tuotannolle, koska itse deepfake-koulutusprosessi käyttää ainoastaan avoimen lähdekoodin ohjelmistoa ja hyvin leikattuja kasvokuvia (yleensä vain 512x512px, usein vähemmän), ja lähes nolla mahdollisuus kuvatunnistusalgoritmien väliintuloon minkäänlaista pornografista sisältöä.

Kun deepfake-malli on koulutettu, deepfaker ei enää tarvitse Colabin tai kalliin paikallisen GPU:n valtavaa prosessointikykyä. Suurin osa todellisista muunnoksista (ts. prosessi, jossa kasvo asetetaan videoon, pornografiseen tai muuhun), voidaan suorittaa paikallisesti, matalatehoisilla kannettavien tietokoneiden GPU:illa – tai jopa CPU:lla (hieman pitemmällä prosessointiajalla). Kun deepfake-prosessissa tapahtuu jotain pornografista, Colab on jo kauan sitten poistunut kuvasta.

Siksi deepfake-pornografian luojien välillä kulkevat osatekijät edustavat harvoin muuta kuin mahdollista vähäistä tekijänoikeusloukkausta, joka on muodoltaan “kasvokokoelma”, jonka deepfake-luojat ovat poistaneet YouTube-videota, Blu-ray-levyjä, televisiohaastatteluita, sosiaalista mediaa ja eri lähteitä.

Tuleeko “Polttokelpo” -politiikka deepfake-yhteisöille?

Kysymys, joka vaivaa deepfake-Discord-yhteisöjen asukkaita, kuten DeepFaceLab (mukaan lukien DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-pohjainen ympäristö DFL:lle, jossa on monia lisäominaisuuksia), ja uudet ääniin perustuvat deepfake-Discord-palvelimet, kuten Audio Deepfakes on Onko portaalien ja alustojen omistajat pian yksinkertaisesti kieltävät deepfake-yhteisöjä periaatteessa, eikä kanna jatkuvan valvonnan kustannuksia NSFW-kannattajien ja luojien virtaa vastaan?

Bryan Lyon, FaceSwapin kehittäjä ja projektiin liittyvän Discord-palvelimen omistaja, kommentoi^†:

‘Olemme onnistuneet pysymään Discordissa, vaikka useita puhdistuksia, pysymällä täysin puhdas. Meillä ei ole piilotettuja kanavia tai salainen toinen palvelin, jossa on laiton sisältö. Tämä oli DeepFaceLab-palvelimen puhdistus pari vuotta sitten. Jokainen siinä sai porttikiellon. Heillä oli kutsuun perustuvia rooleja, joilla pääsi käsiksi kanaviin, joissa oli suostumukseton pornografia.’

Koska Google, yksi maailman suurimmista teknologisista isäntäresursseista, on kieltänyt deepfake-koulutuksen palvelimillaan ja GPU:illa, on mahdollista, että Microsoftin omistama GitHub saattaa päättää, että tämänkaltaisten teknologioiden mahdollistaminen* ei lopulta ole arvokasta moraalisesta epäselvyydestä tai valvontaan liittyvistä panostuksista.

Tällä hetkellä deepfake-tekniikkojen legitimointiprosessi, jotta niiden käyttö siirtyy kotitekoisesta pornosta elokuva- ja TV-tuotantoon ja ei-infringing/rikollisiin käyttöön, on liian alkukantainen tuottamaan selkeitä ohjeita alustoille ja yhteisöpalveluille.

* Arkisto https://github.com/search?q=deepfake maanantaina 13. kesäkuuta 2022.
† Yksityisissä DM:ssä Discordissa.

Julkaistu ensimmäisen kerran 13. kesäkuuta 2022. Muokattu 3:08 PM UTC kuvan muokkaamiseksi.
Muokattu tiistaina 14. kesäkuuta 2022 kello 6:24 UTC, lisätty Reddit-moderatorin vastaus NSFW-tilasta joissain postauksissa. Myös kuvamuokkaus RSS-syötteiden kuvassa.