Andersonin kulma

Reddit sulkee SFW-deepfake-yhteisön

Martin Anderson
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatReddit kielsi r/deepfakesfw-yhteisön tahattoman pornografian pyytämisen vuoksi, ei sen…
Näytä lisää
  • Reddit kielsi r/deepfakesfw-yhteisön tahattoman pornografian pyytämisen vuoksi, ei sen julkaisemisen takia.
  • Google kielsi deepfake-harjoittelun Colabissa, mutta kielto koskee vain DeepFaceLabia, ei muita työkaluja.
  • Lailliset deepfake-yhteisöt selviytyvät vain tiukan NSFW-sisältöpyyntöjä koskevan valvonnan avulla.

Viikonloppuna, ilmeisesti sunnuntaina, Reddit kielsi nimellisesti ‘SFW’ (Safe For Work) deepfake-yhteisön nimeltä r/deepfakesfw. Subredditi oli yksi varhaisimmista vastauksista sosiaalisen median jättiläisen poistamiseen alkuperäisestä, AI-pornon täyttämästä r/deepfakes-subredditistä vuonna 2018.

(Suhteellisen) vakiomuotoinen ilmoitus, joka nyt tervehtii (arkistokuva otettu maanantaina 13. kesäkuuta) ketä tahansa, joka vierailee aliryhmässä, selittää, että se ‘oli kielletty Redditin sääntöjen vastaisen ilman suostumusta tehdyn pornografian vuoksi’.

Uusi etusivu r/deepfakesfw:lle.

Uusi etusivu r/deepfakesfw:lle.

R/deepfakesfw-aliryhmää ei arkistoitu usein suosituilla säilytysalustoilla, mutta viimeisin WayBack Machine -kuva, joka on otettu noin kymmenen päivää sitten (3. kesäkuuta 2022), osoittaa, että aliryhmässä oli 3 095 lukijaa tuolloin.

Se on itse asiassa suurempi luku kuin r/DeepFakesSFW:ssä (huomaa ylimääräinen ‘s’), jossa on tällä hetkellä 2 827 lukijaa (arkistokuva otettu maanantaina 13. kesäkuuta 2022). Suosituin ‘legitiimi’ SFW-deepfake-yhteisö näyttää olevan tällä hetkellä r/SFWdeepfakes, jossa on tällä hetkellä 16 636 lukijaa (kuva otettu maanantaina 13. kesäkuuta 2022).

Älä Edes Kysy

r/deepfakesfw:n kohtalon näyttää ratkaisseen julkaisemisen sijasta deepfake-pornografian pyytäminen. Redditin säännöt seksuaalisesti eksplisiittisestä mediasta sanovat:

‘[Kuvia] tai videoita toisesta henkilöstä, jotka on julkaistu tietoisesti tekaistun eksplisiittisen sisällön tai “lookalike”-pornografian (esim. “deepfakes” tai “bubble porn”) pyytämiseksi, on myös sääntöjen vastaista.’

Nyt suljetun SFW-yhteisön viimeisten saatavilla olevien RSS-syötteiden perusteella kiellon laukaisi lopulta NSFW-deepfake-sisällön pyytäminen sen julkaisemisen sijaan:

Jotkut viimeisistä selvästi NSFW-posteista nyt kuolleesta r/deepfakesfw-aliryhmästä. Lähde: Inoreader.

Jotkut viimeisistä selvästi NSFW-posteista nyt kuolleesta r/deepfakesfw-aliryhmästä. Lähde: Inoreader.

Vaikka RSS-julkaisujen linkittämät viestit eivät ole enää saatavilla, napsauttamalla pyynnön tekijän profiililinkkejä (sumennettu yllä olevassa kuvassa) paljastuu, että monet kirjoittajat pyytävät kiellettyä deepfake-sisältöä useammassa kuin yhdessä foorumissa, ja pyytää tai tarjoaa tämän sisältötyypin äärimmäisimpiä muotoja, mukaan lukien insesti-porno ja erilaisia ilman suostumusta tuotettuja pornografisia aiheita.

Tämä osoittaa, että jäljellä olevat ‘SFW’ Reddit-aliryhmät selviävät moderointityön nopeuden, ahkeruuden ja nopean vastausajan ansiosta, koska Redditin näyttää olevan haluton muuttumaan jonkinlaiseksi luokiteltujen ilmoitusten foorumiksi, jossa ihmiset voivat yhdistää ja käydä laitonta deepfake-kauppaa yksityisissä viesteissä (tapauksissa, joissa sitä ei voida pyytää eksplisiittisesti postissa).

Jos näin on, niin vielä kieltämätön r/DeepFakesSFW saattaa elää lainatulla ajalla; sen kaksi tämänhetkistä suosituinta julkaisua, kun käytetään “vanhaa” Reddit-aihetta, on nimenomaan merkitty ‘NSFW’ (tagi, joka ei pitäisi olla saatavilla tässä yhteisössä).

Joissain olosuhteissa joitain sääntöjä rikkoavia posteja näkyy tällä hetkellä r/DeepFakesSFW-aliryhmässä. Lähde: https://www.reddit.com/r/DeepFakesSFW/

Joissain olosuhteissa joitain sääntöjä rikkoavia posteja näkyy tällä hetkellä r/DeepFakesSFW-aliryhmässä. Lähde: https://www.reddit.com/r/DeepFakesSFW/

Näitä kahta NSFW-postia voidaan nähdä r/DeepFakesSFW-foorumin arkistossa täällä (kuva otettu maanantaina 13. kesäkuuta 2022).

Todella ei ole NSFW-“flairia” saatavilla, kun tehdään uusi postaus r/DeepFakesSFW:ssä, joka on ollut toiminnassa neljä vuotta sen sivupalkitiedon mukaan:

Saatavilla olevat tagit, kun postaa r/DeepFakesSFW:hen.

Saatavilla olevat “flairit”, kun postaa r/DeepFakesSFW:hen.

Siten NSFW-tagit r/DeepFakesSFW:ssä näyttävät joko olleen sovellettuna foorumin moderateuroilla tai korkeamman tason hallinnollaan – tai jopa algoritmeilla, mahdollisesti ilman paikallisten moderateurien väliintuloa tai saatavilla olevaa vastustusta. Olen ollut yhteydessä ainoaan listattuun moderateuriin r/DeepFakesSFW:stä tästä, ja postaan saatavilla olevat päivitykset.

(MUOKATTU, tiistai, 14. kesäkuuta 2022 – r/DeepFakesSFW:n moderateuri on vastannut, sanomalla ‘Näyttää siltä, että se tapahtuu, kun käyttäjän tilillä on NSFW’. Luultavasti ainoa keino hidastaa tällaisten pyyntöjen todennäköisyyttä SFW-deepfake-aliryhmissä olisi kieltää käyttäjiä, jotka ovat “ansainneet” tämän luokan.)

Suurin osa sisällöstä tässä aliryhmässä ja suuremmassa r/SFWdeepfakes:ssä koskee deepfake-tekniikan käyttöä “uudelleenvalintaan” näyttelijöille suositulla elokuvista tai klassikoista, tai muuten vain viihdyttävään, viattomaan AI-vetoon suositun median ja deepfake-tekniikan kanssa, ja ne kelpaavat todella ‘SFW’:ksi.

Vaikka moni tällainen postaus on lähellä tekijänoikeuksien mukaisia kieltoja, jatkuva selviytyminen toisten immateriaalioikeuksia hyödyntävien ei-pornografisten deepfake-videopostien julkaisemisesta suurten YouTube-deepfake-tekijöiden, kuten Ctrl-Shift-Facen, kanssa viittaa laajaan studio- ja oikeudenhaltijoiden suvaitsevuuteen tällaisia toimia kohtaan, ainakin toistaiseksi.

Deepfake-Prosessin ja -Ekosysteemin “Viattoman” Ulkonäön

Kaksi viikkoa sitten tuli ilmi (ja herätti paljon keskustelua), että Google oli äkillisesti kieltänyt deepfake-ohjelmistot suositussa Colab-pilvilaskentaympäristössään. Vielä nytkin Colab näyttää reagoivan vain yrityksiin suorittaa DeepFaceLabia (DFL), maailman suosituinta deepfake-ohjelmistoa, joka myös liitetään vahvimmin tekoälypornografiaan. Vähemmän käytetyt toteutukset, kuten parempimaineinen FaceSwap, eivät näytä laukaisevan kieltoa, vaikka ne suorittavat täsmälleen samat tehtävät kuin DFL.

Jossain määrin tämä lähestymistapa saattaa olla ollut ainoa tapa, jolla Colab olisi voinut toteuttaa minkäänlaisen rajoituksen deepfake-pornografian tuottamiselle, koska itse deepfake-koulutusprosessi käyttää ainoastaan avoimen lähdekoodin ohjelmistoa ja hyvin leikattuja kasvokuvia (yleensä vain 512x512px, usein vähemmän), ja lähes nolla mahdollisuus kuvatunnistusalgoritmien havaitseville todellisille pornografisille sisällöille.

Kun deepfake-malli on koulutettu, deepfaker ei enää tarvitse Colabin tai kalliin paikallisen GPU:n valtavaa laskentakapasiteettia. Useimmat todelliset muunnokset (ts. prosessi, jossa kasvo upotetaan videoon, pornografiseen tai muuhun), voidaan suorittaa paikallisesti, alitehoisilla kannettavien tietokoneiden GPU:illa – tai jopa CPU:lla (hieman pitemmällä prosessointiajalla). Kun deepfake-prosessissa tapahtuu jotain pornografista, Colab on jo pitkään poistunut kuvasta.

Siten deepfake-pornografian luomiseen osallistuvien luomien välistä kulkevat rakenteelliset osat edustavat harvoin muuta kuin mahdollisen vähäisen tekijänoikeusloukkauksen, joka on muodoltaan “kasvokokoelma”, jonka deepfake-luojat ovat poimineet YouTube-videoista, Blu-ray-levyistä, televisiohaastatteluista, sosiaalisesta mediasta ja muista lähteistä.

Onko “Poltetun maan” -politiikka tulossa deepfake-yhteisöille?

Kysymys, joka vaivaa deepfake-Discord-yhteisöjen asukkaita, kuten DeepFaceLab (mukaan lukien DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-pohjainen ympäristö DFL:lle, useilla lisäominaisuuksilla), ja uudet ääniin perustuvat deepfake-Discord-palvelimet, kuten Audio Deepfakes on kieltävätkö nykyiset portaalien ja alustojen omistajat pian deepfake-yhteisöt periaatteesta, sen sijaan, että kantaisivat jatkuvan moderoinnin kustannukset vastaan NSFW-kannattajia ja luojia?

Bryan Lyon, FaceSwappin kehittäjä ja projektiin liittyvän Discord-palvelimen omistaja, kommentoi†:

‘Olemme onnistuneet pysymään Discordissa, vaikka useita puhdistuksia, pysymällä täysin puhtaana. Meillä ei ole piilotettuja kanavia tai salainen toissijainen palvelin, jossa on laitonta sisältöä. Suosittu DeepFaceLab-palvelin poistettiin pari vuotta sitten. Jokainen siinä sai porttikiellon. Heillä oli vain kutsusta saatavia rooleja, joilla pääsi kanaviin, joissa oli ilman suostumusta tuotettua pornografiaa.’

Ottaen huomioon, että Google, yksi maailman suurimmista teknologisista resursseista, on kieltänyt deepfake-koulutuksen palvelimillaan ja GPU:illa, on myös mahdollista, että Microsoftin omistama GitHub saattaa päätyä siihen, että tämänkaltaisten teknologioiden mahdollistaminen* ei lopulta ole arvokasta moraaliselle epäselvyydelle tai valvontaan liittyville investoinneille.

Tällä hetkellä deepfake-tekniikan hyväksyttäväksi tekeminen ja käytön siirtyminen kotitekoisesta pornografiasta elokuva- ja televisiotuotantoon sekä oikeuksia loukkaamattomiin ja laillisiin käyttötarkoituksiin on vielä liian varhaisessa vaiheessa tuottaakseen selkeitä toimintaohjeita alustoille ja yhteisöpalveluille.

 

* Arkisto https://github.com/search?q=deepfake maanantaina 13. kesäkuuta 2022.
† Yksityisissä viesteissä Discordissa.

Julkaistu ensimmäisen kerran 13. kesäkuuta 2022. Muokattu 15:08 UTC:aikaan kuvan muokkauksen vuoksi.
Muokattu tiistaina 14. kesäkuuta 2022 kello 6:24 UTC, lisätty Reddit-moderatorin vastaus NSFW-tilasta joissain posteissa. Myös kuvan muokkaus RSS-syötteiden kuvauksessa.

Kirjoittaja koneoppimisen parissa, ihmisiä esittävien kuvien synteesin asiantuntija. Entinen tutkimussisällön johtaja Metaphysic.ai:ssa, kunnes se sulautui DNEG:n Brahma.ai:hin.
Verkkosivu: martinanderson.ai
Yhteystiedot: martin@martinanderson.ai