Reddit Forbyr ‘SFW’ Deepfake-samfunn

Over helgen, åpenbart en gang rundt søndag, forbød Reddit det nominelt ‘SFW’ (Sikker For Arbeid) deepfakes-samfunnet med tittelen r/deepfakesfw. Subreddit-en var en av de tidlige responsene på det sosiale mediegigantens prompt sletting av den originale, AI-porn-rike r/deepfakes sub i 2018.

Den (relativt) standard-legende som nå hilser (arkiv-snapshot tatt mandag, 13. juni) alle som besøker sub-en forklarer at den ‘ble forbudt på grunn av en overtredelse av Reddits regler mot ufrivillig pornografi’.

Den nye forsiden for r/deepfakesfw.

Sub-en r/deepfakesfw ble ikke ofte arkivert av populære konserveringsplattformer, men den mest nylige WayBack Machine-snapshot, tatt for omtrent ti dager siden (3. juni 2022), indikerer at sub-en hadde 3 095 lesere på det tidspunktet.

Dette er faktisk et høyere antall abonnenter enn r/DeepFakesSFW (merk den ekstra ‘s’), som for øyeblikket har 2 827 lesere (arkiv-snapshot tatt mandag, 13. juni 2022). Det mest populære ‘legitime’ SFW deepfakes-samfunnet synes å være r/SFWdeepfakes, som på skrivende tid har 16 636 lesere (snapshot tatt mandag, 13. juni 2022).

Ikke Spør

Hva som synes å ha dømt r/deepfakesfw var ikke innleggene, men forespørselen om deepfake-pornografi. Reddits regler for seksuelt eksplisitt innhold sier:

‘[Bilder] eller video av en annen person publisert for å fake eksplisitt innhold eller å forespørre “liknende” pornografi (f.eks. “deepfakes” eller “boble-porn”) er også mot regelen.’

Basert på den siste tilgjengelige RSS-feeden fra det nå forbudte SFW-sub-en, var det forespørselen om deepfake-pornografi som endelig utløste forbudet:

Noen av de siste, åpenbart NSFW-innleggene fra det nå døde r/deepfakesfw-subredditet. Kilde: Inoreader.

Selv om innleggene som disse RSS-innleggene peker til ikke lenger er tilgjengelige, avslører det å klikke på forespørernes profil-lenker (uskarpt i bildet over) at mange av posterne forespør forbudt deepfake-innhold på flere enn ett forum, og enten ber om eller tilbyr noen av de mest ekstreme innholdene av denne typen, inkludert incest-pornografi og forskjellige skygger av ufrivillig pornografiske temaer.

Dette antyder at de gjenværende ‘SFW’ Reddit-sub-en overlever ved moderatorenes hastighet, flid og raske respons-tider, siden det synes som om Reddit ikke er villig til å bli en slags ‘klassifisert annonse’-plattform for mennesker å konektere og transaksjonere ulovlige deepfakes via DM-er (i tilfeller hvor dette ikke kan forespørres eksplisitt i en innlegg).

Hvis så, kan det ikke-yet-forbudte r/DeepFakesSFW kanskje leve på lånt tid; dens to nåværende topp-innlegg når du går inn på roten til subreddit-URL-en med ‘old’ Reddit-temaet har blitt spesifikt merket ‘NSFW’ (en tagg som ikke burde være tilgjengelig i denne bestemte samfunnet).

Avhengig av omstendighetene, vises noen regel-brytende innlegg nå i r/DeepFakesSFW-sub-en. Kilde: https://www.reddit.com/r/DeepFakesSFW/

Du kan se disse to NSFW-innleggene som topp-innlegg i dagens r/DeepFakesSFW-forum arkivert her (snapshot tatt mandag, 13. juni 2022).

Det finnes faktisk ingen NSFW-‘flair’ tilgjengelig når du lager en ny innlegg på r/DeepFakesSFW, som har vært i drift i fire år, ifølge side-informasjonen:

Tilgjengelige ‘flair’ når du poster til r/DeepFakesSFW.

Derfor synes NSFW-taggene på r/DeepFakesSFW å ha blitt brukt av moderatorer på forumet eller av høyere-nivå admins – eller kanskje selv algoritmer, muligens uten noen form for inngripen eller tilgjengelig motstand fra lokale moderatorer. Jeg kontaktet den eneste listede moderator på r/DeepFakesSFW om dette, og vil publisere eventuelle oppdateringer.

(REDIGERT, tirsdag, 14. juni 2022 – En moderator på r/DeepFakesSFW har svart, og sa ‘Det ser ut til å skje når brukerens konto er NSFW’. Det eneste måten å sakke ned sannsynligheten for slike forespørsler i SFW deepfake-subreddit-er ville derfor være å forby brukere som har ‘tjent’ denne klassifiseringen.)

De fleste innleggene på dette subreddit-en, og på det større r/SFWdeepfakes, handler om å bruke deepfake-teknologi til å ‘gjen-caste’ skuespillere fra populære eller klassiske filmer, eller på annen måte å ha noen mer harmløse AI-drevne moro med populærmedia og deepfake-teknologi, og kvalifiserer faktisk som ‘SFW’.

Selv om mange av disse innleggene nærmer seg farlig nær copyright-drevne forbud, tyder overlevelsen av ‘IP-tilknyttede’ ikke-pornografiske deepfake-video-innlegg av store YouTube-deepfakere som Ctrl-Shift-Face på en bred studio- og rettighetshaver-toleranse mot slike aktiviteter, i det minste for øyeblikket.

‘Uskyldig’ Utseende av Deepfake-prosessen og Økosystemet

For to uker siden ble det kjent (og mye diskusjon) at Google hadde plutselig forbudt deepfake-oppbyggingsprogramvare fra sine populære Colab-skyprosesserings-miljøer. Selv i dag ser det ut til at Colab kun er ‘utløst’ av forsøk på å kjøre DeepFaceLab (DFL), den mest populære deepfakes-programvaren i verden (og den som er mest knyttet til AI-porn), fremfor mindre-frekvente implementeringer som FaceSwap, som er bedre-reputert, selv om det utfører eksakt de samme oppgavene som DFL.

Til en viss grad kan denne tilnærmingen ha vært den eneste måten Colab kunne ha implementert noe restriksjon på produksjonen av deepfake-pornografi, siden den faktiske deepfake-treningprosessen bruker bare åpen kilde-programvare og høyt kroppede ansiktsbilder (vanligvis på bare 512x512px, ofte mindre), med nesten null mulighet for bilde-gjenkjenning-algoritmer å pågripe noen faktisk pornografisk innhold.

Ved den tid deepfake-modellen er trent, trenger deepfakeren ikke lenger den enorme prosesseringskraften til Colab eller en dyr lokal GPU. De fleste faktiske konverteringer (dvs. prosessen med å påføre et ansikt i en video, pornografisk eller ikke), kan utføres lokalt, på lav-kraftete bærbar-GPU-er – eller selv på en CPU (med en litt lengre prosesserings-tid). Ved den tid noe pornografisk skjer i deepfake-prosessen, har Colab lenge siden blitt kuttet ut av bildet.

Derfor representerer de konstituerende elementene som passerer mellom skapere av deepfake-porn sjelden mer enn en potensiell mindre copyright-infraksjon, i form av passing av ‘ansikt-sammenstillinger’, som deepfake-skaperne har trukket fra YouTube-videoer, Blu-rays, TV-intervjuer, sosiale medier og forskjellige andre kilder.

Kommer en ‘Ødelagt Jord’ Politikk for Deepfake-samfunn?

Spørsmålet som hjemsøker innbyggerne i deepfake Discord-samfunn som DeepFaceLab (inkludert DeepFaceLive), FaceSwap, Machine Video Editor (MVE, et GUI-basert miljø for DFL, med mange tilføyde funksjoner), og nye audio-baserte deepfake Discord-servere som Audio Deepfakes er Kommer nåværende portal- og plattformeiere snart å forby deepfake-samfunn på prinsippet, fremfor å bære utgiftene til konstant moderering mot en tide av NSFW-tilhengere og skapere?

Bryan Lyon, en av utviklerne av FaceSwap, og eieren av prosjektets tilknyttede Discord-server, kommenterte^†:

‘Vi har klart å forbli på Discord, til tross for flere utrenninger, ved å forbli absolutt renslige. Vi har ingen skjulte kanaler eller en hemmelig annen server med ulovlig innhold. Det var en utrenning av den populære DeepFaceLab-serveren for noen år tilbake. Alle på den ble forbudt. De hadde inviterte roller med tilgang til kanaler med ikke-samtykkende pornografi.’

Gitt at Google, en av verdens største tekniske vertsmidler, har blanket-forbudt deepfake-trening på sine servere og GPU-er, er det mulig at Microsoft-eide GitHub kan bestemme at å fasilitere disse teknologiene* vil til slutt ikke være verdt den moralske tvetydigheten eller investeringen i overvåking.

På dette tidspunktet er prosessen med å legitimere deepfake-teknologier så de kan gå over fra hjemmelagde porn til film- og TV-produksjon, og ikke-infringende/kriminelle bruksområder, for nytt til å produsere klare politiske retningslinjer for plattformer og samfunnstjenester.

* Arkiv av https://github.com/search?q=deepfake fra mandag, 13. juni 2022.
† I private DM-er på Discord.

Først publisert 13. juni 2022. Redigert 15:08 UTC for bilde-amend.
Endret tirsdag, 14. juni 2022 06:24 UTC, for å legge til Reddits moderator-respons angående NSFW-status for noen postere. Også bilde-amend på RSS-feeds-illustrasjon.