Reddit Forbyder ‘SFW’ Deepfake Fællesskab

Over weekenden, åbenbart omkring søndag, forbød Reddit det nominelt ‘SFW’ (Sikker For Arbejde) deepfakes fællesskab med titlen r/deepfakesfw. Subreddit’en var en af de tidlige reaktioner på det sociale medie-gigantens sletning af den originale, AI-porn-fyldte r/deepfakes sub i 2018.

Den (relativt) standard-legende, der nu møder (arkiv-snapshot taget mandag, 13. juni) enhver, der besøger sub’en, forklarer, at den ‘blev forbudt på grund af en overtrædelse af Reddits regler mod ufrivillig pornografi’.

Den nye forside for r/deepfakesfw.

Sub’en r/deepfakesfw blev ikke ofte arkiveret af populære konserveringsplatforme, men den seneste WayBack Machine-snapshot, taget for cirka ti dage siden (den 3. juni 2022), indikerer, at sub’en havde 3.095 læsere på det tidspunkt.

Det er faktisk et højere antal abonnenter end r/DeepFakesSFW (bemærk den ekstra ‘s’), som i øjeblikket har 2.827 læsere (arkiv-snapshot taget mandag, 13. juni 2022). Den mest populære ‘legitime’ SFW deepfakes fællesskab synes i øjeblikket at være r/SFWdeepfakes, som på skrivende tidspunkt har 16.636 læsere (snapshot taget mandag, 13. juni 2022).

Spørg Ikke

Det, der synes at have dømt r/deepfakesfw, var ikke indlægget, men anmodningen om deepfake-pornografi. Reddits regler for seksuelt eksplisit medie siger:

‘[Billeder] eller video af en anden person offentliggjort for det specifikke formål at fabrikere eksplisit indhold eller anmode om “lignende” pornografi (f.eks. “deepfakes” eller “boble-porn”) er også imod reglen.’

Basert på den sidste tilgængelige RSS-feeds fra den nu-forbudte SFW sub, har det været anmodningen snarere end indlægget af NSFW deepfake-indhold, der har udløst forbuddet:

Nogle af de sidste, åbenlyse NSFW-indlæg fra den nu-døde r/deepfakesfw subreddit. Kilde: Inoreader.

Selvom indlæggene, som disse RSS-feeds peger på, ikke længere er tilgængelige, viser klik på anmoderens profil-links (uskarpet i billedet ovenfor), at mange af posterne anmoder om forbudt deepfake-indhold på mere end én forum, og enten anmoder om eller tilbyder noget af det mest ekstreme indhold af denne type, herunder incest-pornografi og forskellige skygger af ufrivillig pornografiske temaer.

Dette antyder, at de resterende ‘SFW’ Reddit-sub’er overlever ved hjælp af moderatorernes hastighed, flid og hurtige reaktionstider, da det synes, at Reddit ikke er villigt til at blive en slags ‘klassificeret annonce’-forum for folk til at kontakte og handle ulovlige deepfakes via DM’er (i tilfælde, hvor dette ikke kan anmodes eksplisit i et indlæg).

Hvis det er tilfældet, kan den ikke-endnu-forbudte r/DeepFakesSFW måske leve på lånt tid; dens to nuværende top-indlæg, når man indtaster roden til subreddit’en med det ‘gamle’ Reddit-tema aktiveret, er specifikt markeret ‘NSFW’ (en mærkning, der formodentlig ikke skulle være tilgængelig i denne bestemte fællesskab).

Afhangende af omstændighederne, vises nogle regel-krænkende indlæg i øjeblikket i r/DeepFakesSFW sub. Kilde: https://www.reddit.com/r/DeepFakesSFW/

Man kan se disse to NSFW-indlæg øverst i r/DeepFakesSFW-forum arkiveret her (snapshot taget mandag, 13. juni 2022).

Der er faktisk ingen NSFW-‘flair’ tilgængelig, når man laver et nyt indlæg i r/DeepFakesSFW, som har været i drift i fire år, ifølge dens sideinformation:

Tilgængelige ‘flairs’, når man poster til r/DeepFakesSFW.

Derfor synes NSFW-mærkningerne i r/DeepFakesSFW at være blevet anvendt af moderatorer på forummet eller af højere niveau-administratorer – eller måske selv algoritmer, muligvis uden nogen indgriben eller tilgængelig opposition fra lokale moderatorer. Jeg kontaktede den eneste nævnte moderator på r/DeepFakesSFW om dette, og vil offentliggøre eventuelle opdateringer.

(REDAKTION, tirsdag, 14. juni 2022 – En moderator på r/DeepFakesSFW har svaret og sagt, ‘Det synes at ske, når brugernes konto er NSFW’. Det eneste måde at mindske sandsynligheden for sådanne anmodninger i SFW deepfake-sub’er på ville være at forbyde brugere, der har ‘fortjent’ denne klassificering.)

Det meste af indholdet på denne subreddit og på den større r/SFWdeepfakes beskæftiger sig med at bruge deepfake-teknologi til at ‘genindspille’ skuespillere fra populære eller klassiske film eller på anden måde at have mere uskyldig AI-dreven sjov med populærmedier og deepfake-teknologi, og kvalificerer sig faktisk som ‘SFW’.

Selvom mange sådanne indlæg balancerer farligt tæt på copyright-drevne forbud, antyder overlevelsen af ‘IP-tilknyttede’ ikke-pornografiske deepfake-videoindlæg fra større YouTube-deepfakers som Ctrl-Shift-Face en bred studie- og rettighedshaver-tolerance over for sådant, i det mindste for tiden være.

Den ‘Uskyldige’ Fremtoning af Deepfake-Processen og Økostrukturen

For to uger siden blev det kendt (og meget diskussion) at Google pludselig havde forbudt deepfake-creationssoftware fra sine populære Colab-cloud-behandlingsmiljøer. Selv til dato synes Colab kun at være ‘udløst’ af forsøg på at køre DeepFaceLab (DFL), den mest populære deepfakes-software i verden (og den, der er mest tæt forbundet med AI-porn), snarere end mindre-frekventerede implementeringer som FaceSwap, som har et bedre ry, selvom det udfører præcis de samme opgaver som DFL.

Til en vis udstrækning kan denne tilgang have været den eneste måde, Colab kunne have implementeret nogen begrænsning på produktionen af deepfake-pornografi, da den faktiske deepfake-træningsproces kun bruger open source-software og højtydende ansigtsbilleder (som regel kun 512x512px, ofte mindre), med næsten ingen mulighed for, at billed-genkendelsesalgoritmer kan interceptere noget faktisk pornografisk indhold.

Når deepfake-modellen er trænet, har deepfakeren ikke længere brug for den enorme proceskraft fra Colab eller en dyr lokal GPU. De fleste faktiske konverteringer (dvs. processen med at indsætte et ansigt i en video, pornografisk eller ej), kan udføres lokalt på lavkraftede laptop-GPU’er – eller endda på en CPU (med en lidt længere proces tid). Når noget pornografisk sker i deepfake-processen, er Colab for længst ude af billedet.

Derfor repræsenterer de bestanddele, der passerer mellem deepfake-porn-skabere, sjældent mere end en potentiel mindre copyright-overtrædelse i form af passeringen af ‘ansigts-sæt’, som deepfake-skabere har udtrukket fra YouTube-videoer, Blu-rays, tv-interviews, sociale medier og forskellige andre kilder.

Er en ‘Ødelæggende Jord’-Politik på Vej for Deepfake-Fællesskaber?

Spørgsmålet, der hjemsøger beboerne i deepfake-Discord-fællesskaber som DeepFaceLab (herunder DeepFaceLive), FaceSwap, Machine Video Editor (MVE, en GUI-baseret miljø for DFL, med mange tilføjede funktioner), og nye audio-baserede deepfake-Discord-servere som Audio Deepfakes er Skal nuværende portal- og platform-ejere snart blot forbyde deepfake-fællesskaber af princip, snarere end at bære omkostningerne ved konstant moderation mod en bølge af NSFW-tilhængere og skabere?

Bryan Lyon, en af udviklerne af FaceSwap og ejer af projektets tilhørende Discord-server, kommenterede^†:

‘Vi har formået at forblive på Discord, på trods af flere udrensninger, ved at være absolut renlige. Vi har ikke nogen skjulte kanaler eller en hemmelig anden server med ulovligt indhold. Der var en udrensning af den populære DeepFaceLab-server for et par år siden. Alle på den blev forbudt. De havde invitation-kun-roller med adgang til kanaler med ikke-samtykkende pornografi.’

Givet, at Google, en af verdens største teknologiske ressourcer, har blanket-forbudt deepfake-træning på sine servere og GPU’er, er det endda muligt, at Microsoft-ejede GitHub kan beslutte, at at facilitere disse teknologier* ikke længere er værd at den moralske tvetydighed eller investeringen i tilsyn.

På dette tidspunkt er processen med at legitimere deepfake-teknologier, så deres brug kan gå fra hjemmelavet pornografi til film- og tv-produktion og ikke-infringende/kriminelle brug, for ny til at producere klare politik-rettledninger for platforme og fællesskabstjenester.

* Arkiv af https://github.com/search?q=deepfake fra mandag, 13. juni 2022.
† I private DM’er på Discord.

Offentliggjort første gang 13. juni 2022. Redigeret 15:08 UTC for billed-retouchering.
Ændret tirsdag, 14. juni 2022 06:24 UTC for at tilføje Reddits moderators respons omkring NSFW-status for nogle poster. Ændret billed-retouchering på RSS-feeds-illustration.