Το Reddit Απαγορεύει την Κοινότητα ‘SFW’ Deepfake

Τον προηγούμενο Σαββατοκύριακο, φαίνεται ότι την Κυριακή, το Reddit απαγόρευσε την κοινότητα ‘SFW’ (Ασφαλές για Εργασία) deepfakes με τίτλο r/deepfakesfw. Το subreddit ήταν μια από τις πρώτες απαντήσεις στην κοινωνική μέσο μεγίστου προώθησης της διαγραφής του αρχικού, AI-πορνογραφικού r/deepfakes sub το 2018.

Το (σχετικά) τυποποιημένο.legend που τώρα καλωσορίζει (αρχείο snapshot ληφθέν την Δευτέρα, 13 Ιουνίου) όποιον επισκέπτεται το sub εξηγεί ότι ‘απαγορεύτηκε λόγω παραβίασης των κανόνων του Reddit κατά της ακούσιας πορνογραφίας’.

Η νέα αρχική σελίδα για r/deepfakesfw.

Το r/deepfakesfw sub δεν αρχειοθετήθηκε συχνά από δημοφιλείς πλατφόρμες διατήρησης, αλλά η πιο πρόσφατη WayBack Machine snapshot, ληφθείσα πριν από δέκα ημέρες (στις 3 Ιουνίου 2022), υποδεικνύει ότι το sub είχε 3.095 αναγνώστες εκείνη την εποχή.

Αυτό είναι στην πραγματικότητα ένας υψηλότερος αριθμός συνδρομητών από το r/DeepFakesSFW (σημείωση το επιπλέον ‘s’), το οποίο έχει τώρα 2.827 αναγνώστες (αρχείο snapshot ληφθέν την Δευτέρα, 13 Ιουνίου 2022). Η πιο δημοφιλής ‘legtimate’ SFW deepfakes κοινότητα φαίνεται να είναι r/SFWdeepfakes, η οποία έχει 16.636 αναγνώστες (snapshot ληφθέν την Δευτέρα, 13 Ιουνίου 2022).

Μη Ρωτάς

Τι φαίνεται να καταδίκασε το r/deepfakesfw ήταν όχι η ανάρτηση αλλά η αίτηση για deepfake πορνογραφία. Οι κανόνες του Reddit για το σεξουαλικά εκφραστικό περιεχόμενο αναφέρουν:

‘[Εικόνες] ή βίντεο ενός άλλου ατόμου που δημοσιεύονται για τον ειδικό σκοπό της δημιουργίας ψευδούς περιεχομένου ή της ζήτησης “ομοιόμορφης” πορνογραφίας (π.χ. “deepfakes” ή “bubble porn”) είναι επίσης κατά του Κανόνα.’

Βασισμένο στο τελευταίο διαθέσιμο RSS feeds από το τώρα απαγορευμένο SFW sub, φαίνεται ότι η αίτηση και όχι η ανάρτηση του NSFW deepfake περιεχομένου έχει τελικά προκαλέσει την απαγόρευση:

Μερικά από τα τελικά, σαφώς NSFW posts από το τώρα νεκρό r/deepfakesfw subreddit. Πηγή: Inoreader.

Αν και οι ανάρτησεις που αυτά τα RSS posts δείχνουν δεν είναι πλέον διαθέσιμες, η κλικ στους συνδέσμους προφίλ των αιτητών (σβησμένοι στην εικόνα πάνω) αποκαλύπτει ότι πολλοί από τους αιτητές ζητούν απαγορευμένο deepfake περιεχόμενο σε περισσότερες από μία πλατφόρμες και ζητούν ή προσφέρουν κάποιο από το πιο ακραίο περιεχόμενο αυτού του τύπου, συμπεριλαμβανομένης της πορνογραφίας инцест και διάφορων αποχρώσεων ακούσιας πορνογραφικής θεματολογίας.

Αυτό υποδηλώνει ότι οι υπόλοιπες ‘SFW’ Reddit subs επιβιώνουν με την ταχύτητα, την επιμέλεια και τους γρήγορους χρόνους απόκρισης των διαχειριστών τους,既然 το Reddit δεν είναι πρόθυμο να γίνει ένα είδος ‘ταξιδιωτικού γραφείου’ για άτομα να συνδεθούν και να διαπραγματευτούν μη legtimate deepfakes μέσω DMs (σε περιπτώσεις όπου αυτό δεν μπορεί να ζητηθεί ρητά σε μια ανάρτηση).

Εάν così, τότε το ακόμη μη απαγορευμένο r/DeepFakesSFW μπορεί να ζει με δανεικό χρόνο. Οι δύο τρέχοντες κορυφαίοι πόστ του όταν εισέρχεστε την ριζική URL του subreddit με το ‘παλιό’ Reddit θέμα ενεργοποιημένο έχουν σημειωθεί ειδικά ως ‘NSFW’ (ένα tag που δεν πρέπει να είναι διαθέσιμο σε αυτή την κοινότητα).

Βάσει περιστάσεων, κάποια παραβιάζοντας-κανόνες posts εμφανίζονται τώρα στο r/DeepFakesSFW sub. Πηγή: https://www.reddit.com/r/DeepFakesSFW/

Μπορείτε να δείτε αυτά τα δύο NSFW posts στην κορυφή της σημερινής r/DeepFakesSFW forum αρχειοθετημένο εδώ (snapshot ληφθέν την Δευτέρα, 13 Ιουνίου 2022).

Δεν υπάρχει στην πραγματικότητα kein NSFW ‘flair’ διαθέσιμο όταν κάνετε μια νέα ανάρτηση στο r/DeepFakesSFW, το οποίο έχει λειτουργήσει για τέσσερα χρόνια, σύμφωνα με τις πληροφορίες της πλευράς:

Διαθέσιμα ‘flairs’ όταν αναρτάτε στο r/DeepFakesSFW.

Επομένως, τα NSFW tags στο r/DeepFakesSFW φαίνεται να έχουν εφαρμοστεί είτε από τους διαχειριστές του forum είτε από υψηλότερου επιπέδου διαχειριστές – ή ακόμη και αλγόριθμους, πιθανώς χωρίς καμία παρέμβαση ή διαθέσιμη αντίθεση από τοπικούς διαχειριστές. Επικοινώνησα με τον μόνο καταχωρημένο διαχειριστή του r/DeepFakesSFW σχετικά με αυτό και θα δημοσιεύσω οποιαδήποτε διαθέσιμη ενημέρωση.

(Επεξεργασία, Τρίτη, 14 Ιουνίου 2022 – Ένας διαχειριστής στο r/DeepFakesSFW έχει απαντήσει, δηλώνοντας ‘Φαίνεται να συμβαίνει όταν το λογαριασμό του χρήστη είναι NSFW’. Προφανώς, ο μόνος τρόπος για να επιβραδύνει την πιθανότητα τέτοιων αιτήσεων σε SFW deepfake subreddits θα ήταν να απαγορεύσει τους χρήστες που έχουν ‘κερδίσει’ αυτή την ταξινόμηση.)

Το μεγαλύτερο μέρος του περιεχομένου σε αυτό το subreddit και στο μεγαλύτερο r/SFWdeepfakes ασχολείται με τη χρήση της τεχνολογίας deepfake για να ‘ξαναβγάλει’ ηθοποιούς από δημοφιλείς ή κλασικές ταινίες, ή αλλιώς να έχει κάποιο πιο αθώο AI-κίνητο χόμπι με δημοφιλές μέσο και τεχνολογία deepfake, και στην πραγματικότητα να ταξινομούνται ως ‘SFW’.

Αν και πολλές τέτοιες ανάρτησεις παρουσιάζουν κίνδυνο παραβίασης πνευματικών δικαιωμάτων, η συνεχής επιβίωση των ‘IP-προσαρμοσμένων’ μη πορνογραφικών βίντεο posts από μεγάλους YouTube deepfakers όπως Ctrl-Shift-Face υποδηλώνει μια ευρεία στούντιο και δικαιούχων ανεκτικότητα προς τέτοια δραστηριότητα, τουλάχιστον για την ώρα.

Η ‘Αθώα’ Εμφάνιση της Διαδικασίας και Οικοδομής Deepfake

Πριν από δύο εβδομάδες, καταγράφηκε (και πολλή συζήτηση) ότι η Google είχε ξαφνικά απαγορεύσει το λογισμικό δημιουργίας deepfake από τα δημοφιλή περιβάλλοντα επεξεργασίας Colab. Μέχρι σήμερα, το Colab φαίνεται να είναι ‘ενεργοποιημένο’ μόνο από τις προσπάθειες να εκτελεστεί το DeepFaceLab (DFL), το πιο δημοφιλές λογισμικό deepfakes στον κόσμο (και αυτό που είναι πιο συσχετισμένο με AI πορνογραφία), και όχι λιγότερο συχνά υλοποιήσεις όπως το FaceSwap, το οποίο έχει καλύτερη φήμη, αν και εκτελεί ακριβώς τις ίδιες εργασίες όπως το DFL.

Μέχρι κάποιο βαθμό, αυτή η προσέγγιση μπορεί να ήταν ο μόνος τρόπος που το Colab θα μπορούσε να εφαρμόσει οποιονδήποτε περιορισμό στην παραγωγή πορνογραφικού περιεχομένου deepfake,既然 η πραγματική διαδικασία εκπαίδευσης deepfake χρησιμοποιεί μόνο ανοιχτό λογισμικό και εξαιρετικά περικομμένες εικόνες προσώπου (συνήθως σε 512x512px, συχνά λιγότερο), με σχεδόν μηδενική πιθανότητα για αλγόριθμους αναγνώρισης εικόνων να intercept οποιοδήποτε πραγματικό πορνογραφικό περιεχόμενο.

Όταν η διαδικασία εκπαίδευσης του deepfake μοντέλου ολοκληρωθεί, ο deepfaker δεν χρειάζεται πλέον την τεράστια επεξεργαστική ισχύ του Colab ή ενός ακριβού τοπικού GPU. Οι περισσότερες πραγματικές μετατροπές (δηλαδή η διαδικασία της επιβολής ενός προσώπου σε ένα βίντεο, πορνογραφικό ή όχι), μπορούν να ολοκληρωθούν τοπικά, σε χαμηλής ισχύος laptop GPUs – ή ακόμη και σε ένα CPU (με ένα ελαφρώς μεγαλύτερο χρόνο επεξεργασίας). Όταν συμβαίνει κάτι πορνογραφικό στη διαδικασία deepfake, το Colab έχει ήδη εξαφανιστεί από την εικόνα.

Επομένως, τα συνθετικά στοιχεία που περνούν μεταξύ δημιουργών πορνογραφικού περιεχομένου deepfake σπάνια αντιπροσωπεύουν περισσότερο από μια 잠πτική παραβίαση πνευματικών δικαιωμάτων, στη μορφή της διένεξης ‘face sets’, τις οποίες οι δημιουργοί deepfake έχουν εξαγάγει από βίντεο YouTube, Blu-rays, τηλεοπτικές συνεντεύξεις, κοινωνικά μέσα και διάφορες άλλες πηγές.

Είναι μια Πολιτική ‘Καμμένη Γη’ Ερχόμενη για τις Κοινότητες Deepfake;

Το ερώτημα που στοιχειώνει τους κατοίκους των κοινωτήτων deepfake Discord όπως DeepFaceLab (συμπεριλαμβανομένου DeepFaceLive), FaceSwap, Machine Video Editor (MVE, ένα περιβάλλον GUI-βασισμένο για DFL, με πολλές πρόσθετες λειτουργίες), και νέες ηχητικές-βασισμένες deepfake Discord servers όπως Audio Deepfakes είναι Θα απαγορεύσουν σύντομα οι τρέχοντες ιδιοκτήτες πυλών και πλατφόρμων τις κοινότητες deepfake με αρχή, αντί να φέρουν το κόστος της συνεχούς επιτήρησης ενάντια σε μια πορεία NSFW οπαδών και δημιουργών;

Bryan Lyon, ένας από τους développers του FaceSwap, και ιδιοκτήτης του project’s associated Discord server, σχολίασε^†:

‘Εμείς abbiamo διαχειριστεί να μείνουμε στο Discord, παρά τις几 purges, μένοντας απολύτως καθαροί. Δεν έχουμε κανένα κρυφό κανάλι ή ένα μυστικό δεύτερο server με ακατάλληλο περιεχόμενο. Υπήρχε μια purge του δημοφιλούς DeepFaceLab server πριν από δύο χρόνια. Όλοι όσοι ήταν σε αυτόν απαγορεύτηκαν. Είχαν invite-only ρόλους με πρόσβαση σε κανάλια με μη συναισθηματική πορνογραφία.’

Δεδομένου ότι η Google, η ίδια μια από τις μεγαλύτερες τεχνολογικών πόρων φιλοξενίας στον κόσμο, έχει απαγορεύσει την εκπαίδευση deepfake στις серверες και GPUs της, είναι ακόμη δυνατό ότι η Microsoft-ιδιοκτησία GitHub μπορεί να αποφασίσει ότι η διευκόλυνση αυτών των τεχνολογιών* θα είναι τελικά δεν αξίζει την ηθική αμφιθυμία ή επένδυση της επιτήρησης.

Σε αυτό το σημείο, η διαδικασία νομιμοποίησης των τεχνολογιών deepfake ώστε η χρήση τους να μετατοπίζεται από την πορνογραφία στο σπίτι προς την παραγωγή ταινιών και τηλεόρασης, και μη-παραβιάζοντας/εγκληματικές χρήσεις, είναι ακόμη πολύ νωρίς για να παράγει σαφείς οδηγίες πολιτικής για πλατφόρμες και υπηρεσίες φιλοξενίας κοινότητας.

* Αρχείο https://github.com/search?q=deepfake από τη Δευτέρα, 13 Ιουνίου 2022.
† Σε ιδιωτικά DMs στο Discord.

Πρώτη δημοσίευση 13ης Ιουνίου 2022. Επεξεργασία 3:08 μ.μ. UTC για διόρθωση εικόνας.
Τροποποιήθηκε την Τρίτη, 14 Ιουνίου 2022 6:24 π.μ. UTC, για να προσθέσει την απάντηση του moderator του Reddit σχετικά με την κατάσταση NSFW ορισμένων ποστερ. Επίσης, διόρθωση εικόνας για εικονογράφηση RSS feeds.