Η γωνία του Anderson

Το Reddit απαγορεύει την κοινότητα deepfake SFW

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΤο Reddit απαγόρευσε το r/deepfakesfw για προτροπή σε ακούσια πορνογραφία, όχι για…
Δείτε περισσότερα
  • Το Reddit απαγόρευσε το r/deepfakesfw για προτροπή σε ακούσια πορνογραφία, όχι για ανάρτησή της.
  • Η Google απαγόρευσε την εκπαίδευση deepfake στο Colab, αλλά ενεργοποιείται μόνο για το DeepFaceLab, όχι για άλλα εργαλεία.
  • Οι νόμιμες κοινότητες deepfake επιβιώνουν μόνο μέσω αυστηρής εποπτείας έναντι αιτημάτων για περιεχόμενο NSFW.

Τον προηγούμενο Σαββατοκύριακο, φαίνεται ότι την Κυριακή, το Reddit απαγόρευσε την κοινότητα ‘SFW’ (κατάλληλο για προβολή στον χώρο εργασίας) deepfakes με τίτλο r/deepfakesfw. Το subreddit ήταν μια από τις πρώτες απαντήσεις στην άμεση διαγραφή, από τον κολοσσό των μέσων κοινωνικής δικτύωσης, του αρχικού r/deepfakes το 2018, το οποίο ήταν γεμάτο πορνογραφία δημιουργημένη με AI.

Το (σχετικά) τυποποιημένο μήνυμα που τώρα καλωσορίζει (αρχείο snapshot ληφθέν την Δευτέρα, 13 Ιουνίου) όποιον επισκέπτεται το sub εξηγεί ότι ‘απαγορεύτηκε λόγω παραβίασης των κανόνων του Reddit κατά της μη συναινετικής πορνογραφίας’.

Η νέα αρχική σελίδα για r/deepfakesfw.

Η νέα αρχική σελίδα για r/deepfakesfw.

Το r/deepfakesfw sub δεν αρχειοθετήθηκε συχνά από δημοφιλείς πλατφόρμες αρχειοθέτησης, αλλά το πιο πρόσφατο στιγμιότυπο του WayBack Machine, που λήφθηκε πριν από δέκα ημέρες (στις 3 Ιουνίου 2022), υποδεικνύει ότι το sub είχε 3.095 αναγνώστες εκείνη την εποχή.

Αυτό είναι στην πραγματικότητα ένας υψηλότερος αριθμός συνδρομητών από το r/DeepFakesSFW (σημείωση το επιπλέον ‘s’), το οποίο έχει τώρα 2.827 αναγνώστες (αρχείο snapshot ληφθέν την Δευτέρα, 13 Ιουνίου 2022). Η πιο δημοφιλής «θεμιτή» SFW deepfakes κοινότητα φαίνεται να είναι r/SFWdeepfakes, η οποία έχει 16.636 αναγνώστες (snapshot ληφθέν την Δευτέρα, 13 Ιουνίου 2022).

Ούτε να το ζητάς

Τι φαίνεται να καταδίκασε το r/deepfakesfw ήταν όχι η ανάρτηση αλλά η αίτηση για deepfake πορνογραφία. Οι κανόνες του Reddit για το σεξουαλικά ρητό περιεχόμενο αναφέρουν:

‘[Εικόνες] ή βίντεο ενός άλλου ατόμου που δημοσιεύονται για τον ειδικό σκοπό της κατασκευής ψεύτικου σεξουαλικά ρητού περιεχομένου ή της ζήτησης πορνογραφίας με άτομα που μοιάζουν με το εικονιζόμενο πρόσωπο (π.χ. “deepfakes” ή “bubble porn”) είναι επίσης κατά του Κανόνα.’

Βασισμένο στο τελευταίο διαθέσιμο RSS feeds από το τώρα απαγορευμένο SFW sub, φαίνεται ότι η αίτηση και όχι η ανάρτηση του NSFW deepfake περιεχομένου έχει τελικά προκαλέσει την απαγόρευση:

Μερικά από τα τελικά, σαφώς NSFW posts από το τώρα νεκρό r/deepfakesfw subreddit.

Μερικά από τα τελικά, σαφώς NSFW posts από το τώρα νεκρό r/deepfakesfw subreddit. Πηγή: Inoreader.

Αν και οι ανάρτησεις που αυτά τα RSS posts δείχνουν δεν είναι πλέον διαθέσιμες, η κλικ στους συνδέσμους προφίλ των αιτητών (σβησμένοι στην εικόνα πάνω) αποκαλύπτει ότι πολλοί από τους αιτητές ζητούν απαγορευμένο deepfake περιεχόμενο σε περισσότερες από μία πλατφόρμες και ζητούν ή προσφέρουν κάποιο από το πιο ακραίο περιεχόμενο αυτού του τύπου, συμπεριλαμβανομένης της αιμομικτικής πορνογραφίας και διαφόρων μορφών μη συναινετικής πορνογραφίας.

Αυτό υποδηλώνει ότι οι υπόλοιπες ‘SFW’ Reddit subs επιβιώνουν με την ταχύτητα, την επιμέλεια και τους γρήγορους χρόνους απόκρισης των διαχειριστών τους,επειδή το Reddit δεν είναι πρόθυμο να γίνει ένα είδος φόρουμ μικρών αγγελιών για άτομα να συνδεθούν και να διαπραγματευτούν παράνομα deepfakes μέσω DMs (σε περιπτώσεις όπου αυτό δεν μπορεί να ζητηθεί ρητά σε μια ανάρτηση).

Εάν ισχύει αυτό, τότε το ακόμη μη απαγορευμένο r/DeepFakesSFW μπορεί να ζει με δανεικό χρόνο. Οι δύο τρέχοντες κορυφαίοι πόστ του όταν εισέρχεστε την ριζική URL του subreddit με το ‘παλιό’ Reddit θέμα ενεργοποιημένο έχουν σημειωθεί ειδικά ως ‘NSFW’ (ένα tag που δεν πρέπει να είναι διαθέσιμο σε αυτή την κοινότητα).

Βάσει περιστάσεων, κάποια παραβιάζοντας-κανόνες posts εμφανίζονται τώρα στο r/DeepFakesSFW sub.

Βάσει περιστάσεων, κάποια παραβιάζοντας-κανόνες posts εμφανίζονται τώρα στο r/DeepFakesSFW sub. Πηγή: https://www.reddit.com/r/DeepFakesSFW/

Μπορείτε να δείτε αυτά τα δύο NSFW posts στην κορυφή της σημερινής r/DeepFakesSFW forum αρχειοθετημένο εδώ (snapshot ληφθέν την Δευτέρα, 13 Ιουνίου 2022).

Δεν υπάρχει στην πραγματικότητα καμία NSFW ‘flair’ διαθέσιμο όταν κάνετε μια νέα ανάρτηση στο r/DeepFakesSFW, το οποίο έχει λειτουργήσει για τέσσερα χρόνια, σύμφωνα με τις πληροφορίες της πλευράς:

Διαθέσιμα tags όταν αναρτάτε στο r/DeepFakesSFW.

Διαθέσιμα ‘flairs’ όταν αναρτάτε στο r/DeepFakesSFW.

Επομένως, τα NSFW tags στο r/DeepFakesSFW φαίνεται να έχουν εφαρμοστεί είτε από τους διαχειριστές του forum είτε από υψηλότερου επιπέδου διαχειριστές – ή ακόμη και αλγόριθμους, πιθανώς χωρίς καμία παρέμβαση ή διαθέσιμη αντίθεση από τοπικούς διαχειριστές. Επικοινώνησα με τον μόνο καταχωρημένο διαχειριστή του r/DeepFakesSFW σχετικά με αυτό και θα δημοσιεύσω οποιαδήποτε διαθέσιμη ενημέρωση.

(Επεξεργασία, Τρίτη, 14 Ιουνίου 2022 – Ένας διαχειριστής στο r/DeepFakesSFW έχει απαντήσει, δηλώνοντας ‘Φαίνεται να συμβαίνει όταν το λογαριασμό του χρήστη είναι NSFW’. Προφανώς, ο μόνος τρόπος για να μειώσει την πιθανότητα τέτοιων αιτήσεων σε SFW deepfake subreddits θα ήταν να απαγορεύσει τους χρήστες που έχουν ‘κερδίσει’ αυτή την ταξινόμηση.)

Το μεγαλύτερο μέρος του περιεχομένου σε αυτό το subreddit και στο μεγαλύτερο r/SFWdeepfakes ασχολείται με τη χρήση της τεχνολογίας deepfake για να αντικαθιστά ηθοποιούς σε δημοφιλείς ή κλασικές ταινίες, ή αλλιώς να έχει κάποιο πιο αθώο διασκεδαστικό πειραματισμό με AI με δημοφιλές μέσο και τεχνολογία deepfake, και στην πραγματικότητα να ταξινομούνται ως ‘SFW’.

Αν και πολλές τέτοιες ανάρτησεις παρουσιάζουν κίνδυνο παραβίασης πνευματικών δικαιωμάτων, η συνεχής επιβίωση των που αξιοποιούν ξένη πνευματική ιδιοκτησία μη πορνογραφικών βίντεο posts από μεγάλους YouTube deepfakers όπως Ctrl-Shift-Face υποδηλώνει μια ευρεία στούντιο και δικαιούχων ανεκτικότητα προς τέτοια δραστηριότητα, τουλάχιστον για την ώρα.

Η ‘Αθώα’ Εμφάνιση της Διαδικασίας και του Οικοσυστήματος Deepfake

Πριν από δύο εβδομάδες, καταγράφηκε (και πολλή συζήτηση) ότι η Google είχε ξαφνικά απαγορεύσει το λογισμικό δημιουργίας deepfake από τα δημοφιλή περιβάλλοντα επεξεργασίας Colab. Μέχρι σήμερα, το Colab φαίνεται να είναι ‘ενεργοποιημένο’ μόνο από τις προσπάθειες να εκτελεστεί το DeepFaceLab (DFL), το πιο δημοφιλές λογισμικό deepfakes στον κόσμο (και αυτό που είναι πιο συσχετισμένο με AI πορνογραφία), και όχι λιγότερο συχνά υλοποιήσεις όπως το FaceSwap, το οποίο έχει καλύτερη φήμη, αν και εκτελεί ακριβώς τις ίδιες εργασίες όπως το DFL.

Μέχρι κάποιο βαθμό, αυτή η προσέγγιση μπορεί να ήταν ο μόνος τρόπος που το Colab θα μπορούσε να εφαρμόσει οποιονδήποτε περιορισμό στην παραγωγή πορνογραφικού περιεχομένου deepfake,επειδή η πραγματική διαδικασία εκπαίδευσης deepfake χρησιμοποιεί μόνο ανοιχτό λογισμικό και εξαιρετικά περικομμένες εικόνες προσώπου (συνήθως σε 512x512px, συχνά λιγότερο), με σχεδόν μηδενική πιθανότητα για αλγόριθμους αναγνώρισης εικόνων να εντοπίσουν οποιοδήποτε πραγματικό πορνογραφικό περιεχόμενο.

Όταν η διαδικασία εκπαίδευσης του deepfake μοντέλου ολοκληρωθεί, ο deepfaker δεν χρειάζεται πλέον την τεράστια επεξεργαστική ισχύ του Colab ή ενός ακριβού τοπικού GPU. Οι περισσότερες πραγματικές μετατροπές (δηλαδή η διαδικασία της επιβολής ενός προσώπου σε ένα βίντεο, πορνογραφικό ή όχι), μπορούν να ολοκληρωθούν τοπικά, σε χαμηλής ισχύος laptop GPUs – ή ακόμη και σε ένα CPU (με ένα ελαφρώς μεγαλύτερο χρόνο επεξεργασίας). Όταν συμβαίνει κάτι πορνογραφικό στη διαδικασία deepfake, το Colab έχει ήδη εξαφανιστεί από την εικόνα.

Επομένως, τα συνθετικά στοιχεία που περνούν μεταξύ δημιουργών πορνογραφικού περιεχομένου deepfake σπάνια αντιπροσωπεύουν περισσότερο από μια ενδεχόμενη μικρή παραβίαση πνευματικών δικαιωμάτων, με τη μορφή ανταλλαγής συνόλων εικόνων προσώπων, τις οποίες οι δημιουργοί deepfake έχουν εξαγάγει από βίντεο YouTube, Blu-rays, τηλεοπτικές συνεντεύξεις, κοινωνικά μέσα και διάφορες άλλες πηγές.

Είναι μια Πολιτική ‘Καμμένη Γη’ Ερχόμενη για τις Κοινότητες Deepfake;

Το ερώτημα που στοιχειώνει τους κατοίκους των κοινωτήτων deepfake Discord όπως DeepFaceLab (συμπεριλαμβανομένου DeepFaceLive), FaceSwap, Machine Video Editor (MVE, ένα περιβάλλον GUI-βασισμένο για DFL, με πολλές πρόσθετες λειτουργίες), και νέες ηχητικές-βασισμένες deepfake Discord servers όπως Audio Deepfakes είναι Θα απαγορεύσουν σύντομα οι τρέχοντες ιδιοκτήτες πυλών και πλατφόρμων τις κοινότητες deepfake για λόγους αρχής, αντί να αναλάβουν το κόστος της συνεχούς επιτήρησης ενάντια σε ένα κύμα υποστηρικτών και δημιουργών περιεχομένου NSFW;

Bryan Lyon, ένας από τους προγραμματιστές του FaceSwap και ιδιοκτήτης του σχετικού διακομιστή Discord, σχολίασε†:

‘Καταφέραμε να παραμείνουμε στο Discord, παρά τις αρκετές εκκαθαρίσεις, διατηρώντας απολύτως καθαρή τη δραστηριότητά μας. Δεν έχουμε κανένα κρυφό κανάλι ή ένα μυστικό δεύτερο server με παράνομο περιεχόμενο. Έγινε μια εκκαθάριση του δημοφιλούς DeepFaceLab server πριν από μερικά χρόνια. Όλοι όσοι ήταν σε αυτόν απαγορεύτηκαν. Είχαν ρόλους διαθέσιμους μόνο κατόπιν πρόσκλησης με πρόσβαση σε κανάλια με μη συναινετική πορνογραφία.’

Δεδομένου ότι η Google, η ίδια μια από τις μεγαλύτερες τεχνολογικών πόρων φιλοξενίας στον κόσμο, έχει απαγορεύσει την εκπαίδευση deepfake στους διακομιστές και στις GPU της, είναι ακόμη δυνατό ότι το GitHub, που ανήκει στη Microsoft, μπορεί να αποφασίσει ότι η διευκόλυνση αυτών των τεχνολογιών* τελικά δεν θα αξίζει την ηθική ασάφεια ή την επένδυση που απαιτεί η εποπτεία.

Σε αυτό το σημείο, η διαδικασία νομιμοποίησης των τεχνολογιών deepfake ώστε η χρήση τους να μετατοπίζεται από την πορνογραφία στο σπίτι προς την παραγωγή ταινιών και τηλεόρασης, και χρήσεις που δεν παραβιάζουν δικαιώματα και δεν είναι εγκληματικές, είναι ακόμη πολύ νωρίς για να παράγει σαφείς οδηγίες πολιτικής για πλατφόρμες και υπηρεσίες φιλοξενίας κοινότητας.

* Αρχείο https://github.com/search?q=deepfake από τη Δευτέρα, 13 Ιουνίου 2022.
† Σε ιδιωτικά DMs στο Discord.

Πρώτη δημοσίευση 13ης Ιουνίου 2022. Επεξεργασία 3:08 μ.μ. UTC για διόρθωση εικόνας.
Τροποποιήθηκε την Τρίτη, 14 Ιουνίου 2022 6:24 π.μ. UTC, για να προσθέσει την απάντηση του moderator του Reddit σχετικά με την κατάσταση NSFW ορισμένων ποστερ. Επίσης, διόρθωση εικόνας για εικονογράφηση RSS feeds.

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai