CivitAI σε Κρίση Παρόχου Πληρωμών, καθώς ο Τραμπ Υπογράφει τον Αντι-Deepfake Νόμο

Ο Πρόεδρος Τραμπ έχει υπογράψει τώρα τον Νόμο TAKE IT DOWN, ποινικοποιώντας τις σεξουαλικές deepfakes σε ομοσπονδιακό επίπεδο στις ΗΠΑ. Ταυτόχρονα, η κοινότητα του CivitAI, που προσπαθούσε να “καθαρίσει” τις NSFW AI και celeb εξόδους, έχει τελικά αποτύχει να ικανοποιήσει τους παρόχους πληρωμών, οδηγώντας τον ιστότοπο να αναζητήσει εναλλακτικές λύσεις ή να αντιμετωπίσει το κλείσιμο. Όλα αυτά σε διάστημα δύο εβδομάδων από τότε που ο παλαιότερος και μεγαλύτερος ιστότοπος deepfake πορνογραφίας στον κόσμο έκλεισε…

Έχει sido μια σημαντική εβδομάδα για την κατάσταση της μη ρυθμιζόμενης εικόνας και βίντεο deepfaking. Λίγο περισσότερο από δύο εβδομάδες πριν, ο αριθμός #1 domaine για την κοινότητα που μοιράζεται celebrity deepfake πορνογραφία, Mr. Deepfakes, έκλεισε突然 μετά από περισσότερα από επτά χρόνια σε μια κυρίαρχη και πολύ μελετημένη θέση ως ο全球 locus για σεξουαλικά AI celebrity περιεχόμενο. Μέχρι τη στιγμή που έκλεισε, ο ιστότοπος nhận到了 μέσο όρο περισσότερων από πέντε εκατομμύρια επισκέψεις το μήνα.

Background, the Mr. Deepfakes domain in early May; inset, the suspension notice, now replaced by a 404 error, since the domain was apparently purchased by an unknown buyer on the 4th of May, 2025 (https://www.whois.com/whois/mrdeepfakes.com). Source: mrdeepfakes.com

Η διακοπή των υπηρεσιών για τον Mr. Deepfakes αποδόθηκε επίσημα στην απόσυρση ενός “κρίσιμου παρόχου υπηρεσιών” (βλέπε εικόνα επάνω, η οποία αντικαταστάθηκε από την αποτυχία του domaine μέσα σε μια εβδομάδα). Ωστόσο, μια συνεργατική δημοσιογραφική έρευνα είχε αποανωνυμοποιήσει einen κεντρικό παράγοντα πίσω από τον Mr.Deepfakes přímo πριν από το κλείσιμο, επιτρέποντας τη δυνατότητα ότι ο ιστότοπος έκλεισε για προσωπικούς ή νομικούς λόγους του ατόμου.

Γύρω στην ίδια περίοδο, το CivitAI, η εμπορική πλατφόρμα που χρησιμοποιείται rộng rãi για celebrity και NSFW LoRAs, επέβαλε ένα σύνολο ασυνήθιστων και αμφιλεγόμενων αυτο-цензуρας μέτρων. Αυτά επηρέασαν τη δημιουργία deepfake, τη φιλοξενία μοντέλων και ένα ευρύτερο σύνολο νέων κανόνων και περιορισμών, συμπεριλαμβανομένων πλήρων απαγορεύσεων σε ορισμένα περιθωριακά NSFW fetishes και ό,τι ονομάζεται ‘εξτρεμιστικές ιδεολογίες’.

Αυτά τα μέτρα προκλήθηκαν από τους παρόχους πληρωμών που φαίνεται να απειλούν να αποσύρουν τις υπηρεσίες από τον ιστότοπο εκτός αν γίνουν αλλαγές σχετικά με το περιεχόμενο NSFW και τις απεικονίσεις celeb AI.

CivitAI Cut Off

Ως σήμερα, φαίνεται ότι τα μέτρα που έλαβε το CivitAI δεν έχουν ικανοποιήσει τη VISA και τη Mastercard: μια νέα ανάρτηση^† στον ιστότοπο, από τον Community Engagement Manager Alasdair Nicoll, αποκαλύπτει ότι οι πληρωμές με κάρτα για το CivitAI (η οποία “buzz” εικονική νομισματική система τροφοδοτείται κυρίως από πραγματικές πιστωτικές και χρεωστικές κάρτες) θα σταματήσουν από την επόμενη Παρασκευή (23 Μαΐου 2025).

Αυτό θα εμποδίσει τους χρήστες να ανανεώσουν τις μηνιαίες συνδρομές ή να αγοράσουν νέο buzz. Αν και ο Nicoll συμβουλεύει τους χρήστες να διατηρήσουν τις τρέχουσες προνομίες συνδρομής μεταβαίνοντας σε μια ετήσια συνδρομή (κοστίζοντας^†† $100-$550 USD) πριν από την Παρασκευή, είναι σαφές ότι το μέλλον είναι κάπως αβέβαιο για τον ιστότοπο αυτή τη στιγμή (Πρέπει να σημειωθεί ότι οι ετήσιες συνδρομές ξεκίνησαν την ίδια στιγμή που ανακοινώθηκε η απώλεια των παρόχων πληρωμών).

Σχετικά με την έλλειψη παρόχου πληρωμών, ο Nicoll λέει ‘Μιλάμε σε κάθε παρόχο που είναι άνετος με την καινοτομία AI’.

Όσον αφορά την αποτυχία των πρόσφατων προσπαθειών να ξανασκέφτονται επαρκώς τις πολιτικές του ιστότοπου γύρω από celeb AI και NSFW περιεχόμενο, ο Nicoll αναφέρει στην ανάρτηση:

‘Ορισμένες εταιρείες πληρωμών χαρακτηρίζουν τις πλατφόρμες γεννητριών-AI ως υψηλού κινδύνου, ιδιαίτερα όταν επιτρέπουμε στους χρήστες να δημιουργούν ώριμο περιεχόμενο, ακόμη και όταν είναι νόμιμο και ελεγχόμενο. Αυτή η επιλογή πολιτικής, και όχι κάτι που έκαναν οι χρήστες, μας οδήγησε στην αποκοπή.’

Μια ανάρτηση από τον χρήστη ‘Faeia’, ο οποίος ονομάζεται ως ο chief of staff στην προφίλ του CivitAI*, προσθέτει περιεχόμενο σε αυτή την ανακοίνωση:

‘Απλά για να διευκρινίσω, μας αφαιρούν από τον παρόχο πληρωμών επειδή δεν αποφασίσαμε να αφαιρέσουμε το NSFW και το ενήλικας περιεχόμενο από την πλατφόρμα. Παραμένουμε αφοσιωμένοι στη υποστήριξη όλων των ειδών δημιουργών και εργαζόμαστε για εναλλακτικές λύσεις.’

Ως παραδοσιακός οδηγός νέων τεχνολογιών, δεν είναι ασυνήθιστο για το NSFW περιεχόμενο να χρησιμοποιείται για να ξεκινήσει το ενδιαφέρον σε ένα domaine, τεχνολογία ή πλατφόρμα – μόνο για τους αρχικούς οπαδούς να απορριφθούν μια φορά που έχει καθιερωθεί αρκετό “legtimate” κεφάλαιο και/ή μια βάση χρηστών (δηλαδή, αρκετοί χρήστες για την οντότητα να επιβιώσει, όταν έχει απομακρυνθεί από ένα NSFW контекст).

Φαινόταν για λίγο ότι το CivitAI θα ακολουθήσει Tumblr και διάφορες άλλες πρωτοβουλίες σε αυτόν τον δρόμο προς ένα “καθαρισμένο” προϊόν που να ξεχάσει τις ρίζες του. Ωστόσο, η πρόσθετη και αυξανόμενη controverse/stigma γύρω από το AI-γεννημένο περιεχόμενο οποιουδήποτε είδους αντιπροσωπεύει ένα συσσωρευμένο βάρος που φαίνεται να εμποδίζει μια τελευταία στιγμή διάσωση, σε αυτή την περίπτωση. Εν τω μεταξύ, η επίσημη ανακοίνωση συμβουλεύει τους χρήστες να υιοθετήσουν κρυπτονομίσματα ως εναλλακτική μέθοδο πληρωμής.

Fake Out

Η έλευση του Προέδρου Donald Trump με ενθουσιασμό υπογράφοντας τον ομοσπονδιακό Νόμο TAKE IT DOWN είναι πιθανό να έχει επηρεάσει κάποια από αυτά τα γεγονότα. Ο νέος νόμος ποινικοποιεί τη διανομή μη συναινούμενων ερωτικών εικόνων, συμπεριλαμβανομένων AI-γεννημένων deepfakes.

Ο νόμος απαιτεί από τις πλατφόρμες να αφαιρέσουν τις σημαδεμένες εικόνες εντός 48 ωρών, με την επιβολή να γίνεται από την Ομοσπονδιακή Επιτροπή Εμπορίου. Οι ποινικές διατάξεις του νόμου ισχύουν άμεσα, επιτρέποντας τη δίωξη ατόμων που γνωρίζουν την δημοσίευση ή την απειλή δημοσίευσης μη συναινούμενων ερωτικών εικόνων (συμπεριλαμβανομένων AI-γεννημένων deepfakes) εντός της αρμοδιότητας των Ηνωμένων Πολιτειών.

Ενώ ο νόμος έλαβε σπάνια διπαρτιτική υποστήριξη, καθώς και υποστήριξη από εταιρείες τεχνολογίας και ομάδες υποστήριξης, οι κριτικοί υποστηρίζουν ότι μπορεί να καταστέλλει έγκυρο περιεχόμενο και να απειλεί εργαλεία ιδιωτικότητας όπως η κρυπτογράφηση. Τον προηγούμενο μήνα, το Electronic Frontier Foundation (EFF) δήλωσε αντίθεση στο νομοσχέδιο, υποστηρίζοντας ότι τα μέτρα κατάργησης που απαιτούνται στοιχίζουν σε ένα ευρύτερο σύνολο υλικού – πιθανώς οποιαδήποτε εικόνα που περιλαμβάνει ερωτικό ή σεξουαλικό περιεχόμενο – από την στενότερη ορισμό μη συναινούμενων ερωτικών εικόνων που βρέθηκε αλλού στο νομοσχέδιο.

‘Η διάταξη κατάργησης στο TAKE IT DOWN ισχύει για ένα ευρύτερο κατηγορία περιεχομένου – πιθανώς οποιαδήποτε εικόνα που περιλαμβάνει ερωτικό ή σεξουαλικό περιεχόμενο – από την στενότερη ορισμό μη συναινούμενων ερωτικών εικόνων που βρέθηκε αλλού στο νομοσχέδιο. Η διάταξη κατάργησης επίσης λείπει κρίσιμων εγγυήσεων κατά των αβάσιμων ή κακόπιστων αιτήσεων κατάργησης.

‘Οι υπηρεσίες θα βασιστούν σε αυτοματοποιημένα φίλτρα, τα οποία είναι φημισμένα για τα αμβλύ τους εργαλεία. Συχνά σηματοδοτούν νόμιμο περιεχόμενο, από σχόλια fair-use έως ρεπορτάζ ειδήσεων. Ο νόμος απαιτεί ότι οι εφαρμογές και οι ιστότοποι αφαιρέσουν το λόγο εντός 48 ωρών, σπάνια αρκετό χρόνο για να επιβεβαιώσουν αν ο λόγος είναι πραγματικά παράνομος.

‘Ως αποτέλεσμα, οι παρόχοι υπηρεσιών online, ιδιαίτερα οι μικρότεροι, θα επιλέξουν πιθανώς να αποφύγουν τον κίνδυνο υποβάλλοντας το λόγο αντί να προσπαθήσουν να το επιβεβαιώσουν.’

Οι πλατφόρμες τώρα έχουν μέχρι ένα χρόνο από τη θέσπιση του νόμου για να καθιερώσουν μια формική διαδικασία ειδοποίησης και κατάργησης, επιτρέποντας στους επηρεαζόμενους ατόμων ή τους αντιπροσώπους τους να επικαλούνται το νομοσχέδιο για την απαίτηση κατάργησης περιεχομένου.

Αυτό σημαίνει ότι αν και οι ποινικές διατάξεις είναι άμεσα σε ισχύ, οι πλατφόρμες δεν είναι νομικά υποχρεωμένες να συμμορφωθούν με την υποδομή κατάργησης (όπως η λήψη και η επεξεργασία αιτήσεων) μέχρι να λήξει το χρονικό διάστημα ενός έτους.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Αν και ο Νόμος TAKE IT DOWN διασχίζει όλα τα σύνορα των κρατών, δεν απαγορεύει απαραίτητα όλες τις AI-γεννημένες μέσες ενημέρωσης των celeb. Ο νόμος ποινικοποιεί τη διανομή μη συναινούμενων ερωτικών εικόνων, συμπεριλαμβανομένων AI-γεννημένων deepfakes, μόνο όταν το απεικονιζόμενο άτομο είχε ένα εύλογο προσδοκία ιδιωτικότητας:

Ο νόμος αναφέρει:

“(2) Εγκλήματα που αφορούν αυθεντικές ερωτικές οπτικές απεικονίσεις.

“(Α) Σχετικά με ενήλικες.

“(i) Η ερωτική οπτική απεικόνιση λήφθηκε ή δημιουργήθηκε υπό συνθήκες στις οποίες το άτομο γνώριζε ή θα έπρεπε να γνωρίζει ότι το αναγνωρίσιμο άτομο είχε μια εύλογη προσδοκία ιδιωτικότητας;

“(ii) αυτό που απεικονίζεται δεν εκτέθηκε εθελοντικά από το αναγνωρίσιμο άτομο σε一个 δημόσιο ή εμπορικό περιβάλλον

“(iii) αυτό που απεικονίζεται δεν είναι ένα ζήτημα δημόσιου ενδιαφέροντος;

“(iv) Η δημοσίευση της ερωτικής οπτικής απεικόνισης

“(Ι) προορίζεται να προκαλέσει ζημιά;

“(ΙΙ) προκαλεί ζημιά, συμπεριλαμβανομένης της ψυχολογικής, οικονομικής ή φήμης ζημιάς, στο αναγνωρίσιμο άτομο.

Η “εύλογη προσδοκία ιδιωτικότητας” που εφαρμόζεται εδώ δεν έχει παραδοσιακά ευνοήσει τα δικαιώματα των celeb. Ανавис από το δικαστήριο που θα προκύψει, είναι πιθανό ότι ακόμη και σκληρά AI-γεννημένο περιεχόμενο που αφορά δημόσιους προσώπους σε δημόσιους ή εμπορικούς χώρους μπορεί να μην πέσει υπό τις απαγορεύσεις του Νόμου.

Η τελική διάταξη σχετικά με τον καθορισμό του βαθμού της ζημιάς είναι φημισμένα ελαστική σε νομικούς όρους, και σε αυτό το контекστό προστίθεται τίποτα ιδιαίτερα καινοτόμο στο νομικό βάρος. Ωστόσο, η πρόθεση να προκαλέσει ζημιά φαίνεται να περιορίζει το πεδίο εφαρμογής του Νόμου στο контекστό του “revenge porn”, όπου ένας (άγνωστος) πρώην σύντροφος δημοσιεύει πραγματικό ή ψεύτικο περιεχόμενο ενός (άγνωστου) άλλου πρώην συντρόφου.

Ενώ η απαίτηση “ζημιά” του νόμου μπορεί να φαίνεται ακατάλληλη για περιπτώσεις όπου ανώνυμοι χρήστες δημοσιεύουν AI-γεννημένες απεικονίσεις celeb, μπορεί να αποδειχθεί πιο σχετική σε σενάρια στολίσματος, όπου ένα ευρύτερο μοτίβο παρενόχλησης υποστηρίζει το συμπέρασμα ότι ένα άτομο έχει σκόπιμα και κακόβουλα στοχεύσει ένα δημόσιο πρόσωπο σε多πλά μέτωπα.

Αν και ο Νόμος αναφέρει “καλυμμένες πλατφόρμες” που εξαιρούνται από τις διατάξεις κατάργησης, αυτό ισχύει μόνο για την υποχρέωση να καθιερωθεί μια формική διαδικασία κατάργησης μέχρι τον Μάιο του 2026. Δεν σημαίνει ότι μη συναινούμενα AI ή πραγματικά περιεχόμενα που μοιράζονται μέσω ιδιωτικών επικοινωνιών πέφτουν έξω από το πεδίο εφαρμογής των ποινικών απαγορεύσεων του νόμου.

Παρατηρήσιμο, η έλλειψη μηχανισμών αναφοράς σε ιστότοπους δεν εμποδίζει τους επηρεαζόμενους από το να αναφέρουν τι είναι τώρα παράνομο περιεχόμενο στην αστυνομία· ούτε τους αποτρέπει από το να χρησιμοποιούν οποιοδήποτε συμβατικό μέσο επικοινωνίας που μπορεί να έχει ένας ιστότοπος για να κάνουν μια καταγγελία και να ζητήσουν την αφαίρεση του ενοχλητικού υλικού.

The Rights Left Behind

Περισσότερες από επτά εβδομάδες αυξανόμενης δημόσιας και μέσων ενημέρωσης κριτικής για το περιεχόμενο deepfake φαίνεται να έχουν οδηγήσει σε ένα ασυνήθιστα σύντομο χρονικό διάστημα. Ωστόσο, ενώ ο Νόμος TAKE IT DOWN προσφέρει ομοσπονδιακές απαγορεύσεις, μπορεί να μην ισχύει σε κάθε περίπτωση που αφορά AI-γεννημένες προσομοιώσεις, αφήνοντας ορισμένες σενάρια να αντιμετωπιστούν από το αυξανόμενο patchwork του κρατικού νομοθετικού πλαισίου για deepfakes, όπου οι νόμοι που ψηφίστηκαν συχνά αντανακλούν “τοπικό ενδιαφέρον”.

Για παράδειγμα, στην Καλιφόρνια, ο Νόμος για τα Δικαιώματα Celeb της Καλιφόρνιας περιορίζει τη獨り χρήση της ταυτότητας ενός celeb σε αυτόν και την κληρονομιά του, ακόμη και μετά το θάνατό του· αντίθετα, ο Νόμος ELVIS του Τενεσί εστιάζει στην προστασία των μουσικών από μη autorized AI-γεννημένες φωνητικές και εικόνες αναπαραγωγές, με κάθε περίπτωση να αντανακλά μια στοχευμένη προσέγγιση σε ομάδες ενδιαφερόντων που είναι εξέχουσες σε κρατικό επίπεδο.

Οι περισσότερες πολιτείες έχουν τώρα νόμους που στοχεύουν στις σεξουαλικές deepfakes, αν και πολλές σταματούν πριν από την επέκταση των προστασιών σε ιδιωτικά άτομα και δημόσιους προσώπους. Εν τω μεταξύ, οι πολιτικοί deepfakes που φέρονται να προκάλεσαν την υποστήριξη του Ντόναλντ Τραμπ για τον νέο ομοσπονδιακό νόμο μπορεί, στην πράξη, να συμβαδίσει με συνταγματικές εμπόδια σε ορισμένα контекστά.

^† Αρχειοθετημένη έκδοση: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Αρχειοθετημένη έκδοση (δεν περιλαμβάνει μηνιαίες τιμές): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Ο πραγματικός “chief of staff” του CEO στο CivitAI είναι καταχωρημένος στο LinkedIn με ένα μη σχετικό όνομα, ενώ το παρόμοιο “Faiona” είναι επίσημος moderator του προσωπικού του CivitAI στο subreddit του domaine.

Πρώτη δημοσίευση την Τρίτη, 20 Μαΐου 2025