Το CivitAI Ενισχύει τους Κανόνες για τα Deepfakes υπό την Πίεση της Mastercard και της Visa

Το CivitAI, πιθανότατα το πιο δημοφιλές αποθετήριο μοντέλων AI στο διαδίκτυο, έχει τελικά υποκύψει στην πίεση από τους фасilitators πληρωμών MasterCard και Visa για να αναθεωρήσει ριζικά τις πολιτικές του για περιεχόμενο NSFW – και ιδιαίτερα τους Όρους Χρήσης σχετικά με τα celebrity LoRAs, одну από τις πιο δημοφιλείς ροές περιεχομένου που υποβλήθηκαν από τους χρήστες, η οποία επιτρέπει στους ανθρώπους να χρησιμοποιούν ελεύθερα ληψίματα μοντέλα όπως τα LoRAs για να δημιουργήσουν απεικονίσεις AI (συμπεριλαμβανομένων βίντεο απεικονίσεων) γνωστών προσώπων.

[βίντεο πλάτος=”1208″ ύψος=”680″ mp4=”https://www.unite.ai/wp-content/uploads/2025/04/CIVITLORAS-edit_bordered.mp4″ loop=”true”][/βίντεο]

Πατήστε για αναπαραγωγή. Αν και το Civit δεν παρέχει ακριβείς αριθμούς (και η λανθασμένη ετικέτα/κατηγοριοποίηση δεν είναι ασυνήθιστη, που θα σίγουρα στρεβλώσει τους αριθμούς), ο αριθμός των μοντέλων AI με знаменίτες προσωπικότητες, κυρίως LoRAs, είναι σαφώς στο εκατοντάδες ή ακόμη και χιλιάδες, και σαφώς κυριαρχείται από θηλυκά υποκείμενα. Πηγή: civitai.com

Σαφώς λειτουργώντας υπό πίεση σε μια ζωντανή μετάδοση στο Twitch** εκ μέρους της εταιρείας, ο Community Engagement Manager Alasdair Nicoll, ο ίδιος δημιουργός μοντέλων (SFW) στο Civit, παραδέχτηκε ότι οι αλλαγές έχουν επιβληθεί στον ιστότοπο από τις ανησυχίες των processors πληρωμών σχετικά με το ενηλικό περιεχόμενο και την απεικόνιση πραγματικών προσώπων. Ομοίως, παραδέχτηκε την πιθανότητα ότι οι κύριες δυνάμεις πίσω από αυτούς τους processors, η Visa και η MasterCard, θα απαιτήσουν μεγαλύτερες αλλαγές αργότερα:

‘Αυτές δεν είναι αλλαγές που θέλαμε να κάνουμε. Αυτό οφείλεται σε νέους και επικείμενους νόμους. Υπάρχουν νόμοι για τα deepfakes εκεί, υπάρχουν νόμοι για την AI πορνογραφία… οι processors πληρωμών, και τελικά η Visa και η MasterCard, είναι τρομοκρατημένοι· δεν θέλουν να μηνύονται, και είναι τελικά αυτοί που οδηγούν αυτές τις αλλαγές.

‘Ορισμένες από τις άλλες επιλογές που μας δόθηκαν ήταν η αφαίρεση του περιεχομένου που δεν είναι κατάλληλο για όλες τις ηλικίες· η αφαίρεση του x και του triple-x περιεχομένου από το CivitAI και σε一个 completamente νέο πλαίσιο, και στη συνέχεια geo-blocking αυτού του πλαισίου, επειδή πάνω από το μισό των πολιτειών των ΗΠΑ απαιτούν κάποιο είδος geo-blocking, [όπως και] πολλές ασιατικές χώρες και το Ηνωμένο Βασίλειο…

‘Η τρίτη επιλογή ήταν να πάνε πλήρως κρυπτονομίσματα, κρυπτονομίσματα μόνο…所以 δεν υπήρχαν κυριολεκτικά καλές επιλογές για αυτό.’

Το domaine του Civit έχει καταρρεύσει περιόδически για αναθεωρήσεις τα τελευταία ημέρες, φαινομενικά για να επιφέρει τις αλλαγές. Αν και ο ιστότοπος είχε ήδη απαγορεύσει τη χρήση θεμάτων NSFW σε απεικονίσεις celebrity LoRA/μοντέλων, τώρα είναι αδύνατο να περιηγηθείς στο τμήμα μοντέλων του Civit και να δεις προεπισκοπήσεις celebrity LoRA πλάι-πλάι με τον πολύ μεγάλο αριθμό γενικών μοντέλων NSFW που έχουν σχεδιαστεί για να παράγουν ώριμο περιεχόμενο.

Η επίσημη ανακοίνωση αναφέρει:

‘Περιεχόμενο που έχει ετικεταριστεί με ονόματα πραγματικών προσώπων (όπως “Tom Cruise”) ή έχει σημειωθεί ως πόρων πραγματικών προσώπων θα κρυφτεί από τα feeds.’

Στη ζωντανή μετάδοση στο Twitch, ο Nicoll αποκάλυψε περαιτέρω λεπτομέρειες για μέτρα που έχουν σχεδιαστεί για την προστασία знамενίτων προσώπων και πραγματικών προσώπων. Το Civit έχει πάντα επιτρέψει σε πραγματικά πρόσωπα να ζητήσουν να αφαιρεθεί ένα μοντέλο AI που απεικονίζει το πρόσωπό τους, αλλά τώρα ο Nicoll αναφέρει σε ένα σύστημα που μπορεί να εμποδίσει τέτοιες εικόνες να ξαναανεβαίνουν μετά την αρχική απόρριψη, με τη δυνατότητα να αναγνωρίσει ένα ‘προστατευμένο’ πρόσωπο ακόμη και σε εικόνες που το σύστημα δεν έχει δει ποτέ πριν.

Για αυτό το σκοπό, ο ιστότοπος συνεργάζεται τώρα με το σύστημα επιτήρησης Clavata AI – αν και το βαθμό στον οποίο η Clavata θα ενεργοποιήσει αυτές τις νέες εγκαταστάσεις δεν είναι ακόμη σαφής.

Ο Nicoll είπε:

‘Ο Tom Hanks έχει διεκδικήσει την ομοιότητα του από εμάς, για παράδειγμα. Πολλοί από τους ηθοποιούς και τις ηθοποιούς έχουν…

‘Νομίζω ότι η πρώτη που είχαμε ήταν η Barbara Eden, η οποία ήταν μια από τις πρώτες που διεκδίκησε την ομοιότητα της, που είναι κάπως αστείο, επειδή είναι παλιά.’

Προστατεύεται από Προεπιλογή;

Τις τελευταίες δύο χρόνια, η εταιρεία AI VFX Metaphysic (πλήρης αποκάλυψη: εργάστηκα για τη Metaphysic.ai από τις αρχές του 2022 μέχρι τις αρχές του 2024) προσπάθησε να δημιουργήσει ένα ιδιοκτητικό σύστημα που θα επέτρεπε σε οποιονδήποτε να καταχωρήσει την δική του ομοιότητα, κυρίως σε ονόματα του Χόλιγουντ που ανησυχούν για την απαγωγή της ταυτότητας τους από την AI, με την υποστήριξη από ηθοποιούς όπως Anne Hathaway, Octavia Spencer και Tom Hanks (με τον οποίο η εταιρεία συνεργάστηκε στο Εδώ [2024]).

Λογικά, η χρησιμότητα του συστήματος θα εξαρτηθεί πάντα από την τελική νομολογία· με βάση τα μέτρα που λαμβάνει το Civit τώρα, η υπογραφή-βασισμένη υπηρεσία^† που προτάθηκε από τη Metaphysic θα μπορούσε να είναι περιττή μπροστά στην ταχεία ανάπτυξη των νόμων για τα deepfakes, και την πιθανή (δωρεάν) κάλυψη υπό τον κοινό νόμο. Δεν είναι γνωστό目前 αν η προσφορά Metaphysic Pro θα μεταφερθεί στην εταιρεία Double Negative VFX, η οποία αγόρασε τα περιουσιακά στοιχεία της Metaphysic το προηγούμενο έτος.

Βράζοντας τον Βάτραχο

Μια αναφορά του 2023 από την 404 Media έδωσε προσοχή στη προκλήσεις των μοντέλων celeb και πορνο AI στο Civit, αν και ο ιδρυτής του Civit, Justin Maier, κατέβαλε τη σχέση μεταξύ των ομοιοτήτων των знамενίτων και της χρήσης τους για τη δημιουργία πορνογραφικού υλικού.

Πού Επόμενο;

Πριν από αυτή την ανακοίνωση, το Civit είχε παρατηρηθεί ότι αφαιρεί ανεβάσματα που καλύπτονται από ορισμένες από τις κατηγορίες και τους τύπους περιεχομένου που τώρα απαγορεύονται. Tại τη στιγμή της γραφής, ένα ’emergency repository’ για Wan 2.1 LoRAs έχει ιδρυθεί στην ιστοσελίδα Hugging Face. Αν και ορισμένα από τα LoRAs αρχειοθετημένα εκεί έχουν σχεδιαστεί για να διευκολύνουν γενικές σεξουαλικές δραστηριότητες που είναι ελάχιστα εκπαιδευμένες ή αλλιώς απουσιάζουν σε νέα μοντέλα βίντεο όπως το Wan 2.1, πολλά από αυτά εμπίπτουν στην τώρα αυστηρά απαγορευμένη κατηγορία ‘undress’ (δηλαδή, ‘γυμνισμός’), συμπεριλαμβανομένων ορισμένων μοντέλων που θα μπορούσαν να θεωρηθούν ‘εξτρεμικά’ ή φανερά προσβλητικά.

Υποχρεωτικά Μεταδεδομένα

Μια ενδιαφέρουσα αλλαγή που φαίνεται να απαιτείται από τους processors πληρωμών, σύμφωνα με τον Nicoll, είναι ότι όλες οι εικόνες στον ιστότοπο πρέπει τώρα να περιέχουν μεταδεδομένα. Όταν μια εικόνα ή βίντεο παράγεται από ένα γεννητικό μοντέλο σε một τυπικό workflow σε μια πλατφόρμα όπως το ComfyUI, η έξοδος γενικά περιέχει μεταδεδομένα που καταγράφουν το μοντέλο που χρησιμοποιήθηκε (το hash καθώς και το όνομα, ώστε σε περίπτωση που το μοντέλο μετονομάζεται από einen χρήστη, η προέλευσή του παραμένει σαφής) και πολλές άλλες ρυθμίσεις.

Λόγω αυτών των κρυφών σημείων δεδομένων σχετικά με τον τρόπο που δημιουργήθηκε η εικόνα, οι χρήστες είναι σε θέση να σύρουν μια εικόνα ή βίντεο που δημιουργήθηκε από κάποιον άλλον στο δικό τους workflow ComfyUI και να αναδημιουργήσουν ολόκληρη τη ροή, και να αντιμετωπίσουν οποιαδήποτε λείπουν εξαρτήσεις (όπως μοντέλα ή στοιχεία που ο αρχικός δημιουργός είχε, τα οποία ο χρήστης θα πρέπει να βρει και να κατεβάσει).

Οι Νέοι Κανόνες

Εδώ είναι οι συνοψισμένες αλλαγές που ισχύουν στο Civit από σήμερα:

• Περιεχόμενο που έχει ετικεταριστεί με ονόματα πραγματικών προσώπων ή έχει σημειωθεί ως πόρων πραγματικών προσώπων δεν θα εμφανίζεται πλέον σε δημόσιες ροές.
• Περιεχόμενο με θέματα παιδιών/ελαφρών θα φιλτραριστεί από τις ροές.
• Περιεχόμενο με βαθμολογία x και triple-x που λείπει μεταδεδομένων θα κρυφτεί από τη δημόσια όψη και θα σημειωθεί με προειδοποίηση, επιτρέποντας στον ανεβάζοντα να προσθέσει τα λείπουντα στοιχεία. Τέτοιο περιεχόμενο δεν θα διαγραφεί αλλά θα παραμείνει ορατό μόνο για τον δημιουργό του μέχρι να ενημερωθεί.
• Εικόνες που δημιουργούνται με τη δυνατότητα Bring Your Own Image (BYOI) πρέπει τώρα να εφαρμόζουν τουλάχιστον 50% αλλαγή θορύβου κατά τη διάρκεια της δημιουργίας. Αυτό σημαίνει ότι το AI πρέπει να τροποποιήσει σημαντικά την ανεβαθμισμένη εικόνα, μειώνοντας την πιθανότητα δημιουργίας几乎-ταυτόσημων αντιγράφων. Ωστόσο, εικόνες που δημιουργούνται εξ ολοκλήρου στο CivitAI ή αναμιγνύονται από άλλα περιεχόμενο του CivitAI δεν υπόκεινται σε αυτόν τον κανόνα και μπορούν να χρησιμοποιήσουν οποιοδήποτε επίπεδο αποθορύβωσης, από καμία αλλαγή (0,0) έως πλήρη μετασχηματισμό (1,0). Αυτή η αλλαγή έχει ως στόχο να μειώσει την κακοποίηση της εργαλείου BYOI, η οποία θα μπορούσε αλλιώς να χρησιμοποιηθεί για να παράγει λεπτές ή ανιχνεύσιμες deepfakes με ελάχιστη αλλαγή πραγματικών εικόνων.
• Όταν περιηγείστε με περιεχόμενο x ή triple-x ενεργοποιημένο, οι αναζητήσεις για ονόματα знамενίτων θα επιστρέψουν keine αποτελέσματα. Η συνδυασμένη αναζήτηση ονομάτων знамενίτων με ώριμο περιεχόμενο παραμένει απαγορευμένη.
• Διαφημίσεις δεν θα εμφανίζονται σε εικόνες ή πόρους που έχουν σχεδιαστεί για να αναπαράγουν την εμφάνιση πραγματικών προσώπων.
• Η δυνατότητα tipping (Buzz) θα απενεργοποιηθεί για εικόνες ή πόρους που απεικονίζουν πραγματικά πρόσωπα.
• Μοντέλα που έχουν σχεδιαστεί για να αναπαράγουν πραγματικά πρόσωπα δεν θα είναι επιλέξιμα για Early Access, μια δυνατότητα του Civitai που επιτρέπει στους δημιουργούς να κυκλοφορούν περιεχόμενο πρώτα σε πληρωτές υποστηρικτές. Αυτό περιορίζει την κερδοφορία των ομοιοτήτων знамενίτων ή πραγματικών προσώπων.
• Μια Δήλωση Συμμόρφωσης 2257 έχει προστεθεί για να διευκρινιστεί ότι η πλατφόρμα δεν επιτρέπει κανένα μη-γεννητικό περιεχόμενο. Αυτό βοηθά στην εξασφάλιση νομικής προστασίας, επιβεβαιώνοντας ότι όλα τα ρητά υλικά είναι συνθετικά και όχι βασισμένα σε πραγματική φωτογραφία ή βίντεο.
• Μια νέα Σελίδα Αιτήματος Αφαίρεσης Περιεχομένου επιτρέπει σε οποιονδήποτε να αναφέρει κακοποιητικό ή παράνομο υλικό χωρίς να χρειάζεται να συνδεθεί. Οι εγγεγραμμένοι χρήστες πρέπει να συνεχίσουν να χρησιμοποιούν τα ενσωματωμένα εργαλεία αναφοράς σε κάθε ανάρτηση. Αυτό είναι ξεχωριστό από την υπάρχουσα φόρμα για την αίτηση αφαίρεσης της ομοιότητας από την πλατφόρμα.
• Το CivitAI έχει εισαγάγει ένα νέο σύστημα επιτήρησης μέσω της συνεργασίας με την Clavata, των οποίων τα εργαλεία ανάλυσης εικόνων υπερέχουν των προηγούμενων λύσεων όπως η Amazon Rekognition και η Hive.

** Ως της Τρίτης, 20 Μαΐου 2025 11:23:47 (μπορεί να έχει συμβεί νωρίτερα), η ζωντανή μετάδοση στο Twitch έχει αφαιρεθεί. Για να διασφαλίσω ότι θα μπορούσα να επιβεβαιώσω τα γεγονότα που αναφέρθηκαν στη μετάδοση, διατηρώ ένα αντίγραφο.

* Παρά την αναφορά στο ‘κτήμα’ της Barbara Eden, η ηθοποιός I Dream of Jeannie είναι ακόμη ζωντανή, ηλικίας 93 ετών.
^† Αρχειοθετημένο: https://archive.ph/tsMb0

Πρώτη δημοσίευση την Πέμπτη, 24 Απριλίου 202. Τροποποιήθηκε την Πέμπτη, 24 Απριλίου 2025 14:32:28: διορθώθηκαν οι ημερομηνίες.
Τροποποιήθηκε την Τρίτη, 20 Μαΐου 2025 για να αντανακλούσει την κατάργηση του περιεχομένου του Twitch που χρησιμοποιήθηκε ως υλικό αναφοράς.