Μια Νομική Μέθοδος Δεδομένων για μια Νέα Γενιά Deepfakes

Αν και η δημιουργία deepfakes για ιδιώτες έχει γίνει ένα αυξανόμενο δημόσιο πρόβλημα και απαγορεύεται ολοένα και περισσότερο σε διάφορες περιοχές, το να αποδείξεις ότι ένα μοντέλο που δημιουργήθηκε από χρήστη – όπως ένα που επιτρέπει την εκδίκηση πορνό – εκπαιδεύτηκε ειδικά σε εικόνες ενός συγκεκριμένου ατόμου παραμένει εξαιρετικά δύσκολο.

Για να τοποθετήσουμε το πρόβλημα στο контέκστ: ένα βασικό στοιχείο μιας επίθεσης deepfake είναι το ψευδές ισχυρισμό ότι μια εικόνα ή βίντεο απεικονίζει ένα συγκεκριμένο άτομο. Το απλό ότι κάποιος λέει ότι κάποιος σε ένα βίντεο είναι ταυτότητα #Α, αντί να είναι απλώς ένας ομοιόμορφος, είναι ικανοποιητικό για να δημιουργήσει ζημιά, και δεν χρειάζεται κανένα AI σε αυτή τη περίπτωση.

Ωστόσο, αν ένας επιτιθέμενος δημιουργήσει AI εικόνες ή βίντεο χρησιμοποιώντας μοντέλα που εκπαιδεύτηκαν σε δεδομένα πραγματικών ατόμων, τα συστήματα αναγνώρισης προσώπου των μέσων κοινωνικής δικτύωσης και των μηχανών αναζήτησης θα συνδέσουν αυτόματα το ψευδόμενο περιεχόμενο με το θύμα – χωρίς να απαιτούν ονόματα σε αναρτήσεις ή μεταδεδομένα. Τα AI-γεννημένα οπτικά στοιχεία εξασφαλίζουν την σύνδεση.

Οσο πιο διακριτό είναι το άτομο, τόσο πιο αναπόφευκτο γίνεται, μέχρι το που το φτιαγμένο περιεχόμενο εμφανίζεται σε αναζητήσεις εικόνων και τελικά φτάνει στο θύμα.

Πρόσωπο με Πρόσωπο

Ο πιο κοινός τρόπος διάδοσης μοντέλων που επικεντρώνονται στην ταυτότητα είναι目前 η Λογική Προσαρμογή (LoRA), όπου ο χρήστης εκπαιδεύει ένα μικρό αριθμό εικόνων για vài ώρες ενάντια στα βάρη ενός πολύ μεγαλύτερου μοντέλου βάσης όπως η Σταθερή Διάχυση (για στατικές εικόνες, κυρίως) ή η Βίντεο Hunyuan, για βίντεο deepfakes.

Ο πιο κοινός στόχος των LoRAs, συμπεριλαμβανομένης της νέας φυλής βίντεο-βασισμένων LoRAs, είναι οι γυναικείες διασημότητες, των οποίων η φήμη τις εκθέτει σε αυτόν τον τύπο μεταχείρισης με λιγότερη δημόσια κριτική από ότι στην περίπτωση των «άγνωστων» θυμάτων, λόγω της υπόθεσης ότι τέτοιες παράγωγες εργασίες καλύπτονται από «δίκαιη χρήση» (τουλάχιστον στις ΗΠΑ και την Ευρώπη).

Οι γυναικείες διασημότητες κυριαρχούν στις λίστες LoRA και Dreambooth στο portal civit.ai. Το πιο δημοφιλές LoRA έχει πάνω από 66.000 λήψεις, το οποίο είναι σημαντικό, δεδομένου ότι αυτή η χρήση του AI θεωρείται ακόμη «περιφερειακή» δραστηριότητα.

Δεν υπάρχει δημόσιο φόρουμ για τα μη διασημότητες θύματα των deepfakes, τα οποία εμφανίζονται στα μέσα ενημέρωσης μόνο όταν προκύπτουν περιπτώσεις δίωξης ή όταν τα θύματα μιλούν σε δημοφιλείς εκδόσεις.

Ωστόσο, και στις δύο περιπτώσεις, τα μοντέλα που χρησιμοποιούνται για να ψευδεύσουν τις ταυτότητες έχουν «αποσταλτικοποιήσει» τα δεδομένα εκπαίδευσής τους τόσο πλήρως στο λατινικό χώρο του μοντέλου, ώστε είναι δύσκολο να αναγνωριστούν οι πηγαίες εικόνες που χρησιμοποιήθηκαν.

Εάν ήταν δυνατό να γίνει αυτό εντός eines αποδεκτού περιθωρίου σφάλματος, αυτό θα επέτρεπε τη δίωξη εκείνων που μοιράζονται LoRAs, поскольку αποδεικνύει την πρόθεση να ψευδεύσει μια συγκεκριμένη ταυτότητα (δηλ. ότι ενός συγκεκριμένου «άγνωστου» ατόμου, ακόμη και αν ο κακοποιός δεν το ονομάζει κατά τη διάρκεια της δυσφήμισης), και επίσης εκθέτει τον ανεμιστήρα σε κατηγορίες παραβίασης πνευματικών δικαιωμάτων, όπου ισχύουν.

Το δεύτερο θα ήταν χρήσιμο σε δικαιοδοσίες όπου η νομική ρύθμιση των τεχνολογιών deepfaking είναι ανεπαρκής ή καθυστερεί.

Υπερ-Εξοposure

Ο στόχος της εκπαίδευσης ενός μοντέλου βάσης, όπως το μοντέλο πολλών gigabyte που ο χρήστης μπορεί να κατεβάσει από το Hugging Face, είναι ότι το μοντέλο πρέπει να γίνει καλά γενικευμένο και ευέλικτο. Αυτό περιλαμβάνει την εκπαίδευση σε επαρκές αριθμό διαφορετικών εικόνων και με κατάλληλες ρυθμίσεις, και την ολοκλήρωση της εκπαίδευσης πριν το μοντέλο «υπερ-προσαρμοσθεί» στα δεδομένα.

Ένα υπερ-προσαρμοσμένο μοντέλο έχει δει τα δεδομένα τόσο πολλές φορές (υπερβολικά) κατά τη διάρκεια της διαδικασίας εκπαίδευσης, ώστε να έχει την τάση να αναπαράγει εικόνες που είναι πολύ παρόμοιες, εκθέτοντας την πηγή των δεδομένων εκπαίδευσης.

Η ταυτότητα ‘Ann Graham Lotz’ μπορεί να αναπαραχθεί σχεδόν τέλεια στο μοντέλο Stable Diffusion V1.5. Η αναπαράσταση είναι σχεδόν идентична με τα δεδομένα εκπαίδευσης (στα αριστερά της εικόνας παραπάνω). Πηγή: https://arxiv.org/pdf/2301.13188

Ωστόσο, τα υπερ-προσαρμοσμένα μοντέλα απορρίπτονται γενικά από τους δημιουργούς τους αντί να διανέμονται, поскольку είναι σε κάθε περίπτωση ακατάλληλα για χρήση. Έτσι, αυτό είναι ένα απίθανο εύρημα forensics. Σε κάθε περίπτωση, η αρχή ισχύει περισσότερο για την ακριβή και υψηλής όγκου εκπαίδευση των μοντέλων βάσης, όπου πολλαπλά αντίγραφα της ίδιας εικόνας που έχουν μπει σε ένα τεράστιο σύνολο δεδομένων μπορεί να κάνουν ορισμένες εικόνες εκπαίδευσης εύκολες να ανακληθούν (δείτε εικόνα και παράδειγμα παραπάνω).

Τα πράγματα είναι немного διαφορετικά στην περίπτωση των μοντέλων LoRA και Dreambooth (αν και το Dreambooth έχει εξαφανιστεί λόγω των μεγάλων αρχείων του). Εδώ, ο χρήστης επιλέγει ένα πολύ περιορισμένο αριθμό διαφορετικών εικόνων ενός θέματος και τις χρησιμοποιεί για την εκπαίδευση ενός LoRA.

Αριστερά, έξοδος από ένα Hunyuan Video LoRA. Δεξιά, τα δεδομένα που έκαναν τη ομοιότητα δυνατή (εικόνες χρησιμοποιημένες με την άδεια του ατόμου που απεικονίζεται).

Συχνά, το LoRA θα έχει μια εκπαιδευμένη εντός του λέξη-κλειδί, όπως [όνομα διασημότητας]. Ωστόσο, πολύ συχνά το συγκεκριμένα εκπαιδευμένο θέμα θα εμφανιστεί σε γεννημένες εξόδους έ 即 χωρίς τέτοιες προτροπές, γιατί ακόμη και ένα καλά ισορροπημένο (δηλ. όχι υπερ-προσαρμοσμένο) LoRA είναι κάπως «εστιασμένο» στο υλικό στο οποίο εκπαιδεύτηκε, και θα έχει την τάση να περιλαμβάνει αυτό σε οποιαδήποτε έξοδο.

Αυτή η προκατάληψη, σε συνδυασμό με τον περιορισμένο αριθμό εικόνων που είναι βέλτιστες για ένα σύνολο δεδομένων LoRA, εκθέτουν το μοντέλο σε forensics ανάλυση, όπως θα δούμε.

Αποmasking των Δεδομένων

Αυτά τα θέματα αντιμετωπίζονται σε μια νέα εργασία από τη Δανία, η οποία προσφέρει μια μεθοδολογία για τον προσδιορισμό των πηγαίων εικόνων (ή ομάδων πηγαίων εικόνων) σε ένα μαύρο-κουτί Μέλος Αναφοράς Επίθεση (MIA). Η τεχνική εμπλέκει τουλάχιστον εν μέρει τη χρήση προσαρμοσμένων εκπαιδευμένων μοντέλων που σχεδιάζονται για να βοηθήσουν στην αποκάλυψη των πηγαίων δεδομένων δημιουργώντας τα δικά τους «deepfakes»:

Παραδείγματα ‘ψευδών’ εικόνων που γεννήθηκαν από την νέα προσέγγιση, σε αυξανόμενα επίπεδα Classifier-Free Guidance (CFG), μέχρι το σημείο της καταστροφής. Πηγή: https://arxiv.org/pdf/2502.11619

Αν και η εργασία, με τίτλο Επίθεση Μέλος Αναφοράς για Εικόνες Προσώπου Κατά Εφαρμογής Fine-Tuned Latent Diffusion Μοντέλων, είναι μια πολύ ενδιαφέρουσα συνεισφορά στη βιβλιογραφία γύρω από αυτό το συγκεκριμένο θέμα, είναι επίσης μια ακατόρθωτη και στενά γραμμένη εργασία που χρειάζεται σημαντική αποκωδικοποίηση. Έτσι, θα καλύψουμε τουλάχιστον τις βασικές αρχές πίσω από το έργο εδώ, και μια επιλογή των αποτελεσμάτων που επιτεύχθηκαν.

Στην πραγματικότητα, αν κάποιος εκπαιδεύσει ένα AI μοντέλο στο πρόσωπό σας, η μέθοδος των συγγραφέων μπορεί να βοηθήσει να αποδείξει ότι με αναζητώντας σημάδια μνήμης στο μοντέλο που γεννήθηκαν εικόνες.

Στην πρώτη περίπτωση, ένα στόχο μοντέλο είναι fine-tuned σε ένα σύνολο δεδομένων εικόνων προσώπου, καθιστώντας το πιο πιθανό να αναπαράγει λεπτομέρειες από αυτές τις εικόνες στις εξόδους του. Κατόπιν, ένας τρόπος επίθεσης είναι εκπαιδευμένος χρησιμοποιώντας AI-γεννημένες εικόνες από το στόχο μοντέλο ως «θετικά» (υποψήφια μέλη του συνόλου εκπαίδευσης) και άλλες εικόνες από ένα διαφορετικό σύνολο δεδομένων ως «αρνητικά» (μη-μέλη).

Μαθαίνοντας τις λεπτές διαφορές μεταξύ αυτών των ομάδων, το μοντέλο επίθεσης μπορεί να προβλέψει εάν μια δεδομένη εικόνα ήταν μέρος του αρχικού συνόλου εκπαίδευσης.

Η επίθεση είναι πιο αποτελεσματική σε περιπτώσεις όπου το AI μοντέλο έχει fine-tuned εκτενώς, που σημαίνει ότι όσο πιο εξειδικευμένο είναι το μοντέλο, τόσο πιο εύκολο είναι να ανιχνεύσει εάν ορισμένες εικόνες χρησιμοποιήθηκαν. Αυτό γενικά ισχύει για LoRAs που σχεδιάζονται για να αναπαράγουν διασημότητες ή ιδιωτικά άτομα.

Οι συγγραφείς βρήκαν επίσης ότι η προσθήκη ορατών watermarks στις εικόνες εκπαίδευσης κάνει την ανίχνευση πιο εύκολη. Ωστόσο, οι κρυφές watermarks δεν βοηθούν πολύ.

Εντυπωσιακά, η προσέγγιση δοκιμάζεται σε ένα μαύρο-κουτί περιβάλλον, που σημαίνει ότι λειτουργεί χωρίς πρόσβαση στα εσωτερικά λεπτομέρειες του μοντέλου, μόνο στις εξόδους του.

Η μέθοδος που επιτεύχθηκε είναι υπολογιστικά εντατική, όπως οι συγγραφείς παραδέχονται. Ωστόσο, η αξία αυτής της εργασίας είναι στο να δείξει την κατεύθυνση για επιπλέον έρευνα και να αποδείξει ότι τα δεδομένα μπορούν να εξαχθούν πραγματικά σε μια αποδεκτή ανεκτικότητα. Έτσι, δεδομένης της σεμιναλικής της φύσης, δεν χρειάζεται να τρέχει σε ένα smartphone σε αυτό το στάδιο.

Μέθοδος/Δεδομένα

Πολλά σύνολα δεδομένων από το Τεχνικό Πανεπιστήμιο της Δανίας (DTU, το πανεπιστήμιο που φιλοξενεί τους τρεις ερευνητές της εργασίας) χρησιμοποιήθηκαν στη μελέτη, για την εκπαίδευση του στόχου μοντέλου και για την εκπαίδευση και δοκιμή του τρόπου επίθεσης.

Τα σύνολα δεδομένων που χρησιμοποιήθηκαν προέρχονται από DTU Orbit:

DseenDTU Η βασική συλλογή εικόνων.

DDTU Εικόνες που συλλέχθηκαν από το DTU Orbit.

DseenDTU Ένα τμήμα του DDTU που χρησιμοποιήθηκε για την εκπαίδευση του στόχου μοντέλου.

DunseenDTU Ένα τμήμα του DDTU που δεν χρησιμοποιήθηκε για την εκπαίδευση κανενός μοντέλου γεννήτριας εικόνων και αντίθετα χρησιμοποιήθηκε για να δοκιμαστεί ή να εκπαιδευτεί ο τρόπος επίθεσης.

wmDseenDTU Ένα τμήμα του DDTU με ορατά watermarks που χρησιμοποιήθηκαν για την εκπαίδευση του στόχου μοντέλου.

hwmDseenDTU Ένα τμήμα του DDTU με κρυφές watermarks που χρησιμοποιήθηκαν για την εκπαίδευση του στόχου μοντέλου.

DgenDTU Εικόνες που γεννήθηκαν από ένα Latent Diffusion Model (LDM) που έχει fine-tune στο σύνολο εικόνων DseenDTU.

Τα σύνολα δεδομένων που χρησιμοποιήθηκαν για την εκπαίδευση του στόχου μοντέλου αποτελούνται από ζευγάρια εικόνων-κειμένου που έχουν υπογραφεί από το BLIP μοντέλο υπογραφής (ίσως όχι τυχαία ένα από τα πιο δημοφιλή ακατοίκητα μοντέλα στην κοινότητα των ερασιτεχνών του AI).

Το BLIP ορίστηκε να προτάσσει την φράση ‘μια dtu headshot ενός’ σε κάθε περιγραφή.

Επιπλέον, πολλά σύνολα δεδομένων από το Πανεπιστήμιο του Aalborg (AAU) χρησιμοποιήθηκαν στις δοκιμές, όλα παραγόμενα από το AU VBN corpus:

DAAU Εικόνες που συλλέχθηκαν από το AAU vbn.

DseenAAU Ένα τμήμα του DAAU που χρησιμοποιήθηκε για την εκπαίδευση του στόχου μοντέλου.

DunseenAAU Ένα τμήμα του DAAU που δεν χρησιμοποιήθηκε για την εκπαίδευση κανενός μοντέλου γεννήτριας εικόνων, αλλά αντίθετα χρησιμοποιήθηκε για να δοκιμαστεί ή να εκπαιδευτεί ο τρόπος επίθεσης.

DgenAAU Εικόνες που γεννήθηκαν από ένα LDM που έχει fine-tune στο σύνολο εικόνων DseenAAU.

Ισοδύναμο με τα προηγούμενα σύνολα, η φράση ‘μια aau headshot ενός’ χρησιμοποιήθηκε. Αυτό εξασφάλισε ότι όλα τα λεζάντα στο σύνολο δεδομένων DTU ακολούθησαν το φορμά ‘μια dtu headshot ενός (…)’, ενισχύοντας τις βασικές χαρακτηριστικές του συνόλου δεδομένων κατά την εκπαίδευση.

Δοκιμές

Πολλές πειραματικές δοκιμές διεξήχθησαν για να αξιολογηθεί πόσο καλά οι επιθέσεις μέλους αναφοράς εκτελέστηκαν ενάντια στο στόχο μοντέλο. Κάθε δοκιμή είχε ως στόχο να καθορίσει εάν ήταν δυνατό να thựcθεί μια επιτυχημένη επίθεση εντός του σχήματος που εμφανίζεται παρακάτω, όπου το στόχο μοντέλο είναι fine-tune σε ένα σύνολο εικόνων που αποκτήθηκε χωρίς εξουσιοδότηση.

Σχήμα για την προσέγγιση.

Με το fine-tune μοντέλο να ερωτάται να γεννήσει εξόδους εικόνων, αυτές οι εικόνες χρησιμοποιούνται ως θετικά παραδείγματα για την εκπαίδευση του τρόπου επίθεσης, ενώ πρόσθετες μη σχετικές εικόνες περιλαμβάνονται ως αρνητικά παραδείγματα.

Ο τρόπος επίθεσης εκπαιδεύεται χρησιμοποιώντας εποπτευμένη μάθηση και στη συνέχεια δοκιμάζεται σε νέες εικόνες για να καθορίσει εάν ήταν αρχικά μέρος του συνόλου δεδομένων που χρησιμοποιήθηκε για την εκπαίδευση του στόχου μοντέλου. Για να αξιολογηθεί η ακρίβεια της επίθεσης, το 15% των δεδομένων δοκιμής αποθηκεύεται για επιβεβαίωση.

Επειδή το στόχο μοντέλο είναι fine-tune σε ένα γνωστό σύνολο δεδομένων, η πραγματική κατάσταση μέλους κάθε εικόνας είναι ήδη καθορισμένη όταν δημιουργούνται τα δεδομένα εκπαίδευσης για τον τρόπο επίθεσης. Αυτό το ελεγχόμενο σύστημα επιτρέπει μια σαφή αξιολόγηση του πόσο αποτελεσματικά ο τρόπος επίθεσης μπορεί να διακρίνει μεταξύ εικόνων που ήταν μέρος του συνόλου εκπαίδευσης και εκείνων που δεν ήταν.

Για αυτές τις δοκιμές, χρησιμοποιήθηκε το Stable Diffusion V1.5. Αν και αυτό το μοντέλο είναι αρκετά παλιό και εμφανίζεται συχνά σε έρευνες λόγω της ανάγκης για συνεχή δοκιμή και του εκτενούς σώματος προηγούμενης εργασίας που το χρησιμοποιεί, αυτή είναι μια κατάλληλη περίπτωση χρήσης. Το V1.5 παρέμεινε δημοφιλές για τη δημιουργία LoRA στην κοινότητα των ερασιτεχνών της Stable Diffusion για πολύ καιρό, παρά την κυκλοφορία πολλών μεταγενέστερων εκδόσεων, και ακόμη και παρά την έλευση του Flux – επειδή το μοντέλο είναι完全 ακατοίκητο.

Ο τρόπος επίθεσης των ερευνητών βασίζεται στο Resnet-18, με τα προ-εκπαιδευμένα βάρη του μοντέλου να διατηρούνται. Η στρώση 1000 νευρώνων του ResNet-18 αντικαταστάθηκε με μια πλήρως συνδεδεμένη στρώση με δύο νευρώνες. Η εκπαίδευση απώλεια ήταν κατηγορηματική εντροπία, και ο βελτιωτής Adam χρησιμοποιήθηκε.

Για κάθε δοκιμή, ο τρόπος επίθεσης εκπαιδεύτηκε πέντε φορές χρησιμοποιώντας διαφορετικά τυχαία σπόρους για να υπολογίσει 95% διαστήματα εμπιστοσύνης για τα βασικά μετρικά. Zero-shot ταξινόμηση με το CLIP μοντέλο χρησιμοποιήθηκε ως βάση.

(Παρακαλώ σημειώστε ότι ο πρωταρχικός πίνακας αποτελεσμάτων στην εργασία είναι συντομευμένος και ασυνήθιστα δύσκολος να κατανοηθεί. Έτσι, το έχω αναδιαμορφώσει παρακάτω σε μια πιο φιλική προς τον χρήστη μορφή. Παρακαλώ κάντε κλικ στην εικόνα για να τη δείτε σε καλύτερη ανάλυση)

Σύνοψη των αποτελεσμάτων από όλες τις δοκιμές. Κάντε κλικ στην εικόνα για να τη δείτε σε καλύτερη ανάλυση

Η μέθοδος επίθεσης των ερευνητών αποδείχθηκε πιο αποτελεσματική όταν στόχευε fine-tune μοντέλα, ιδιαίτερα αυτά που εκπαιδεύτηκαν σε ένα συγκεκριμένο σύνολο εικόνων, όπως το πρόσωπο ενός ατόμου. Ωστόσο, ενώ η επίθεση μπορεί να καθορίσει εάν ένα σύνολο δεδομένων χρησιμοποιήθηκε, δυσκολεύεται να αναγνωρίσει μεμονωμένες εικόνες μέσα σε αυτό το σύνολο.

Σε πρακτικούς όρους, το δεύτερο δεν είναι απαραίτητα ένα εμπόδιο για τη χρήση μιας προσέγγισης όπως αυτή forensically. Ενώ υπάρχει σχετικά λίγη αξία στο να καθορίσεις ότι ένα διάσημο σύνολο δεδομένων όπως το ImageNet χρησιμοποιήθηκε σε ένα μοντέλο, ένας επιτιθέμενος σε ένα ιδιωτικό άτομο (όχι διασημότητα) θα έχει πολύ λιγότερη επιλογή πηγαίων δεδομένων και θα πρέπει να εκμεταλλευτεί πλήρως τα διαθέσιμα δεδομένα ομάδων, όπως άλμπουμ κοινωνικών μέσων και άλλες online συλλογές. Αυτά δημιουργούν effectively ένα «hash» που μπορεί να ανακαλυφθεί με τις μεθόδους που περιγράφηκαν.

Η εργασία σημειώνει ότι ένας άλλος τρόπος για να βελτιώσει την ακρίβεια είναι να χρησιμοποιήσει AI-γεννημένες εικόνες ως «μη-μέλη», αντί να βασίζεται μόνο σε πραγματικές εικόνες. Αυτό αποτρέπει τις τεχνητά υψηλές επιτυχημένες ταξινομήσεις που θα μπορούσαν να παραπλανήσουν τα αποτελέσματα.

Ένας επιπλέον παράγοντας που επηρεάζει σημαντικά την ανίχνευση, οι συγγραφείς σημειώνουν, είναι η υδατογράφηση. Όταν τα δεδομένα εκπαίδευσης περιέχουν ορατές υδατογράφιες, η επίθεση γίνεται πολύ αποτελεσματική, ενώ οι κρυφές υδατογράφιες προσφέρουν λίγη ή καθόλου πλεονέκτημα.

Η δεξιά εικόνα δείχνει την πραγματική «κρυφή» υδατογράφηση που χρησιμοποιήθηκε στις δοκιμές.

Τέλος, το επίπεδο καθοδήγησης στη γεννήτρια κειμένου-εικόνας παίζει επίσης ρόλο, με το ιδανικό ισορρόπημα να βρεθεί σε μια κλίμακα καθοδήγησης γύρω στα 8. Ακόμη και όταν δεν χρησιμοποιείται άμεση προτροπή, ένα fine-tune μοντέλο vẫn τείνει να παράγει εξόδους που μοιάζουν με τα δεδομένα εκπαίδευσής του, ενισχύοντας την αποτελεσματικότητα της επίθεσης.

Συμπέρασμα

Είναι κακό που αυτή η ενδιαφέρουσα εργασία έχει γραφτεί με τέτοιο απρόσιτο τρόπο, καθώς θα έπρεπε να είναι κάπως ενδιαφέρουσα για τους οπαδούς της ιδιωτικής ζωής και τους ερασιτέχνες ερευνητές του AI.

Αν και οι επιθέσεις μέλους αναφοράς μπορεί να αποδειχθούν ένα ενδιαφέρον και γόνιμο εργαλείο forensics, είναι πιο σημαντικό, ίσως, για αυτό το ερευνητικό νήμα να αναπτύξει εφαρμόσιμες ευρείες αρχές, για να μην τελειώσει στο ίδιο παιχνίδι whack-a-mole που έχει συμβεί για την ανίχνευση deepfakes γενικά, όταν η κυκλοφορία eines νέου μοντέλου έχει αρνητική επίδραση στην ανίχνευση και παρόμοιους forensics συστήματα.

Επειδή υπάρχει κάποια απόδειξη μιας υψηλότερου επιπέδου οδηγού αρχής που καθαρίστηκε σε αυτήν την νέα έρευνα, μπορούμε να ελπίσουμε να δούμε περισσότερη δουλειά σε αυτήν τη κατεύθυνση.

Πρώτη δημοσίευση Παρασκευή, 21 Φεβρουαρίου 2025