Αναγνώριση Πηγαίου Δεδομένου για Γεννήτριες GAN

Νέα έρευνα από τη Γαλλία έχει προτείνει μια τεχνική για την ‘αναγνώριση’ των πηγαίων ταυτοτήτων που έχουν συμβάλλει στη συνθετικά παραγμένη δεδομένα, όπως τα GAN-παραγμένα ‘μη-υπάρχοντα άτομα’ σε έργα όπως το This Person Does Not Exist.

Η μέθοδος που περιγράφεται στο το έγγραφο, με τίτλο Αυτό το Άτομο (Πιθανόν) Υπάρχει. Επιθέσεις Ταυτοποίησης Κατά των GAN-Παραγμένων Προσώπων, δεν απαιτεί (απίθανη) πρόσβαση στην αρχιτεκτονική εκπαίδευσης ή στα δεδομένα του μοντέλου, και μπορεί να εφαρμοστεί σε eine ποικιλία εφαρμογών για τις οποίες η χρήση Γεννητικών Αντισταθμιστικών Δικτύων (GANs) εξετάζεται ως μέθοδος για την ανωνυμοποίηση προσωπικών δεδομένων (PII) ή ως μέσο για τη δημιουργία συνθετικών δεδομένων ενώ προστατεύει το πηγαίο υλικό.

Οι ερευνητές έχουν διαμορφώσει μια μέθοδο που ονομάζεται Επίθεση Ταυτοποίησης Ταυτότητας, η οποία αξιολογεί την πιθανότητα μιας einzel ταυτότητας να εμφανιστεί συχνά σε ένα συνεισφέρων σύνολο δεδομένων, αντί να προσπαθήσει να εστιάσει σε συγκεκριμένα χαρακτηριστικά μιας ταυτότητας (π.χ. στα pixel ομάδες μιας αρχικής εικόνας που χρησιμοποιήθηκε για την εκπαίδευση του γεννητικού μοντέλου).

Πηγή: https://arxiv.org/pdf/2107.06018.pdf

Στην εικόνα παραπάνω, από την έρευνα, κάθε σειρά αρχίζει με μια GAN-παραγμένη εικόνα που δημιουργήθηκε από το StyleGAN. Το αριστερό μπλοκ εικόνων δημιουργήθηκε από μια βάση δεδομένων 40.000 εικόνων, το μεσαίο από 80.000 και το δεξί μπλοκ από 46.000 εικόνων. Όλες οι εικόνες προέρχονται από το σύνολο δεδομένων VGG2Face2.

Ορισμένα δείγματα έχουν μια φευγαλέα ομοιότητα, ενώ άλλα συσχετίζονται ισχυρά με τα δεδομένα εκπαίδευσης. Τα πρόσωπα αναγνωρίστηκαν επιτυχώς από τους ερευνητές χρησιμοποιώντας ένα δίκτυο αναγνώρισης προσώπων.

Περισσότερο από την Εμφάνιση

Οι προσεγγίσεις αναγνώρισης αυτής της φύσης έχουν πολλαπλάσια επιπτώσεις σε πολλά πεδία έρευνας· οι ερευνητές, που базίζονται στο Πανεπιστήμιο του Καέν στη Νορμανδία, τονίζουν ότι η τεχνική τους δεν περιορίζεται σε σύνολα προσώπων και πλαίσια GAN-παραγωγής προσώπων, αλλά είναι εξίσου εφαρμόσιμη σε σύνολα δεδομένων ιατρικής εικόνας και βιομετρικών δεδομένων, μεταξύ άλλων πιθανών επιφανειών επιθέσεων σε πλαίσια σύνθεσης εικόνας.

‘Πιστεύουμε ότι αν είναι επιτυχημένη, μια τέτοια επίθεση θα αποκαλύψει ένα σοβαρό εμπόδιο για την ασφαλή ανταλλαγή GANs σε ευαίσθητες περιπτώσεις. Για παράδειγμα, στο контέκστ των πινάκων ή άλλων έργων τέχνης, η διανομή eines μη-ιδιωτικού γεννήτορα μπορεί να αποκλειστεί λόγω προφανών προβλημάτων πνευματικών δικαιωμάτων. Περισσότερο σημαντικά, σκεφτείτε μια βιομετρική εταιρεία Α που κυκλοφορεί einen γεννήτορα που εκθέτει την ταυτότητα του καταναλωτή της. Μια άλλη εταιρεία Β θα μπορούσε πιθανώς να ανιχνεύσει ποιοι από τους πελάτες της είναι επίσης πελάτες της εταιρείας Α. Παρόμοιες καταστάσεις possono να δημιουργήσουν σοβαρά προβλήματα για τα ιατρικά δεδομένα, όπου η αποκάλυψη ενός GAN θα μπορούσε να παραβιάσει προσωπικές πληροφορίες για μια ασθένεια ενός ασθενούς.’

Αναγνώριση Πηγαίου Δεδομένου που έχει Κλαπεί από το Ιντερνέτ ή Ιδιωτικά Δεδομένα

Αν και το έγγραφο απλά θίγει το θέμα, η ικανότητα να αναγνωριστεί το πηγαίο δεδομένο από το αφηρημένο αποτέλεσμα (όπως τα GAN-παραγμένα πρόσωπα, αν και αυτό ισχύει εξίσου για συστήματα κωδικοποιητή/αποκωδικοποιητή και άλλες αρχιτεκτονικές) έχει σημαντικές επιπτώσεις για την εφαρμογή προστασίας πνευματικών δικαιωμάτων τις επόμενες 5-10 χρόνια.

Τώρα, οι περισσότερες χώρες λειτουργούν με μια απαλλαγή προσέγγιση για την κλοπή δεδομένων από δημόσιες ιστοσελίδες, προκειμένου να μην μείνουν πίσω στη φάση ανάπτυξης των οικονομιών μηχανικής μάθησης που έρχονται. Όταν αυτό το κλίμα εμπορευματοποιείται και εδραιώνεται, υπάρχει σημαντικός κίνδυνος για μια νέα γενιά ‘Τρολ Δεδομένων’ να παρουσιάσει αξιώσεις πνευματικών δικαιωμάτων για εικόνες που επιβεβαιώνονται ότι έχουν χρησιμοποιηθεί ιστορικά σε σύνολα δεδομένων που έχουν συμβάλλει σε αλγόριθμους μηχανικής μάθησης.

Όσο οι ανεπτυγμένοι αλγόριθμοι ωριμάζουν και γίνονται πιο πολύτιμοι με το χρόνο, οποιαδήποτε μη-επιτρεπόμενη εικόνα που χρησιμοποιήθηκε στην πρώιμη ανάπτυξή τους και μπορεί να ανιχνευθεί από τα αποτελέσματά τους με μεθόδους παρόμοιες με αυτές που προτείνονται στο νέο γαλλικό έγγραφο, είναι ένα πιθανό νομικό κίνδυνο σε κλίμακα SCO Vs IBM (μια θρυλική μακροχρόνια τεχνολογική αγωγή που συνεχίζει να απειλεί το λειτουργικό σύστημα Linux).

Εκμετάλλευση του Μεξικανικού Αδιεξόδου της Ποικιλότητας έναντι της Συχνότητας

Η основική τεχνική που χρησιμοποιούν οι γαλλικοί ερευνητές εκμεταλλεύεται τη συχνότητα των πρωτογενών δεδομένων εικόνας ως κλειδί για την αναγνώριση. Όσο συχνότερα μια συγκεκριμένη ταυτότητα εμφανίζεται στο σύνολο δεδομένων, τόσο πιο πιθανό είναι να είναι δυνατή η αναγνώριση της αρχικής ταυτότητας, συσχετίζοντας τα αποτελέσματα της επίθεσης με δημόσια ή ιδιωτικά διαθέσιμα σύνολα δεδομένων.

Οι ερευνητές σημειώνουν ότι αυτό μπορεί να μετριαστεί με την ενσωμάτωση μιας πολύ μεγαλύτερης ποικιλίας δεδομένων (για παράδειγμα, προσώπων) στο πηγαίο σύνολο δεδομένων, και με το να μην εκπαιδεύουν το σύνολο δεδομένων τόσο πολύ που υπερ-προσαρμόζεται. Το πρόβλημα με αυτό είναι ότι το μοντέλο πρέπει τότε να επιτύχει καλή αφαίρεση σε ένα πολύ υψηλότερο διαστατικό χώρο, και με μια πολύ μεγαλύτερη ποσότητα δεδομένων από ό,τι είναι αυστηρά απαραίτητο για να ληφθούν πιστευτά συνθετικά αποτελέσματα.

Για να επιτύχει το βέλτιστο γενίκευση αυτού του είδους είναι δαπανηρό και χρονοβόρο: ο.latent χώρος (το τμήμα ανάλυσης της μαθηματικής μάθησης στο οποίο τα δεδομένα τροφοδοτούνται) θα χρειαστεί περισσότερες πόρους· το σύνολο δεδομένων θα χρειαστεί περισσότερη επιμέλεια· και既然 η ποσότητα δεδομένων θα πρέπει να είναι σημαντική, οι μεγέθεις批 και ρυθμίσεις θα πρέπει να βελτιστοποιηθούν για ποιότητα και υψηλά επίπεδα γενίκευσης, αντί για ταχύτητα εκπαίδευσης και οικονομία, καθιστώντας την ανάπτυξη πιο δαπανηρή και μακροχρόνια.

Επιπλέον, υπερ-προσαρμοσμένα γεννητικά αλγόριθμοι possono να επιτύχουν εξαιρετικά ρεαλιστικά συνθετικά δεδομένα, ακόμη και αν τα αποτελέσματα (π.χ. πρόσωπα, χάρτες, βιοϊατρικές εικόνες κ.λπ.) δεν είναι完全 αφηρημένα, αλλά διαθέτουν μεγαλύτερα διακριτικά χαρακτηριστικά από το πηγαίο δεδομένο από ό,τι θα ήταν ιδανικό – μια诱人的 βραχυκυκλωμα. Στο τρέχον ‘αγριό δυτικό’ κλίμα του τομέα της μηχανικής μάθησης, όπου μικρότερες πρωτοβουλίες προσπαθούν να προκαλέσουν την ηγεσία του FAANG με λιγότερους πόρους (ή να κερδίσουν προσοχή για αγορά), είναι αμφίβολο αν τα πρότυπα ανεβαίνουν πάντα τόσο υψηλά.

Το έγγραφο επίσης παρατηρεί ότι η ποικιλότητα των πηγαίων δεδομένων (όπως τα πρόσωπα) δεν είναι αρκετή από μόνη της για να αποτρέψει την αναγνώριση μέσω αυτών και παρόμοιων μεθόδων,既然 η πρώιμη διακοπή της εκπαίδευσης μπορεί να αφήσει τις πηγαίες ταυτότητες ανεπαρκώς αφηρημένες.