Οι Πραγματικές Ταυτότητες Μπορούν Να Ανακτηθούν Από Συνθετικά Δεδομένα

Εάν το 2022 σημάδεψε τη στιγμή που η διαταρακτική δυνατότητα της γεννητικής τεχνητής νοημοσύνης first κατέλαβε την ευρεία προσοχή του κοινού, το 2024 ήταν το έτος κατά το οποίο οι ερωτήσεις σχετικά με τη νομιμότητα των υποκείμενων δεδομένων της έλαβαν κεντρική θέση για τις επιχειρήσεις που επιθυμούν να εκμεταλλευτούν τη δύναμή της.

Η докτρίνα της δίκαιης χρήσης των ΗΠΑ, μαζί με την 암πλιτική ακαδημαϊκή άδεια που είχε επιτρέψει για καιρό στους ακαδημαϊκούς και εμπορικούς ερευνητικούς τομείς να εξερευνήσουν τη γεννητική τεχνητή νοημοσύνη, έγινε ολοένα και πιο αμφισβητήσιμη καθώς εμφανίστηκαν 증거 κλοπής πνευματικής ιδιοκτησίας. Κατόπιν, οι ΗΠΑ, για το παρόν, δεν επιτρέπουν το περιεχόμενο που παράγεται από τη γεννητική τεχνητή νοημοσύνη να προστατεύεται από πνευματικά δικαιώματα.

Αυτά τα θέματα είναι μακράν από το να επιλυθούν και μακράν από το να επιλυθούν σύντομα. Το 2023, λόγω της αυξανόμενης μέσων ενημέρωσης και δημόσιας ανησυχίας σχετικά με το νομικό καθεστώς της εξόδου της γεννητικής τεχνητής νοημοσύνης, το Γραφείο Πνευματικής Ιδιοκτησίας των ΗΠΑ ξεκίνησε μια διετή έρευνα σε αυτό το аспект της γεννητικής τεχνητής νοημοσύνης, δημοσιεύοντας το πρώτο τμήμα (σχετικά με ψηφιακές αναπαραγωγές) τον Ιούλιο του 2024.

Εν τω μεταξύ, τα επιχειρηματικά συμφέροντα παραμένουν απογοητευμένα από την πιθανότητα ότι τα ακριβά μοντέλα που επιθυμούν να εκμεταλλευτούν θα τους εκθέσουν σε νομικές επιπτώσεις όταν τελικά εμφανιστούν οριστικές νομοθεσίες και ορισμοί.

Η ακριβή βραχυπρόθεσμη λύση ήταν να νομιμοποιήσουν τα γεννητικά μοντέλα με την εκπαίδευση τους σε δεδομένα που οι εταιρείες έχουν το δικαίωμα να εκμεταλλευτούν. Η αρχιτεκτονική Firefly της Adobe, που παράγει κείμενο-εικόνα (και τώρα κείμενο-βίντεο), τροφοδοτείται κυρίως από την αγορά της Fotolia dataset εικόνων stock το 2014, συμπληρωμένη από τη χρήση δεδομένων που έχουν λήξει το πνευματικό δικαίωμα από το δημόσιο τομέα*. Ταυτόχρονα, οι υφιστάμενες εταιρείες stock φωτογραφιών όπως η Getty και η Shutterstock έχουν κεφαλαιοποιήσει την νέα αξία των αδειοδοτημένων δεδομένων τους, με αυξανόμενο αριθμό συμφωνιών για αδειοδότηση περιεχομένου ή ανάπτυξη των δικών τους συμμόρφων GenAI συστημάτων.

Συνθετικές Λύσεις

Αφαιρώντας δεδομένα με πνευματικά δικαιώματα από τον εκπαιδευμένο.latent χώρο ενός μοντέλου τεχνητής νοημοσύνης είναι γεμάτο προβλήματα, λάθη σε αυτήν την περιοχή θα μπορούσαν να είναι πολύ δαπανηρά για τις εταιρείες που πειραματίζονται με καταναλωτικές και επιχειρηματικές λύσεις που χρησιμοποιούν μηχανική μάθηση.

Μια εναλλακτική, και πολύ φθηνότερη λύση για συστήματα υπολογιστικής όρασης (και επίσης για Μεγάλους Λειτουργικούς Μοντέλους, ή LLMs), είναι η χρήση συνθετικών δεδομένων, όπου το σύνολο δεδομένων αποτελείται από τυχαία παραγόμενα παραδείγματα του στόχου τομέα (όπως πρόσωπα, γάτες, εκκλησίες, ή ακόμη και ένα πιο γενικευμένο σύνολο δεδομένων).

Ιστοσελίδες όπως το thispersondoesnotexist.com έχουν ήδη δημοσιεύσει την ιδέα ότι αυθεντικά εικόνα-φωτογραφίες “μη-πραγματικών” ανθρώπων μπορούν να συνθετούνται (σε αυτήν την περίπτωση, μέσω των Γεννητικών Ανταγωνιστικών Δικτύων, ή GANs) χωρίς να έχουν καμία σχέση με ανθρώπους που υπάρχουν πραγματικά στον κόσμο.

Επομένως, εάν εκπαιδεύσετε ένα σύστημα αναγνώρισης προσώπου ή ένα γεννητικό σύστημα σε τέτοιου είδους αφηρημένα και μη-πραγματικά παραδείγματα, μπορείτε θεωρητικά να πετύχετε ένα φωτογραφικό πρότυπο παραγωγής για ένα μοντέλο τεχνητής νοημοσύνης χωρίς να χρειάζεται να λαμβάνετε υπόψη εάν τα δεδομένα είναι νομικά χρησιμοποιήσιμα.

Ισορροπία

Το πρόβλημα είναι ότι τα συστήματα που παράγουν συνθετικά δεδομένα εκπαιδεύονται ο ίδιος σε πραγματικά δεδομένα. Εάν ιχνηλατούν δεδομένα από αυτά τα δεδομένα στα συνθετικά δεδομένα, αυτό потенτικά παρέχει αποδείξεις ότι έχουν εκμεταλλευτεί περιορισμένα ή μη εξουσιοδοτημένα υλικά για κέρδος.

Για να αποφευχθεί αυτό, και για να παράγει πραγματικά “τυχαία” εικόνες, τέτοια μοντέλα χρειάζεται να είναι καλά-γενικευμένα. Η γενίκευση είναι το μέτρο της ικανότητας ενός εκπαιδευμένου μοντέλου τεχνητής νοημοσύνης να κατανοήσει εγγενώς υψηλού επιπέδου έννοιες (όπως “πρόσωπο”, “άνθρωπος”, ή “γυναίκα”) χωρίς να αναπαράγει τα πραγματικά δεδομένα εκπαίδευσης.

Δυστυχώς, μπορεί να είναι δύσκολο για τα εκπαιδευμένα συστήματα να παράγουν (ή να αναγνωρίσουν) λεπτομερείς λεπτομέρειες, εκτός εάν εκπαιδευτούν για πολύ χρόνο σε ένα σύνολο δεδομένων. Αυτό εκθέτει το σύστημα σε κίνδυνο μνημόνευσης: μια τάση να αναπαράγει, σε κάποιο βαθμό, παραδείγματα των πραγματικών δεδομένων εκπαίδευσης.

Αυτό μπορεί να μετριαστεί με τη ρύθμιση ενός πιο χαλαρό ρυθμού μάθησης, ή με τη λήξη της εκπαίδευσης σε ένα στάδιο όπου οι βασικές έννοιες είναι ακόμη εύκαμπτες και δεν συνδέονται με κανένα συγκεκριμένο δεδομένο (όπως μια συγκεκριμένη εικόνα ενός προσώπου, στην περίπτωση ενός συνόλου δεδομένων προσώπων).

Ωστόσο, και οι δύο αυτές θεραπείες είναι πιθανό να οδηγήσουν σε μοντέλα με λιγότερη λεπτομερή λεπτομέρεια, поскольку το σύστημα δεν είχε την ευκαιρία να προχωρήσει πέρα από τα “βασικά” του στόχου τομέα και μέχρι τις λεπτομέρειες.

Επομένως, στη научική βιβλιογραφία, εφαρμόζονται γενικά πολύ υψηλοί ρυθμοί μάθησης και綜合적인 προγράμματα εκπαίδευσης. Ενώ οι ερευνητές συνήθως προσπαθούν να ισορροπήσουν μεταξύ ευρείας εφαρμογής και λεπτομέρειας στο τελικό μοντέλο, ακόμη και ελαφρώς “μνημονευμένα” συστήματα μπορούν συχνά να παρουσιάζουν τον εαυτό τους ως καλά-γενικευμένα – ακόμη και στις αρχικές δοκιμές.

Αποκάλυψη Προσώπου

Αυτό μας οδηγεί σε ένα ενδιαφέρον νέο έγγραφο από την Ελβετία, το οποίο ισχυρίζεται ότι είναι το πρώτο που αποδείχνει ότι οι αρχικές, πραγματικές εικόνες που τροφοδοτούν τα συνθετικά δεδομένα μπορούν να ανακτηθούν από τις παραγόμετες εικόνες που θεωρητικά θα πρέπει να είναι εντελώς τυχαίες:

Τα αποτελέσματα, όπως ισχυρίζονται οι συγγραφείς, δείχνουν ότι οι “συνθετικοί” γεννήτορες έχουν πραγματικά μνημονεύσει πολλά από τα δεδομένα εκπαίδευσης, στην αναζήτησή τους για μεγαλύτερη λεπτομέρεια. Επίσης, δείχνουν ότι τα συστήματα που βασίζονται σε συνθετικά δεδομένα για να προστατεύσουν τους παραγωγούς τεχνητής νοημοσύνης από νομικές συνέπειες θα μπορούσαν να είναι πολύ αναξιόπιστα σε αυτήν την περίπτωση.

Οι ερευνητές διεξήγαγαν μια εκτεταμένη μελέτη σε έξι συνθετικά δεδομένα, αποδεικνύοντας ότι σε όλες τις περιπτώσεις, τα αρχικά (πιθανώς πνευματικά δικαιώματα ή προστατευμένα) δεδομένα μπορούν να ανακτηθούν. Σχολιάζουν:

style=”padding-left: 40px”>‘Οι πειραματικές μας μελέτες δείχνουν ότι τα συνθετικά δεδομένα προσώπων περιέχουν δείγματα που είναι πολύ κοντά στα δείγματα των δεδομένων εκπαίδευσης των μοντέλων γεννήτορα. Σε ορισμένες περιπτώσεις, τα συνθετικά δείγματα περιέχουν μικρές αλλαγές στην αρχική εικόνα, ωστόσο, μπορούμε επίσης να παρατηρήσουμε σε ορισμένες περιπτώσεις ότι το παραγόμενο δείγμα περιέχει περισσότερη ποικιλία (π.χ. διαφορετική στάση, φωτισμός, κ.λπ.) ενώ η ταυτότητα διατηρείται.

style=”padding-left: 40px”>‘Αυτό υποδηλώνει ότι τα μοντέλα γεννήτορα μαθαίνουν και μνημονεύουν τις πληροφορίες σχετικά με την ταυτότητα από τα δεδομένα εκπαίδευσης και μπορεί να παράγουν παρόμοιες ταυτότητες. Αυτό δημιουργεί κρίσιμες ανησυχίες σχετικά με την εφαρμογή συνθετικών δεδομένων σε εργασίες που αφορούν την ιδιωτικότητα, όπως η βιομετρία και η αναγνώριση προσώπου.’

Το έγγραφο με τίτλο Αποκάλυψη Συνθετικών Προσώπων: Πώς τα Συνθετικά Δεδομένα Μπορούν Να Αποκαλύψουν Πραγματικές Ταυτότητες προέρχεται από δύο ερευνητές από το Ινστιτούτο Έρευνας Idiap στο Martigny, το École Polytechnique Fédérale de Lausanne (EPFL) και το Université de Lausanne (UNIL) στο Lausanne.

Μέθοδος, Δεδομένα και Αποτελέσματα

Τα μνημονευμένα πρόσωπα στη μελέτη αποκαλύφθηκαν μέσω της Επίθεσης Μέλους. Αν και η έννοια φαίνεται περίπλοκη, είναι αρκετά αυτοεξηγητική: η εύρεση μελών, σε αυτήν την περίπτωση, αναφέρεται στη διαδικασία ερώτησης ενός συστήματος μέχρι να αποκαλύψει δεδομένα που είτε ταιριάζουν με τα δεδομένα που ψάχνετε, είτε μοιάζουν σημαντικά με αυτά.

Οι ερευνητές μελέτησαν έξι συνθετικά δεδομένα για τα οποία η (πραγματική) πηγή του συνόλου δεδομένων ήταν γνωστή. Καθώς και τα πραγματικά και τα ψεύτικα δεδομένα που αναφέρονται είναι όλα μεγάλου όγκου εικόνων, αυτό είναι ουσιαστικά σαν να ψάχνετε για ένα βελόνι σε ένα δασύλλιο.

Επομένως, οι συγγραφείς χρησιμοποίησαν ένα μοντέλο αναγνώρισης προσώπου off-the-shelf με ένα ResNet100 πλάτη εκπαιδευμένο στο AdaFace loss function (στο WebFace12M dataset).

Τα έξι συνθετικά δεδομένα που χρησιμοποιήθηκαν ήταν: DCFace (ένα μοντέλο διάχυσης); IDiff-Face (Uniform – ένα μοντέλο διάχυσης βασισμένο στο FFHQ); IDiff-Face (Δύο-στάδιο – μια παραλλαγή που χρησιμοποιεί μια διαφορετική μέθοδο δειγματοληψίας); GANDiffFace (βασισμένο σε Γεννητικά Ανταγωνιστικά Δίκτυα και Μοντέλα Διάχυσης, χρησιμοποιώντας το StyleGAN3 για την παραγωγή αρχικών ταυτοτήτων, και στη συνέχεια το DreamBooth για τη δημιουργία ποικιλίας παραδειγμάτων); IDNet (ένα μοντέλο GAN, βασισμένο στο StyleGAN-ADA); και SFace (ένα πλαίσιο προστασίας ταυτότητας).

Καθώς το GANDiffFace χρησιμοποιεί και GAN και μεθόδους διάχυσης, συγκρίθηκε με το σύνολο δεδομένων εκπαίδευσης του StyleGAN – το πλησιέστερο σε “πραγματική” προέλευση που αυτό το δίκτυο παρέχει.

Οι συγγραφείς εξαιρέθηκαν συνθετικά δεδομένα που χρησιμοποιούν CGI αντί για μεθόδους AI, και στην αξιολόγηση των αποτελεσμάτων αγνόησαν τις αντιστοιχίες για παιδιά, λόγω ανωμαλιών κατανομής σε αυτήν την περίπτωση, καθώς και μη-εικόνες προσώπων (που μπορούν συχνά να εμφανιστούν σε συνόλου δεδομένων προσώπων, όπου τα συστήματα web-scraping παράγουν ψευδείς θετικούς για αντικείμενα ή τεχνητά που έχουν ποιότητες που μοιάζουν με πρόσωπα).

Η ομοιότητα Cosine υπολογίστηκε για όλα τα ανακτημένα ζευγάρια, και συνδυάστηκε σε ιστογράμματα, που φαίνονται παρακάτω:

Ο αριθμός των ομοιοτήτων αντιπροσωπεύεται από τις πίκες στο γράφημα παραπάνω. Το έγγραφο επίσης περιλαμβάνει δείγματα συγκρίσεων από τα έξι δεδομένα, και τις αντίστοιχες εκτιμώμενες εικόνες στα πραγματικά (πραγματικά) δεδομένα, από τα οποία κάποιες επιλογές εμφανίζονται παρακάτω:

Το έγγραφο σχολιάζει:

style=”padding-left: 40px”>‘[Τα] συνθετικά δεδομένα περιέχουν εικόνες που είναι πολύ κοντά στις εικόνες των δεδομένων εκπαίδευσης των μοντέλων γεννήτορα. Αυτό δημιουργεί κρίσιμες ανησυχίες σχετικά με την εφαρμογή συνθετικών δεδομένων σε εργασίες που αφορούν την ιδιωτικότητα, όπως η βιομετρία και η αναγνώριση προσώπου.’

Οι συγγραφείς σημειώνουν ότι για αυτήν την προσέγγιση, η κλίμακα σε μεγαλύτερα σύνολα δεδομένων είναι πιθανό να είναι αναποτελεσματική, καθώς η απαραίτητη υπολογιστική θα ήταν εξαιρετικά βαρετή. Παρατηρούν περαιτέρω ότι η οπτική σύγκριση ήταν απαραίτητη για ναinfer αντιστοιχίες, και ότι η αυτόματη αναγνώριση προσώπου μόνο δεν θα ήταν πιθανό να είναι επαρκής για μια μεγαλύτερη εργασία.

Σχετικά με τις επιπτώσεις της έρευνας, και με προοπτική για μελλοντικές οδούς, η εργασία αναφέρει:

style=”padding-left: 40px”>‘[Θα] ήθελα να τονίσω ότι η κύρια мотивασία για τη δημιουργία συνθετικών δεδομένων είναι να αντιμετωπίσουν τις ανησυχίες ιδιωτικότητας στην χρήση μεγάλης κλίμακας web-crawled συνόλου δεδομένων προσώπων.

style=”padding-left: 40px”>‘Επομένως, η διαρροή οποιουδήποτε ευαίσθητου πληροφορίας (όπως ταυτότητες πραγματικών εικόνων στα δεδομένα εκπαίδευσης) στα συνθετικά δεδομένα δημιουργεί κρίσιμες ανησυχίες σχετικά με την εφαρμογή συνθετικών δεδομένων σε εργασίες που αφορούν την ιδιωτικότητα, όπως η βιομετρία. Η μελέτη μας φωτίζει τις πτυχές ιδιωτικότητας στη δημιουργία συνθετικών δεδομένων αναγνώρισης προσώπων και ανοίγει τον δρόμο για μελλοντικές μελέτες για τη δημιουργία υπεύθυνων συνθετικών δεδομένων προσώπων.’

Συμπέρασμα

Τελευταία, η προσοχή των μέσων ενημέρωσης έχει επικεντρωθεί στις μειωμένες αποδόσεις που λαμβάνονται με την εκπαίδευση μοντέλων τεχνητής νοημοσύνης σε δεδομένα που παράγονται από τη γεννητική τεχνητή νοημοσύνη.

Η νέα ελβετική έρευνα, ωστόσο, φέρνει στο επίκεντρο μια σκέψη που μπορεί να είναι πιο επικείμενη για τον αυξανόμενο αριθμό εταιρειών που επιθυμούν να εκμεταλλευτούν και να κερδίσουν από τη γεννητική τεχνητή νοημοσύνη – η διαρκοή προστατευμένων με πνευματικά δικαιώματα ή μη εξουσιοδοτημένων δεδομένων, ακόμη και σε δεδομένα που σχεδιάζονται για να καταπολεμήσουν αυτήν την πρακτική. Εάν θα πρέπει να της δώσουμε μια ορισμό, σε αυτήν την περίπτωση θα μπορούσε να ονομαστεί “πρόσωπο-πλύσιμο”.

* Ωστόσο, η απόφαση της Adobe να επιτρέψει την ανέβασή τους AI-παραγόμενα εικόνες στο Adobe Stock έχει υπονόμευσει αποτελεσματικά τη νομική “καθαρότητα” αυτών των δεδομένων. Το Bloomberg contended τον Απρίλιο του 2024 ότι οι εικόνες που παρέχονται από το MidJourney γεννητικό σύστημα τεχνητής νοημοσύνης είχαν ενσωματωθεί στις ικανότητες του Firefly.

† Αυτό το μοντέλο δεν αναγνωρίζεται στο έγγραφο.

Πρώτη δημοσίευση Τετάρτη, 6 Νοεμβρίου 2024