Η γωνία του Anderson

Οι υποσυνείδητες ικανότητές μας στην ανίχνευση deepfake θα μπορούσαν να τροφοδοτήσουν μελλοντικά αυτοματοποιημένα συστήματα

Martin Anderson
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΤα δεδομένα ΗΕΓ αποκαλύπτουν ότι τα υποσυνείδητα νευρικά σήματα μπορούν να διακρίνουν…
Δείτε περισσότερα
  • Τα δεδομένα ΗΕΓ αποκαλύπτουν ότι τα υποσυνείδητα νευρικά σήματα μπορούν να διακρίνουν τα πραγματικά από τα ψεύτικα πρόσωπα, ακόμη και όταν οι θεατές συνειδητά αποτυγχάνουν να το κάνουν.
  • Η μελέτη προτείνει την εκπαίδευση ανιχνευτών deepfake στη βάση της εγκεφαλικής δραστηριότητας, αντί των υποκειμενικών ανθρώπινων κρίσεων, για μεγαλύτερη ακρίβεια.
  • Οι συμμετέχοντες ταυτοποίησαν λανθασμένα το 69% των πραγματικών προσώπων ως ψεύτικα, υπογραμμίζοντας την αναξιοπιστία της συνειδητής αντίληψης για την ανίχνευση deepfake.

Νέα έρευνα από την Αυστραλία υποδηλώνει ότι ο εγκέφαλός μας είναι ικανός να αναγνωρίζει σύνθετα deepfakes, ακόμη και όταν πιστεύουμε συνειδητά ότι οι εικόνες που βλέπουμε είναι αληθινές.

Το εύρημα υποδηλώνει επίσης την πιθανότητα χρήσης των νευρικών απαντήσεων των ανθρώπων σε deepfake πρόσωπα (αντί των δηλωμένων απόψεων τους) για την εκπαίδευση αυτοματοποιημένων συστημάτων ανίχνευσης deepfake. Τέτοια συστήματα θα εκπαιδευτούν σε χαρακτηριστικά εικόνων deepfake (και όχι σε εκτιμώμενες πιθανότητες) από τους ενστικτώδεις αντιληπτικούς μηχανισμούς αναγνώρισης προσώπου.

‘[Α]ν και ο εγκέφαλος μπορεί να «αναγνωρίσει» τη διαφορά μεταξύ αληθινών και ρεαλιστικών προσώπων, οι παρατηρητές δεν μπορούν να τα διακρίνουν συνειδητά. Τα ευρήματά μας για τη διάσπαση μεταξύ εγκεφαλικής απόκρισης και συμπεριφοράς έχουν επιπτώσεις για τον τρόπο με τον οποίο μελετάμε την αντίληψη ψευδών προσώπων, τις ερωτήσεις που θέτουμε όταν ρωτάμε για αναγνώριση ψευδών εικόνων και τους πιθανούς τρόπους με τους οποίους μπορούμε να καθορίσουμε προστατευτικά πρότυπα κατά της κακοποίησης ψευδών εικόνων.’

Τα αποτελέσματα προέκυψαν από γύρους δοκιμών που σχεδιάστηκαν για να αξιολογήσουν τον τρόπο με τον οποίο οι άνθρωποι ανταποκρίνονται σε ψευδείς εικόνες, συμπεριλαμβανομένων εικόνων που είναι φανερά ψευδείς, αυτοκινήτων, εσωτερικών χώρων και αναποδογυρισμένων (δηλ. αντεστραμμένων) προσώπων.

Διάφορες εκδοχές και προσεγγίσεις για τους πειραματισμούς, οι οποίοι περιελάμβαναν δύο ομάδες δοκιμαστών που χρειάζονταν να ταξινομήσουν μια εικόνα που εμφανίζεται για λίγο ως 'ψευδή' ή 'αληθινή'. Ο πρώτος γύρος πραγματοποιήθηκε στο Amazon Mechanical Turk, με 200 εθελοντές, ενώ ο δεύτερος γύρος περιελάμβανε μικρότερο αριθμό εθελοντών που απάντησαν στις δοκιμές ενώ ήταν συνδεδεμένοι σε μηχανήματα EEG. Πηγή: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

Διάφορες εκδοχές και προσεγγίσεις για τους πειραματισμούς, οι οποίοι περιελάμβαναν δύο ομάδες δοκιμαστών που χρειάζονταν να ταξινομήσουν μια εικόνα που εμφανίζεται για λίγο ως ‘ψευδή’ ή ‘αληθινή’. Ο πρώτος γύρος πραγματοποιήθηκε στο Amazon Mechanical Turk, με 200 εθελοντές, ενώ ο δεύτερος γύρος περιελάμβανε μικρότερο αριθμό εθελοντών που απάντησαν στις δοκιμές ενώ ήταν συνδεδεμένοι σε μηχανήματα EEG. Πηγή: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

Το έγγραφο ισχυρίζεται:

‘Τα αποτελέσματά μας δείχνουν ότι με μια σύντομη ματιά, οι παρατηρητές μπορεί να αναγνωρίσουν ψεύτικα πρόσωπα. Ωστόσο, δυσκολεύονται περισσότερο να διακρίνουν αληθινά πρόσωπα από ψεύτικα πρόσωπα και, σε ορισμένες περιπτώσεις, πιστεύουν ότι τα ψεύτικα πρόσωπα είναι πιο αληθινά από τα αληθινά πρόσωπα.

‘Ωστόσο, χρησιμοποιώντας χρονικά αναλυμένο EEG και μεθόδους πολυμεταβλητής ταξινόμησης προτύπων, βρήκαμε ότι ήταν δυνατό να αποκωδικοποιήσουμε και τα μη ρεαλιστικά και τα ρεαλιστικά πρόσωπα από τα αληθινά πρόσωπα χρησιμοποιώντας εγκεφαλική δραστηριότητα.

‘Αυτή η διάσπαση μεταξύ συμπεριφοράς και νευρικής απόκρισης για ρεαλιστικά πρόσωπα παρέχει σημαντικά νέα στοιχεία για την αντίληψη ψευδών προσώπων, καθώς και επιπτώσεις που αφορούν την ολοένα και πιο ρεαλιστική κατηγορία των δημιουργημένων από GAN προσώπων.’

Το έγγραφο προτείνει ότι η νέα εργασία έχει ‘αρκετές επιπτώσεις’ στην εφαρμοσμένη κυβερνοασφάλεια και ότι η ανάπτυξη των συστημάτων ανίχνευσης deepfake ίσως θα πρέπει να καθοδηγείται από τις υποσυνείδητες απαντήσεις, όπως μετράται στις εγγραφές EEG σε απάντηση σε ψευδείς εικόνες, και όχι από την εκτίμηση του θεατή για την εγκυρότητα μιας εικόνας.

Οι συγγραφείς σχολιάζουν*:

‘Αυτό θυμίζει ευρήματα σύμφωνα με τα οποία άτομα με προσωπαγνωσία που δεν μπορούν να ταξινομήσουν ή να αναγνωρίσουν πρόσωπα ως οικεία ή μη οικεία, εμφανίζουν ισχυρότερες αυτονομικές απαντήσεις σε οικεία πρόσωπα σε σύγκριση με μη οικεία πρόσωπα.

‘Ομοίως, αυτό που έχουμε δείξει σε αυτή τη μελέτη είναι ότι ενώ μπορούσαμε να αποκωδικοποιήσουμε με ακρίβεια τη διαφορά μεταξύ αληθινών και ρεαλιστικών προσώπων από νευρική δραστηριότητα, αυτή η διαφορά δεν ήταν ορατή συμπεριφορικά. Αντίθετα, οι παρατηρητές αναγνώρισαν λανθασμένα το 69% των αληθινών προσώπων ως ψεύτικα.’

Η νέα εργασία έχει τον τίτλο Είσαι πραγματικός; Αποκωδικοποίηση ρεαλιστικών δημιουργημένων από AI προσώπων από νευρική δραστηριότητα και προέρχεται από τέσσερις ερευνητές από το Πανεπιστήμιο του Σίδνεϋ, το Πανεπιστήμιο Μακουάρι, το Πανεπιστήμιο του Δυτικού Σίδνεϊ, και το Πανεπιστήμιο του Κουίνσλαντ.

Δεδομένα

Τα αποτελέσματα προέκυψαν από μια ευρύτερη εξέταση της ανθρώπινης ικανότητας να διακρίνει φανερά ψευδείς, υπερ-ρεαλιστικές (αλλά ακόμη ψευδείς) και αληθινές εικόνες, που διεξήχθησαν σε δύο γύρους δοκιμών.

Οι ερευνητές χρησιμοποίησαν εικόνες που δημιουργήθηκαν από Generative Adversarial Networks (GANs), μοιρασμένες από την NVIDIA.

Δημιουργημένες από GAN εικόνες ανθρώπινων προσώπων που διατίθενται από την NVIDIA. Πηγή: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

Δημιουργημένες από GAN εικόνες ανθρώπινων προσώπων που διατίθενται από την NVIDIA. Πηγή: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

Τα δεδομένα αποτελούνταν από 25 πρόσωπα, αυτοκίνητα και υπνοδωμάτια, σε επίπεδα απόδοσης που κυμαίνονταν από ‘μη ρεαλιστικά’ έως ‘ρεαλιστικά’. Για τη σύγκριση προσώπων (δηλ. για κατάλληλο μη ψευδές υλικό), οι συγγραφείς χρησιμοποίησαν επιλογές από τα αρχικά δεδομένα του Flickr-Faces-HQ της NVIDIA (FFHQ) συνόλου δεδομένων. Για τη σύγκριση των άλλων σεναρίων, χρησιμοποίησαν υλικό από το LSUN συνόλου δεδομένων.

Οι εικόνες θα παρουσιαστούν τελικά στο δοκιμαστή είτε με το σωστό τρόπο, είτε αναποδογυρισμένες, και σε μια σειρά συχνοτήτων, με όλες τις εικόνες να έχουν αναδιασταθεί σε 256×256 εικονοστοιχεία.

Μετά τη συλλογή όλων των υλικών, επιλέχθηκαν 450 εικόνες ερεθισμάτων για τις δοκιμές.

Παραδείγματα των δεδομένων δοκιμών.

Παραδείγματα των δεδομένων δοκιμών.

Δοκιμές

Οι δοκιμές πραγματοποιήθηκαν αρχικά online, μέσω jsPsych στο pavlovia.org, με 200 συμμετέχοντες που αξιολόγησαν διάφορες υποομάδες των συνολικών δεδομένων δοκιμών. Οι εικόνες παρουσιάστηκαν για 200ms, ακολουθούμενες από μια κενή οθόνη που θα παρέμεινε μέχρι ο θεατής να λάβει μια απόφαση σχετικά με το αν η εμφανιζόμενη εικόνα ήταν αληθινή ή ψευδής. Κάθε εικόνα παρουσιάστηκε μόνο μια φορά, και ολόκληρη η δοκιμή διήρκεσε 3-5 λεπτά για να ολοκληρωθεί.

Ο δεύτερος και πιο αποκαλυπτικός γύρος χρησιμοποίησε συμμετέχοντες με φυσική παρουσία που συνδέθηκαν με μηχανήματα EEG, και παρουσιάστηκε στην Psychopy2 πλατφόρμα. Κάθε μια από τις είκοσι ακολουθίες περιείχε 40 εικόνες, με 18.000 εικόνες που παρουσιάστηκαν σε όλη τη διάρκεια της δοκιμής.

Τα συλλεγμένα δεδομένα EEG αποκωδικοποιήθηκαν μέσω MATLAB με το CoSMoMVPA εργαλείο, χρησιμοποιώντας ένα σχήμα leave-one-out cross-validation υπό Γραμμική Διακριτική Ανάλυση (LDA).

Ο ταξινομητής LDA ήταν το στοιχείο που μπορούσε να κάνει τη διάκριση μεταξύ της εγκεφαλικής απόκρισης σε ψεύτικα ερεθίσματα και της γνώμης του συμμετέχοντα σχετικά με το αν η εικόνα ήταν ψευδής.

Αποτελέσματα

Ενδιαφερόμενοι να δουν αν οι συμμετέχοντες της δοκιμής EEG θα μπορούσαν να διακρίνουν μεταξύ ψευδών και αληθινών προσώπων, οι ερευνητές συγκέντρωσαν και επεξεργάστηκαν τα αποτελέσματα, βρίσκοντας ότι οι συμμετέχοντες μπορούσαν να διακρίνουν εύκολα αληθινά από μη ρεαλιστικά πρόσωπα, αλλά φαίνεται να δυσκολεύονται να αναγνωρίσουν ρεαλιστικά, δημιουργημένα από GAN ψεύτικα πρόσωπα. Το αν η εικόνα ήταν αναποδογυρισμένη φαίνεται να μην είχε μεγάλη διαφορά.

Συμπεριφορική διάκριση αληθινών και συνθετικών προσώπων, στη δεύτερη δοκιμή.

Συμπεριφορική διάκριση αληθινών και συνθετικών προσώπων, στη δεύτερη δοκιμή.

Ωστόσο, τα δεδομένα EEG έδειξαν μια διαφορετική ιστορία.

Το έγγραφο αναφέρει:

‘Αν και οι παρατηρητές είχαν δυσκολία να διακρίνουν αληθινά από ψεύτικα πρόσωπα και τάση να υπερταξινομήσουν ψεύτικα πρόσωπα, τα δεδομένα EEG περιείχαν σήματα που σχετίζονταν με αυτή τη διάκριση, τα οποία διέφεραν σημαντικά μεταξύ ρεαλιστικών και μη ρεαλιστικών, και αυτό το σήμα φαίνεται να περιορίζεται σε ένα σχετικά σύντομο στάδιο επεξεργασίας.’

Εδώ η απόσταση μεταξύ της ακρίβειας του EEG και της δηλωθείσας γνώμης των συμμετεχόντων (δηλ. σχετικά με το αν τα πρόσωπα ήταν ψεύτικα) δεν είναι ταυτόσημες, με τις εγγραφές EEG να πλησιάζουν περισσότερο στην αλήθεια παρά την εκφρασμένη αντίληψη των ανθρώπων που εμπλέκονται.

Εδώ η απόσταση μεταξύ της ακρίβειας του EEG και της δηλωθείσας γνώμης των συμμετεχόντων (δηλ. σχετικά με το αν τα πρόσωπα ήταν ψεύτικα) δεν είναι ταυτόσημες, με τις εγγραφές EEG να πλησιάζουν περισσότερο στην αλήθεια παρά την εκφρασμένη αντίληψη των ανθρώπων που εμπλέκονται.

Οι ερευνητές καταλήγουν στο συμπέρασμα ότι, αν και οι παρατηρητές μπορεί να έχουν δυσκολία να αναγνωρίσουν ψεύτικα πρόσωπα, αυτά τα πρόσωπα έχουν ‘διακριτές αναπαραστάσεις στο ανθρώπινο οπτικό σύστημα’.

Η διάσπαση που βρέθηκε έχει οδηγήσει τους ερευνητές να σκεφτούν τις πιθανές εφαρμογές των ευρημάτων τους για μελλοντικούς μηχανισμούς ασφαλείας:

‘Σε ένα εφαρμοσμένο περιβάλλον, όπως η κυβερνοασφάλεια ή τα Deepfakes, η εξέταση της ικανότητας ανίχνευσης για ρεαλιστικά πρόσωπα μπορεί να διεξαχθεί χρησιμοποιώντας ταξινομητές μηχανικής μάθησης που εφαρμόζονται σε δεδομένα νευροαπεικόνισης, παρά να στοχεύουν την συμπεριφορική απόδοση.’

Συμπεραίνουν:

‘Η κατανόηση της διάσπασης μεταξύ εγκεφάλου και συμπεριφοράς για την ανίχνευση ψευδών προσώπων θα έχει πρακτικές επιπτώσεις για τον τρόπο με τον οποίο αντιμετωπίζουμε την πιθανώς επιζήμια και καθολική διάδοση των τεχνητά παραγόμενων πληροφοριών.’

 

* Η μετατροπή μου των εσωτερικών αναφορών σε υπερσύνδεσμους.

Πρώτη δημοσίευση 11ης Ιουλίου 2022.

Συγγραφέας στον τομέα της μηχανικής μάθησης, ειδικός σε συνθετικές ανθρώπινες εικόνες. Πρώην επικεφαλής του τμήματος περιεχομένου έρευνας στην Metaphysic.ai, μέχρι τη διάλυσή της στην Brahma.ai της DNEG.
Ιστοσελίδα: martinanderson.ai
Επικοινωνία: martin@martinanderson.ai