Οι Υποσυνείδητες Ικανότητές μας για Ανίχνευση Deepfake Μπορούν να Ενεργοποιήσουν Μηχανικά Συστήματα στο Μέλλον

Νέα έρευνα από την Αυστραλία υποδηλώνει ότι ο εγκέφαλός μας είναι ικανός να αναγνωρίζει σύνθετα deepfakes, ακόμη και όταν πιστεύουμε συνειδητά ότι οι εικόνες που βλέπουμε είναι αληθινές.

Το εύρημα υποδηλώνει επίσης την πιθανότητα χρήσης των νευρικών απαντήσεων των ανθρώπων σε deepfake πρόσωπα (αντί των δηλωμένων γνώμων τους) για την εκπαίδευση αυτοματοποιημένων συστημάτων ανίχνευσης deepfake. Τέτοια συστήματα θα εκπαιδευτούν σε χαρακτηριστικά εικόνων deepfake (και όχι σε εκτιμώμενες πιθανότητες) από τις αυθόρμητες αισθητηριακές μηχανισμούς αναγνώρισης προσώπου.

‘[Α]ν και ο εγκέφαλός μπορεί να «αναγνωρίσει» τη διαφορά μεταξύ αληθινών και ρεαλιστικών προσώπων, οι παρατηρητές δεν μπορούν να τις διακρίνουν συνειδητά. Τα ευρήματά μας για τη διάσπαση μεταξύ εγκεφαλικής απόκρισης και συμπεριφοράς έχουν επιπτώσεις για τον τρόπο με τον οποίο μελετάμε την αντίληψη ψευδών προσώπων, τις ερωτήσεις που θέτουμε όταν ρωτάμε για αναγνώριση ψευδών εικόνων και τους πιθανούς τρόπους με τους οποίους μπορούμε να καθορίσουμε προστατευτικά πρότυπα κατά της κακοποίησης ψευδών εικόνων.’

Τα αποτελέσματα προέκυψαν από γύρους δοκιμών που σχεδιάστηκαν για να αξιολογήσουν τον τρόπο με τον οποίο οι άνθρωποι ανταποκρίνονται σε ψευδείς εικόνες, συμπεριλαμβανομένων εικόνων που είναι φανερά ψευδείς, αυτοκινήτων, εσωτερικών χώρων και αναποδογυρισμένων (δηλ. αντεστραμμένων) προσώπων.

Διάφορες εκδοχές και προσεγγίσεις για τους πειραματισμούς, οι οποίοι περιελάμβαναν δύο ομάδες δοκιμαστών που χρειάζονταν να ταξινομήσουν μια σύντομη εικόνα ως ‘ψευδή’ ή ‘αληθινή’. Η πρώτη γύρος πραγματοποιήθηκε στο Amazon Mechanical Turk, με 200 εθελοντές, ενώ ο δεύτερος γύρος περιελάμβανε μικρότερο αριθμό εθελοντών που απάντησαν στις δοκιμές ενώ ήταν συνδεδεμένοι σε μηχανήματα EEG. Πηγή: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

Το έγγραφο ισχυρίζεται:

‘Τα αποτελέσματά μας δείχνουν ότι με μια σύντομη ματιά, οι παρατηρητές μπορεί να αναγνωρίσουν ψευδείς πρόσωπα. Ωστόσο, έχουν δυσκολότερο χρόνο να διακρίνουν αληθινά πρόσωπα από ψευδείς πρόσωπα και, σε ορισμένες περιπτώσεις, πιστεύουν ότι τα ψευδείς πρόσωπα είναι πιο αληθινά από τα αληθινά πρόσωπα.

‘Ωστόσο, χρησιμοποιώντας χρονο-επιλυμένες EEG και μεθόδους πολλαπλής ανάλυσης προτύπων, βρήκαμε ότι ήταν δυνατό να αποκωδικοποιήσουμε και τα αρεαλιστικά και τα ρεαλιστικά πρόσωπα από τα αληθινά πρόσωπα χρησιμοποιώντας εγκεφαλική δραστηριότητα.

‘Αυτή η διάσπαση μεταξύ συμπεριφοράς και νευρικής απόκρισης για ρεαλιστικά πρόσωπα παρέχει σημαντικά νέα στοιχεία για την αντίληψη ψευδών προσώπων, καθώς και επιπτώσεις που αφορούν την ολοένα και πιο ρεαλιστική κατηγορία των GAN-γεννημένων προσώπων.’

Το έγγραφο προτείνει ότι η νέα εργασία έχει ‘π多ρές επιπτώσεις’ στην εφαρμοσμένη κυβερνοασφάλεια και ότι η ανάπτυξη των συστημάτων ανίχνευσης deepfake θα πρέπει να οδηγείται από τις υποσυνείδητες απαντήσεις, όπως μετράται στις εγγραφές EEG σε απάντηση σε ψευδείς εικόνες, και όχι από την εκτίμηση του θεατή για την εγκυρότητα μιας εικόνας.

Οι συγγραφείς σχολιάζουν*:

‘Αυτό θυμίζει ευρήματα που άτομα με προσωπογνωσία που δεν μπορούν να ταξινομήσουν ή να αναγνωρίσουν πρόσωπα ως οικεία ή μη οικεία, εμφανίζουν ισχυρότερες αυτονομικές απαντήσεις σε οικεία πρόσωπα rather από μη οικεία πρόσωπα.

‘Ομοίως, αυτό που έχουμε δείξει σε αυτή τη μελέτη είναι ότι ενώ μπορούσαμε να αποκωδικοποιήσουμε με ακρίβεια τη διαφορά μεταξύ αληθινών και ρεαλιστικών προσώπων από νευρική δραστηριότητα, αυτή η διαφορά δεν ήταν ορατή συμπεριφορικά. Αντίθετα, οι παρατηρητές αναγνώρισαν λανθασμένα το 69% των αληθινών προσώπων ως ψευδείς.’

Η νέα εργασία έχει τον τίτλο Είσαι πραγματικός; Αποκωδικοποίηση ρεαλιστικών AI-γεννημένων προσώπων από νευρική δραστηριότητα και προέρχεται από τέσσερις ερευνητές από το Πανεπιστήμιο του Σίδνεϋ, το Πανεπιστήμιο Μακουάρι, το Πανεπιστήμιο της Δυτικής Συδνέυ, και το Πανεπιστήμιο του Κουίνσλαντ.

Δεδομένα

Τα αποτελέσματα προέκυψαν από μια ευρύτερη εξέταση της ανθρώπινης ικανότητας να διακρίνει φανερά ψευδείς, υπερ-ρεαλιστικές (αλλά ακόμη ψευδείς) και αληθινές εικόνες, που διεξήχθησαν σε δύο γύρους δοκιμών.

Οι ερευνητές χρησιμοποίησαν εικόνες που δημιουργήθηκαν από Generative Adversarial Networks (GANs), μοιρασμένες από την NVIDIA.

GAN-γεννημένες εικόνες ανθρώπινων προσώπων που διατίθενται από την NVIDIA. Πηγή: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

Τα δεδομένα αποτελούνταν από 25 πρόσωπα, αυτοκίνητα και δωμάτια, σε επίπεδα απόδοσης που κυμαίνονταν από ‘μη ρεαλιστικά’ έως ‘ρεαλιστικά’. Για τη σύγκριση προσώπων (δηλ. για κατάλληλο μη ψευδές υλικό), οι συγγραφείς χρησιμοποίησαν επιλογές από τα πηγή δεδομένων του NVIDIA’s Flickr-Faces-HQ (FFHQ) συνόλου δεδομένων. Για τη σύγκριση των άλλων σεναρίων, χρησιμοποίησαν υλικό από το LSUN συνόλου δεδομένων.

Οι εικόνες θα παρουσιαστούν τελικά στο δοκιμαστή είτε με το σωστό τρόπο, είτε αναποδογυρισμένες, και σε eine σειρά συχνοτήτων, με όλες τις εικόνες να έχουν αναδιασταθεί σε 256×256 εικονοστοιχεία.

Μετά τη συλλογή όλων των υλικών, 450 εικόνες ερευνήθηκαν για τις δοκιμές.

Παραδείγματα των δεδομένων δοκιμών.

Δοκιμές

Οι δοκιμές πραγματοποιήθηκαν αρχικά online, μέσω jsPsych στο pavlovia.org, με 200 συμμετέχοντες που αξιολόγησαν διάφορες υποομάδες των συνολικών δεδομένων δοκιμών. Οι εικόνες παρουσιάστηκαν για 200ms, ακολουθούμενες από μια κενή οθόνη που θα παρέμεινε μέχρι ο θεατής να λάβει μια απόφαση σχετικά με το αν η εμφανιζόμενη εικόνα ήταν αληθινή ή ψευδής. Κάθε εικόνα παρουσιάστηκε μόνο μια φορά, και η ολόκληρη δοκιμή διήρκεσε 3-5 λεπτά για να ολοκληρωθεί.

Ο δεύτερος και πιο αποκαλυπτικός γύρος χρησιμοποίησε σε-person συμμετέχοντες που συνδέθηκαν με μηχανήματα EEG, και παρουσιάστηκε στην Psychopy2 πλατφόρμα. Κάθε μια από τις είκοσι ακολουθίες περιείχε 40 εικόνες, με 18.000 εικόνες που παρουσιάστηκαν σε όλη τη διάρκεια της δοκιμής.

Τα συλλεγμένα δεδομένα EEG αποκωδικοποιήθηκαν μέσω MATLAB με το CoSMoMVPA εργαλείο, χρησιμοποιώντας ένα σχήμα leave-one-out cross-validation υπό Lineαρ Discriminant Analysis (LDA).

Ο ταξινομητής LDA ήταν το компонόμενο που μπορούσε να κάνει τη διάκριση μεταξύ της εγκεφαλικής απόκρισης σε ψευδείς ερευνήσεις και της γνώμης του συμμετέχοντα σχετικά με το αν η εικόνα ήταν ψευδής.

Αποτελέσματα

Ενδιαφερόμενοι να δουν αν οι συμμετέχοντες της δοκιμής EEG θα μπορούσαν να διακρίνουν μεταξύ ψευδών και αληθινών προσώπων, οι ερευνητές συσσωρεύθηκαν και επεξεργάστηκαν τα αποτελέσματα, βρίσκοντας ότι οι συμμετέχοντες μπορούσαν να διακρίνουν εύκολα αληθινά από μη ρεαλιστικά πρόσωπα, αλλά φαίνεται να δυσκολεύονται να αναγνωρίσουν ρεαλιστικά, GAN-γεννημένα ψευδούς πρόσωπα. Το αν η εικόνα ήταν αναποδογυρισμένη φαίνεται να μην είχε μεγάλη διαφορά.

Συμπεριφορική διάκριση αληθινών και συνθετικών προσώπων, στη δεύτερη δοκιμή.

Ωστόσο, τα δεδομένα EEG έδειξαν μια διαφορετική ιστορία.

Το έγγραφο αναφέρει:

‘Αν και οι παρατηρητές είχαν δυσκολία να διακρίνουν αληθινά από ψευδείς πρόσωπα και τάση να υπερταξινομήσουν ψευδείς πρόσωπα, τα δεδομένα EEG περιείχαν σήματα που σχετίζονταν με αυτή τη διάκριση, τα οποία διέφεραν σημαντικά μεταξύ ρεαλιστικών και μη ρεαλιστικών, και αυτό το σήμα φαίνεται να περιορίζεται σε ένα σχετικά σύντομο στάδιο επεξεργασίας.’

Εδώ η απόσταση μεταξύ της ακρίβειας του EEG και της δηλωθείσας γνώμης των συμμετεχόντων (δηλ. σχετικά με το αν τα πρόσωπα ήταν ψευδέα) δεν είναι ταυτόσημες, με τις εγγραφές EEG να πλησιάζουν περισσότερο στην αλήθεια παρά την εκφρασμένη αντίληψη των ανθρώπων που εμπλέκονται.

Οι ερευνητές καταλήγουν στο συμπέρασμα ότι, αν και οι παρατηρητές μπορεί να έχουν δυσκολία να αναγνωρίσουν ψευδείς πρόσωπα, αυτά τα πρόσωπα έχουν ‘διακριτές αναπαραστάσεις στο ανθρώπινο οπτικό σύστημα’.

Η διάσπαση που βρέθηκε έχει οδηγήσει τους ερευνητές να σκεφτούν τις πιθανές εφαρμογές των ευρημάτων τους για μελλοντικά μηχανικά συστήματα:

‘Σε ένα εφαρμοσμένο περιβάλλον, όπως η κυβερνοασφάλεια ή τα Deepfakes, η εξέταση της ικανότητας ανίχνευσης για ρεαλιστικά πρόσωπα μπορεί να διεξαχθεί χρησιμοποιώντας ταξινομητές μηχανικής μάθησης που εφαρμόζονται σε νευροεικόνα δεδομένα, παρά να στοχεύουν την συμπεριφορική απόδοση.’

Συμπεραίνουν:

‘Η κατανόηση της διάσπασης μεταξύ εγκεφάλου και συμπεριφοράς για την ανίχνευση ψευδών προσώπων θα έχει πρακτικές επιπτώσεις για τον τρόπο με τον οποίο αντιμετωπίζουμε την πιθανώς επιζήμια και καθολική διάδοση των τεχνητά γεννημένων πληροφοριών.’

* Η μετατροπή μου των εσωτερικών αναφορών σε υπερσύνδεσμους.

Πρώτη δημοσίευση 11ης Ιουλίου 2022.