Τα ‘Μυστικά Μονοπάτια’ που Μπορούν να Αποτυχάνουν τα Συστήματα Αναγνώρισης Πεζών

Μια νέα ερευνητική συνεργασία μεταξύ Ισραήλ και Ιαπωνίας υποστηρίζει ότι τα συστήματα ανίχνευσης πεζών διαθέτουν εγγενείς αδυναμίες, επιτρέποντας σε ενημερωμένα άτομα να αποφεύγουν τα συστήματα αναγνώρισης προσώπου με την πλοήγηση προσεκτικά σχεδιασμένων διαδρομών через περιοχές όπου τα δίκτυα επιτήρησης είναι λιγότερο αποτελεσματικά.

Με τη βοήθεια δημόσια διαθέσιμου υλικού από το Τόκιο, τη Νέα Υόρκη και το Σαν Φρανσίσκο, οι ερευνητές ανέπτυξαν một αυτόματο методό για τον υπολογισμό τέτοιων διαδρομών, με βάση τα πιο δημοφιλή συστήματα αναγνώρισης αντικειμένων που είναι πιθανό να χρησιμοποιούνται σε δημόσιους δικτύους.

Τα τρία σημεία που χρησιμοποιήθηκαν στη μελέτη: Shibuya Crossing στο Τόκιο, Ιαπωνία, Broadway, Νέα Υόρκη και Castro District, Σαν Φρανσίσκο. Πηγή: https://arxiv.org/pdf/2501.15653

Με αυτόν τον τρόπο, είναι δυνατό να δημιουργηθούν χαρτογραφικές αναπαραστάσεις εμπιστοσύνης που οριοθετούν τις περιοχές μέσα στη λήψη της κάμερας όπου οι πεζοί είναι λιγότερο πιθανό να παρέχουν einen θετικό αναγνώριση προσώπου:

Στη δεξιά, βλέπουμε τη χαρτογραφική αναπαράσταση εμπιστοσύνης που δημιουργήθηκε από τη μέθοδο των ερευνητών.

Θεωρητικά, μια τέτοια μέθοδος θα μπορούσε να χρησιμοποιηθεί σε μια εφαρμογή που είναι ευαίσθητη στη θέση, ή σε κάποιο άλλο είδος πλατφόρμας για τη διάθεση των λιγότερο «αναγνωριστικών» διαδρομών από το Α στο Β σε οποιαδήποτε υπολογισμένη τοποθεσία.

Η νέα εργασία προτείνει μια τέτοια μεθοδολογία, με τίτλο Τεχνική Ενίσχυσης Ιδιωτικού Απορρήτου με βάση την Τοποθεσία (L-PET), και επίσης προτείνει ένα αντίμετρο με τίτλο Αдапτική Μέθοδος Καθορισμού Όριου με βάση την Τοποθεσία (L-BAT), η οποία ουσιαστικά εκτελεί τις ίδιες διαδικασίες, αλλά στη συνέχεια χρησιμοποιεί τις πληροφορίες για να ενισχύσει και να βελτιώσει τα μέτρα επιτήρησης, αντί να σχεδιάζει τρόπους για να αποφευχθεί η αναγνώριση, και σε πολλές περιπτώσεις, τέτοιες βελτιώσεις δεν θα ήταν δυνατές χωρίς περαιτέρω επένδυση στην υποδομή επιτήρησης.

Η εργασία ορίζει, επομένως, einen πιθανό τεχνολογικό πόλεμο εκτόξευσης μεταξύ εκείνων που επιδιώκουν να βελτιώσουν τις διαδρομές τους για να αποφύγουν την ανίχνευση και της ικανότητας των συστημάτων επιτήρησης να κάνουν πλήρη χρήση των τεχνολογιών αναγνώρισης προσώπου.

Προηγούμενες μεθόδους για να αποτυχάνουν την ανίχνευση είναι λιγότερο κομψές από αυτήν, και επικεντρώνονται σε αντίθετες προσεγγίσεις, όπως TnT Attacks, και τη χρήση τυπογραφικών προτύπων για να συγχύσουν τον αλγόριθμο ανίχνευσης.

Το 2019, η εργασία ‘Fooling automated surveillance cameras: adversarial patches to attack person detection’ απέδειξε ένα αντίθετο τυπογραφικό πρότυπο ικανό να πείσει ένα σύστημα αναγνώρισης ότι δεν υπάρχει πρόσωπο, επιτρέποντας ένα είδος ‘αορατότητας’. Πηγή: https://arxiv.org/pdf/1904.08653

Οι ερευνητές πίσω από τη νέα εργασία παρατηρούν ότι η προσέγγισή τους απαιτεί λιγότερη προετοιμασία, χωρίς την ανάγκη να σχεδιάσουν αντίθετα φορέματα (βλέπε εικόνα παραπάνω).

Η εργασία έχει τίτλο Μια Τεχνική Ενίσχυσης Ιδιωτικού Απορρήτου για να Αποφύγουν την Ανίχνευση από Βίντεο Κάμερες Δρόμου Χωρίς τη Χρήση Αντιθετικών Αξεσουάρ, και προέρχεται από πέντε ερευνητές από το Πανεπιστήμιο Ben-Gurion του Νεγκέβ και την Fujitsu Limited.

Μέθοδος και Δοκιμές

Σύμφωνα με προηγούμενες εργασίες όπως Adversarial Mask, AdvHat, αντίθετα πρότυπα, και διάφορες άλλες παρόμοιες εργασίες, οι ερευνητές υποθέτουν ότι ο πεζός «επιτιθέμενος» γνωρίζει ποιο σύστημα ανίχνευσης αντικειμένων χρησιμοποιείται στο δίκτυο επιτήρησης. Αυτό είναι στην πραγματικότητα μια hợp lý υπόθεση, λόγω της ευρείας υιοθέτησης των ανοιχτών πηγών συστημάτων όπως το YOLO σε συστήματα επιτήρησης από εταιρείες όπως η Cisco και η Ultralytics (η οποία είναι目前 η κεντρική δύναμη στην ανάπτυξη του YOLO).

Η εργασία επίσης υποθέτει ότι ο πεζός έχει πρόσβαση σε μια ζωντανή ροή στο διαδίκτυο που είναι στερεωμένη στις τοποθεσίες που πρέπει να υπολογιστούν, η οποία, και πάλι, είναι μια λογική υπόθεση στις περισσότερες περιοχές που πιθανό να έχουν μια ένταση κάλυψης.

Ιστοσελίδες όπως το 511ny.org προσφέρουν πρόσβαση σε πολλές κάμερες επιτήρησης στην περιοχή της Νέας Υόρκης. Πηγή: https://511ny.or

Εκτός από αυτό, ο πεζός χρειάζεται πρόσβαση στη προτεινόμενη μέθοδο, και στη σκηνή herself (δηλαδή, τις διασταυρώσεις και τις διαδρομές στις οποίες μια «ασφαλής» διαδρομή πρέπει να καθοριστεί).

Για να αναπτύξουν την L-PET, οι συγγραφείς αξιολόγησαν την επίδραση της γωνίας του πεζού σε σχέση με την κάμερα, την επίδραση του ύψους της κάμερας, την επίδραση της απόστασης και την επίδραση της ώρας της ημέρας. Για να λάβουν την αλήθεια, φωτογράφισαν ένα άτομο στις γωνίες 0°, 45°, 90°, 135°, 180°, 225°, 270° και 315°.

Παρατηρήσεις αλήθειας που διεξήχθησαν από τους ερευνητές.

Επαναλάβαν αυτές τις παραλλαγές σε τρεις διαφορετικά ύψη κάμερας (0,6μ, 1,8μ, 2,4μ), και με διάφορες συνθήκες φωτισμού (πρωινή, απογευματινή, νύχτα και «εργαστήριο» συνθήκες).

Τρέχοντας αυτό το υλικό στη Faster R-CNN και YOLOv3 ανιχνευτές αντικειμένων, βρήκαν ότι η εμπιστοσύνη του αντικειμένου εξαρτάται από την οξύτητα της γωνίας του πεζού, την απόσταση του πεζού, το ύψος της κάμερας και τις συνθήκες φωτισμού*.

Οι συγγραφείς τότε δοκίμασαν ένα ευρύτερο φάσμα ανιχνευτών αντικειμένων στη ίδια σκηνή: Faster R-CNN, YOLOv3, SSD, DiffusionDet και RTMDet.

Οι συγγραφείς δηλώνουν:

‘Βρήκαμε ότι όλοι οι πέντε αρχιτεκτονικοί ανιχνευτές αντικειμένων επηρεάζονται από τη θέση του πεζού και το περιβάλλον φως. Επιπλέον, βρήκαμε ότι για τρεις από τους πέντε μοντέλους (YOLOv3, SSD και RTMDet) η επίδραση διαρκεί σε όλα τα επίπεδα περιβάλλοντος φωτός.’

Για να επεκτείνουν το φάσμα, οι ερευνητές χρησιμοποίησαν υλικό από δημόσιες κάμερες σε τρεις τοποθεσίες: Shibuya Crossing στο Τόκιο, Broadway στη Νέα Υόρκη και Castro District στο Σαν Φρανσίσκο.

Κάθε τοποθεσία παρείχε μεταξύ πέντε και έξι ηχογραφήσεων, με περίπου τέσσερις ώρες υλικού ανά ηχογράφηση. Για να αναλύσουν την απόδοση ανίχνευσης, μια καρέ εξήχθη κάθε δύο δευτερόλεπτα και επεξεργάστηκε χρησιμοποιώντας einen Faster R-CNN ανιχνευτή αντικειμένων. Για κάθε pixel στις ληφθείσες εικόνες, η μέθοδος εκτίμησε την μέση εμπιστοσύνη των «πρόσωπο» ανίχνευσης κουτιών που είναι παρόντα σε αυτόν τον pixel.

‘Βρήκαμε ότι σε όλες τις τρεις τοποθεσίες, η εμπιστοσύνη του ανιχνευτή αντικειμένων ποικίλλει ανάλογα με τη θέση των ανθρώπων στη σκηνή. Για παράδειγμα, στη λήψη του Shibuya Crossing, υπάρχουν μεγάλες περιοχές χαμηλής εμπιστοσύνης μακρύτερα από την κάμερα, καθώς και κοντύτερα στην κάμερα, όπου ένας πήχης μερικώς καλύπτει τους πεζούς.’

Η μέθοδος L-PET είναι ουσιαστικά αυτή η διαδικασία, που μπορεί να «οπλιστεί» για να λάβει μια διαδρομή μέσα σε μια αστική περιοχή που είναι η λιγότερο πιθανή να οδηγήσει στον πεζό να αναγνωριστεί με επιτυχία.

Αντίθετα, η L-BAT ακολουθεί την ίδια διαδικασία, με τη διαφορά ότι ενημερώνει τους βαθμούς στο σύστημα ανίχνευσης, δημιουργώντας einen βρόχο ανάδρασης που σχεδιάζεται για να αποτρέψει την L-PET και να κάνει τις «τυφλές» περιοχές του συστήματος πιο αποτελεσματικές.

(Σε πρακτικούς όρους, ωστόσο, η βελτίωση της κάλυψης με βάση τις ληφθείσες θερμικές απεικονίσεις θα απαιτούσε περισσότερο από μια αναβάθμιση της κάμερας που βρίσκεται στη预期μένη θέση, θα απαιτούσε την εγκατάσταση επιπλέον καμερών για να καλύψουν τις παραμελημένες περιοχές – επομένως θα μπορούσε να υποστηριχθεί ότι η μέθοδος L-PET εξαπλώνει αυτόν τον «ψυχρό πόλεμο» σε ένα πολύ ακριβό σενάριο)

Η μέση εμπιστοσύνη ανίχνευσης πεζών για κάθε pixel, σε διάφορους ανιχνευτές, στην παρατηρημένη περιοχή του Castro Street, αναλυμένη σε πέντε βίντεο.

Μετά τη μετατροπή της ματρίτσας αναπαράστασης pixel σε μια γραφική αναπαράσταση που είναι κατάλληλη για την εργασία, οι ερευνητές προσάρμοσαν τον αλγόριθμο Dijkstra για να υπολογίσουν τις βέλτιστες διαδρομές για τους πεζούς να διασχίζουν περιοχές με μειωμένη ανίχνευση επιτήρησης.

Αντί να βρουν τη συντόμητερη διαδρομή, ο αλγόριθμος τροποποιήθηκε για να ελαχιστοποιήσει την εμπιστοσύνη ανίχνευσης, αντιμετωπίζοντας τις περιοχές υψηλής εμπιστοσύνης ως περιοχές με υψηλότερο «κόστος». Αυτή η προσαρμογή επέτρεψε στον αλγόριθμο να αναγνωρίσει διαδρομές που διέρχονται από τυφλές περιοχές ή ζώνες χαμηλής ανίχνευσης, οδηγώντας τους πεζούς κατά μήκος διαδρομών με μειωμένη ορατότητα για τα συστήματα επιτήρησης.

Μια οπτική απεικόνιση που απεικονίζει τη μετατροπή της θερμικής απεικόνισης της σκηνής από μια ματρίца pixel σε μια γραφική αναπαράσταση.

Οι ερευνητές αξιολόγησαν την επίδραση του συστήματος L-BAT στην ανίχνευση πεζών με ένα σύνολο δεδομένων που κατασκευάστηκε από τις προαναφερθείσες ηχογραφήσεις τεσσάρων ωρών δημόσιου πεζοδρόμου. Για να πληρώσουν τη συλλογή, ένα καρέ επεξεργάστηκε κάθε δύο δευτερόλεπτα χρησιμοποιώντας einen SSD ανιχνευτή αντικειμένων.

Από κάθε καρέ, ένας περιορισμός επιλέχθηκε που περιείχε έναν ανιχνευμένο άνθρωπο ως θετικό δείγμα, και μια τυχαία περιοχή χωρίς ανιχνευμένους ανθρώπους χρησιμοποιήθηκε ως αρνητικό δείγμα. Αυτά τα δίδυμα δείγματα تشکیل了一ο σύνολο δεδομένων για την αξιολόγηση δύο μοντέλων Faster R-CNN – ένα με την L-BAT εφαρμοσμένη, και ένα χωρίς.

Η απόδοση των μοντέλων αξιολογήθηκε ελέγχοντας πόσο ακριβώς αναγνώριζαν τα θετικά και αρνητικά δείγματα: ένας περιορισμός που перекrýει ένα θετικό δείγμα θεωρήθηκε ως真的 θετικό, ενώ ένας περιορισμός που перекrýει ένα αρνητικό δείγμα θεωρήθηκε ως ψευδές θετικό.

Οι μετρήσεις που χρησιμοποιήθηκαν για να καθορίσουν την αξιοπιστία ανίχνευσης της L-BAT ήταν Εμβαδόν Κάτω από την Καμπύλη (AUC), ποσοστό πραγματικών θετικών (TPR), ποσοστό ψευδών θετικών (FPR) και μέση εμπιστοσύνη πραγματικών θετικών. Οι ερευνητές ισχυρίζονται ότι η χρήση της L-BAT ενίσχυσε την εμπιστοσύνη ανίχνευσης ενώ διατηρούσε υψηλό ποσοστό πραγματικών θετικών (αν και με μια μικρή αύξηση ψευδών θετικών).

Συμπεραίνοντας, οι συγγραφείς σημειώνουν ότι η προσέγγισή τους έχει κάποια περιορισμοί. Ένας από αυτούς είναι ότι οι θερμικές απεικονίσεις που παράγονται από τη μέθοδο τους είναι συγκεκριμένες για μια συγκεκριμένη ώρα της ημέρας. Хотя δεν επεκτείνονται σε αυτό, αυτό θα υποδείκνυε ότι μια μεγαλύτερη, πολλαπλή προσέγγιση θα ήταν απαραίτητη για να ληφθεί υπόψη η ώρα της ημέρας σε μια πιο ευέλικτη ανάπτυξη.

Οι συγγραφείς επίσης παρατηρούν ότι οι θερμικές απεικονίσεις δεν θα μεταφερθούν σε διαφορετικές αρχιτεκτονικές μοντέλων, και είναι συνδεδεμένες με einen συγκεκριμένο ανιχνευτή αντικειμένων.既然 η εργασία που προτείνεται είναι ουσιαστικά μια απόδειξη концепτού, πιο ικανές αρχιτεκτονικές θα μπορούσαν, προφανώς, να αναπτυχθούν για να επιλύσουν αυτό το τεχνικό χρέος.

Σύμπεραση

Κάθε νέα μέθοδος επίθεσης για την οποία η λύση είναι «πληρωμή για νέες κάμερες επιτήρησης» έχει κάποιο πλεονέκτημα,既然 η επέκταση των δικτύων καμερών επιτήρησης σε περιοχές υψηλής επιτήρησης μπορεί να είναι πολιτικά προκλητική, καθώς και μια σημαντική δημοτική έξοδα που θα χρειαζόταν συνήθως μια ψηφοφόρο ψήφο.

Πιθανότατα η μεγαλύτερη ερώτηση που θέτει η εργασία είναι ‘Κάνουν τα κλειστά συστήματα επιτήρησης χρήση ανοιχτών πηγών SOTA πλαισίων όπως το YOLO;’. Αυτό, φυσικά, είναι αδύνατο να γνωρίζουμε,既然 οι κατασκευαστές των ιδιωτικών συστημάτων που τροφοδοτούν इतनά πολλά κρατικά και δημοτικά δίκτυα καμερών επιτήρησης (τουλάχιστον στις ΗΠΑ) θα ισχυριστούν ότι η αποκάλυψη μιας τέτοιας χρήσης θα τους άνοιγε σε επιθέσεις.

Ωστόσο, η μετανάστευση της κυβερνητικής ΤΠ προς την παγκόσμια και ανοιχτή πηγή κώδικα θα υποδείκνυε ότι όποιος δοκιμάζει την ισχυρισμό των συγγραφέων με (για παράδειγμα) το YOLO θα μπορούσε να κερδίσει το λαχείο αμέσως.

* Θα συμπεριέλαβα συνημμένα αποτελέσματα πινάκων όταν παρέχονται στο έγγραφο, αλλά σε αυτήν την περίπτωση η πολυπλοκότητα των πινάκων του εγγράφου κάνει τους πίνακες μη ενημερωτικούς για τον καθημερινό αναγνώστη, και ένα σύνοψη είναι επομένως πιο χρήσιμο.

Πρώτη δημοσίευση Τρίτη, 28 Ιανουαρίου 2025