Η πρώτη περίπτωση λανθασμένης σύλληψης στις ΗΠΑ λόγω κακόβουλου αλγορίθμου

Την περασμένη εβδομάδα, η εφημερίδα New York Times ανέφερε την πρώτη περίπτωση λανθασμένης σύλληψης που προκλήθηκε από κακόβουλο αλγόριθμο στις Ηνωμένες Πολιτείες. Το περιστατικό έλαβε χώρα στο Ντιτρόιτ όταν ο Ρόμπερτ Τζούλιαν-Μπόρτσακ Γουίλιαμς, ένας Αφροαμερικανός, συνελήφθη μετά από λανθασμένη ταυτοποίηση σε βίντεο ασφαλείας που έδειχνε ένα άτομο να διαπράττει κλοπή.

Η Αμερικανική Ένωση Πολιτικών Ελευθεριών (ACLU) ενήργησε γρήγορα και κατέθεσε καταγγελία κατά της αστυνομίας του Ντιτρόιτ. Μετά από πιέσεις της ACLU για την απόρριψη της υπόθεσης του Γουίλιαμς και την αφαίρεση των πληροφοριών του από τις εγκληματικές βάσεις δεδομένων στο Ντιτρόιτ, οι εισαγγελείς προχώρησαν στις ενέργειες αυτές.

Αυτή η εξέλιξη είναι η πρώτη του είδους της στις Ηνωμένες Πολιτείες και υπογραμμίζει σοβαρά προβλήματα που αρχίζουν να αναδύονται σε όλο τον κόσμο με τη χρήση της τεχνολογίας αναγνώρισης προσώπου από το κράτος.

Προβλήματα με τα Συστήματα Αναγνώρισης Προσώπου

Τα συστήματα αναγνώρισης προσώπου έχουν αποτελέσει αντικείμενο διαμάχης για κάποιο καιρό, γινόμενες όλο και περισσότερο σημείο συζήτησης μεταξύ εκείνων που ενδιαφέρονται για την ιδιωτικότητα και τις λανθασμένες κατηγορίες.

Με τις πρόσφατες διαμαρτυρίες σε όλη τη χώρα και σε πολλές περιοχές του κόσμου κατά της αστυνομικής βίας και των διακρίσεων, αυτή η σκέψη έχει ενισχυθεί μόνο.

Αυτοί οι αλγόριθμοι έχουν φέρει μια εντελώς νέα διάσταση στην επιβολή του νόμου και είναι γεμάτοι ελαττώματα.

Η Λανθασμένη Κατηγορία

Η ληστεία για την οποία ο Γουίλιαμς κατηγορήθηκε λανθασμένα έλαβε χώρα τον Οκτώβριο του 2018. Το βίντεο επιτήρησης ανέβηκε στη βάση δεδομένων αναγνώρισης προσώπου της πολιτείας του Μίσιγκαν τον Μάρτιο του 2019.

Η φωτογραφία του Γουίλιαμς κατάφερε να μπει σε μια φωτογραφική επιλογή, όπου ένας φύλακας αναγνώρισε τον Γουίλιαμς ως τον δράστη του εγκλήματος.

Σύμφωνα με την ACLU, ο φύλακας δεν ήταν παρών στη ληστεία.

Τον Ιανουάριο, ο Γουίλιαμς έλαβε einen τηλεφωνικό κλήση από το Τμήμα Αστυνομίας του Ντιτρόιτ, ενημερώνοντάς τον για τη σύλληψή του. Όταν αγνόησε την κλήση ως πλάγιο, η αστυνομία έφτασε στο σπίτι του μόλις μία ώρα αργότερα.

Ο Γουίλιαμς μεταφέρθηκε σε einem κέντρο κράτησης, όπου του έλαβαν φωτογραφία, δακτυλικά αποτυπώματα και DNA, και κρατήθηκε όλη τη νύχτα στο σταθμό.

Τι ακολούθησε ήταν ένας ερωτηματισμός για ένα έγκλημα που δεν είχε διαπράξει, όλα αυτά λόγω eines ελαττωματικού συστήματος αναγνώρισης.

Η υπόθεση του Γουίλιαμς απορρίφθηκε δύο εβδομάδες μετά τη σύλληψή του, αλλά σε μεγαλύτερο βαθμό, αυτό το περιστατικό σήμανε πολλά περισσότερα και είχε τεράστιες επιπτώσεις για την ιδιωτικότητα. Με την αυξανόμενη χρήση της τεχνολογίας αναγνώρισης προσώπου από τις κυβερνήσεις και τις αρχές επιβολής του νόμου, αυτή η περίπτωση θα μπορούσε να είναι η αρχή σοβαρών παραβιάσεων, οι οποίες έχουν ήδη ξεκινήσει σε χώρες όπως η Κίνα αλλά δεν έχουν φτάσει ακόμη στις Ηνωμένες Πολιτείες, τουλάχιστον όσον αφορά τις δημόσιες γνώσεις.

Μια τέτοια παραβίαση είναι ότι το δείγμα DNA, η φωτογραφία και τα δακτυλικά αποτυπώματα του Γουίλιαμς είναι τώρα όλα αρχειοθετημένα ως прямός αποτέλεσμα της τεχνολογίας. Όχι μόνο αυτό, αλλά και η σύλληψή του είναι στο αρχείο.

Ιδιωτικές Εταιρείες και Αρχές Επιβολής του Νόμου

Η περίπτωση του Γουίλιαμς έρχεται σε μια στιγμή που μεγάλες εταιρείες όπως η IBM, η Microsoft (MSFT ) και η Amazon (AMZN ) έχουν σταματήσει να παρέχουν την τεχνολογία αναγνώρισης προσώπου στις αρχές επιβολής του νόμου.

Η πρώτη μεγάλη εταιρεία που το έκανε ήταν η IBM όταν ο CEO Arvind Krishna έστειλε ένα γράμμα στο Κογκρέσο σχετικά με την παύση της προσφοράς γενικής χρήσης αναγνώρισης προσώπου ή αναλύσεων λογισμικού. Επιπλέον, η εταιρεία σταμάτησε την έρευνα και ανάπτυξη της τεχνολογίας.

“Η IBM αντιτίθεται σθεναρά και δεν θα ανεχθεί τη χρήση οποιασδήποτε τεχνολογίας αναγνώρισης προσώπου, συμπεριλαμβανομένης της τεχνολογίας αναγνώρισης προσώπου που προσφέρεται από άλλους προμηθευτές, για μαζική επιτήρηση, ρατσιστική διακρίση, παραβιάσεις των βασικών ανθρωπίνων δικαιωμάτων και ελευθεριών, ή για οποιοδήποτε σκοπό που δεν είναι συνεπής με τις αξίες και τις Αρχές Εμπιστοσύνης και Διαφάνειας μας,” σύμφωνα με το γράμμα. “Πιστεύουμε ότι τώρα είναι η ώρα να αρχίσουμε einen εθνικό διάλογο για το αν και πώς πρέπει να χρησιμοποιηθεί η τεχνολογία αναγνώρισης προσώπου από τις εγχώριες αρχές επιβολής του νόμου.”

Η Amazon ακολούθησε το παράδειγμα όταν ανακοίνωσε ένα ένα έτος απαγόρευσης στην χρήση της πλατφόρμας αναγνώρισης προσώπου Rekognition από τις αρχές επιβολής του νόμου.

Η ανακοίνωση ήρθε μόλις λίγες ημέρες μετά την απόφαση της IBM.

Ένα από τα πιο σημαντικά έργα που έχουν γίνει σχετικά με το ζήτημα της διακρίσεων και της τεχνολογίας αναγνώρισης προσώπου ήταν ένα έγγραφο του 2018 που συνυπογράφηκε από τους Joy Buolamwini και Timnit Gebru. Ο Buolamwini είναι ερευνητής στο MIT Media Lab, και η Gebru είναι μέλος στο Microsoft Research.

Το έγγραφο του 2018 βρήκε ότι “οι αλγόριθμοι μηχανικής μάθησης μπορούν να διακρίνουν με βάση κατηγορίες όπως φύλο και φυλή,” μεταξύ άλλων.

Η περίπτωση του Ρόμπερτ Τζούλιαν-Μπόρτσακ Γουίλιαμς είναι εξαιρετικά ανησυχητική για πολλούς που ζουν στις Ηνωμένες Πολιτείες, αλλά είναι επίσης ένας δείκτης του τι συμβαίνει σε όλο τον κόσμο. Η χρήση της τεχνολογίας αναγνώρισης προσώπου από τις κυβερνήσεις και τις αρχές επιβολής του νόμου μόλις αρχίζει, και υπάρχει πολύ λίγο για να την εμποδίσει από τη χρήση της ασεβώς. ΌEther είναι η εκτεταμένη χρήση της τεχνολογίας αναγνώρισης προσώπου στην Κίνα για επιτήρηση, ή η περίπτωση του Γουίλιαμς που был λανθασμένα αναγνωρισμένος στις Ηνωμένες Πολιτείες, η τεχνολογία ανοίγει τον παγκόσμιο πληθυσμό σε ένα σύνολο νέων παραβιάσεων της ιδιωτικότητας και των ανθρωπίνων δικαιωμάτων που δεν υπήρχαν προηγουμένως.