Συνασπισμός Ηθικής Τεχνητής Νοημοσύνης Καταδικάζει Αλγόριθμους Προσδιορισμού Εγκληματικότητας

Την Τρίτη, ένας αριθμός ερευνητών Τεχνητής Νοημοσύνης, ηθικολόγων, επιστημόνων δεδομένων και κοινωνικών επιστημόνων έδωσαν μια ανάρτηση στο blog υποστηρίζοντας ότι οι ακαδημαϊκοί ερευνητές πρέπει να σταματήσουν την έρευνα που αποσκοπεί στην πρόβλεψη της πιθανότητας ότι ένα άτομο θα διαπράξει ένα εγκληματικό акт, με βάση μεταβλητές όπως στατιστικά εγκληματικότητας και σκανning προσώπου.

Η ανάρτηση στο blog γράφτηκε από τον Συνασπισμό για Κριτική Τεχνολογία, ο οποίος υποστήριξε ότι η χρήση τέτοιων αλγορίθμων διατηρεί einen κύκλο προκατάληψης κατά των μειονοτήτων. Πολλές μελέτες για την αποτελεσματικότητα των αλγορίθμων αναγνώρισης προσώπου και προβλέψεως αστυνομικής δραστηριότητας βρίσκουν ότι οι αλγόριθμοι κρίνουν τις μειονότητες πιο αυστηρά, κάτι που οι συγγραφείς της ανάρτησης στο blog υποστηρίζουν ότι οφείλεται στις ανισότητες στο σύστημα δικαιοσύνης. Το σύστημα δικαιοσύνης παράγει προκατειλημμένα δεδομένα και, ως εκ τούτου, οι αλγόριθμοι που εκπαιδεύονται σε αυτά τα δεδομένα προωθούν αυτές τις προκαταλήψεις, υποστηρίζει ο Συνασπισμός για Κριτική Τεχνολογία. Ο συνασπισμός υποστηρίζει ότι η ίδια η έννοια της “εγκληματικότητας” συχνά βασίζεται στη φυλή και, επομένως, η έρευνα σε αυτές τις τεχνολογίες υποθέτει την ουδετερότητα των αλγορίθμων, ενώ στην πραγματικότητα δεν υπάρχει τέτοια ουδετερότητα.

Όπως αναφέρει το The Verge, ένας μεγάλος εκδότης ακαδημαϊκών έργων, Springer, σκόπευε να δημοσιεύσει μια μελέτη με τον τίτλο “Ένας Βαθύ Νευρωνικός Μοντέλος για την Πρόβλεψη Εγκληματικότητας με τη Χρήση Επεξεργασίας Εικόνας”. Οι συγγραφείς της μελέτης ισχυρίστηκαν ότι είχαν σχεδιάσει einen αλγόριθμο αναγνώρισης προσώπου που μπορούσε να προβλέψει την πιθανότητα που ένα άτομο θα διαπράξει ένα έγκλημα χωρίς προκαταλήψεις και με ακρίβεια περίπου 80%. Ωστόσο, ο Συνασπισμός για Κριτική Τεχνολογία έγραψε μια ανοιχτή επιστολή προς τον Springer, ζητώντας από τον εκδότη να απέχει από τη δημοσίευση της μελέτης ή μελλοντικών μελετών που αφορούν παρόμοια έρευνα.

“Η κυκλοφορία αυτού του έργου από έναν μεγάλο εκδότη όπως ο Springer θα σήμανε einen σημαντικό βήμα προς την νομιμοποίηση και εφαρμογή επανειλημμένα ανασκευασμένων, κοινωνικά επιζήμιων ερευνών στον πραγματικό κόσμο”, υποστηρίζει ο συνασπισμός.

Ο Springer δήλωσε ότι δεν θα δημοσίευε το έγγραφο, όπως αναφέρει το MIT Technology Review. Ο Springer δήλωσε ότι το έγγραφο είχε υποβληθεί για μια επερχόμενη διάσκεψη, αλλά μετά τη διαδικασία peer review το έγγραφο απορρίφθηκε για δημοσίευση.

Ο Συνασπισμός για Κριτική Τεχνολογία υποστηρίζει ότι η μελέτη πρόβλεψης εγκληματικότητας είναι μόνο ένα παράδειγμα μιας μεγαλύτερης, επιζήμιων τάσης όπου οι μηχανικοί και ερευνητές Τεχνητής Νοημοσύνης προσπαθούν να προβλέψουν τη συμπεριφορά με βάση δεδομένα που αποτελούνται από ευαίσθητες, κοινωνικά κατασκευασμένες μεταβλητές. Ο συνασπισμός υποστηρίζει επίσης ότι πολλή από την έρευνα βασίζεται σε επιστημονικά αμφισβητούμενες ιδέες και θεωρίες, οι οποίες δεν υποστηρίζονται από τα διαθέσιμα στοιχεία της βιολογίας και της ψυχολογίας. Για παράδειγμα, ερευνητές από το Princeton και τη Google (GOOGL ) έγραψαν ένα άρθρο προειδοποιώντας ότι οι αλγόριθμοι που ισχυρίζονται ότι μπορούν να προβλέψουν την εγκληματικότητα με βάση τα χαρακτηριστικά του προσώπου βασίζονται σε αναξιόπιστες και επικίνδυνες ψευδοεπιστήμες όπως η φυσιογνωμία. Οι ερευνητές προειδοποιούν κατά της χρήσης της μηχανικής μάθησης για την αναβίωση ανασκευασμένων θεωριών που χρησιμοποιούνται για την υποστήριξη ρατσιστικών συστημάτων.

Η πρόσφατη δυναμική του κινήματος Black Lives Matter έχει οδηγήσει πολλές εταιρείες που χρησιμοποιούν αλγόριθμους αναγνώρισης προσώπου να επανεξετάσουν τη χρήση αυτών των συστημάτων. Η έρευνα έχει δείξει ότι αυτοί οι αλγόριθμοι είναι συχνά προκατειλημμένοι, με βάση μη αντιπροσωπευτικά, προκατειλημμένα δεδομένα εκπαίδευσης.

Οι υπογράφοντες της επιστολής, εκτός από το ότι υποστηρίζουν ότι οι ερευνητές Τεχνητής Νοημοσύνης πρέπει να εγκαταλείψουν την έρευνα για αλγόριθμους πρόβλεψης εγκληματικότητας, έχουν επίσης συστήσει ότι οι ερευνητές πρέπει να επανεξετάσουν τον τρόπο με τον οποίο μετράται η επιτυχία των μοντέλων Τεχνητής Νοημοσύνης. Οι μέλη του συνασπισμού συνιστώνουν ότι η κοινωνική επίδραση των αλγορίθμων πρέπει να είναι ένα μέτρο επιτυχίας, εκτός από μετρικά όπως η ακρίβεια, η ανακλησιμότητα και η ακρίβεια. Όπως γράφουν οι συγγραφείς του εγγράφου:

“Εάν η μηχανική μάθηση πρόκειται να φέρει το ‘κοινωνικό καλό’ που αναφέρεται στις προτάσεις χορηγιών και στις δηλώσεις τύπου, οι ερευνητές σε αυτόν τον χώρο πρέπει να αντανακλούν ενεργά στις δομές εξουσίας (και τις συνακόλουθες καταπιέσεις) που κάνουν το έργο τους δυνατό.”