Χορηγία NSF & Amazon Υποστηρίζει την Έρευνα στο NYU για τη Βελτίωση της Αποφασιστικής Διαδικασίας με τη Βοήθεια του AI στις Πόλεις

Μια ομάδα ερευνητών στο Πανεπιστήμιο της Νέας Υόρκης θα αναπτύξει νέες μεθόδους και εργαλεία που στοχεύουν στην ελαχιστοποίηση των συστημικών προκαταλήψεων και την παραγωγή πιο ισότιμων επιπτώσεων στις δημόσιες πολιτικές σε τομείς όπως οι επιθεωρήσεις στέγασης, η αστυνόμευση και τα δικαστήρια.

Σε μια χορηγία ενός εκατομμυρίου δολαρίων από το Εθνικό Ίδρυμα Επιστημών (NSF) και την Amazon, ο Καθηγητής Επιστήμης Υπολογιστών Daniel B. Neill θα ηγηθεί του τριετούς ερευνητικού προγράμματος που επικεντρώνεται στην αυξανόμενη χρήση της Τεχνητής Νοημοσύνης (AI) από αστικές, δημόσιες υπηρεσίες – έργο που θα περιλαμβάνει τη δημιουργία ανοικτών εργαλείων για την αξιολόγηση και τη διόρθωση προκαταλήψεων.

«Οι ανθρώπινες αποφάσεις και οι αποφάσεις των αλγορίθμων έχουν δυνατότητα συστηματικών προκαταλήψεων που μπορεί να οδηγήσουν σε κακές επιπτώσεις, όπως ανισότητες και αδικία σε φυλετικές, φυλετικές, φυλοποιητικές και κοινωνικοοικονομικές γραμμές», δήλωσε ο Neill, μέλος της σχολής του Κέντρου για την Αστική Επιστήμη και την Πρόοδο (CUSP) στο NYU Tandon School of Engineering, και καθηγητής στο NYU’s Wagner Graduate School of Public Service.

«Τι θέλουμε να κατανοήσουμε είναι πώς οι αλγόριθμοι μπορούν να ενισχύσουν την ανθρώπινη λήψη αποφάσεων με την εξάλειψη των σιωπηλών προκαταλήψεων και να αναπτύξουμε μεθόδους και εργαλεία για να βοηθήσουμε αυτούς που σχεδιάζουν και εφαρμόζουν πολιτικές παρεμβάσεις στις πόλεις».

Στην έρευνα για τους κινδύνους και τα οφέλη της λήψης αποφάσεων από αλγορίθμους, η ομάδα του έργου θα αναπτύξει μια νέα, πipelined концепτοποίηση της δικαιοσύνης που αποτελείται από επτά διακριτά στάδια: δεδομένα, μοντέλα, προβλέψεις, συστάσεις, αποφάσεις, επιπτώσεις και αποτελέσματα. Αυτή η «παιπελίνη δικαιοσύνης» θα λάβει υπόψη πολλαπλάources προκαταλήψεων, μοντελοποιήσει πώς οι προκαταλήψεις προωθούνται μέσω της πεπιέλης και οδηγούν σε αδικαιολόγητες επιπτώσεις και θα αξιολογήσει την ευαισθησία στις μη μετρημένες προκαταλήψεις.

Δεύτερον, η ομάδα θα δημιουργήσει ένα γενικό μεθοδολογικό πλαίσιο για την αναγνώριση και τη διόρθωση προκαταλήψεων σε κάθε στάδιο της πεπιέλης, ένα είδος σκαν προκαταλήψεων, μαζί με εργαλεία υποστήριξης αποφάσεων αλγορίθμων που παρέχουν συστάσεις σε ανθρώπινους αποφασίζοντες (όπως αλγοριθμικές «παρακινήσεις» για να οδηγήσουν τις ανθρώπινες αποφάσεις προς τη δικαιοσύνη).

Τέλος, η ομάδα του έργου θα δημιουργήσει νέους δείκτες για τη μέτρηση της παρουσίας και του βαθμού προκαταλήψεων στο domaine της δικαιοσύνης και της στέγασης, και τα εργαλεία που μπορούν να χρησιμοποιηθούν για: (α) τη μείωση της φυλάκισης με την ισότιμη παροχή υποστηρικτικών παρεμβάσεων σε πληθυσμούς που εμπλέκονται στη δικαιοσύνη; (β) την προτεραιότητα των επιθεωρήσεων και των επισκευών στέγασης; (γ) την αξιολόγηση και τη βελτίωση της δικαιοσύνης των πολιτικών και ποινικών διαδικασιών; και (δ) την ανάλυση των διαφορετικών επιπτώσεων της ανθυγιεινής έκθεσης, συμπεριλαμβανομένης της κακής στέγασης και των αγрессивών, αδικαιολόγητων πρακτικών αστυνόμευσης.

«Η τελική επιρροή αυτού του έργου είναι να προωθήσει τη κοινωνική δικαιοσύνη για εκείνους που ζουν στις πόλεις και που εξαρτώνται από τις υπηρεσίες της πόλης ή εμπλέκονται με το σύστημα δικαιοσύνης, αξιολογώντας και μειώνοντας τις προκαταλήψεις στις διαδικασίες λήψης αποφάσεων και μειώνοντας τις ανισότητες», δήλωσε ο Neill, επίσης διευθυντής του Εργαστηρίου Μάθησης για το Καλό στο NYU και μέλος της σχολής του Courant Institute of Mathematical Sciences.

Εκτός από τον Neill, η ερευνητική ομάδα περιλαμβάνει τον Ravi Shroff, βοηθό καθηγητή στο CUSP και στο NYU’s Steinhardt School of Culture, Education, and Human Development; τον Constantine Kontokosta, καθηγητή στο NYU’s Marron Institute of Urban Management και συνδεδεμένο μέλος της σχολής του NYU Tandon; και τον Edward McFowland III, καθηγητή στο Πανεπιστήμιο του Μινεσότα’s Carlson School of Management.

Η χορηγία έγινε στο πλαίσιο του Προγράμματος του Εθνικού Ιδρύματος Επιστημών για τη Δικαιοσύνη στην Τεχνητή Νοημοσύνη σε Συνεργασία με την Amazon (2040898).