Χορηγία NSF & Amazon για Έρευνα στο NYU για τη Βελτίωση της Αποφασιστικής Διαδικασίας με τη Βοήθεια του AI

Μια ομάδα ερευνητών στο Πανεπιστήμιο της Νέας Υόρκης θα αναπτύξουν νέες μεθόδους και εργαλεία για την ελαχιστοποίηση των συστημικών προκαταλήψεων και την παραγωγή πιο ισότιμης δημόσιας πολιτικής σε τομείς όπως οι επιθεωρήσεις στέγης, η αστυνομία και τα δικαστήρια.

Με μια χορηγία ενός εκατομμυρίου δολαρίων από το Εθνικό Ίδρυμα Επιστημών (NSF) και την Amazon (AMZN ), ο Καθηγητής Επιστήμης των Υπολογιστών Daniel B. Neill θα ηγηθεί του τριετούς ερευνητικού προγράμματος, που επικεντρώνεται στην αυξανόμενη χρήση του Artificial Intelligence (AI) από αστικές, δημόσιες οργανώσεις – εργασία που θα περιλαμβάνει τη δημιουργία ανοικτών εργαλείων για την αξιολόγηση και τη διόρθωση προκαταλήψεων.

«Οι ανθρώπινες αποφάσεις και οι αλγοριθμικές αποφάσεις έχουν δυνατότητα συστηματικών προκαταλήψεων που μπορεί να οδηγήσουν σε κακές επιπτώσεις, όπως ανισότητες και αδικία σε φυλετικές, φυλετικές, και κοινωνικοοικονομικές γραμμές», ανέφερε ο Neill, μέλος της σχολής του Κέντρου Επιστημών και Προόδου της Πόλης (CUSP) στο NYU Tandon School of Engineering και καθηγητής στο NYU’s Wagner Graduate School of Public Service.

«Τι θέλουμε να κατανοήσουμε είναι πώς οι αλγόριθμοι μπορούν να βελτιώσουν τις ανθρώπινες αποφάσεις με την εξάλειψη των σιωπηλών προκαταλήψεων και να αναπτύξουν μεθόδους και εργαλεία για την υποστήριξη της σχεδίασης και εφαρμογής πολιτικών παρεμβάσεων στις πόλεις».

Στη διερεύνηση των κινδύνων και των οφελών της αλγοριθμικής λήψης αποφάσεων, η ομάδα του προγράμματος θα αναπτύξει μια νέα,conceptual Pipeline της δικαιοσύνης που αποτελείται από επτά διακριτά στάδια: δεδομένα, μοντέλα, προβλέψεις, συστάσεις, αποφάσεις, επιπτώσεις και αποτελέσματα. Αυτή η «πλήρης Pipeline της δικαιοσύνης» θα λάβει υπόψη πολλαπλάources προκαταλήψεων, θα μοντελοποιήσει πώς οι προκαταλήψεις διαδίδονται μέσω της Pipeline για να οδηγήσουν σε αδικίες και θα αξιολογήσει την ευαισθησία στις μη μετρημένες προκαταλήψεις.

Δεύτερον, η ομάδα θα κατασκευάσει einen γενικό μεθοδολογικό πλαισιο για την αναγνώριση και τη διόρθωση προκαταλήψεων σε κάθε στάδιο της Pipeline, ένα είδος σκαν προκαταλήψεων, μαζί με αλγοριθμικά εργαλεία υποστήριξης αποφάσεων που παρέχουν συστάσεις σε ανθρώπινους αποφασίζοντες (όπως αλγοριθμικές «παρακινήσεις» για την οδήγηση των ανθρώπινων αποφάσεων προς τη δικαιοσύνη).

Τέλος, η ομάδα του προγράμματος θα δημιουργήσει νέους δείκτες για τη μέτρηση της παρουσίας και του βαθμού προκαταλήψεων στα δικαστήρια και τις στέγες, και τα εργαλεία που μπορούν να χρησιμοποιηθούν για: (α) τη μείωση της φυλάκισης με την ισότιμη παροχή υποστηρικτικών παρεμβάσεων σε πληθυσμούς που εμπλέκονται με το δίκαιο, (β) την προτεραιότητα των επιθεωρήσεων και των επισκευών στέγης, (γ) την αξιολόγηση και τη βελτίωση της δικαιοσύνης των πολιτικών και ποινικών διαδικασιών, και (δ) την ανάλυση των διαφορετικών επιπτώσεων της ανθυγιεινής έκθεσης, συμπεριλαμβανομένης της κακής ποιότητας στέγης και των αδικαιολόγητων, άδικων αστυνομικών πρακτικών.

«Η τελική επίδραση αυτής της εργασίας είναι να προωθήσει τη δικαιοσύνη για εκείνους που ζουν στις πόλεις και που εξαρτώνται από τις υπηρεσίες της πόλης ή που εμπλέκονται με το δίκαιο, αξιολογώντας και μειώνοντας τις προκαταλήψεις στις διαδικασίες λήψης αποφάσεων και μειώνοντας τις ανισότητες», ανέφερε ο Neill, επίσης διευθυντής του NYU’s Learning for Good Laboratory και μέλος της σχολής του Courant Institute of Mathematical Sciences.

Εκτός από τον Neill, η ερευνητική ομάδα περιλαμβάνει τον Ravi Shroff, βοηθό καθηγητή στο CUSP και στο NYU’s Steinhardt School of Culture, Education, and Human Development, τον Constantine Kontokosta, καθηγητή στο NYU’s Marron Institute of Urban Management και συνδεδεμένο μέλος της σχολής στο NYU Tandon, και τον Edward McFowland III, καθηγητή στο Πανεπιστήμιο του Μινεσότα’s Carlson School of Management.

Η χορηγία πραγματοποιήθηκε στο πλαίσιο του Προγράμματος του NSF για τη Δικαιοσύνη στο Artificial Intelligence σε Συνεργασία με την Amazon (2040898).