NSF & Amazon Grant hỗ trợ nghiên cứu tại NYU để giúp các thành phố giảm bớt sự thiên vị trong quá trình ra quyết định được hỗ trợ bởi AI

Một nhóm các nhà nghiên cứu tại Đại học New York sẽ phát triển các phương pháp và công cụ mới nhằm giảm thiểu các thành kiến ​​mang tính hệ thống và tạo ra các tác động chính sách công công bằng hơn đối với các lĩnh vực như kiểm tra nhà ở thành phố, cảnh sát và tòa án.

Dưới khoản tài trợ 1 triệu đô la từ Quỹ Khoa học Quốc gia (NSF) và Amazon, Giáo sư Khoa học Máy tính Daniel B. Neill sẽ lãnh đạo dự án nghiên cứu kéo dài ba năm tập trung vào việc sử dụng Trí tuệ nhân tạo (AI) ngày càng tăng của các tổ chức khu vực công, đô thị—công việc sẽ bao gồm việc tạo ra các công cụ nguồn mở để đánh giá và sửa chữa các thành kiến.

Neill, một thành viên của khoa cho biết: “Các quyết định của con người và các quyết định của thuật toán có khả năng dẫn đến những sai lệch có hệ thống có thể dẫn đến những kết quả tồi tệ ở hạ nguồn như sự chênh lệch và bất bình đẳng giữa các dòng chủng tộc, giới tính và kinh tế xã hội”. Trung tâm Khoa học Đô thị và Tiến bộ (CUSP) tại Trường Kỹ thuật NYU Tandon, và giáo sư tại NYU's Trường Cao học Dịch vụ Công cộng Wagner.

“Điều chúng tôi muốn hiểu là làm thế nào các thuật toán có thể nâng cao khả năng ra quyết định của con người bằng cách loại bỏ những thành kiến ​​ngầm, đồng thời phát triển các phương pháp và công cụ để hỗ trợ những người thiết kế và thực hiện các can thiệp chính sách ở các thành phố.”

Khi xem xét cả những rủi ro và lợi ích của việc ra quyết định theo thuật toán, nhóm dự án sẽ phát triển một khái niệm mới, có hệ thống về tính công bằng bao gồm bảy giai đoạn riêng biệt: dữ liệu, mô hình, dự đoán, đề xuất, quyết định, tác động và kết quả. “Hệ thống công bằng từ đầu đến cuối” này sẽ giải thích cho nhiều nguồn sai lệch, lập mô hình cách các thành kiến ​​lan truyền qua đường ống để dẫn đến kết quả không công bằng và đánh giá độ nhạy cảm đối với các thành kiến ​​không đo lường được.

Thứ hai, nhóm sẽ xây dựng một khung phương pháp luận chung để xác định và điều chỉnh các sai lệch ở từng giai đoạn của quy trình, một loại quét sai lệch, cùng với các công cụ hỗ trợ quyết định bằng thuật toán cung cấp các đề xuất cho người ra quyết định (chẳng hạn như “cú huých” bằng thuật toán để hướng dẫn các quyết định của con người hướng tới sự công bằng).

Cuối cùng, nhóm dự án sẽ tạo ra các số liệu mới để đo lường sự hiện diện và mức độ thiên vị trong lĩnh vực tư pháp hình sự và nhà ở, và các công cụ có thể được sử dụng để: (a) giảm bớt việc giam giữ bằng cách cung cấp các biện pháp can thiệp hỗ trợ một cách công bằng cho những người dân liên quan đến tư pháp; (b) ưu tiên kiểm tra và sửa chữa nhà ở; (c) đánh giá và cải thiện tính công bằng của thủ tục tố tụng dân sự và hình sự; và (d) phân tích các tác động sức khỏe khác nhau của việc tiếp xúc với môi trường bất lợi, bao gồm nhà ở chất lượng kém và các hoạt động trị an hung hăng, không công bằng.

Neill cho biết: “Tác động cuối cùng của công việc này là thúc đẩy công bằng xã hội cho những người sống ở thành phố và những người phụ thuộc vào các dịch vụ của thành phố hoặc có liên quan đến hệ thống tư pháp, bằng cách đánh giá và giảm thiểu những thành kiến ​​trong quá trình ra quyết định và giảm bớt sự chênh lệch,” Neill nói. đồng thời là giám đốc Phòng thí nghiệm Học tập vì Tốt của NYU và là giảng viên tại Viện Khoa học Toán học Courant của NYU.

Ngoài Neill, nhóm nghiên cứu còn có Ravi Shroff, trợ lý giáo sư tại Trường Văn hóa, Giáo dục và Phát triển Con người Steinhardt của CUSP và NYU; Constantine Kontokosta, giáo sư tại Học viện Quản lý Đô thị Marron của NYU và các giảng viên liên kết tại NYU Tandon; và Edward McFowland III, giáo sư tại Trường Quản lý Carlson của Đại học Minnesota.

Khoản tài trợ được thực hiện theo Chương trình NSF về Công bằng trong Trí tuệ nhân tạo khi cộng tác với Amazon (2040898).