NSF & Amazon Grant Hỗ trợ Nghiên cứu tại NYU để Giúp Các Thành phố Giảm Thiểu Sự thiên vị trong Quyết định được Hỗ trợ bởi Trí tuệ Nhân tạo

Một nhóm các nhà nghiên cứu tại Đại học New York sẽ phát triển các phương pháp và công cụ mới nhằm giảm thiểu sự thiên vị hệ thống và tạo ra các chính sách công更加 công bằng trong các lĩnh vực như kiểm tra nhà ở, cảnh sát và tòa án.

Dưới sự tài trợ 1 triệu đô la từ Quỹ Khoa học Quốc gia (NSF) và Amazon, Giáo sư Khoa học Máy tính Daniel B. Neill sẽ lãnh đạo dự án nghiên cứu ba năm tập trung vào việc sử dụng ngày càng nhiều Trí tuệ Nhân tạo (AI) bởi các tổ chức khu vực công ở đô thị – công việc sẽ bao gồm việc tạo ra các công cụ mã nguồn mở để đánh giá và sửa lỗi thiên vị.

“Các quyết định của con người và quyết định của thuật toán có thể có thiên vị hệ thống có thể dẫn đến kết quả kém về phía hạ nguồn như sự chênh lệch và bất công theo các dòng chủng tộc, giới tính và kinh tế – xã hội”, Neill cho biết, thành viên của giảng viên tại Trung tâm Khoa học và Tiến bộ Đô thị (CUSP) tại Trường Kỹ thuật NYU Tandon, và giáo sư tại Trường Dịch vụ Công cộng Wagner của NYU.

“Điều chúng tôi muốn hiểu là làm thế nào các thuật toán có thể tăng cường quyết định của con người bằng cách loại bỏ thiên vị ngầm, và để phát triển các phương pháp và công cụ để hỗ trợ những người thiết kế và thực hiện các can thiệp chính sách tại các thành phố.”

Khi xem xét cả rủi ro và lợi ích của việc ra quyết định thuật toán, nhóm dự án sẽ phát triển một khái niệm mới về công bằng bao gồm bảy giai đoạn riêng biệt: dữ liệu, mô hình, dự đoán, khuyến nghị, quyết định, tác động và kết quả. Đường ống công bằng “từ đầu đến cuối” này sẽ tính đến nhiều nguồn thiên vị, mô hình hóa cách thiên vị lan truyền qua đường ống để dẫn đến kết quả không công bằng và đánh giá độ nhạy với thiên vị không đo lường được.

Thứ hai, nhóm sẽ xây dựng một khuôn khổ phương pháp luận chung để xác định và sửa lỗi thiên vị tại mỗi giai đoạn của đường ống, một loại quét thiên vị, cùng với các công cụ hỗ trợ quyết định thuật toán cung cấp khuyến nghị cho người ra quyết định con người (như các “gợi ý” thuật toán để hướng dẫn quyết định con người hướng tới công bằng).

Cuối cùng, nhóm dự án sẽ tạo ra các chỉ số mới để đo lường sự hiện diện và mức độ của thiên vị trong các lĩnh vực tư pháp hình sự và nhà ở, và các công cụ có thể được sử dụng để: (a) giảm tỷ lệ giam giữ bằng cách cung cấp các can thiệp hỗ trợ công bằng cho các dân tộc tham gia vào hệ thống tư pháp; (b) ưu tiên kiểm tra và sửa chữa nhà ở; (c) đánh giá và cải thiện sự công bằng của các thủ tục tố tụng dân sự và hình sự; và (d) phân tích tác động sức khỏe không đồng đều của các yếu tố môi trường có hại, bao gồm nhà ở chất lượng kém và các phương pháp thực thi pháp luật không công bằng.

“Tác động cuối cùng của công việc này là để thúc đẩy công lý xã hội cho những người sống ở các thành phố và những người phụ thuộc vào dịch vụ thành phố hoặc tham gia vào hệ thống tư pháp, bằng cách đánh giá và giảm thiểu thiên vị trong các quy trình ra quyết định và giảm thiểu sự chênh lệch”, Neill cho biết, cũng là giám đốc của Phòng thí nghiệm Học tập vì Lợi ích chung của NYU và là thành viên giảng viên tại Viện Khoa học Toán học Courant của NYU.

Ngoài Neill, nhóm nghiên cứu bao gồm Ravi Shroff, giáo sư trợ lý tại CUSP và Trường Giáo dục, Văn hóa và Phát triển Con người Steinhardt của NYU; Constantine Kontokosta, giáo sư tại Viện Quản lý Đô thị Marron của NYU và giảng viên liên kết tại Trường Kỹ thuật NYU Tandon; và Edward McFowland III, giáo sư tại Trường Quản lý Carlson của Đại học Minnesota.

Tài trợ được thực hiện theo Chương trình Công bằng trong Trí tuệ Nhân tạo của NSF hợp tác với Amazon (2040898).