Tài trợ của NSF và Amazon hỗ trợ nghiên cứu tại NYU để giúp các thành phố giảm thiểu thiên vị trong quyết định hỗ trợ bởi Trí tuệ nhân tạo

Một nhóm các nhà nghiên cứu tại Đại học New York sẽ phát triển các phương pháp và công cụ mới nhằm giảm thiểu các thiên vị hệ thống và tạo ra các tác động chính sách công bằng hơn trong các lĩnh vực như kiểm tra nhà ở, cảnh sát và tòa án.

Dưới sự tài trợ 1 triệu đô la từ Quỹ Khoa học Quốc gia (NSF) và Amazon (AMZN ), Giáo sư Khoa học Máy tính Daniel B. Neill sẽ lãnh đạo dự án nghiên cứu ba năm tập trung vào việc sử dụng Trí tuệ nhân tạo (AI) ngày càng tăng bởi các tổ chức khu vực công tại đô thị – công việc sẽ bao gồm việc tạo ra các công cụ mã nguồn mở để đánh giá và sửa chữa thiên vị.

“Các quyết định của con người và quyết định của thuật toán có thể có thiên vị hệ thống có thể dẫn đến kết quả kém sau này như sự bất bình đẳng và không công bằng trên các dòng chủng tộc, giới tính và kinh tế – xã hội,” Neill nói, một thành viên của khoa tại Trung tâm Khoa học Đô thị và Tiến bộ (CUSP) tại Trường Kỹ thuật NYU Tandon, và giáo sư tại Trường Dịch vụ Công cộng Wagner của NYU.

“Điều chúng tôi muốn hiểu là làm thế nào các thuật toán có thể tăng cường quyết định của con người bằng cách loại bỏ các thiên vị ngầm và phát triển các phương pháp và công cụ để hỗ trợ những người thiết kế và thực hiện các can thiệp chính sách tại các thành phố.”

Khi xem xét cả rủi ro và lợi ích của quyết định thuật toán, nhóm dự án sẽ phát triển một khái niệm mới về công bằng, bao gồm bảy giai đoạn khác nhau: dữ liệu, mô hình, dự đoán, khuyến nghị, quyết định, tác động và kết quả. Đường ống công bằng “từ đầu đến cuối” này sẽ tính đến nhiều nguồn thiên vị, mô hình hóa cách các thiên vị lan truyền qua đường ống để dẫn đến kết quả không công bằng và đánh giá độ nhạy với các thiên vị không đo lường được.

Thứ hai, nhóm sẽ xây dựng một khuôn khổ phương pháp luận chung để xác định và sửa chữa thiên vị tại mỗi giai đoạn của đường ống, một loại quét thiên vị, cùng với các công cụ hỗ trợ quyết định thuật toán cung cấp khuyến nghị cho người quyết định (như các “gợi ý” thuật toán để hướng dẫn quyết định của con người đến công bằng).

Cuối cùng, nhóm dự án sẽ tạo ra các chỉ số mới để đo lường sự hiện diện và mức độ của thiên vị trong các lĩnh vực tư pháp hình sự và nhà ở, và các công cụ có thể được sử dụng để: (a) giảm tỷ lệ giam giữ bằng cách cung cấp các can thiệp hỗ trợ công bằng cho các dân tộc liên quan đến tư pháp; (b) ưu tiên kiểm tra và sửa chữa nhà ở; (c) đánh giá và cải thiện công bằng của các thủ tục tố tụng dân sự và hình sự; và (d) phân tích các tác động sức khỏe không đồng đều của các tiếp xúc môi trường bất lợi, bao gồm nhà ở chất lượng kém và các hoạt động cảnh sát không công bằng.

“Tác động cuối cùng của công việc này là thúc đẩy công lý xã hội cho những người sống ở các thành phố và những người phụ thuộc vào dịch vụ thành phố hoặc liên quan đến hệ thống tư pháp, bằng cách đánh giá và giảm thiểu thiên vị trong các quá trình ra quyết định và giảm thiểu sự bất bình đẳng,” Neill nói, cũng là giám đốc của Phòng thí nghiệm Học tập vì Lợi ích chung của NYU và thành viên của Viện Khoa học Toán học Courant của NYU.

Ngoài Neill, nhóm nghiên cứu bao gồm Ravi Shroff, một trợ lý giáo sư tại CUSP và Trường Văn hóa, Giáo dục và Phát triển Con người Steinhardt của NYU; Constantine Kontokosta, một giáo sư tại Viện Quản lý Đô thị Marron của NYU và giảng viên liên kết tại NYU Tandon; và Edward McFowland III, một giáo sư tại Trường Quản lý Carlson của Đại học Minnesota.

Tài trợ được thực hiện dưới Chương trình Công bằng trong Trí tuệ nhân tạo của NSF hợp tác với Amazon (2040898).

ta, một giáo sư tại Viện Quản lý Đô thị Marron của NYU và giảng viên liên kết tại NYU Tandon; và Edward McFowland III, một giáo sư tại Trường Quản lý Carlson của Đại học Minnesota. Tài trợ được thực hiện dưới Chương trình Công bằng trong Trí tuệ nhân tạo của NSF hợp tác với Amazon (2040898).