Các nhà nghiên cứu thách thức giả định lâu dài về học máy

Các nhà nghiên cứu tại Đại học Carnegie Mellon đang thách thức một giả định lâu dài về học máy rằng có sự đánh đổi giữa độ chính xác và công bằng trong các thuật toán được sử dụng để đưa ra quyết định chính sách công.

Sự sử dụng học máy đang tăng lên trong nhiều lĩnh vực như tư pháp hình sự, tuyển dụng, cung cấp dịch vụ y tế và can thiệp dịch vụ xã hội. Cùng với sự tăng trưởng này cũng có những lo ngại ngày càng tăng về việc các ứng dụng mới này có thể làm trầm trọng thêm các bất bình đẳng hiện có. Chúng có thể đặc biệt có hại đối với các thiểu số chủng tộc hoặc những người có bất lợi về kinh tế.

Điều chỉnh Hệ thống

Có những điều chỉnh liên tục đối với dữ liệu, nhãn, đào tạo mô hình, hệ thống đánh điểm và các khía cạnh khác của hệ thống để bảo vệ chống lại sự thiên vị. Tuy nhiên, giả định lý thuyết đã là hệ thống trở nên kém chính xác hơn khi có nhiều điều chỉnh như vậy.

Đội ngũ tại CMU đã đặt ra để thách thức lý thuyết này trong một nghiên cứu mới được công bố trên Nature Machine Intelligence.

Rayid Ghani là giáo sư tại Khoa Khoa học Máy tính của Trường Máy tính (MLD) và Trường Heinz về Hệ thống Thông tin và Chính sách Công. Ông được tham gia bởi Kit Rodolfa, một nhà khoa học nghiên cứu tại MLD; và Hemank Lamba, một nhà nghiên cứu sau tiến sĩ tại SCS.

Thử nghiệm Ứng dụng Thế giới Thực

Các nhà nghiên cứu đã thử nghiệm giả định này trong các ứng dụng thực tế, và những gì họ tìm thấy là sự đánh đổi là không đáng kể trên nhiều lĩnh vực chính sách.

“Bạn thực sự có thể có cả hai. Bạn không cần phải hy sinh độ chính xác để xây dựng các hệ thống công bằng và công bằng,” Ghani nói. “Nhưng nó đòi hỏi bạn phải thiết kế có chủ đích các hệ thống để chúng trở nên công bằng và công bằng. Các hệ thống sẵn có sẽ không hoạt động.”

Đội ngũ tập trung vào các tình huống mà tài nguyên có nhu cầu cao bị giới hạn. Việc phân bổ các tài nguyên này được hỗ trợ bởi học máy.

Họ tập trung vào các hệ thống trong bốn lĩnh vực:

• xếp ưu tiên các dịch vụ chăm sóc sức khỏe tâm thần hạn chế dựa trên rủi ro của một người quay lại tù để giảm tái phạm;
• dự đoán các vi phạm an toàn nghiêm trọng để triển khai tốt hơn các thanh tra viên nhà ở hạn chế của thành phố;
• mô hình hóa rủi ro của học sinh không tốt nghiệp trung học đúng hạn để xác định những người cần hỗ trợ thêm;
• và giúp giáo viên đạt được mục tiêu huy động vốn cho các nhu cầu lớp học.

Các nhà nghiên cứu đã tìm thấy rằng các mô hình được tối ưu hóa cho độ chính xác có thể dự đoán hiệu quả các kết quả quan tâm. Tuy nhiên, họ cũng chứng minh sự chênh lệch đáng kể trong các khuyến nghị can thiệp.

Kết quả quan trọng đến khi các nhà nghiên cứu áp dụng các điều chỉnh vào đầu ra của các mô hình nhắm vào cải thiện sự công bằng của chúng. Họ phát hiện ra rằng không có sự mất mát độ chính xác khi các chênh lệch dựa trên chủng tộc, tuổi tác hoặc thu nhập được loại bỏ.

“Chúng tôi muốn cộng đồng trí tuệ nhân tạo, khoa học máy tính và học máy ngừng chấp nhận giả định về sự đánh đổi giữa độ chính xác và công bằng và bắt đầu thiết kế có chủ đích các hệ thống tối đa hóa cả hai,” Rodolfa nói. “Chúng tôi hy vọng các nhà hoạch định chính sách sẽ chấp nhận học máy như một công cụ trong việc ra quyết định của họ để giúp họ đạt được các kết quả công bằng.”