Liên Minh Đạo Đức Trí Tuệ Nhân Tạo Phán Quyết Các Thuật Toán Dự Đoán Tội Ác

Vào thứ ba, một số nhà nghiên cứu trí tuệ nhân tạo, nhà đạo đức, nhà khoa học dữ liệu và nhà khoa học xã hội đã phát hành một bài đăng trên blog cho rằng các nhà nghiên cứu học thuật nên ngừng theo đuổi nghiên cứu nhằm dự đoán khả năng một cá nhân sẽ thực hiện một hành vi tội ác, dựa trên các biến số như thống kê tội phạm và quét khuôn mặt.

Bài đăng trên blog được viết bởi Liên Minh Công Nghệ Phê Phán, những người cho rằng việc sử dụng các thuật toán như vậy sẽ tiếp tục chu kỳ thành kiến đối với các nhóm thiểu số. Nhiều nghiên cứu về hiệu quả của các thuật toán nhận dạng khuôn mặt và dự đoán tội ác cho thấy rằng các thuật toán này thường phán xét các nhóm thiểu số một cách nghiêm khắc hơn, điều mà các tác giả của bài đăng trên blog cho là do sự bất công trong hệ thống tư pháp. Hệ thống tư pháp tạo ra dữ liệu bị thiên vị, và do đó, các thuật toán được đào tạo trên dữ liệu này sẽ tiếp tục những thiên vị đó, Liên Minh Công Nghệ Phê Phán lập luận. Liên minh cho rằng bản thân khái niệm “tội ác” thường dựa trên chủng tộc, và do đó, nghiên cứu về các công nghệ này giả định sự trung lập của các thuật toán khi trên thực tế không có sự trung lập nào tồn tại.

Theo The Verge báo cáo, một nhà xuất bản lớn của các tác phẩm học thuật, Springer, đã lên kế hoạch xuất bản một nghiên cứu có tiêu đề “Một Mô Hình Mạng Nơ-Ron Sâu Để Dự Đoán Tội Ác Sử Dụng Xử Lý Hình Ảnh”. Các tác giả của nghiên cứu này cho rằng họ đã xây dựng một thuật toán nhận dạng khuôn mặt có thể dự đoán khả năng một cá nhân sẽ thực hiện một tội ác với độ chính xác khoảng 80% và không có thiên vị. Tuy nhiên, Liên Minh Công Nghệ Phê Phán đã viết một lá thư mở cho Springer, kêu gọi nhà xuất bản này không xuất bản nghiên cứu hoặc các nghiên cứu tương tự trong tương lai.

“Sự lưu hành của công việc này bởi một nhà xuất bản lớn như Springer sẽ đại diện cho một bước quan trọng hướng tới việc hợp pháp hóa và áp dụng các nghiên cứu đã bị bác bỏ, có hại cho xã hội trong thế giới thực,” liên minh lập luận.

Springer đã tuyên bố rằng họ sẽ không xuất bản bài báo, theo MIT Technology Review báo cáo. Springer cho biết rằng bài báo đã được gửi để xuất bản tại một hội nghị sắp tới, nhưng sau quá trình đánh giá đồng nghiệp, bài báo đã bị từ chối xuất bản.

Liên Minh Công Nghệ Phê Phán cho rằng nghiên cứu về dự đoán tội ác chỉ là một ví dụ về xu hướng có hại lớn hơn, trong đó các kỹ sư và nhà nghiên cứu trí tuệ nhân tạo cố gắng dự đoán hành vi dựa trên dữ liệu nhạy cảm, được xây dựng xã hội. Liên minh cũng cho rằng nhiều nghiên cứu này dựa trên các ý tưởng và lý thuyết không được hỗ trợ bởi bằng chứng khoa học trong sinh học và tâm lý học. Ví dụ, các nhà nghiên cứu từ Princeton và Google (GOOGL ) đã xuất bản một bài viết cảnh báo rằng các thuật toán tuyên bố có thể dự đoán tội ác dựa trên các đặc điểm khuôn mặt dựa trên các giả khoa học và lý thuyết nguy hiểm như sinh lý học. Các nhà nghiên cứu này cảnh báo không nên để học máy được sử dụng để làm sống lại các lý thuyết đã bị bác bỏ được sử dụng để hỗ trợ các hệ thống phân biệt chủng tộc.

Động lực gần đây của phong trào Black Lives Matter đã khiến nhiều công ty sử dụng các thuật toán nhận dạng khuôn mặt phải重新 đánh giá việc sử dụng các hệ thống này. Nghiên cứu đã chỉ ra rằng các thuật toán này thường bị thiên vị, dựa trên dữ liệu đào tạo không đại diện và bị thiên vị.

Các thành viên ký tên vào lá thư, ngoài việc lập luận rằng các nhà nghiên cứu trí tuệ nhân tạo nên từ bỏ nghiên cứu về dự đoán tội ác, họ cũng khuyên rằng các nhà nghiên cứu nên重新 đánh giá cách thành công của các mô hình trí tuệ nhân tạo được đánh giá. Các thành viên của liên minh khuyên rằng tác động xã hội của các thuật toán nên là một chỉ số thành công, ngoài các chỉ số như độ chính xác, độ nhớ và độ chính xác. Như các tác giả của bài báo viết:

“Nếu học máy là để mang lại ‘lợi ích xã hội’ được tuyên bố trong các đề xuất tài trợ và thông cáo báo chí, thì các nhà nghiên cứu trong lĩnh vực này phải chủ động phản ánh về các cấu trúc quyền lực (và các hình thức áp bức kèm theo) làm cho công việc của họ trở nên khả thi.”