Các nhà nghiên cứu AI đề xuất đặt tiền thưởng cho thiên vị AI để làm cho AI trở nên đạo đức hơn

Một nhóm các nhà nghiên cứu AI từ các công ty và phòng thí nghiệm phát triển AI như Intel (INTC ), Google (GOOGL ) Brain và OpenAI đã đề xuất việc sử dụng tiền thưởng để giúp đảm bảo việc sử dụng AI một cách đạo đức. Nhóm nghiên cứu gần đây đã phát hành một số đề xuất liên quan đến việc sử dụng AI đạo đức, và họ bao gồm một đề xuất rằng việc thưởng cho những người phát hiện ra thiên vị trong AI có thể là một cách hiệu quả để làm cho AI trở nên công bằng hơn.

Theo VentureBeat báo cáo, các nhà nghiên cứu từ nhiều công ty khác nhau trên khắp Hoa Kỳ và châu Âu đã hợp tác để tạo ra một bộ hướng dẫn đạo đức cho việc phát triển AI, cũng như đề xuất về cách thực hiện các hướng dẫn này. Một trong những đề xuất mà các nhà nghiên cứu đưa ra là cung cấp tiền thưởng cho các nhà phát triển tìm thấy thiên vị trong các chương trình AI. Đề xuất này được đưa ra trong một bài báo có tiêu đề “Hướng tới sự phát triển AI đáng tin cậy: Cơ chế hỗ trợ cho các tuyên bố có thể kiểm chứng”.

Làm ví dụ về các thiên vị mà nhóm nghiên cứu hy vọng sẽ giải quyết, dữ liệu và thuật toán thiên vị đã được tìm thấy trong mọi thứ từ các ứng dụng chăm sóc sức khỏe đến các hệ thống nhận dạng khuôn mặt được sử dụng bởi các cơ quan thực thi pháp luật. Một trường hợp của thiên vị là công cụ đánh giá rủi ro PATTERN mà gần đây được Bộ Tư pháp Hoa Kỳ sử dụng để phân loại tù nhân và quyết định những người có thể được gửi về nhà khi giảm kích thước dân số tù nhân để đáp ứng với đại dịch coronavirus.

Thực tiễn của việc thưởng cho các nhà phát triển tìm thấy hành vi không mong muốn trong các chương trình máy tính là một điều cũ, nhưng đây có thể là lần đầu tiên một hội đồng đạo đức AI nghiêm túc thúc đẩy ý tưởng này như một lựa chọn để chống lại thiên vị AI. Mặc dù không chắc có đủ nhà phát triển AI để tìm thấy đủ thiên vị để đảm bảo AI trở nên đạo đức, nhưng nó vẫn sẽ giúp các công ty giảm thiểu thiên vị tổng thể và có được ý tưởng về những loại thiên vị đang rò rỉ vào các hệ thống AI của họ.

Các tác giả của bài báo giải thích rằng khái niệm bug-bounty có thể được mở rộng sang AI với việc sử dụng tiền thưởng thiên vị và an toàn, và việc sử dụng đúng kỹ thuật này có thể dẫn đến các tập dữ liệu và mô hình được ghi chép tốt hơn. Việc ghi chép này sẽ phản ánh tốt hơn các hạn chế của cả mô hình và dữ liệu. Các nhà nghiên cứu thậm chí lưu ý rằng ý tưởng tương tự có thể được áp dụng cho các thuộc tính AI khác như khả năng giải thích, bảo mật và bảo vệ quyền riêng tư.

Khi nhiều cuộc thảo luận diễn ra xung quanh các nguyên tắc đạo đức của AI, nhiều người đã lưu ý rằng các nguyên tắc alone không đủ và hành động phải được thực hiện để giữ cho AI trở nên đạo đức. Các tác giả của bài báo lưu ý rằng “các quy định và chuẩn mực hiện có trong ngành công nghiệp và học thuật là không đủ để đảm bảo sự phát triển AI có trách nhiệm.” Đồng sáng lập của Google Brain và lãnh đạo ngành AI Andrew Ng cũng cho rằng rằng các nguyên tắc hướng dẫn alone thiếu khả năng đảm bảo rằng AI được sử dụng một cách có trách nhiệm và công bằng, nói rằng nhiều trong số chúng cần phải rõ ràng hơn và có ý tưởng hành động.

Đề xuất săn tiền thưởng thiên vị của nhóm nghiên cứu kết hợp là một nỗ lực để di chuyển vượt ra ngoài các nguyên tắc đạo đức vào một khu vực của hành động đạo đức. Nhóm nghiên cứu cũng đưa ra một số đề xuất khác mà các công ty có thể tuân theo để làm cho việc sử dụng AI của họ trở nên đạo đức hơn.

Nhóm nghiên cứu đưa ra một số đề xuất khác mà các công ty có thể thực hiện để làm cho việc sử dụng AI của họ trở nên đạo đức hơn. Họ đề xuất rằng một cơ sở dữ liệu trung tâm về các sự cố AI nên được tạo ra và chia sẻ trong cộng đồng AI rộng lớn hơn. Tương tự, các nhà nghiên cứu đề xuất rằng một đường dẫn kiểm toán nên được thiết lập và những đường dẫn này nên giữ lại thông tin về việc tạo ra và triển khai các ứng dụng quan trọng về an toàn trong các nền tảng AI.

Để bảo tồn quyền riêng tư của mọi người, nhóm nghiên cứu đề xuất rằng các kỹ thuật tập trung vào quyền riêng tư như truyền thông mã hóa, học tập liên bang và sự riêng tư khác biệt nên được sử dụng. Ngoài ra, nhóm nghiên cứu đề xuất rằng các giải pháp thay thế mã nguồn mở nên được làm cho rộng rãi có sẵn và các mô hình AI thương mại nên được kiểm tra kỹ lưỡng. Cuối cùng, nhóm nghiên cứu đề xuất rằng tài trợ của chính phủ nên được tăng lên để các nhà nghiên cứu học thuật có thể xác minh các tuyên bố về hiệu suất phần cứng.