GS. Julia Stoyanovich, Giám đốc Trung tâm Trách nhiệm AI – Loạt Phỏng vấn

Julia Stoyanovich, là giáo sư tại Trường Kỹ thuật Tandon của NYU và là Giám đốc sáng lập của Trung tâm Trách nhiệm AI. Cô gần đây đã đưa ra lời chứng trước Ủy ban Công nghệ của Hội đồng Thành phố New York về một dự luật đề xuất sẽ quy định việc sử dụng AI cho việc tuyển dụng và quyết định việc làm.

Bạn là Giám đốc sáng lập của Trung tâm Trách nhiệm AI tại NYU. Bạn có thể chia sẻ với chúng tôi một số sáng kiến được thực hiện bởi tổ chức này không?

Tôi đồng đạo với Steven Kuyan tại Trung tâm Trách nhiệm AI (R/AI) tại NYU. Steven và tôi có lợi ích và chuyên môn bổ sung. Tôi là một nhà học thuật, với nền tảng khoa học máy tính và có một lợi ích mạnh mẽ trong công việc lấy cảm hứng từ sự giao thoa giữa kỹ thuật dữ liệu, khoa học dữ liệu có trách nhiệm và chính sách. Steven là giám đốc điều hành của NYU Tandon Future Labs, một mạng lưới các ươm tạo và tăng tốc khởi nghiệp đã có tác động kinh tế đáng kể tại NYC. Tầm nhìn của chúng tôi cho R/AI là giúp làm cho “trách nhiệm AI” trở thành đồng nghĩa với “AI”, thông qua sự kết hợp của nghiên cứu ứng dụng, giáo dục công cộng và tham gia, và bằng cách giúp các công ty lớn và nhỏ – đặc biệt là nhỏ – phát triển AI có trách nhiệm.

Trong những tháng gần đây, R/AI đã tích cực tham gia vào các cuộc trò chuyện xung quanh giám sát hệ thống quyết định tự động (ADS). Cách tiếp cận của chúng tôi dựa trên sự kết hợp giữa các hoạt động giáo dục và tham gia chính sách.

Thành phố New York đang xem xét một dự luật đề xuất, Int 1894, sẽ quy định việc sử dụng ADS trong tuyển dụng thông qua sự kết hợp giữa kiểm toán và công bố công khai. R/AI đã gửi ý kiến công khai về dự luật, dựa trên nghiên cứu và những hiểu biết chúng tôi thu thập được từ những người tìm việc thông qua một số hoạt động tham gia công khai.

Chúng tôi cũng đã hợp tác với The GovLab tại NYU và với Institute for Ethics in AI tại Technical University of Munich về một khóa học trực tuyến miễn phí gọi là “AI Ethics: Global Perspectives” được ra mắt vào đầu tháng này.

Một dự án gần đây khác của R/AI đã nhận được sự chú ý là loạt truyện tranh “Data, Responsibly” của chúng tôi. Tập đầu tiên của loạt truyện tranh này có tên là “Mirror, Mirror”, nó có sẵn bằng tiếng Anh, tiếng Tây Ban Nha và tiếng Pháp, và có thể truy cập được với trình đọc màn hình trong cả ba ngôn ngữ. Truyện tranh này đã nhận được giải thưởng “Sáng tạo của tháng” từ Metro Lab Network và GovTech, và được báo Toronto Star đưa tin, cùng với những nguồn tin khác.

Những vấn đề hiện tại hoặc tiềm năng nào liên quan đến thiên vị AI trong quyết định tuyển dụng và việc làm?

Đây là một câu hỏi phức tạp đòi hỏi chúng ta phải rõ ràng về những gì chúng ta hiểu về “thiên vị”. Điều quan trọng cần lưu ý là các hệ thống tuyển dụng tự động là “phân tích dự đoán” – chúng dự đoán tương lai dựa trên quá khứ. Quá khứ được đại diện bởi dữ liệu lịch sử về các cá nhân được tuyển dụng bởi công ty, và về cách những cá nhân này thực hiện. Hệ thống được “đào tạo” trên dữ liệu này, nghĩa là nó xác định các mẫu thống kê và sử dụng chúng để đưa ra dự đoán. Những mẫu thống kê này là “phép thuật” của AI, đó là những gì các mô hình dự đoán dựa vào. Rõ ràng, nhưng quan trọng, dữ liệu lịch sử mà những mẫu này được khai thác là im lặng về các cá nhân không được tuyển dụng vì chúng ta đơn giản là không biết họ sẽ làm như thế nào trong công việc mà họ không được tuyển dụng. Và đây là nơi thiên vị phát挥.

Thiên vị trong AI rộng lớn hơn nhiều so với chỉ thiên vị trong dữ liệu. Nó phát sinh khi chúng ta cố gắng sử dụng công nghệ nơi một giải pháp kỹ thuật đơn giản là không phù hợp, hoặc khi chúng ta đặt mục tiêu sai cho AI – thường vì chúng ta không có một tập hợp đa dạng các tiếng nói tại bàn thiết kế, hoặc khi chúng ta từ bỏ quyền lực của con người trong tương tác giữa con người và AI sau khi AI được triển khai. Mỗi lý do cho thiên vị này đều xứng đáng có một cuộc thảo luận riêng, có thể sẽ dài hơn không gian trong bài viết này cho phép. Và vì vậy, để giữ cho cuộc thảo luận tập trung, tôi sẽ quay lại thiên vị trong dữ liệu.

Khi giải thích thiên vị trong dữ liệu, tôi thích sử dụng ẩn dụ phản chiếu gương. Dữ liệu là một hình ảnh của thế giới, phản chiếu của nó. Khi chúng ta nghĩ về thiên vị trong dữ liệu, chúng ta thẩm vấn phản chiếu này. Một cách giải thích “thiên vị trong dữ liệu” là rằng phản chiếu bị méo mó – gương của chúng ta dưới đại diện hoặc quá đại diện cho một số phần của thế giới, hoặc méo mó các đọc. Một cách giải thích khác về “thiên vị trong dữ liệu” là rằng, ngay cả khi phản chiếu là 100% trung thực, nó vẫn sẽ là một phản chiếu của thế giới như nó hiện tại, và không phải là thế giới như nó có thể hoặc nên là. Quan trọng, không phải là công việc của dữ liệu hoặc của một thuật toán để cho chúng ta biết liệu nó có phải là một phản chiếu hoàn hảo của một thế giới bị hỏng, hoặc một phản chiếu hỏng của một thế giới hoàn hảo, hoặc nếu những méo mó này cộng lại. Đó là công việc của con người – các cá nhân, nhóm, xã hội nói chung – để đạt được sự đồng thuận về việc liệu chúng ta có đồng ý với thế giới như nó hiện tại hay không, hoặc, nếu không, làm thế nào chúng ta nên cải thiện nó.

Quay lại phân tích dự đoán: Sự chênh lệch mạnh mẽ trong dữ liệu, như một phản chiếu của quá khứ, càng làm tăng khả năng chúng sẽ được các mô hình dự đoán chọn lọc và được nhân rộng – và thậm chí làm trầm trọng thêm – trong tương lai.

Nếu mục tiêu của chúng ta là cải thiện các thực tiễn tuyển dụng của mình với một cái nhìn về công bằng và đa dạng, thì chúng ta đơn giản không thể giao phó công việc này cho máy móc. Chúng ta phải làm việc khó khăn của việc xác định các nguyên nhân thực sự của thiên vị trong tuyển dụng và việc làm một cách trực diện, và của việc đàm phán một giải pháp xã hội – pháp lý – kỹ thuật với sự tham gia của tất cả các bên liên quan. Công nghệ chắc chắn có vai trò trong việc giúp chúng ta cải thiện trên hiện trạng: nó có thể giúp chúng ta trung thực về mục tiêu và kết quả của mình. Nhưng việc giả vờ như việc loại bỏ thiên vị khỏi dữ liệu hoặc phân tích dự đoán sẽ giải quyết các vấn đề sâu sắc về phân biệt đối xử trong tuyển dụng là ngây thơ nhất.

Bạn gần đây đã đưa ra lời chứng trước Ủy ban Công nghệ của Hội đồng Thành phố New York, một nhận xét đáng chú ý là như sau: “Chúng tôi phát hiện ra rằng cả ngân sách của nhà quảng cáo và nội dung của quảng cáo đều đóng góp đáng kể vào sự chênh lệch của việc phân phối quảng cáo trên Facebook (META ). Đặc biệt, chúng tôi quan sát thấy sự chênh lệch đáng kể trong việc phân phối theo giới tính và chủng tộc đối với các quảng cáo ‘thực’ về cơ hội việc làm và nhà ở mặc dù các tham số mục tiêu trung lập.” Những giải pháp nào để tránh loại thiên vị này?

Nhận xét này của tôi dựa trên một bài báo của Ali et al. có tên “Discrimination though Optimization: How Facebook’s Ad Delivery Can Lead to Biased Outcomes.” Các tác giả tìm thấy rằng cơ chế phân phối quảng cáo bản thân nó có trách nhiệm trong việc giới thiệu và khuếch đại các hiệu ứng phân biệt. Không cần phải nói, phát hiện này rất vấn đề, đặc biệt là khi nó diễn ra trước sự không minh bạch của Facebook và các nền tảng khác – Google (GOOGL ) và Twitter. Gánh nặng nằm trên các nền tảng để chứng minh một cách thuyết phục rằng họ có thể kiểm soát các hiệu ứng phân biệt như những gì được tìm thấy bởi Ali et al.. Ngắn gọn hơn, tôi không thể tìm thấy một lý do để tiếp tục sử dụng mục tiêu quảng cáo cá nhân hóa trong nhà ở, việc làm và các lĩnh vực khác nơi cuộc sống và sinh kế của con người bị ảnh hưởng.

Làm thế nào các nhà khoa học dữ liệu và nhà phát triển AI có thể ngăn chặn các thiên vị không chủ ý khác len vào hệ thống của họ?

 Nó không hoàn toàn phụ thuộc vào các nhà khoa học dữ liệu, hoặc bất kỳ nhóm bên liên quan nào, để đảm bảo rằng các hệ thống kỹ thuật được đồng bộ với các giá trị xã hội. Nhưng các nhà khoa học dữ liệu chắc chắn là ở tiền tuyến của cuộc chiến này. Là một nhà khoa học máy tính, tôi có thể chứng thực sự hấp dẫn của việc nghĩ rằng các hệ thống chúng ta thiết kế là “khách quan”, “tối ưu” hoặc “đúng”. Sự thành công của khoa học máy tính và khoa học dữ liệu – sự ảnh hưởng và sử dụng rộng rãi của chúng – là cả một phước lành và một lời nguyền. Chúng ta, những người công nghệ, không còn có thể ẩn náu sau những mục tiêu không thể đạt được về tính khách quan và tính đúng. Gánh nặng nằm trên chúng ta để suy nghĩ cẩn thận về vị trí của chúng ta trong thế giới, và để giáo dục mình về các quá trình xã hội và chính trị mà chúng ta đang ảnh hưởng. Xã hội không thể chịu đựng được việc chúng ta di chuyển nhanh và phá vỡ mọi thứ, chúng ta phải chậm lại và suy ngẫm.

Nó là biểu tượng rằng triết học từng là trung tâm của tất cả các cuộc thảo luận khoa học và xã hội, sau đó đến toán học, rồi khoa học máy tính. Giờ đây, với khoa học dữ liệu đang trở thành trung tâm, chúng ta đã quay lại và cần kết nối lại với những gốc rễ triết học của mình.

Một khuyến nghị khác mà bạn đưa ra là tạo ra một công chúng thông tin. Làm thế nào để thông tin cho một công chúng có thể không quen thuộc với AI, hoặc hiểu các vấn đề liên quan đến thiên vị AI?

Có một nhu cầu cấp thiết để giáo dục những người không chuyên về công nghệ, và để giáo dục những người chuyên về công nghệ về các ý nghĩa xã hội của nó. Việc đạt được cả hai mục tiêu này sẽ đòi hỏi sự cam kết mạnh mẽ và đầu tư đáng kể từ phía chính phủ của chúng ta. Chúng ta cần phát triển các tài liệu và phương pháp giáo dục cho tất cả các nhóm này, và tìm cách khuyến khích sự tham gia. Và chúng ta không thể để công việc này lên các thực thể thương mại. Liên minh Châu Âu đang dẫn đầu, với một số chính phủ cung cấp hỗ trợ cho giáo dục AI cơ bản cho công dân của họ, và kết hợp chương trình AI vào chương trình học trung học. Chúng tôi tại R/AI đang làm việc trên một khóa học trực tuyến công khai và dễ tiếp cận, nhằm tạo ra một công chúng tham gia sẽ giúp làm cho AI trở thành những gì CHÚNG TA muốn nó trở thành. Chúng tôi rất hào hứng về công việc này, xin hãy theo dõi thêm thông tin trong tháng tới.

Cảm ơn vì những phản hồi chi tiết, những người đọc muốn tìm hiểu thêm nên truy cập Trung tâm Trách nhiệm AI.