Reid Blackman, Tiến sĩ, Người sáng lập và Giám đốc điều hành của Virtue Consultants – Loạt phỏng vấn

Reid Blackman là Người sáng lập và Giám đốc điều hành của Virtue Consultants. Trong vai trò này, ông đã làm việc với các công ty để tích hợp đạo đức và giảm thiểu rủi ro đạo đức vào văn hóa công ty và phát triển, triển khai và mua sắm sản phẩm công nghệ mới nổi. Ông cũng là Cố vấn cấp cao cho Ernst & Young và là thành viên của Hội đồng Cố vấn Trí tuệ Nhân tạo của họ, và là thành viên của Sáng kiến Thiết kế Đạo đức của IEEE.

Công việc của Reid đã được giới thiệu trong The Wall Street Journal và Dell Perspectives và ông đã đóng góp các bài viết cho The Harvard Business Review, TechCrunch, VentureBeat và Tạp chí Rủi ro & Tuân thủ. Ông đã được trích dẫn trong nhiều bài báo và thường xuyên phát biểu tại các địa điểm khác nhau bao gồm Diễn đàn Kinh tế Thế giới, SAP, Cannes Lions, Forbes, Trường Kinh doanh NYU Stern, Đại học Columbia và AIG.

Bạn đã là Giáo sư Triết học tại Đại học Colgate từ năm 2009 đến 2018. Tại điểm nào bạn bắt đầu kết hợp đạo đức AI vào các lớp học của mình?

Tôi thường giảng dạy một khóa học về Triết học Xã hội và Chính trị, nơi tôi đã đề cập đến Marx. Một trong những tuyên bố trung tâm của Marx là chủ nghĩa tư bản sẽ cuối cùng nhường chỗ cho chủ nghĩa cộng sản, do sự gia tăng lớn trong “phương tiện sản xuất.” Nói cách khác, chủ nghĩa tư bản thúc đẩy hiệu quả ngày càng cao với tên gọi cạnh tranh và mở ra thị trường mới, điều này có nghĩa là sự gia tăng trong việc tạo ra các công nghệ có thể đầu ra nhiều hơn và nhiều hơn trong thời gian ngắn hơn. Marx cũng dự đoán rằng điều này sẽ ngày càng đưa tiền vào tay của một số ít và đẩy nhiều người hơn vào nghèo đói, tại thời điểm đó, các cấu trúc tư bản sẽ bị lật đổ bởi một cuộc cách mạng do số lượng ngày càng tăng của đám đông nghèo đói dẫn đầu. Tất cả điều này dẫn đến một cuộc thảo luận xung quanh đạo đức của công nghệ làm cho không cần lao động của con người, đây là một yếu tố trung tâm của đạo đức AI.

Câu chuyện nhỏ bên lề nếu bạn quan tâm: Vào năm 2002, tôi là một sinh viên sau đại học dẫn đầu một cuộc thảo luận về Marx với sinh viên năm nhất tại Northwestern University. Tại một thời điểm, một sinh viên đã giơ tay và nói: “Cuối cùng chúng ta sẽ không cần con người để làm bất kỳ công việc nào.” Lớp học bị bối rối. Tôi bị bối rối. Vì vậy, tôi nói: “Vậy thì ai sẽ làm công việc?” Anh ấy trả lời một cách bình tĩnh: “rô-bốt.” Lớp học đã爆 ra tiếng cười. Tôi đã kìm nén tiếng cười của mình. Nhưng rõ ràng là ai đã có tiếng cười cuối cùng.

Vào năm 2018, bạn đã ra mắt Virtue Consultants, một công ty tư vấn đạo đức giúp các nhà lãnh đạo Dữ liệu và AI xác định và giảm thiểu rủi ro đạo đức của sản phẩm của họ. Điều gì đã truyền cảm hứng cho bạn bắt đầu hành trình doanh nghiệp này?

Ghen tị. Well, sort of. Tôi đã bắt đầu một công ty bán buôn pháo hoa khi tôi là một sinh viên sau đại học, tôi nghĩ vào khoảng năm 2003 hoặc 2004. Điều đó đã diễn ra tốt hơn tôi dự kiến, và công ty vẫn tồn tại, mặc dù bây giờ tôi là một cố vấn và không còn phụ trách các hoạt động hàng ngày. Dù sao, điều đó cũng liên quan vì nó giải thích cách tôi trở thành một người cố vấn cho các công ty khởi nghiệp trong chương trình khởi nghiệp của Colgate (được gọi là TIA, Thought Into Action, do hai VC tuyệt vời, Andy Greenfield và Wills Hapworth, điều hành). Là một người cố vấn, tôi đã thấy các sinh viên tham gia vào các dự án thú vị khi họ cố gắng tìm ra cách thiết lập và mở rộng các công ty khởi nghiệp vì lợi nhuận hoặc phi lợi nhuận của họ và tôi nghĩ: “Tôi muốn điều đó!” Nhưng điều gì sẽ là dự án mới của tôi? Nó phải nói lên tình yêu của tôi với triết học và đạo đức, và điều đầu tiên mà có ý nghĩa là một công ty tư vấn đạo đức. Tôi đã không nhìn thấy thị trường cho các dịch vụ như vậy tại thời điểm đó, vì không có thị trường để nhìn thấy, và vì vậy tôi đã chờ đợi. Và sau đó Cambridge Analytica, và BLM, và #MeToo đã trở thành tiêu đề quốc gia, và đột nhiên có một nhận thức lớn hơn về nhu cầu.

Điều quan trọng như thế nào đối với các công ty để giới thiệu một Tuyên bố Đạo đức AI?

Một Tuyên bố Đạo đức AI không phải là điều cần thiết, nhưng nó là một công cụ rất hữu ích để thiết lập mục tiêu của bạn. Khi bạn giới thiệu một chương trình đạo đức AI vào tổ chức của mình, bạn muốn nó xác định và giảm thiểu và quản lý các rủi ro đạo đức, danh tiếng, quy định và pháp lý khác nhau. Đó là chức năng chính của nó. Một tuyên bố đạo đức giúp trong việc nêu rõ những điều sẽ trông như thế nào khi bạn đã có cơ sở hạ tầng, quy trình và thực tiễn để đạt được chức năng đó. Trong phạm vi mà một chiến lược cần một mục tiêu – điều mà nó luôn cần – một Tuyên bố Đạo đức AI là một cách hay để nêu rõ những mục tiêu đó, mặc dù nó không phải là cách duy nhất.

Làm thế nào các công ty có thể đảm bảo rằng tuyên bố đạo đức được chuyển thành quy trình và thực tiễn?
Một tuyên bố đạo đức chỉ là một bước nhỏ trong đúng hướng. Nếu bạn muốn tiếp tục, bước tiếp theo là thực hiện một đánh giá về nơi bạn đang đứng so với các mục tiêu nêu trong tuyên bố đó. Một khi bạn biết nơi có khoảng trống lớn nhất, rủi ro nhất – tức là nơi bạn có nhiều khả năng không đạt được mục tiêu của mình – thì bạn có thể bắt đầu tạo ra các giải pháp để thu hẹp khoảng trống đó. Có thể đó là một ủy ban đạo đức. Có thể đó là một quy trình thẩm định kỹ lưỡng trong quá trình phát triển sản phẩm. Có thể đó là việc xử lý tốt hơn cách bạn xử lý dữ liệu trong các bộ phận phi sản phẩm, như tiếp thị và nhân sự. Có thể đó là tất cả những điều đó và nhiều hơn nữa.

Các công ty nên thực hiện những giải pháp nào để tránh đưa thiên vị vào thuật toán AI thực tế?

Có một số công cụ kỹ thuật để xác định thiên vị, nhưng chúng bị giới hạn. Chúng sẽ cho phép bạn so sánh đầu ra của mô hình của mình với hàng chục số liệu định lượng đã được đề xuất trong tài liệu học máy đạo đức, nhưng bạn phải cẩn thận vì những số liệu đó không tương thích với nhau. Vì vậy, một quyết định đạo đức thực chất cần phải được đưa ra: số liệu nào, nếu có, là phù hợp trong bối cảnh này?

Ngoài việc sử dụng một công cụ như vậy, được bổ sung bởi một cách có trách nhiệm để trả lời câu hỏi đó, các nhóm sản phẩm sẽ làm tốt nếu họ nghĩ về nơi thiên vị có thể xâm nhập trước khi họ bắt đầu xây dựng. Làm thế nào nó có thể được chứa hoặc phản ánh trong các tập dữ liệu đào tạo? Làm thế nào về việc xác định hàm mục tiêu? Điều gì về việc xác định ngưỡng? Có nhiều nơi thiên vị có thể xâm nhập. Sự suy nghĩ trước về nơi đó có thể ở trong dự án hiện tại của bạn và làm thế nào nó có thể ở đó là rất quan trọng để xác định và giảm thiểu thiên vị.

Các công ty AI nổi tiếng với việc bị thống trị bởi nam giới da trắng có thể vô tình lập trình một số thiên vị vào hệ thống AI. Để tránh điều này, bộ phận nhân sự nên tìm kiếm những đặc điểm nào?

Tôi hoàn toàn ủng hộ cơ hội lớn hơn và đa dạng hơn trong số các kỹ sư và nhóm sản phẩm nói chung. Tuy nhiên, tôi nghĩ rằng điều này đang xem xét mọi thứ thông qua ống kính sai. Vấn đề chính khi nói đến các thuật toán bị thiên vị không phải là một người đàn ông da trắng có thiên vị dẫn đến mã bị thiên vị. Đó là các tập dữ liệu đào tạo bị thiên vị. Trên thực tế, một bài báo gần đây của Columbia – “Các lập trình viên thiên vị? Hay dữ liệu thiên vị? Một thí nghiệm thực địa trong việc vận hành Đạo đức AI” – kết luận rằng “[các lập trình viên hiểu hướng dẫn kỹ thuật thành công giảm thiểu thiên vị,” và rằng “[các dự đoán thuật toán của các lập trình viên AI nữ và thiểu số không hiển thị ít thiên vị thuật toán hoặc phân biệt đối xử.” Vì vậy, trong khi bộ phận nhân sự nên chú ý đến các vấn đề đa dạng, thì điều đó còn xa mới rõ ràng rằng các chiến lược để giảm thiểu đầu ra AI bị thiên vị nên tập trung chủ yếu – hoặc thậm chí độc quyền – vào các quyết định tuyển dụng liên quan đến nỗ lực đa dạng.

Bạn có thể thảo luận về những gì là thẩm định rủi ro đạo đức và tại sao các công ty nên thực hiện nó?

Thẩm định rủi ro đạo đức là một nỗ lực để phát hiện các rủi ro đạo đức khác nhau có thể được thực hiện với sản phẩm bạn đang tạo ra, bao gồm cả việc nó được triển khai, sử dụng và lạm dụng như thế nào, v.v. Bạn muốn tập trung vào các tính năng của sản phẩm – cả những tính năng nó có và những tính năng nó thiếu – và các cách những tính năng đó có thể dẫn đến, khi được triển khai trong các ngữ cảnh khác nhau, đến hành vi sai trái về đạo đức. Khi nó được thực hiện tốt, nó là một cuộc kiểm tra hệ thống và toàn diện. Tất nhiên, trong khi bạn có thể cố gắng hết sức để nhìn quanh góc, có thể có một số điều bạn sẽ bỏ lỡ, điều này là lý do tại sao việc giám sát liên tục là quan trọng.

Về việc tại sao các công ty nên thực hiện nó: họ chỉ cần xem xét các rủi ro đạo đức, danh tiếng, quy định và pháp lý cho việc không làm như vậy. Hãy nghĩ về Optum trong tin tức và đang bị điều tra về một thuật toán bị thiên vị (được cho là) khuyên các nhà cung cấp dịch vụ chăm sóc sức khỏe nên chú ý nhiều hơn đến bệnh nhân da trắng so với bệnh nhân da đen ốm yếu hơn. Hoặc Goldman Sachs, đang bị điều tra về hạn mức tín dụng cho Thẻ Apple, được cho là phân biệt đối xử với phụ nữ. Hoặc phần mềm tuyển dụng của Amazon, đã bị loại bỏ do lo ngại về thiên vị trước khi nó được triển khai. Hoặc IBM bị kiện bởi Los Angeles vì cáo buộc sử dụng sai dữ liệu thu thập được từ ứng dụng Thời tiết của họ. Hoặc Facebook…

Có điều gì khác mà bạn muốn chia sẻ về Virtue Consultants?

Virtue giúp các nhà lãnh đạo cấp cao đưa đạo đức AI vào thực tiễn, cho dù đó là giúp giáo dục và nâng cao kỹ năng cho mọi người về chủ đề này, viết một Tuyên bố Đạo đức AI, tạo và thực hiện một khuôn khổ rủi ro đạo đức AI có thể hành động, hoặc đơn giản là phục vụ như một cố vấn về đạo đức AI. Nếu điều đó nghe thú vị, mọi người nên đến nói xin chào.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm về Reid nên truy cập Reid Blackman, hoặc bạn có thể truy cập Virtue Consultants.