Reid Blackman, Tiến sĩ, Người sáng lập và Giám đốc điều hành của Virtue Consultants – Loạt phỏng vấn

Reid Blackman là Người sáng lập và Giám đốc điều hành của Virtue Consultants. Trong vai trò này, ông đã làm việc với các công ty để tích hợp đạo đức và giảm thiểu rủi ro đạo đức vào văn hóa công ty và phát triển, triển khai và mua sắm sản phẩm công nghệ mới. Ông cũng là Cố vấn cấp cao cho Ernst & Young và là thành viên của Hội đồng Cố vấn Trí tuệ Nhân tạo của họ, và là thành viên của Sáng kiến Thiết kế Đạo đức của IEEE.

Công việc của Reid đã được giới thiệu trên The Wall Street Journal và Dell Perspectives, và ông đã đóng góp các bài viết cho The Harvard Business Review, TechCrunch, VentureBeat, và Tạp chí Rủi ro và Tuân thủ. Ông đã được trích dẫn trong nhiều bài báo, và ông thường xuyên phát biểu tại các địa điểm khác nhau, bao gồm Diễn đàn Kinh tế Thế giới, SAP, Cannes Lions, Forbes, Trường Kinh doanh Stern của Đại học NYU, Đại học Columbia, và AIG.

Bạn đã từng là Giáo sư Triết học tại Đại học Colgate từ năm 2009 đến 2018. Khi nào bạn bắt đầu tích hợp đạo đức AI vào các lớp học của mình?

Tôi thường giảng dạy một khóa học về Triết học Xã hội và Chính trị, nơi tôi đã đề cập đến Marx. Một trong những tuyên bố trung tâm của Marx là chủ nghĩa tư bản sẽ cuối cùng nhường chỗ cho chủ nghĩa cộng sản, do sự gia tăng lớn trong “sản xuất phương tiện”. Nói cách khác, chủ nghĩa tư bản thúc đẩy hiệu quả ngày càng cao với mục đích cạnh tranh và mở ra các thị trường mới, điều này có nghĩa là sự gia tăng trong việc tạo ra các công nghệ có thể sản xuất nhiều hơn và nhiều hơn trong thời gian ngắn hơn. Marx cũng dự đoán rằng điều này sẽ ngày càng đưa tiền vào tay của một số ít và đẩy nhiều người hơn vào nghèo đói, tại thời điểm đó, các cấu trúc tư bản sẽ bị lật đổ bởi một cuộc cách mạng do số lượng ngày càng tăng của các quần chúng nghèo đói lãnh đạo. Tất cả điều này dẫn đến một cuộc thảo luận về đạo đức của công nghệ làm cho con người không cần thiết, điều này là một yếu tố trung tâm của đạo đức AI.

Câu chuyện phụ nếu bạn quan tâm: Vào năm 2002, tôi là sinh viên sau đại học dẫn đầu một cuộc thảo luận về Marx với sinh viên đại học tại Đại học Northwestern. Tại một thời điểm, một sinh viên giơ tay và nói: “Cuối cùng, chúng ta sẽ không cần con người làm bất kỳ công việc nào.” Lớp học bị bối rối. Tôi bị bối rối. Vì vậy, tôi nói: “Vậy ai sẽ làm công việc?” Anh ấy trả lời một cách rất thực tế: “rô-bốt”. Lớp học爆 phát ra cười. Tôi kìm nén tiếng cười của mình. Nhưng rõ ràng là ai đã có tiếng cười cuối cùng.

Vào năm 2018, bạn đã ra mắt Virtue Consultants, một công ty tư vấn đạo đức giúp các nhà lãnh đạo Dữ liệu và AI xác định và giảm thiểu rủi ro đạo đức của sản phẩm của họ. Điều gì đã truyền cảm hứng cho bạn bắt đầu hành trình doanh nghiệp này?

Ghen tị. Hmm, một chút. Tôi đã bắt đầu một công ty bán buôn pháo hoa khi tôi là sinh viên sau đại học, tôi nghĩ là vào năm 2003 hoặc 2004. Điều đó đã diễn ra tốt hơn tôi dự đoán, và công ty vẫn còn tồn tại, mặc dù bây giờ tôi chỉ là cố vấn và không còn tham gia vào hoạt động hàng ngày. Điều đó có liên quan vì nó giải thích cách tôi trở thành người cố vấn cho các công ty khởi nghiệp trong chương trình khởi nghiệp của Colgate (được gọi là TIA, Thought Into Action, do hai nhà đầu tư mạo hiểm tuyệt vời, Andy Greenfield và Wills Hapworth, lãnh đạo). Là một người cố vấn, tôi đã thấy sinh viên bắt đầu các dự án thú vị khi họ cố gắng tìm ra cách thiết lập và mở rộng các công ty khởi nghiệp của họ và tôi nghĩ: “Tôi muốn điều đó!” Nhưng điều gì sẽ là dự án mới của tôi? Nó phải liên quan đến tình yêu triết học và đạo đức của tôi, và điều đầu tiên có ý nghĩa là một công ty tư vấn đạo đức. Tôi không thấy thị trường cho dịch vụ như vậy tại thời điểm đó, vì không có thị trường như vậy, và vì vậy tôi đã chờ đợi. Và sau đó, Cambridge Analytica, BLM, và #MeToo đã trở thành tiêu đề quốc gia, và đột nhiên có một nhận thức lớn hơn về nhu cầu.

Làm thế nào quan trọng để các công ty giới thiệu Tuyên bố Đạo đức AI?

Một Tuyên bố Đạo đức AI không phải là điều cần thiết, nhưng nó là một công cụ rất hữu ích để đặt mục tiêu. Khi bạn giới thiệu một chương trình đạo đức AI vào tổ chức của mình, bạn muốn xác định và giảm thiểu và quản lý các rủi ro đạo đức, uy tín, quy định và pháp lý khác nhau. Đó là chức năng chính của nó. Một tuyên bố đạo đức giúp nêu rõ những gì sẽ trông như thế nào khi bạn có cơ sở hạ tầng, quy trình và thực tiễn để đạt được chức năng đó. Trong khi một chiến lược cần có mục tiêu – điều mà nó luôn cần – một Tuyên bố Đạo đức AI là một cách tốt để nêu rõ những mục tiêu đó, mặc dù nó không phải là cách duy nhất.

Làm thế nào các công ty có thể đảm bảo rằng tuyên bố đạo đức được chuyển thành quy trình và thực tiễn?
Một tuyên bố đạo đức chỉ là một bước nhỏ trong hướng đúng. Nếu bạn muốn tiếp tục, bước tiếp theo là thực hiện một đánh giá về nơi bạn đang đứng so với các mục tiêu được nêu trong tuyên bố đó. Khi bạn biết nơi có khoảng cách lớn nhất, rủi ro nhất – tức là nơi bạn có nguy cơ không đạt được mục tiêu của mình – thì bạn có thể bắt đầu tạo ra các giải pháp để thu hẹp khoảng cách đó. Có thể đó là một ủy ban đạo đức. Có thể đó là một quy trình thẩm định trong quá trình phát triển sản phẩm. Có thể đó là việc cải thiện cách bạn xử lý dữ liệu trong các bộ phận không phải sản phẩm, như tiếp thị và nhân sự. Có thể đó là tất cả những điều đó và nhiều hơn nữa.

Điều gì là các giải pháp mà các công ty nên thực hiện để tránh thiên vị trong thuật toán AI thực tế?

Có một số công cụ kỹ thuật để xác định thiên vị, nhưng chúng bị giới hạn. Chúng sẽ cho phép bạn so sánh đầu ra của mô hình với hàng chục metric định lượng đã được đề xuất trong văn học đạo đức học máy, nhưng bạn phải cẩn thận vì những metric đó không tương thích với nhau. Vì vậy, một quyết định đạo đức thực sự cần được thực hiện: metric nào, nếu có, là phù hợp trong ngữ cảnh này?

Bên cạnh việc sử dụng một công cụ như vậy, được bổ sung bởi một cách có trách nhiệm để trả lời câu hỏi đó, các nhóm sản phẩm sẽ làm tốt nếu họ nghĩ về nơi thiên vị có thể xâm nhập trước khi họ bắt đầu xây dựng. Làm thế nào nó có thể được chứa hoặc phản ánh trong các tập dữ liệu đào tạo? Làm thế nào về việc xác định hàm mục tiêu? Cái gì về việc xác định ngưỡng? Có nhiều nơi thiên vị có thể xâm nhập. Sự suy nghĩ trước về nơi đó có thể là trong dự án hiện tại và làm thế nào nó có thể được xác định và giảm thiểu là rất quan trọng.

Các công ty AI thường bị chi phối bởi nam giới da trắng, những người có thể vô tình lập trình thiên vị vào hệ thống AI. Để tránh điều này, loại tính cách nào mà các bộ phận nhân sự nên tìm kiếm?

Tôi hoàn toàn ủng hộ cơ hội và đa dạng hơn trong số các kỹ sư và nhóm sản phẩm nói chung. Tuy nhiên, tôi nghĩ rằng điều này đang được xem xét thông qua một ống kính sai. Vấn đề chính khi nói đến các thuật toán bị thiên vị không phải là một người đàn ông da trắng nào đó có thiên vị dẫn đến mã bị thiên vị. Đó là các tập dữ liệu đào tạo bị thiên vị. Trên thực tế, một bài báo gần đây từ Columbia – “Biased Programmers? Or Biased Data? A Field Experiment in Operationalizing AI Ethics” – kết luận rằng “ác lập trình viên hiểu hướng dẫn kỹ thuật thành công giảm thiểu thiên vị,” và rằng “[d]ự đoán của các lập trình viên AI nữ và thiểu số không hiển thị thiên vị thuật toán hoặc phân biệt đối xử ít hơn.” Vì vậy, trong khi bộ phận nhân sự nên chú ý đến các vấn đề về đa dạng, nó không rõ ràng rằng các chiến lược để giảm thiểu đầu ra bị thiên vị của AI nên tập trung chủ yếu – hoặc thậm chí độc quyền – vào quyết định tuyển dụng liên quan đến nỗ lực đa dạng.

Bạn có thể thảo luận về gì là thẩm định rủi ro đạo đức và tại sao các công ty nên thực hiện nó?

Thẩm định rủi ro đạo đức là một nỗ lực để xác định các rủi ro đạo đức khác nhau có thể được thực hiện với sản phẩm bạn đang tạo, bao gồm cả cách nó được triển khai, cách nó có thể được sử dụng và lạm dụng, v.v. Bạn muốn tập trung vào các tính năng của sản phẩm – cả những tính năng nó có và những tính năng nó không có – và các cách những tính năng đó có thể dẫn đến hành vi đạo đức không đúng khi được triển khai trong các ngữ cảnh khác nhau. Khi nó được thực hiện tốt, nó là một cuộc kiểm tra hệ thống và toàn diện. Tất nhiên, trong khi bạn có thể cố gắng hết sức để nhìn quanh góc, có thể có một số điều bạn sẽ bỏ lỡ, đó là lý do tại sao việc giám sát liên tục là quan trọng.

Đối với lý do tại sao các công ty nên thực hiện nó: họ chỉ cần xem xét các rủi ro đạo đức, uy tín, quy định và pháp lý khi không thực hiện như vậy. Hãy nghĩ về Optum trong tin tức và dưới điều tra quy định vì một thuật toán bị thiên vị (được cho là) đã khuyên các nhà cung cấp dịch vụ chăm sóc sức khỏe nên trả nhiều sự chú ý hơn cho bệnh nhân da trắng so với bệnh nhân da đen ốm yếu hơn. Hoặc Goldman Sachs (GS ), dưới điều tra vì hạn mức tín dụng cho Thẻ Apple (AAPL ), được cho là phân biệt đối xử với phụ nữ. Hoặc phần mềm tuyển dụng của Amazon (AMZN ), đã bị loại bỏ do lo ngại về thiên vị trước khi nó được triển khai. Hoặc IBM bị kiện bởi Los Angeles vì bị cáo buộc lấy cắp dữ liệu thu thập từ ứng dụng Thời tiết của họ. Hoặc Facebook (META ) ….

Có điều gì khác mà bạn muốn chia sẻ về Virtue Consultants?

Virtue giúp các nhà lãnh đạo cấp cao đưa đạo đức AI vào thực tiễn, cho dù đó là giúp giáo dục và nâng cao kỹ năng cho mọi người về chủ đề, viết một Tuyên bố Đạo đức AI, tạo và thực hiện một khuôn khổ rủi ro đạo đức AI có thể hành động, hoặc đơn giản là phục vụ như các cố vấn về đạo đức AI. Nếu điều đó nghe có vẻ thú vị, mọi người nên đến nói xin chào.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm về Reid nên truy cập Reid Blackman, hoặc bạn có thể truy cập Virtue Consultants.