Juliette Powell & Art Kleiner, Tác giả của The AI Dilemma – Phỏng vấn Series

The AI Dilemma được viết bởi Juliette Powell & Art Kleiner.

Juliette Powell là một tác giả, một nhà tạo lập truyền hình với 9.000 chương trình trực tiếp dưới quyền của cô, và một nhà công nghệ và xã hội học. Cô cũng là một nhà bình luận trên Bloomberg TV / Business News Networks và là một diễn giả tại các hội nghị do The Economist và Quỹ Tài chính Quốc tế tổ chức. Bài nói chuyện TED của cô đã có 130.000 lượt xem trên YouTube. Juliette xác định các mẫu và thực tiễn của các nhà lãnh đạo kinh doanh thành công dựa trên AI và dữ liệu để chiến thắng. Cô là thành viên của khoa tại NYU’s ITP, nơi cô giảng dạy bốn khóa học, bao gồm Thiết kế kỹ năng cho Truyền thông có trách nhiệm, một khóa học dựa trên cuốn sách của cô.

Art Kleiner là một nhà văn, biên tập viên và nhà tương lai học. Các cuốn sách của ông bao gồm The Age of Heretics, Who Really Matters, Privilege and Success, và The Wise. Ông từng là biên tập viên của strategy+business, tạp chí giành giải thưởng được xuất bản bởi PwC. Art cũng là một thành viên giảng dạy lâu dài tại NYU-ITP và IMA, nơi các khóa học của ông bao gồm giảng dạy chung về Công nghệ có trách nhiệm và Tương lai của Truyền thông.

“The AI Dilemma” là một cuốn sách tập trung vào những nguy hiểm của công nghệ AI khi rơi vào tay sai và vẫn thừa nhận những lợi ích mà AI mang lại cho xã hội.

Vấn đề phát sinh vì công nghệ cơ bản quá phức tạp, khiến người dùng cuối không thể hiểu rõ về cách hoạt động của hệ thống đóng hộp.

Một trong những vấn đề quan trọng nhất được nhấn mạnh là định nghĩa về AI có trách nhiệm luôn thay đổi, vì các giá trị xã hội thường không nhất quán theo thời gian.

Tôi thực sự thích đọc “The AI Dilemma”. Đó là một cuốn sách không làm cho người đọc cảm thấy sợ hãi về những nguy hiểm của AI hoặc đi sâu vào những điểm hạn chế tiềm ẩn của Trí tuệ nhân tạo tổng quát (AGI). Thay vào đó, người đọc sẽ tìm hiểu về những cách thức sử dụng dữ liệu cá nhân của chúng ta mà không có kiến thức của chúng ta, cũng như một số hạn chế hiện tại của AI và lý do để quan tâm.

Dưới đây là một số câu hỏi được thiết kế để cho người đọc biết những gì họ có thể mong đợi từ cuốn sách đột phá này.

Điều gì ban đầu đã thúc đẩy bạn viết “The AI Dilemma”?

Juliette đã đi đến Columbia để nghiên cứu về giới hạn và khả năng của quy định về AI. Cô đã nghe trực tiếp từ những người bạn làm việc trên các dự án AI về sự căng thẳng vốn có trong những dự án đó. Cô đã đi đến kết luận rằng có một vấn đề AI, một vấn đề lớn hơn nhiều so với tự điều chỉnh. Cô đã phát triển mô hình Apex – một mô hình về cách đưa ra quyết định về AI có xu hướng hướng tới trách nhiệm thấp do sự tương tác giữa các công ty và nhóm trong công ty. Điều đó đã dẫn đến luận án của cô.

Art đã làm việc với Juliette trên một số dự án viết. Ông đã đọc luận án của cô và nói: “Bạn có một cuốn sách ở đây.” Juliette đã mời ông cộng tác viết nó. Khi làm việc cùng nhau, họ đã phát hiện ra rằng họ có những quan điểm rất khác nhau nhưng chia sẻ một quan điểm mạnh mẽ rằng hiện tượng AI phức tạp và rủi ro cao này sẽ cần được hiểu rõ hơn để những người sử dụng nó có thể hành động một cách có trách nhiệm và hiệu quả.

Một trong những vấn đề cơ bản được nhấn mạnh trong The AI Dilemma là làm thế nào để hiểu được một hệ thống AI có trách nhiệm hay không, hoặc nó có tiếp tục sự bất bình đẳng xã hội bằng cách chỉ nghiên cứu mã nguồn của nó. Vấn đề này lớn đến mức nào?

Vấn đề không nằm chính ở mã nguồn. Như Cathy O’Neil đã chỉ ra, khi có một hệ thống đóng hộp, nó không chỉ là mã. Đó là hệ thống kỹ thuật – xã hội, lực lượng con người và công nghệ ảnh hưởng lẫn nhau – cần được khám phá. Logic xây dựng và phát hành hệ thống AI liên quan đến việc xác định mục đích, xác định dữ liệu, đặt ưu tiên, tạo mô hình, thiết lập hướng dẫn và rào cản cho học máy, và quyết định khi nào và làm thế nào một người nên can thiệp. Đó là phần cần được làm rõ ràng – ít nhất là đối với người quan sát và kiểm toán viên. Rủi ro về sự bất bình đẳng xã hội và các rủi ro khác sẽ lớn hơn nhiều khi những phần của quá trình này bị che giấu. Bạn không thể thực sự tái thiết kế logic thiết kế từ mã nguồn.

Liệu việc tập trung vào Explainable AI (XAI) có thể giải quyết vấn đề này?

Đối với các kỹ sư, Explainable AI hiện được coi là một nhóm các ràng buộc và thực tiễn công nghệ, nhằm làm cho các mô hình trở nên minh bạch hơn cho những người làm việc trên chúng. Đối với người bị buộc tội sai, giải thích có một ý nghĩa và cấp bách khác. Họ cần giải thích để có thể phản hồi trong sự bảo vệ của mình. Chúng ta đều cần giải thích trong ý nghĩa làm cho các quyết định kinh doanh hoặc chính phủ đằng sau các mô hình trở nên rõ ràng. Ít nhất ở Hoa Kỳ, sẽ luôn có sự căng thẳng giữa giải thích – quyền của con người để biết – và quyền của một tổ chức để cạnh tranh và đổi mới. Kiểm toán viên và nhà quản lý cần một mức độ giải thích khác. Chúng tôi đi vào chi tiết hơn về vấn đề này trong The AI Dilemma.

Bạn có thể chia sẻ quan điểm của mình về tầm quan trọng của việc giữ cho các bên liên quan (công ty AI) chịu trách nhiệm về mã mà họ phát hành ra thế giới?

Cho đến nay, ví dụ như vụ tai nạn xe tự lái ở Tempe, AZ, đã giết một người đi bộ, người vận hành đã bị buộc tội. Một cá nhân đã đi tù. Tuy nhiên, cuối cùng, đó là một thất bại của tổ chức.

Khi một cây cầu sập, kỹ sư cơ khí sẽ bị buộc tội. Đó là vì các kỹ sư cơ khí được đào tạo, đào tạo liên tục và bị kiểm soát bởi nghề nghiệp của họ. Các kỹ sư máy tính không phải như vậy.

Các bên liên quan, bao gồm cả các công ty AI, có nên được đào tạo và đào tạo lại để đưa ra quyết định tốt hơn và có trách nhiệm hơn?

The AI Dilemma tập trung rất nhiều vào việc các công ty như Google (GOOGL ) và Meta có thể thu thập và kiếm tiền từ dữ liệu cá nhân của chúng ta. Bạn có thể chia sẻ một ví dụ về việc lạm dụng đáng kể dữ liệu của chúng ta mà mọi người nên biết?

Từ The AI Dilemma, trang 67ff:

Các trường hợp lạm dụng dữ liệu cá nhân có hệ thống tiếp tục xuất hiện trước công chúng, nhiều trường hợp liên quan đến việc sử dụng bí mật công nghệ nhận diện khuôn mặt. Vào tháng 12 năm 2022, MIT Technology Review đã xuất bản các tài khoản về một thực tiễn lâu dài của iRobot. Các robot hút bụi Roomba ghi lại hình ảnh và video trong nhà của những người thử nghiệm beta, điều này tất yếu dẫn đến việc thu thập hình ảnh và thông tin cá nhân và gia đình. Những hình ảnh này được chia sẻ, mà không có sự biết của người thử nghiệm, với các nhóm bên ngoài nước. Trong ít nhất một trường hợp, một hình ảnh của một người trên bồn cầu đã được đăng trên Facebook (META ). Trong khi đó, ở Iran, chính quyền đã bắt đầu sử dụng dữ liệu từ hệ thống nhận diện khuôn mặt để theo dõi và bắt giữ phụ nữ không mặc hijab.16

Không cần phải nhấn mạnh thêm những câu chuyện này. Có rất nhiều câu chuyện như vậy. Điều quan trọng là phải xác định hiệu ứng tích lũy của việc sống theo cách này. Chúng ta mất đi cảm giác kiểm soát cuộc sống của mình khi chúng ta cảm thấy thông tin riêng tư của mình có thể được sử dụng chống lại chúng ta bất cứ lúc nào, mà không có cảnh báo.

Một khái niệm nguy hiểm mà bạn đưa ra là cách thế giới của chúng ta được thiết kế để trở nên không ma sát, với định nghĩa về ma sát là “bất kỳ điểm nào trong hành trình của khách hàng với một công ty nơi họ gặp phải một vấn đề làm chậm họ lại hoặc gây ra sự không hài lòng.” Làm thế nào mà kỳ vọng về một trải nghiệm không ma sát có thể dẫn đến AI nguy hiểm?

Ở New Zealand, một bot meal của Pak’n’Save đã gợi ý một công thức có thể tạo ra khí clo nếu được sử dụng. Điều này được quảng cáo là một cách để khách hàng sử dụng hết thức ăn thừa và tiết kiệm tiền.

Sự không ma sát tạo ra một ảo giác về sự kiểm soát. Nó nhanh hơn và dễ dàng hơn khi nghe theo ứng dụng hơn là tìm kiếm công thức của bà. Người ta theo đuổi con đường ít kháng cự nhất và không nhận ra nơi nó đang dẫn họ đến.

Ma sát, ngược lại, là sáng tạo. Bạn tham gia. Điều này dẫn đến sự kiểm soát thực sự. Kiểm soát thực sự đòi hỏi sự chú ý và công việc, và – trong trường hợp của AI – thực hiện một phân tích chi phí – lợi ích mở rộng.

Với ảo giác về sự kiểm soát, có vẻ như chúng ta sống trong một thế giới nơi các hệ thống AI đang thúc đẩy con người, thay vì con người vẫn kiểm soát hoàn toàn. Bạn có thể đưa ra một số ví dụ về cách con người tập thể tin rằng họ có kiểm soát, khi thực tế họ không có?

San Francisco hiện tại, với taxi tự lái. Ý tưởng về taxi tự lái có xu hướng gây ra hai cảm xúc mâu thuẫn: hào hứng (“taxi với chi phí thấp hơn!”) và sợ hãi (“liệu nó có va vào tôi không?”) Do đó, nhiều nhà quản lý đề xuất rằng xe nên được thử nghiệm với người bên trong, những người có thể kiểm soát hệ thống. Thật không may, việc có con người luôn cảnh giác, sẵn sàng vượt qua hệ thống trong thời gian thực, có thể không phải là một thử nghiệm tốt về an toàn công cộng. Sự tự tin quá mức là một động lực thường gặp với các hệ thống AI. Hệ thống càng tự động, con người càng tin tưởng vào nó và không chú ý đầy đủ. Chúng ta trở nên chán khi theo dõi những công nghệ này. Khi một tai nạn thực sự xảy ra, chúng ta không dự đoán và thường không phản ứng kịp thời.

Nhiều nghiên cứu đã đi vào cuốn sách này, có điều gì khiến bạn ngạc nhiên?

Một điều thực sự khiến chúng tôi ngạc nhiên là người dân trên toàn thế giới không thể đồng ý về ai nên sống và ai nên chết trong Mô phỏng của Máy tính về sự va chạm của xe tự lái. Nếu chúng ta không thể đồng ý về điều đó, thì thật khó để tưởng tượng rằng chúng ta có thể có quản lý toàn cầu thống nhất hoặc tiêu chuẩn chung cho các hệ thống AI.

Cả hai bạn đều mô tả mình là doanh nhân, những gì bạn đã học và báo cáo sẽ ảnh hưởng đến nỗ lực tương lai của bạn như thế nào?

Thực tiễn tư vấn AI của chúng tôi tập trung vào việc giúp các tổ chức phát triển có trách nhiệm với công nghệ. Các luật sư, kỹ sư, nhà khoa học xã hội và nhà tư tưởng kinh doanh đều là các bên liên quan trong tương lai của AI. Trong công việc của chúng tôi, chúng tôi đưa tất cả những quan điểm này lại với nhau và thực hành ma sát sáng tạo để tìm ra các giải pháp tốt hơn. Chúng tôi đã phát triển các khuôn khổ như tính toán rủi ro có chủ đích để giúp điều hướng những vấn đề này.

Cảm ơn vì những câu trả lời tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập The AI Dilemma.