Alyssa Simpson Rochwerger, Đồng Tác Giả Của Real World AI – Phỏng Vấn Loạt

Alyssa Rochwerger là một nhà lãnh đạo sản phẩm tập trung vào khách hàng, chuyên xây dựng các sản phẩm giải quyết các vấn đề khó khăn cho con người thực sự. Cô đã từng giữ nhiều vị trí lãnh đạo sản phẩm cho các tổ chức học máy. Cô từng là Phó Chủ tịch sản phẩm của Figure Eight (được Appen mua lại), Phó Chủ tịch AI và Dữ liệu tại Appen, và Giám đốc sản phẩm tại IBM Watson. Gần đây, cô rời khỏi lĩnh vực này để theo đuổi giấc mơ sử dụng công nghệ để cải thiện chăm sóc sức khỏe. Hiện tại, cô đang là Giám đốc sản phẩm tại Blue Shield of California, nơi cô được bao quanh bởi rất nhiều dữ liệu, nhiều vấn đề khó khăn và không gì ngoài cơ hội để tạo ra tác động tích cực.

Chúng tôi thảo luận về cuốn sách mới của cô: The Real World of AI: A Practical Guide for Responsible Machine Learning

Trong phần giới thiệu của cuốn sách, bạn mô tả cách bạn lần đầu tiên gặp phải vấn đề với hệ thống AI khi một bức ảnh của một người trong xe lăn được phân loại bởi thuật toán là “loser”. Điều này có phải là một lời cảnh báo cho bạn về sự thiên vị của AI?

Tôi không coi đó là một lời cảnh báo, mà đó là lần đầu tiên tôi xây dựng một sản phẩm dựa trên học máy (tôi chỉ mới vào vai trò được vài tháng) và tôi không biết đủ về cách công nghệ này hoạt động để có thể đưa ra các biện pháp phòng ngừa và giảm thiểu sự thiên vị không mong muốn. Đó là một trải nghiệm giúp tôi nhận thức rõ hơn về vấn đề này – và làm cho tôi nhận thức được rằng, trong tương lai, tôi cần phải chú ý đến vấn đề này. Sự công bằng, tiếp cận và hòa nhập là một chủ đề mà tôi đam mê – và đã đam mê từ lâu – Tôi thậm chí đã giành được một giải thưởng tại trường đại học cho hoạt động vận động cho sinh viên khuyết tật. Trải nghiệm này tại IBM giúp tôi hiểu từ góc độ kỹ thuật rằng làm thế nào dễ dàng để mã hóa sự thiên vị của xã hội vào các sản phẩm dựa trên học máy nếu đội ngũ không chủ động giảm thiểu. Tôi rất vui khi được làm việc tại một tổ chức quan tâm sâu sắc đến sự công bằng và đầu tư vào việc giảm thiểu.

Điều gì bạn đã học được khi nghiên cứu và viết cuốn sách này?

Về mặt cá nhân – Tôi phải dành thời gian để viết cuốn sách này trong khi chuyển việc, có một đứa con 1 tuổi và đang phải đối mặt với COVID. Tôi đã học cách dành thời gian để ưu tiên cho việc viết cuốn sách này, và cách yêu cầu sự giúp đỡ từ gia đình để có thời gian tập trung vào việc viết.

Về mặt chuyên môn – Đó là một điều tuyệt vời khi có nhiều người tham gia sẵn sàng và ân cần chia sẻ câu chuyện của họ với chúng tôi để xuất bản. Các chuyên gia học máy trong kinh nghiệm của tôi là một nhóm người rất suy nghĩ và sẵn sàng giúp đỡ – sẵn sàng giúp đỡ và chia sẻ những sai lầm và bài học kinh nghiệm. Thật không may, nhiều câu chuyện về bài học kinh nghiệm này không được включ vào cuốn sách này hoặc phải được ẩn danh đáng kể, vì lo ngại về việc công khai thông tin hậu trường có thể làm cho một công ty hoặc cá nhân nhìn không tốt nếu được xem dưới ánh sáng sai. Mặc dù điều đó chắc chắn là bình thường, nhưng tôi cảm thấy rất tiếc – Tôi là một người tin tưởng lớn vào việc học hỏi và phát triển từ kinh nghiệm và sai lầm trong quá khứ nếu chúng có thể hữu ích cho người khác.

Điều gì bạn hy vọng người đọc sẽ rút ra từ việc đọc cuốn sách này?

Tôi hy vọng người đọc sẽ học được rằng học máy không phải là một công nghệ siêu phức tạp hoặc khó hiểu. Đó là một công nghệ mạnh mẽ nhưng cũng dễ vỡ, cần hướng dẫn và cấu trúc để thành công trong việc giải quyết các vấn đề khó khăn. Ngoài ra, việc sử dụng công nghệ này một cách có trách nhiệm và đạo đức là rất quan trọng để đạt được thành công – và tập trung vào việc giảm thiểu sự thiên vị có hại ngay từ đầu là chìa khóa để thành công trong kinh doanh.

Một ví dụ về thiên vị giới tính của AI được mô tả trong cuốn sách là việc Apple (AAPL ) Credit Card cấp hạn mức tín dụng thấp hơn cho phụ nữ so với nam giới. Điều này là một ví dụ về cách bỏ qua giới tính như một tùy chọn không tính đến các biến khác có thể đóng vai trò là đại diện cho giới tính. Ví dụ này cho thấy rằng, nếu không có đầu vào “giới tính”, thì không thể xác định được rằng kết quả bị thiên vị cho đến khi sản phẩm cuối cùng được phát hành. Những loại đầu vào dữ liệu nào bạn tin rằng không bao giờ nên bỏ qua để tránh thiên vị chống lại giới tính hoặc thiểu số?

Không có quy tắc cứng và nhanh – mỗi tập dữ liệu, trường hợp sử dụng và tình huống đều khác nhau. Tôi sẽ khuyến khích các nhà thực hành tìm hiểu chi tiết và sắc thái của vấn đề mà một thuật toán học máy được áp dụng để giải quyết – và những thiên vị có hại nào có thể được mã hóa vào quyết định đó.

Cuốn sách mô tả cách một trách nhiệm chính khi giao tiếp với đội AI là định nghĩa chính xác các kết quả quan trọng đối với kinh doanh. Theo bạn, bao nhiêu doanh nghiệp thất bại trong nhiệm vụ này?

Tôi sẽ nói rằng, trong kinh nghiệm của tôi, hầu hết thời gian, các kết quả không được định nghĩa hoặc chỉ được định nghĩa ở mức độ lỏng lẻo hoặc cao cấp. Việc đi vào chi tiết về các kết quả cụ thể là một cách dễ dàng để thiết lập đội ngũ thành công từ sớm.

Cuốn sách nói về tầm quan trọng của việc nhận ra rằng một hệ thống AI không phải là một hệ thống “cài đặt và quên”. Bạn có thể thảo luận về điều này?

Đây là sai lầm kinh điển mà hầu hết các công ty mắc phải khi triển khai một hệ thống học máy mới vào sản xuất. Thực tế thay đổi – thời gian trôi qua, những gì đúng ngày hôm qua (dữ liệu đào tạo) có thể không đúng ngày mai. Tùy thuộc vào hoàn cảnh, nhưng trong hầu hết các trường hợp, điều quan trọng là phải có khả năng học hỏi và điều chỉnh và đưa ra quyết định tốt hơn theo thời gian dựa trên thông tin mới hơn.

Hệ thống sản phẩm dựa trên học máy cơ bản là những người ra quyết định. Để so sánh với một ví dụ của con người – đó giống như một trọng tài trong một trận đấu bóng đá cao cấp. Nhiều lần, nếu đó là một trọng tài được đào tạo tốt với kinh nghiệm, trọng tài đưa ra quyết định tốt và trận đấu tiếp tục – nhưng đôi khi, trọng tài đó đưa ra quyết định sai hoặc không chắc chắn về việc gọi một pha nào đó – và cần phải xem lại video – hỏi một vài người khác để đưa ra quyết định về một pha cụ thể. Tương tự – sản phẩm học máy cần phản hồi, đào tạo, và đôi khi không chắc chắn. Chúng cần có các tùy chọn dự phòng để dựa vào cũng như thông tin mới để học hỏi và cải thiện theo thời gian. Một trọng tài tốt sẽ học hỏi và cải thiện theo thời gian.

Bạn có thể nói về tầm quan trọng của việc tạo ra một đội ngũ đa chức năng có thể xác định những vấn đề nào tốt nhất được giải quyết bằng cách sử dụng AI?

Công nghệ học máy phù hợp nhất với các vấn đề cụ thể khó khăn không được giải quyết bằng các phương pháp khác. Bất kỳ vấn đề khó khăn nào – đều cần một đội ngũ để thành công. Khi các công ty mới bắt đầu với AI – thường có một câu chuyện sai lầm rằng một nhà khoa học học máy đơn lẻ, hoặc thậm chí một đội học máy, có thể giải quyết vấn đề bằng mình. Tôi chưa bao giờ thấy điều đó là đúng. Điều đó cần một đội ngũ với các nền tảng và phương pháp khác nhau để giải quyết một vấn đề khó khăn – và chắc chắn để triển khai công nghệ học máy thành công vào sản xuất.

Cảm ơn bạn vì cuộc phỏng vấn tuyệt vời, đối với những người đọc (và đặc biệt là các nhà điều hành kinh doanh) quan tâm đến việc tìm hiểu thêm, tôi khuyên họ nên đọc cuốn sách The Real World of AI: A Practical Guide for Responsible Machine Learning.