Alyssa Simpson Rochwerger, Đồng Tác Giả Của Trí Tuệ Nhân Tạo Thế Giới Thực – Loạt Phỏng Vấn

Alyssa Rochwerger là một nhà lãnh đạo sản phẩm tập trung vào khách hàng, chuyên xây dựng các sản phẩm giải quyết các vấn đề khó khăn cho con người thực. Cô đã từng giữ nhiều vị trí lãnh đạo sản phẩm cho các tổ chức học máy. Cô từng là Phó Chủ tịch sản phẩm của Figure Eight (được Appen mua lại), Phó Chủ tịch AI và dữ liệu tại Appen, và Giám đốc sản phẩm tại IBM Watson. Gần đây, cô đã rời khỏi lĩnh vực này để theo đuổi giấc mơ sử dụng công nghệ để cải thiện chăm sóc sức khỏe. Hiện tại, cô đang giữ vị trí Giám đốc sản phẩm tại Blue Shield of California, nơi cô được bao quanh bởi rất nhiều dữ liệu, nhiều vấn đề khó khăn và không gì ngoài cơ hội để tạo ra tác động tích cực.

Chúng tôi thảo luận về cuốn sách mới của cô: Thế Giới Thực Của Trí Tuệ Nhân Tạo: Hướng Dẫn Thực Tiễn Cho Học Máy Có Trách Nhiệm

Trong phần giới thiệu của cuốn sách, bạn mô tả cách bạn lần đầu tiên gặp phải vấn đề với hệ thống AI cung cấp thông tin thiên vị khi một bức ảnh của một người trong xe lăn được phân loại bởi thuật toán là “kẻ thua cuộc”. Điều này có phải là một lời cảnh tỉnh cho bạn về thiên vị AI?

Tôi không gọi đó là một lời cảnh tỉnh mà đó là lần đầu tiên tôi xây dựng một sản phẩm dựa trên học máy (tôi chỉ mới vào vai trò được vài tháng) và tôi chưa biết đủ về cách công nghệ này hoạt động để đưa ra các biện pháp phòng ngừa và giảm thiểu thiên vị không mong muốn. Đó là một trải nghiệm mở rộng tầm nhìn giúp tôi nhận thức rõ hơn về vấn đề này – và giúp tôi trở nên nhạy cảm hơn trong tương lai. Công bằng, tiếp cận và hòa nhập là chủ đề tôi đam mê – và đã được tôi theo đuổi từ lâu – tôi thậm chí đã giành được một giải thưởng tại trường đại học cho hoạt động vận động cho sinh viên khuyết tật. Trải nghiệm tại IBM giúp tôi hiểu từ góc độ kỹ thuật về cách dễ dàng các thiên vị xã hội có thể được mã hóa vào các sản phẩm dựa trên học máy nếu đội ngũ không chủ động giảm thiểu. Tôi rất vui khi được làm việc tại một tổ chức quan tâm sâu sắc đến công bằng và đầu tư vào việc giảm thiểu.

Điều gì bạn học được khi nghiên cứu và viết cuốn sách này?

Về mặt cá nhân – tôi phải tạo ra thời gian cho việc viết cuốn sách này trong khi chuyển việc, có một đứa con 1 tuổi và đồng thời phải đối mặt với COVID. Tôi đã học cách tạo ra thời gian để ưu tiên cho việc này, và cách yêu cầu sự giúp đỡ từ gia đình để có thời gian tập trung vào việc viết sách.

Về mặt chuyên môn – thật tuyệt vời khi có nhiều người tham gia sẵn sàng và lịch sự chia sẻ câu chuyện của họ với chúng tôi để xuất bản. Các chuyên gia học máy trong kinh nghiệm của tôi là một nhóm người rất suy nghĩ và lịch sự – sẵn sàng giúp đỡ người khác và chia sẻ sai lầm và bài học kinh nghiệm. Thật không may, nhiều câu chuyện về bài học kinh nghiệm này không được включ vào cuốn sách này hoặc phải được ẩn danh đáng kể, vì lo ngại về việc công khai thông tin hậu trường có thể làm cho một công ty hoặc cá nhân nhìn không tốt nếu được xem dưới ánh sáng sai. Mặc dù điều đó chắc chắn là bình thường, nhưng cá nhân tôi cảm thấy điều đó thật đáng tiếc – tôi là một người tin tưởng vào việc học hỏi và phát triển từ kinh nghiệm và sai lầm trong quá khứ nếu chúng có thể hữu ích cho người khác.

Điều gì là những bài học quan trọng nhất mà bạn hy vọng mọi người sẽ rút ra từ việc đọc cuốn sách này?

Tôi hy vọng mọi người sẽ học được rằng học máy không phải là một công nghệ quá khó hiểu hoặc phức tạp. Đó là một công nghệ mạnh mẽ nhưng cũng có thể là giòn và cần hướng dẫn và cấu trúc để thành công trong việc giải quyết các vấn đề khó khăn. Ngoài ra, việc sử dụng công nghệ này một cách có trách nhiệm và đạo đức là rất quan trọng để đạt được thành công và trưởng thành – và việc tập trung vào việc giảm thiểu thiên vị có hại từ sớm là chìa khóa để đạt được thành công trong kinh doanh.

Một ví dụ về thiên vị giới tính của AI được mô tả trong cuốn sách là việc Apple Credit Card cấp hạn mức tín dụng thấp hơn cho phụ nữ so với nam giới. Đây là một ví dụ về cách việc bỏ qua giới tính làm cho không thể xác định được rằng kết quả là thiên vị cho đến khi sản phẩm cuối cùng được phát hành. Những loại đầu vào dữ liệu nào bạn tin rằng không nên bỏ qua để tránh thiên vị đối với giới tính hoặc thiểu số?

Không có quy tắc cứng và nhanh – mỗi tập dữ liệu, trường hợp sử dụng và tình huống đều khác nhau. Tôi sẽ khuyến khích các nhà thực hành tìm hiểu chi tiết và sắc thái của vấn đề mà thuật toán học máy được áp dụng để giải quyết – và những thiên vị có hại nào có thể được mã hóa vào quyết định đó.

Cuốn sách mô tả cách một trách nhiệm chính khi giao tiếp với đội ngũ AI là định nghĩa chính xác các kết quả quan trọng đối với kinh doanh. Theo bạn, các doanh nghiệp thường thất bại trong nhiệm vụ này bao nhiêu lần?

Tôi sẽ nói rằng trong kinh nghiệm của tôi, hầu hết thời gian, các kết quả không được định nghĩa hoặc chỉ được định nghĩa ở mức độ lỏng lẻo hoặc cao cấp. Việc đi vào chi tiết về các kết quả cụ thể là một cách dễ dàng để thiết lập đội ngũ thành công từ sớm.

Cuốn sách nói về tầm quan trọng của việc nhận ra rằng một hệ thống AI không phải là một hệ thống “Cài đặt và quên đi” loại. Bạn có thể thảo luận ngắn gọn về điều này?

Đây là sai lầm kinh điển mà hầu hết các công ty mắc phải khi phát hành một hệ thống ML mới vào sản xuất. Thực tế thay đổi – thời gian trôi qua, những gì đúng昨天 (dữ liệu đào tạo) có thể không đúng ngày mai. Tùy thuộc vào hoàn cảnh, nhưng trong hầu hết các trường hợp, điều quan trọng là phải có khả năng học hỏi và điều chỉnh và đưa ra quyết định tốt hơn theo thời gian dựa trên thông tin mới hơn.

Các sản phẩm dựa trên học máy về cơ bản là những người ra quyết định. Để so sánh với một ví dụ của con người – đó giống như một trọng tài trong một trận bóng đá cao cấp. Nhiều lần, nếu đó là một trọng tài được đào tạo tốt với kinh nghiệm, trọng tài đưa ra quyết định tốt và trận đấu tiếp tục – nhưng đôi khi, trọng tài đó đưa ra quyết định sai – hoặc không chắc chắn về quyết định nào để đưa ra – và cần phải quay lại và xem lại video – hỏi một số người khác để đưa ra quyết định về một pha bóng cụ thể. Tương tự – các sản phẩm học máy cần phản hồi, đào tạo, và đôi khi không tự tin. Chúng cần có các tùy chọn dự phòng để dựa vào cũng như thông tin mới để học hỏi và trở nên tốt hơn theo thời gian. Một trọng tài tốt sẽ học hỏi theo thời gian và trở nên tốt hơn trong việc đưa ra phán quyết.

Bạn có thể nói về tầm quan trọng của việc tạo ra một đội ngũ đa chức năng có thể xác định những vấn đề nào tốt nhất được giải quyết bằng cách sử dụng AI?

Công nghệ học máy thường phù hợp với các vấn đề cụ thể và khó khăn không được giải quyết bằng các phương pháp khác. Bất kỳ vấn đề khó khăn nào – đều cần một đội ngũ để thành công. Khi các công ty mới bắt đầu với AI – thường có một câu chuyện sai lầm rằng một nhà khoa học học máy đơn lẻ, hoặc thậm chí một đội ngũ học máy có thể giải quyết vấn đề bằng mình. Tôi chưa bao giờ thấy điều đó là đúng. Điều đó đòi hỏi một đội ngũ với các nền tảng và phương pháp khác nhau để giải quyết một vấn đề khó khăn – và chắc chắn để triển khai công nghệ học máy thành công vào sản xuất.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, đối với người đọc (và đặc biệt là các nhà điều hành kinh doanh) quan tâm đến việc học hỏi thêm, tôi khuyến nghị họ đọc cuốn sách Thế Giới Thực Của Trí Tuệ Nhân Tạo: Hướng Dẫn Thực Tiễn Cho Học Máy Có Trách Nhiệm.