อาลิสซา ซิมป์สัน โรชเวิร์เกอร์ ผู้ร่วมเขียนหนังสือ Real World AI – สัมภาษณ์รายการ

อาลิสซา โรชเวิร์เกอร์ เป็นผู้นำผลิตภัณฑ์ที่มุ่งเน้นลูกค้า และมุ่งมั่นที่จะสร้างผลิตภัณฑ์ที่แก้ปัญหาอย่างแท้จริงสำหรับคนจริงๆ เธอ曾ดำรงตำแหน่งผู้นำผลิตภัณฑ์มากมายสำหรับองค์กรที่ใช้การเรียนรู้ของเครื่องจักร เช่น VP of Product สำหรับ Figure Eight (ซึ่งถูก Appen ซื้อไป) VP of AI และ Data ที่ Appen และผู้อำนวยการผลิตภัณฑ์ที่ IBM Watson เธอเพิ่งออกจากอุตสาหกรรมนี้เพื่อตามความฝันในการใช้เทคโนโลยีเพื่อปรับปรุงสุขภาพในปัจจุบัน เธอทำงานเป็นผู้อำนวยการผลิตภัณฑ์ที่ Blue Shield of California ซึ่งเธอได้รับการสนับสนุนจากข้อมูลมากมาย ปัญหาหนักๆ และโอกาสที่จะสร้างผลกระทบเชิงบวก

เราพูดถึงหนังสือใหม่ของเธอ: โลกแห่งความเป็นจริงของ AI: คู่มือปฏิบัติสำหรับการเรียนรู้ของเครื่องจักรที่รับผิดชอบ

ในบทนำของหนังสือ คุณอธิบายว่าคุณพบปัญหาเมื่อทำงานที่ IBM เป็นครั้งแรก เมื่อระบบ AI จัดประเภทภาพคนในรถเข็นเป็น “ผู้แพ้” มันเป็นการสั่นกระหน่ำให้คุณมากแค่ไหนเกี่ยวกับปัญหาเรื่องความลำเอียงของ AI?

ฉันไม่คิดว่ามันเป็นการสั่นกระหน่ำ แต่ฉันเพิ่งเริ่มทำงานที่ IBM และไม่รู้มากเกี่ยวกับเทคโนโลยีนี้ ฉันจึงไม่สามารถป้องกันความลำเอียงที่ไม่พึงประสงค์ได้ มันเป็นประสบการณ์ที่ทำให้ฉันตื่นตัวและตระหนักถึงปัญหานี้มากขึ้น – และทำให้ฉันรู้ว่าฉันต้องระมัดระวังมากขึ้นในอนาคต ความเท่าเทียม ความเข้าถึง และการรวมเป็นเรื่องที่ฉันหลงใหล – และฉันเคยได้รับรางวัลในมหาวิทยาลัยสำหรับการสนับสนุนนักเรียนที่มีความพิการ ประสบการณ์นี้ที่ IBM ช่วยให้ฉันเข้าใจจากมุมมองทางเทคนิคว่าความลำเอียงของสังคมสามารถถูกเข้ารหัสลงในผลิตภัณฑ์ที่ใช้การเรียนรู้ของเครื่องจักรได้ง่ายๆ หากทีมไม่ได้ดำเนินการเพื่อป้องกัน

คุณเรียนรู้อะไรส่วนตัวจากการวิจัยและการเขียนหนังสือเล่มนี้?

ในด้านส่วนตัว – ฉันต้องหาวิธีจัดสรรเวลาให้กับการเขียนหนังสือเล่มนี้ในขณะที่เปลี่ยนงาน มีลูกอายุ 1 ขวบ และต้องรับมือกับ COVID ฉันเรียนรู้วิธีการจัดสรรเวลาให้กับการเขียนหนังสือเล่มนี้ และวิธีการขอความช่วยเหลือจากครอบครัวเพื่อให้ฉันมีเวลาในการเขียน

ในด้านวิชาชีพ – มัน tuyệt vờiที่มีผู้เข้าร่วมที่เต็มใจและให้ความกรุณาในการแบ่งปันเรื่องราวของพวกเขาสำหรับการตีพิมพ์ ผู้เชี่ยวชาญด้านการเรียนรู้ของเครื่องจักรในประสบการณ์ของฉันเป็นคนกลุ่มที่คิดถึงและให้ความช่วยเหลืออย่างมาก – มีความเต็มใจที่จะช่วยเหลือและแบ่งปันเรื่องราวความสำเร็จและบทเรียนที่ได้เรียนรู้ อย่างไรก็ตาม หลายๆ เรื่องราวเหล่านี้ไม่ได้ถูกนำมาใช้ในการเขียนหนังสือเล่มนี้ หรือต้องถูกทำให้ไม่ระบุชื่อเนื่องจากความกังวลเกี่ยวกับการเผยแพร่ข้อมูลเบื้องหลังที่อาจทำให้บริษัทหรือบุคคลดูไม่ดีหากมองในแง่ผิด

คุณหวังว่าผู้อ่านจะเรียนรู้อะไรจากหนังสือเล่มนี้?

ฉันหวังว่าผู้อ่านจะเข้าใจว่าการเรียนรู้ของเครื่องจักรไม่ใช่เรื่องที่น่ากลัวหรือยากที่จะเข้าใจ มันเป็นเทคโนโลยีที่มีพลัง แต่ก็อาจเปราะบางและต้องการการชี้นำและโครงสร้างเพื่อให้ประสบความสำเร็จในการแก้ปัญหาหนักๆ นอกจากนี้ การใช้เทคโนโลยีนี้อย่างมีความรับผิดชอบและจริยธรรมเป็นสิ่งสำคัญสำหรับการเติบโตและความสำเร็จ – และการมุ่งเน้นในการลดความลำเอียงที่เป็นอันตรายตั้งแต่เนิ่นๆ เป็นกุญแจสำคัญในการประสบความสำเร็จทางธุรกิจ

หนึ่งในตัวอย่างของความลำเอียงทางเพศของ AI ที่อธิบายไว้ในหนังสือคือการออกบัตรเครดิตของ Apple (AAPL ) ที่มีการจัดสรรวงเงินให้กับผู้หญิงน้อยกว่าผู้ชาย ซึ่งเป็นตัวอย่างของวิธีการที่การละเว้นเพศเป็นตัวเลือกไม่ได้คำนึงถึงตัวแปรอื่นๆ ที่สามารถใช้เป็นโพรกซี่สำหรับเพศได้ ตัวอย่างนี้แสดงให้เห็นว่าหากไม่มีการป้อน “เพศ” จะไม่สามารถระบุได้ว่าผลลัพธ์เป็นแบบลำเอียงจนกว่าผลิตภัณฑ์สุดท้ายจะถูกเผยแพร่ คุณคิดว่ามีการป้อนข้อมูลใดที่ไม่ควรละเว้นเพื่อหลีกเลี่ยงความลำเอียงทางเพศหรือชนกลุ่มน้อย?

ไม่มีกฎที่แน่นอน – แต่ละชุดข้อมูล การใช้งาน และสถานการณ์แตกต่างกัน ฉันจะแนะนำให้ผู้ปฏิบัติงานเข้าไปในรายละเอียดและความซับซ้อนของปัญหาที่การเรียนรู้ของเครื่องจักรถูกนำมาใช้เพื่อแก้ – และความลำเอียงที่เป็นอันตรายที่อาจถูกเข้ารหัสลงในตัดสินใจนั้น

หนังสือเล่มนี้อธิบายว่าการสื่อสารกับทีม AI เป็นหนึ่งในความรับผิดชอบหลักในการกำหนดผลลัพธ์ที่สำคัญสำหรับธุรกิจ คุณคิดว่าธุรกิจล้มเหลวในการปฏิบัติหน้าที่นี้บ่อยแค่ไหน?

ฉันคิดว่าในประสบการณ์ของฉัน ส่วนใหญ่ของเวลา ผลลัพธ์ไม่ได้ถูกกำหนดหรือกำหนดไว้เพียงระดับสูง การเข้าไปในรายละเอียดเกี่ยวกับผลลัพธ์เฉพาะเป็นวิธีที่ง่ายในการตั้งค่าทีมให้ประสบความสำเร็จตั้งแต่เนิ่นๆ

หนังสือเล่มนี้พูดถึงความสำคัญของการรับรู้ว่าระบบ AI ไม่ใช่ “ตั้งค่าและลืม” แต่เป็นระบบที่ต้องการการดูแลและปรับปรุงอย่างต่อเนื่อง คุณสามารถพูดถึงเรื่องนี้ได้หรือไม่?

นี่คือความผิดพลาดที่บริษัทส่วนใหญ่ทำเมื่อเปิดตัวระบบ AI ใหม่เข้าสู่การผลิต ความเป็นจริงเปลี่ยนแปลง – เวลาผ่านไป สิ่งที่เป็นจริงเมื่อวานนี้ (ข้อมูลการฝึกอบรม) อาจไม่เป็นจริงในวันพรุ่งนี้ ขึ้นอยู่กับสถานการณ์ของคุณ แต่ในกรณีส่วนใหญ่ มันสำคัญที่จะสามารถเรียนรู้และปรับปรุงและตัดสินใจที่ดีขึ้นตามข้อมูลล่าสุด

ผลิตภัณฑ์ที่ใช้การเรียนรู้ของเครื่องจักรเป็นตัวตัดสินใจโดยพื้นฐาน ในการเปรียบเทียบกับตัวอย่างของมนุษย์ – มันเหมือนกับกรรมการในเกมฟุตบอลที่มีความเสี่ยงสูง ในหลายกรณี หากกรรมการได้รับการฝึกอบรมและประสบการณ์ที่ดี กรรมการจะทำการตัดสินใจที่ดีและเกมจะดำเนินต่อไป – แต่ในบางครั้ง กรรมการอาจตัดสินใจผิดหรือไม่แน่ใจว่าจะตัดสินใจอย่างไร – และต้องกลับไปดูวิดีโอและขอคำแนะนำจากผู้อื่นเพื่อตัดสินใจ ในทำนองเดียวกัน ผลิตภัณฑ์ที่ใช้การเรียนรู้ของเครื่องจักรต้องการการให้ข้อมูล การฝึกอบรม และในบางครั้งไม่มั่นใจ และต้องการตัวเลือกสำรองเพื่อใช้ในการตัดสินใจ กรรมการที่ดีจะเรียนรู้และปรับปรุงการตัดสินใจของตนเองเมื่อเวลาผ่านไป

คุณสามารถพูดถึงความสำคัญของการสร้างทีมที่มีหน้าที่ต่างๆ เพื่อระบุปัญหาที่เหมาะสมที่สุดในการใช้ AI หรือไม่?

เทคโนโลยีการเรียนรู้ของเครื่องจักรเหมาะสมที่สุดสำหรับปัญหาที่ยากและเฉพาะเจาะจงซึ่งไม่ได้ถูกแก้ไขด้วยวิธีอื่น ปัญหาใดๆ ก็ตามที่ยาก – ต้องใช้ทีมเพื่อให้ประสบความสำเร็จ เมื่อบริษัทใหม่ๆ เข้าสู่โลกของ AI มักจะมีเรื่องเล่าที่ไม่ถูกต้องว่านักวิทยาศาสตร์การเรียนรู้ของเครื่องจักรคนเดียวหรือแม้กระทั่งทีมการเรียนรู้ของเครื่องจักรสามารถแก้ปัญหาได้ด้วยตนเอง ฉันไม่เคยพบว่ามันเป็นเรื่องจริง มันจำเป็นต้องมีทีมที่มีภูมิหลังและแนวทางที่แตกต่างกันในการแก้ปัญหาหนักๆ – และแน่นอนว่าในการใช้การเรียนรู้ของเครื่องจักรได้สำเร็จในการผลิต

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม สำหรับผู้อ่าน (และผู้บริหารธุรกิจโดยเฉพาะ) ที่สนใจที่จะเรียนรู้เพิ่มเติม ฉันแนะนำให้อ่านหนังสือ โลกแห่งความเป็นจริงของ AI: คู่มือปฏิบัติสำหรับการเรียนรู้ของเครื่องจักรที่รับผิดชอบ