ยารอน ซิงเกอร์ ซีอีโอของ Robust Intelligence และ Профессор ของ Department of Computer Science ที่ Harvard University – สัมภาษณ์ Series

ยารอน ซิงเกอร์ เป็น ซีอีโอ ของ Robust Intelligence และ Профессор ของ Department of Computer Science และ Applied Math ที่ Harvard ยารอน เป็นที่รู้จักจากการผลิตผลงานที่เป็น Breakthrough ในด้าน Machine Learning, Algorithm และ Optimization ในช่วงก่อนหน้านี้ ยารอน曾ทำงานที่ Google (GOOGL ) Research และได้รับ PhD จาก UC Berkeley

สิ่งใดที่ดึงดูดคุณให้เข้าสู่สาขาวิชา Computer Science และ Machine Learning ในตอนแรก?

การเดินทางของฉันเริ่มต้นด้วยคณิตศาสตร์ ซึ่งนำฉันเข้าสู่ Computer Science และจากนั้นจึงนำฉันเข้าสู่ Machine Learning คณิตศาสตร์เป็นสิ่งที่ดึงดูดความสนใจของฉันเพราะระบบ Axiomatic ที่ให้ฉันสามารถสร้างโลกใหม่ๆ ได้ ด้วย Computer Science ฉันเรียนรู้เกี่ยวกับ Existential Proofs และ Algorithm ที่อยู่เบื้องหลัง จากมุมมองของการสร้างสรรค์ Computer Science คือการวาดเส้นแบ่งระหว่างสิ่งที่เราสามารถทำได้และสิ่งที่เราทำไม่ได้

ความสนใจของฉันใน Machine Learning มีรากฐานมาจากความสนใจในข้อมูลจริง หรือมุมมองทางกายภาพของมัน การนำสิ่งต่างๆ จากโลกจริงมาและสร้างแบบจำลองเพื่อสร้างสิ่งที่มีความหมาย เราสามารถสร้างโลกที่ดีกว่าผ่านการสร้างแบบจำลองที่มีความหมายได้ คณิตศาสตร์ให้ฉันพื้นฐานในการพิสูจน์สิ่งต่างๆ Computer Science ช่วยให้ฉันเห็นขอบเขตของสิ่งที่เราสามารถทำได้และสิ่งที่เราทำไม่ได้ และ Machine Learning ทำให้ฉันสามารถสร้างแบบจำลองเหล่านี้ในโลกได้

จนกระทั่งไม่นานมานี้ คุณ曾เป็น Professor of Computer Science และ Applied Mathematics ที่ Harvard University สิ่งที่คุณได้รับจากประสบการณ์นี้คืออะไร?

สิ่งที่ฉันได้รับมากที่สุดจากประสบการณ์เป็นอาจารย์ที่ Harvard คือการสร้างความกระตือรือร้นในการทำสิ่งที่ยิ่งใหญ่ Harvard มีประวัติศาสตร์ที่ยาวนานและคาดหวังให้อาจารย์ทำสิ่งที่ยิ่งใหญ่และสร้างสิ่งใหม่ๆ คุณต้องมีความกล้า และสิ่งนี้ช่วยให้ฉันเตรียมตัวสำหรับการสร้าง Startup ที่จะสร้างสิ่งใหม่ๆ ในอุตสาหกรรมได้ ฉันไม่จำเป็นต้องแนะนำให้ทำตามรอยเท้าของฉัน แต่ถ้าคุณสามารถผ่านการเป็นอาจารย์ที่ Harvard ได้ การสร้าง Startup จะง่ายขึ้น

คุณสามารถอธิบาย ‘aha’ moment ของคุณได้หรือไม่ เมื่อคุณรู้สึกว่าระบบ AI ที่ซับซ้อนมีความเสี่ยงต่อข้อมูลที่ไม่ดี และอาจมีผลกระทบที่กว้างขวาง?

เมื่อฉันยังเป็นนักศึกษาระดับบัณฑิตศึกษา tại UC Berkeley ฉัน曾หยุดพักการเรียนเพื่อทำ Startup ที่สร้างแบบจำลอง Machine Learning สำหรับการตลาดในเครือข่ายสังคม ในปี 2010 เรามีข้อมูลจำนวนมากจากโซเชียลมีเดีย และเราต้องเขียนโค้ดแบบจำลองทั้งหมดจากศูนย์ ผลกระทบทางการเงินสำหรับร้านค้าปลีกมีมาก และเราติดตามผลการทำงานของแบบจำลองเหล่านี้อย่างใกล้ชิด เนื่องจากเรานำข้อมูลจากโซเชียลมีเดียมาใช้ จึงมีข้อผิดพลาดมากมายในข้อมูลที่เข้ามา และเราพบว่าข้อผิดพลาดเล็กๆ น้อยๆ ในข้อมูลที่เข้ามาก็สามารถทำให้ผลลัพธ์ของแบบจำลองเปลี่ยนแปลงไปได้มาก และอาจส่งผลกระทบต่อผลการเงินของร้านค้าปลีกที่ใช้ผลิตภัณฑ์นี้ได้

เมื่อฉันเปลี่ยนมาทำงานที่ Google+ (สำหรับคนรุ่นเก่า) ฉันเห็นผลกระทบแบบเดียวกัน และในระบบอย่าง AdWords ที่ทำนายความน่าจะเป็นที่คนจะคลิกโฆษณาเมื่อใช้คำค้นหาบางคำ เราพบว่าข้อผิดพลาดเล็กๆ ในข้อมูลที่เข้ามาจะทำให้การทำนายของแบบจำลองไม่ดี เมื่อคุณเห็นปัญหานี้ในระดับของ Google คุณจะรู้ว่าปัญหานี้เป็นปัญหาระดับโลก

ประสบการณ์เหล่านี้ทำให้ฉันเปลี่ยนจุดสนใจการวิจัยไปที่การหาว่าทำไมแบบจำลอง AI จึงทำผิดพลาด และสำคัญที่สุดคือการออกแบบ Algorithm ที่สามารถป้องกันไม่ให้แบบจำลองทำผิดพลาดได้ สิ่งนี้นำไปสู่ ‘aha’ moment อื่นๆ และในที่สุดก็นำไปสู่การก่อตั้ง Robust Intelligence

คุณสามารถเล่าเรื่องราวเกี่ยวกับการก่อตั้ง Robust Intelligence ได้หรือไม่?

Robust Intelligence เริ่มต้นด้วยการวิจัยเกี่ยวกับปัญหาที่เรียกว่า “การรับประกัน” สำหรับการตัดสินใจโดยใช้แบบจำลอง AI คืออะไรที่เราสามารถรับประกันได้บ้าง Kojin เป็นนักศึกษาที่ Harvard และเราทำงานร่วมกันโดยเริ่มเขียนบทความวิจัย ดังนั้นจึงเริ่มต้นด้วยการเขียนบทความที่อธิบายสิ่งที่เป็นไปได้และไม่ไปได้จากทฤษฎี ผลลัพธ์เหล่านี้นำไปสู่การสร้างโปรแกรมสำหรับการออกแบบ Algorithm และแบบจำลองที่มีความทนทานต่อความล้มเหลวของ AI จากนั้นเราก็สร้างระบบที่สามารถใช้ Algorithm เหล่านี้ได้จริง หลังจากนั้น การก่อตั้งบริษัทที่องค์กรสามารถใช้ระบบแบบนี้ได้ถือเป็นขั้นตอนต่อไปที่เป็นธรรมชาติ

ปัญหาหลายอย่างที่ Robust Intelligence ต้องเผชิญคือ “silent errors” คืออะไร และอะไรที่ทำให้พวกมันเสี่ยงอันตราย?

ก่อนที่จะให้คำจำกัดความทางเทคนิคของ “silent errors” มันคุ้มค่าที่จะถอยหลังและเข้าใจว่าทำไมเราควรสนใจการทำผิดพลาดของ AI ในตอนแรก สาเหตุที่เราควรสนใจคือผลกระทบของการทำผิดพลาดเหล่านี้ โลกของเรากำลังใช้ AI ในการทำการตัดสินใจอัตโนมัติ: ใครที่ควรได้รับสินเชื่อธุรกิจและในอัตราดอกเบี้ยเท่าใด ใครที่ควรได้รับการประกันสุขภาพและในอัตราเท่าใด ซึ่งพื้นที่ที่ตำรวจควรลาดตระเวน ใครที่มีโอกาสเป็นผู้สมัครที่ดีที่สุดสำหรับงานใดๆ และวิธีการจัดระเบียบการรักษาความปลอดภัยสนามบินอย่างไร การที่แบบจำลอง AI มีความเสี่ยงต่อการทำผิดพลาดหมายความว่าในการทำการตัดสินใจอัตโนมัติเหล่านี้ เราได้รับความเสี่ยงมาโดยไม่ตั้งใจ At Robust Intelligence เรียกว่า “AI Risk” และภารกิจของบริษัทคือการกำจัด AI Risk

silent errors คือการทำผิดพลาดของแบบจำลอง AI โดยที่แบบจำลองรับข้อมูลเข้ามาและผลิตการทำนายหรือการตัดสินใจที่ผิดหรือมีอคติออกมา แต่จากด้านนอกระบบดูเหมือนจะทำงานปกติ เพราะแบบจำลองทำสิ่งที่คาดหวังไว้ แต่การทำนายหรือการตัดสินใจนั้นผิดพลาด การทำผิดพลาดเหล่านี้เป็น “silent” เพราะระบบไม่รู้ว่ามีการทำผิดพลาด ซึ่งอาจเป็นเรื่องที่แย่กว่ากรณีที่แบบจำลองไม่ผลิตผลลัพธ์ออกมาเลย เพราะอาจใช้เวลานานก่อนที่องค์กรจะรู้ว่าระบบ AI ของตนเองมีปัญหา จากนั้น AI Risk ก็กลายเป็น AI failures ซึ่งอาจมีผลกระทบอย่างรุนแรง

Robust Intelligence ได้ออกแบบ “AI Firewall” ซึ่งเป็นความคิดที่เคยถูกมองว่าเป็นไปไม่ได้ ทำไมมันจึงเป็นความท้าทายทางเทคนิค?

หนึ่งในสาเหตุที่ AI Firewall เป็นความท้าทายเพราะมันขัดแย้งกับแนวคิดเดิมของชุมชน Machine Learning ที่ว่าในการกำจัดข้อผิดพลาด เราต้องให้ข้อมูลมากกว่า รวมทั้งข้อมูลที่ไม่ดีให้กับแบบจำลอง โดยการทำเช่นนี้ แบบจำลองจะสามารถฝึกตัวเองและเรียนรู้ที่จะแก้ไขข้อผิดพลาดได้ แต่ปัญหากับแนวทางนี้คือมันทำให้ความแม่นยำของแบบจำลองลดลงอย่างมาก ผลลัพธ์ที่ดีที่สุดสำหรับภาพถ่ายทำให้ความแม่นยำของแบบจำลองลดลงจาก 98.5% เป็นประมาณ 37%

AI Firewall เสนอทางออกที่แตกต่าง เราแยกปัญหาในการระบุข้อผิดพลาดออกจากบทบาทในการสร้างการทำนาย หมายความว่าไฟร์วอลล์สามารถมุ่งเน้นไปที่งานเดียวเท่านั้น: ระบุว่าจุดข้อมูลใดจะทำให้เกิดการทำนายที่ผิดพลาด

สิ่งนี้เป็นความท้าทายในตัวมันเองเนื่องจากความยากในการทำนายผลลัพธ์จากจุดข้อมูลเดียว มีหลายสาเหตุที่ทำให้แบบจำลองทำผิดพลาด ดังนั้นการสร้างเทคโนโลยีที่สามารถทำนายข้อผิดพลาดเหล่านี้จึงไม่ใช่เรื่องง่าย เราโชคดีที่มี工程师ที่มีความสามารถ

ระบบสามารถช่วยป้องกันอคติของ AI ได้อย่างไร?

อคติของแบบจำลองมาจากความไม่เท่าเทียมกันระหว่างข้อมูลที่ใช้ฝึกแบบจำลองและข้อมูลที่ใช้ในการทำนาย กลับไปที่ AI Risk อคติเป็นปัญหาที่สำคัญที่เกิดจากข้อผิดพลาดที่ไม่เห็นได้ ตัวอย่างเช่น อคตินี้อาจเกิดขึ้นในกลุ่มประชากรที่มีการแสดงออกน้อย แบบจำลองอาจมีอคติเพราะได้รับข้อมูลจากกลุ่มประชากรนั้นน้อย ซึ่งจะส่งผลกระทบต่อประสิทธิภาพของแบบจำลองและความแม่นยำของการทำนาย AI Firewall สามารถเตือนองค์กรเกี่ยวกับความไม่เท่าเทียมกันของข้อมูลเหล่านี้และช่วยให้แบบจำลองตัดสินใจได้อย่างถูกต้อง

มีความเสี่ยงอื่นๆ ที่ระบบ AI Firewall ช่วยป้องกันหรือไม่?

บริษัทใดๆ ที่ใช้ AI ในการตัดสินใจอัตโนมัติ โดยเฉพาะการตัดสินใจที่สำคัญ จะมีความเสี่ยงโดยอัตโนมัติ ข้อมูลที่ไม่ดีเพียงเล็กน้อย เช่น การป้อน 0 แทน 1 ก็สามารถมีผลกระทบอย่างมากได้ ไม่ว่าจะเป็นผลกระทบต่อการทำนายทางการแพทย์ที่ไม่ถูกต้องหรือการทำนายที่ผิดพลาดเกี่ยวกับการให้สินเชื่อ AI Firewall ช่วยให้องค์กรสามารถป้องกันความเสี่ยงเหล่านี้ได้

มีสิ่งอื่นๆ ที่คุณต้องการแบ่งปันเกี่ยวกับ Robust Intelligence หรือไม่?

Robust Intelligence กำลังเติบโตอย่างรวดเร็ว และเรามีผู้สมัครที่มีคุณภาพสูงมากมาย แต่สิ่งที่ฉันต้องการเน้นย้ำสำหรับผู้สมัครคือ คุณสมบัติที่สำคัญที่สุดที่เราค้นหาคือความหลงใหลในภารกิจของเรา เราได้พบกับผู้สมัครหลายคนซึ่งมีความเข้าใจด้านเทคนิคที่ดี แต่สิ่งที่สำคัญคือการเข้าใจว่าพวกเขามีความหลงใหลที่จะกำจัด AI Risk และทำให้โลกเป็นสถานที่ที่ดีกว่าหรือไม่

ในโลกที่เรากำลังเข้าสู่ การตัดสินใจหลายอย่างที่ทำโดยมนุษย์ในปัจจุบันจะถูกทำให้เป็นอัตโนมัติ ไม่ว่าเราจะชอบหรือไม่ นั่นคือความจริง ด้วยเหตุนี้ ทุกคนใน Robust Intelligence จึงต้องการให้การตัดสินใจอัตโนมัติเหล่านี้ทำได้อย่างรับผิดชอบ ใครก็ตามที่ตื่นเต้นเกี่ยวกับการสร้างผลกระทบ และเข้าใจว่าสิ่งนี้สามารถส่งผลต่อชีวิตของผู้คนได้อย่างไร คือผู้สมัครที่เรากำลังมองหาเพื่อเข้าร่วม Robust Intelligence เรากำลังมองหาความหลงใหลนั้น เรากำลังมองหาคนที่จะสร้างเทคโนโลยีที่โลกทั้งโลกจะใช้

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ฉันชอบที่ได้เรียนรู้เกี่ยวกับมุมมองของคุณเกี่ยวกับการป้องกันอคติของ AI และความจำเป็นของ AI Firewall ผู้อ่านสามารถเยี่ยมชม Robust Intelligence เพื่อเรียนรู้เพิ่มเติม