ยอตัม โอเรน ซีอีโอ และผู้ร่วมก่อตั้ง Mona Labs – ซีรีส์สัมภาษณ์

ยอตัม โอเรน เป็นซีอีโอ และผู้ร่วมก่อตั้ง Mona Labs ซึ่งเป็นแพลตฟอร์มที่ช่วยให้ธุรกิจสามารถเปลี่ยนแปลงความคิดริเริ่ม AI จากการทดลองในห้องปฏิบัติการเป็นธุรกิจที่มีการดำเนินงานขนาดใหญ่ โดยการทำความเข้าใจว่าโมเดล ML มีประสิทธิภาพอย่างไรในกระบวนการและแอปพลิเคชันทางธุรกิจที่แท้จริง

Mona วิเคราะห์พฤติกรรมของโมเดลการเรียนรู้ของเครื่องจักรของคุณโดยอัตโนมัติข้ามส่วนข้อมูลที่ได้รับการคุ้มครองและในบริบทของฟังก์ชันทางธุรกิจ เพื่อตรวจจับอันตรายที่อาจเกิดขึ้นจาก AI ความเท่าเทียมกัน Mona มอบความสามารถในการสร้างรายงานความเท่าเทียมกันที่สมบูรณ์ซึ่งตรงตามมาตรฐานและข้อบังคับของอุตสาหกรรม และให้ความมั่นใจว่าแอปพลิเคชัน AI นั้นเป็นไปตามข้อกำหนดและไม่มีอคติใดๆ

สิ่งใดที่ดึงดูดคุณเข้าสู่สาขาวิชาวิทยาการคอมพิวเตอร์?

วิทยาการคอมพิวเตอร์เป็นเส้นทางอาชีพที่ได้รับความนิยมในครอบครัวของฉัน ดังนั้นมันจึงเป็นตัวเลือกที่เป็นไปได้เสมอ ในวัฒนธรรมอิสราเอลมีการยกย่องนักเทคโนโลยีที่มีความคิดสร้างสรรค์ และฉันรู้สึกว่าสาขาวิชาวิทยาการคอมพิวเตอร์จะให้โอกาสฉันในการเติบโตและบรรลุเป้าหมาย

尽管如此 มันกลายเป็นความหลงใหลส่วนตัวเมื่อฉันเข้ามหาวิทยาลัย ฉันไม่ใช่เด็กที่เริ่มเขียนโค้ดตั้งแต่ชั้นมัธยม ฉันเล่นบาสเก็ตบอลมากเกินไปหลังจบมัธยม และใช้เวลาเกือบ 5 ปีในกองทัพในบทบาทการเป็นผู้นำการปฏิบัติการ/ยุทธวิธี ดังนั้นฉันจึงเริ่มเรียนรู้เกี่ยวกับวิทยาการคอมพิวเตอร์เมื่อฉันต้องเลือกสาขาวิชาในมหาวิทยาลัย สิ่งที่ดึงดูดความสนใจของฉันทันทีคือวิทยาการคอมพิวเตอร์รวมการแก้ปัญหาและการเรียนรู้ภาษา (หรือภาษา) ซึ่งเป็นสิ่งที่ฉันสนใจเป็นพิเศษ ตั้งแต่นั้นมา ฉันก็หลงใหลแล้ว

ระหว่างปี 2006 ถึง 2008 คุณทำงานเกี่ยวกับการทำแผนที่และการนำทางสำหรับสตาร์ทอัพขนาดเล็ก สิ่งที่คุณได้รับจากยุคนั้นคืออะไร?

บทบาทของฉันที่ Telmap คือการสร้างเครื่องมือค้นหาบนแผนที่และข้อมูลที่ตั้ง

นี่เป็นช่วงแรกๆ ของ “ข้อมูลขนาดใหญ่” ในองค์กร เราไม่ได้เรียกมันว่า “ข้อมูลขนาดใหญ่” แต่เราก็ได้รับข้อมูลขนาดใหญ่และพยายามดึงข้อมูลที่มีผลกระทบและเกี่ยวข้องมากที่สุดเพื่อแสดงให้ผู้ใช้ปลายทาง

สิ่งที่น่าประหลาดใจที่ฉันพบคือบริษัทต่างๆ (รวมถึงเรา) ใช้ข้อมูลของตนเองเพียงเล็กน้อย (ไม่กล่าวถึงข้อมูลภายนอกที่มีอยู่) มีศักยภาพมากมายสำหรับการได้รับข้อมูลใหม่ๆ การปรับปรุงกระบวนการและประสบการณ์

สิ่งอื่นที่ฉันพบคือการได้รับข้อมูลมากขึ้นขึ้นอยู่กับการมีโครงสร้างพื้นฐานและโครงสร้างพื้นฐานที่ดี

คุณสามารถแบ่งปันเรื่องราวเบื้องหลังของ Mona Labs ได้หรือไม่?

เราทั้งสามคน ผู้ร่วมก่อตั้ง ได้ทำงานเกี่ยวกับผลิตภัณฑ์ข้อมูลตลอดอาชีพการงานของเรา

Nemo ซึ่งเป็นหัวหน้าฝ่ายเทคนิค เป็นเพื่อนร่วมชั้นและเพื่อนร่วมงานของฉัน และเป็นหนึ่งในพนักงานแรกของ Google (GOOGL ) Tel Aviv เขาเริ่มผลิตภัณฑ์หนึ่งที่นั่นชื่อ Google Trends ซึ่งมีการวิเคราะห์ขั้นสูงและเครื่องมือการเรียนรู้ของเครื่องจักรตามข้อมูลการค้นหา Itai ซึ่งเป็นผู้ร่วมก่อตั้งและหัวหน้าฝ่ายผลิตภัณฑ์ เป็นสมาชิกในทีมของ Nemo ที่ Google (และฉันพบเขาทาง Nemo) ทั้งสองคนรู้สึกผิดหวังที่ระบบที่ขับเคลื่อนด้วย AI ถูกปล่อยทิ้งไว้โดยไม่มีการตรวจสอบหลังจากการพัฒนาและทดสอบเบื้องต้น

ในขณะเดียวกัน ฉันทำงานเป็นที่ปรึกษาที่ McKinsey & Co และฉันพบว่าหนึ่งในอุปสรรคที่ยิ่งใหญ่ที่สุดในการขยายโปรแกรม AI และ Big Data ในองค์กรขนาดใหญ่คือการขาดความเชื่อมั่นของฝ่ายธุรกิจต่อโปรแกรมเหล่านั้น

สิ่งที่ชัดเจนคืออุตสาหกรรมต้องการโครงสร้างพื้นฐานในการตรวจสอบระบบ AI/ML ในการผลิต เรามีความคิดที่จะให้ความสามารถในการมองเห็นเพื่อเพิ่มความเชื่อมั่นของฝ่ายธุรกิจและช่วยให้ทีม AI มีเครื่องมือในการจัดการระบบของตนได้อย่างมีประสิทธิภาพ

และนั่นคือเมื่อ Mona ก่อตั้งขึ้น

ปัญหาปัจจุบันเกี่ยวกับการขาดความโปร่งใสของ AI คืออะไร?

ในหลายอุตสาหกรรม องค์กรต่างๆ ได้ลงทุนไปแล้วหลายสิบล้านเหรียญสหรัฐฯ ในโปรแกรม AI ของตน และได้เห็นความสำเร็จเบื้องต้นในห้องปฏิบัติการและในการใช้งานขนาดเล็ก แต่การขยายขนาดและการใช้งานอย่างกว้างขวางเป็นความท้าทายที่ยิ่งใหญ่สำหรับทุกคน

ทำไมถึงเป็นเช่นนั้น? มันเริ่มต้นจากข้อเท็จจริงที่ว่าการวิจัยที่ดีไม่ได้เปลี่ยนเป็นผลิตภัณฑ์ที่ดีโดยอัตโนมัติ (ลูกค้าคนหนึ่งบอกเราว่า “โมเดล ML เหมือนรถยนต์ เมื่อออกจากห้องปฏิบัติการ จะสูญเสียคุณค่า 20%”) ผลิตภัณฑ์ที่ดีมีระบบสนับสนุน มีเครื่องมือและกระบวนการเพื่อให้แน่ใจว่าคุณภาพจะยังคงอยู่ตลอดเวลา และปัญหาได้รับการแก้ไขอย่างรวดเร็วและได้ผล ผลิตภัณฑ์ที่ดียังมีการวนซ้ำการปรับปรุงและมีแผนการ

เมื่อไม่มีความโปร่งใส คุณจะพบกับ:

• ปัญหาที่ซ่อนอยู่เป็นเวลานานแล้วพุ่งออกมาและก่อให้เกิด “การฝึกฝน”
• การสอบสวนและการบรรเทาทุกข์ที่ยาวนานและใช้แรงงาน
• โปรแกรม AI ที่ไม่ได้รับความไว้วางใจจากผู้ใช้ธุรกิจและผู้สนับสนุน และในที่สุดก็ล้มเหลวในการขยายขนาด

ความท้าทายในการทำให้โมเดลการทำนายโปร่งใสและเชื่อถือได้คืออะไร?

ความโปร่งใสเป็นปัจจัยสำคัญในการสร้างความไว้วางใจ แน่นอน ความโปร่งใส่สามารถมีหลายรูปแบบ มีความโปร่งใสของการทำนายเดียวซึ่งอาจรวมถึงการแสดงระดับความมั่นใจให้กับผู้ใช้ หรือการให้คำอธิบาย/เหตุผลสำหรับการทำนาย ความโปร่งใสของการทำนายเดียวมุ่งเน้นไปที่ช่วยให้ผู้ใช้รู้สึกสบายใจกับการทำนาย และมีความโปร่งใสโดยรวมซึ่งอาจรวมถึงข้อมูลเกี่ยวกับความแม่นยำในการทำนาย ผลลัพธ์ที่ไม่คาดคิด และปัญหาที่อาจเกิดขึ้น ความโปร่งใสโดยรวมจำเป็นต้องมีสำหรับทีม AI

ส่วนที่ท้าทายที่สุดของความโปร่งใสโดยรวมคือการตรวจจับปัญหาเร็วๆ นี้ และเตือนสมาชิกในทีมที่เกี่ยวข้องเพื่อให้พวกเขาสามารถดำเนินการแก้ไขก่อนที่จะเกิดภัยพิบัติ

ทำไมการตรวจจับปัญหาเร็วๆ นี้จึงท้าทาย:

• ปัญหาเริ่มต้นจากขนาดเล็กและค่อยๆ เพิ่มขึ้น ก่อนที่จะพุ่งออกมาและก่อให้เกิดปัญหา
• ปัญหาเริ่มต้นจากปัจจัยภายนอกหรือไม่สามารถควบคุมได้ เช่น แหล่งข้อมูล
• มีหลายวิธีในการ “แบ่งโลก” และการค้นหาปัญหาในพื้นที่เล็กๆ อาจทำให้เกิดเสียงรบกวน (ความเมื่อยล้าในการเตือน) เมื่อใช้วิธีการที่ไม่ซับซ้อน

อีกด้านหนึ่ง การให้ความโปร่งใสยังเป็นเรื่องที่ท้าทาย เนื่องจากมีการใช้ AI ในหลายกรณี ซึ่งทำให้การเข้าใกล้แบบ “หนึ่งขนาดเหมาะกับทุกคน” เป็นเรื่องที่ยากมาก

ทุกกรณีการใช้งาน AI อาจมีโครงสร้างข้อมูลที่แตกต่างกัน วงจรธุรกิจที่แตกต่างกัน ตัวชี้วัดความสำเร็จที่แตกต่างกัน และบางครั้งยังมีการเข้าใกล้ทางเทคนิคและแม้กระทั่งซอฟต์แวร์ที่แตกต่างกัน

ดังนั้นจึงเป็นงานที่ยิ่งใหญ่ แต่ความโปร่งใสเป็นเรื่องพื้นฐานต่อความสำเร็จของโปรแกรม AI ดังนั้นคุณจึงต้องทำ

คุณสามารถแบ่งปันรายละเอียดเกี่ยวกับโซลูชันสำหรับโมเดล NLU/NLP และแชทบอทได้หรือไม่?

AI การสนทนาเป็นหนึ่งในแนวตั้งหลักของ Mona เรารู้สึกภูมิใจที่จะสนับสนุนบริษัทที่มีความคิดสร้างสรรค์พร้อมกับกรณีการใช้งาน AI การสนทนาหลายรูปแบบ รวมถึงโมเดลภาษา แชทบอท และอื่นๆ

ปัจจัยร่วมที่พบในกรณีการใช้งานเหล่านี้คือโมเดลทำงานใกล้กับลูกค้า (และบางครั้งเห็นได้ชัดเจน) ดังนั้นความเสี่ยงของประสิทธิภาพที่ไม่สอดคล้องกันหรือพฤติกรรมที่ไม่ดีจึงสูงกว่า จึงเป็นสิ่งสำคัญสำหรับทีม AI การสนทนาในการทำความเข้าใจพฤติกรรมของระบบในระดับละเอียด ซึ่งเป็นพื้นที่ที่ Mona มีความแข็งแกร่ง

สิ่งที่โซลูชันของ Mona ทำที่เป็นเอกลักษณ์คือการค้นหากลุ่มการสนทนาและค้นหาพื้นที่ที่โมเดล (หรือบอท) มีพฤติกรรมที่ไม่เหมาะสม ซึ่งช่วยให้ทีม AI การสนทนาตรวจพบปัญหาเร็วๆ นี้และก่อนที่ลูกค้าจะสังเกตเห็น ความสามารถนี้เป็นตัวขับเคลื่อนการตัดสินใจที่สำคัญสำหรับทีม AI การสนทนาในการเลือกโซลูชันการตรวจสอบ

เพื่อสรุป Mona มีโซลูชันแบบ end-to-end สำหรับการตรวจสอบ AI การสนทนา โดยเริ่มต้นจากการจัดให้มีแหล่งข้อมูลเดียวสำหรับพฤติกรรมของระบบตลอดเวลา และดำเนินการต่อด้วยการตรวจสอบต่อเนื่องของตัวชี้วัดประสิทธิภาพหลัก และข้อมูลเชิงลึกเชิงรุกเกี่ยวกับการพฤติกรรมที่ไม่เหมาะสม – ช่วยให้ทีมสามารถดำเนินการแก้ไขที่มีประสิทธิภาพและรวดเร็ว

คุณสามารถให้รายละเอียดเกี่ยวกับเครื่องยนต์ข้อมูลเชิงลึกของ Mona ได้หรือไม่?

แน่นอน เราเริ่มต้นด้วยแรงจูงใจ วัตถุประสงค์ของเครื่องยนต์ข้อมูลเชิงลึกคือการนำเสนอความผิดปกติให้กับผู้ใช้พร้อมกับข้อมูลบริบทที่เหมาะสม โดยไม่ทำให้เกิดเสียงรบกวนหรือนำไปสู่ความเมื่อยล้าในการเตือน

เครื่องยนต์ข้อมูลเชิงลึกเป็นกระบวนการวิเคราะห์ที่ไม่เหมือนใคร ในกระบวนการนี้ เครื่องยนต์จะค้นหาความผิดปกติในเซ็กเมนต์ทั้งหมดของข้อมูลเพื่อตรวจจับปัญหาเร็วๆ นี้เมื่อพวกมันยังเล็กและก่อนที่จะส่งผลกระทบต่อชุดข้อมูลทั้งหมดและตัวชี้วัด KPI ทางธุรกิจ จากนั้นจะใช้อัลกอริทึมที่เป็นเอกลักษณ์ในการตรวจจับ nguyên nhânของความผิดปกติและทำให้แน่ใจว่าความผิดปกติทุกอย่างจะถูกเตือนเพียงครั้งเดียวเพื่อหลีกเลี่ยงเสียงรบกวน

เครื่องยนต์ข้อมูลเชิงลึกสามารถปรับแต่งได้อย่างง่ายดายผ่านการกำหนดค่าแบบไม่ต้องเขียนโค้ด/ต่ำของ Mona ความสามารถในการปรับแต่งของเครื่องยนต์ทำให้ Mona เป็นโซลูชันที่ยืดหยุ่นที่สุดในตลาด โดยครอบคลุมกรณีการใช้งานที่หลากหลาย (เช่น การประมวลผลแบบแบตช์และสตรีมมิ่ง โดยมีหรือไม่มีการให้ข้อมูลย้อนกลับ/ความจริง และอื่นๆ)

สุดท้าย เครื่องยนต์ข้อมูลเชิงลึกนี้ได้รับการสนับสนุนจากแดชบอร์ดการแสดงภาพ โดยที่ข้อมูลเชิงลึกสามารถดูและใช้เครื่องมือการสอบสวนเพื่อการวิเคราะห์เหตุผลและสำรวจข้อมูลบริบทเพิ่มเติม เครื่องยนต์ข้อมูลเชิงลึกยังรวมเข้ากับเครื่องยนต์เตือนอย่างสมบูรณ์ ซึ่งช่วยให้สามารถส่งข้อมูลเชิงลึกไปยังสภาพแวดล้อมการทำงานของผู้ใช้ รวมถึงอีเมล แพลตฟอร์มการทำงานร่วมกัน และอื่นๆ

เมื่อวันที่ 31 มกราคม Mona ได้เปิดตัวโซลูชันความเท่าเทียมกันของ AI ใหม่ คุณสามารถแบ่งปันรายละเอียดเกี่ยวกับคุณสมบัตินี้และเหตุผลที่มันสำคัญได้หรือไม่?

ความเท่าเทียมกันของ AI คือการรับรองว่าแอลกอริทึมและระบบที่ขับเคลื่อนด้วย AI โดยทั่วไปตัดสินใจที่ไม่มีอคติและเท่าเทียมกัน การจัดการและป้องกันอคติในระบบ AI เป็นสิ่งสำคัญ เนื่องจากอาจส่งผลกระทบอย่างมีนัยสำคัญต่อโลกแห่งความเป็นจริง เมื่อ AI มีความโดดเด่นมากขึ้น ผลกระทบต่อชีวิตประจำวันของคนจะเห็นได้ชัดเจนมากขึ้น รวมถึงการขับรถอัตโนมัติ การตรวจพบโรคได้ดีขึ้น การปรับปรุงความเข้าใจของเราเกี่ยวกับโลก และแม้กระทั่งการสร้างสรรค์ศิลปะ หากเราไม่สามารถไว้วางใจได้ว่ามันจะยุติธรรมและไม่มีอคติ เราจะยอมให้มันแพร่กระจายต่อไปได้อย่างไร?

หนึ่งในสาเหตุหลักของอคติใน AI คือความสามารถของข้อมูลการฝึกอบรมในการแสดงถึงโลกแห่งความเป็นจริงอย่างเต็มที่ ซึ่งอาจเกิดจากความแตกต่างทางประวัติศาสตร์ การไม่ได้แสดงถึงกลุ่มบางกลุ่ม หรือแม้กระทั่งการดัดแปลงข้อมูลอย่างเจตนา

โซลูชันความเท่าเทียมกันของ Mona ให้ความมั่นใจแก่ทีม AI และธุรกิจว่า AI ของพวกเขาฟรีจากอคติ ในภาคส่วนที่มีการควบคุม โซลูชันของ Mona สามารถเตรียมทีมสำหรับการเตรียมพร้อมด้านการปฏิบัติตามข้อกำหนด

โซลูชันความเท่าเทียมกันของ Mona นั้นพิเศษเพราะว่ามันอยู่บนแพลตฟอร์ม Mona – สะพานเชื่อมระหว่างข้อมูล AI และโมเดลกับผลกระทบทางธุรกิจที่แท้จริง Mona ตรวจสอบทุกส่วนของกระบวนการทางธุรกิจที่โมเดล AI ให้บริการใน生产 เพื่อให้การประเมินความเท่าเทียมกันที่ครอบคลุมที่สุด

ที่สอง มันมีเครื่องยนต์เชิงวิเคราะห์ที่ไม่เหมือนใครซึ่งช่วยให้สามารถแบ่งส่วนข้อมูลได้อย่างยืดหยุ่นเพื่อควบคุมพารามิเตอร์ที่เกี่ยวข้อง ทำให้สามารถประเมินความสัมพันธ์ได้อย่างแม่นยำในบริบทที่ถูกต้อง และหลีกเลี่ยงปัญหาของ Simpson และให้คะแนนอคติที่แท้จริงสำหรับตัวชี้วัดประสิทธิภาพใดๆ และคุณลักษณะที่ได้รับการคุ้มครองใดๆ

โดยรวมแล้ว ฉันจะพูดว่า Mona เป็นองค์ประกอบพื้นฐานสำหรับทีมที่ต้องการสร้างและขยาย AI ที่มีความรับผิดชอบ

คุณมีวิสัยทัศน์สำหรับอนาคตของ AI อย่างไร?

นี่เป็นคำถามที่ยิ่งใหญ่

ฉันคิดว่ามันง่ายที่จะคาดการณ์ว่า AI จะยังคงเติบโตในด้านการใช้งานและผลกระทบต่อหลายภาคส่วนและด้านต่างๆ ของชีวิตของคน แต่มันยากที่จะคาดการณ์อย่างละเอียดและครอบคลุมทุกกรณีการใช้งานและผลกระทบของ AI ในอนาคต เนื่องจากไม่มีใครรู้จักเพียงพอในการวาดภาพนั้นได้อย่างน่าเชื่อถือ

อย่างไรก็ตาม สิ่งที่เรารู้แน่ๆ คือ AI จะอยู่ในมือของคนมากขึ้นและให้บริการในหลายวัตถุประสงค์ ความต้องการการกำกับดูแลและความโปร่งใสจะเพิ่มขึ้นอย่างมาก

การมองเห็นจริงๆ เกี่ยวกับ AI และวิธีการทำงานของมันจะเล่นสองบทบาทหลัก ประการแรก มันจะช่วยสร้างความไว้วางใจในคนและลดอุปสรรคต่อการยอมรับอย่างรวดเร็ว ประการที่สอง มันจะช่วยให้ผู้ที่ดำเนินการ AI ตรวจสอบให้แน่ใจว่ามันไม่หลุดออกจากมือ

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Mona Labs เพื่อเรียนรู้เพิ่มเติม