วิกเตอร์ ทู ประธาน Datatron – ซีรีส์สัมภาษณ์

วิกเตอร์ ทู เป็นประธานของ Datatron ซึ่งเป็นแพลตฟอร์มที่ช่วยให้ธุรกิจสามารถใช้ประโยชน์จากแมชชีนเลิร์นนิง โดยเร่งการนำโมเดลไปใช้งาน การตรวจจับปัญหาในระยะแรก และเพิ่มประสิทธิภาพในการจัดการโมเดลหลายแบบในระดับใหญ่

ประสบการณ์ของคุณอยู่ในด้านการตลาดผลิตภัณฑ์ การเข้าถึงตลาด และการจัดการผลิตภัณฑ์ คุณบอกเราได้หรือไม่ว่าประสบการณ์นี้นำคุณไปสู่การทำงานในด้านแมชชีนเลิร์นนิงและปัญญาประดิษฐ์อย่างไร

ฉันรักเทคโนโลยี และเพื่อนสนิทบางคนของฉันเรียกฉันว่า “ผู้สื่อภาษาเทคโนโลยี” ฉันชอบที่จะนำหัวข้อเทคโนโลยีที่ซับซ้อนมาแปลให้เข้าใจได้ง่าย และศึกษาหาความรู้เกี่ยวกับเทคโนโลยีใหม่ๆ เพื่อเข้าใจ “เหตุผล” เบื้องหลังเทคโนโลยีที่สำคัญที่สุดสำหรับคนๆ หนึ่ง

การพบปะครั้งแรกของฉันกับ “ปัญญาประดิษฐ์สมัยใหม่” คือเมื่อฉันฟังการนำเสนอของศาสตราจารย์ปัญญาประดิษฐ์จากมหาวิทยาลัยสแตนฟอร์ดที่มีชื่อเสียง Dr. Fei-Fei Li การนำเสนอของ Dr. Li นั้นเป็นเรื่องที่น่าประทับใจมาก และเป็นจุดเปลี่ยนในอาชีพการงานของฉัน การนำเสนอนั้นทำให้ฉันมั่นใจว่านี่คือสาขาที่ฉันอยากทำงานต่อไป ฉันอยากมีส่วนร่วมในคลื่นเทคโนโลยีลูกใหม่ โดยใช้ปัญญาประดิษฐ์และแมชชีนเลิร์นนิงเพื่อแก้ปัญหาทางธุรกิจ

ตั้งแต่นั้นมา ฉันทำงานกับหลายๆ บริษัทสตาร์ทอัพในด้านปัญญาประดิษฐ์และแมชชีนเลิร์นนิง โดยใช้เทคโนโลยีเพื่อแก้ปัญหาทางธุรกิจที่แท้จริง ฉันทำงานอย่างใกล้ชิดกับนักวิทยาศาสตร์ระดับ Ph.D. ที่ให้ความรู้แก่ฉันในด้านปัญญาประดิษฐ์และแมชชีนเลิร์นนิง และฉันยังคงเรียนรู้อยู่เสมอ เนื่องจากพื้นที่นี้กำลังพัฒนาอย่างรวดเร็ว

ดังนั้น จริงๆ แล้วคือความหลงใหลในเทคโนโลยีและวิธีการใช้เทคโนโลยีเพื่อช่วยเหลือผู้อื่นที่นำฉันมาอยู่ในด้านปัญญาประดิษฐ์และแมชชีนเลิร์นนิง

Datatron มุ่งเน้นไปที่ MLOps สำหรับผู้อ่านที่ไม่คุ้นเคยกับคำนี้ คุณสามารถอธิบายได้หรือไม่ว่า MLOps คืออะไร

MLOps คือการจัดกระบวนการที่เดิมอาศัยงานเฉพาะทางและงานฝีมือจำนวนมากให้เป็นระบบและเรียบง่ายขึ้น เพื่อนำโมเดลปัญญาประดิษฐ์และแมชชีนเลิร์นนิงจากต้นแบบไปใช้งานจริง

ความเข้าใจผิดที่ใหญ่ที่สุดคือเมื่อนักวิทยาศาสตร์ข้อมูลสร้างโมเดลปัญญาประดิษฐ์แล้ว พวกเขาสามารถนำโมเดลเหล่านั้นไปใช้ในการผลิตได้อย่างรวดเร็ว แต่ความเป็นจริงคืออาจต้องใช้เวลาถึงหนึ่งปีก่อนจะนำโมเดลไปใช้งานได้

สาเหตุหลักของความล่าช้านี้คือผู้ที่มีความเชี่ยวชาญในการพัฒนาโมเดลไม่จำเป็นต้องมีความเชี่ยวชาญด้านวิศวกรรมซอฟต์แวร์เช่นกัน การเปรียบเทียบที่ดีคือ สถาปนิกที่ออกแบบตึกสูงไม่ใช่ผู้ที่สร้างตึกสูง

MLOps คือสะพานเชื่อมระหว่างผู้พัฒนาโมเดลและวิศวกรรมซอฟต์แวร์ แทนที่จะใช้เวลาเกิน 12 เดือนในการนำโมเดลไปสู่การผลิต MLOps สามารถลดกระบวนการนี้ลงเหลือเพียงไม่กี่วัน

ในบทความที่คุณเขียนให้กับเรา ในเดือนกันยายน 2021 คุณพูดถึงว่า “อุปสรรคหลักในการนำโซลูชันไปสู่การผลิตไม่ใช่คุณภาพของโมเดล แต่เป็นขาดโครงสร้างพื้นฐานในการอนุญาตให้บริษัททำเช่นนั้น” ทำไมจึงเป็นอุปสรรคสำหรับบริษัทส่วนใหญ่

มีหลายปัจจัยที่ทำให้เกิดปัญหานี้

• การโรแมนติกเกินไปของ “ฟรี” ซอฟต์แวร์แบบเปิด ฉันต้องการเน้นย้ำว่าเรารักซอฟต์แวร์แบบเปิดและเชื่อว่ามันช่วยให้อุตสาหกรรมก้าวหน้า แต่หลายคนไม่เข้าใจความซับซ้อนของซอฟต์แวร์แบบเปิดในด้านปัญญาประดิษฐ์และแมชชีนเลิร์นนิง ในปัจจุบันมีการขาดแคลนผู้เชี่ยวชาญด้านปัญญาประดิษฐ์และแมชชีนเลิร์นนิง เมื่อรวมปัญหานี้เข้ากับการหาวิศวกรซอฟต์แวร์ เช่น วิศวกร ML หรือ MLOps ที่จัดการลักษณะเฉพาะของโค้ด AI/ML ได้ แล้วคาดหวังว่าจะจ้างคนและสร้างแพลตฟอร์ม MLOps ระดับองค์กรขึ้นเองโดยศึกษาทำความเข้าใจโครงการโอเพนซอร์สกว่า 300 โครงการ คุณกำลังตั้งค่าให้ตัวเองล้มเหลว
• การขาดโครงสร้างพื้นฐานเพื่อสนับสนุนทีมวิศวกร บริษัทต่างๆ ต้องการสภาพแวดล้อมที่ดีกว่าในการตั้งค่าทีมวิศวกรให้ประสบความสำเร็จ ต้องมีการจัดสรรกำลังคน เวลา และงบประมาณที่เหมาะสมเพื่อให้ทีมมีเครื่องมือที่ถูกต้อง ปัญญาประดิษฐ์เป็นเทคโนโลยีที่ค่อนข้างใหม่ บริษัทที่ทำปัญญาประดิษฐ์ไม่ได้รู้เสมอไปว่าต้องทำอะไรจึงจะนำโมเดลไปสู่การผลิตได้อย่างรวดเร็ว ซึ่งเป็นเหตุผลที่ MLOps เป็นเครื่องมือที่สำคัญ

การนำ MLOps มาใช้จะช่วยแก้ปัญหาการขาดโครงสร้างพื้นฐานได้อย่างไร

MLOps ช่วยแก้ปัญหาการขาดโครงสร้างพื้นฐานใน 4 วิธี:

1. ไม่มีการเปลี่ยนแปลงโค้ดที่เป็นกรรมสิทธิ์: นักวิทยาศาสตร์ข้อมูลต้องการความยืดหยุ่นในการสร้างโมเดลที่เหมาะสมกับกรณีการใช้งานทางธุรกิจในสภาพแวดล้อมของตนเอง ดังนั้นกระบวนการ MLOps ที่ต้องการการเปลี่ยนแปลงโค้ดจึงทำให้การรักษาความสมบูรณ์ของโมเดลยุ่งยากขึ้น
2. การอัตโนมัติ/สคริปต์: หลายทีมเขียนสคริปต์โมเดลโดยกำหนดรายละเอียดตายตัวไว้ในโค้ด ซึ่งใช้เวลานาน MLOps ทำให้กระบวนการทั้งหมดเป็นอัตโนมัติ ซึ่งช่วยประหยัดเวลาและพลังงาน
3. การปรับปรุงอย่างต่อเนื่อง: โมเดลปัญญาประดิษฐ์เปลี่ยนแปลงบ่อยๆ เพื่อปรับตัวให้เข้ากับสภาพแวดล้อม บางครั้งนักวิทยาศาสตร์ข้อมูลต้องกลับไปปรับปรุงโมเดลบ่อยๆ โดยไม่มี MLOps จะไม่มีวิธีหลีกเลี่ยงการปรับปรุงซ้ำๆ
4. การจัดการโครงสร้างพื้นฐานที่อยู่เบื้องหลัง: เพื่อนำโมเดลไปสู่การผลิต คุณต้องจัดเตรียมทรัพยากรประมวลผล เครือข่าย และพื้นที่จัดเก็บให้รองรับข้อกำหนดเฉพาะของโมเดลปัญญาประดิษฐ์และแมชชีนเลิร์นนิง เครื่องมือ MLOps มีความสามารถในการเข้าถึงทรัพยากรที่ถูกต้องเพื่อปรับขนาดตามความต้องการ

ยังมีข้อกำหนดระดับองค์กรที่ไม่ได้รับการพิจารณาเมื่อสร้างเครื่องมือ MLOps ของคุณเอง เช่น การควบคุมการเข้าถึงตามบทบาท (RBAC) การเชื่อมรวมและการทำงานร่วมกัน การสนับสนุนเครื่องมือ ML ที่แตกต่างกัน การแก้ไขช่องโหว่ด้านความปลอดภัย และการลาออกอย่างไม่คาดคิดของสมาชิกหลักในทีม

คุณมีความคิดเห็นอย่างไรเกี่ยวกับความสำคัญของการกำกับดูแลปัญญาประดิษฐ์

มีเรื่องราวที่น่ากลัวมากมายเกี่ยวกับโมเดลปัญญาประดิษฐ์ที่ไม่ทำงานตามที่คาดหวัง ตั้งแต่การระบุกลุ่มคนบางกลุ่มไม่ถูกต้องจนถึงการทำให้เกิดความสูญเสียทางการเงินอย่างมากสำหรับบริษัทที่จดทะเบียนในตลาดหลักทรัพย์

การกำกับดูแลปัญญาประดิษฐ์มีความสำคัญอย่างยิ่งสำหรับธุรกิจเมื่อมีโมเดลปัญญาประดิษฐ์ทำงานในระบบใช้งานจริง โดยทั่วไปแล้วไม่แตกต่างจากการกำกับดูแล IT หรือธุรกิจอื่นๆ ในปัจจุบัน เมื่อ IT ทำงานบนแอปพลิเคชันในคลาวด์หรือในศูนย์ข้อมูลของตนเอง พวกเขามีเครื่องมือต่างๆ เพื่อให้แน่ใจว่าแอปพลิเคชันทำงานได้อย่างถูกต้อง

เมื่อคุณมีโมเดลปัญญาประดิษฐ์ทำงาน คุณต้องมีกลไกและเครื่องมือที่จะช่วยให้ธุรกิจและนักวิทยาศาสตร์ข้อมูลมองเห็นว่าโมเดลเหล่านั้นกำลังทำอะไร

โดยเฉพาะอย่างยิ่งในระยะเริ่มต้นของปัญญาประดิษฐ์และแมชชีนเลิร์นนิง ไม่มีตัวเลือก “ตั้งค่าและลืม” ในตอนแรก คุณต้องติดตามพฤติกรรมของโมเดลและทำการปรับเปลี่ยนตามความเหมาะสม การมีความสามารถในการติดตามและเตือนเมื่อโมเดลทำงานนอกขอบเขตที่ต้องการเป็นสิ่งสำคัญ

การบริหารความเสี่ยงของโมเดล (MRM) ยังต้องพิจารณาบุคคลที่เกี่ยวข้องกับการพัฒนาและใช้งานโมเดล อะไรคือการควบคุมการเข้าถึงที่คุณตั้งค่าเพื่อรักษาความสมบูรณ์ของโมเดล หรือวิธีการรับรองว่าบุคคลจากกลุ่มต่างๆ ไม่ได้ใช้โมเดลโดยไม่ได้ตั้งใจสำหรับกรณีการใช้งานที่โมเดลไม่ได้ออกแบบมา คำถามเหล่านี้คือสิ่งที่ทีมต้องถามตัวเอง

Datatron ช่วยในการบริหารความเสี่ยงของโมเดลได้อย่างไร

MLOps ช่วยให้สามารถอัปเดตและเปลี่ยนแปลงโมเดลได้อย่างรวดเร็ว ตัวอย่างเช่น หากโมเดลปฏิเสธผู้ยื่นขอสินเชื่ออย่างไม่เหมาะสม MLOps ช่วยให้คุณสามารถดึงโมเดลออกและนำโมเดลใหม่มาใช้ โดยจัดการความเสี่ยงในลักษณะที่ง่าย

มันช่วยป้องกันโมเดลจากการเปลี่ยนแปลงของอคติในโมเดลและรักษาค่าสำคัญๆ ระหว่างการผลิตผ่านแดชบอร์ดที่แสดงข้อมูลเหล่านี้โดยใช้ข้อมูลที่มีรายละเอียดลึกซึ้งจากมุมมองที่กว้างขึ้นซึ่งสามารถเข้าใจได้ง่ายโดยผู้ตัดสินใจทางธุรกิจ

แพลตฟอร์ม Datatron มีการกำกับดูแลปัญญาประดิษฐ์ที่ให้ความสามารถมากกว่าการติดตามทั่วไป โดยให้ความเข้าใจและตรรกะที่ชัดเจนเกี่ยวกับโมเดลที่เกี่ยวข้องกับกรณีการใช้งานของลูกค้า

ใน บทความในบล็อก ของ Datatron คุณอธิบายว่า Datatron กำลังรับ “ปัญญาประดิษฐ์ที่เชื่อถือได้” คุณสามารถอธิบายได้หรือไม่ว่าปัญญาประดิษฐ์ที่เชื่อถือได้คืออะไร

เมื่อเราคิดค้นสิ่งนี้ขึ้น เราคิดถึงว่าเรารู้สึกสบายใจมากที่จะบินบนเครื่องบินพาณิชย์ในปัจจุบันเพราะมันเชื่อถือได้มาก

แม้จะมีการพูดถึงปัญญาประดิษฐ์ที่มีจริยธรรม ปัญญาประดิษฐ์ที่รับผิดชอบ แต่สิ่งที่ธุรกิจต้องการคือการใช้ปัญญาประดิษฐ์และแมชชีนเลิร์นนิงที่เชื่อถือได้ เช่นเดียวกับการที่พนักงานของพวกเขาจะขึ้นเครื่องบินพาณิชย์

การใช้คำว่า “ปัญญาประดิษฐ์ที่มีจริยธรรม” และ “ปัญญาประดิษฐ์ที่รับผิดชอบ” นั้นเกิดจากปัญหาที่โมเดลปัญญาประดิษฐ์ปัจจุบันไม่ทำงานตามที่คาดหวัง และดังนั้นจึงไม่น่าเชื่อถือ ธุรกิจไม่เต็มใจที่จะใช้ปัญญาประดิษฐ์เพราะไม่มั่นใจว่าโมเดลของพวกเขาจะไม่มีอคติ ซึ่งหมายความว่าโมเดลเหล่านั้นไม่น่าเชื่อถือ และ Datatron ตั้งเป้าที่จะเปลี่ยนแปลงสิ่งนี้

คุณมีอะไรที่ต้องการแบ่งปันเกี่ยวกับ Datatron อีกหรือไม่

เราคือหนึ่งในผู้เล่น MLOps ไม่กี่รายที่ได้รับการพิสูจน์จากซูเปอร์โบวล์ – ทำงานสำเร็จในสถานการณ์ที่มีความกดดันสูง ซึ่งไม่ธรรมดาสำหรับสตาร์ทอัพหรือเครื่องมือแบบเปิด ลูกค้าของเรา โดมิโน้ พิซซ่า ทำงานร่วมกับ Datatron เพื่อนำโมเดลปัญญาประดิษฐ์ไปสู่การผลิตได้อย่างง่ายดายและรวดเร็ว ซึ่งถูกทดสอบอย่างเข้มข้นในช่วงซูเปอร์โบวล์

MLOps จริงๆ แล้วเป็นวิธีที่จะช่วยให้โมเดลปัญญาประดิษฐ์และแมชชีนเลิร์นนิงไปสู่การผลิตโดยรักษาทรัพยากรและลดต้นทุนลง เราเป็นแหล่งที่มั่นคงสำหรับโมเดลปัญญาประดิษฐ์และแมชชีนเลิร์นนิงที่ประสบความสำเร็จ และเป็นตัวเร่งให้เกิดรายได้ บริษัทต่างๆ สามารถสร้างผลตอบแทนจากการลงทุนในโครงการปัญญาประดิษฐ์และแมชชีนเลิร์นนิงได้ โดยไม่คำนึงถึงอัตรากำไรของคุณ คุณสามารถสร้างผลลัพธ์ได้ด้วย MLOps

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเยี่ยมชม Datatron เพื่อเรียนรู้เพิ่มเติม