วิกเตอร์ ทู ประธานของ Datatron – ซีรีส์สัมภาษณ์

วิกเตอร์ ทู เป็นประธานของ Datatron ซึ่งเป็นแพลตฟอร์มที่ช่วยให้ธุรกิจสามารถใช้พลังของการเรียนรู้ของเครื่อง โดยการเร่งการนำไปใช้ การตรวจจับปัญหาในระยะแรก และเพิ่มประสิทธิภาพในการจัดการหลายแบบจำลองในระดับที่กว้างขึ้น

ภูมิหลังของคุณอยู่ในด้านการตลาดผลิตภัณฑ์ การตลาด และการจัดการผลิตภัณฑ์ คุณมีประสบการณ์เหล่านี้นำคุณไปสู่การทำงานด้านการเรียนรู้ของเครื่องและ AI ได้อย่างไร?

ฉันรักเทคโนโลยี และเพื่อนสนิทบางคนของฉันเรียกฉันว่า “ผู้สื่อภาษาเทคโนโลยี” ฉันชอบที่จะนำหัวข้อเทคโนโลยีที่ซับซ้อนมาแปลให้เข้าใจได้ง่าย และศึกษาตัวเองเกี่ยวกับเทคโนโลยีใหม่ๆ เพื่อเข้าใจ “เหตุผล” เบื้องหลังเทคโนโลยีที่สำคัญที่สุดสำหรับคนๆ หนึ่ง

การพบปะครั้งแรกของฉันกับสิ่งที่ฉันเรียกว่า “AI รุ่นใหม่” คือเมื่อฉันกำลังดูการนำเสนอของศาสตราจารย์ AI จาก Stanford ที่มีชื่อเสียง Dr. Fei-Fei Li การนำเสนอของ Dr. Li นั้นยอดเยี่ยมมาก และเป็นจุดเปลี่ยนในอาชีพของฉัน ฉันต้องการเป็นส่วนหนึ่งของคลื่นลูกใหม่ของเทคโนโลยีที่เราจะใช้ AI และ ML เพื่อแก้ปัญหาทางธุรกิจ

ตั้งแต่นั้นมา ฉันทำงานร่วมกับหลายๆ สตาร์ทอัพ AI/ML โดยใช้เทคโนโลยีนี้เพื่อแก้ปัญหาทางธุรกิจที่แท้จริง ฉันทำงานอย่างใกล้ชิดกับนักวิทยาศาสตร์ ML ระดับ Ph.D. ซึ่งให้ความรู้แก่ฉันอย่างมากเกี่ยวกับ AI/ML และฉันยังคงเรียนรู้อยู่ในขณะนี้ เนื่องจากพื้นที่นี้กำลังพัฒนาอย่างรวดเร็ว

ดังนั้น จริงๆ แล้วคือความหลงใหลในเทคโนโลยีและวิธีการใช้เทคโนโลยีเพื่อช่วยเหลือผู้อื่นที่นำฉันมาอยู่ในตำแหน่งที่ฉันทำงานอย่างใกล้ชิดกับ AI/ML

Datatron มุ่งเน้นไปที่ MLOps สำหรับผู้อ่านซึ่งไม่คุ้นเคยกับคำนี้ คุณสามารถอธิบายได้ว่า MLOps คืออะไร?

MLOps คือการเข้ารหัสและทำให้กระบวนการทำ AI และ ML แบบพิเศษจากต้นแบบไปสู่การผลิตง่ายขึ้น

หนึ่งในความเข้าใจผิดที่ใหญ่ที่สุดคือเมื่อนักวิทยาศาสตร์ข้อมูลสร้างแบบจำลอง AI ของตนแล้ว พวกเขาสามารถนำไปใช้ในการผลิตได้อย่างรวดเร็ว แต่ความเป็นจริงคืออาจต้องใช้เวลาถึงหนึ่งปีกว่าแบบจำลองจะสามารถนำไปใช้ได้

สาเหตุหลักของความล่าช้านี้คือผู้ที่มีความเชี่ยวชาญในการพัฒนาแบบจำลองไม่จำเป็นต้องมีความเชี่ยวชาญด้านวิศวกรรมซอฟต์แวร์ด้วย ตัวอย่างที่ดีคือสถาปนิกที่ออกแบบตึกสูง – พวกเขาไม่ใช่ผู้พัฒนาที่สร้างตึก

MLOps คือสะพานเชื่อมระหว่างผู้พัฒนาแบบจำลองและวิศวกรรมซอฟต์แวร์ แทนที่จะใช้เวลามากกว่า 12 เดือนในการนำแบบจำลองไปสู่การผลิต MLOps สามารถลดระยะเวลานี้ลงเหลือเพียงไม่กี่วัน

ในบทความที่คุณ เขียนให้เรา ในเดือนกันยายน 2021 คุณพูดถึงว่า “อุปสรรคหลักในการนำโซลูชันไปสู่การผลิตไม่ใช่คุณภาพของแบบจำลอง แต่เป็นการขาดโครงสร้างพื้นฐานที่จะทำให้บริษัทสามารถทำได้” ทำไมสิ่งนี้จึงเป็นอุปสรรคสำหรับบริษัทส่วนใหญ่?

มีสาเหตุหลายประการที่ทำให้เกิดปัญหานี้

• การโรแมนติกเกินไปของ “ฟรี” ซอฟต์แวร์แบบโอเพ่นซอร์ส ฉันต้องการเน้นย้ำก่อนว่าเรารักซอฟต์แวร์แบบโอเพ่นซอร์สและเชื่อว่ามันช่วยให้อุตสาหกรรมก้าวหน้าไปอย่างมาก แต่หลายคนไม่เข้าใจความซับซ้อนของโอเพ่นซอร์สในเรื่อง AI และ ML ในปัจจุบันมีการขาดแคลนผู้มีความสามารถ AI/ML เมื่อคุณผสมผสานสิ่งนี้กับการหาวิศวกรซอฟต์แวร์ (วิศวกร ML หรือ MLOps) ที่รู้วิธีการจัดการคุณสมบัติเฉพาะของโค้ด AI/ML แล้วคาดหวังให้สร้างแพลตฟอร์ม MLOps ระดับองค์กรภายในโดยการค้นห 프로젝트 MLOps แบบโอเพ่นซอร์สมากกว่า 300 โปรเจ็กต์ นั่นคือการเตรียมตัวให้ล้มเหลว
• การขาดโครงสร้างพื้นฐานเพื่อสนับสนุนทีมวิศวกร บริษัทต่างๆ ต้องการสภาพแวดล้อมที่ดีกว่าในการตั้งค่าทีมวิศวกรให้ประสบความสำเร็จ ต้องมีการจัดสรรแบนด์วิธและงบประมาณที่เหมาะสมเพื่อให้ทีมมีเครื่องมือที่ถูกต้อง AI คือเทคโนโลยีที่ค่อนข้างใหม่ บริษัทที่ทำ AI ไม่จำเป็นต้องรู้ว่าต้องทำอะไรจึงจะนำแบบจำลองออกมาอย่างรวดเร็ว ซึ่งเป็นเหตุผลที่ MLOps เป็นเครื่องมือที่สำคัญ

การใช้ MLOps ช่วยแก้ปัญหาการขาดโครงสร้างพื้นฐานได้อย่างไร?

MLOps ช่วยแก้ปัญหาการขาดโครงสร้างพื้นฐานใน четыре วิธี:

1. ไม่ต้องเปลี่ยนแปลงโค้ด: นักวิทยาศาสตร์ข้อมูลต้องการความยืดหยุ่นในการสร้างแบบจำลองที่เหมาะสมกับกรณีการใช้งานทางธุรกิจใน môi trườngของตน ดังนั้นกระบวนการ MLOps ใดๆ ที่ต้องการการเปลี่ยนแปลงโค้ดจึงทำให้กระบวนการซับซ้อน
2. การอัตโนมัติ/สคริปต์: หลายทีมกำลังเขียนแบบจำลองด้วยการเขียนโค้ดที่ยากและใช้เวลานาน MLOps อัตโนมัติกระบวนการนี้ทั้งหมด ซึ่งช่วยประหยัดเวลาและพลังงาน
3. การปรับปรุงแบบจำลอง: แบบจำลอง AI มีการเปลี่ยนแปลงเป็นประจำเพื่อปรับตัวให้เข้ากับสภาพแวดล้อม บางครั้งนักวิทยาศาสตร์ข้อมูลต้องกลับไปปรับปรุงแบบจำลองบ่อยๆ โดยไม่มี MLOps จะไม่มีวิธีใดที่จะหลีกเลี่ยงการอัปเดตซ้ำๆ เหล่านี้
4. การจัดการโครงสร้างพื้นฐานที่อยู่เบื้องหลัง: เพื่อนำแบบจำลองออกมา ต้องคำนวณเครือข่ายและจัดเก็บข้อมูลซึ่งต้องใช้คุณสมบัติเฉพาะของแบบจำลอง AI/ML MLOps มีความสามารถในการเข้าถึงทรัพยากรที่ถูกต้องและปรับขนาดให้เหมาะสม

ยังมีข้อกำหนดระดับองค์กรที่มักไม่ได้รับการพิจารณาเมื่อสร้างเครื่องมือ MLOps ของคุณเอง เช่น การควบคุมการเข้าถึงตามบทบาท (RBAC) การรวมและความสามารถในการทำงานร่วมกัน การสนับสนุนเครื่องมือ ML ที่แตกต่างกัน การแก้ไขช่องโหว่ด้านความปลอดภัย และการออกเดินทางของสมาชิกในทีมหลัก

คุณมีมุมมองส่วนบุคคลเกี่ยวกับความสำคัญของ การกำกับดูแล AI อย่างไร?

มีเรื่องราวที่น่ากลัวมากมายเกี่ยวกับแบบจำลอง AI ที่ไม่ทำงานตามที่คาดหวัง ตั้งแต่การระบุกลุ่มคนบางกลุ่มไม่ถูกต้องจนถึงการก่อให้เกิดความสูญเสียทางการเงินจำนวนมากสำหรับบริษัทที่จดทะเบียนในตลาดหลักทรัพย์

การกำกับดูแล AI มีความสำคัญอย่างยิ่งต่อธุรกิจเมื่อมีแบบจำลอง AI ที่กำลังทำงานใน生产 โดยทั่วไปแล้วไม่ต่างจากการจัดการ IT หรือธุรกิจอื่นๆ ในปัจจุบัน เมื่อ IT ของคุณทำงานแอปพลิเคชันในคลาวด์หรือแม้แต่ในศูนย์ข้อมูลของตนเอง พวกเขามีเครื่องมือต่างๆ เพื่อให้แน่ใจว่าแอปพลิเคชันทำงานอย่างถูกต้อง

เมื่อคุณมีแบบจำลอง AI ที่กำลังทำงาน คุณต้องมีกลไกและเครื่องมือที่จะช่วยให้ธุรกิจและนักวิทยาศาสตร์ข้อมูลมีความเข้าใจว่าแบบจำลองเหล่านั้นกำลังทำอะไรอยู่

โดยเฉพาะอย่างยิ่งในระยะเริ่มต้นของ AI/ML ไม่มีตัวเลือก “ตั้งค่าและลืม” ในตอนแรก คุณต้องติดตามพฤติกรรมของแบบจำลองและทำการปรับเปลี่ยนตามความเหมาะสม การมีความสามารถในการติดตามที่เหมาะสมเพื่อให้สามารถเตือนคุณเมื่อแบบจำลองของคุณมีพฤติกรรมที่อยู่นอกขอบเขตที่ต้องการเป็นสิ่งสำคัญ

การบริหารความเสี่ยงแบบจำลอง (MRM) ยังต้องพิจารณาบุคคลต่างๆ ที่เกี่ยวข้องกับการพัฒนาและปรับใช้แบบจำลอง อะไรคือการควบคุมการเข้าถึงที่คุณมีเพื่อให้แน่ใจว่าความสมบูรณ์ของแบบจำลอง? หรือคุณจะรับรองได้อย่างไรว่าบุคคลจากกลุ่มต่างๆ ไม่ได้ใช้แบบจำลองของคุณโดยไม่ได้ตั้งใจสำหรับกรณีการใช้งานที่แบบจำลองของคุณไม่ได้ออกแบบมาให้ทำ? ทั้งหมดนี้เป็นคำถามที่ทีมต้องถามตัวเอง

Datatron ช่วยจัดการความเสี่ยงของแบบจำลองได้อย่างไร?

MLOps ช่วยให้สามารถอัปเดตและเปลี่ยนแปลงแบบจำลองได้อย่างรวดเร็ว ตัวอย่างเช่น หากแบบจำลองกำลังปฏิเสธผู้สมัครเงินกู้โดยไม่เหมาะสม MLOps ช่วยให้คุณสามารถดึงแบบจำลองกลับมาและนำแบบจำลองใหม่มาใช้ โดยจัดการความเสี่ยงได้อย่างง่ายดาย

มันปกป้องแบบจำลองจากความเอนเอียงและรักษาค่าสำคัญๆ ระหว่างการผลิตผ่านแดชบอร์ดที่แสดงเมตริกเหล่านี้โดยใช้ข้อมูลเชิงลึกจากมุมมองที่กว้าง ซึ่งสามารถเข้าใจได้ง่ายโดยผู้ตัดสินใจทางธุรกิจ

แพลตฟอร์ม Datatron AI มีการกำกับดูแลที่ให้ความสามารถมากกว่าการตรวจสอบทั่วไป โดยให้ข้อมูลและตรรกะที่แสดงให้เห็นถึงความสามารถในการมองเห็นแบบจำลองที่เกี่ยวข้องกับกรณีการใช้งานของลูกค้า

ใน โพสต์บล็อก บน Datatron คุณอธิบายว่า Datatron กำลังรับคำขวัญของ Reliable AI ™ คุณสามารถอธิบายได้ว่า Reliable AI ™ คืออะไร?

เมื่อเราคิดค้นสิ่งนี้ เราคิดถึงว่าเรารู้สึกสบายใจกับการบินบนเครื่องบินพาณิชย์ในปัจจุบันเพราะมีความน่าเชื่อถือมาก

尽管มีการพูดถึง AI ที่มีจริยธรรม AI ที่มีความรับผิดชอบ ฯลฯ ความต้องการหลักคือธุรกิจต้องสามารถใช้ AI/ML ได้อย่างน่าเชื่อถือ เช่นเดียวกับที่พนักงานของพวกเขาจะขึ้นเครื่องบินพาณิชย์

การใช้คำว่า “AI ที่มีจริยธรรม” “AI ที่มีความรับผิดชอบ” นั้นมาจากปัญหาที่แบบจำลอง AI ปัจจุบันไม่ทำงานตามที่คาดหวัง และดังนั้นจึงถือว่าไม่น่าเชื่อถือ ธุรกิจไม่เต็มใจที่จะใช้ AI เพราะ ไม่มีความมั่นใจว่าแบบจำลองของพวกเขาจะไม่มีความเอนเอียง ซึ่งหมายความว่าแบบจำลองของพวกเขาน่าเชื่อถือไม่มาก และ Datatron ตั้งเป้าที่จะเปลี่ยนแปลงสิ่งนี้

มีอะไรอีกบ้างที่คุณต้องการแบ่งปันเกี่ยวกับ Datatron?

เราคือหนึ่งในผู้เล่น MLOps ไม่กี่คนซึ่งได้รับการพิสูจน์แล้วว่าสามารถทำงานได้ดีในสถานการณ์ที่มีความกดดันสูง ซึ่งไม่ธรรมดาสำหรับสตาร์ทอัพหรือเครื่องมือแบบโอเพ่นซอร์ส ลูกค้าของเรา ได้แก่ Domino’s Pizza ทำงานร่วมกับ Datatron เพื่อใช้แบบจำลอง AI ในการผลิตได้อย่างง่ายดายและรวดเร็ว ซึ่งถูกทดสอบอย่างเข้มข้นในช่วงซูเปอร์โบว์ล

MLOps จริงๆ แล้วเป็นวิธีที่จะช่วยให้แบบจำลอง AI/ML เข้าสู่การผลิตในขณะที่รักษาแหล่งข้อมูลและลดต้นทุนลง เราเป็นแหล่งที่ยั่งยืนสำหรับแบบจำลอง AI/ML ที่ประสบความสำเร็จ และทำหน้าที่เป็นตัวเร่งให้เกิดรายได้ บริษัทต่างๆ สามารถสร้างผลตอบแทนจากการลงทุน (ROI) ในโครงการ AI และ ML ของตนได้ ไม่ว่าคุณจะมีอัตรากำไรเท่าใด คุณสามารถสร้างผลลัพธ์ได้โดยใช้ MLOps

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านซึ่งต้องการเรียนรู้เพิ่มเติมควรเยี่ยมชม Datatron