ลูโดวิก ลาร์ซูล ผู้ก่อตั้งและซีอีโอของ Mipsology – สัมภาษณ์シリーズ

ลูโดวิก ลาร์ซูล เป็นผู้ก่อตั้งและซีอีโอของ Mipsology สตาร์ทอัพแห่งการปฏิวัติที่มุ่งเน้นการเร่งความเร็วของการเรียนรู้ลึกสำหรับการอนุมาน เขาได้พัฒนเทคโนโลยีเพื่อเร่งการคำนวณของเครือข่ายนิวรัลและซ่อนการเร่งความเร็วของฮาร์ดแวร์จากผู้ใช้ AI Mipsology’s Zebra เป็นอุปกรณ์เร่งความเร็วเชิงพาณิชย์เครื่องแรกที่รวมเทคโนโลยีนี้เพื่อมอบประสิทธิภาพสูงและความง่ายในการใช้งาน

อะไรที่ทำให้คุณสนใจ AI และไมโครชิป?

ฉันทำงานในด้านการออกแบบคอมพิวเตอร์แบบเฉพาะสำหรับประมาณ 20 ปี กับบริษัทก่อนหน้าของฉัน EVE ก่อนที่จะถูกซื้อโดย Synopsys ในปี 2012 คอมพิวเตอร์เหล่านี้เรียกว่า ASIC emulators และใช้โดยหลายบริษัทที่ออกแบบ ASIC ทั่วโลก ฉันชอบความซับซ้อนและความหลากหลายของงานนี้ เพื่อให้ประสบความสำเร็จ คุณต้อง (a) เข้าใจอิเล็กทรอนิกส์ ซอฟต์แวร์ อัลกอริทึมที่ซับซ้อน วิธีการออกแบบชิปและวิธีการทำให้พวกมันทำงานได้ดี อาร์คิเทคต์ชิป พลังงาน และเทคที่ลึกกว่านี้ (b) คาดการณ์ความต้องการของลูกค้าล่วงหน้า 2-3 ปี (c) พัฒนาอย่างต่อเนื่อง และ (d) ในฐานะสตาร์ทอัพ ต้องเอาชนะคู่แข่งที่มีทรัพยากรน้อยกว่า หลังจาก 20 ปีของความสำเร็จ ฉันกำลังมองหาความท้าทายใหม่ๆ ซึ่งเป็นช่วงเวลาที่ AI เริ่มกลับมาสู่จุดสนใจอีกครั้ง AlexNet ได้ทำการกระโดดหนึ่งใหญ่ในการทำความเข้าใจภาพ (และเมื่อมองย้อนกลับไป ก็ยังอยู่ในช่วงเริ่มต้น) การเรียนรู้ลึกเป็นสิ่งใหม่ แต่มีแนวโน้มที่จะเติบโต (ใครจำได้ว่าใช้เวลาหลายวันในการรับผลลัพธ์จากเครือข่ายที่เรียบง่าย?) ฉันพบว่ามัน “สนุก” แต่ตระหนักว่ามีหลายความท้าทาย

อะไรที่เป็นแรงบันดาลใจในการก่อตั้ง Mipsology?

ฉันไม่แน่ใจว่าจะใช้คำว่า “แรงบันดาลใจ” มันคือการถามว่า “เราสามารถทำอะไรที่แตกต่างและดีกว่า?” มันเริ่มต้นจากสมมติฐานเกี่ยวกับสิ่งที่ผู้คนใน AI ต้องการและทำ และในช่วงหลายปีต่อมาเราใช้เวลาในการค้นหาวิธีแก้ปัญหาที่ดีขึ้นตามสมมติฐานนั้น ฉันคิดว่ามากกว่าแรงบันดาลใจ ฉันจะพูดว่าผู้คนในทีมของฉันชอบที่จะทำสิ่งที่ดีที่สุดในงานสร้างของพวกเขา ในทัศนคติของการแข่งขันที่ดี ซึ่งทำให้เกิดทีมที่แข็งแกร่งที่สามารถแก้ปัญหาที่คนอื่นล้มเหลวในการแก้ไขได้อย่างเพียงพอ

Mipsology ใช้บอร์ด FPGA แทน GPU คุณสามารถอธิบายว่า FPGA คืออะไร?

FPGA เป็นองค์ประกอบอิเล็กทรอนิกส์ที่สามารถเขียนโปรแกรมได้ที่ระดับฮาร์ดแวร์ คุณสามารถนึกภาพมันเป็นชุดของเลโก้ — หลายล้านชิ้น แต่ละบล็อกทำการดำเนินการอย่างง่าย เช่น การเก็บค่าหรือการดำเนินการเชิงเลขคณิตที่ซับซ้อนกว่านั้น โดยการรวมบล็อกเหล่านี้เข้าด้วยกัน มันสามารถสร้างพฤติกรรมเฉพาะหลังจากที่ชิปถูกผลิตแล้ว ซึ่งเป็นสิ่งที่ตรงกันข้ามกับ GPU และชิปส่วนใหญ่อื่นๆ ที่ถูกออกแบบมาเพื่อการทำงานเฉพาะและไม่สามารถเปลี่ยนแปลงได้หลังจากการผลิต

บางตัว เช่น CPU และ GPU สามารถเขียนโปรแกรมได้ แต่ไม่เทียบเท่ากับ FPGA ในด้านความขนาน ในแต่ละช่วงเวลา FPGA สามารถดำเนินการหลายล้านการดำเนินการที่เรียบง่าย และสามารถทำได้ 600-700 ล้านครั้งต่อวินาที เนื่องจากสามารถเขียนโปรแกรมได้ สิ่งที่พวกมันทำสามารถเปลี่ยนแปลงได้ทุกเมื่อเพื่อปรับตัวเข้ากับปัญหาที่แตกต่างกัน ทำให้พลังการคำนวณที่ไม่ธรรมดานี้มีประสิทธิภาพ FPGA อยู่ทุกที่แล้ว รวมทั้งสถานีฐานของโทรศัพท์มือถือ เครือข่าย ยานอวกาศ รถยนต์ ฯลฯ แต่ผู้คนไม่คุ้นเคยกับพวกมันเพราะพวกมันไม่เห็นได้ชัดเจนเหมือน CPU ในแล็ปท็อปของคุณ

อะไรที่ทำให้บอร์ด FPGA เป็นทางออกที่ดีกว่า GPU ที่ได้รับความนิยมมากกว่า?

FPGA มีหลายด้านที่เหนือกว่า ลองมองไปที่สองด้านที่สำคัญกัน

GPU ถูกออกแบบมาเพื่อการเรนเดอร์ภาพ โดยเฉพาะสำหรับเกม พวกมันถูกพบว่าตรงกับงานคำนวณบางอย่างใน AI เนื่องจากความคล้ายคลึงกันของการดำเนินการ แต่พวกมันยังคงถูกอุทิศให้กับเกมเป็นหลัก ซึ่งหมายความว่าพวกมันมาพร้อมกับข้อจำกัดที่ไม่เหมาะสมกับเครือข่ายนิวรัล

การเขียนโปรแกรมของพวกมันถูกจำกัดไว้ตามคำสั่งที่ตัดสินใจ 2-3 ปีก่อนที่พวกมันจะพร้อมใช้งาน ปัญหาก็คือเครือข่ายนิวรัลกำลังพัฒนาอย่างรวดเร็วกว่าการออกแบบของ ASIC และ GPU เป็น ASIC ดังนั้นมันเหมือนกับการพยากรณ์อนาคต — ไม่ใช่เรื่องที่ง่ายที่จะถูกต้อง คุณสามารถมองเห็นแนวโน้ม แต่รายละเอียดที่แท้จริงคือสิ่งที่ส่งผลกระทบต่อผลลัพธ์ เช่น ประสิทธิภาพ ในทางตรงกันข้าม เนื่องจาก FPGA สามารถเขียนโปรแกรมได้ที่ระดับฮาร์ดแวร์ เราสามารถติดตามความก้าวหน้าของ AI ได้ง่ายขึ้น ซึ่งช่วยให้เราสามารถส่งมอบผลิตภัณฑ์ที่ดีกว่าและมีประสิทธิภาพสูงขึ้น และตอบสนองความต้องการของลูกค้าโดยไม่ต้องรอการผลิตซิลิคอนรุ่นต่อไป

นอกจากนี้ GPU ยังถูกออกแบบมาเพื่อเป็นผลิตภัณฑ์สำหรับผู้บริโภค อายุการใช้งานของพวกมันถูกตั้งไว้ให้สั้นเพราะบริษัทที่ออกแบบ GPU ต้องการขาย GPU ใหม่ให้กับนักเล่นเกมในอีกไม่กี่ปี ซึ่งไม่ทำงานได้ดีในระบบอิเล็กทรอนิกส์ที่ต้องการความน่าเชื่อถือเป็นเวลาหลายปี FPGA ถูกออกแบบมาเพื่อความแข็งแกร่งและใช้งานได้ 24/7 เป็นเวลาหลายปี

ข้อดีของ FPGA ที่รู้จักกันดีอื่นๆ รวมถึง:

• มีตัวเลือกมากมายที่สามารถใช้ในพื้นที่เฉพาะ เช่น การประมวลผลเครือข่ายหรือวิดีโอ
• พวกมันทำงานได้ดีในศูนย์ข้อมูล เช่นเดียวกับที่ขอบหรือในอุปกรณ์ฝังตัว
• พวกมันไม่ต้องการการทำความเย็นพิเศษ (ไม่ต้องการการทำความเย็นแบบน้ำ seperti GPU ที่ใหญ่ๆ)

ข้อเสียหลักๆ ของ FPGA คือการเขียนโปรแกรมที่ยาก ซึ่งต้องการความรู้เฉพาะ แม้ว่าบริษัทที่ขาย FPGA จะพยายามลดช่องว่างของความซับซ้อน แต่ก็ยังไม่ง่ายเหมือน CPU จริงๆ GPU ก็ไม่ง่ายเช่นกัน แต่ซอฟต์แวร์ที่ซ่อนการเขียนโปรแกรมของพวกมันสำหรับ AI ทำให้ความรู้นั้นไม่จำเป็นต้องมี นั่นคือปัญหาที่ Mipsology เป็นคนแรกที่แก้ไขได้ — การลบการเขียนโปรแกรมหรือความรู้ใดๆ เกี่ยวกับ FPGA สำหรับการคำนวณ AI

มีข้อจำกัดใดๆ ในปัจจุบันสำหรับบอร์ด FPGA?

บอร์ด FPGA บางตัวสามารถเสียบเข้ากับสล็อต PCIe ของคอมพิวเตอร์ได้ ข้อดีหนึ่งคือการบริโภคพลังงานที่ต่ำกว่า GPU อีกข้อที่น้อยคนรู้คือมี FPGA มากกว่า GPU สำหรับตลาดต่างๆ ซึ่งหมายความว่ามีหลายตัวเลือกสำหรับการคำนวณเครือข่ายนิวรัลทุกที่โดยมีค่าใช้จ่ายที่ต่ำกว่า GPUs มีข้อจำกัด — พวกมันเหมาะสำหรับศูนย์ข้อมูล แต่ไม่ใช่สำหรับอื่นๆ

Mipsology’s Zebra เป็นอุปกรณ์เร่งความเร็วเชิงพาณิชย์เครื่องแรกที่รวมบอร์ด FPGA เพื่อมอบประสิทธิภาพสูงและความง่ายในการใช้งาน คุณสามารถอธิบายว่า Zebra คืออะไร?

สำหรับผู้ที่คุ้นเคยกับ AI และ GPU อธิบายง่ายๆ ว่า Zebra คือสิ่งที่ Cuda/CuDNN คือสำหรับ GPU มันเป็นซอฟต์แวร์สแต็กที่ซ่อน FPGA ไว้เบื้องหลังเฟรมเวิร์กทั่วไป เช่น PyTorch หรือ TensorFlow เราเน้นไปที่การอนุมานสำหรับภาพและวิดีโอ Zebra เริ่มต้นด้วยเครือข่ายนิวรัลที่ถูกฝึกอบรมโดยทั่วไปในจุดลอยและไม่ต้องมีการพยายามหรือเครื่องมือเฉพาะของผู้ใช้ และทำให้สามารถทำงานบนบอร์ด FPGA ใดๆ ได้ มันง่ายๆ เช่น — เสียบบอร์ด FPGA, โหลดไดรเวอร์, ระบุสภาพแวดล้อม Zebra และเรียกใช้แอปพลิเคชันการอนุมานเดียวกับที่ทำงานบน CPU หรือ GPU เรามีการปรับขนาดที่รักษาความแม่นยำ และประสิทธิภาพออกมาจากกล่อง ไม่ต้องใช้เครื่องมือเฉพาะที่ผู้ใช้ต้องเรียนรู้ และไม่ต้องใช้เวลาหลายชั่วโมงในการเข้าใจเพื่อให้ได้ผลลัพธ์ที่ดี ซึ่งหมายความว่าสามารถเปลี่ยนแปลงได้อย่างรวดเร็ว ซึ่งลดค่าใช้จ่ายและเวลาในการเข้าสู่ตลาด

มีการใช้งานใดบ้างที่ Zebra ได้รับการออกแบบมา?

Zebra เป็นเครื่องเร่งความเร็วที่มีจุดมุ่งหมายทั่วไป ดังนั้นจึงสามารถเร่งการคำนวณสำหรับแอปพลิเคชันใดๆ ที่ต้องการคำนวณเครือข่ายนิวรัล โดยมุ่งเน้นไปที่ภาพและวิดีโอเป็นหลักเพราะความต้องการการคำนวณมีขนาดใหญ่กว่าสำหรับข้อมูลประเภทนี้ เรามีการร้องขอจากตลาดที่แตกต่างกัน แต่ส่วนใหญ่คล้ายกันเมื่อพูดถึงการคำนวณเครือข่ายนิวรัล พวกเขาทั้งหมดต้องการการจำแนกประเภท การแบ่งส่วน การเพิ่มความละเอียด การวางตำแหน่งของร่างกาย ฯลฯ

เนื่องจาก Zebra ทำงานบน FPGA จึงสามารถใช้บอร์ดใดๆ ก็ได้ บางตัวมีประสิทธิภาพสูงและใช้ในการศูนย์ข้อมูล ในขณะที่อื่นๆ เหมาะสำหรับการใช้งานที่ขอบหรือในอุปกรณ์ฝังตัว วิสัยทัศน์ของเราคือหาก FPGA สามารถใส่เข้าไปได้ ผู้ใช้สามารถใช้ Zebra เพื่อเร่งการคำนวณเครือข่ายนิวรัลได้ทันที และหากใช้ GPU หรือ CPU Zebra สามารถแทนที่พวกมันและลดค่าใช้จ่ายของโครงสร้างพื้นฐาน AI ส่วนใหญ่ของบริษัทที่เราพูดคุยด้วยกำลังเผชิญกับปัญหาเดียวกัน — พวกเขาสามารถใช้แอปพลิเคชัน AI มากขึ้น แต่ค่าใช้จ่ายเป็นข้อจำกัด

สำหรับบริษัทที่ต้องการใช้ Zebra ขั้นตอนจะเป็นอย่างไร?

เพียงแค่แจ้งให้เราทราบที่ support@mipsology.com และเราจะช่วยคุณเริ่มต้น

มีอะไรอีกไหมที่คุณต้องการแบ่งปันเกี่ยวกับ Mipsology?

เรารู้สึกยินดีกับคำติชมที่เราได้รับจากชุมชน AI สำหรับโซลูชัน Zebra ของเรา โดยเฉพาะอย่างยิ่งเราได้รับคำชมว่านี่อาจเป็นตัวเร่งความเร็วที่ดีที่สุดในตลาด หลังจากเพียงไม่กี่เดือน เรายังคงเพิ่มเข้าไปในระบบนิเวศที่เติบโตของพันธมิตรที่สนใจ รวมถึง Xilinx, Dell, Western Digital (WDC ), Avnet, TUL และ Advantech เพื่อชื่อไม่กี่ตัว

ฉันชอบที่จะเรียนรู้เกี่ยวกับเทคโนโลยีที่ก้าวล้ำนี้ ผู้อ่านสามารถเยี่ยมชม Mipsology เพื่อเรียนรู้เพิ่มเติม

https://www.youtube.com/watch?v=sIBEg_eGU8g