ดร. เซียนซิน กัว ซีอีโอและผู้ร่วมก่อตั้ง Lumai – ซีรีส์สัมภาษณ์

ดร. เซียนซิน กัว ซีอีโอและผู้ร่วมก่อตั้ง Lumai เป็นนักฟิสิกส์และนักธุรกิจด้านเทคโนโลยีระดับสูง โดยมี chuyên mônในการคำนวณด้วยแสงและฮาร์ดแวร์ AI โดยได้รับ ปริญญาเอกสาขาฟิสิกส์ควอนตัมและออปติกส์ไม่เชิงเส้นจากมหาวิทยาลัยวิทยาศาสตร์และเทคโนโลยีฮ่องกง เขาเคยดำรงตำแหน่งการวิจัยหลายตำแหน่ง รวมถึงตำแหน่งหลังปริญญาเอกที่มหาวิทยาลัยแคลกะรี่ และทุนการศึกษาวิจัย 1851 ที่มหาวิทยาลัยออกซ์ฟอร์ด โดยที่เขามีส่วนร่วมในการพัฒนาพhotonics และการเร่งความเร็ว AI

Lumai เป็นบริษัทสปินออฟจากมหาวิทยาลัยออกซ์ฟอร์ดที่กำลังพัฒนาโปรเซสเซอร์ AI รุ่นต่อไปโดยใช้การคำนวณด้วยแสง 3 มิติ โดยใช้แสงแทนไฟฟ้าในการคำนวณ AI ที่สำคัญ เทคโนโลยีนี้ได้รับการออกแบบมาเพื่อเร่งการดำเนินการเมทริกซ์ที่เป็นพื้นฐานของโมเดล AI แบบสมัยใหม่ โดยให้ความเร็วในการประมวลผลที่เร็วขึ้นอย่างมีนัยสำคัญในขณะเดียวกันก็ลดการบริโภคพลังงานเมื่อเทียบกับ GPU ที่ใช้ซิลิกอนแบบดั้งเดิม โดยการรวมการคำนวณด้วยแสงเข้ากับสภาพแวดล้อมศูนย์ข้อมูลที่มีอยู่แล้ว Lumai มีเป้าหมายที่จะทำให้การนำ AI ไปใช้ได้มากขึ้นและคุ้มค่ามากขึ้น โดยแก้ไขข้อจำกัดที่เพิ่มขึ้นเกี่ยวกับพลังและพลังงานในระบบ AI ขนาดใหญ่

คุณเริ่มอาชีพของคุณในฟิสิกส์ควอนตัมและออปติกส์ไม่เชิงเส้น และต่อมาได้รับทุนการศึกษาวิจัย 1851 ที่มหาวิทยาลัยออกซ์ฟอร์ด ก่อนที่จะร่วมก่อตั้ง Lumai จากการวิจัยของคุณ คุณได้พบกับช่วงเวลาสำคัญที่คุณรู้ว่าการคำนวณด้วยแสงสามารถเปลี่ยนจากทฤษฎีทางวิชาการไปสู่บริษัทที่มีความเป็นไปได้ทางธุรกิจได้อย่างไร

ในช่วงเวลาที่ฉันอยู่ที่มหาวิทยาลัยออกซ์ฟอร์ด เรากำลังสำรวจวิธีการใช้คุณสมบัติของแสงในช่องว่างเพื่อแก้ปัญหาการดำเนินการเมทริกซ์ที่เป็นพื้นฐานของการเรียนรู้ของเครื่อง ในเวลาเดียวกัน ข้อจำกัดของฮาร์ดแวร์แบบดั้งเดิมสำหรับ AI ก็เริ่มมีความสำคัญมากขึ้น การมาบรรจบกันของความท้าทายที่เราได้แก้ไขในการวิจัยของเราและความต้องการคอมพิวเตอร์ที่มีประสิทธิภาพมากขึ้น ทำให้เรามีความมั่นใจว่าเราสามารถนำแนวคิดของเราไปใช้ในการแก้ปัญหาโลกแห่งความเป็นจริงได้

เรามาไกลจากงานวิจัยเริ่มต้นนั้นแล้ว – ที่ Lumai เราได้สร้างระบบการคำนวณด้วยแสงระบบแรกที่สามารถรันโมเดล LLM ที่มีพารามิเตอร์หนึ่งพันล้านได้แบบเรียลไทม์

Lumai กำลังแก้ไขปัญหาที่ยิ่งใหญ่ที่สุดอย่างหนึ่งใน AI วันนี้ ซึ่งก็คือข้อจำกัดด้านพลังงานและขนาดของการคำนวณที่ใช้ซิลิกอน คุณถูกผลักดันให้หันเหไปสู่แนวทางที่แตกต่างโดยใช้แสงเนื่องจากข้อจำกัดใดในสถาปัตยกรรมแบบดั้งเดิม

สิ่งที่ผลักดันเราไปข้างหน้าคือการขาดการปรับปรุงที่สำคัญของซิลิกอน ด้วยซิลิกอน คุณจะเห็นการปรับปรุงที่เพิ่มขึ้น แต่สิ่งเหล่านี้มาพร้อมกับการเพิ่มขึ้นของพลังงานและความซับซ้อน การจำกัดความสามารถในการปรับขนาดของซิลิกอนนั้นมาจากฟิสิกส์ – ความถี่ไม่ได้เพิ่มขึ้น และจำนวนทรานซิสเตอร์ที่สามารถเปลี่ยนได้ถูกจำกัดโดยความร้อน กระแสรั่วไหลยังคงเป็นปัญหา

งานของคุณมุ่งเน้นไปที่การคำนวณด้วยแสงและเครื่องเรียนรู้ของเครื่อง การใช้โฟตอนแทนอิเล็กตรอนเปลี่ยนแปลงวิธีการคำนวณที่ระดับฮาร์ดแวร์อย่างไร

การคำนวณด้วยอิเล็กตรอนเป็นไปอย่างลำดับและเสียหาย – คุณกำลังเปลี่ยนสถานะทรานซิสเตอร์ ย้ายประจุ และสร้างความร้อน การดำเนินการแต่ละครั้งมีค่าใช้จ่ายทางความร้อน และค่าใช้จ่ายนั้นจะสะสม

โฟตอนมีพฤติกรรมที่แตกต่าง การเดินทางของแสงไม่มีการสูญเสียความต้านทานแบบเดียวกัน และสิ่งสำคัญคือโดยใช้คุณสมบัติของแสง การดำเนินการเมทริกซ์จำนวนมากสามารถดำเนินการได้ในรูปแบบขนานโดยการกำหนดรูปแบบการโต้ตอบของลำแสงผ่านสื่อทางกายภาพ การคำนวณเกิดขึ้นในตัวการแพร่กระจายของแสงเอง ไม่ใช่ในการเปลี่ยนสถานะของประตูหลายพันล้านประตู

เทคโนโลยีของ Lumai ใช้การประมวลผลด้วยแสง 3 มิติและขนานกันในระดับพื้นที่ขนาดใหญ่ คุณสามารถอธิบายได้อย่างไรว่าสถาปัตยกรรมนี้สามารถปรับปรุงประสิทธิภาพและประสิทธิผลในการประมวลผลเมื่อเทียบกับ GPU

เป้าหมายคือการดำเนินการคูณเมทริกซ์ที่หนาแน่นให้ได้มากที่สุดและเร็วที่สุดเท่าที่จะเป็นไปได้ในหนึ่งรอบ การเข้าใกล้ของ Lumai ทำสิ่งนี้โดยใช้แสงในช่องว่างสามมิติ โดยดำเนินการหลายล้านการดำเนินการในเวลาเดียวกัน

หลายบริษัทโครงสร้างพื้นฐาน AI ยังคงมุ่งเน้นไปที่การฝึกอบรม แต่ Lumai มุ่งเน้นไปที่การอนุมาน คุณเชื่อว่าการอนุมานเป็นความท้าทายที่กำหนดระยะเวลาต่อไปนี้ของ AI หรือไม่

การอนุมานคือที่ที่ AI ทำอะไรที่มีประโยชน์จริงๆ – ทุกๆ คำถามที่ตอบ ทุกๆ งานของเอเย่นต์ ทุกๆ เอกสารที่สร้าง เราได้เข้าสู่ยุคการอนุมานแล้ว และความต้องการกำลังเติบโตในอัตราที่ฮาร์ดแวร์ที่เน้นการฝึกอบรมไม่เคยออกแบบมาเพื่อดูดซับ

เศรษฐศาสตร์ก็ต่างกัน – การอนุมานจะทำงานอย่างต่อเนื่องตลอดหลายล้านผู้ใช้ ต้นทุนต่อโทเค็นกลายเป็นเมตริกที่กำหนด และนั่นคือที่ที่กำแพงพลังงานมีผลกระทบมากที่สุด

หนึ่งในความท้าทายที่ยั่งยืนในการคำนวณด้วยแสง คือ ความเสถียรและขนาดใหญ่ ความสำเร็จทางเทคนิคที่สำคัญใดที่ทำให้ Lumai สามารถเอาชนะอุปสรรคเหล่านี้ได้

ความท้าทายไม่เคยแสดงให้เห็นว่าการคำนวณด้วยแสงสามารถคำนวณได้ – นักวิจัยได้แสดงให้เห็นแล้วว่าในหลักการเป็นเวลาหลายปี ความท้าทายคือการทำให้มันทำงานได้ที่ขนาดใหญ่ นอกห้องปฏิบัติการ

สิ่งสำคัญสองประการ คือ เราใช้ส่วนประกอบแบบเดียวกับที่ใช้ในศูนย์ข้อมูลวันนี้สำหรับการสื่อสารและเครือข่าย ไม่มีวัสดุอันตราย ไม่มีรางค้าจัดหาที่คาดเดาไม่ได้ สิ่งที่สอง คือ เราตัดสินใจออกแบบโดยใช้การออกแบบไฮบริด โดยรวมเครื่องมือเทนเซอร์แบบออปติกเข้ากับการประมวลผลดิจิทัลสำหรับการควบคุมระบบและซอฟต์แวร์

ระบบของคุณใช้การออกแบบไฮบริดที่รวมทั้งออปติกและดิจิทัลเข้าด้วยกัน ความสมดุลนี้มีความสำคัญเพียงใดในการทำให้การคำนวณด้วยแสงใช้ได้จริงสำหรับการใช้งานศูนย์ข้อมูลในโลกแห่งความเป็นจริง

มันพื้นฐาน การคำนวณด้วยแสงไม่ได้หมายถึงการแทนที่ทุกอย่างด้วยแสง ระบบดิจิทัลมีความยอดเยี่ยมในการควบคุม การเรียงลำดับ และการเชื่อมต่อกับระบบนิเวศซอฟต์แวร์ที่อุตสาหกรรมได้สร้างขึ้นมาหลายทศวรรษ เครื่องมือออปติกของเราทำงานได้ดีในการดำเนินการทางคณิตศาสตร์ที่เป็นพื้นฐานของการอนุมาน

ด้วยการประกาศของ Lumai Iris โดยเฉพาะเซิร์ฟเวอร์ Iris Nova คืออะไรที่แสดงถึงการบรรลุการอนุมานแบบเรียลไทม์บนโมเดลพารามิเตอร์หนึ่งพันล้านสำหรับอนาคตของโครงสร้างพื้นฐาน AI

มันแสดงให้เห็นว่าการคำนวณด้วยแสงได้ข้ามจากงานวิจัยไปสู่ความเป็นจริง การทำงานของโมเดลพารามิเตอร์หนึ่งพันล้านในแบบเรียลไทม์เป็นจุดพิสูจน์ที่อุตสาหกรรมต้องการ เซิร์ฟเวอร์ Lumai Iris มีสามรุ่น – Nova, Aura และ Tetra เซิร์ฟเวอร์ Lumai Iris Nova ซึ่งเป็นเซิร์ฟเวอร์แรกในซีรีส์ มีให้สำหรับการประเมินผลแล้ว และเรากำลังทำงานร่วมกับคู่ค้าที่ต้องการนำไปใช้กับงานโหลดการอนุมานจริง

ในวงกว้าง มันแสดงให้เห็นว่าเส้นทางของโครงสร้างพื้นฐาน AI กำลังจะเปลี่ยนแปลง เซิร์ฟเวอร์ Lumai Iris Nova แสดงให้เห็นว่ามีทางเลือกอื่นที่สามารถให้ประสิทธิภาพที่มากขึ้นต่อวัตต์ และโครงสร้างต้นทุนที่แตกต่างอย่างพื้นฐานต่อโทเค็น เมื่อเซิร์ฟเวอร์ Lumai Iris พัฒนาไป โครงสร้างพื้นฐานของการคำนวณจะเปลี่ยนแปลงไปอย่างมาก

การแถลงข่าวเน้นถึงการลดการบริโภคพลังงานลงได้ถึง 90% เมื่อเทียบกับระบบแบบดั้งเดิม ความสำเร็จนี้มีความสำคัญเพียงใดในบริบทของข้อจำกัดด้านพลังงานที่เพิ่มขึ้นซึ่งศูนย์ข้อมูลทั่วโลกกำลังเผชิญ

ข้อจำกัดด้านพลังงานคือความท้าทายด้านโครงสร้างพื้นฐานที่สำคัญที่สุดในยุค AI – ความจุพลังงานเป็นตัวจำกัดความสามารถในการวางแผนการนำไปใช้แล้ว และเรากำลังเผชิญกับ “กำแพงพลังงาน” การลดการบริโภคพลังงานลง 90% เปลี่ยนเศรษฐศาสตร์พื้นฐานและความเป็นไปได้ของ AI ในระดับใหญ่

เมื่อมองไปข้างหน้า เมื่ออุตสาหกรรมเริ่มพูดถึงยุคหลังซิลิกอน คุณเห็นว่าการคำนวณด้วยแสงจะพัฒนาไปอย่างไรในช่วงหนึ่งทศวรรษข้างหน้า และ Lumai จะมีบทบาทอย่างไรในการเปลี่ยนแปลงนี้

ยุคหลังซิลิกอนกำลังเริ่มต้นขึ้น และเกิดขึ้นพร้อมกับการเปลี่ยนไปสู่ยุคการอนุมานและการเติบโตอย่างต่อเนื่องของความต้องการประสิทธิภาพที่มากขึ้นในราคาที่ต่ำกว่าต่อโทเค็น เราเห็นว่าการคำนวณด้วยแสงจะถูกนำมาใช้ในส่วนสำคัญของสแต็กที่ต้องการการประมวลผลขนานและความเร็วสูง

สำหรับ Lumai แผนการคือการผลักดันความหนาแน่น ประสิทธิภาพ และความสามารถของการคำนวณด้วยแสง และขยายสิ่งนี้ไปยังศูนย์ข้อมูล วิสัยทัศน์คือโลกที่ต้นทุนพลังงานของการประมวลผลลดลง และศูนย์ข้อมูลขนาดเมกะวัตต์สามารถสร้างปริมาณโทเค็นที่เท่ากับศูนย์ข้อมูลขนาดกิกะวัตต์ในปัจจุบัน

อนาคตนั้นไม่ใช่การคาดเดาในระยะไกล เราได้สร้างระบบแรกที่พิสูจน์ว่าการคำนวณด้วยแสงทำงานได้ที่ขนาดใหญ่ ทุกสิ่งที่นี่คือการวิศวกรรม

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Lumai