Lumai เปิดตัว Optical AI Server เพื่อขับเคลื่อนยุคใหม่ของการอนุมาน

Lumai ได้ประกาศถึงก้าวสำคัญในด้านโครงสร้างพื้นฐาน AI: ระบบการประมวลผลด้วยแสง ที่สามารถรันโมเดลภาษาขนาดใหญ่แบบบิลเลียนพารามิเตอร์ได้แบบเรียลไทม์ ระบบใหม่นี้ที่เรียกว่า Iris Nova เป็นสัญญาณของการเปลี่ยนแปลงจากโปรเซสเซอร์แบบ传统ที่ใช้ซิลิกอนไปสู่แนวทางที่แตกต่างโดยพื้นฐานซึ่งสร้างขึ้นจากแสง

การประกาศครั้งนี้เกิดขึ้นในช่วงเวลาที่อุตสาหกรรม AI กำลังเปลี่ยนแปลงอย่างรวดเร็วจากขั้นการฝึกอบรมไปสู่การนำไปใช้แบบมีขนาดใหญ่ ซึ่งทำให้เกิดแรงกดดันที่ไม่เคยเกิดขึ้นมาก่อนต่อโครงสร้างพื้นฐานการประมวลผลที่มีอยู่

การข้ามขีดจำกัดของซิลิกอน

ในช่วงหลายปีที่ผ่านมา ความก้าวหน้าของ AI ขึ้นอยู่อย่างมากกับการพัฒนาชิปซิลิกอน โดยเฉพาะ GPU แต่แบบจำลองนี้เริ่มแสดงสัญญาณของความเครียด การบริโภคพลังงานเพิ่มขึ้นอย่างรวดเร็ว และการเพิ่มประสิทธิภาพการทำงานกลายเป็นเรื่องที่ยากขึ้นโดยไม่ต้องเพิ่มค่าใช้จ่ายและความต้องการพลังงานอย่างมีนัยสำคัญ

แนวทางของ Lumai แทนที่อิเล็กตรอนด้วยโฟตอน แทนที่จะดำเนินการคำนวณผ่านสัญญาณไฟฟ้า ระบบของพวกเขาจะใช้แสงเพื่อประมวลผลข้อมูล สิ่งนี้ช่วยให้เกิดการทำงานแบบขนานขนาดใหญ่ โดยที่การดำเนินการหลายล้านรายการสามารถเกิดขึ้นพร้อมกันในพื้นที่สามมิติแทนที่จะกระจายไปตามพื้นผิวซิลิกอนที่แบนราบ

ตามที่บริษัทระบุ วิธีนี้สามารถส่งมอบประสิทธิภาพที่สูงกว่าได้อย่างมีนัยสำคัญ ในขณะเดียวกันก็ลดการบริโภคพลังงานลงได้มากถึง 90% เมื่อเทียบกับระบบแบบเดิม

แรงกดดันที่เพิ่มขึ้นต่อศูนย์ข้อมูล

การเปิดตัวครั้งนี้สะท้อนถึงความท้าทายของอุตสาหกรรมในวงกว้าง โหลดงาน AI กำลังขยายตัวอย่างรวดเร็ว โดยเฉพาะอย่างยิ่งใน การอนุมาน ซึ่งเกี่ยวข้องกับการรันโมเดลที่ได้รับการฝึกอบรมในแอปพลิเคชันในโลกแห่งความเป็นจริง

ศูนย์ข้อมูลกำลังเผชิญกับการจำกัดด้านพลังงานที่เพิ่มขึ้น ความต้องการพลังงานของศูนย์ข้อมูลทั่วโลกคาดว่าจะ เพิ่มเป็นสองเท่า ภายสิ้น thậpก่อน ทำให้ผู้ดำเนินการจำเป็นต้องสำรวจวิธีแก้ปัญหาที่ไม่ธรรมดา เช่น การผลิตพลังงานที่อุทิศและแหล่งพลังงานทางเลือก

ในขณะเดียวกัน การปรับขนาดฮาร์ดแวร์แบบเดิมก็กลายเป็นเรื่องที่ไม่มีประสิทธิภาพมากขึ้น แต่ละรุ่นใหม่ของซิลิกอนมีการปรับปรุงที่เพิ่มขึ้นเล็กน้อย แต่บ่อยครั้งต้องใช้พลังงานและระบบทำความเย็นมากขึ้นอย่างไม่สมส่วน

Lumai กำลังวางตำแหน่งการประมวลผลด้วยแสงให้เป็นวิธีในการข้ามข้อจำกัดเหล่านี้ทั้งหมด แทนที่จะปรับปรุงพวกมันแบบทีละน้อย

วิธีการทำงานของ Iris Nova

ระบบ Iris Nova ใช้โครงสร้างแบบไฮบริดที่รวมองค์ประกอบการประมวลผลด้วยแสงและดิจิทัล เครื่องยนต์แสงจัดการการดำเนินการทางคณิตศาสตร์หลักที่ขับเคลื่อนโมเดล AI ในขณะที่ระบบดิจิทัลแบบเดิมจัดการฟังก์ชันซอฟต์แวร์และการควบคุม

การออกแบบนี้ช่วยให้ระบบสามารถรวมเข้ากับสภาพแวดล้อมศูนย์ข้อมูลที่มีอยู่ได้โดยไม่ต้องเปลี่ยนแปลงโครงสร้างพื้นฐานทั้งหมด

พื้นที่หนึ่งที่ระบบได้รับการปรับให้เหมาะสมเป็นพิเศษคือช่วง “prefill” ของการอนุมาน โดยที่โมเดลประมวลผลข้อมูลอินพุตขนาดใหญ่มาก่อนที่จะสร้างคำตอบ โดยการเร่งช่วงนี้ ระบบมีเป้าหมายที่จะปรับปรุงประสิทธิภาพและประสิทธิภาพโดยรวม

Lumai รายงานว่า Iris Nova สามารถรันโมเดล เช่น Llama 8B และ 70B ได้แบบเรียลไทม์ ซึ่งบ่งชี้ว่าสามารถจัดการกับกรณีการใช้งานขนาดการผลิตได้ ไม่ใช่แค่กรณีการใช้งานทดลองเท่านั้น

การเปลี่ยนแปลงสู่ยุคการอนุมาน

การเปิดตัวครั้งนี้สะท้อนถึงการเปลี่ยนแปลงในลำดับความสำคัญของ AI ในขณะที่การฝึกอบรมโมเดลขนาดใหญ่มากขึ้นเรื่อยๆ ได้ครอบงำข่าวสาร การมีผลกระทบในโลกแห่งความเป็นจริงของ AI กำลังถูกกำหนดโดยการอนุมาน – วิธีการที่โมเดลเหล่านั้นสามารถถูกนำไปใช้และปรับขนาดได้อย่างมีประสิทธิภาพ

การเปลี่ยนแปลงนี้ได้เผยให้เห็นถึงปัญหาการขาดแคลนที่ไม่ค่อยมองเห็นในช่วงการฝึกอบรม การทำงานการอนุมานเป็นแบบต่อเนื่องกัน มีความไวต่อความล่าช้า และต้องการพลังงานมาก ทำให้ประสิทธิภาพเป็นปัจจัยสำคัญ

ระบบของ Lumai ได้รับการออกแบบโดยเฉพาะสำหรับขั้นตอนนี้ โดยเน้นไปที่การประมวลผลต่อวัตต์มากกว่าพลังการประมวลผลโดยรวมเพียงอย่างเดียว

การเข้าถึงในระยะแรกและผลกระทบต่ออุตสาหกรรม

เซิร์ฟเวอร์ Iris Nova มีให้สำหรับการประเมินโดยผู้ให้บริการขนาดใหญ่ องค์กร และสถาบันวิจัย ระบบเพิ่มเติมในตระกูล Iris รวมถึง Aura และ Tetra คาดว่าจะตามมา โดยขยายตัวเลือกการแสดงผลและติดตั้ง

หาก การประมวลผลด้วยแสง สามารถส่งมอบตามสัญญาได้เมื่อถึงขนาด ระบบอาจเปลี่ยนแปลงเศรษฐศาสตร์ของโครงสร้างพื้นฐาน AI ได้ การบริโภคพลังงานที่ลดลงและประสิทธิภาพที่สูงขึ้นจะไม่เพียงแต่ลดค่าใช้จ่ายในการดำเนินงานเท่านั้น แต่ยังจัดการกับข้อกังวลที่เพิ่มขึ้นเกี่ยวกับผลกระทบต่อสิ่งแวดล้อมของ AI

แม้ว่าจะยังคงต้องดูว่าเทคโนโลยีนี้จะถูกนำมาใช้อย่างรวดเร็วเพียงใด แต่การประกาศของ Lumai เน้นย้ำถึงทิศทางที่ชัดเจน: อนาคตของการประมวลผล AI อาจไม่ได้ถูกสร้างขึ้นจากซิลิกอนเพียงอย่างเดียว