Supermicro เตรียมสร้างและจำหน่ายระบบอนุมาน AI ที่ขับเคลื่อนด้วย SambaNova

SambaNova และ Supermicro ประกาศเมื่อวันที่ 3 พฤศจิกายน 2026 ว่า Supermicro จะสร้าง จำหน่าย และให้บริการสนับสนุนระบบอนุมาน AI ซึ่งแบ่งงานระหว่าง GPU ของ NVIDIA กับหน่วยประมวลผล Reconfigurable Dataflow รุ่น SN50 ของ SambaNova โดยในระยะแรก ความร่วมมือนี้วางแผนใช้ชิป SN50 จำนวน 10,000 ตัว

ระบบเหล่านี้จะเป็นส่วนหนึ่งของพอร์ตโฟลิโอ Data Center Building Block Solutions ของ Supermicro โดย Supermicro จะประกอบ ทดสอบ ส่งมอบ และให้บริการสนับสนุนระบบ รวมถึงบริการ ณ สถานที่ติดตั้ง ขณะที่วิศวกรของ SambaNova จะทำให้โมเดลทำงานบน SN50 พร้อมปรับแต่งประสิทธิภาพ และช่วยติดตั้งใช้งานให้ลูกค้า ดังนั้น ความร่วมมือนี้จึงผสานช่องทางการผลิตและให้บริการเซิร์ฟเวอร์เข้ากับงานด้านวิศวกรรมโมเดลที่จำเป็นต่อการติดตั้งใช้งานตัวเร่งประมวลผลแบบผสมผสาน

เหตุใดการอนุมานจึงแบ่งงานระหว่าง GPU กับ RDU

สถาปัตยกรรมนี้แบ่งการอนุมานออกเป็นสองระยะ ในช่วงเติมพรอมป์ต์ (prefill) GPU ของ NVIDIA จะประมวลผลพรอมป์ต์ขาเข้า ซึ่งเป็นงานที่จำกัดด้วยกำลังประมวลผล ส่วน RDU รุ่น SN50 จะจัดการช่วงถอดรหัส (decode) ซึ่งสร้างคำตอบทีละโทเค็นและเป็นงานที่จำกัดด้วยแบนด์วิดท์หน่วยความจำ SambaNova ระบุว่า การมอบหมายแต่ละระยะให้ฮาร์ดแวร์ที่เหมาะสมช่วยให้การอนุมานเร็วขึ้นและมีประสิทธิภาพมากกว่าการใช้ฮาร์ดแวร์ประเภทใดประเภทหนึ่งเพียงอย่างเดียว

ประกาศที่เผยแพร่พร้อมกันของ SambaNova ระบุว่า AI แบบเอเจนต์เป็นกรณีใช้งานหลัก โดยเอเจนต์สามารถเรียกใช้โมเดลภาษาขนาดใหญ่ได้หลายพันครั้ง แต่ละครั้งอาจใช้เวลาหลายนาที และเวิร์กโหลดแบบเอเจนต์ใช้เวลาส่วนใหญ่อยู่ในช่วงถอดรหัส การสร้างโทเค็นจึงกลายเป็นขั้นตอนสำคัญที่กำหนดว่าเอเจนต์จะดำเนินการขั้นต่อไปได้เมื่อใด ด้วยเหตุนี้ บริษัททั้งสองจึงมองการถอดรหัสเป็นโจทย์ด้านโครงสร้างพื้นฐานที่แยกต่างหาก โดยมีจุดประสงค์ให้ RDU เพิ่มเติมช่วยเร่งการตอบสนอง ขณะที่ GPU ยังคงจัดการการประมวลผลพรอมป์ต์

เจาะลึกการออกแบบ SN50

SN50 คือ RDU รุ่นที่ห้าของ SambaNova เอกสารข้อมูลอย่างเป็นทางการระบุว่าใช้กระบวนการผลิตขนาด 5 นาโนเมตรของ TSMC มี SRAM บนชิปขนาด 432 MB และ HBM2E ขนาด 64 GB โดยมี DDR5 เป็นหน่วยความจำระดับที่สาม ชิปนี้ใช้สถาปัตยกรรม Reconfigurable Dataflow Architecture ของ SambaNova และออกแบบมาสำหรับการถอดรหัสซึ่งจำกัดด้วยแบนด์วิดท์หน่วยความจำ ไม่ใช่สำหรับเวิร์กโหลดตัวเร่งประมวลผลทั่วไป

เอกสารผลิตภัณฑ์ของ SambaNova ระบุว่าการออกแบบนี้ช่วยให้อนุมานได้เร็วขึ้น เพิ่มปริมาณงาน และใช้พลังงานได้อย่างมีประสิทธิภาพยิ่งขึ้น ระบบเชื่อมโยงการดำเนินงานเป็นกระแสข้อมูลต่อเนื่อง ช่วยลดการถ่ายโอนข้อมูลซ้ำระหว่างหน่วยความจำและค่าใช้จ่ายจากการเริ่มงานใหม่ในแต่ละขั้น หน่วยความจำแต่ละระดับยังมีหน้าที่ต่างกัน ได้แก่ SRAM เก็บข้อมูลที่เรียกใช้บ่อยไว้ใกล้หน่วยประมวลผล, HBM2E เก็บน้ำหนักโมเดลที่กำลังใช้งานและแคช KV ที่เรียกใช้บ่อย ส่วน DDR5 รองรับแคชพรอมป์ต์ ชุดโมเดลขนาดใหญ่กว่า และแคช KV ที่ไม่ค่อยได้ใช้งาน

SambaNova ระบุว่า SN50 สามารถขยายระบบให้รองรับ RDU ได้สูงสุด 256 ตัวในหลายแร็ก และออกแบบมาสำหรับเอเจนต์แบบโต้ตอบ ผู้ช่วยเขียนโค้ด และเวิร์กโหลดอนุมานหลายขั้นตอนประเภทอื่น ๆ รวมถึงแอปพลิเคชันที่สลับใช้งานหลายโมเดล การออกแบบให้รองรับหลายแร็กสอดคล้องกับแผนของความร่วมมือที่จัดวางระบบในระดับแร็ก โดย Supermicro จะประกอบ RDU และ GPU เข้าด้วยกันเป็นระบบ แล้วทดสอบรับรองและให้บริการสนับสนุน

การขยายช่องทางจำหน่ายและข้อจำกัดของศูนย์ข้อมูล

ลูกค้าจะซื้อ RDU รุ่น SN50 ควบคู่กับ GPU ผ่าน Supermicro ได้ โดยใช้ช่องทางเดียวกับโครงสร้างพื้นฐาน AI ส่วนอื่น ๆ ของตน การขยายตลาดจะเริ่มจากผู้ให้บริการ NeoCloud และคลาวด์อธิปไตย ก่อนขยายไปยังองค์กรที่ใช้งาน AI ในศูนย์ข้อมูลของตนเอง แนวทางแบบเป็นระยะนี้เริ่มจากผู้ให้บริการคลาวด์ แล้วจึงนำสถาปัตยกรรม GPU-RDU แบบผสมผสานเดียวกันไปใช้ในสถานที่ขององค์กร

พลังงานและระบบระบายความร้อนเป็นปัจจัยสำคัญต่อความเหมาะสมในการติดตั้งใช้งาน บริษัททั้งสองระบุว่า SN50 สามารถให้บริการโมเดลขนาดใหญ่ด้วยความเร็วและปริมาณงานสูง โดยไม่ต้องใช้ความหนาแน่นกำลังไฟในแร็กสูงมาก จึงติดตั้งระบบในศูนย์ข้อมูลที่มีอยู่ได้ง่ายขึ้น คุณลักษณะด้านการใช้พลังงานนี้ยังสนับสนุนแนวทางการปรับปรุงระบบเดิมของความร่วมมือ โดย RDU มีจุดประสงค์เพื่อเพิ่มขีดความสามารถในสถานที่ที่ผู้ให้บริการใช้งานอยู่แล้ว

บริษัททั้งสองยังระบุด้วยว่า การเพิ่ม RDU สำหรับงานถอดรหัสช่วยเพิ่มขีดความสามารถในการอนุมานได้โดยไม่ต้องรอการก่อสร้างใหม่ซึ่งติดข้อจำกัดด้านพลังงานและระบบระบายความร้อน อีกทั้งยังช่วยยืดอายุการใช้งานของ GPU ที่ติดตั้งอยู่แล้ว ข้อเสนอนี้จึงเชื่อมโยงการเพิ่มขีดความสามารถเข้ากับสถานที่และ GPU ที่ผู้ให้บริการมีอยู่

SambaNova และ Supermicro คาดว่าความร่วมมือนี้จะช่วยให้มีขีดความสามารถในการอนุมานประสิทธิภาพสูงเพิ่มขึ้นอย่างมากในปี 2027 เมื่อเทียบกับกรณีที่ไม่มีความร่วมมือดังกล่าว ความสำคัญของแผนนี้อยู่ที่การผสานฮาร์ดแวร์ที่ออกแบบมาสำหรับงานถอดรหัสโดยเฉพาะเข้ากับช่องทางการติดตั้งใช้งานของ Supermicro สำหรับผู้ให้บริการที่เผชิญข้อจำกัดด้านพลังงานและระบบระบายความร้อน คำถามที่ยังต้องหาคำตอบคือ การติดตั้ง RDU ตามแผนจะเพิ่มขีดความสามารถในการอนุมานที่ใช้งานได้จริงภายในสถานที่เดิม ในระดับที่บริษัททั้งสองคาดการณ์ไว้หรือไม่