D-Matrix เปิดตัวคลัสเตอร์ประมวลผลอนุมาน AI แบบหลายแร็ก Squadron

เมื่อวันที่ 12 ตุลาคม 2026 d-Matrix ประกาศเปิดตัว Squadron กลุ่มระบบหลายแร็กสำหรับประมวลผลอนุมาน AI ในระดับศูนย์ข้อมูล โดย Sid Sheth ผู้ก่อตั้งและซีอีโอ เปิดตัวคลัสเตอร์เหล่านี้ระหว่างการกล่าวปาฐกถาในวันเปิดงาน OCP Global Summit ที่เมืองซานโฮเซ คลัสเตอร์รองรับการขยายได้สูงสุด 16 SquadRacks และ Corsair XPU สูงสุด 1,024 ตัว โดยระบบกำลังจัดส่งให้ลูกค้ากลุ่มสำคัญ

Squadron พัฒนาขึ้นโดยความร่วมมือกับ Arista, Broadcom และ Supermicro d-Matrix ได้นำระบบไปติดตั้งในศูนย์ข้อมูลของบริษัทที่รัฐแอริโซนาแล้ว เพื่อใช้ในการวิจัยและพัฒนาภายใน ส่วนคลัสเตอร์กำลังจัดส่งให้ลูกค้ากลุ่มสำคัญนำไปติดตั้งในศูนย์ข้อมูลของตนเอง องค์ประกอบพื้นฐานของ Squadron ได้แก่ เซิร์ฟเวอร์ Corsair และระบบแร็กระดับแร็ก SquadRack ของบริษัท วางจำหน่ายทั่วไปแล้ว d-Matrix ระบุว่า Squadron มอบกำลังประมวลผลอนุมานระดับเมกะวัตต์ และกล่าวว่าคลัสเตอร์นี้มุ่งเป้าไปที่ห้องปฏิบัติการ AI องค์กรธุรกิจ และองค์กรที่มีอำนาจอธิปไตย ซึ่งใช้งานแอปพลิเคชันที่ไวต่อเวลาแฝง เช่น การเขียนโค้ด ผู้ช่วยส่วนบุคคล ความมั่นคงปลอดภัยทางไซเบอร์ และการซื้อขายความถี่สูง

Sheth กล่าวถึงการเปิดตัวครั้งนี้ว่าเป็นก้าวเปลี่ยนผ่านของ d-Matrix จากบริษัทที่เชี่ยวชาญด้านชิป ไปสู่ธุรกิจโครงสร้างพื้นฐานการประมวลผลสำหรับศูนย์ข้อมูล เขากล่าวในประกาศของบริษัทว่า “ขณะนี้ลูกค้าสามารถเข้าถึงโครงสร้างพื้นฐานสำหรับประมวลผลอนุมานระดับศูนย์ข้อมูลที่มีประสิทธิภาพสูงสุดในโลก ซึ่งพร้อมใช้งานเพื่อสร้างและขยายแอปพลิเคชัน AI ที่มีเวลาแฝงต่ำเป็นพิเศษ”

Charles Liang ประธานและซีอีโอของ Supermicro กล่าวว่า ความร่วมมือนี้แสดงให้เห็นถึงความสามารถของ Supermicro ในการส่งมอบเทคโนโลยี AI ผ่านโครงการ Data Center Building Block Solutions ซึ่งช่วยให้ลูกค้าติดตั้งโครงสร้างพื้นฐานสำหรับประมวลผลอนุมานที่มีประสิทธิภาพและสมรรถนะสูงได้ โดยลดระยะเวลาจนระบบพร้อมใช้งานสำหรับเวิร์กโหลด AI ขั้นสูงและสภาพแวดล้อมการประมวลผลแบบต่างชนิด

รูปแบบแร็กและการเชื่อมต่อระหว่างระบบตามมาตรฐานเปิด

Squadron มีให้เลือกหลายรูปแบบ โดยขยายได้สูงสุด 16 SquadRacks ซึ่งแต่ละชุดเป็นแร็กเดี่ยวที่บรรจุเซิร์ฟเวอร์ 8 เครื่อง และรวมเข้าด้วยกันเป็นคลัสเตอร์แบบบูรณาการที่รองรับ Corsair XPU ได้สูงสุด 1,024 ตัว คลัสเตอร์เชื่อมต่อถึงกันด้วย JetStream NIC ของ d-Matrix และติดตั้งพร้อมซอฟต์แวร์ Aviator ของบริษัท เนื่องจากระบบระบายความร้อนด้วยอากาศและสร้างขึ้นตามมาตรฐานอุตสาหกรรม d-Matrix ระบุว่าลูกค้าสามารถติดตั้งระบบในศูนย์ข้อมูลที่ใช้งานอยู่แล้วได้ โดยไม่ต้องใช้ระบบระบายความร้อนด้วยของเหลวหรือก่อสร้างอาคารใหม่ ลูกค้าสามารถติดตั้งเซิร์ฟเวอร์ Corsair เครื่องเดียว, SquadRack เต็มชุด หรือคลัสเตอร์ Squadron แบบหลายแร็ก โดยใช้สถาปัตยกรรมเดียวกัน

หน้าผลิตภัณฑ์ระบบระดับแร็กของบริษัทระบุรูปแบบอ้างอิงไว้ 4 แบบ แร็กเริ่มต้นแบบเซิร์ฟเวอร์เดียวมีการ์ด 8 ใบ พร้อมหน่วยความจำประสิทธิภาพสูง 16GB ที่ความเร็ว 1,200 TB/s หน่วยความจำสำหรับความจุสูงสุด 2TB และใช้กำลังไฟต่ำกว่า 10 kW แร็กเริ่มต้นแบบเซิร์ฟเวอร์คู่ใช้เซิร์ฟเวอร์ 2 เครื่องและการ์ด 16 ใบ พร้อมหน่วยความจำประสิทธิภาพสูง 32GB มีกำลังไฟที่กำหนดไว้ 10–30 kW และรองรับการขยายระบบผ่าน Ethernet ด้วย JetStream แร็กครึ่งชุดแบบหลายเซิร์ฟเวอร์ใช้เซิร์ฟเวอร์ 4 เครื่องและการ์ด 32 ใบ พร้อมหน่วยความจำประสิทธิภาพสูง 64GB มีกำลังไฟที่กำหนดไว้ 30–100 kW ส่วนแร็กเต็มชุดพร้อมใช้งานระดับองค์กรใช้เซิร์ฟเวอร์ 8 เครื่องและการ์ด 64 ใบ พร้อมหน่วยความจำประสิทธิภาพสูง 128GB และรองรับการใช้งานโมเดลที่มีพารามิเตอร์สูงสุด 100 พันล้านตัวในโหมดประสิทธิภาพสูง

สำหรับการเชื่อมต่อระหว่างระบบ d-Matrix ใช้ PCIe เพื่อขยายภายในโหนดเดียว และใช้ Ethernet ตามมาตรฐานอุตสาหกรรมเพื่อขยายภายในแร็กและเพิ่มขนาดระบบข้ามแร็ก บริษัทเป็นสมาชิกของกลุ่มอุตสาหกรรม UALink และ UEC ซึ่งกำลังพัฒนามาตรฐานการขยายระบบทั้งภายในและระหว่างระบบสำหรับเทคโนโลยีรุ่นถัดไป

ความเป็นมาเกี่ยวกับ SquadRack และแพลตฟอร์ม Corsair

Squadron ต่อยอดผลิตภัณฑ์ระบบระดับแร็กของ d-Matrix ซึ่งบริษัทเปิดตัวครั้งแรกในชื่อ SquadRackเมื่อวันที่ 14 ตุลาคม 2025 ในงาน OCP Global Summit ครั้งก่อน โดยร่วมกับ Arista, Broadcom และ Supermicro เช่นเดียวกัน ในงานดังกล่าว d-Matrix อธิบายว่า SquadRack เป็นโซลูชันระดับแร็กที่ออกแบบมาเพื่อประมวลผลอนุมาน AI โดยเฉพาะเป็นรายแรกของอุตสาหกรรม และกล่าวว่าระบบนี้ให้ประสิทธิภาพด้านต้นทุนดีขึ้นสูงสุด 3 เท่า ประหยัดพลังงานมากขึ้น 3 เท่า และสร้างโทเค็นได้เร็วกว่าแอกเซลเลอเรเตอร์แบบดั้งเดิมสูงสุด 10 เท่า

ตามประกาศในปี 2025 SquadRack แบบ 8 โหนดสามารถรันโมเดล AI แบบสร้างเนื้อหาที่มีพารามิเตอร์สูงสุด 100 พันล้านตัว โดยใช้ Ethernet ตามมาตรฐานเพื่อขยายระบบข้ามแร็กหลายชุดได้ถึงหลายร้อยโหนด ส่วนประกอบที่ระบุไว้ประกอบด้วยแอกเซลเลอเรเตอร์สำหรับประมวลผลอนุมาน Corsair, แอกเซลเลอเรเตอร์ I/O JetStream, แพลตฟอร์มเซิร์ฟเวอร์ AI X14 ของ Supermicro, สวิตช์ PCIe ของ Broadcom สำหรับขยายภายในโหนด, สวิตช์ Ethernet Leaf ของ Arista ที่เชื่อมต่อกับ JetStream NIC และชุดซอฟต์แวร์ Aviator

แพลตฟอร์ม Corsairซึ่งเป็นหัวใจของทั้งสองระบบใช้การออกแบบที่ประกอบด้วยชิปเล็ต โดยมีเป้าหมายเพื่อขยาย SRAM ให้เกินขีดจำกัดแบบเดิม สามารถผสานเข้ากับโครงสร้างพื้นฐานที่ใช้ PCIe ซึ่งมีอยู่แล้ว และรองรับโมเดลที่มีพารามิเตอร์สูงสุด 100 พันล้านตัว การออกแบบ 3DIMC ของ d-Matrix วาง DRAM ซ้อนอยู่บนไดลอจิกโดยตรง ส่วนชุดซอฟต์แวร์ Aviator ได้รับการออกแบบร่วมกับฮาร์ดแวร์ ตั้งแต่คอมไพเลอร์ไปจนถึงระบบขณะทำงาน

การสาธิตการแยกส่วน Attention-FFN

ระหว่างการกล่าวปาฐกถา Sheth ยังเปิดเผยด้วยว่า d-Matrix ได้นำการแยกส่วน Attention-FFN หรือ AFD มาใช้งาน โดยจับคู่ระบบ Squadron กับเซิร์ฟเวอร์ GPU บริษัทรายงานว่าเมื่อถ่ายโอนงานของผู้เชี่ยวชาญในโมเดลและเครือข่ายป้อนไปข้างหน้าไปยังแร็ก Corsair ระบบทำความเร็วได้ 845 โทเค็นต่อวินาทีต่อผู้ใช้ และการติดตั้งระบบแบบต่างชนิดนี้ทำปริมาณงานรวมได้ 20,415 โทเค็นต่อวินาที เมื่อมีผู้ใช้พร้อมกัน 64 ราย d-Matrix กล่าวว่าเป็นบริษัทแรกที่สาธิต AFD ซึ่งทำงานบนซิลิคอนจริงที่มีจำหน่ายอยู่ในขณะนี้

บทความทางเทคนิคประกอบที่เผยแพร่เมื่อวันที่ 12 ตุลาคม 2026 อธิบายการจัดชุดทดสอบ งานประมวลผลใช้ GPT-OSS-20B ซึ่งเป็นโมเดลแบบ mixture-of-experts ที่มีพารามิเตอร์ส่วนของ experts 19.12 พันล้านรายการ จากพารามิเตอร์ทั้งหมด 20.9 พันล้านรายการ โดยจะเปิดใช้งาน experts 4 รายการจากทั้งหมด 32 รายการ หรือคิดเป็นพารามิเตอร์ประมาณ 3.6 พันล้านรายการ ต่อการอนุมานหนึ่งครั้ง เมื่อใช้ความแม่นยำ 4 บิต experts เหล่านี้จะสามารถทำงานบนเซิร์ฟเวอร์ Corsair ที่มีการ์ด 8 ใบและ SRAM ขนาด 16GB ได้ GPU Nvidia H100 ขนาด 80GB ทำหน้าที่จัดการ attention, embeddings, KV cache และการกำหนดเส้นทางไปยัง experts ขณะที่ Corsair ประมวลผล experts และเมื่อกำหนดขนาดแบตช์เป็น 64 จะใช้ GPU H100 สองตัวร่วมกับตัวเร่งความเร็ว Corsair แปดตัว

d-Matrix ระบุว่า SRAM ของ Corsair มีแบนด์วิดท์หน่วยความจำ 150 TB/s ซึ่งบริษัทกล่าวว่าสูงกว่าแบนด์วิดท์ HBM3 บน H100 ถึง 45 เท่า และสูงกว่าแบนด์วิดท์ประมาณ 18 TB/s ของ HBM4 ราว 9 เท่า บริษัทระบุว่า การย้ายงาน feed-forward ไปประมวลผลบน Corsair ช่วยลดเวลาต่อโทเคนเอาต์พุตจาก 2.59 มิลลิวินาที ซึ่งเป็นเวลาที่ใช้บน H100 เพียงตัวเดียวเมื่อความยาวบริบทอยู่ที่ 1K เหลือ 1.28 มิลลิวินาที หรือลดลงประมาณ 50 เปอร์เซ็นต์

บทความอธิบายว่ามีการรับส่งข้อมูลไปกลับระหว่าง GPU กับ Corsair 24 รอบ สำหรับโมเดลที่มี 24 เลเยอร์ และเพิ่มอีกหนึ่งรอบสำหรับ LM head โดย GPU จะส่งเวกเตอร์ hidden state ขนาด 2,880 มิติ พร้อมการกำหนด experts เป้าหมายผ่านลิงก์ JetStream ซึ่งให้แบนด์วิดท์อีเทอร์เน็ต 400 Gb/s ต่อคลัสเตอร์ การสื่อสารที่เริ่มต้นจากอุปกรณ์ของ JetStream ช่วยให้ GPU เขียนข้อมูลลงในหน่วยความจำของ Corsair ได้โดยตรง และให้ Corsair ส่งผลลัพธ์กลับมาได้โดยไม่ต้องอาศัย CPU ของโฮสต์ การ์ด Corsair แต่ละใบเก็บชาร์ดหนึ่งส่วนของ LM head โดย d-Matrix ระบุว่าการจัดระบบเช่นนี้ช่วยลดเวลาประมวลผล LM head ลง 10 เท่า

บริษัทระบุว่า เมื่อกำหนดขนาดแบตช์เป็น 64 ระบบจะประมวลผลขั้นตอนถอดรหัสครบสำหรับผู้ใช้ 64 รายได้ใน 2.46 มิลลิวินาที ที่ความยาวบริบท 129 นอกจากนี้ d-Matrix ยังระบุว่า Corsair สามารถขยายการกำหนดค่าการถอดรหัสแบบคาดการณ์และ AFD ให้รองรับโมเดลที่มีพารามิเตอร์หลายแสนล้านรายการ โดยยก GLM 5.x และ Kimi K3 เป็นเป้าหมาย

นักวิจัยของ d-Matrix จะนำเสนอการสาธิต AFD แบบสดที่บูธ C82 ของบริษัทในงาน OCP วันที่ 14 ตุลาคม 2026 เวลา 11.00 น. และ 14.00 น. PT และวันที่ 15 ตุลาคม 2026 เวลา 11.00 น. PT