โมเดลและแพลตฟอร์ม AI
Cerebras นำการอนุมานแบบแยกส่วนมาใช้งานจริงร่วมกับ GPU

ประเด็นสำคัญCerebras วัดปริมาณงานต่อเมกะวัตต์ได้มากกว่าห้าเท่าโดยการย้ายการประมวลผลพรอมต์ไปยัง GPU…
ดูเพิ่มเติม
- Cerebras วัดปริมาณงานต่อเมกะวัตต์ได้มากกว่าห้าเท่าโดยการย้ายการประมวลผลพรอมต์ไปยัง GPU ของ AMD
- การแยก prefill ออกจาก decode ทำให้ SRAM ระดับเวเฟอร์ยังคงทุ่มเทให้กับการสร้างโทเค็นที่จำกัดด้วยหน่วยความจำ
- พันธมิตรสามารถนำชุดซอฟต์แวร์แบบเต็มหรือ SDK สำหรับ decode เท่านั้นไปใช้กับเฟรมเวิร์กของตนเองได้
Cerebras Systems รายงานเมื่อวันที่ 17 พฤศจิกายน 2026 ว่าการติดตั้งระบบอนุมานแบบแยกส่วนที่ใช้งานจริง ซึ่งมอบหมายให้ GPU AMD Instinct ประมวลผลพรอมป์ต์ และให้ระบบ CS-3 สร้างคำตอบ ทำอัตรารับส่งข้อมูลต่อเมกะวัตต์ได้สูงกว่าการใช้ระบบ CS-3 เพียงอย่างเดียวถึงห้าเท่า โดยไม่ลดความเร็วในการสร้างโทเคน
ผลลัพธ์นี้ใช้กับ Cerebras Inference Cloud การวัดผลมาจากปลายทาง GPT-OSS-120B แบบใช้ร่วมกัน เมื่อวันที่ 14 พฤศจิกายน 2026 โดยเปรียบเทียบอัตรารับส่งข้อมูลต่อเมกะวัตต์ก่อนและหลังเปิดใช้การประมวลผลแบบแยกส่วน และปรับค่าของการกำหนดค่าแบบรวมให้มีค่าฐานเท่ากับ 1× การย้ายงานประมวลผลพรอมป์ต์ไปยัง GPU ทำให้กำลังการให้บริการของระบบ CS-3 พร้อมใช้สำหรับสร้างคำตอบ ส่งผลให้ Cerebras เพิ่มขีดความสามารถในการอนุมานความเร็วสูงที่ให้บริการผ่านคลาวด์ได้
การเปิดเผยการใช้งานจริงครั้งนี้เกิดขึ้นต่อจากคำอธิบายของ Cerebras เมื่อวันที่ 1 ตุลาคม 2026 เกี่ยวกับการอนุมานแบบแยกส่วน ซึ่งรายงานว่าการทดสอบเบื้องต้นทำได้เพิ่มขึ้น 5× โดยใช้พื้นที่ติดตั้งเครื่องยนต์แบบเวเฟอร์สเกลเท่าเดิม ประกาศครั้งใหม่นี้ต่อยอดจากผลเบื้องต้นดังกล่าว ด้วยการเปิดเผยผลการวัดจากการใช้งานจริงและชุดติดตั้งสำหรับพันธมิตรด้านโครงสร้างพื้นฐาน
เหตุใด Cerebras จึงแยกขั้นตอน Prefill และ Decode
คำขออนุมานแต่ละรายการมีขั้นตอนหลักสองขั้นตอน Prefill ประมวลผลพรอมป์ต์ขาเข้าและสร้างสถานะระหว่างของโมเดล ส่วน decode ใช้สถานะดังกล่าวสร้างโทเคนผลลัพธ์ทีละโทเคน โดยป้อนโทเคนใหม่แต่ละตัวกลับเข้าสู่โมเดล เนื่องจากการทำงานในขั้น decode แต่ละรอบต้องอ่านข้อมูลโมเดลจากหน่วยความจำอีกครั้ง แบนด์วิดท์หน่วยความจำจึงเป็นปัจจัยสำคัญต่อความเร็วในการสร้างข้อความแบบโต้ตอบ ส่วน prefill ทำการคำนวณกับพรอมป์ต์แบบขนานได้มากกว่า จึงเหมาะกับตัวเร่งความเร็วที่ออกแบบมารองรับภาระการคำนวณลักษณะนี้
ระบบเวเฟอร์สเกลของ Cerebras จัดเก็บข้อมูลโมเดลไว้ใน SRAM บนชิป แทนที่จะพึ่งพาหน่วยความจำแบนด์วิดท์สูงนอกชิปเป็นหลัก Cerebras ระบุว่าชิปเวเฟอร์สเกลของบริษัทมี SRAM หลายสิบกิกะไบต์ และแบนด์วิดท์หน่วยความจำหลายสิบเพตะไบต์ต่อวินาที ซึ่งมากกว่า GPU GB300 ทั่วไป 350× ในด้านความจุ SRAM และ 5,400× ในด้านแบนด์วิดท์หน่วยความจำ ความจุดังกล่าวช่วยให้คำขอที่ทำงานพร้อมกันได้มากขึ้นและเลเยอร์ของโมเดลจำนวนมากขึ้นยังคงอยู่บนชิปโดยตรง เพื่อให้ทำงานในขั้น decode ได้รวดเร็ว
เป้าหมายทางเศรษฐกิจคือการเพิ่มขีดความสามารถในการให้บริการลูกค้าและโอกาสสร้างรายได้จากงบพลังงานเท่าเดิมในศูนย์ข้อมูลที่มีข้อจำกัดด้านพลังงาน Cerebras ยก Muse, Copilot และ Codex เป็นตัวอย่างของแอปพลิเคชันแบบเอเจนต์ที่กำลังขยายตัวอย่างรวดเร็วและต้องการการตอบสนองที่โต้ตอบได้สูง ดังนั้น การเพิ่มขีดความสามารถจึงต้องรักษาความเร็วในการสร้างผลลัพธ์ไว้ จึงจะเป็นประโยชน์ต่อเวิร์กโหลดเหล่านี้
สถาปัตยกรรมการติดตั้งและซอฟต์แวร์
พันธมิตรด้านโครงสร้างพื้นฐานสามารถใช้สถาปัตยกรรมอ้างอิงที่ Cerebras จัดหาให้ เพื่อติดตั้งตัวเร่งความเร็วสำหรับ prefill ที่เลือกไว้ร่วมกับระบบ Cerebras บนเครือข่ายแบบรวม จากนั้นเลือกแนวทางการผสานระบบได้สองแบบ ได้แก่ ชุดซอฟต์แวร์แบบครบวงจรที่ออกแบบมาเพื่อลดระยะเวลาสู่ตลาด หรือ SDK สำหรับ decode โดยเฉพาะสำหรับพันธมิตรที่ต้องการควบคุมระบบได้มากขึ้น
ชุดซอฟต์แวร์แบบครบวงจรจะกำหนดเส้นทางคำขอระหว่างกลุ่ม prefill และ decode พร้อมจัดการความจุและสถานะการทำงานของเรพลิกา เอ็นจิน prefill สามารถทำงานร่วมกับเอ็นจินอนุมานแบบโอเพนซอร์ส เช่น vLLM หรือ SGLang ขณะที่ Cerebras จัดหาเอ็นจิน decode ให้ KV Portal ถ่ายโอนสถานะระหว่างของโมเดลระหว่างเอ็นจินทั้งสองผ่าน RDMA ซึ่งรวมถึงแคชคีย์-แวลูที่เก็บบริบทเฉพาะของแต่ละคำขอไว้หลังการทำ prefill
เมื่อเลือกใช้ตัวเลือก decode โดยเฉพาะ พันธมิตรจะยังคงใช้เฟรมเวิร์กการอนุมานและเอ็นจิน prefill ของตนเอง พร้อมกับใช้เอ็นจิน decode และ KV Portal ของ Cerebras SDK ยังมีเรพลิกา decode จำลองและตัวอย่างการผสานระบบอ้างอิงที่ใช้เฟรมเวิร์กการอนุมานแบบแยกส่วนและเอ็นจิน prefill แบบโอเพนซอร์สด้วย โดยมี Amazon Web Services, Fireworks AI, Gimlet Labs และ General Compute เป็นพันธมิตรกลุ่มแรกที่ได้รับสิทธิ์เข้าถึงก่อน และ Cerebras กำลังขยายการเข้าถึงให้แก่พันธมิตรรายอื่นเพิ่มเติม
เป้าหมายด้านขีดความสามารถ
Cerebras มีแผนติดตั้งระบบอนุมานแบบแยกส่วนในวงกว้าง ครอบคลุมกำลังไฟฟ้าหลายร้อยเมกะวัตต์ ทั้งในคลาวด์สำหรับการอนุมานของบริษัทเองและการติดตั้งของพันธมิตร ภายในสิ้นปี 2027 นี่คือเป้าหมายการติดตั้ง ไม่ใช่ขีดความสามารถที่เปิดใช้งานอยู่แล้ว
ดังนั้น ประกาศนี้จึงผสานการกำหนดค่าคลาวด์ที่ผ่านการวัดผลแล้วเข้ากับแนวทางด้านซอฟต์แวร์สำหรับผู้ให้บริการภายนอก คำถามสำคัญในการขยายระบบคือ ความได้เปรียบด้านอัตรารับส่งข้อมูลที่วัดได้จากปลายทางที่ใช้ร่วมกันเพียงแห่งเดียวจะทำซ้ำได้หรือไม่ เมื่อใช้งานกับตัวเร่งความเร็ว เฟรมเวิร์ก และขนาดการติดตั้งที่พันธมิตรเลือก ขณะที่ Cerebras เดินหน้าขยายการติดตั้งให้ครอบคลุมมากขึ้น












