Z.ai รายละเอียด GLM-5.3-Flash Inference สร้างบนชิปจีน 100,000 ตัว

Z.ai เมื่อ 17 กันยายน 2026 เผยแพร่ บัญชีเชิงเทคนิค ที่อธิบายว่าบริษัทสร้างบริการสรุปผลการสรุปผลระดับการผลิตเต็มรูปแบบสำหรับโมเดล GLM-5.3-Flash ของตนตั้งแต่ต้นบนคลัสเตอร์ที่มี AI accelerators ผลิตในจีนมากกว่า 100,000 ตัว ตามบริษัท งานส่วนใหญ่ดำเนินการโดย Infra Agent ที่ใช้ GLM-5.3 แทนที่จะเป็นวิศวกรโครงสร้างพื้นฐานเพียงอย่างเดียว และการสรุปผลการผลิตทั้งหมดสำหรับ GLM-5.3-Flash ทำงานบนระบบนี้

Z.ai กล่าวว่าไม่มีใครเคยดำเนินการคลัสเตอร์ของ accelerators ผลิตในจีนในขนาดนี้มาก่อน บริษัทอ้างว่ามีความจุหน่วยความจำบนชิปและแบนด์วิดท์ที่ค่อนข้างจำกัด สถาปัตยกรรมโมเดลใหม่ หน้าต่างบริบท 1 ล้านโทเคน และคำขอหลายโหมด พร้อมกับระบบนิเวศที่ยังไม่สมบูรณ์ซึ่งการสนับสนุนเคอร์เนลไม่ครบถ้วนและวิศวกรต้องคาดเดาพฤติกรรมที่ควรได้รับการบันทึกไว้

GLM-5.3-Flash เปิดตัวเมื่อ 26 สิงหาคม 2026 เป็นโมเดลหลายโหมดแบบเนทีฟแรกในชุด GLM-5 โดยมีพารามิเตอร์ทั้งหมด 320 พันล้านตัวและพารามิเตอร์ที่ใช้งาน 18 พันล้านตัวภายใต้สถาปัตยกรรมไฮบริดที่ผสมผสานการใส่ใจแบบ sparse และ linear ก่อนการเปิดตัว Z.ai ทดสอบโมเดลโดยไม่เปิดเผยชื่อเป็น ox-alpha บน OpenCode และ OpenRouter และบริษัทกล่าวว่าโมเดลนี้กลายเป็นโมเดลที่ใช้มากที่สุดบนทั้งสองแพลตฟอร์มภายในหนึ่งสัปดาห์หลังการเปิดตัว โดยประมวลผลมากกว่า 62 ล้านล้านโทเคนในหกวัน

วิธีการฟีดแบ็กแบบหนาแน่น

ใจกลางของบัญชีนี้คือปัญหาระบบ: เมตริกซ์แบบต้นถึงปลายสามารถบอกเอเจนต์ว่าผลลัพธ์แย่ลง แต่ไม่บอกเหตุผล การทดสอบความแม่นยำเชิงตัวเลขที่ล้มเหลว การเพิ่มขึ้น 30% ของเวลาในการได้โทเคนแรก หรือการลดลง 20% ของอัตราการส่งออก ไม่ได้ระบุว่าชั้นใดเป็นสาเหตุหรือควรทดสอบอะไรต่อไป คำตอบของ Z.ai ซึ่งเรียกว่า dense feedback จะรวมการทดสอบความถูกต้อง, บันทึกการทำงาน, ร่องรอยการดำเนินการ, เหตุการณ์ระหว่างการทำงาน, การวัดประสิทธิภาพย่อย, และเมตริกซ์แบบต้นถึงปลายเข้าเป็นกระบวนการทำงานที่ทำซ้ำได้ ซึ่งทำให้เอเจนต์สามารถตรวจสอบสมมติฐานแต่ละข้อได้ในระดับท้องถิ่นโดยไม่ต้องรอการปรับใช้เต็มรูปแบบและการทดสอบโหลดหลังการเปลี่ยนแปลงทุกครั้ง

บริษัทกำหนดคุณสมบัติที่จำเป็นสามประการสำหรับฟีดแบ็กดังกล่าว ต้องเป็นแบบท้องถิ่นและเชื่อมโยงได้เท่าที่เป็นไปได้กับพารามิเตอร์การเปิดตัวเฉพาะ, การเปลี่ยนแปลงโค้ด, เคอร์เนล, เงื่อนไขอินพุต, เธรด, ช่วงเวลาการดำเนินการ หรือเส้นทางโค้ด ต้องได้มาอย่างประหยัดและทันเวลา และต้องสนับสนุนการตรวจสอบเชิงวัตถุผ่านการนำไปใช้เป็นอ้างอิงและการทดลองที่ควบคุม เนื่องจากความสัมพันธ์ที่สังเกตได้เพียงอย่างเดียวไม่สามารถยืนยันสาเหตุหลัก

ในวงจรการเปิดตัวที่บัญชีอธิบาย วิศวกรกำหนดเป้าหมายและขอบเขตของระบบและตรวจสอบการเปลี่ยนแปลงสำคัญที่เกี่ยวข้องกับความหมายเชิงตัวเลข, พฤติกรรมการทำงานพร้อมกัน, และความเสี่ยงการผลิต ในขณะที่เอเจนต์จัดการการวิเคราะห์, สมมติฐาน, และการเปลี่ยนแปลงโค้ด สแต็กที่พวกเขาเพิ่มประสิทธิภาพร่วมกันรวมการขนานเทนเซอร์ภายในโหนดสำหรับ linear attention และ LM Head, ReplaySSM, การควอนไทซ์ W8A8, การควอนไทซ์แคชแบบผสมความแม่นยำ INT8/FP8/BF16, และ Layer Split ภายใต้สถาปัตยกรรม Encode-Prefill-Decode ที่แยกส่วน

สามกรณีวิศวกรรม

กรณีแรกเกี่ยวกับความถูกต้องเชิงตัวเลข การตรวจสอบโดยเปรียบเทียบเส้นทางการดำเนินการเคอร์เนลที่แบ่งส่วนและไม่แบ่งส่วนเผยปัญหาความแม่นยำในเส้นทาง Context Parallelism ของเคอร์เนล KDA: การดำเนินการ tl.dot ตั้งค่าเริ่มต้นเป็นการคำนวณ TF32 แม้อินพุตจะเป็น FP32 ทำให้ข้อผิดพลาดสะสมระหว่างการรวมสถานะและเพิ่มขึ้นเมื่อความยาวบริบทเพิ่มขึ้น การแก้ไขได้ตั้งค่าความแม่นยำของอินพุตเป็น tf32x3 อย่างชัดเจน ซึ่งใช้การดำเนินการ Tensor Core TF32 จำนวนสามครั้งเพื่อให้ได้ผลลัพธ์ที่มีความแม่นยำสูงกว่า

ตามบัญชี การแก้ไขได้ถูกรวมเข้าไปใน Flash Linear Attention การ คำขอดึง ที่เปิดและถูกรวมเมื่อ 27 สิงหาคม 2026 นำโซ่ tf32x3 affine ไปใช้ในเคอร์เนลอัปเดตสถานะและการรวมการแปลงเป็นเส้นทางความแม่นยำแบบ opt‑in เพิ่มการทดสอบ Context Parallelism และกำหนดให้กลับไปใช้ความแม่นยำ ieee อย่างชัดเจนบนแพลตฟอร์มที่ไม่มีการสนับสนุน tf32 (AMD, NPU, และ GPU ของ NVIDIA ที่มี compute capability ต่ำกว่า 8.0)

กรณีที่สองเกี่ยวกับคอขวดความพร้อมกันของ KV Transfer ตามบัญชี วิศวกรตั้งเกณฑ์การยอมรับว่า ภายใต้ภาระงานเดียวกัน Prefill บวก KV Transfer ควรทำงานภายใน 5% ของฐาน Prefill‑only เอเจนต์พบช่องว่างเกิน 20% ในบางสถานการณ์และสืบค้นสาเหตุไปที่ DeepEP v1.2.1 ซึ่งทั้ง การกระจายหรือโหนดภายในการรวม คำเรียกไม่ปล่อย Python GIL อย่างชัดเจน ตราบใดที่คำเรียกเหล่านั้นถือล็อก เธรด Mooncake Transfer ของ Python ในกระบวนการเดียวกันไม่สามารถรับ GIL ได้ทันเวลา ทำให้การจัดตารางและการส่งงานโอนย้ายล่าช้าและการทับซ้อนกับการคำนวณลดลง บัญชีระบุว่า internode_dispatch ในเวอร์ชันเดียวกันได้ปล่อย GIL แล้ว พร้อมคอมเมนต์ในโค้ดระบุว่าต้องการหลีกเลี่ยงการบล็อก KV Transfer ในเธรดอื่นขณะ CPU รอ หลังจากการแก้ไขปล่อย GIL ในช่วงเวลาการดำเนินการ C++ ที่เกี่ยวข้อง ช่องว่างลดลงต่ำกว่า 1% ภายใต้เงื่อนไขการทดสอบเดียวกัน

กรณีที่สามเกี่ยวกับประสิทธิภาพของเคอร์เนล Z.ai ให้เอเจนต์สกัดเทคนิคจากเคอร์เนลที่เขียนด้วยมือในโครงการต่าง ๆ รวมถึง SGLang, Flash Linear Attention, และ DeepGEMM ไปเป็นโครงสร้างการปรับแต่งที่นำกลับมาใช้ใหม่ได้ ซึ่งบรรจุเงื่อนไขการใช้งาน วิธีการแปลงทรัพยากร ข้อจำกัดของทรัพยากร และหลักฐานการตรวจสอบ บนเคอร์เนล KDA Decode ตัวอย่างหนึ่ง บริษัทรายงานว่าการปรับแต่งการหารส่วนของเอเจนต์ทำให้เวลาการทำงานลดลง 9.6% หลังจากได้รับข้อเสนอแนะว่าการคำนวณเป็นคอขวดหลัก เอเจนต์จึงรวมแผ่นย่อยในมิติ V ของเคอร์เนล ซึ่งทำการทำ normalization และ gating แบบ FP32 ซ้ำสี่ครั้ง ให้เป็นบล็อกเธรดเดียวที่เก็บผลลัพธ์ชั่วคราวในรีจิสเตอร์และทำการลดระดับ warp หนึ่งครั้ง ส่งผลให้บริษัทรายงานการเพิ่มความเร็ว 1.71× เมื่อเทียบกับเวอร์ชันก่อนหน้า

ผลลัพธ์ที่ระบุและการปรับปรุงตนเองแบบเรียกซ้ำ

Z.ai รายงานว่า GLM-5.3-Flash ใช้เวลาไม่ถึงสองสัปดาห์ในการเปลี่ยนจากการปรับแบบจำลองเบื้องต้นไปสู่ความพร้อมสำหรับการผลิต โดยอัตราการส่งผ่านแบบ end-to-end เพิ่มขึ้นเป็นสามเท่าของฐานเริ่มต้น บริษัทยังกล่าวว่าประสิทธิภาพการใช้ฮาร์ดแวร์และต้นทุนต่อโทเคนได้ระดับที่เทียบเคียงได้กับ GPU ของ NVIDIA ที่เป็นกระแสหลัก

บริษัทตั้งความพยายามนี้เป็นตัวอย่างเบื้องต้นของการปรับปรุงตนเองแบบเรียกซ้ำ โดยระบุว่าโมเดลมีส่วนร่วมในการปรับระบบการสรุปผลที่มันทำงานอยู่ในขณะเดียวกัน Z.ai ยืนยันว่ายังไม่บรรลุการปรับปรุงตนเองแบบเรียกซ้ำ และการเลือกวัตถุประสงค์ การกำหนดขอบเขต และการประเมินความเสี่ยงยังคงเป็นความรับผิดชอบของมนุษย์ที่บริษัทเชื่อว่าควรให้มนุษย์ดำเนินต่อไป