Z.ai รายละเอียด GLM-5.3-Flash Inference สร้างบนชิปจีน 100,000 ตัว

Z.ai เมื่อ 17 กันยายน 2026 ได้เผยแพร่ บทความเชิงเทคนิค ที่อธิบายว่าบริษัทสร้างบริการ inference ระดับการผลิตที่สมบูรณ์สำหรับโมเดล GLM-5.3-Flash ของตนตั้งแต่ต้นบนคลัสเตอร์ที่มี AI accelerator ผลิตในจีนมากกว่า 100,000 ตัว ตามที่บริษัทระบุ งานส่วนใหญ่ดำเนินการโดย Infra Agent ที่ขับเคลื่อนด้วย GLM-5.3 แทนที่จะเป็นวิศวกรโครงสร้างพื้นฐานเพียงอย่างเดียว และการ inference ทั้งหมดของ GLM-5.3-Flash ในการผลิตทำงานบนระบบนี้

Z.ai กล่าวว่าไม่มีใครเคยดำเนินการคลัสเตอร์ของ accelerator ผลิตในจีนในระดับนี้มาก่อน บริษัทอ้างว่ามีข้อจำกัดด้านความจุหน่วยความจำบนชิปและแบนด์วิธที่ค่อนข้างจำกัด สถาปัตยกรรมโมเดลใหม่ หน้าต่างบริบทขนาด 1 ล้านโทเคน และคำขอหลายโหมด พร้อมกับระบบนิเวศที่ยังไม่สมบูรณ์ซึ่งการสนับสนุน kernel ไม่ครบถ้วนและวิศวกรต้องคาดเดาพฤติกรรมที่ควรได้รับการบันทึกไว้

GLM-5.3-Flash เปิดตัวเมื่อ 26 สิงหาคม 2026 เป็นโมเดลหลายโหมดแบบดั้งเดิมแรกในชุด GLM-5 โดยมีพารามิเตอร์ทั้งหมด 320 พันล้านตัวและพารามิเตอร์ที่ใช้งานจริง 18 พันล้านตัว ภายใต้สถาปัตยกรรมไฮบริดที่ผสมผสาน sparse และ linear attention ก่อนการเปิดตัว Z.ai ได้ทดสอบโมเดลโดยไม่เปิดเผยชื่อว่า ox-alpha บน OpenCode และ OpenRouter และบริษัทระบุว่าโมเดลนี้กลายเป็นโมเดลที่ใช้มากที่สุดบนทั้งสองแพลตฟอร์มภายในหนึ่งสัปดาห์หลังเปิดตัว โดยประมวลผลมากกว่า 62 ล้านล้านโทเคนในหกวัน

วิธีการฟีดแบ็กแบบหนาแน่น

ศูนย์กลางของรายงานคือปัญหาระบบ: ตัวชี้วัดแบบ end-to-end สามารถบอกเอเจนต์ว่าผลลัพธ์แย่ลงได้ แต่ไม่บอกสาเหตุ การทดสอบความแม่นยำเชิงตัวเลขที่ล้มเหลว การเพิ่มเวลาไปยังโทเคนแรกขึ้น 30% หรือการลดอัตราการส่งออกลง 20% ไม่ได้ระบุว่าชั้นใดเป็นสาเหตุหรือควรทดสอบอะไรต่อไป คำตอบของ Z.ai ซึ่งเรียกว่า dense feedback จะรวมการทดสอบความถูกต้อง, บันทึกเวลารัน, ร่องรอยการดำเนินการ, เหตุการณ์เวลารัน, การวัดจุดย่อย, และตัวชี้วัดแบบ end-to-end เข้ากับกระบวนการทำงานที่ทำซ้ำได้ ทำให้เอเจนต์สามารถตรวจสอบสมมติฐานแต่ละข้อได้ในระดับท้องถิ่นโดยไม่ต้องรอการปรับใช้เต็มรูปแบบและการทดสอบโหลดหลังการเปลี่ยนแปลงแต่ละครั้ง

บริษัทกำหนดคุณสมบัติที่จำเป็นสามประการสำหรับฟีดแบ็กดังกล่าว ต้องเป็นแบบท้องถิ่นและเชื่อมโยงได้เท่าที่เป็นไปได้กับพารามิเตอร์การเปิดตัวเฉพาะ, การเปลี่ยนแปลงโค้ด, kernel, เงื่อนไขอินพุต, เธรด, ช่วงเวลาการดำเนินการ หรือเส้นทางของโค้ด ต้องได้มาอย่างประหยัดและทันท่วงที และต้องสนับสนุนการตรวจสอบเชิงวัตถุผ่านการนำไปใช้เป็นอ้างอิงและการทดลองที่ควบคุม เนื่องจากความสัมพันธ์ที่สังเกตได้เพียงอย่างเดียวไม่สามารถสรุปสาเหตุรากฐานได้

ในลูปการเปิดตัวที่อธิบายไว้ วิศวกรกำหนดเป้าหมายและขอบเขตของระบบและตรวจสอบการเปลี่ยนแปลงสำคัญที่เกี่ยวข้องกับความหมายเชิงตัวเลข, พฤติกรรมการทำงานพร้อมกัน, และความเสี่ยงในการผลิต ในขณะที่เอเจนต์รับหน้าที่วิเคราะห์, สร้างสมมติฐาน, และเปลี่ยนแปลงโค้ด สแต็กที่พวกเขาได้ปรับร่วมกันรวมการขนานเทนเซอร์ภายในโหนดสำหรับ linear attention และ LM Head, ReplaySSM, การควอนไทซ์ W8A8, การควอนไทซ์แคชแบบผสมความแม่นยำ INT8/FP8/BF16, และ Layer Split ภายใต้สถาปัตยกรรม Encode-Prefill-Decode แบบแยกส่วน

กรณีวิศวกรรมสามกรณี

กรณีแรกเกี่ยวกับความถูกต้องเชิงตัวเลข การตรวจสอบโดยเปรียบเทียบเส้นทางการดำเนินการ kernel ที่แบ่งส่วนและไม่แบ่งส่วนเผยให้เห็นปัญหาความแม่นยำในเส้นทาง Context Parallelism ของ kernel KDA: การดำเนินการ tl.dot ตั้งค่าเป็นการคำนวณ TF32 โดยอัตโนมัติแม้ว่าอินพุตจะเป็น FP32 ทำให้เกิดข้อผิดพลาดสะสมระหว่างการรวมสถานะและเพิ่มขึ้นเมื่อความยาวบริบทเพิ่มขึ้น การแก้ไขได้กำหนดความแม่นยำของอินพุตเป็น tf32x3 อย่างชัดเจน ซึ่งใช้การดำเนินการ Tensor Core TF32 สามครั้งเพื่อให้ได้ผลลัพธ์ที่มีความแม่นยำสูงกว่า

ตามรายงาน การแก้ไขได้ถูกรวมเข้ากับ Flash Linear Attention ด้านบน คำขอดึง ที่เปิดและรวมเข้ากับระบบเมื่อ 27 สิงหาคม 2026 นำโซ่ affine tf32x3 ไปใช้ใน kernel การอัปเดตสถานะและการรวมการแปลงเป็นเส้นทางความแม่นยำแบบเลือกใช้ เพิ่มการทดสอบ Context Parallelism และกำหนดให้ย้อนกลับไปใช้ความแม่นยำ ieee อย่างชัดเจนบนแพลตฟอร์มที่ไม่มีการสนับสนุน tf32 (AMD, NPU, และ NVIDIA GPU ที่มีความสามารถคอมพิวต์ต่ำกว่า 8.0)

กรณีที่สองเกี่ยวกับคอขวดการทำงานพร้อมกันของ KV Transfer ตามรายงาน วิศวกรตั้งเกณฑ์การยอมรับว่า ภายใต้ภาระงานเดียวกัน Prefill บวก KV Transfer ควรทำงานภายใน 5% ของฐานข้อมูล Prefill‑only เอเจนต์พบช่องว่างเกิน 20% ในบางสถานการณ์และติดตามสาเหตุไปยัง DeepEP v1.2.1 ซึ่งในนั้นไม่มี intranode_dispatch หรือ intranode_combine การเรียกใช้ดังกล่าวได้ปล่อย Python GIL อย่างชัดเจน ตราบใดที่การเรียกเหล่านั้นถือครองล็อก เธรด Python ของ Mooncake Transfer ในกระบวนการเดียวกันไม่สามารถรับ GIL ได้ทันเวลา ทำให้การจัดตารางและการส่งงานการโอนล่าช้าและการทับซ้อนกับการคำนวณลดลง รายงานระบุว่า internode_dispatch ในเวอร์ชันเดียวกันได้ปล่อย GIL ไปแล้ว พร้อมคอมเมนต์ในโค้ดระบุว่าจุดประสงค์คือหลีกเลี่ยงการบล็อก KV Transfer ในเธรดอื่นขณะ CPU รอ หลังจากการแก้ไขปล่อย GIL ระหว่างช่วงเวลาการดำเนินการ C++ ที่เกี่ยวข้อง รายงานระบุว่าช่องว่างลดลงต่ำกว่า 1% ภายใต้เงื่อนไขการทดสอบเดียวกัน

กรณีที่สามเกี่ยวกับประสิทธิภาพของเคอร์เนล Z.ai ได้ทำให้เอเจนต์สกัดเทคนิคจากเคอร์เนลที่เขียนด้วยมือในโครงการต่าง ๆ เช่น SGLang, Flash Linear Attention และ DeepGEMM ไปเป็นโครงสร้างการปรับแต่งที่นำกลับมาใช้ใหม่ได้ ซึ่งรวมถึงเงื่อนไขการนำไปใช้ วิธีการแปลงข้อจำกัดของทรัพยากร และหลักฐานการตรวจสอบ บนเคอร์เนล KDA Decode ตัวอย่างหนึ่ง บริษัทรายงานว่า การปรับแต่งการแบ่งส่วนของเอเจนต์ทำให้เวลาการดำเนินการลดลง 9.6% หลังจากได้รับข้อเสนอแนะว่าการคำนวณเป็นคอขวดหลัก เอเจนต์ได้รวมแผ่นย่อยมิติ V ของเคอร์เนล ซึ่งทำการทำ Normalization และการคำนวณ gating แบบ FP32 ซ้ำสี่ครั้ง ให้เป็นบล็อกเธรดเดียวที่เก็บผลลัพธ์ชั่วคราวในรีจิสเตอร์และทำการลดผลลัพธ์ระดับ warp หนึ่งครั้ง ส่งผลให้บริษัทอ้างว่าได้ความเร็วเพิ่มขึ้น 1.71 เท่าจากเวอร์ชันก่อนหน้า

ผลลัพธ์ที่ระบุและการพัฒนาตนเองแบบวนซ้ำ

Z.ai รายงานว่า GLM-5.3-Flash ใช้เวลาน้อยกว่าสองสัปดาห์ในการปรับโมเดลจากขั้นตอนเริ่มต้นจนพร้อมใช้งานในผลิตภัณฑ์จริง โดยอัตราการส่งผ่านข้อมูลแบบครบวงจรเพิ่มขึ้นเป็นสามเท่าของฐานเริ่มต้น บริษัทยังระบุว่าประสิทธิภาพการใช้ฮาร์ดแวร์และต้นทุนต่อโทเคนอยู่ในระดับที่เทียบเคียงได้กับ GPU ของ NVIDIA ที่เป็นมาตรฐาน

บริษัทอธิบายความพยายามนี้ว่าเป็นตัวอย่างแรกของการพัฒนาตนเองแบบวนซ้ำ โดยระบุว่าโมเดลมีส่วนร่วมในการปรับระบบการสรุปผลที่มันทำงานอยู่ในขณะเดียวกัน Z.ai ยืนยันว่าตอนนี้ยังไม่ถึงขั้นการพัฒนาตนเองแบบวนซ้ำเต็มรูปแบบ และการกำหนดเป้าหมาย การตั้งขอบเขต และการประเมินความเสี่ยงยังคงเป็นความรับผิดชอบของมนุษย์ที่บริษัทเชื่อว่าควรดำเนินต่อไป