Z.ai, 100,000개의 중국산 칩을 기반으로 한 GLM-5.3-Flash 추론 구축 상세

Z.ai는 2026년 9월 17일에 기술 보고서를 발표하여, 100,000개가 넘는 중국산 AI 가속기 클러스터에서 처음부터 GLM-5.3-Flash 모델을 위한 완전한 프로덕션급 추론 서비스를 구축한 과정을 설명했습니다. 회사에 따르면, 작업의 대부분은 인프라 엔지니어만이 아니라 GLM-5.3으로 구동되는 인프라 에이전트에 의해 수행되었으며, GLM-5.3-Flash의 모든 프로덕션 추론은 해당 시스템에서 실행됩니다.

Z.ai는 이전에 이 규모의 중국산 가속기 클러스터를 운영한 사례가 없다고 밝혔습니다. 회사는 상대적으로 제한된 온칩 메모리 용량 및 대역폭, 새로운 모델 아키텍처, 1백만 토큰 컨텍스트 창, 그리고 멀티모달 요청과 함께, 커널 지원이 미완성이고 엔지니어들이 문서화되어야 할 동작을 추측해야 했던 미성숙한 생태계를 언급했습니다.

GLM-5.3-Flash 2026년 8월 26일에 출시됨은 GLM-5 시리즈 최초의 네이티브 멀티모달 모델로, 총 3200억 파라미터와 180억 활성 파라미터를 갖춘 희소와 선형 어텐션을 결합한 하이브리드 아키텍처를 사용합니다. 출시 전, Z.ai는 모델을 ox-alpha라는 이름으로 OpenCode와 OpenRouter에서 익명으로 테스트했으며, 출시 일주일 만에 두 플랫폼 모두에서 가장 많이 사용된 모델이 되었고, 6일 동안 62조 토큰 이상을 처리했습니다.

밀집 피드백 방법

이 보고서의 핵심은 시스템 문제에 있습니다: 종단 간 메트릭은 결과가 악화되었음을 에이전트에게 알릴 수 있지만, 그 이유는 알려주지 못합니다. 수치 정확도 테스트 실패, 첫 토큰까지 걸린 시간 30% 증가, 출력 처리량 20% 감소와 같은 현상은 어느 레이어가 원인인지 혹은 다음에 무엇을 테스트해야 할지 보여주지 못합니다. Z.ai가 밀집 피드백이라고 부르는 방법은 정확성 테스트, 런타임 로그, 실행 추적, 런타임 이벤트, 마이크로벤치마크 및 종단 간 메트릭을 반복 가능한 워크플로우로 통합하여, 에이전트가 매 변경 후 전체 배포 및 부하 테스트를 기다리지 않고도 각 가설을 로컬에서 검증할 수 있게 합니다.

회사는 이러한 피드백에 대해 세 가지 필수 속성을 정의합니다. 첫째, 가능한 한 특정 런치 파라미터, 코드 변경, 커널, 입력 조건, 스레드, 실행 간격 또는 코드 경로와 연결된 로컬이어야 합니다. 둘째, 비용이 저렴하고 신속하게 얻을 수 있어야 합니다. 셋째, 참고 구현 및 통제된 실험을 통한 객관적 검증을 지원해야 합니다. 관찰된 상관관계만으로는 근본 원인을 입증할 수 없기 때문입니다.

보고서에서 설명하는 런치 루프에서 엔지니어들은 목표와 시스템 경계를 정의하고 수치 의미론, 동시성 동작, 프로덕션 위험과 관련된 중요한 변경 사항을 검토했으며, 에이전트는 분석, 가설 및 코드 변경을 담당했습니다. 그들이 공동으로 최적화한 스택은 선형 어텐션과 LM 헤드에 대한 노드 내부 텐서 병렬성을 결합하고, ReplaySSM, W8A8 양자화, 혼합 정밀도 INT8/FP8/BF16 캐시 양자화, 그리고 레이어 분할을 포함했으며, Encode-Prefill-Decode 분산 아키텍처 하에 구현되었습니다.

세 가지 엔지니어링 사례

첫 번째 사례는 수치 정확성에 관한 것입니다. 파티션된 커널 실행 경로와 파티션되지 않은 경로를 비교한 검증에서 KDA 커널의 컨텍스트 병렬성 경로에 정확도 문제가 드러났습니다: tl.dot 연산이 입력이 FP32임에도 불구하고 기본값으로 TF32 연산을 사용했기 때문에 상태 병합 중에 오류가 누적되고 컨텍스트 길이가 증가함에 따라 오류가 복합적으로 증가했습니다. 해결책은 입력 정밀도를 tf32x3으로 명시적으로 설정했으며, 이는 세 개의 TF32 텐서 코어 연산을 사용해 더 높은 정밀도의 결과를 제공합니다.

보고서에 따르면, 해당 수정 사항은 Flash Linear Attention에 상류로 병합되었습니다. 풀 리퀘스트는 2026년 8월 27일에 열리고 병합되었으며, 상태 업데이트 및 변환 병합 커널에 tf32x3 어핀 체인을 옵션 정확도 경로로 적용하고, 컨텍스트 병렬성 테스트를 추가하며, tf32를 지원하지 않는 플랫폼(AMD, NPU, 그리고 컴퓨트 능력 8.0 미만의 NVIDIA GPU)에서는 ieee 정밀도로 명시적으로 되돌아갑니다.

두 번째 사례는 KV 전송 동시성 병목 현상에 관한 것입니다. 보고서에 따르면, 엔지니어들은 동일한 워크로드에서 Prefill과 KV Transfer가 Prefill 전용 기준 대비 5% 이내로 실행되어야 한다는 수용 기준을 설정했습니다. 에이전트는 일부 시나리오에서 20%를 초과하는 차이를 발견하고 이를 DeepEP v1.2.1에서, 그 중에서도 intranode_dispatch 또는 intranode_combine 호출이 Python GIL을 명시적으로 해제했습니다. 이러한 호출이 락을 유지하는 한, 동일 프로세스 내의 Mooncake Transfer Python 스레드는 제때 GIL을 획득하지 못해 전송 작업의 스케줄링 및 제출이 지연되고, 계산과의 겹침이 감소했습니다. 보고서에 따르면, 같은 버전의 internode_dispatch는 이미 GIL을 해제했으며, 코드 주석에는 CPU가 대기하는 동안 다른 스레드의 KV Transfer를 차단하지 않기 위한 의도라고 명시되어 있습니다. 관련 C++ 실행 구간에서 GIL을 해제한 후, 동일 테스트 조건에서 격차는 1% 이하로 감소했다고 보고되었습니다.

세 번째 사례는 커널 성능과 관련됩니다. Z.ai는 SGLang, Flash Linear Attention, DeepGEMM 등 프로젝트에서 손으로 작성한 커널에서 기술을 추출하여 적용 조건, 변환 방법, 자원 제약 및 검증 증거를 담은 재사용 가능한 최적화 골격으로 만들었습니다. 대표적인 KDA Decode 커널에서, 회사는 에이전트의 분할 최적화가 실행 시간을 9.6% 단축시켰다고 보고했습니다. 피드백을 통해 계산이 주요 병목임이 확인된 후, 에이전트는 동일한 FP32 정규화와 게이팅 계산을 네 번 반복하던 커널의 V-차원 타일을 레지스터에 상주하는 중간 결과와 하나의 warp-level reduction을 포함하는 단일 스레드 블록으로 병합하여, 이전 버전 대비 1.71× 속도 향상을 달성했다고 보고했습니다.

제시된 결과와 재귀적 자기 개선

Z.ai는 GLM-5.3-Flash가 초기 모델 적용 단계에서 프로덕션 준비 단계까지 2주 미만에 진행되었으며, 최종적으로 엔드‑투‑엔드 처리량이 초기 기준 대비 3배가 되었다고 보고했습니다. 또한 회사는 하드웨어 활용 효율성과 토큰당 비용이 주류 NVIDIA GPU와 견줄 만한 수준에 도달했다고 밝혔습니다.

회사는 이 노력을 재귀적 자기 개선의 초기 사례로 제시하면서, 모델이 실행되는 추론 시스템 최적화에 참여했음을 언급했습니다. 동시에 Z.ai는 아직 재귀적 자기 개선 단계에 도달하지 못했으며, 목표 선택, 경계 설정, 위험 평가와 같은 책임은 인간이 계속 담당해야 할 인간의 책임이라고 강조했습니다.