Z.ai сообщает о выводе GLM-5.3-Flash, построенного на 100 000 китайских чипов

Z.ai 17 сентября 2026 года опубликовала технический отчёт, описывающий, как она построила полностью производственный сервис вывода для модели GLM-5.3-Flash с нуля на кластере из более чем 100 000 китайских AI‑ускорителей. По словам компании, большая часть работы была выполнена Infra Agent, работающим на базе GLM-5.3, а не только инженерами инфраструктуры, и весь производственный вывод для GLM-5.3-Flash работает в этой системе.

Z.ai заявила, что ранее никто не эксплуатировал кластер китайских ускорителей в таком масштабе. Компания указала на относительно ограниченную ёмкость и пропускную способность памяти на кристалле, новую архитектуру модели, контекстное окно в 1 млн токенов и мультимодальные запросы, а также на незрелую экосистему, в которой поддержка ядер была неполной, и инженерам приходилось угадывать поведение, которое должно было быть задокументировано.

GLM-5.3-Flash запущена 26 августа 2026 г. как первая нативно мультимодальная модель в серии GLM-5, с общим числом параметров 320 млрд и 18 млрд активных параметров в гибридной архитектуре, сочетающей разреженное и линейное внимание. Перед выпуском Z.ai тестировала модель анонимно под именем ox-alpha на OpenCode и OpenRouter, и компания заявила, что она стала самой используемой моделью на обеих платформах в течение недели после запуска, обработав более 62 трлн токенов за шесть дней.

Метод плотной обратной связи

В центре отчёта лежит системная проблема: сквозные метрики могут сообщить агенту, что результаты ухудшились, но не объяснить причину. Неудачный тест числовой точности, увеличение времени до первого токена на 30 % или падение пропускной способности вывода на 20 % не указывают, какой слой отвечает за проблему и что проверять дальше. Ответ Z.ai, который они называют плотной обратной связью, объединяет тесты корректности, журналы выполнения, трассировки, события выполнения, микробенчмарки и сквозные метрики в повторяемые рабочие процессы, позволяющие агенту локально проверять каждую гипотезу, а не ждать полного развертывания и нагрузочного теста после каждого изменения.

Компания определяет три обязательных свойства такой обратной связи. Она должна быть локальной, по возможности привязанной к конкретным параметрам запуска, изменениям кода, ядрам, условиям ввода, потокам, интервалам выполнения или путям кода. Она должна быть недорогой и получаться своевременно. И она должна поддерживать объективную проверку через эталонные реализации и контролируемые эксперименты, поскольку наблюдаемые корреляции сами по себе не устанавливают первопричину.

В описанном цикле запуска инженеры определяли цели и границы системы, а также проверяли критические изменения, связанные с числовой семантикой, поведением параллелизма и производственным риском, в то время как агент занимался анализом, гипотезами и изменениями кода. Совместно оптимизированный стек включал внутрипроцессный тензорный параллелизм для линейного внимания и LM‑Head, ReplaySSM, квантизацию W8A8, квантизацию кэша смешанной точности INT8/FP8/BF16 и разделение слоёв в рамках дезагрегированной архитектуры Encode‑Prefill‑Decode.

Три инженерных случая

Первый случай касается числовой точности. Сравнительная проверка разделённых и неразделённых путей выполнения ядра выявила проблему точности в пути Context Parallelism ядра KDA: операция tl.dot по умолчанию использовала вычисления TF32, даже когда её входы были FP32, из‑за чего ошибки накапливались при объединении состояний и усиливались с ростом длины контекста. Исправление явно задаёт точность входов как tf32x3, использующее три операции TF32 Tensor Core для получения более точного результата.

Согласно отчёту, исправления были внесены в основной репозиторий Flash Linear Attention. запрос на слияние, открытый и объединённый 27 августа 2026 г., применяет цепочку tf32x3 в ядрах обновления состояния и объединения трансформаций как опциональный путь точности, добавляет тесты Context Parallelism и явно откатывается к точности ieee на платформах без поддержки tf32 (AMD, NPU и графические процессоры NVIDIA ниже вычислительной возможности 8.0).

Второй случай касается узкого места параллелизма KV Transfer. По данным отчёта, инженеры установили критерий приемлемости, согласно которому при той же нагрузке Prefill плюс KV Transfer должны работать в пределах 5 % от базового уровня только Prefill. Агент обнаружил расхождения более 20 % в некоторых сценариях и проследил их до DeepEP v1.2.1, в котором ни intranode_dispatch ни intranode_combine вызов явно освобождал Python GIL. Пока эти вызовы удерживали блокировку, поток Mooncake Transfer Python в том же процессе не мог вовремя захватить GIL, из‑за чего планирование и отправка задач передачи откладывались, а их перекрытие с вычислениями сокращалось. В отчёте отмечается, что internode_dispatch в той же версии уже освобождал GIL, с комментарием в коде, указывающим, что цель — избежать блокировки KV Transfer в других потоках, пока процессор ждёт. После того как исправление освободило GIL во время соответствующих интервалов выполнения C++, согласно отчёту, разрыв упал ниже 1 % при тех же тестовых условиях.

Третий случай касается производительности ядра. Z.ai заставил агента извлекать техники из написанных вручную ядер в проектах, включая SGLang, Flash Linear Attention и DeepGEMM, в переиспользуемые скелеты оптимизации, содержащие условия применимости, методы трансформации, ограничения ресурсов и доказательства валидации. На репрезентативном ядре KDA Decode компания сообщает, что оптимизация деления агента сократила время выполнения на 9,6 %. После того как обратная связь выявила вычисления как основной узкий место, агент объединил плитки V‑измерения ядра, которые четырежды повторяли одинаковые вычисления нормализации FP32 и гейтинга, в один блок потоков с промежуточными результатами, хранящимися в регистрах, и одной редукцией на уровне warp, что, по заявлению компании, дало ускорение 1,71× по сравнению с предыдущей версией.

Заявленные результаты и рекурсивное самосовершенствование

Z.ai сообщает, что GLM-5.3-Flash прошёл от начальной адаптации модели до готовности к производству менее чем за две недели, при этом сквозная пропускная способность в конечном итоге утроилась по сравнению с исходным базовым уровнем. Компания также заявила, что эффективность использования аппаратных ресурсов и стоимость за токен достигли уровней, сопоставимых с массовыми GPU от NVIDIA.

Компания позиционирует эту работу как ранний пример рекурсивного самосовершенствования, отмечая, что модель участвовала в оптимизации системы вывода, на которой она работает. При этом Z.ai признаёт, что пока рекурсивное самосовершенствование не достигнуто, а выбор целей, установление границ и оценка рисков остаются человеческой ответственностью, которую, по их мнению, должны продолжать выполнять люди.