Modele i platformy AI
Z.ai przedstawia GLM-5.3-Flash – wnioskowanie zbudowane na 100 000 chińskich chipów
Dodaj Unite.AI do preferowanych źródeł w Google
Z.ai 17 września 2026 r. opublikowało raport techniczny opisujący, jak od podstaw zbudowało kompletną, gotową do produkcji usługę wnioskowania dla modelu GLM-5.3-Flash na klastrze liczącym ponad 100 000 chińskich akceleratorów AI. Według firmy, znaczna część pracy została wykonana przez Infra Agent napędzany modelem GLM-5.3, a nie wyłącznie przez inżynierów infrastruktury, i całe wnioskowanie produkcyjne dla GLM-5.3-Flash działa w tym systemie.
Z.ai stwierdziło, że wcześniej nikt nie operował klastrem chińskich akceleratorów w tej skali. Firma wskazała na stosunkowo ograniczoną pojemność pamięci na chipie i przepustowość, nową architekturę modelu, okno kontekstowe o długości 1 M tokenów oraz żądania multimodalne, a także na niedojrzały ekosystem, w którym wsparcie dla kernelów było niekompletne i inżynierowie musieli zgadywać zachowanie, które powinno być udokumentowane.
GLM-5.3-Flash zostało uruchomione 26 sierpnia 2026 r. jako pierwszy natywnie multimodalny model w serii GLM-5, z 320 miliardami parametrów łącznie i 18 miliardami aktywnych parametrów w hybrydowej architekturze łączącej uwagi rzadkie i liniowe. Przed wydaniem Z.ai testowało model anonimowo pod nazwą ox-alpha na platformach OpenCode i OpenRouter, a firma poinformowała, że w ciągu tygodnia od uruchomienia stał się najczęściej używanym modelem na obu platformach, przetwarzając ponad 62 triliony tokenów w ciągu sześciu dni.
Metoda gęstej informacji zwrotnej
W centrum relacji leży problem systemowy: metryki end‑to‑end mogą wskazać agentowi, że wyniki pogorszyły się, ale nie wyjaśniają dlaczego. Niepowodzenie testu dokładności numerycznej, 30 % wzrost czasu do pierwszego tokenu lub 20 % spadek przepustowości wyjścia nie wskazują, która warstwa jest odpowiedzialna ani co testować dalej. Odpowiedzią Z.ai, nazwaną gęstą informacją zwrotną, jest połączenie testów poprawności, logów wykonania, śladów wykonania, zdarzeń runtime, mikrobenchmarków i metryk end‑to‑end w powtarzalne przepływy pracy, które pozwalają agentowi weryfikować każdą hipotezę lokalnie, zamiast czekać na pełne wdrożenie i test obciążeniowy po każdej zmianie.
Firma definiuje trzy niezbędne właściwości takiej informacji zwrotnej. Musi być lokalna, powiązana w miarę możliwości ze specyficznymi parametrami uruchomienia, zmianami kodu, kernelami, warunkami wejściowymi, wątkami, interwałami wykonania lub ścieżkami kodu. Musi być tania i szybka do uzyskania. Musi także umożliwiać obiektywną weryfikację poprzez implementacje referencyjne i kontrolowane eksperymenty, ponieważ same obserwowane korelacje nie ustalają przyczyny źródłowej.
W opisanej pętli uruchomieniowej inżynierowie określili cele i granice systemu oraz przejrzeli krytyczne zmiany dotyczące semantyki numerycznej, zachowań współbieżności i ryzyka produkcyjnego, podczas gdy agent zajmował się analizą, hipotezami i zmianami kodu. Stos, który wspólnie optymalizowali, łączył wewnątrz‑węzłowy równoległy tensor dla uwagi liniowej i głowy LM, ReplaySSM, kwantyzację W8A8, kwantyzację pamięci podręcznej mieszanej precyzji INT8/FP8/BF16 oraz podział warstw, w ramach zdecentralizowanej architektury Encode‑Prefill‑Decode.
Trzy przypadki inżynieryjne
Pierwszy przypadek dotyczy poprawności numerycznej. Walidacja porównująca podzielone i niepodzielone ścieżki wykonania kernela ujawniła problem dokładności w ścieżce Context Parallelism kernela KDA: operacja tl.dot domyślnie używała obliczeń TF32, nawet gdy jej wejścia były FP32, co powodowało gromadzenie się błędów podczas scalania stanu i ich nasilenie wraz ze wzrostem długości kontekstu. Poprawka wyraźnie ustawiła precyzję wejścia na tf32x3, wykorzystując trzy operacje TF32 Tensor Core, aby uzyskać wynik o wyższej precyzji.
Według relacji, poprawki zostały scalone w górę do Flash Linear Attention. żądanie scalenia, otwarte i scalone 27 sierpnia 2026 r., stosuje łańcuch afiniczny tf32x3 w kernelach aktualizacji stanu i scalania transformacji jako opcjonalną ścieżkę dokładności, dodaje testy Context Parallelism i wyraźnie przełącza się na precyzję ieee na platformach bez wsparcia tf32 (AMD, NPU oraz GPU NVIDIA o możliwości obliczeniowej poniżej 8.0).
Drugi przypadek dotyczy wąskiego gardła współbieżności w transferze KV. Według relacji inżynierowie ustalili kryterium akceptacji, że przy tym samym obciążeniu Prefill plus KV Transfer powinny działać w granicach 5 % od bazowego wyniku Prefill‑only. Agent wykrył luki przekraczające 20 % w niektórych scenariuszach i powiązał je z DeepEP v1.2.1, w którym ani intranodewywołanie ani intranodełączenie nie zwolniły wyraźnie blokady GIL Pythona. Dopóki te wywołania utrzymywały blokadę, wątek Python Mooncake Transfer w tym samym procesie nie mógł w porę przejąć GIL, co powodowało opóźnienia w planowaniu i zgłaszaniu zadań transferu oraz zmniejszało nakładanie się na obliczenia. Relacja zauważa, że w tej samej wersji internode_dispatch już zwalniał GIL, a komentarz w kodzie wskazywał, że celem było uniknięcie blokowania KV Transfer w innych wątkach, gdy CPU czeka. Po wprowadzeniu poprawki, która zwalniała GIL w odpowiednich interwałach wykonania C++, relacja informuje, że luka spadła poniżej 1 % przy tych samych warunkach testowych.
Trzeci przypadek dotyczy wydajności kernela. Z.ai powierzył agentowi opracowanie technik z ręcznie pisanych kernelów w projektach, w tym SGLang, Flash Linear Attention i DeepGEMM, przekształcając je w wielokrotnego użytku szkieletowe optymalizacje zawierające warunki zastosowania, metody transformacji, ograniczenia zasobów i dowody walidacji. Na reprezentatywnym kernelu KDA Decode firma podaje, że optymalizacja podziału przez agenta skróciła czas wykonania o 9,6 %. Po tym, jak informacje zwrotne wskazały obliczenia jako główne wąskie gardło, agent połączył płytki w wymiarze V, które czterokrotnie powtarzały te same obliczenia normalizacji i bramkowania w formacie FP32, w jedną blokę wątków z pośrednimi wynikami przechowywanymi w rejestrach oraz jedną redukcją na poziomie warp, co, jak podaje firma, przyniosło przyspieszenie 1,71‑krotne w stosunku do poprzedniej wersji.
Podane wyniki i rekurencyjne samodoskonalenie
Z.ai informuje, że GLM-5.3-Flash przeszedł od początkowej adaptacji modelu do gotowości produkcyjnej w mniej niż dwa tygodnie, a całkowita przepustowość ostatecznie potroiła się w stosunku do początkowej linii bazowej. Firma dodała również, że efektywność wykorzystania sprzętu oraz koszt na token osiągnęły poziomy porównywalne z typowymi procesorami graficznymi NVIDIA.
Firma przedstawia to przedsięwzięcie jako wczesny przykład rekurencyjnego samodoskonalenia, podkreślając, że model uczestniczył w optymalizacji systemu inferencji, na którym działa. Jednocześnie Z.ai podkreśla, że nie osiągnęło jeszcze rekurencyjnego samodoskonalenia oraz że wybór celów, wyznaczanie granic i ocena ryzyka pozostają ludzkimi obowiązkami, które, według firmy, powinny nadal spoczywać w rękach ludzi.
