SambaNova переносит GLM-5.3 в SambaCloud с производительностью более 200 токенов в секунду

Компания SambaNova Systems сообщила 11 ноября 2026 года, что модель GLM-5.3 с открытыми весами от Z.ai доступна в сервисе инференса SambaCloud с производительностью более 200 токенов в секунду. Разработчики могут получить доступ к модели через площадку SambaCloud, API и интеграции с агентами для программирования.

Компания Z.ai представила GLM-5.3 14 августа 2026 года. Модель основана на той же базовой модели, что и GLM-5.2; улучшения новой системы компания связывает с дополнительным постобучением в большем числе сред, на более разнообразных задачах и с использованием больших вычислительных ресурсов. В анонсе SambaNova говорится о размещении уже существующей модели на хостинговой платформе. Она предназначена для сложных задач разработки программного обеспечения и длительных задач с участием агентов, включающих последовательности взаимозависимых шагов.

Что показывает трассировка работы агента

Чтобы показать, насколько ресурсоёмкими могут быть такие задачи, SambaNova предоставила трассировку тестового запуска агента в SambaCloud. За 17 минут и 30 секунд агент 41 раз обратился к модели, обработав 5,4 миллиона входных токенов и сгенерировав чуть менее 42 000 выходных. Поскольку при каждом обращении повторно передавался накопленный контекст, объём входных данных вырос с 38 000 токенов при первом вызове до более чем 114 000 к восьмому. Ответы оставались короткими: всего несколько сотен токенов с рассуждением и вызовом инструмента; при этом более 91% входных данных обрабатывалось из кэша.

Такая картина объясняет, почему особое внимание уделяется скорости обработки запросов. В цикле работы агента модели снова и снова передаются длинные контексты, хотя от неё требуется лишь короткое следующее действие, поэтому задержки каждого вызова накапливаются по ходу последовательности. SambaNova представляет заявленную пропускную способность как способ сократить время этих шагов, а показатель работы с кэшем показывает, насколько активно задача повторно использует ранее переданный контекст.

Постобучение и заявленные результаты

По словам Z.ai, среды для постобучения создавались так, чтобы имитировать профессиональную работу, в том числе задачи, на выполнение которых у опытного инженера могло бы уйти несколько дней. В одном из сценариев, посвящённых инфраструктуре машинного обучения, модель получает доступ к вычислительным кластерам, системам хранения данных, внутренней документации, кодовым базам и результатам экспериментов. Ей необходимо выявить узкие места во всём стеке обучения, реализовать оптимизации, провести эксперименты и добиться измеримого ускорения работы системы в целом, сохранив корректность.

По данным Z.ai, результат GLM-5.3 вырос с 4,6 до 28,3 в Terminal-Bench 3.0, с 46,2 до 66,9 в DeepSWE v1.1 и с 23,8 до 28,5 в Agents’ Last Exam. Эти сравнения показывают прогресс в работе с терминалом, разработке программного обеспечения и решении общих агентных задач — именно на эти категории ориентировано развёртывание модели SambaNova.

В закрытом тесте Code Bench компания Z.ai сообщает, что GLM-5.3 набрала 31,4% при высоком уровне усилий, затратив около 50 000 выходных токенов на задачу. Для сравнения, Claude Opus 4.8 набрала 29,5%, использовав 120 000 токенов. GLM-5.3 уступила Claude Fable 5, которая набрала 39,5% при максимальном уровне усилий. Это конкретный результат с точки зрения эффективности: в этом тесте GLM-5.3 сгенерировала меньше токенов и набрала больше баллов, чем Opus 4.8, однако, согласно собственному сравнению Z.ai, Fable 5 всё же показала лучший результат.

Доступ через API и агентов для программирования

В SambaCloud модель вызывается с использованием строки идентификатора модели GLM-5.3. В примере SambaNova для Python запросы на генерацию ответов в чате отправляются на https://api.sambanova.ai/v1 и задаётся reasoning_effort на max, рекомендуемый Z.ai уровень для программирования. Разработчики могут использовать ключ API или протестировать модель на площадке SambaCloud.

ZCode может работать с SambaCloud через настройки поставщика, совместимые с OpenAI или Anthropic: для этого нужно указать базовый URL и ключ API, а затем выбрать GLM-5.3 в меню моделей. По словам SambaNova, достаточно изменить базовый URL, чтобы использовать модель и в Claude Code, OpenCode и Codex CLI. Для Codex разработчикам рекомендуют использовать конечную точку API Responses и указывать в каталоге моделей поддерживаемые уровни рассуждения модели.

GLM-5.3 поддерживает низкий, высокий и максимальный уровни усилий при рассуждении, а отключить режим размышления нельзя. По словам Z.ai, приложения, которые всё ещё используют thinking.type: "disabled" должны включить режим размышления и установить низкий уровень усилий при рассуждении, прежде чем обновлять идентификатор модели; в противном случае запросы завершатся ошибкой.

Для команд, оценивающих хостинговые решения для инференса агентных моделей, важно различать два аспекта: результаты бенчмарков показывают, какие задачи модель способна выполнить, а трассировка раскрывает повторяющиеся операции по обработке запросов, необходимые для их выполнения. Развёртывание SambaNova нацелено на вторую часть задачи: для пользовательского опыта скорость каждого вызова и повторное использование кэша не менее важны, чем заявленные результаты GLM-5.3 в тестах.