SambaNova lleva GLM-5.3 a SambaCloud a más de 200 tokens por segundo

SambaNova Systems anunció el 11 de noviembre de 2026 que el modelo de pesos abiertos GLM-5.3 de Z.ai está disponible en su servicio de inferencia SambaCloud a más de 200 tokens por segundo. Los desarrolladores pueden acceder al modelo a través del entorno de pruebas de SambaCloud, una API e integraciones para agentes de programación.

Z.ai presentó GLM-5.3 el 14 de agosto de 2026, con el mismo modelo base que GLM-5.2 y atribuyó las mejoras del nuevo sistema al entrenamiento posterior adicional en más entornos, con tareas más variadas y más capacidad de cómputo. El anuncio de SambaNova añade una implementación alojada para ese modelo ya existente. Entre los trabajos a los que está destinado se incluyen tareas complejas de ingeniería de software y tareas de agentes de larga duración que implican secuencias de pasos interdependientes.

Qué muestra la traza del agente

SambaNova proporcionó una traza de una ejecución de ejemplo de un agente en SambaCloud para ilustrar esas exigencias. La ejecución realizó 41 llamadas al modelo en 17 minutos y 30 segundos, procesó 5,4 millones de tokens de entrada y generó poco menos de 42 000 tokens de salida. Como en cada turno se volvía a enviar el contexto acumulado, la entrada pasó de 38 000 tokens en la primera llamada a más de 114 000 en la octava. Las salidas siguieron siendo breves: unos cientos de tokens con razonamiento y una llamada a una herramienta; además, más del 91 % de la entrada se sirvió desde la caché.

Ese patrón explica el énfasis en la velocidad de inferencia. Los ciclos de los agentes vuelven a enviar repetidamente contextos extensos al modelo y solo solicitan la siguiente acción breve, por lo que la latencia de cada llamada se acumula a lo largo de la secuencia. SambaNova presenta el rendimiento que afirma alcanzar como una forma de mantener breves esos pasos, mientras que la cifra de la caché demuestra hasta qué punto la carga de trabajo reutiliza el contexto anterior.

Entrenamiento posterior y resultados comunicados

Z.ai afirma que sus entornos de entrenamiento posterior se diseñaron para asemejarse al trabajo profesional, incluidas tareas que podrían ocupar a un ingeniero experimentado durante varios días. En un escenario de infraestructura de aprendizaje automático, el modelo tiene acceso a clústeres de cómputo, sistemas de almacenamiento, documentación interna, bases de código y resultados de experimentos. Debe diagnosticar cuellos de botella en toda la pila de entrenamiento, implementar optimizaciones, realizar experimentos y lograr una aceleración medible de principio a fin sin comprometer la corrección.

Z.ai informa que GLM-5.3 mejoró de 4,6 a 28,3 en Terminal-Bench 3.0, de 46,2 a 66,9 en DeepSWE v1.1 y de 23,8 a 28,5 en Agents’ Last Exam. Las comparaciones sitúan las mejoras en el uso de terminales, la ingeniería de software y las tareas generales de agentes, las mismas categorías a las que SambaNova apunta con esta implementación.

En su prueba privada Code Bench, Z.ai informa que GLM-5.3 alcanzó un 31,4 % con un nivel de esfuerzo alto y unos 50 000 tokens de salida por tarea, frente al 29,5 % y los 120 000 tokens de Claude Opus 4.8. GLM-5.3 quedó por detrás de Claude Fable 5, que alcanzó un 39,5 % con el nivel de esfuerzo máximo. Se trata de un resultado de eficiencia concreto: GLM-5.3 generó menos tokens y obtuvo una puntuación más alta que Opus 4.8 en esta prueba, pero la propia comparación de Z.ai sigue situando a Fable 5 por delante.

Acceso mediante API y agentes de programación

En SambaCloud, se llama al modelo con la cadena de modelo GLM-5.3. El ejemplo de Python de SambaNova envía solicitudes de finalización de chat a https://api.sambanova.ai/v1 y establece reasoning_effort en max, el nivel que Z.ai recomienda para programar. Los desarrolladores pueden usar una clave de API o probar el modelo en el entorno de pruebas de SambaCloud.

ZCode puede usar SambaCloud mediante ajustes de proveedor compatibles con OpenAI o Anthropic, con una URL base, una clave de API y GLM-5.3 seleccionado en el menú de modelos. SambaNova afirma que el mismo cambio de URL base funciona con Claude Code, OpenCode y Codex CLI. Para Codex, se indica a los desarrolladores que usen el endpoint de la API Responses y declaren los niveles de razonamiento compatibles con el modelo en su catálogo de modelos.

GLM-5.3 admite niveles de esfuerzo de razonamiento bajo, alto y máximo, y no es posible desactivar el razonamiento. Z.ai afirma que las aplicaciones que todavía usan thinking.type: "disabled" deben activar el razonamiento y establecer el esfuerzo de razonamiento en bajo antes de actualizar el ID del modelo; de lo contrario, las solicitudes fallarán.

Para los equipos que evalúan la inferencia alojada de agentes, la distinción es importante: las puntuaciones de las pruebas de referencia describen lo que un modelo puede completar, mientras que la traza muestra el trabajo de inferencia repetido necesario para lograrlo. La implementación de SambaNova apunta a esta segunda parte del problema y hace que la velocidad de cada llamada y la reutilización de la caché sean tan relevantes para la experiencia del usuario como las puntuaciones que GLM-5.3 ha obtenido en las tareas.