SambaNova, GLM-5.3을 초당 200토큰이 넘는 속도로 SambaCloud에 제공

SambaNova Systems는 2026년 11월 11일에 밝혔다. Z.ai의 오픈 웨이트 GLM-5.3 모델은 SambaNova의 SambaCloud 추론 서비스에서 초당 200토큰이 넘는 속도로 이용할 수 있다. 개발자는 SambaCloud 플레이그라운드와 API, 코딩 에이전트용 통합 기능을 통해 이 모델에 접근할 수 있다.

Z.ai는 GLM-5.3을 2026년 8월 14일에 공개했다. GLM-5.2와 동일한 기반 모델을 사용하며, 새 시스템의 성능 향상은 더 많은 환경과 다양한 작업, 더 많은 컴퓨팅 자원을 활용한 추가 사후 학습에 따른 것이라고 설명했다. SambaNova의 발표는 기존 모델을 호스팅 방식으로 배포한다는 내용을 더했다. 이 모델은 복잡한 소프트웨어 엔지니어링과 여러 종속 단계로 이뤄진 장기 에이전트 작업을 수행하도록 설계됐다.

에이전트 실행 추적이 보여주는 것

SambaNova는 이러한 요구 사항을 보여주기 위해 SambaCloud에서 에이전트를 실행한 사례의 추적 데이터를 제공했다. 이 실행에서는 17분 30초 동안 모델을 41회 호출했으며, 입력 토큰 540만 개를 처리하고 출력 토큰은 4만 2,000개에 조금 못 미치는 양을 생성했다. 매 턴마다 누적된 컨텍스트를 다시 전송했기 때문에 입력 토큰 수는 첫 호출의 3만 8,000개에서 여덟 번째 호출 때 11만 4,000개를 넘는 수준으로 늘어났다. 출력은 추론 내용과 도구 호출을 포함한 수백 개 토큰으로 계속 적은 수준을 유지했고, 입력의 91%가 넘는 양은 캐시에서 제공됐다.

이러한 패턴은 처리 속도가 강조되는 이유를 보여준다. 에이전트 루프는 긴 컨텍스트를 모델에 반복해서 보내면서 다음 단계로 필요한 짧은 동작만 요청하므로, 호출당 지연 시간이 단계가 이어질수록 누적된다. SambaNova는 공개한 처리량이 각 단계를 짧게 유지하는 데 도움이 된다고 설명하며, 캐시 비율은 작업에서 이전 컨텍스트를 얼마나 많이 재사용하는지 보여준다.

사후 학습 및 공개된 성과

Z.ai에 따르면 사후 학습 환경은 숙련된 엔지니어가 며칠 동안 매달릴 수 있는 작업을 포함해 실제 전문 업무와 비슷하도록 설계됐다. 머신러닝 인프라 시나리오 중 하나에서 모델은 컴퓨팅 클러스터, 스토리지 시스템, 내부 문서, 코드베이스, 실험 결과에 접근할 수 있다. 모델은 학습 스택 전반의 병목을 진단하고, 최적화를 구현하고, 실험을 수행한 뒤 정확성을 유지하면서 측정 가능한 종단 간 속도 향상을 달성해야 한다.

Z.ai는 GLM-5.3이 Terminal-Bench 3.0에서 4.6에서 28.3으로, DeepSWE v1.1에서 46.2에서 66.9로, Agents’ Last Exam에서 23.8에서 28.5로 향상됐다고 밝혔다. 이 비교는 터미널 작업, 소프트웨어 엔지니어링, 일반적인 에이전트 작업에서의 성과 향상을 보여준다. 이는 SambaNova가 이번 배포를 통해 겨냥하는 분야와도 같다.

Z.ai는 자체 비공개 Code Bench에서 GLM-5.3이 높은 추론 노력 설정으로 작업당 출력 토큰 약 5만 개를 사용해 31.4%를 기록했다고 밝혔다. Claude Opus 4.8은 토큰 12만 개를 사용해 29.5%를 기록했다. GLM-5.3은 최대 추론 노력 설정에서 39.5%를 기록한 Claude Fable 5에는 뒤처졌다. 이는 구체적인 효율성 결과다. 이 테스트에서 GLM-5.3은 Opus 4.8보다 토큰을 적게 생성하면서 더 높은 점수를 얻었지만, Z.ai의 자체 비교에서도 Fable 5가 여전히 앞선다.

API 및 코딩 에이전트 접근

SambaCloud에서는 모델 문자열을 사용해 모델을 호출한다 GLM-5.3. SambaNova의 Python 예제는 채팅 완성 요청을 다음으로 보낸다 https://api.sambanova.ai/v1 그리고 설정한다 reasoning_effort 로 max, 코딩에 권장되는 수준이다. 개발자는 API 키를 사용하거나 SambaCloud 플레이그라운드에서 모델을 테스트할 수 있다.

ZCode는 OpenAI 또는 Anthropic 호환 공급자 설정을 통해 SambaCloud를 사용할 수 있으며, 여기서 기본 URL과 API 키를 설정하고 모델 메뉴에서 GLM-5.3을 선택하면 된다. SambaNova에 따르면 기본 URL을 같은 방식으로 변경하면 Claude Code, OpenCode, Codex CLI에서도 사용할 수 있다. Codex의 경우 개발자는 Responses API 엔드포인트를 사용하고 모델 카탈로그에 해당 모델이 지원하는 추론 수준을 명시해야 한다.

GLM-5.3은 낮음, 높음, 최대로 추론 노력을 설정할 수 있으며, 사고 기능은 끌 수 없다. Z.ai는 여전히 다음을 사용하는 애플리케이션은 thinking.type: "disabled" 모델 ID를 업데이트하기 전에 사고 기능을 활성화하고 추론 노력을 낮음으로 설정해야 한다고 밝혔다. 그렇지 않으면 요청이 실패한다.

호스팅형 에이전트 추론을 평가하는 팀에는 이 구분이 중요하다. 벤치마크 점수는 모델이 완료할 수 있는 작업을 나타내는 반면, 실행 추적은 작업을 완료하는 데 필요한 반복적인 처리 과정을 보여준다. SambaNova의 배포는 문제의 두 번째 측면을 겨냥한다. 따라서 호출당 속도와 캐시 재사용은 GLM-5.3이 공개한 작업 점수만큼이나 사용자 경험에 중요한 요소다.