SambaNova đưa GLM-5.3 lên SambaCloud với tốc độ hơn 200 token mỗi giây

SambaNova Systems cho biết vào ngày 11 tháng 11 năm 2026 rằng mô hình GLM-5.3 có trọng số mở của Z.ai đã có mặt trên dịch vụ suy luận SambaCloud của hãng, với tốc độ hơn 200 token mỗi giây. Nhà phát triển có thể truy cập mô hình thông qua môi trường thử nghiệm SambaCloud, API và các tích hợp dành cho tác nhân lập trình.

Z.ai ra mắt GLM-5.3 vào ngày 14 tháng 8 năm 2026, sử dụng cùng mô hình nền tảng với GLM-5.2 và cho rằng những cải thiện của hệ thống mới đến từ quá trình hậu huấn luyện bổ sung trên nhiều môi trường hơn, với các nhiệm vụ đa dạng hơn và lượng tính toán lớn hơn. Thông báo của SambaNova bổ sung một lựa chọn triển khai lưu trữ cho mô hình hiện có này. Mô hình hướng đến các công việc như kỹ thuật phần mềm phức tạp và những nhiệm vụ dài hạn của tác nhân, đòi hỏi thực hiện chuỗi bước phụ thuộc lẫn nhau.

Dấu vết hoạt động của tác nhân cho thấy điều gì

SambaNova cung cấp dấu vết từ một lần chạy tác nhân mẫu trên SambaCloud để minh họa những yêu cầu đó. Lần chạy thực hiện 41 lượt gọi mô hình trong 17 phút 30 giây, xử lý 5,4 triệu token đầu vào và tạo ra chưa đến 42.000 token đầu ra. Vì mỗi lượt đều gửi lại ngữ cảnh đã tích lũy, lượng đầu vào tăng từ 38.000 token ở lần gọi đầu tiên lên hơn 114.000 token vào lần gọi thứ tám. Đầu ra vẫn ngắn: chỉ vài trăm token gồm phần lập luận và một lệnh gọi công cụ; hơn 91% lượng đầu vào được xử lý từ bộ nhớ đệm.

Mô hình hoạt động này lý giải vì sao tốc độ xử lý lại được nhấn mạnh. Các vòng lặp của tác nhân liên tục gửi lại ngữ cảnh dài cho mô hình nhưng chỉ yêu cầu một hành động tiếp theo ngắn, khiến độ trễ của từng lượt gọi cộng dồn trong suốt chuỗi. SambaNova xem thông lượng được công bố là cách rút ngắn các bước đó, còn tỷ lệ dữ liệu trong bộ nhớ đệm cho thấy khối lượng công việc tái sử dụng ngữ cảnh trước đó ở mức độ cao như thế nào.

Hậu huấn luyện và kết quả được công bố

Z.ai cho biết các môi trường hậu huấn luyện được thiết kế để mô phỏng công việc chuyên môn, bao gồm những nhiệm vụ có thể khiến một kỹ sư giàu kinh nghiệm mất vài ngày mới hoàn thành. Trong một tình huống về hạ tầng học máy, mô hình được cấp quyền truy cập vào các cụm tính toán, hệ thống lưu trữ, tài liệu nội bộ, kho mã nguồn và kết quả thử nghiệm. Mô hình phải chẩn đoán các điểm nghẽn trong toàn bộ quy trình huấn luyện, triển khai tối ưu hóa, chạy thử nghiệm và đạt được mức tăng tốc có thể đo lường từ đầu đến cuối, đồng thời bảo đảm tính chính xác.

Z.ai cho biết GLM-5.3 cải thiện điểm số từ 4,6 lên 28,3 trên Terminal-Bench 3.0, từ 46,2 lên 66,9 trên DeepSWE v1.1 và từ 23,8 lên 28,5 trên Agents’ Last Exam. Các kết quả so sánh cho thấy mức cải thiện ở những lĩnh vực như thao tác trên thiết bị đầu cuối, kỹ thuật phần mềm và các nhiệm vụ tác nhân tổng quát — cũng chính là những nhóm nhiệm vụ SambaNova nhắm đến với đợt triển khai này.

Trên Code Bench riêng của mình, Z.ai cho biết GLM-5.3 đạt 31,4% ở mức nỗ lực cao, với khoảng 50.000 token đầu ra cho mỗi nhiệm vụ; trong khi Claude Opus 4.8 đạt 29,5% và sử dụng 120.000 token. GLM-5.3 vẫn xếp sau Claude Fable 5, đạt 39,5% ở mức nỗ lực tối đa. Đây là kết quả cụ thể về hiệu quả: trong thử nghiệm này, GLM-5.3 tạo ra ít token hơn và đạt điểm cao hơn Opus 4.8, nhưng theo chính so sánh của Z.ai, Fable 5 vẫn dẫn trước.

Truy cập qua API và tác nhân lập trình

Trên SambaCloud, để gọi mô hình, hãy dùng chuỗi tên mô hình GLM-5.3. Ví dụ Python của SambaNova gửi các yêu cầu hoàn tất hội thoại đến https://api.sambanova.ai/v1 và đặt reasoning_effort thành max, mức Z.ai đề xuất cho công việc lập trình. Nhà phát triển có thể dùng khóa API hoặc thử nghiệm mô hình trong môi trường thử nghiệm SambaCloud.

ZCode có thể sử dụng SambaCloud thông qua phần cài đặt nhà cung cấp tương thích với OpenAI hoặc Anthropic, với URL cơ sở, khóa API và GLM-5.3 được chọn trong menu mô hình. SambaNova cho biết chỉ cần thay đổi cùng URL cơ sở là có thể sử dụng Claude Code, OpenCode và Codex CLI. Với Codex, nhà phát triển được hướng dẫn sử dụng điểm cuối Responses API và khai báo các mức suy luận mà mô hình hỗ trợ trong danh mục mô hình của mình.

GLM-5.3 hỗ trợ mức suy luận thấp, cao và tối đa; không thể tắt chế độ suy luận. Z.ai cho biết các ứng dụng hiện vẫn đang sử dụng thinking.type: "disabled" phải bật chế độ suy luận và đặt mức suy luận thành thấp trước khi cập nhật ID mô hình; nếu không, các yêu cầu sẽ thất bại.

Với các nhóm đang đánh giá dịch vụ suy luận tác nhân được lưu trữ, sự khác biệt này rất quan trọng: điểm chuẩn cho biết mô hình có thể hoàn thành những gì, còn dấu vết hoạt động cho thấy công việc xử lý lặp đi lặp lại cần thiết để hoàn thành chúng. Dịch vụ triển khai của SambaNova nhắm đến khía cạnh thứ hai của vấn đề, khiến tốc độ của mỗi lượt gọi và việc tái sử dụng bộ nhớ đệm cũng quan trọng đối với trải nghiệm người dùng như điểm số nhiệm vụ được công bố của GLM-5.3.