SambaNova Menghadirkan GLM-5.3 di SambaCloud dengan Kecepatan Lebih dari 200 Token per Detik

SambaNova Systems mengumumkan pada 11 November 2026 bahwa model GLM-5.3 berbobot terbuka dari Z.ai tersedia di layanan inferensi SambaCloud dengan kecepatan lebih dari 200 token per detik. Pengembang dapat mengakses model tersebut melalui playground SambaCloud, API, dan integrasi untuk agen pengodean.

Z.ai memperkenalkan GLM-5.3 pada 14 Agustus 2026 dengan menggunakan model dasar yang sama seperti GLM-5.2 dan mengaitkan peningkatan pada sistem yang lebih baru itu dengan pascapelatihan tambahan di lebih banyak lingkungan, tugas yang lebih beragam, dan komputasi yang lebih besar. Pengumuman SambaNova menambahkan penerapan terkelola untuk model yang sudah ada tersebut. Model ini ditujukan untuk pekerjaan yang mencakup rekayasa perangkat lunak kompleks dan tugas agen berdurasi panjang yang melibatkan rangkaian langkah saling bergantung.

Yang Ditunjukkan oleh Jejak Agen

SambaNova memberikan jejak dari contoh penggunaan agen di SambaCloud untuk menggambarkan tuntutan tersebut. Penggunaan itu melakukan 41 pemanggilan model selama 17 menit 30 detik, memproses 5,4 juta token masukan sekaligus menghasilkan sedikit di bawah 42.000 token keluaran. Karena setiap giliran mengirim ulang konteks yang telah terkumpul, jumlah token masukan meningkat dari 38.000 pada pemanggilan pertama menjadi lebih dari 114.000 pada pemanggilan kedelapan. Keluarannya tetap sedikit: beberapa ratus token yang berisi penalaran dan pemanggilan alat, sementara lebih dari 91% masukan disajikan dari tembolok.

Pola tersebut menjelaskan mengapa kecepatan penyajian menjadi sorotan. Siklus agen berulang kali mengirimkan konteks panjang kembali ke model sambil hanya meminta tindakan berikutnya yang singkat, sehingga latensi setiap pemanggilan terus terakumulasi sepanjang rangkaian proses. SambaNova menyajikan laju keluaran yang dilaporkannya sebagai cara untuk mempersingkat langkah-langkah tersebut, sementara angka tembolok menunjukkan betapa banyak beban kerja ini menggunakan kembali konteks sebelumnya.

Pascapelatihan dan Hasil yang Dilaporkan

Z.ai menyatakan bahwa lingkungan pascapelatihannya dirancang agar menyerupai pekerjaan profesional, termasuk tugas yang dapat menyita waktu seorang teknisi berpengalaman selama beberapa hari. Dalam salah satu skenario infrastruktur pembelajaran mesin, model memperoleh akses ke klaster komputasi, sistem penyimpanan, dokumentasi internal, basis kode, dan hasil eksperimen. Model harus mendiagnosis hambatan di seluruh tumpukan pelatihan, menerapkan pengoptimalan, menjalankan eksperimen, dan menghasilkan percepatan terukur dari awal hingga akhir tanpa mengorbankan ketepatan.

Z.ai melaporkan bahwa skor GLM-5.3 meningkat dari 4,6 menjadi 28,3 pada Terminal-Bench 3.0, dari 46,2 menjadi 66,9 pada DeepSWE v1.1, dan dari 23,8 menjadi 28,5 pada Agents’ Last Exam. Perbandingan tersebut menunjukkan peningkatan dalam pekerjaan terminal, rekayasa perangkat lunak, dan tugas agen umum, kategori yang sama yang menjadi sasaran penerapan SambaNova ini.

Pada Code Bench privatnya, Z.ai melaporkan bahwa GLM-5.3 mencapai 31,4% dengan upaya Tinggi dan sekitar 50.000 token keluaran per tugas, dibandingkan dengan Claude Opus 4.8 yang meraih 29,5% dengan 120.000 token. GLM-5.3 masih berada di bawah Claude Fable 5, yang mencapai 39,5% dengan upaya Maksimal. Hasil ini menunjukkan efisiensi secara spesifik: GLM-5.3 menghasilkan lebih sedikit token dan memperoleh skor lebih tinggi daripada Opus 4.8 dalam pengujian ini, tetapi perbandingan Z.ai sendiri masih menempatkan Fable 5 di posisi lebih tinggi.

Akses API dan Agen Pengodean

Di SambaCloud, model dipanggil menggunakan string model GLM-5.3. Contoh Python dari SambaNova mengirimkan permintaan penyelesaian obrolan ke https://api.sambanova.ai/v1 dan menetapkan reasoning_effort menjadi max, tingkat yang direkomendasikan Z.ai untuk pengodean. Pengembang dapat menggunakan kunci API atau menguji model tersebut di playground SambaCloud.

ZCode dapat menggunakan SambaCloud melalui pengaturan penyedia yang kompatibel dengan OpenAI atau Anthropic, dengan URL dasar, kunci API, dan GLM-5.3 yang dipilih di menu model. SambaNova menyatakan bahwa perubahan URL dasar yang sama juga berfungsi dengan Claude Code, OpenCode, dan Codex CLI. Untuk Codex, pengembang diarahkan untuk menggunakan titik akhir API Responses dan mencantumkan tingkat penalaran yang didukung model dalam katalog model mereka.

GLM-5.3 mendukung tingkat upaya penalaran rendah, tinggi, dan maksimal, dan mode berpikir tidak dapat dinonaktifkan. Z.ai menyatakan bahwa aplikasi yang masih menggunakan thinking.type: "disabled" harus mengaktifkan mode berpikir dan menetapkan tingkat upaya penalaran ke rendah sebelum memperbarui ID model; jika tidak, permintaan akan gagal.

Bagi tim yang mengevaluasi inferensi agen terkelola, perbedaan ini penting: skor tolok ukur menggambarkan apa yang dapat diselesaikan model, sedangkan jejak penggunaan memperlihatkan pekerjaan penyajian berulang yang diperlukan untuk menyelesaikannya. Penerapan SambaNova menyasar bagian kedua dari persoalan ini, sehingga kecepatan setiap pemanggilan dan penggunaan ulang tembolok sama relevannya bagi pengalaman pengguna dengan skor tugas GLM-5.3 yang dilaporkan.