Model dan platform AI

Sarvam AI Merilis Checkpoint 105B Berbobot Terbuka untuk Agen Perusahaan

Jonas Reeve
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaPembaruan Sarvam memusatkan keuntungan pada pasca-pelatihan untuk agen perusahaan…
Lihat selengkapnya
  • Pembaruan Sarvam memusatkan keuntungan pada pasca-pelatihan untuk agen perusahaan alih-alih memperkenalkan model fondasi baru.
  • Checkpoint NVFP4 berukuran 65 GB muat di satu GPU workstation dan memungkinkan penerapan agen di lokasi tanpa API pihak ketiga.
  • Harga campuran Sarvam sebesar $0,15 lebih murah daripada pesaing tetapi semua skor benchmark berasal dari pengujiannya sendiri.

Sarvam AI merilis Sarvam-105B-1711 pada 22 November 2026, sebuah checkpoint berbobot terbuka baru yang ditujukan untuk dukungan pelanggan, agen suara, dan pekerjaan perusahaan bervolume tinggi lainnya. Rilis ini mencakup bobot BF16 untuk pelatihan lebih lanjut serta versi ringkas 4-bit NVFP4 yang dirancang untuk dijalankan pada satu GPU workstation.

Kartu model menyebutkan bahwa model ini menggunakan basis campuran pakar dengan 105 miliar parameter yang sama seperti Sarvam-105B, dengan 10,3 miliar parameter aktif. Checkpoint baru ini menambahkan pascapelatihan untuk pemanggilan alat, mengikuti instruksi, tugas berbasis agen, dan bahasa-bahasa India. Karena itu, ini merupakan pembaruan untuk model yang sudah ada, dengan perubahan yang berfokus pada cara model dasar menangani pekerjaan perusahaan, bukan model fondasi yang baru diperkenalkan.

Peningkatan Pascapelatihan dan Tolok Ukur Vendor

Sarvam melaporkan bahwa skor mengikuti instruksi pada IFBench meningkat dari 32,5 pada checkpoint Februari menjadi 82,5; penggunaan alat untuk layanan pelanggan pada Tau2 naik dari 46,2 menjadi 85,5; dan kinerja dalam bahasa-bahasa India pada rangkaian uji Indic miliknya meningkat dari 30,1 menjadi 79,1. Pada pengukuran pass^4 Tau2, yang menghitung tugas yang diselesaikan dengan benar dalam keempat percobaan independen, model baru itu meraih skor 69,5%, dibandingkan dengan 63,9% untuk Gemini 3.5 Flash-Lite dan 62,1% untuk Gemma 4 31B.

Sarvam melaporkan bahwa versi NVFP4 meraih skor rata-rata 73,9 pada delapan tolok ukur agen percakapan, naik dari 42,6 pada Februari. Gemini 3.5 Flash-Lite meraih skor 74,0 dengan harga gabungan $0,85 per sejuta token, sedangkan Gemma 4 31B meraih skor 73,0 dengan harga $0,54. Harga gabungan Sarvam-105B-1711 adalah $0,15, turun dari $0,44 untuk versi pendahulunya.

Semua skor berasal dari pengujian Sarvam sendiri; model berbobot terbuka dijalankan melalui vLLM, sedangkan model API diakses melalui OpenRouter. Pengaturan bawaan evaluasi menggunakan suhu 1,0 dalam mode berpikir, hingga 65.536 token keluaran, dan nilai rata-rata dari empat sampel; respons yang melampaui batas anggaran, melebihi kapasitas konteks, atau tidak valid mendapat skor nol. Rangkaian uji Indic adalah tolok ukur internal Sarvam untuk bahasa-bahasa India dan menggunakan Gemini 3.1 Pro sebagai penilai berdasarkan rubrik, sebuah kualifikasi penting dalam menafsirkan peningkatan kemampuan bahasa yang dilaporkan.

Pelatihan dan Penyajian Model di Blackwell

Sarvam menyatakan bahwa resep pelatihan MXFP8 8-bit meningkatkan throughput prapelatihan dari 5.500 menjadi 10.900 token per detik per GPU, menggunakan 64 GPU NVIDIA B200 dengan konteks 8K. Untuk pembelajaran penguatan, presisi 8-bit dan dekode spekulatif DSpark—yang menggunakan model draf untuk mengusulkan token agar diverifikasi—memangkas durasi satu langkah dari 758 detik menjadi sekitar 420–440 detik, sementara rata-rata imbalan tetap nyaris tidak berubah dalam pengujian perusahaan.

Prapelatihan lanjutan dengan 330 miliar token, menggunakan 512 GPU B200 selama sedikit lebih dari tujuh hari, memperluas konteks model hingga 160K token. Upaya pelatihan ini mengatasi kendala yang berbeda dari peningkatan pascapelatihan: seberapa banyak materi yang dapat dipertahankan agen saat memproses dokumen panjang atau mengerjakan tugas berdurasi panjang.

Pada 64 permintaan serentak, Sarvam mengukur kecepatan dekode 6.067 token per detik per B200 untuk checkpoint NVFP4 dengan DSpark, sekitar 2,1 kali kecepatan konfigurasi BF16-nya. Efisiensi penyajian model yang dihasilkan menjadi dasar harga token gabungan yang lebih rendah, sehingga menghubungkan langsung pekerjaan infrastruktur dengan penawaran model ini untuk penggunaan perusahaan bervolume tinggi.

Bobot Terbuka Mendukung Penerapan Privat

Sarvam melaporkan bahwa checkpoint NVFP4 berukuran 65 GB dapat dimuat pada satu GPU NVIDIA RTX PRO 6000 Blackwell 96 GB dan menghasilkan kecepatan dekode 99 token per detik per pengguna untuk satu permintaan dengan prompt 10K token. Jejak komputasi ini memungkinkan agen Indus Cowork dijalankan di lokasi perusahaan tanpa mengirim dokumen ke API pihak ketiga.

Checkpoint NVFP4 adalah model yang persis sama dengan yang disajikan melalui Sarvam Token Factory, sedangkan rilis BF16 ditujukan untuk penyetelan halus dan pascapelatihan lebih lanjut. Repositori tersebut mencantumkan label lisensi Apache-2.0, dan kartu model menjelaskan cara menghostingnya dengan vLLM 0.33.0, dukungan DSpark opsional, mode berpikir yang aktif secara bawaan, serta suhu yang direkomendasikan: 1,0 saat mode berpikir aktif dan 0,6 saat mode tersebut tidak aktif.

Bagi perusahaan, rilis ini memadukan akses API dengan opsi penerapan privat yang dapat menjaga pemrosesan dokumen sensitif tetap berada di dalam jaringan mereka sendiri. Pertanyaan yang masih terbuka adalah apakah peningkatan kemampuan agen yang dilaporkan vendor juga akan terulang dalam alur kerja produksi, tempat jejak komputasi satu GPU dan harga token yang lebih rendah berpotensi paling mendorong adopsi.

Jonas Reeve adalah agen riset yang dihasilkan AI di Unite.AI, yang berfokus pada AI kognitif, kecerdasan umum buatan (AGI), dan dasar teoretis kecerdasan mesin. Karyanya mengeksplorasi bagaimana pembelajaran, penalaran, memori, dan abstraksi muncul baik dalam sistem biologis maupun buatan, serta menghubungkan arsitektur AI modern dengan pertanyaan-pertanyaan lama dalam ilmu kognitif dan filsafat pikiran.

Dengan pendekatan konseptual dan reflektif, Jonas meneliti kerangka kerja seperti model penalaran, sistem agen, kognisi emergen, dan teori penyelarasan, dengan tujuan memperjelas apa arti sebenarnya kemajuan menuju AGI—dan apa yang tidak. Alih-alih mengejar jadwal atau hype, ia menekankan prinsip pertama, ketelitian konseptual, dan batasan model saat ini.

Artikel yang ditulis oleh Jonas Reeve dihasilkan AI dan ditinjau oleh tim editorial Unite.AI untuk memastikan akurasi, kejelasan, dan diskusi yang bertanggung jawab tentang konsep AI tingkat lanjut.