Modelli e piattaforme di IA

Sarvam AI rilascia un checkpoint open-weight da 105B per gli agenti aziendali

Jonas Reeve
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveL'aggiornamento di Sarvam concentra i miglioramenti nel post-addestramento per agenti…
Vedi di più
  • L'aggiornamento di Sarvam concentra i miglioramenti nel post-addestramento per agenti aziendali anziché introdurre un nuovo modello di base.
  • Il checkpoint NVFP4 da 65 GB entra in una singola GPU da workstation e consente la distribuzione di agenti on-premises senza API di terze parti.
  • Il prezzo misto di Sarvam di $0,15 batte i concorrenti ma tutti i punteggi dei benchmark provengono dalle sue stesse esecuzioni.

Il 22 novembre 2026, Sarvam AI ha rilasciato Sarvam-105B-1711, un nuovo checkpoint open-weight pensato per l’assistenza clienti, gli agenti vocali e altre attività aziendali ad alto volume. Il rilascio include pesi BF16 per ulteriori addestramenti e una compatta versione NVFP4 a 4 bit, progettata per funzionare su una singola GPU da workstation.

La scheda del modello identifica la stessa base a miscela di esperti da 105 miliardi di parametri utilizzata da Sarvam-105B, con 10,3 miliardi di parametri attivi. Il nuovo checkpoint aggiunge un post-addestramento per l’uso di strumenti, il rispetto delle istruzioni, le attività agentiche e le lingue indiane. Si tratta quindi di un aggiornamento di un modello esistente, con modifiche concentrate sul modo in cui la base gestisce le attività aziendali, anziché dell’introduzione di un nuovo modello fondazionale.

Miglioramenti con il post-addestramento e benchmark del fornitore

Sarvam riferisce che il punteggio nel rispetto delle istruzioni su IFBench è salito da 32,5 per il checkpoint di febbraio a 82,5; l’uso di strumenti per il servizio clienti su Tau2 è passato da 46,2 a 85,5; e le prestazioni nelle lingue indiane sul suo benchmark Indic sono aumentate da 30,1 a 79,1. Nella misura pass^4 di Tau2, che conteggia le attività completate correttamente in tutti e quattro i tentativi indipendenti, il nuovo modello ha ottenuto il 69,5%, contro il 63,9% di Gemini 3.5 Flash-Lite e il 62,1% di Gemma 4 31B.

Sarvam riferisce che la versione NVFP4 ha ottenuto una media di 73,9 in otto benchmark per agenti conversazionali, in aumento rispetto al 42,6 di febbraio. Gemini 3.5 Flash-Lite ha totalizzato 74,0, con un prezzo medio ponderato di 0,85 $ per milione di token, mentre Gemma 4 31B ha ottenuto 73,0 a 0,54 $. Il prezzo medio ponderato di Sarvam-105B-1711 è di 0,15 $, in calo rispetto agli 0,44 $ del modello precedente.

Tutti i punteggi provengono da test condotti da Sarvam, con i modelli open-weight eseguiti tramite vLLM e i modelli API utilizzati tramite OpenRouter. Le impostazioni predefinite della valutazione prevedono una temperatura di 1,0 in modalità di ragionamento, fino a 65.536 token in uscita e una media calcolata su quattro campioni; le risposte che superano il budget, eccedono la finestra di contesto o sono malformate ricevono un punteggio pari a zero. Il benchmark Indic è il test interno di Sarvam per le lingue indiane e utilizza Gemini 3.1 Pro come valutatore secondo una griglia di criteri: un’importante precisazione per interpretare il miglioramento dichiarato nelle lingue.

Addestramento ed esecuzione su Blackwell

Sarvam afferma che la sua procedura di addestramento MXFP8 a 8 bit ha aumentato la velocità di preaddestramento da 5.500 a 10.900 token al secondo per GPU, su 64 GPU NVIDIA B200 con una finestra di contesto di 8K. Per l’apprendimento per rinforzo, la precisione a 8 bit e la decodifica speculativa DSpark, che utilizza un modello preliminare per proporre token da verificare, hanno ridotto la durata di un passaggio da 758 secondi a circa 420–440 secondi, mentre la ricompensa media è rimasta sostanzialmente invariata nel test dell’azienda.

Il preaddestramento continuato su 330 miliardi di token, utilizzando 512 GPU B200 per poco più di sette giorni, ha esteso la finestra di contesto del modello a 160K token. Questo lavoro di addestramento affronta un vincolo diverso dai miglioramenti ottenuti con il post-addestramento: la quantità di materiale che un agente può mantenere mentre esamina documenti lunghi o porta avanti attività prolungate.

Con 64 richieste simultanee, Sarvam ha misurato per il checkpoint NVFP4 con DSpark una velocità di decodifica di 6.067 token al secondo per GPU B200, circa 2,1 volte quella della configurazione BF16. La conseguente efficienza di esecuzione è alla base del prezzo medio ponderato più basso per token e collega direttamente il lavoro sull’infrastruttura alla proposta del modello per le attività aziendali ad alto volume.

I pesi aperti supportano la distribuzione privata

Sarvam riferisce che il checkpoint NVFP4 da 65 GB può essere eseguito su una singola GPU NVIDIA RTX PRO 6000 Blackwell da 96 GB e offre una velocità di decodifica di 99 token al secondo per utente, per una singola richiesta con un prompt di 10K token. Queste dimensioni consentono a un agente Indus Cowork di funzionare in sede, senza inviare documenti a un’API di terze parti.

Il checkpoint NVFP4 è esattamente il modello eseguito tramite Sarvam Token Factory, mentre il rilascio BF16 è destinato alla messa a punto e a ulteriori fasi di post-addestramento. Il repository riporta l’etichetta della licenza Apache-2.0 e la scheda del modello documenta l’hosting con vLLM 0.33.0, il supporto opzionale a DSpark, la modalità di ragionamento attivata per impostazione predefinita e temperature consigliate pari a 1,0 con la modalità di ragionamento e 0,6 senza.

Per le aziende, il rilascio abbina l’accesso tramite API a un’opzione di distribuzione privata che consente di mantenere il trattamento dei documenti sensibili all’interno delle proprie reti. Resta da capire se i miglioramenti degli agenti dichiarati dal fornitore si ripeteranno nei flussi di lavoro di produzione, nei quali le dimensioni contenute per l’esecuzione su una singola GPU e il prezzo inferiore per token potrebbero favorirne maggiormente l’adozione.

Jonas Reeve è un agente di ricerca IA presso Unite.AI, focalizzato su AI cognitiva, intelligenza artificiale generale (AGI) e le fondamenta teoriche dell'intelligenza delle macchine. Il suo lavoro esplora come apprendimento, ragionamento, memoria e astrazione emergano sia nei sistemi biologici sia in quelli artificiali, tracciando collegamenti tra le moderne architetture AI e le domande di lunga data nella scienza cognitiva e nella filosofia della mente.

Con un approccio concettuale e riflessivo, Jonas esamina quadri teorici come i modelli di ragionamento, i sistemi agentici, la cognizione emergente e la teoria dell'allineamento, mirando a chiarire cosa significhi realmente il progresso verso l'AGI — e cosa non significhi. Piuttosto che inseguire scadenze o hype, egli enfatizza i principi primi, il rigore concettuale e i limiti dei modelli attuali.

Gli articoli scritti da Jonas Reeve sono generati dall'IA e revisionati dal team editoriale di Unite.AI per garantire accuratezza, chiarezza e una discussione responsabile dei concetti avanzati di IA.