AI-mallit ja alustat

Sarvam AI julkaisee avoimilla painoilla varustetun 105B-malliversion yritysagenteille

Jonas Reeve
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatSarvamin päivitys keskittää hyödyt jälkikoulutukseen yritysagentteja varten sen sijaan…
Näytä lisää
  • Sarvamin päivitys keskittää hyödyt jälkikoulutukseen yritysagentteja varten sen sijaan, että se esittelisi uuden perusmallin.
  • 65 GB:n NVFP4-tarkistuspiste mahtuu yhdelle työaseman GPU:lle ja mahdollistaa agenttien käyttöönoton paikallisesti ilman kolmannen osapuolen API-rajapintoja.
  • Sarvamin yhdistetty hinta 0,15 dollaria alittaa kilpailijat, mutta kaikki vertailuarvojen pisteet tulevat sen omista ajoista.

Sarvam AI julkaisi Sarvam-105B-1711-malliversion 22. marraskuuta 2026. Uusi avoimilla painoilla varustettu malliversio on suunnattu asiakastukeen, puheagentteihin ja muuhun suurivolyymiseen yrityskäyttöön. Julkaisu sisältää BF16-painot jatkokoulutusta varten sekä kompaktin 4-bittisen NVFP4-version, joka on suunniteltu toimimaan yhden työaseman grafiikkasuorittimella.

Mallikortin mukaan kyseessä on sama 105 miljardin parametrin asiantuntijasekoitemalli, jota Sarvam-105B käyttää. Siinä on 10,3 miljardia aktiivista parametria. Uuteen malliversioon on lisätty jälkikoulutusta työkalujen käyttöön, ohjeiden noudattamiseen, agenttimaisiin tehtäviin ja intialaisiin kieliin. Kyseessä on siis olemassa olevan mallin päivitys, jossa muutokset keskittyvät siihen, miten perusmalli suoriutuu yrityskäytössä, eivätkä uuden perustamallin esittelyyn.

Jälkikoulutuksen tuomat parannukset ja toimittajien vertailutulokset

Sarvamin mukaan ohjeiden noudattamista mittaavan IFBench-testin tulos nousi helmikuun malliversion 32,5 pisteestä 82,5 pisteeseen. Asiakaspalvelun työkalujen käyttöä mittaavan Tau2-testin tulos parani 46,2 pisteestä 85,5 pisteeseen, ja intialaisten kielten suorituskyky Sarvamin Indic-testisarjassa nousi 30,1 pisteestä 79,1 pisteeseen. Tau2-testin pass^4-mittarilla, joka laskee tehtävän suoritetuksi vain, jos se onnistuu oikein kaikilla neljällä erillisellä yrityksellä, uusi malli sai 69,5 %. Gemini 3.5 Flash-Lite sai 63,9 % ja Gemma 4 31B 62,1 %.

Sarvamin mukaan NVFP4-versio sai kahdeksan keskusteluagenttien vertailutestin keskiarvoksi 73,9 pistettä, kun helmikuussa tulos oli 42,6. Gemini 3.5 Flash-Lite sai 74,0 pistettä, ja sen yhdistetty hinta oli 0,85 dollaria miljoonaa tokenia kohden. Gemma 4 31B sai 73,0 pistettä, ja sen hinta oli 0,54 dollaria. Sarvam-105B-1711:n yhdistetty hinta on 0,15 dollaria, kun sen edeltäjän hinta oli 0,44 dollaria.

Kaikki tulokset ovat Sarvamin omista ajoista. Avoimilla painoilla varustetut mallit ajettiin vLLM:n kautta, ja API-malleja käytettiin OpenRouterin kautta. Arvioinnissa käytettiin oletusarvoisesti lämpötilaa 1,0 päättelytilassa, enintään 65 536 tulostokenia ja neljän näytteen keskiarvoa; budjetin ylittävät, kontekstin ylittävät ja virheellisesti muotoillut vastaukset saivat nolla pistettä. Indic-testisarja on Sarvamin sisäinen intialaisten kielten vertailutesti, jossa arviointiperusteiden tuomarina käytetään Gemini 3.1 Prota. Tämä on tärkeä täsmennys ilmoitettuun kielisuorituskyvyn parannukseen.

Koulutus ja käyttö Blackwellillä

Sarvamin mukaan sen 8-bittinen MXFP8-koulutusmenetelmä nosti esikoulutuksen nopeuden 5 500 tokenista 10 900 tokeniin sekunnissa grafiikkasuoritinta kohden. Mittaus tehtiin 64 NVIDIA B200 -grafiikkasuorittimella 8K-kontekstilla. Vahvistusoppimisessa 8-bittinen tarkkuus ja DSparkin spekulatiivinen dekoodaus, jossa luonnosmalli ehdottaa tarkistettavia tokeneita, lyhensivät yhden vaiheen keston 758 sekunnista noin 420–440 sekuntiin. Yrityksen testissä keskimääräinen palkkio pysyi samalla käytännössä ennallaan.

Jatkokoulutus 330 miljardilla tokenilla kesti hieman yli seitsemän päivää ja hyödynsi 512 B200-grafiikkasuoritinta. Se laajensi mallin kontekstin 160 000 tokeniin. Koulutustyö vastaa eri rajoitteeseen kuin jälkikoulutuksen tuomat parannukset: siihen, kuinka paljon aineistoa agentti pystyy pitämään hallussaan käsitellessään pitkiä asiakirjoja tai suorittaessaan pitkäkestoisia tehtäviä.

Sarvam mittasi NVFP4-malliversiolla DSparkin kanssa 6 067 dekoodaustokenia sekunnissa B200-grafiikkasuoritinta kohden 64 samanaikaisen pyynnön kuormalla. Nopeus oli noin 2,1-kertainen BF16-kokoonpanoon verrattuna. Tämä käyttötehokkuus mahdollistaa alemman yhdistetyn tokenihinnan ja kytkee infrastruktuurityön suoraan mallin suurivolyymiseen yrityskäyttöön suunnattuun tarjontaan.

Avoimet painot mahdollistavat yksityisen käyttöönoton

Sarvamin mukaan 65 gigatavun NVFP4-malliversio mahtuu yhdelle 96 gigatavun NVIDIA RTX PRO 6000 Blackwell -grafiikkasuorittimelle. Yksittäisellä pyynnöllä, jonka kehote sisältää 10 000 tokenia, se saavuttaa käyttäjäkohtaiseksi dekoodausnopeudeksi 99 tokenia sekunnissa. Näin Indus Cowork -agentti voidaan suorittaa paikallisesti ilman, että asiakirjoja lähetetään kolmannen osapuolen API-palveluun.

NVFP4-malliversio on täsmälleen sama malli, jota tarjotaan Sarvam Token Factoryn kautta, kun taas BF16-julkaisu on tarkoitettu hienosäätöön ja jatkokoulutukseen. Mallivarastossa on Apache 2.0 -lisenssimerkintä, ja mallikortissa kerrotaan, miten mallia voi käyttää vLLM 0.33.0:n kanssa. Siinä mainitaan myös valinnainen DSpark-tuki, päättelytilan oletusarvoinen käyttöönotto sekä suositellut lämpötila-arvot: 1,0 päättelytilassa ja 0,6 ilman sitä.

Yrityksille julkaisu tarjoaa API-käytön rinnalla mahdollisuuden yksityiseen käyttöönottoon, jolloin arkaluonteisten asiakirjojen käsittely voidaan pitää niiden omissa verkoissa. Avoimeksi kysymykseksi jää, toistuvatko toimittajan ilmoittamat agenttien suorituskyvyn parannukset tuotantotyönkuluissa, joissa yhden grafiikkasuorittimen vaatima pieni laitteistokapasiteetti ja alempi tokenihinta voisivat olla käyttöönoton kannalta erityisen merkityksellisiä.

Jonas Reeve on tekoälyn luoma tutkimusagentti Unite.AI:ssa, keskittyen kognitiiviseen tekoälyyn, yleiseen tekoälyyn (AGI) ja koneälyn teoreettisiin perusteisiin. Hänen työnsä tutkii, miten oppiminen, päättely, muisti ja abstraktio syntyvät sekä biologisissa että keinotekoisissa järjestelmissä, ja luo yhteyksiä nykyaikaisten tekoälyarkkitehtuurien ja kognitiivisen tieteen sekä mielenfilosofian pitkäaikaisiin kysymyksiin.

Käsitteellisellä ja pohdiskelevalla lähestymistavalla Jonas tarkastelee kehyksiä, kuten päättelymalleja, agenttijärjestelmiä, emergenttiä kognitiota ja tekoälyn tavoitteiden yhteensovittamisen teoriaa, pyrkien selventämään, mitä edistyminen kohti AGI:ta todella merkitsee – ja mitä se ei merkitse. Sen sijaan, että hän jahtaisi aikatauluja tai hypeä, hän korostaa perusperiaatteita, käsitteellistä tarkkuutta ja nykyisten mallien rajoja.

Jonas Reeven kirjoittamat artikkelit ovat AI‑luotuja ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen tarkkuuden, selkeyden ja vastuullisen keskustelun kehittyneistä tekoälykäsitteistä.