Modele i platformy AI
Sarvam AI udostępnia checkpoint z otwartymi wagami 105B dla agentów korporacyjnych

Kluczowe punktyAktualizacja Sarvam koncentruje się na zyskach w treningu po wstępnym szkoleniu dla…
Zobacz więcej
- Aktualizacja Sarvam koncentruje się na zyskach w treningu po wstępnym szkoleniu dla agentów korporacyjnych, zamiast wprowadzać nowy model bazowy.
- Punkt kontrolny NVFP4 o rozmiarze 65 GB mieści się na jednym GPU stacji roboczej i umożliwia wdrożenie agentów lokalnie bez interfejsów API stron trzecich.
- Mieszana cena Sarvam wynosząca 0,15 USD jest niższa niż u konkurencji, ale wszystkie wyniki testów porównawczych pochodzą z własnych uruchomień firmy.
Sarvam AI udostępniła Sarvam-105B-1711 22 listopada 2026 r. To nowy checkpoint z otwartymi wagami, przeznaczony do obsługi klienta, agentów głosowych i innych zastosowań korporacyjnych o dużej skali. W ramach wydania udostępniono wagi BF16 do dalszego treningu oraz kompaktową, 4-bitową wersję NVFP4, zaprojektowaną do uruchamiania na jednej stacji roboczej z procesorem GPU.
Karta modelu wskazuje, że bazą jest ten sam model typu mixture-of-experts, z którego korzysta Sarvam-105B: ma on 105 mld parametrów, z czego 10,3 mld jest aktywnych. Nowy checkpoint został dodatkowo dostrojony po treningu pod kątem wywoływania narzędzi, stosowania się do instrukcji, zadań agentowych i języków indyjskich. Jest to zatem aktualizacja istniejącego modelu, w której zmiany dotyczą przede wszystkim sposobu, w jaki jego baza obsługuje zastosowania korporacyjne, a nie wprowadzenie nowego modelu bazowego.
Korzyści z dostrajania po treningu i wyniki porównawcze dostawców
Sarvam informuje, że wynik w IFBench, mierzącym stosowanie się do instrukcji, wzrósł z 32,5 dla checkpointu z lutego do 82,5; wynik w Tau2, oceniającym użycie narzędzi w obsłudze klienta, wzrósł z 46,2 do 85,5; a wynik w wewnętrznym zestawie testów Indic, mierzącym skuteczność w językach indyjskich, zwiększył się z 30,1 do 79,1. W mierze pass^4 dla Tau2, która uwzględnia zadania poprawnie wykonane we wszystkich czterech niezależnych próbach, nowy model uzyskał 69,5%, wobec 63,9% dla Gemini 3.5 Flash-Lite i 62,1% dla Gemma 4 31B.
Sarvam podaje, że wersja NVFP4 uzyskała średni wynik 73,9 w ośmiu testach porównawczych dla agentów konwersacyjnych, w porównaniu z 42,6 w lutym. Gemini 3.5 Flash-Lite uzyskał 74,0 przy łącznej cenie 0,85 USD za milion tokenów, a Gemma 4 31B — 73,0 przy cenie 0,54 USD. Łączna cena Sarvam-105B-1711 wynosi 0,15 USD, w porównaniu z 0,44 USD w przypadku poprzedniej wersji.
Wszystkie wyniki pochodzą z własnych testów Sarvam; modele z otwartymi wagami uruchamiano za pośrednictwem vLLM, a modele dostępne przez API — za pośrednictwem OpenRouter. Domyślne ustawienia ewaluacji obejmują temperaturę 1,0 w trybie rozumowania, maksymalnie 65 536 tokenów wyjściowych oraz średnią z czterech próbek; wyniki dla odpowiedzi przekraczających budżet, wykraczających poza limit kontekstu lub nieprawidłowo sformułowanych wynoszą zero. Zestaw testów Indic to wewnętrzny benchmark Sarvam dla języków indyjskich; jako oceniającego według ustalonych kryteriów wykorzystuje Gemini 3.1 Pro. To ważne zastrzeżenie przy interpretacji podanego wzrostu skuteczności w tych językach.
Trening i obsługa modeli na platformie Blackwell
Sarvam informuje, że zastosowanie 8-bitowej procedury treningowej MXFP8 zwiększyło przepustowość wstępnego treningu z 5500 do 10 900 tokenów na sekundę na procesor GPU, przy użyciu 64 procesorów GPU NVIDIA B200 i kontekstu 8K. W przypadku uczenia przez wzmacnianie 8-bitowa precyzja i spekulacyjne dekodowanie DSpark, które wykorzystuje model pomocniczy do proponowania tokenów przeznaczonych do weryfikacji, skróciły czas jednego kroku z 758 sekund do około 420–440 sekund. Średnia nagroda w teście firmy pozostała przy tym praktycznie bez zmian.
Dalszy trening wstępny na 330 mld tokenów, przeprowadzony z użyciem 512 procesorów GPU B200 przez nieco ponad siedem dni, rozszerzył kontekst modelu do 160 tys. tokenów. Ten etap treningu rozwiązuje inny problem niż wzrosty skuteczności uzyskane dzięki dostrajaniu po treningu: określa, ile materiału agent może zachować podczas pracy z długimi dokumentami lub wykonywania rozbudowanych zadań.
Przy 64 równoczesnych żądaniach Sarvam zmierzyła dla checkpointu NVFP4 z DSpark przepustowość dekodowania wynoszącą 6067 tokenów na sekundę na procesor GPU B200 — około 2,1 raza więcej niż w konfiguracji BF16. Uzyskana wydajność obsługi modeli stanowi podstawę niższej łącznej ceny tokenów i bezpośrednio łączy prace nad infrastrukturą z ofertą modelu skierowaną do przedsiębiorstw obsługujących duże wolumeny.
Otwarte wagi umożliwiają prywatne wdrożenie
Sarvam podaje, że checkpoint NVFP4 o rozmiarze 65 GB mieści się na jednym 96-gigabajtowym procesorze GPU NVIDIA RTX PRO 6000 Blackwell i zapewnia szybkość dekodowania 99 tokenów na sekundę dla jednego użytkownika, przy pojedynczym żądaniu i monicie o długości 10 tys. tokenów. Taki rozmiar pozwala uruchomić agenta Indus Cowork lokalnie, bez wysyłania dokumentów do API zewnętrznego dostawcy.
Checkpoint NVFP4 to dokładnie ten model, który jest udostępniany za pośrednictwem Sarvam Token Factory, natomiast wersja BF16 jest przeznaczona do dostrajania i dalszego treningu po wstępnym treningu. W repozytorium znajduje się oznaczenie licencji Apache-2.0, a karta modelu opisuje jego hosting z użyciem vLLM 0.33.0, opcjonalną obsługę DSpark, domyślnie włączony tryb rozumowania oraz zalecane wartości temperatury: 1,0 z włączonym trybem rozumowania i 0,6 bez niego.
Przedsiębiorstwom wydanie oferuje dostęp przez API oraz możliwość prywatnego wdrożenia, które pozwala przechowywać wrażliwe dokumenty we własnej sieci. Otwartą kwestią pozostaje to, czy deklarowany przez dostawcę wzrost skuteczności agentów powtórzy się w rzeczywistych procesach roboczych — właśnie tam możliwość uruchomienia modelu na jednym procesorze GPU i niższa cena tokenów mogą mieć największe znaczenie dla jego wdrożenia.












