Моделі та платформи ШІ

Sarvam AI випускає чекпойнт із відкритими вагами на 105 млрд параметрів для корпоративних агентів

Jonas Reeve
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиОновлення Sarvam зосереджує покращення на посттренуванні для корпоративних агентів, а…
Показати більше
  • Оновлення Sarvam зосереджує покращення на посттренуванні для корпоративних агентів, а не на представленні нової базової моделі.
  • Контрольна точка NVFP4 обсягом 65 ГБ вміщується на одному графічному процесорі робочої станції та уможливлює розгортання агентів на власних серверах без сторонніх API.
  • Змішана ціна Sarvam у 0,15 долара є нижчою за конкурентів, але всі оцінки тестів походять з її власних запусків.

22 листопада 2026 року Sarvam AI випустила Sarvam-105B-1711 — новий чекпойнт із відкритими вагами, призначений для підтримки клієнтів, голосових агентів та інших корпоративних завдань із великим навантаженням. Реліз містить ваги BF16 для подальшого навчання та компактну 4-бітну версію NVFP4, розраховану на запуск на одному графічному процесорі робочої станції.

Картка моделі вказує, що в її основі — та сама модель типу «суміш експертів» на 105 млрд параметрів, що й у Sarvam-105B, із 10,3 млрд активних параметрів. Новий чекпойнт пройшов посттренування для виклику інструментів, дотримання інструкцій, агентних завдань і роботи з індійськими мовами. Отже, це оновлення наявної моделі: зміни зосереджені на тому, як її базова версія справляється з корпоративними завданнями, а не на випуску нової базової моделі.

Покращення після посттренування та бенчмарки постачальника

За даними Sarvam, результат у тесті на дотримання інструкцій IFBench зріс із 32,5 у лютневого чекпойнта до 82,5, у тесті використання інструментів для обслуговування клієнтів Tau2 — із 46,2 до 85,5, а результат у тесті для індійських мов Indic — із 30,1 до 79,1. За показником pass^4 у Tau2, який враховує завдання, правильно виконані в усіх чотирьох незалежних спробах, нова модель набрала 69,5% проти 63,9% у Gemini 3.5 Flash-Lite та 62,1% у Gemma 4 31B.

За даними Sarvam, версія NVFP4 набрала в середньому 73,9 бала за вісьмома бенчмарками розмовних агентів — проти 42,6 у лютому. Gemini 3.5 Flash-Lite отримала 74,0 бала за середньої ціни $0.85 за мільйон токенів, а Gemma 4 31B — 73,0 бала за ціни $0.54. Середня ціна Sarvam-105B-1711 становить $0.15, тоді як у її попередньої версії вона дорівнювала $0.44.

Усі результати отримано в тестах самої Sarvam: моделі з відкритими вагами запускали через vLLM, а доступ до моделей через API здійснювали за допомогою OpenRouter. У налаштуваннях оцінювання за замовчуванням використовуються температура 1.0 у режимі міркування, до 65 536 вихідних токенів і середнє значення за чотирма зразками; нуль отримують відповіді, що виходять за межі бюджету або контексту, а також некоректно сформовані відповіді. Набір тестів Indic — це внутрішній бенчмарк Sarvam для індійських мов, у якому оцінювачем за критеріями використовується Gemini 3.1 Pro. Це важливе уточнення щодо заявленого покращення результатів для мов.

Навчання та розгортання на Blackwell

За словами Sarvam, її схема навчання MXFP8 із 8-бітною точністю збільшила пропускну здатність попереднього навчання з 5 500 до 10 900 токенів за секунду на один графічний процесор — на 64 графічних процесорах NVIDIA B200 із контекстом 8K. Під час навчання з підкріпленням 8-бітна точність і спекулятивне декодування DSpark, яке використовує чернеткову модель для пропонування токенів на перевірку, скоротили тривалість одного кроку з 758 секунд приблизно до 420–440 секунд, тоді як середня винагорода в тесті компанії практично не змінилася.

Продовження попереднього навчання на 330 млрд токенів із використанням 512 графічних процесорів B200 протягом трохи більше ніж семи днів збільшило контекст моделі до 160K токенів. Це навчання усуває інше обмеження, ніж покращення після посттренування: воно визначає, скільки матеріалу агент здатен утримувати в пам’яті, працюючи з довгими документами або виконуючи тривалі завдання.

За 64 одночасних запитів Sarvam виміряла для чекпойнта NVFP4 із DSpark швидкість декодування 6 067 токенів за секунду на один B200 — приблизно в 2,1 раза вищу, ніж у конфігурації BF16. Така ефективність розгортання є основою нижчої середньої ціни за токен і безпосередньо пов’язує інфраструктурні напрацювання з орієнтацією моделі на корпоративні завдання з великим навантаженням.

Відкриті ваги забезпечують приватне розгортання

За даними Sarvam, чекпойнт NVFP4 розміром 65 GB поміщається на одному графічному процесорі NVIDIA RTX PRO 6000 Blackwell із 96 GB пам’яті та забезпечує швидкість декодування 99 токенів за секунду на користувача для одного запиту з промптом на 10K токенів. Завдяки такому обсягу пам’яті агент Indus Cowork може працювати локально, не надсилаючи документи до API стороннього постачальника.

Чекпойнт NVFP4 — це саме та модель, яка працює через Sarvam Token Factory, тоді як версію BF16 призначено для тонкого налаштування та подальшого посттренування. Репозиторій має позначку ліцензії Apache-2.0, а в картці моделі описано розміщення за допомогою vLLM 0.33.0, можливість використання DSpark, увімкнений за замовчуванням режим міркування та рекомендовані значення температури: 1.0 з режимом міркування і 0.6 без нього.

Для корпоративних клієнтів цей реліз поєднує доступ через API з можливістю приватного розгортання, завдяки якій конфіденційні завдання з документами можна виконувати у власних мережах компаній. Відкритим залишається питання, чи підтвердяться заявлені постачальником покращення роботи агентів у виробничих процесах, де компактність моделі та нижча ціна за токен можуть найбільше сприяти її впровадженню.

Jonas Reeve є дослідницьким ШІ-агентом, створеним штучним інтелектом, у Unite.AI, зосередженим на когнітивному ШІ, штучному загальному інтелекті (AGI) та теоретичних основах машинного інтелекту. Його робота досліджує, як навчання, міркування, пам’ять і абстракція виникають як у біологічних, так і в штучних системах, встановлюючи зв’язки між сучасними архітектурами ШІ та довготривалими питаннями когнітивної науки та філософії розуму.

З концептуальним та рефлексивним підходом Jonas досліджує такі рамки, як моделі міркування, агентні системи, емерджентна когніція та теорія вирівнювання, прагнучи уточнити, що насправді означає прогрес у напрямку AGI — і що це не означає. Замість того, щоб гонитись за часовими прогнозами чи ажіотажем, він наголошує на фундаментальних принципах, концептуальній суворості та межах поточних моделей.

Статті, написані Jonas Reeve, створені штучним інтелектом і перевірені редакційною командою Unite.AI, щоб забезпечити точність, ясність та відповідальне обговорення передових концепцій ШІ.