Mô hình và nền tảng AI

Sarvam AI ra mắt checkpoint 105B có trọng số mở dành cho các tác tử doanh nghiệp

Jonas Reeve
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Điểm chínhBản cập nhật của Sarvam tập trung vào việc cải thiện giai đoạn huấn luyện sau cho các…
Xem thêm
  • Bản cập nhật của Sarvam tập trung vào việc cải thiện giai đoạn huấn luyện sau cho các tác nhân doanh nghiệp thay vì giới thiệu một mô hình nền tảng mới.
  • Checkpoint NVFP4 65 GB vừa với một GPU máy trạm và cho phép triển khai tác nhân tại chỗ mà không cần API của bên thứ ba.
  • Mức giá kết hợp 0,15 đô la của Sarvam thấp hơn các đối thủ nhưng tất cả điểm chuẩn đều đến từ các lần chạy của chính họ.

Ngày 22 tháng 11 năm 2026, Sarvam AI đã ra mắt Sarvam-105B-1711, một checkpoint mới có trọng số mở hướng đến hỗ trợ khách hàng, tác tử thoại và các khối lượng công việc doanh nghiệp khác có quy mô lớn. Bản phát hành bao gồm trọng số BF16 để tiếp tục huấn luyện và một phiên bản NVFP4 4-bit nhỏ gọn, được thiết kế để chạy trên một GPU máy trạm.

Thẻ mô hình cho biết mô hình này sử dụng cùng mô hình nền kiến trúc hỗn hợp chuyên gia với 105 tỷ tham số như Sarvam-105B, trong đó có 10,3 tỷ tham số hoạt động. Checkpoint mới được bổ sung bước huấn luyện hậu kỳ cho việc gọi công cụ, làm theo chỉ dẫn, các tác vụ dạng tác tử và ngôn ngữ Ấn Độ. Vì vậy, đây là bản cập nhật cho một mô hình hiện có, với những thay đổi tập trung vào cách mô hình nền xử lý công việc doanh nghiệp, chứ không phải một mô hình nền tảng mới được giới thiệu.

Cải thiện sau huấn luyện và điểm chuẩn của nhà cung cấp

Sarvam cho biết điểm làm theo chỉ dẫn trên IFBench tăng từ 32,5 ở checkpoint tháng 2 lên 82,5; điểm sử dụng công cụ trong dịch vụ khách hàng trên Tau2 tăng từ 46,2 lên 85,5; và điểm hiệu năng tiếng Ấn Độ trên bộ đánh giá Indic của hãng tăng từ 30,1 lên 79,1. Theo thước đo pass^4 của Tau2, tính số tác vụ được hoàn thành chính xác trong cả bốn lần thử độc lập, mô hình mới đạt 69,5%, so với 63,9% của Gemini 3.5 Flash-Lite và 62,1% của Gemma 4 31B.

Sarvam cho biết phiên bản NVFP4 đạt điểm trung bình 73,9 trên tám bài đánh giá chuẩn dành cho tác tử hội thoại, tăng từ mức 42,6 hồi tháng 2. Gemini 3.5 Flash-Lite đạt 74,0 với mức giá tổng hợp 0,85 USD cho mỗi triệu token, trong khi Gemma 4 31B đạt 73,0 với mức giá 0,54 USD. Giá tổng hợp của Sarvam-105B-1711 là 0,15 USD, giảm từ mức 0,44 USD của phiên bản tiền nhiệm.

Tất cả điểm số đều đến từ các lần chạy thử nghiệm nội bộ của Sarvam; các mô hình có trọng số mở được cung cấp thông qua vLLM, còn các mô hình API được truy cập qua OpenRouter. Cấu hình mặc định của bài đánh giá sử dụng nhiệt độ 1.0 ở chế độ suy luận, tối đa 65.536 token đầu ra và điểm trung bình của bốn mẫu; các phản hồi vượt ngân sách, tràn ngữ cảnh hoặc sai định dạng đều nhận điểm 0. Bộ đánh giá Indic là bài đánh giá nội bộ của Sarvam về các ngôn ngữ Ấn Độ và sử dụng Gemini 3.1 Pro làm giám khảo theo tiêu chí chấm điểm; đây là một điểm cần lưu ý khi xem xét mức cải thiện được báo cáo về hiệu năng ngôn ngữ.

Huấn luyện và phục vụ mô hình trên Blackwell

Sarvam cho biết công thức huấn luyện MXFP8 8-bit đã nâng thông lượng tiền huấn luyện từ 5.500 lên 10.900 token mỗi giây trên mỗi GPU, với 64 GPU NVIDIA B200 và độ dài ngữ cảnh 8K. Trong quá trình học tăng cường, độ chính xác 8-bit và giải mã suy đoán DSpark—sử dụng mô hình dự thảo để đề xuất token rồi xác minh—đã rút ngắn thời gian mỗi bước từ 758 giây xuống còn khoảng 420–440 giây, trong khi phần thưởng trung bình hầu như không thay đổi trong thử nghiệm của công ty.

Quá trình tiền huấn luyện tiếp diễn trên 330 tỷ token, sử dụng 512 GPU B200 trong hơn bảy ngày một chút, đã mở rộng ngữ cảnh của mô hình lên 160K token. Công việc huấn luyện này giải quyết một hạn chế khác với những cải thiện sau huấn luyện: lượng tài liệu mà một tác tử có thể ghi nhớ khi xử lý các tài liệu dài hoặc các tác vụ kéo dài.

Với 64 yêu cầu đồng thời, Sarvam đo được tốc độ giải mã 6.067 token mỗi giây trên mỗi GPU B200 cho checkpoint NVFP4 kết hợp với DSpark, cao gấp khoảng 2,1 lần cấu hình BF16. Hiệu quả phục vụ mô hình đạt được là cơ sở cho mức giá token tổng hợp thấp hơn, qua đó gắn trực tiếp công việc về hạ tầng với định hướng phục vụ khối lượng công việc doanh nghiệp lớn của mô hình.

Trọng số mở hỗ trợ triển khai riêng tư

Sarvam cho biết checkpoint NVFP4 dung lượng 65 GB có thể chạy trên một GPU NVIDIA RTX PRO 6000 Blackwell 96 GB và đạt tốc độ giải mã 99 token mỗi giây cho mỗi người dùng, với một yêu cầu duy nhất có lời nhắc dài 10K token. Mức tiêu thụ tài nguyên này cho phép tác tử Indus Cowork chạy tại chỗ mà không cần gửi tài liệu đến API của bên thứ ba.

Checkpoint NVFP4 chính là mô hình được phục vụ thông qua Sarvam Token Factory, trong khi bản phát hành BF16 dành cho tinh chỉnh và huấn luyện hậu kỳ tiếp theo. Kho mã có thẻ giấy phép Apache-2.0; thẻ mô hình hướng dẫn cách lưu trữ bằng vLLM 0.33.0, hỗ trợ DSpark tùy chọn, bật chế độ suy luận theo mặc định, đồng thời khuyến nghị đặt nhiệt độ ở mức 1.0 khi bật chế độ suy luận và 0.6 khi tắt chế độ này.

Đối với doanh nghiệp, bản phát hành này kết hợp quyền truy cập API với phương án triển khai riêng tư, cho phép xử lý tài liệu nhạy cảm ngay trong mạng nội bộ của doanh nghiệp. Câu hỏi còn bỏ ngỏ là liệu những cải thiện về tác tử do nhà cung cấp báo cáo có tiếp tục xuất hiện trong quy trình làm việc thực tế hay không; đây là bối cảnh mà khả năng chạy trên một GPU và mức giá token thấp hơn có thể đặc biệt quan trọng đối với việc áp dụng mô hình.

Jonas Reeve là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, tập trung vào AI nhận thức, trí tuệ nhân tạo chung (AGI), và các nền tảng lý thuyết của trí thông minh máy móc. Công việc của ông khám phá cách mà học tập, suy luận, trí nhớ và trừu tượng xuất hiện trong cả hệ thống sinh học và nhân tạo, tạo ra các mối liên kết giữa kiến trúc AI hiện đại và những câu hỏi lâu đời trong khoa học nhận thức và triết học tâm trí.

Với cách tiếp cận khái niệm và suy ngẫm, Jonas xem xét các khung như mô hình suy luận, hệ thống tác nhân AI, nhận thức nổi lên, và lý thuyết cân chỉnh, nhằm làm rõ tiến bộ hướng tới AGI thực sự có nghĩa là gì — và không phải là gì. Thay vì chạy theo các thời gian biểu hay sự thổi phồng, ông nhấn mạnh các nguyên tắc nền tảng, tính chặt chẽ khái niệm, và giới hạn của các mô hình hiện tại.

Các bài viết do Jonas Reeve viết được tạo ra bằng AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác, rõ ràng và thảo luận có trách nhiệm về các khái niệm AI tiên tiến.