โมเดลและแพลตฟอร์ม AI

Sarvam เปิดโรงงานโทเค็นที่ตั้งอยู่ในอินเดีย สำหรับโมเดลแบบเปิดน้ำหนัก

Theo Nash
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญSarvam ให้บริการโมเดลแบบเปิดน้ำหนักจาก GPU ของอินเดียแทนการส่งต่อคำขอไปยัง API…
ดูเพิ่มเติม
  • Sarvam ให้บริการโมเดลแบบเปิดน้ำหนักจาก GPU ของอินเดียแทนการส่งต่อคำขอไปยัง API ของนักพัฒนาต่างประเทศ
  • การแยก prefill ออกจาก decode บนพูล GPU ที่แตกต่างกันช่วยป้องกันไม่ให้พรอมต์เขียนโค้ดยาวๆ ทำให้เซสชัน decode ที่กำลังทำงานอยู่หยุดชะงัก
  • การเปรียบเทียบ DeepSeek ของ Sarvam เองแสดงให้เห็นว่า Together ส่งคืนโทเค็นแรกได้เร็วกว่าและสตรีมที่ 278 โทเค็นเอาต์พุตต่อวินาที

เมื่อวันที่ 16 พฤศจิกายน 2026 Sarvam AI เปิดตัว Sarvam Token Factory สำหรับนักพัฒนาและองค์กร โดยให้บริการโมเดลแบบเปิดน้ำหนักของบริษัทเองและจากผู้พัฒนารายอื่นผ่านคลัสเตอร์ GPU ในอินเดีย ด้วย API เดียวที่เข้ากันได้กับ OpenAI Sarvam ระบุว่าขณะนี้บริการรองรับโทเค็น DeepSeek V4.1 Flash มากกว่า 450 พันล้านโทเค็นต่อวัน

โมเดลที่เปิดตัวประกอบด้วย Sarvam 105B, GLM 5.3, GLM 5.3 Flash, DeepSeek V4.1 Flash 1017, DeepSeek V4 Pro, Kimi K3.1 Pro และ Gemma 4 31B เอกสาร API ระบุว่า Token Factory ใช้คีย์ API, SDK และเครดิตชุดเดียวกับ API อื่น ๆ ของ Sarvam โดยผู้ใช้เปลี่ยน model ฟิลด์เพื่อสลับโมเดลได้ ส่วนไคลเอ็นต์ที่เข้ากันได้กับ OpenAI ก็สามารถกำหนดปลายทางไปยัง https://api.sarvam.ai/v2.

ราคา การติดตั้งใช้งาน และการจัดการข้อมูล

ราคาแนะนำของ Sarvam 105B อยู่ที่ ₹10 ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น และ ₹25 ต่อโทเค็นเอาต์พุตหนึ่งล้านโทเค็น ส่วนปลายทาง Standard ของ DeepSeek V4.1 Flash 1017 มีค่าใช้จ่าย ₹14 และ ₹55 ตามลำดับ ทั้งสองรุ่นคิดค่าอินพุตจากแคชที่ ₹0.25 ต่อหนึ่งล้านโทเค็นตามที่ระบุใน รายการราคา เอกสาร API ระบุว่าราคาแนะนำจะมีผลจนถึงสิ้นปี 2026 โดยราคาทั้งหมดที่ระบุเป็นรูปีไม่รวม GST

การเข้าถึงไม่ได้จำกัดอยู่แค่ปลายทางแบบไร้เซิร์ฟเวอร์ที่คิดค่าบริการตามการใช้งาน โดยเปิดใช้ DeepSeek V4 Pro และ Kimi K3.1 Pro ให้แต่ละองค์กรภายใต้ Provisioned Throughput ขณะที่โมเดลอื่น ๆ ที่เปิดตัวระบุว่าให้บริการแบบไร้เซิร์ฟเวอร์ ลูกค้าสามารถเลือกใช้ความจุร่วมกันหรือความจุเฉพาะได้ นอกจากนี้ Sarvam ยังให้บริการชุดเครื่องมือเพิ่มประสิทธิภาพการอนุมานสำหรับการติดตั้งใช้งานภายในองค์กร และระบุว่าขณะนี้ระบบทำงานในลักษณะดังกล่าวให้กับสถาบันสำคัญอยู่แล้ว

หน้าผลิตภัณฑ์ของ Sarvam ระบุว่าการอนุมานทำงานบน GPU ที่ Sarvam เป็นผู้ดำเนินการในอินเดีย แทนที่จะส่งต่อคำขอไปยัง API ในต่างประเทศของผู้พัฒนาโมเดลต้นฉบับ ภายใต้ข้อตกลงที่กำหนดให้ไม่มีการเก็บรักษาข้อมูล พรอมป์ตและคำตอบจะไม่ถูกเก็บไว้ ส่วนบันทึกการปฏิบัติงานจะอยู่ภายใต้ขอบเขตการจัดการที่แยกต่างหาก ข้อมูลลูกค้าจะไม่ถูกนำไปใช้ฝึกโมเดลสำหรับลูกค้ารายอื่น และการติดตั้งใช้งานระดับองค์กรมีข้อตกลงระดับการให้บริการตามสัญญาที่รับประกันเวลาพร้อมใช้งาน 99.95%

แคชร่วมสำหรับเซสชันเอเจนต์ระยะยาว

ระบบให้บริการแยกขั้นตอน prefill ซึ่งอ่านพรอมป์ตทั้งหมด ออกจากขั้นตอน decode ซึ่งสร้างโทเค็นทีละรายการ และให้แต่ละขั้นตอนทำงานบนกลุ่ม GPU คนละชุด การแยกเช่นนี้ออกแบบมาเพื่อป้องกันไม่ให้พรอมป์ตเขียนโค้ดขนาดยาวรายการใหม่ทำให้เซสชันถอดรหัสที่กำลังทำงานอยู่สะดุด ซึ่งอาจเกิดขึ้นได้เมื่อทั้งสองขั้นตอนใช้ GPU ร่วมกัน ระนาบควบคุมที่รับรู้แคชจะกำหนดเส้นทางแต่ละรอบไปยังบริบทที่มีอยู่ ขณะที่การรับคำขอจะนับเฉพาะโทเค็นที่ยังไม่อยู่ในแคช

แคชอีกชั้นหนึ่งคือที่เก็บ G3 ซึ่งใช้ Mooncake ของ Moonshot และเปิดให้เซิร์ฟเวอร์ prefill ทุกเครื่องเข้าถึงได้ โดยเก็บพรอมป์ตไว้นานหลายชั่วโมงหรือหลายวัน ขึ้นอยู่กับปริมาณการใช้งาน หน่วยความจำ GPU เพียงอย่างเดียวเก็บพรอมป์ตไว้ได้ประมาณสี่วินาที และลดลงเหลือประมาณสองวินาทีเมื่อมีโหลด ความแตกต่างนี้สำคัญสำหรับเอเจนต์ที่กลับมาทำงานต่อหลังเรียกใช้เครื่องมือ โดยใช้พรอมป์ตที่แทบไม่ต่างจากเดิม Sarvam ระบุว่าโทเค็นพรอมป์ตของ DeepSeek V4.1 Flash 95.7% มาจากแคช และ G3 ช่วยลดจำนวนโหนด prefill สูงสุดที่ GLM 5.3 ต้องใช้จาก 58 เหลือ 34 โหนด

สำหรับ Sarvam 105B บริษัทระบุว่าการเปลี่ยนจากน้ำหนัก BF16 ไปเป็น MXFP8 ซึ่งเป็นรูปแบบ 8 บิต พร้อมเพิ่มการถอดรหัสแบบคาดการณ์ ทำให้ปริมาณเอาต์พุตเพิ่มขึ้นประมาณ 2.2 เท่า ขณะลดจำนวน GPU B200 ที่ใช้ต่อเรพลิกาจากสองตัวเหลือหนึ่งตัว โดยไม่ทำให้ความแม่นยำลดลง นอกจากนี้ เอเจนต์ผู้ประสานงานยังมอบหมายการทดลองเพิ่มประสิทธิภาพให้เอเจนต์ย่อย แต่ทุกการเปลี่ยนแปลงต้องได้รับอนุมัติจากวิศวกรก่อนนำไปใช้งาน

ประสิทธิภาพในโมเดลและปลายทางต่าง ๆ

Sarvam ระบุว่าในการทดสอบค่ามัธยฐาน 72 ชั่วโมงจากไคลเอ็นต์ AWS ในมุมไบ โดยใช้พรอมป์ต 10,000 โทเค็น Gemma 4 31B ส่งโทเค็นแรกกลับมาใน 0.40 วินาที และสตรีมได้ 308 โทเค็นต่อวินาที เทียบกับ 2.00 วินาทีและ 193 โทเค็นต่อวินาทีจากผู้ให้บริการรายเดียวอีกรายที่ให้บริการโมเดลนี้ การเปรียบเทียบใช้บริการระดับสูงสุดของผู้ให้บริการรายนั้นสำหรับแต่ละตัวชี้วัด ส่วนการทดสอบ Kimi K3.1 Pro แยกต่างหากของ Sarvam โดยใช้ร่องรอยการทำงานของเอเจนต์เขียนโค้ดและ GPU B200 จำนวน 16 ตัว ทำได้ 6,177 โทเค็นต่อวินาทีต่อ GPU ที่ความเร็วประมาณ 70 โทเค็นต่อวินาทีต่อผู้ใช้ เทียบกับ 3,213 ตามกราฟผลทดสอบที่ InferenceX เผยแพร่

ผลการเปรียบเทียบ DeepSeek V4.1 Flash ของ Sarvam เองเป็นรองกว่า โดยในการทดสอบเวลาแฝงด้วยพรอมป์ต 10,000 โทเค็น Together ส่งโทเค็นแรกกลับมาใน 0.71 วินาที เทียบกับ 0.90 วินาทีของ Sarvam Standard ตารางเปรียบเทียบราคาและความเร็วอีกชุดหนึ่งของ Sarvam ระบุว่า Together ทำได้ 278 โทเค็นเอาต์พุตต่อวินาที ส่วน Sarvam Standard ทำได้ 130 ตัวเลขเวลาแฝงวัดระหว่างวันที่ 3–5 พฤศจิกายน 2026 โดยส่งคำขอครั้งละหนึ่งรายการและใช้บริการระดับเร็วที่สุดของผู้ให้บริการแต่ละราย

Token Factory ทำให้ระบบให้บริการเป็นผลิตภัณฑ์หลักของบริษัท จุดเด่นทางธุรกิจเกิดจากการผสานการประมวลผลในอินเดียและการย้ายระบบที่เข้ากันได้กับ OpenAI เข้ากับการประหยัด GPU ด้วยแคชและการปรับแต่งแยกตามโมเดล ผลการทดสอบที่เผยแพร่แสดงให้เห็นการเพิ่มประสิทธิภาพอย่างมากในงานบางประเภทที่เลือกมา แต่ก็ชี้ให้เห็นด้วยว่าข้อได้เปรียบด้านปริมาณงานและเวลาแฝงแตกต่างกันไปตามโมเดลและปลายทาง

Theo Nash เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, ครอบคลุมโครงสร้างพื้นฐาน AI, การคำนวณ, และระบบฮาร์ดแวร์ที่ขับเคลื่อนปัญญาประดิษฐ์สมัยใหม่ งานของเขามุ่งเน้นที่พื้นฐานทางเทคนิคเบื้องหลังภาระงาน AI ขนาดใหญ่ รวมถึงศูนย์ข้อมูล, ตัวเร่งความเร็ว, เครือข่าย, และสแตกซอฟต์แวร์ที่เชื่อมโยงพวกมันเข้าด้วยกัน.

ด้วยมุมมองเชิงวิเคราะห์และขับเคลื่อนโดยวิศวกรรม, Theo ตรวจสอบว่าความก้าวหน้าใน GPU, ซิลิกอนแบบกำหนดเอง, สถาปัตยกรรมหน่วยความจำ, และระบบกระจายทำให้รุ่นใหม่ของโมเดล AI สามารถเกิดขึ้นได้อย่างไร เขาให้ความสนใจเป็นพิเศษต่อการแลกเปลี่ยนด้านประสิทธิภาพ, ประสิทธิภาพการใช้พลังงาน, ความสามารถในการขยาย, และข้อจำกัดเชิงปฏิบัติที่กำหนดการใช้งานจริงของโครงสร้างพื้นฐาน AI.

บทความที่เขียนโดย Theo Nash สร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อรับประกันความแม่นยำทางเทคนิค, ความชัดเจน, และการครอบคลุมอย่างรับผิดชอบต่อภูมิทัศน์การคำนวณ AI ที่กำลังพัฒนาอย่างรวดเร็ว