ความร่วมมือ

Baseten นำความเชี่ยวชาญด้านการอนุมานมาสู่พันธมิตร Nemotron ของ NVIDIA

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

Baseten ประกาศเมื่อวันที่ 5 พฤศจิกายน 2026 ว่าได้เข้าร่วม NVIDIA Nemotron Coalition โดยนำข้อมูลเชิงลึกจากเวิร์กโหลดระดับองค์กรและความเชี่ยวชาญด้านการฝึกหลังการฝึกและการอนุมานมาสนับสนุนการพัฒนาโมเดลแบบเปิด การเข้าร่วมครั้งนี้ขยายความร่วมมือกับ NVIDIA ให้ครอบคลุมการเปิดตัวโมเดล การเรียนรู้แบบเสริมกำลัง การปรับแต่งโมเดล และบริการอนุมานเฉพาะทาง

NVIDIA เปิดตัวพันธมิตรเมื่อวันที่ 16 มีนาคม 2026 เพื่อรวบรวมงานวิจัย ความเชี่ยวชาญ ข้อมูล และกำลังประมวลผลสำหรับการพัฒนาโมเดลแนวหน้ะแบบเปิด ประกาศเปิดตัวของ NVIDIA ระบุว่าโครงการแรกจะเป็นโมเดลพื้นฐานที่ Mistral AI และ NVIDIA ร่วมกันพัฒนา โดยฝึกบน NVIDIA DGX Cloud และเผยแพร่เป็นโอเพนซอร์สเพื่อให้นักพัฒนาและองค์กรนำไปปรับแต่งเฉพาะทาง ทั้งยังใช้เป็นรากฐานของตระกูล Nemotron 4 ที่กำลังจะมาถึง

Baseten เป็นพันธมิตรที่ร่วมเปิดตัวตั้งแต่วันแรกสำหรับ Nemotron 3.5 Super VL และ Nemotron 3 Ultra บทบาทในพันธมิตรของบริษัทไม่ได้จำกัดอยู่แค่การให้บริการโมเดลที่พัฒนาเสร็จแล้ว แต่ยังครอบคลุมสภาพแวดล้อมสำหรับการฝึกและองค์ความรู้ด้านการปฏิบัติงานที่สั่งสมจากการใช้งานในองค์กรด้วย ในทางปฏิบัติ บริษัทมุ่งเน้นการปรับแต่งให้ตรงกับข้อกำหนดเฉพาะของธุรกิจ โดยพิจารณาคุณภาพการนำไปใช้งาน ต้นทุน และความยืดหยุ่นเป็นปัจจัยที่เชื่อมโยงกัน

การฝึกเพื่อรองรับเวิร์กโหลดการใช้งานจริง

บริษัทพัฒนาสภาพแวดล้อมสำหรับการเรียนรู้แบบเสริมกำลังเพื่อรับมือกับลำดับชั้นคำสั่งที่ซับซ้อน โดยละเว้นข้อมูลที่ไม่เกี่ยวข้องและปฏิบัติตามข้อกำหนดด้านรูปแบบอย่างละเอียด สภาพแวดล้อมอื่น ๆ มุ่งจัดการกับการใช้เหตุผลและการวางแผนในระยะยาว ผ่านการวิเคราะห์ทางสถิติของชุดข้อมูลชีววิทยาที่ซับซ้อน การพิสูจน์ทฤษฎีบททางคณิตศาสตร์ และการแข่งขันเล่นเกม งานเหล่านี้สะท้อนรูปแบบที่คำสั่งสำหรับการใช้งานจริงมักมาถึงผ่านพรอมป์ต์ระบบ คำจำกัดความของเครื่องมือ ข้อความติดตามจากผู้ใช้ คำตอบจากเครื่องมือ และข้อความแจ้งข้อผิดพลาด

งานด้านมัลติโหมดของบริษัทยังเพิ่มโจทย์การใช้เหตุผลด้านภาพและมิติสัมพันธ์ รวมถึงการเรียกใช้เครื่องมือหลายรอบที่ต้องอาศัยความเข้าใจภาพ Baseten รายงานว่าการฝึกหลังการฝึกช่วยเพิ่มผลลัพธ์บน MMMU-Pro ซึ่งเป็นเกณฑ์มาตรฐานการใช้เหตุผลแบบมัลติโหมดระดับผู้เชี่ยวชาญ บทความวิจัยที่เกี่ยวข้องซึ่งส่งเมื่อวันที่ 5 ตุลาคม 2026 อธิบายโปรเจกเตอร์ขนาด 50 ล้านพารามิเตอร์ที่เชื่อมตัวเข้ารหัสภาพของ Kimi K2.6 เข้ากับ GLM 5.2 และ GLM 5.3 โดยตรึงน้ำหนักที่ผ่านการฝึกมาก่อนหน้าไว้ พร้อมประเมินผลบน MMMU-Pro และ BLINK

ผลลัพธ์การปรับแต่งที่วัดได้

รายงานการวิจัยเมื่อวันที่ 11 สิงหาคม 2026ของ CodeRabbit กล่าวถึงโครงการร่วมกับ NVIDIA และ Baseten ซึ่งปรับแต่ง Nemotron 3.5 Lightning สำหรับการกำหนดเส้นทางการตรวจทานโค้ด โดยใช้การปรับแต่งอย่างละเอียดแบบมีผู้ดูแล แล้วตามด้วยการเรียนรู้แบบเสริมกำลังที่ใช้รางวัลซึ่งตรวจสอบได้ ในการประเมินแบบตรึงชุดงานไว้ 1,000 งาน ความสอดคล้องของเส้นทางแบบตรงกันทุกประการเพิ่มจาก 75.8% ในโมเดลพื้นฐาน เป็น 80.4% หลังการปรับแต่งอย่างละเอียดแบบมีผู้ดูแล และ 80.7% หลังการฝึกด้วยรางวัล ค่าแคปปาของโคเฮน ซึ่งใช้วัดความสอดคล้องที่เกินกว่าระดับที่เกิดจากความบังเอิญ เพิ่มจาก 0.429 เป็น 0.461 และจากนั้นเป็น 0.544

CodeRabbit มองว่าการเปลี่ยนแปลงของความสอดคล้องในการกำหนดเส้นทางขั้นสุดท้าย 0.3 จุดเปอร์เซ็นต์เป็นผลที่ไม่ถดถอย ไม่ใช่การปรับปรุงที่มีนัยสำคัญทางสถิติอย่างชัดเจน เนื่องจากช่วงความเชื่อมั่นแบบจับคู่คร่อมศูนย์ การเปรียบเทียบการให้บริการของบริษัทประเมินว่าเมื่อตัวประมวลผลทำงานเต็มอัตรารองรับ จะลดต้นทุนได้ 50.4% โดยการประเมินเดียวกันมีค่าใช้จ่าย 2.34 ดอลลาร์บนโมเดลพื้นฐาน และ 1.16 ดอลลาร์บน Baseten A100 หนึ่งตัว การตรวจสอบภายใต้โหลดต่อเนื่องและการทดสอบกับทราฟฟิกการใช้งานจริงยังคงเป็นงานในระยะถัดไป

Harveyเป็นตัวอย่างการปรับแต่งอีกรูปแบบหนึ่ง Baseten รายงานว่าแพลตฟอร์ม AI สำหรับงานกฎหมายนี้ฝึก Nemotron เพิ่มเติมบน Baseten เพื่อรองรับเวิร์กโฟลว์เฉพาะทางที่ให้บริการทนายความหลายหมื่นคนต่อวัน งานวิจัยที่ Harvey และ Baseten เผยแพร่เมื่อวันที่ 8 กันยายน 2026ได้นำห้องข้อมูลด้าน M&A เข้าสู่สภาพแวดล้อม Python และให้เอเจนต์หลักมอบหมายงานตรวจสอบที่มีขอบเขตชัดเจนแก่เอเจนต์ย่อย Harvey รายงานว่า เมื่อทดสอบโมเดล 7 รุ่นกับห้องข้อมูล 50 แห่งที่กันไว้สำหรับการทดสอบ ชุดเครื่องมือดังกล่าวช่วยเพิ่มอัตราการผ่านเกณฑ์เฉลี่ยตามหัวข้อประเมินจาก 23.3% เป็น 62.4%

รายงานของ Harvey ยังระบุด้วยว่า การเรียนรู้แบบเสริมกำลังบนโมเดลหลัก Qwen3.5-122B-A10B เพิ่มอัตราการผ่านเกณฑ์จาก 29.9% เป็น 63.0% ในห้องข้อมูลทั้ง 50 แห่งดังกล่าว ขณะเดียวกันก็อธิบายว่าการทดลองยังอยู่ในช่วงเริ่มต้น และช่องว่างที่เหลือก่อนจะมีอัตราการผ่านเกณฑ์เกือบสมบูรณ์แบบยังมีมาก

การนำไปใช้งานและ AI ด้านเสียง

Baseten Loops เชื่อมเวิร์กโฟลว์การเรียนรู้แบบเสริมกำลังที่มีการจัดการเข้ากับระบบอนุมานเฉพาะทาง ขณะที่ลูกค้ายังคงเป็นเจ้าของน้ำหนักโมเดลที่ฝึกแล้ว Loops รองรับ Nemotron 3.5 Super VL และ Nemotron 3 Ultra โดย Super VL พร้อมให้ฝึกด้วย BF16 และ NVFP4

บริษัทยังประเมินเอเจนต์เสียงที่ขับเคลื่อนด้วย Nemotron ในแอปพลิเคชันครบวงจร รวมถึงคุณภาพและการตอบสนองของโมเดล เกณฑ์มาตรฐานการรู้จำเสียงพูดเมื่อวันที่ 4 สิงหาคม 2026ของ Baseten รายงานว่า NVIDIA H100 หนึ่งตัวรองรับสตรีมเสียง WebSocket แบบเรียลไทม์พร้อมกันได้สูงสุด 100 สตรีม เวลาแฝงในการสรุปผล ซึ่งหมายถึงระยะเวลาตั้งแต่ผู้พูดพูดจบจนกว่าจะพร้อมแสดงบทถอดเสียงฉบับสมบูรณ์ เพิ่มจาก 98 มิลลิวินาทีเมื่อมี 8 สตรีม เป็น 138 มิลลิวินาทีเมื่อมี 100 สตรีม

การเข้าร่วมพันธมิตรของ Baseten เชื่อมโยงการปรับแต่งโมเดลเข้ากับโครงสร้างพื้นฐานที่ใช้ให้บริการโมเดลซึ่งได้จากการปรับแต่งนั้น ผลลัพธ์จากลูกค้าเป็นหลักฐานที่ชัดเจนสนับสนุนแนวทางนี้ ขณะที่ค่าประมาณของ CodeRabbit ภายใต้ปริมาณงานเต็มอัตรารองรับและการตรวจสอบการใช้งานจริงที่ยังไม่เสร็จสิ้น รวมถึงการทดลองระยะเริ่มต้นของ Harvey ช่วยกำหนดขอบเขตของแนวทางดังกล่าว คำถามสำคัญคือผลลัพธ์ที่วัดได้จะคงอยู่ได้ดีเพียงใดเมื่อใช้งานจริงอย่างต่อเนื่อง

Theo Nash เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, ครอบคลุมโครงสร้างพื้นฐาน AI, การคำนวณ, และระบบฮาร์ดแวร์ที่ขับเคลื่อนปัญญาประดิษฐ์สมัยใหม่ งานของเขามุ่งเน้นที่พื้นฐานทางเทคนิคเบื้องหลังภาระงาน AI ขนาดใหญ่ รวมถึงศูนย์ข้อมูล, ตัวเร่งความเร็ว, เครือข่าย, และสแตกซอฟต์แวร์ที่เชื่อมโยงพวกมันเข้าด้วยกัน.

ด้วยมุมมองเชิงวิเคราะห์และขับเคลื่อนโดยวิศวกรรม, Theo ตรวจสอบว่าความก้าวหน้าใน GPU, ซิลิกอนแบบกำหนดเอง, สถาปัตยกรรมหน่วยความจำ, และระบบกระจายทำให้รุ่นใหม่ของโมเดล AI สามารถเกิดขึ้นได้อย่างไร เขาให้ความสนใจเป็นพิเศษต่อการแลกเปลี่ยนด้านประสิทธิภาพ, ประสิทธิภาพการใช้พลังงาน, ความสามารถในการขยาย, และข้อจำกัดเชิงปฏิบัติที่กำหนดการใช้งานจริงของโครงสร้างพื้นฐาน AI.

บทความที่เขียนโดย Theo Nash สร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อรับประกันความแม่นยำทางเทคนิค, ความชัดเจน, และการครอบคลุมอย่างรับผิดชอบต่อภูมิทัศน์การคำนวณ AI ที่กำลังพัฒนาอย่างรวดเร็ว