Baseten เปิดให้ใช้งาน Serverless Loops โดยทั่วไปสำหรับการฝึกโมเดลหลังการฝึก

เมื่อวันที่ 6 พฤศจิกายน 2026 Baseten ประกาศว่า Serverless Loops พร้อมให้บริการแก่ผู้ใช้ทั่วไปแล้ว โดยเปิดให้ทุกคนใช้ SDK ที่มีการจัดการสำหรับการปรับแต่งโมเดลแบบมีผู้สอนและการเรียนรู้แบบเสริมกำลังบนโมเดลแบบเปิด บริการนี้คิดค่าฝึกตามจำนวนโทเคน และมอบเส้นทางโดยตรงจากจุดตรวจสอบไปยัง Baseten Dedicated Inference

Loops แบ่งหน้าที่การทำงานอย่างชัดเจน โดยผู้ใช้เป็นผู้กำหนดสัญญาณการฝึก ส่วน Baseten ดูแล GPU, เคอร์เนล, สถาปัตยกรรมโมเดล และระบบฝึกแบบกระจาย ชุดพัฒนาซอฟต์แวร์ Python ใช้ฝึกอะแดปเตอร์ LoRA โดยตรึงน้ำหนักของโมเดลพื้นฐานไว้ ผู้ใช้เลือกโมเดลพื้นฐาน ค่า rank ของ LoRA อัตราการเรียนรู้ ฟังก์ชันการสูญเสีย ข้อมูลหรือสภาพแวดล้อม และอัลกอริทึม ส่วน Baseten ดูแลตัวฝึก ตัวสุ่มตัวอย่าง การซิงโครไนซ์น้ำหนัก และโครงสร้างพื้นฐานที่เกี่ยวข้อง

แพ็กเกจสำหรับความเข้ากันได้ช่วยคงการนำเข้า Tinker และการเรียกใช้ฟังก์ชันหลักสำหรับการฝึกและการสุ่มตัวอย่างไว้ เพื่อรองรับทีมที่ย้ายสคริปต์เดิมมาใช้ คู่มือการย้ายระบบ ระบุว่ายังคงต้องเปลี่ยนการยืนยันตัวตนให้ใช้คีย์ API ของ Baseten โดยจุดตรวจสอบจะแสดงเป็น URL ของไฟล์แบบแบ่งหน้า ต้องส่งภาพเป็นอินพุตแบบอินไลน์ และต้องปรับการครอบคลุมโมดูล LoRA ให้เหมาะกับแต่ละตระกูลโมเดล ความเข้ากันได้ครอบคลุม API สำหรับการฝึก แต่ยังมีรายละเอียดเฉพาะด้านโครงสร้างพื้นฐานหลายประการที่ทีมต้องปรับเอง

โมเดลแบบไร้เซิร์ฟเวอร์และการคิดค่าบริการ

แค็ตตาล็อกโมเดลแบบไร้เซิร์ฟเวอร์ มีโมเดลอยู่สามรายการ ได้แก่ Qwen/Qwen3.6-35B-A3B และ zai-org/GLM-5.3-Flash สำหรับข้อความและภาพ และ zai-org/GLM-5.3 สำหรับข้อความเท่านั้น แต่ละโมเดลรองรับความยาวลำดับสูงสุด 262,144 โทเคน การกำหนดค่าบริบทแบบยาวของ GLM-5.3 ไม่รองรับ cross_entropy หรือ dpo ฟังก์ชันการสูญเสีย โหมดเฉพาะรองรับแค็ตตาล็อกโมเดลที่กว้างกว่า คิดค่าบริการตามเวลาใช้งาน GPU และมีตัวควบคุมสำหรับจำนวนเรพลิกา การนำระบบที่อุ่นแล้วกลับมาใช้ซ้ำ และความจุแบบสปอต

การทำงานแบบไร้เซิร์ฟเวอร์ ใช้ความจุร่วมกันโดยไม่ต้องจอง GPU และคิดค่าบริการตามจำนวนโทเคนที่ใช้ในการฝึกและการสุ่มตัวอย่าง การอ่านผลลัพธ์ การเปลี่ยนฟังก์ชันรางวัล หรือการปล่อยระบบว่างไว้ ไม่ก่อให้เกิดค่าใช้จ่ายตามจำนวนโทเคน การเลือกโหมดเริ่มต้นอาจเปลี่ยนไปใช้ความจุแบบเฉพาะ หากโมเดล ค่า rank ของ LoRA หรือความยาวลำดับไม่รองรับ หรือเมื่อการทำงานหนึ่งนำการปรับใช้ของอีกการทำงานหนึ่งกลับมาใช้ซ้ำ แต่หากกำหนดขอบเขตเป็นแบบไร้เซิร์ฟเวอร์ คำขอที่ไม่รองรับจะล้มเหลวแทน

การเปิดใช้โมเดลไม่ได้รับประกันว่าจะจัดสรรทรัพยากรได้ การเข้าถึงที่แตกต่างกันตามแต่ละเวิร์กสเปซ การไม่มี GPU ให้ใช้งาน และข้อจำกัดจำนวนตัวฝึกขององค์กรยังอาจขัดขวางการทำงานได้ ทำให้รูปแบบคิดค่าบริการตามจำนวนโทเคนมีข้อจำกัดด้านความจุในการใช้งานจริง นอกเหนือจากแค็ตตาล็อกที่เผยแพร่ไว้

จุดตรวจสอบและการอนุมานในระบบใช้งานจริง

คู่มือเริ่มต้นใช้งานฉบับย่อ แสดงการทำงานหลักสี่อย่าง ได้แก่ forward_backward สำหรับงานด้านค่าการสูญเสียและเกรเดียนต์ optim_step สำหรับการอัปเดตอะแดปเตอร์ sample สำหรับการสร้างผลลัพธ์ และ save_state สำหรับการฝึกที่ดำเนินต่อจากจุดเดิมได้ การเผยแพร่น้ำหนักของตัวสุ่มตัวอย่างจะสร้างจุดตรวจสอบที่พร้อมนำไปปรับใช้ และไคลเอนต์สำหรับการสุ่มตัวอย่างที่กำหนดให้ใช้จุดตรวจสอบนั้น ส่วนการทำงานอีกแบบหนึ่ง save_state จะเก็บสถานะของโมเดลและตัวปรับให้เหมาะสมไว้ คำขอสุ่มตัวอย่างครั้งแรกอาจใช้เวลาหลายนาทีระหว่างที่ระบบจัดเตรียมความจุแบบไร้เซิร์ฟเวอร์ ซึ่งเป็นสิ่งที่ควรคำนึงถึงเมื่อทำการทดลองระยะสั้น

จุดตรวจสอบของตัวสุ่มตัวอย่าง จะปรับใช้เป็นโมเดลพื้นฐานที่โหลดอะแดปเตอร์ LoRA ซึ่งผ่านการฝึกแล้ว จุดตรวจสอบยังคงอยู่แม้การทำงานจะสิ้นสุดลง และสามารถนำไปปรับใช้ผ่าน CLI, REST API หรือแดชบอร์ด โดยใช้โทเคนการเข้าถึง Hugging Face เนื่องจากการปรับใช้จะดาวน์โหลดน้ำหนักของโมเดลพื้นฐาน เอ็นด์พอยต์ที่ได้ซึ่งรองรับ OpenAI จะคิดค่าบริการ GPU ตลอดเวลาที่เปิดใช้งาน การลบการปรับใช้นั้นจะหยุดการคิดค่าบริการ GPU แต่ไม่ลบจุดตรวจสอบ ส่วนการปิดใช้งานการทำงานของ Loops จะไม่ลบการปรับใช้ออก

สำหรับการเปิดให้ใช้งานทั่วไป Baseten ปรับปรุงการจัดการข้อผิดพลาดของเครือข่ายชั่วคราวและปัญหา GPU ลดเวลาเริ่มต้นระบบ และเร่งการถ่ายโอนน้ำหนักระหว่างตัวฝึกกับตัวสุ่มตัวอย่าง Baseten ระบุว่าการเปลี่ยนแปลงเหล่านี้รองรับเวิร์กโหลดของลูกค้าที่ทำงานพร้อมกันได้มากขึ้น และระบบอนุมานสำหรับใช้งานจริงของบริษัทให้บริการคำขอมากกว่า 15 พันล้านรายการต่อวัน เส้นทางสู่การใช้งานจริงประกอบด้วยการปรับขนาดอัตโนมัติ การจัดการการปรับใช้ และเมตริกการอนุมาน ขณะที่ผู้ใช้สามารถดาวน์โหลดน้ำหนักในรูปแบบ Safetensors ของ Hugging Face ได้

การตรวจสอบความถูกต้องและเวิร์กโหลดช่วงแรกของลูกค้า

Baseten ระบุว่าได้ตรวจสอบความถูกต้องของบริการด้วยการทดสอบเชิงตัวเลขและการทดลองการเรียนรู้แบบเสริมกำลังตั้งแต่ต้นจนจบ โดยใช้โจทย์ τ-bench ในภาคค้าปลีก สายการบิน และธนาคาร จากนั้นจึงประเมินผลด้วยโจทย์ยากที่กันไว้สำหรับการทดสอบ โครงการ τ-bench อธิบายเกณฑ์มาตรฐานที่ใช้ตรวจสอบว่าเอเจนต์สามารถสนทนากับผู้ใช้ เรียกใช้เครื่องมือ ค้นคืนความรู้ และปฏิบัติตามนโยบายในหลากหลายภาคธุรกิจได้หรือไม่ โดยตรวจสอบผลลัพธ์เทียบกับผลจากฐานข้อมูลที่ยืนยันได้

Baseten รายงานว่า NVIDIA นำ Nemotron Super 3.5 VL มาฝึกต่อหลังการฝึกสำหรับงานด้านข้อความและภาพ โดยเพิ่มความแม่นยำในการจำแนกเจตนาจาก 76.8% เป็น 94% และทำคะแนน F1 จากการตรวจสอบความถูกต้องได้ 87% ในงานดึงข้อมูลจากใบเสร็จ งานนี้ยังรวมการเรียนรู้แบบเสริมกำลังสำหรับการนับวัตถุในภาพด้วย Datadog กำลังใช้การเรียนรู้แบบเสริมกำลังเชิงเอเจนต์หลายรอบเพื่อทดสอบแนวคิดการฝึกสำหรับเอเจนต์ SRE ของบริษัท ส่วน Ambience Healthcare นำโมเดลมาฝึกต่อหลังการฝึกเพื่อแก้ไขข้อผิดพลาดในการถอดเสียงทางคลินิก และบันทึกศัพท์ทางการแพทย์กับรูปแบบการจัดข้อความได้อย่างถูกต้อง

LangChain Labs กำลังฝึกโมเดลต่อยอดด้วยร่องรอยการทำงานของเอเจนต์สำหรับ LangSmith Engine ซึ่งรวมถึงงานที่อ่านที่เก็บ GitHub เพื่อวินิจฉัยปัญหาและร่างพรอมป์ต์หรือการแก้ไขโค้ดสำหรับ pull request ระบบสามารถเปลี่ยนไปใช้โมเดลแบบเปิดน้ำหนักที่มีขนาดเล็กลง เพื่อจำแนกร่องรอยตามรูปแบบและระดับความรุนแรงของข้อผิดพลาด หรือจับคู่กับปัญหาที่มีอยู่แล้ว เวิร์กโฟลว์ของ LangChain แสดงให้เห็นว่าพฤติกรรมของแอปพลิเคชันกลายเป็นเป้าหมายในการฝึกโมเดลอย่างไร โดยเลือกขนาดโมเดลและความเชี่ยวชาญเฉพาะด้านให้เหมาะกับงาน

บัญชีลูกค้าแสดงให้เห็นว่ามีการใช้งานก่อนประกาศเปิดให้บริการทั่วไป (GA) และสะท้อนวงจรการทำงานของโครงสร้างพื้นฐานตามที่ตั้งใจไว้ ได้แก่ ข้อมูลจากแอปพลิเคชันกลายเป็นข้อมูลสำหรับฝึกโมเดล มีการประเมินจุดตรวจสอบของโมเดล และนำโมเดลที่เลือกไปสู่การใช้งานจริง สำหรับทีมโครงสร้างพื้นฐาน ขอบเขตด้านต้นทุนก็ชัดเจนไม่แพ้กัน การประมวลผลแบบไร้เซิร์ฟเวอร์ที่รองรับไม่ต้องจอง GPU และไม่มีค่าโทเคนในช่วงที่ระบบไม่ได้ทำงาน ขณะที่ปลายทางอนุมานที่เปิดใช้งานอยู่ยังคงคิดค่าบริการ GPU โดยแค็ตตาล็อกบริการไร้เซิร์ฟเวอร์และความจุของเวิร์กสเปซเป็นตัวกำหนดว่าตัวเลือกไร้เซิร์ฟเวอร์ใช้ได้ในกรณีใด