Baseten เปิดตัว joey-1 โมเดลตัดสินใจแบบเปิดน้ำหนัก พารามิเตอร์ 2B

เมื่อวันที่ 29 ตุลาคม 2026 Baseten เปิดตัว joey-1 โมเดลตัดสินใจพารามิเตอร์ 2B ที่พัฒนาโดย Base Labs ห้องปฏิบัติการวิจัยภายในบริษัท โดยตั้งราคาไว้ที่ 0.01 ดอลลาร์ต่อโทเค็น 1 ล้านโทเค็น และเปิดให้ใช้งานผ่าน Baseten Model APIs รวมถึงเปิดน้ำหนักโมเดลบน Hugging Face

เมื่อมี joey-1 เพิ่มเข้ามา ตระกูลโมเดลตัดสินใจของ Base Labs จึงมีโมเดลครบสามขนาด ประกาศครั้งนี้เปิดตัวโมเดลใหม่ควบคู่กับ mammoth-1 (27B) และ elephant-1 (9B) จากการเปิดตัวตระกูลโมเดลเมื่อวันที่ 21 ตุลาคม ในการเปิดตัวครั้งก่อน Baseten ระบุว่า mammoth-1 อยู่ในอันดับสูงสุดในบรรดาโมเดลตัดสินใจ 208 รุ่นบน Jev Decision Index ส่วน elephant-1 เป็นโมเดลตัดสินใจขนาด 9B ที่มีอันดับสูงสุด โมเดลทั้งสามได้รับการฝึกด้วยส่วนผสมข้อมูลชุดเดียวกันและใช้ API เดียวกัน ซึ่งบริษัทระบุว่าทำให้การสลับไปมาระหว่างโมเดลทำได้ด้วยการแก้ไขโค้ดเพียงบรรทัดเดียว Baseten วางตำแหน่ง mammoth-1 สำหรับงานตัดสินใจที่ความแม่นยำสำคัญที่สุด elephant-1 เป็นตัวเลือกเริ่มต้นที่สมดุล และ joey-1 สำหรับงานปริมาณมากที่ไวต่อเวลาแฝง

โมเดลตัดสินใจต่างจาก LLM เชิงกำเนิดตรงที่ไม่ได้สร้างข้อความ แต่จะส่งคืนป้ายกำกับและคะแนนความเชื่อมั่นของป้ายกำกับนั้นในการประมวลผลไปข้างหน้าเพียงครั้งเดียว โดยคะแนนของคำตอบที่เป็นไปได้ทั้งหมดรวมกันได้ 1 เมื่อได้รับสถานะหนึ่ง ซึ่งอาจเป็นข้อความและอาจมีภาพประกอบ พร้อมชุดคำถาม joey-1 จะส่งคืนค่าความน่าจะเป็นที่ผ่านการปรับเทียบแล้วสำหรับทุกตัวเลือก โดยใช้การเติมข้อมูลนำหน้าแบบใช้คำนำหน้าร่วมกันเพียงครั้งเดียว โมเดลรองรับคำถามสามประเภท ได้แก่ ใช่/ไม่ใช่ การเลือกจากตัวเลือกที่ระบุชื่อไว้ และการให้คะแนนตามลำดับ โพสต์ก่อนหน้าของ Baseten เกี่ยวกับตระกูลโมเดลระบุกรณีใช้งานของโมเดลตัดสินใจไว้ เช่น การคัดแยกและกำหนดเส้นทางตั๋วงาน การตรวจจับสแปมและฟิชชิง การใช้มาตรการป้องกันพรอมป์ต์และการตรวจจับการเจลเบรก ตลอดจนการกำหนดเส้นทางคำขอระหว่าง LLM ขนาดเล็กกับ LLM แนวหน้ารุ่นล้ำสมัย

Baseten ระบุว่าการย้ายเวิร์กโหลด LLM มาใช้ joey-1 คุ้มค่าเมื่อมีการตัดสินใจในปริมาณมากจนต้นทุนต่อการเรียกใช้เป็นตัวกำหนดความคุ้มค่าทางเศรษฐศาสตร์ของโครงการ หรือเมื่อการตัดสินใจเป็นขั้นตอนที่ต้องทำก่อนขั้นตอนถัดไป และเวลาแฝงของขั้นตอนนี้เพิ่มเข้าไปในเวลาตอบสนองทุกครั้ง ตัวอย่างเช่น การจัดประเภทตั๋วคำขอรับการสนับสนุน 10 ล้านรายการต่อเดือน โดยแต่ละรายการมีประมาณ 500 โทเค็น จะรวมเป็น 5 พันล้านโทเค็น ซึ่งบริษัทคิดค่าบริการสำหรับ joey-1 ราว 50 ดอลลาร์ต่อเดือน เทียบกับ 500 ดอลลาร์สำหรับ mammoth-1 Baseten อธิบายว่า joey-1 เป็นโมเดลด่านแรก โดยสามารถยกระดับไปใช้โมเดลขนาดใหญ่กว่า เช่น elephant-1 หรือ mammoth-1 ได้เมื่อ joey-1 ไม่มั่นใจ

รายงานเวลาแฝงและผลการทดสอบมาตรฐาน

Baseten รายงานว่าเมื่อให้บริการในระดับใช้งานจริง joey-1 ประมวลผลคำขอเฉลี่ย 2,000 โทเค็นด้วยเวลาแฝงตั้งแต่ต้นจนจบที่ P50 เท่ากับ 20 มิลลิวินาที ซึ่งเร็วกว่า elephant-1 ที่ใช้เวลา 49 มิลลิวินาทีประมาณ 2.5 เท่า และระบุว่าโมเดลนี้เร็วกว่าโมเดลตัดสินใจที่เทียบเคียงกันได้ 5 เท่า บริษัทยังกล่าวด้วยว่า จากการทดสอบภายในซึ่งจะเปิดเผยรายละเอียดเพิ่มเติมภายหลัง joey-1 เป็นโมเดลตัดสินใจที่มีประสิทธิภาพสูงสุดในกลุ่มที่มีพารามิเตอร์ไม่เกิน 3B

รายงานในบัตรข้อมูลโมเดลระบุว่า joey-1 ได้คะแนน 63.30 ในชุดข้อมูลสาธารณะ Jev Decision Index 0.4 อยู่ในอันดับที่ 37 จากทั้งหมด 230 โมเดล และทำคะแนนสูงสุดในบรรดาโมเดลที่มีพารามิเตอร์ต่ำกว่า 4B ในชุดข้อมูลดังกล่าว ตารางชุดข้อมูลสาธารณะในบัตรข้อมูลระบุคะแนนของ elephant-1 ไว้ที่ 72.24, Cloudflare Clef ที่ 61.71, Jev 1.14 ที่ 60.70 และ Perplexity Decider Flash v1.2 ที่ 60.06 ตามข้อมูลในบัตร joey-1 ได้คะแนนต่ำกว่า elephant-1 ในทุกด้านที่ประเมิน และได้คะแนนสูงกว่า Jev 1.14 ในสี่ด้านจากทั้งหมดห้าด้าน ได้แก่ ภาษา เครื่องมือและระบบอัตโนมัติ การค้นคืนข้อมูลและการจัดประเภท ตลอดจนศิลปะและรสนิยมของมนุษย์

จากดัชนี Artificial Analysis Decision Index ฉบับจำลองภายในของ Base Labs บัตรข้อมูลรายงานว่า joey-1 ได้คะแนน 62.9 ตามหลัง mammoth-1 ที่ 65.9, elephant-1 ที่ 65.2 และ d1-ultra ที่ 65 หน้าไลบรารีโมเดลของ Baseten ระบุว่าเมื่อเปิดตัวในเดือนตุลาคม 2026 joey-1 เป็นโมเดล 2B ที่มีอันดับสูงสุดบน Jev Decision Index 0.4

ข้อมูลและแนวทางการฝึก

ตามข้อมูลในบัตรโมเดล joey-1 ได้รับการฝึกต่อหลังการฝึกจาก Qwen3.5-2B โดยใช้ส่วนผสมข้อมูลและแนวทางการฝึกเดียวกับ elephant-1 และ mammoth-1 ผ่าน Baseten Training Jobs กระบวนการนี้เป็นการปรับแต่งโมเดลภาษาอย่างเต็มรูปแบบสำหรับการตัดสินใจจากข้อความและภาพ โดยตรึงตัวเข้ารหัสภาพไว้ และใช้มาสก์ความสนใจแบบสองทิศทางเป็นช่วงในชั้นที่ใช้ความสนใจเต็มรูปแบบ พร้อมกำหนดความยาวลำดับสูงสุดไว้ที่ 16,384 โทเค็น

ชุดข้อมูลฝึกประกอบด้วยตัวอย่างการตัดสินใจ 6.21 ล้านรายการ ในส่วนผสมที่ห้องปฏิบัติการเรียกว่า Mix 8 ได้แก่ ทักษะการตัดสินใจหลัก 58.3%, ความปลอดภัยและการงดตอบ 16.1%, การตัดสินและโดเมนผู้เชี่ยวชาญ 16.1% และข้อมูลการตัดสินใจสาธารณะ 9.5% วัตถุประสงค์การฝึกรวมเอนโทรปีไขว้เข้ากับพจน์ปรับเทียบ Brier โดยกำหนด lambda ไว้ที่ 1 และฝึกตัวเลือก “ฉันไม่ทราบ” สำหรับกรณีที่โมเดลไม่มั่นใจในคำตอบด้วย แนวทางการฝึกใช้หนึ่งเอพ็อก โดยมีขั้นตอนฝึก 43,390 ขั้น อัตราการเรียนรู้สูงสุด 1e-5 ใช้ตัวปรับเหมาะ AdamW ค่า beta เท่ากับ 0.9 และ 0.95 และไม่มีการลดน้ำหนัก มีช่วงวอร์มอัป 3% การลดค่าแบบโคไซน์ และความแม่นยำ bf16 โดยใช้ GPU H100 จำนวนแปดตัวต่อโหนดสองโหนด รวมทั้งหมด 16 GPU

การให้บริการ ราคา และการติดตั้งใช้งาน

เปิดให้ใช้งาน joey-1 แล้วผ่าน Baseten Model APIs ที่เอนด์พอยต์ /v1/systemone ภายใต้รหัสโมเดล decision-models/baseten-joey-2b-latest โดยค่าเริ่มต้นจะเปิดการเก็บรักษาข้อมูลเป็นศูนย์ ราคาที่ระบุคือ 0.01 ดอลลาร์ต่อโทเค็นขาเข้า 1 ล้านโทเค็น ส่วนโทเค็นขาเข้าที่แคชไว้และโทเค็นขาออกมีราคาที่ระบุไว้ที่ 0.00 ดอลลาร์ ตารางราคาของตระกูลโมเดลระบุว่า elephant-1 มีราคา 0.035 ดอลลาร์ และ mammoth-1 มีราคา 0.1 ดอลลาร์ต่อโทเค็น 1 ล้านโทเค็น โดยประกาศระบุว่า joey-1 มีราคาเป็นหนึ่งในสิบของ mammoth-1

บน Model APIs โมเดลตัดสินใจรองรับหน้าต่างบริบทขนาด 16k และได้รับการปรับให้เหมาะกับงานที่ต้องการเวลาแฝงต่ำ การติดตั้งใช้งานแบบเฉพาะช่วยให้ใช้หน้าต่างบริบทได้เต็มขนาด 262k และรองรับน้ำหนักโมเดลที่ปรับแต่งเพิ่มเติม Baseten ระบุว่าการปรับให้เหมาะกับลักษณะงานและการติดตั้งร่วมกับเวิร์กโหลด LLM ยังช่วยให้ได้ TTFT และ TPS ที่เร็วขึ้น (เวลาจนถึงโทเค็นแรกและจำนวนโทเค็นต่อวินาที) โดย elephant-1 และ joey-1 พร้อมสำหรับการฝึกเพิ่มเติมหลังการฝึกหลักผ่าน Baseten Training Jobs และบริษัทยังเผยแพร่คู่มือการปรับแต่งโมเดลบน GitHub ด้วย

เปิดให้ใช้น้ำหนักโมเดลภายใต้สัญญาอนุญาต MIT สำหรับการโฮสต์ด้วยตนเอง สคริปต์ตั้งค่าใน model card จะติดตั้งรันไทม์สำหรับให้บริการโมเดลเวอร์ชันที่ตรึงไว้ ซึ่งเป็น OneJev ที่มีแพตช์สำหรับการให้บริการ และต้องใช้ GPU CUDA จำนวนหนึ่งตัว ใน model card ระบุว่าระบบจะปฏิเสธคำขอที่มีความยาวเกินขีดจำกัดความยาวที่ใช้ฝึก แทนที่จะตัดข้อความให้สั้นลง