Baseten, 2B Parametreli Açık Ağırlıklı Joey-1 Karar Modelini Piyasaya Sürdü

Baseten, 29 Ekim 2026’da şirketin kendi araştırma laboratuvarı Base Labs tarafından geliştirilen, 2B parametreli karar modeli joey-1’i piyasaya sürdü. Milyon belirteç başına 0,01 dolardan fiyatlandırılan model, Baseten Model APIs üzerinden ve Hugging Face‘te açık ağırlıklarla kullanılabiliyor.

joey-1 ile Base Labs’ın karar modeli ailesi artık üç farklı boyuta ulaşıyor. Duyuruda, yeni modelin 21 Ekim’deki aile lansmanında tanıtılan mammoth-1 (27B) ve elephant-1 (9B) modellerinin yanına eklendiği belirtiliyor. Baseten, önceki lansmanda mammoth-1’i Jev Decision Index’teki 208 karar modeli arasında en üst sırada, elephant-1’i ise lider 9B karar modeli olarak tanımlamıştı. Şirkete göre üç model de aynı veri karışımıyla eğitiliyor ve aynı API’yi kullanıyor; bu sayede modeller arasında geçiş yapmak için tek satırlık bir değişiklik yeterli oluyor. Baseten, mammoth-1’i doğruluğun en önemli olduğu kararlar için, elephant-1’i dengeli varsayılan seçenek olarak, joey-1’i ise yüksek hacimli ve gecikmeye duyarlı iş yükleri için konumlandırıyor.

Üretken LLM’lerin aksine karar modeli metin üretmez. Tek bir ileri geçişte bir etiket ve bu etikete ilişkin güven puanı döndürür; tüm olası yanıtların puanlarının toplamı 1’dir. Bir durum — metin ve isteğe bağlı olarak görüntüler — ile bir dizi soru verildiğinde joey-1, ortak bir önek için yapılan tek bir ön doldurma işleminden yararlanarak her seçenek için kalibre edilmiş bir olasılık döndürür. Model üç tür soruyu destekler: evet/hayır, adı belirtilen seçenekler arasından seçim ve sıralı puanlama düzeyleri. Baseten’in daha önce yayımladığı aile yazısında, karar modellerinin kullanım alanları arasında biletleri önceliklendirme ve yönlendirme, spam ve kimlik avı tespiti, istemlere yönelik güvenlik önlemleri ve jailbreak tespiti ile istekleri küçük ve en gelişmiş LLM’ler arasında yönlendirme sıralanıyor.

Baseten, bir LLM iş yükünü joey-1’e taşımanın, çağrı başına maliyetin projenin ekonomik fizibilitesini belirleyecek kadar karar hacminin yüksek olduğu durumlarda ya da kararın sonraki bir adım için ön koşul olduğu ve gecikmesinin her yanıta eklendiği durumlarda anlamlı olduğunu belirtti. Örneğin, ayda yaklaşık 500 belirteç içeren 10 milyon destek biletini sınıflandırmak toplam 5 milyar belirtece karşılık geliyor. Şirket, joey-1 ile bunun aylık maliyetini yaklaşık 50 dolar, mammoth-1 ile ise 500 dolar olarak hesaplıyor. Baseten, joey-1’i ilk aşamada kullanılacak bir model olarak tanımlıyor; joey-1’in emin olmadığı durumlarda elephant-1 veya mammoth-1 gibi daha büyük modeller bir üst aşamaya geçiş seçeneği olarak kullanılabiliyor.

Bildirilen Gecikme ve Kıyaslama Sonuçları

Baseten, üretim ölçeğinde joey-1’in ortalama 2.000 belirteçlik bir isteği P50 uçtan uca gecikmesi 20 ms olacak şekilde işlediğini; bunun elephant-1’in 49 ms’lik süresinden yaklaşık 2,5 kat daha hızlı olduğunu bildirdi. Şirket ayrıca modelin benzer karar modellerinden 5 kat daha hızlı olduğunu belirtti. Baseten, ayrıntıların daha sonra paylaşılacağı kurum içi testlerinde joey-1’in 3B veya daha az parametreye sahip en güçlü karar modeli olduğunu söyledi.

Model kartına göre joey-1, Jev Decision Index 0.4’ün herkese açık veri kümesinde 63,30 puan aldı; 230 model arasında 37. sırada yer aldı ve bu veri kümesinde 4B’den az parametreye sahip modeller arasındaki en yüksek puanı kaydetti. Model kartındaki herkese açık veri kümesi tablosunda elephant-1 72,24, Cloudflare Clef 61,71, Jev 1.14 60,70 ve Perplexity Decider Flash v1.2 60,06 puan alıyor. Kartta belirtilene göre joey-1, değerlendirilen her alanda elephant-1’in altında; beş alanın dördünde ise Jev 1.14’ün üzerinde puan alıyor: dil, araçlar ve otomasyon, bilgi erişimi ve sınıflandırma, sanat ve insan beğenisi.

Model kartına göre joey-1, Base Labs’ın Artificial Analysis Decision Index’in kurum içi bir kopyasında 62,9 puan aldı; mammoth-1’in 65,9, elephant-1’in 65,2 ve d1-ultra’nın 65 puanının gerisinde kaldı. Baseten’in model kütüphanesi sayfasında, joey-1’in Ekim 2026’da piyasaya sürüldüğünde Jev Decision Index 0.4’teki en iyi 2B model olduğu belirtiliyor.

Eğitim Verileri ve Yöntemi

Model kartına göre joey-1, elephant-1 ve mammoth-1 ile aynı veri karışımı ve yöntem kullanılarak Qwen3.5-2B temel alınarak sonradan eğitildi ve eğitim Baseten Training Jobs üzerinden yürütüldü. Süreçte, görme kodlayıcısı dondurulmuş haldeyken dil modeli üzerinde metin ve görüntülerle ilgili kararlar için tam ince ayar yapıldı; tam dikkat katmanlarında blok çift yönlü dikkat maskesi ve en fazla 16.384 belirteçlik dizi uzunluğu kullanıldı.

Eğitim veri kümesi, laboratuvarın Mix 8 adını verdiği karışımda 6,21 milyon karar örneğinden oluşuyordu: %58,3 temel karar becerileri, %16,1 güvenlik ve yanıt vermekten kaçınma, %16,1 değerlendirme ve uzmanlık alanları, %9,5 herkese açık karar verileri. Eğitim hedefinde çapraz entropi, lambda değeri 1 olan bir Brier kalibrasyon terimiyle birleştirildi. Ayrıca modelin yanıtından emin olmadığı durumlar için eğitilmiş bir “Bilmiyorum” seçeneği eklendi. Yöntem; AdamW eniyileyicisi, 0,9 ve 0,95 beta değerleri ve ağırlık azaltımı olmadan, 1e-5’lik en yüksek öğrenme oranıyla 43.390 adımlık tek bir tur, %3’lük ısınma, kosinüs azalışı ve her biri sekiz H100 GPU’ya sahip iki düğümde toplam 16 GPU üzerinde bf16 duyarlığı kullandı.

Kullanılabilirlik, Fiyatlandırma ve Dağıtım

joey-1, Baseten Model APIs üzerinde /v1/systemone uç noktası ve decision-models/baseten-joey-2b-latest model kimliğiyle kullanıma sunuldu; varsayılan olarak sıfır veri saklama etkin. Listelenen fiyat, milyon girdi belirteci başına 0,01 dolar; önbelleğe alınmış girdi ve çıktı içinse 0,00 dolar. Aile fiyatlandırma tablosunda elephant-1’in milyon belirteç başına fiyatı 0,035 dolar, mammoth-1’inki 0,1 dolar olarak listeleniyor. Duyuruda joey-1’in fiyatının mammoth-1’in onda biri olduğu belirtiliyor.

Model APIs’de karar modelleri, 16k’lık bir bağlam penceresini destekliyor ve düşük gecikmeli iş yükleri için optimize ediliyor. Özel dağıtımlar, 262k’lık bağlam penceresinin tamamını kullanıma açıyor ve ince ayar yapılmış ağırlıkları destekliyor; Baseten, iş yüküne özgü optimizasyonlar ve LLM iş yükleriyle aynı yerde barındırma sayesinde daha hızlı TTFT ve TPS (ilk belirtece kadar geçen süre ve saniyedeki belirteç sayısı) de sağlayabildiklerini belirtti. elephant-1 ve joey-1, Baseten Training Jobs üzerinde eğitim sonrası işlemler için kullanılabiliyor ve şirket GitHub’da bir ince ayar kılavuzu yayımladı.

Ağırlıklar MIT lisansı kapsamında açık. Modeli kendi sunucunuzda barındırmak için model kartındaki kurulum betiği, sürümü sabitlenmiş bir sunum çalışma zamanını ve sunum yaması içeren OneJev’i kuruyor; ayrıca bir CUDA GPU’su gerektiriyor. Kartta, eğitimde belirlenen uzunluk sınırlarını aşan isteklerin kesilmek yerine reddedildiği belirtiliyor.