Baseten, NVIDIA’nın Nemotron Coalition’ına çıkarım uzmanlığını taşıyor

Baseten, kurumsal iş yüklerinden edindiği bilgileri ve eğitim sonrası süreçler ile çıkarım konusundaki uzmanlığını açık model geliştirme çalışmalarına katkı olarak sunarak NVIDIA Nemotron Coalition’a katıldığını 5 Kasım 2026’da açıkladı. Üyelik, NVIDIA ile iş birliğini model lansmanları, pekiştirmeli öğrenme, özelleştirme ve özel çıkarım alanlarına da taşıyor.

NVIDIA, açık öncü modeller etrafında araştırmaları, uzmanlığı, verileri ve hesaplama kaynaklarını bir araya getirmek amacıyla 16 Mart 2026’da koalisyonu kurdu. NVIDIA’nın lansman duyurusunda, ilk projenin Mistral AI ile NVIDIA’nın ortaklaşa geliştireceği bir temel model olacağı; modelin NVIDIA DGX Cloud üzerinde eğitileceği, geliştiriciler ve kuruluşlar tarafından özelleştirilebilmesi için açık kaynak olarak yayımlanacağı ve yakında çıkacak Nemotron 4 ailesinin temeli olarak kullanılacağı belirtildi.

Baseten, Nemotron 3.5 Super VL ve Nemotron 3 Ultra’nın lansmanına ilk günden itibaren ortaklık etti. Koalisyondaki rolü, tamamlanmış modelleri kullanıma sunmanın ötesine geçerek eğitim ortamlarını ve kurumsal kullanımla şekillenen operasyonel bilgi birikimini de kapsıyor. Uygulamaya dönük odak noktası, belirli iş gereksinimlerine yönelik özelleştirme; dağıtım kalitesi, maliyet ve esnekliği ise birbiriyle bağlantılı unsurlar olarak ele alıyor.

Üretim İş Yükleri İçin Eğitim

Şirket, karmaşık talimat hiyerarşilerini ele almak, gereksiz bilgileri göz ardı etmek ve ayrıntılı üslup tercihlerini izlemek üzere pekiştirmeli öğrenme ortamları geliştirdi. Diğer ortamlar; karmaşık biyolojik veri kümelerinin istatistiksel analizi, matematiksel teorem ispatı ve rekabetçi oyunlar aracılığıyla uzun vadeli akıl yürütme ve planlamaya odaklanıyor. Bu görevler, üretim ortamlarındaki talimatların sistem istemleri, araç tanımları, kullanıcıların takip mesajları, araç yanıtları ve hata mesajları yoluyla iletilme biçimini yansıtıyor.

Şirketin çok modlu çalışmaları, görsel anlayış gerektiren görsel ve uzamsal akıl yürütme görevleriyle çok turlu araç çağrılarını da kapsıyor. Baseten, eğitim sonrası süreçlerin uzman düzeyinde çok modlu akıl yürütme ölçütü olan MMMU-Pro’daki sonuçları iyileştirdiğini bildiriyor. 5 Ekim 2026’da sunulan ilgili bir makalede, Kimi K2.6’nın görsel kodlayıcısını GLM 5.2 ve GLM 5.3’e bağlayan 50 milyon parametreli bir projektör anlatılıyor. Bu sırada önceden eğitilmiş ağırlıklar sabit tutuluyor; değerlendirmeler MMMU-Pro ve BLINK üzerinde yapılıyor.

Ölçülebilir Özelleştirme Sonuçları

CodeRabbit’ın 11 Ağustos 2026 tarihli araştırma yazısı, kod incelemesi yönlendirmesi için Nemotron 3.5 Lightning’i önce denetimli ince ayar, ardından doğrulanabilir ödüllerle pekiştirmeli öğrenme kullanarak NVIDIA ve Baseten ile birlikte özelleştirdiği projeyi anlatıyor. Sabit tutulan 1.000 görevlik bir değerlendirmede, tam rota uyumu temel modeldeki %75,8’den denetimli ince ayar sonrasında %80,4’e, ödül eğitiminin ardından ise %80,7’ye yükseldi. Şansın ötesindeki uyumu ölçen Cohen kappa katsayısı 0,429’dan 0,461’e, ardından 0,544’e çıktı.

CodeRabbit, eşleştirilmiş güven aralığı sıfırı kapsadığı için yönlendirme uyumundaki son 0,3 yüzde puanlık değişimi istatistiksel açıdan kesin bir iyileşme olarak değil, gerileme olmadığı şeklinde değerlendirdi. Şirketin sunum maliyetlerine ilişkin karşılaştırması, doygun iş hacminde %50,4’lük bir maliyet düşüşü öngördü: aynı değerlendirme temel modelde 2,34 dolara, Baseten üzerinde tek bir A100’de ise 1,16 dolara mal oldu. Sürekli yük ve üretim trafiği kontrolleri sonraki bir aşamaya bırakıldı.

Harvey, farklı bir özelleştirme örneği sunuyor. Baseten’in bildirdiğine göre hukuk alanındaki yapay zekâ platformu, her gün on binlerce avukata hizmet veren özel iş akışları için Nemotron’u Baseten üzerinde eğitim sonrası süreçlerden geçiriyor. Harvey ile Baseten tarafından 8 Eylül 2026’da yayımlanan ayrı bir araştırmada, birleşme ve satın alma (M&A) belgelerinin bulunduğu bir veri odası Python ortamına yüklendi ve bir kök ajanın sınırları belirlenmiş inceleme görevlerini alt ajanlara devretmesine olanak tanındı. Harvey, ayrılmış 50 veri odasında yedi model üzerinde yapılan değerlendirmede, bu düzenin ölçüt listelerindeki ortalama geçme oranlarını %23,3’ten %62,4’e yükselttiğini bildirdi.

Harvey’nin açıklamasına göre Qwen3.5-122B-A10B kök modeli üzerinde yürütülen pekiştirmeli öğrenme de bu 50 veri odasındaki başarı oranını %29,9’dan %63,0’a yükseltti. Ancak açıklamada deneylerin ilk keşif aşamasında olduğu ve kusursuza yakın başarı oranlarına ulaşmak için hâlâ önemli bir mesafe bulunduğu belirtildi.

Dağıtım ve Sesli Yapay Zekâ

Baseten Loops, yönetilen pekiştirmeli öğrenme iş akışlarını Özel Çıkarım ile bir araya getirirken müşteriler eğitilmiş model ağırlıklarının sahibi olmaya devam ediyor. Loops, Nemotron 3.5 Super VL ve Nemotron 3 Ultra’yı destekliyor; Super VL için BF16 ve NVFP4 eğitimi kullanılabiliyor.

Şirketler, model kalitesi ve yanıt verme hızı da dâhil olmak üzere uçtan uca uygulamalarda Nemotron destekli sesli ajanları değerlendiriyor. Baseten’in 4 Ağustos 2026 tarihli konuşma tanıma kıyaslamasına göre tek bir NVIDIA H100, gerçek zamanlı WebSocket üzerinden aynı anda 100’e kadar ses akışını sürdürebildi. Konuşmacının sözünü bitirmesinden son dökümün hazır olmasına kadar geçen süre olan sonlandırma gecikmesi, sekiz akışta 98 milisaniyeyken 100 akışta 138 milisaniyeye çıktı.

Baseten’in koalisyona katılması, model uyarlamasını ortaya çıkan modelleri sunmak için kullanılan altyapıyla buluşturuyor. Müşteri sonuçları bu yaklaşım için somut kanıt sağlarken CodeRabbit’in doygun iş hacmine ilişkin tahmini ve henüz tamamlanmamış üretim kontrolleriyle Harvey’nin ilk aşamadaki deneyleri de yaklaşımın sınırlarını ortaya koyuyor. Temel soru, ölçülen kazanımların sürekli üretim kullanımında ne ölçüde korunacağı.