Yapay zeka modelleri ve platformları

Baseten, Voice Agent Stack’i ve Realtime Voice’u özel önizlemeye açıyor

Theo Nash
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarOrkestrasyonun konuşma modelleriyle birlikte konumlandırılması, uzak orkestratörlerin…
Daha fazla göster
  • Orkestrasyonun konuşma modelleriyle birlikte konumlandırılması, uzak orkestratörlerin her turda eklediği ağ gidiş-dönüşlerini ortadan kaldırır.
  • Baseten'in yığını, operatörlerin tüm işlem hattını çoğaltmak yerine her işlem hattı aşamasını bağımsız olarak ölçeklendirmesine olanak tanır.
  • OpenAI SDK istemcileri doğrudan bağlanamaz çünkü Baseten'in uç noktası eklenen gerçek zamanlı yolu sunmaz.

Baseten duyurdu: Voice Agent Stack ve Baseten Realtime Voice, 16 Kasım 2026’da bekleme listesi aracılığıyla özel önizlemeye açıldı. Şirket, test düzeninde 56’ya kadar eşzamanlı oturumda medyan tur gecikmesinin yaklaşık bir saniye olduğunu bildirdi. Stack, konuşma modellerini ve orkestrasyonu aynı konumda bir araya getiriyor, müşterilerin modelleri birbirinden bağımsız seçmesine olanak tanıyor ve işlem hattının her bileşenini ayrı ayrı ölçeklendiriyor.

Aynı Konumda Barındırılan Altyapı

Voice Agent Stack, Baseten Dedicated Inference üzerinde çalışıyor; düzenleyiciyle modelleri, küme içi bir ağ üzerinden aynı bulut bölgesinde konumlandırıyor. Baseten, konuşmayı metne dönüştürme, dil ve metni konuşmaya dönüştürme bileşenlerinin tümü kendi platformunda barındırılsa bile uzak bir düzenleyicinin her turda yüzlerce milisaniyelik ağ gidiş-dönüş gecikmesine yol açabileceğini belirtti. Stack ayrıca çıkarım çalışma zamanı optimizasyonu, modeller arası ağ iletişimi, trafiğe göre otomatik ölçeklendirme, bulutlar arası yük devretme ve modelin eğitim sonrası iyileştirilmesi desteği sunuyor.

Realtime Voice, konuşmayı metne dönüştürme, dil işleme ve metni konuşmaya dönüştürme için Baseten tarafından optimize edilmiş açık ağırlıklı modellerin birbiri ardına çalıştırıldığı, Pipecat tabanlı özel bir düzenleyici kullanan referans uygulamadır. İsteğe bağlı delege etme tasarımı, hızlı ve aynı konumda barındırılan bir konuşmacı modelinin sohbeti yürütmesini sağlarken daha güçlü, harici bir düşünme modeli akıl yürütme, web’de arama, karar verme ve araç çağrılarını eşzamansız olarak yönetir. Sunucu tarafı araçlar, aynı konumda barındırılan düzenleyici üzerinde çalışır; düzenleyici ayrıca uzak Model Context Protocol sunucularını çağırarak istemci tarafında ek gidiş-dönüşleri önleyebilir. İstemci tarafı araçlar da desteklenir.

Model Denetimi ve API Uyumluluğu

Müşteriler, konuşmayı metne dönüştürme, dil ve metni konuşmaya dönüştürme modellerini birbirinden bağımsız seçebilir, amaca özel bileşenleri üçüncü taraf API’leriyle birleştirebilir ve zaman içinde tek tek bileşenleri amaca özel altyapıya taşıyabilir. Eğitim sonrası seçenekler arasında transkripsiyonu sektöre özgü jargona uyarlamak, dil modelinin aramalardaki davranışını ince ayarlamak ve müşterinin ses verileriyle konuşma üzerinde denetimli ince ayar yapmak bulunuyor. Bir oturumda yeniden dağıtım yapmadan dil modeli, ses veya transkripsiyon rotası değiştirilebilir.

API, temel OpenAI Realtime olay protokolüyle eşleşiyor ve ses girişi/ses çıkışı ile metin girişi/ses çıkışı modlarının yanı sıra transkripsiyonda anahtar sözcük ağırlığını artırmayı, yapılandırılabilir onay yanıtlarını ve ses klonlamayı destekliyor. Ancak uyumluluğun pratik sınırları var: istemcilerin tam bir WebSocket URL’sini kabul etmesi gerekiyor. OpenAI’nin Python SDK’sı doğrudan bağlanamıyor; çünkü temel URL’sine bir yol ekliyor /realtime ve bu yol, Baseten’in uç noktasının sunmadığı bir yol. Tarayıcılar gerekli Authorization başlığını ayarlayamadığından, tarayıcı istemcilerinin API anahtarını tutacak ve soket bağlantısını aktaracak bir arka uca ihtiyacı var.

Eşzamanlı Yük Altında Gecikme ve Maliyet

Baseten, ilk sesin alınmasına kadar geçen medyan sürenin tek bir eşzamanlı aramada 0,94 saniyeden 56 aramada 1,14 saniyeye çıktığını bildirdi. Gecikme testlerinde 16.000 tokene kadar bağlamlar kullanıldı; daha uzun bağlamlar tur gecikmesini artırabilirken yapılandırılabilir özetleme, her oturumun bağlam uzunluğunu belirli bir hedefte tutabilir. Test yapılandırmasında bir RTX-6000 üzerinde Qwen3-ASR, bir B200 üzerinde Gemma-4-31B, başka bir RTX-6000 üzerinde Qwen3-TTS ve delege etme için Baseten Model APIs aracılığıyla GLM-5.3 Fast kullanıldı.

Her bileşek kendi eşzamanlılık hedefine göre bağımsız olarak ölçeklenir; böylece operatörler tüm işlem hattını çoğaltmak yerine kapasiteyi doygunluğa ulaşan aşamaya ekleyebilir. Tasarım, GPU kullanımını yüksek tutarken p90 ve p95 gecikme kuyruklarını sıkı biçimde korumayı amaçlıyor. Baseten, kendi belirttiği kullanım varsayımları altında, 32 eşzamanlı oturumda ses dakikası başına $0.012; Model API üzerinden delege etme dâhil 56 oturumda ise çağrı dakikası başına $0.008 maliyet öngördü. Amaca özel fiyatlandırmada donanımın maliyeti ek oturumlara paylaştırılıyor; bu nedenle söz konusu maliyetler açısından sürdürülebilir kullanım kritik önem taşıyor.

Bağımsız bir Coval konuşmayı metne dönüştürme kıyaslaması, bileşen düzeyinde bağlam sunuyor. Verileri 16 Kasım 2026’da saat 17.30 UTC itibarıyla zaman damgalanmış 24 saatlik sıralama tablosunda, Baseten’da barındırılan Qwen3 ASR 1.7b, son segmentin alınmasına kadar geçen medyan süre ölçütünde 33 milisaniyeyle ikinci sırada yer aldı; 456 örnekte sözcük hata oranı %2,1 oldu. Ölçüm, konuşmanın sona erdiği ortak bir noktada başlıyor ve son transkriptin ulaştığı anda bitiyor; canlı bir sistemin turun sona erdiğini saptamak için harcadığı süreyi hesaba katmıyor. Dolayısıyla sistemin tüm yanıt süresini ölçmüyor.

Baseten, gelecekteki çalışmalar arasında daha karmaşık orkestrasyon akışlarını, mevcut ses işlem hatlarının daha kolay taşınmasını, doğal konuşmadan konuşmaya tam çift yönlü sistemleri, özel konuşma üretim başlıklarına sahip çok amaçlı modelleri ve işlem hattı genelinde yeni zamanlama ilkellerini saydı. Bu lansman, orkestrasyonu sesli ajan ekonomisinin denetim noktası hâline getiriyor: model seçimi, araçların yürütülmesi ve bileşen düzeyinde kapasite birlikte ele alınıyor; böylece operatörlere tüm işlem hattını yeniden kurmadan gecikmeyi ve GPU kullanımını ayarlamak için çeşitli yollar sunuluyor.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.