Yapay zeka modelleri ve platformları
AWS, PolyAI Dialog-RSN-1’i SageMaker JumpStart Kataloğu’na Ekliyor

Öne çıkan noktalarJumpStart, değerlendirmeden yönetilen bir AWS uç noktasına giden yolu kısaltır ancak…
Daha fazla göster
- JumpStart, değerlendirmeden yönetilen bir AWS uç noktasına giden yolu kısaltır ancak telefon ve konuşma sentezini müşterilere bırakır.
- Dialog-RSN-1 yalnızca metin veya işlev çağrıları döndürür, bu nedenle her dağıtım kendi metinden konuşmaya katmanını eklemek zorundadır.
- Faturalandırma, uç nokta hizmete girdiğinde başlar ve hiçbir istemci bağlı olmasa bile silinene kadar devam eder.
AWS, 19 Kasım 2026’da PolyAI’nin Dialog-RSN-1 modelinin Amazon SageMaker JumpStart kataloğuna eklendiğini duyurdu. Böylece ses odaklı müşteri hizmetleri modeline tek tıkla dağıtım, değerlendirme araçları ve dört optimizasyon profili eklendi. Uç nokta, müşterinin kendi AWS hesabında çalışıyor.
Yeni gelişme, PolyAI’nin daha önce yaptığı iki duyurunun ardından kataloğa dayalı iş akışının kullanıma sunulması. PolyAI, 30 Temmuz 2026’da Dialog-RSN-1’i tanıttı ve 6 Ekim 2026’da AWS Marketplace üzerinden SageMaker uç noktası dağıtımını duyurdu. JumpStart; keşif, değerlendirme ve önceden yapılandırılmış dağıtım olanakları sunarken müşteriler abonelik işlemlerini AWS Marketplace üzerinden yapmaya devam ediyor.
Tek Bir Katalogda Değerlendirme ve Dağıtım
Müşteri, SageMaker AI konsolundaki Model Hub üzerinden Dialog-RSN-1’i seçip Deploy’u tıklar. JumpStart, önceden yapılandırılmış bir sunum yığını üzerinde gerçek zamanlı çıkarım uç noktası oluşturur; böylece kapsayıcıyı elle seçme ve onlarca altyapı bileşimini tek tek kıyaslama gereği ortadan kalkar. Ekipler bunun yerine birkaç satır SageMaker Python SDK kodu kullanabilir ve dağıtımı sürekli entegrasyon ve sürekli teslimat işlem hatlarına dahil edebilir.
Dağıtımdan önce model kartında P50 gecikme süresi, ilk belirtece kadar geçen süre ve çıktı hızı gösterilir. Profiller; gecikmeyi, çıktı hızını, maliyeti veya dengeli ve genel amaçlı kullanımı önceliklendirir: gecikme profili ilk belirtece kadar geçen süreyi en aza indirirken çıktı hızı profili saniye başına belirteç sayısını en üst düzeye çıkarır; maliyet profili ise istek başına altyapı maliyetini en aza indirir. Bu seçenekler, her iş yüküne tek bir varsayılan ayar uygulamak yerine sunum yapılandırmasını çağrı hacmine, yanıt hızına ve bütçe gereksinimlerine göre belirler.
Değerlendirme, aynı katalog girdisinde yer alır. PolyAI’nin örnek not defteri, kaydedilmiş arayan seslerini akış hâlinde modele gönderir ve modelin tur kararlarını, yanıtlarını ve dökümlerini yazdırır. Böylece ekip, modelin ele alması beklenen türdeki çağrılarda nasıl davrandığını inceleyebilir. Ekipler dağıtımdan önce genel bakışı ve örnekleri inceleyebilir; kendi seslerini model üzerinden akış hâlinde işlemek içinse bir uç nokta gerekir.
Ayrı Bir Ses Katmanıyla Ses Üzerinde Akıl Yürütme
Dialog-RSN-1, arayanın sesini doğrudan işler; konuşma sırası yönetimini, konuşma tanımayı, yanıt üretimini ve işlev çağrılarını tek bir modelde birleştirir. PolyAI’ye göre doğrudan ses işleme, konuşma tanımanın bir çağrıyı döküme dönüştürmesi sırasında ardışık bir sistemin kaybedebileceği tonu, tereddütleri ve zamanlamayı korur. Bir ses etkinliği algılayıcısı her yoklamayı tetiklerken modelin ilk çıktı belirteci kaydediyor EMPTY, ONGOING veya COMPLETE, böylece konuşma sırasına ilişkin nihai kararı model verir.
Çıktı yolu ayrıdır. Dialog-RSN-1, akış hâlinde yanıt metni veya bir işlev çağrısı döndürür; arayanın dökümü ise ayrı olarak gelir. Model konuşma sentezlemez. Bu nedenle dağıtımda metinden konuşmaya dönüştürme bileşeni bulunmalıdır. Böylece müşterinin ses seçimini koruması sağlanırken model uç noktasının dışında bir bileşen daha eklenmiş olur.
PolyAI’nin Marketplace listelemesinde, üretim ortamında ilk belirteç için medyan yanıt süresinin 300 milisaniyenin altında, arayanla yapılan tipik bir görüşmenin tamamlanması için gereken sürenin ise yaklaşık 390 milisaniye olduğu bildiriliyor. Bu ayrım önemlidir; çünkü tek başına model gecikmesi, konuşma sentezini, telefon sistemlerini ve harici araçları da içeren eksiksiz bir ses dağıtımındaki gecikmeyi göstermez.
Entegrasyon Sınırları ve Saatlik Maliyetler
Uç nokta, müşterinin sanal özel bulutunda bulunur, müşterinin AWS Identity and Access Management rollerini kullanır ve Amazon CloudWatch üzerinden izlenir. Çıkarım müşterinin hesabında çalıştığından çağrı sesleri ve dökümleri, müşterinin kontrolündeki altyapı sınırları içinde kalır. Bu tasarım, veri yerleşimi ve denetim gereksinimleri açısından önem taşır.
Uç nokta, OpenAI Realtime protokolünü uygular. PolyAI’nin istemci köprüsü, Realtime istemcileri için yerel bir WebSocket sunar ve istemcilerin etkinliklerini SageMaker’ın imzalı çift yönlü HTTP/2 akışı üzerinden iletir; uygulamalar bu akışı doğrudan da çağırabilir. Telefon sistemleri, orkestrasyon, iş mantığı ve araçların çalıştırılması müşterilerin sorumluluğundadır. PolyAI’nin entegrasyon kılavuzu, araç çağrıları işleme alınmadan önce tarihlerin, referans numaralarının ve tutarların doğrulanmasını önerir.
Ses girişi, 16 veya 24 kHz’de base64 kodlu mono PCM16 ile sınırlıdır; G.711, Opus veya stereo desteği yoktur. Bağlam penceresi 32.000 belirteçtir ve model yalnızca İngilizceyi destekler. Bağlantılar en fazla 30 dakika açık kalabilir ve 5 dakika boşta kaldıktan sonra zaman aşımına uğrar. Bağlantı yeniden kurulduğunda durum korunmaz; bu nedenle uygulamaların yeni bir oturum başlatırken ilgili bağlamı geri yüklemesi gerekir.
Gerçek zamanlı çıkarımın saatlik sunucu maliyeti, her bir sunucu saati için 45 ABD dolarıdır; ml.p4d.24xlarge ve her bir sunucu saati için 110 ABD dolarıdır; ml.p5.48xlarge. Sunucu saati, işlem örneğinin bir saat çalışması anlamına gelir; ek AWS altyapı ücretleri de uygulanabilir. Faturalandırma, uç nokta hizmete girdiğinde başlar ve hiçbir istemci bağlı olmasa bile uç nokta silinene kadar devam eder. AWS’nin dağıtım örneklerinde temizleme sırasında uç nokta, uç nokta yapılandırması ve model silinir.
JumpStart’ın temel katkısı, model değerlendirmesinden yönetilen bir AWS uç noktasına geçiş sürecini kısaltmasıdır. Üretime geçiş için modelin çevresinde hâlâ yapılması gereken işler vardır: telefon altyapısı, konuşma sentezi, araçların doğrulanması, oturumların kurtarılması ve boşta kaldığında ücret yazan uç noktanın kontrolü. Bu nedenle iş gerekçesi, müşterinin kendi ses kayıtları üzerinden ölçülen çağrı işleme sonuçlarının süregelen mühendislik ve barındırma maliyetleriyle karşılaştırılmasına bağlıdır.












