Modele și platforme AI
AWS adaugă PolyAI Dialog-RSN-1 în catalogul SageMaker JumpStart

Puncte cheieJumpStart scurtează calea de la evaluare la un endpoint AWS guvernat, dar lasă…
Vezi mai mult
- JumpStart scurtează calea de la evaluare la un endpoint AWS guvernat, dar lasă telefonia și sinteza vocală în sarcina clienților.
- Dialog-RSN-1 returnează doar text sau apeluri de funcții, astfel încât fiecare implementare trebuie să adauge propriul strat de sinteză text-vorbire.
- Facturarea începe când endpointul intră în serviciu și continuă până la ștergere, chiar și atunci când niciun client nu este conectat.
AWS a anunțat pe 19 noiembrie 2026 că Dialog-RSN-1 de la PolyAI a fost adăugat în catalogul Amazon SageMaker JumpStart, cu implementare printr-un singur clic, instrumente de evaluare și patru profiluri de optimizare pentru modelul de servicii pentru clienți nativ audio. Punctul final rulează în propriul cont AWS al clientului.
Noutatea este fluxul de lucru din catalog, care vine după două anunțuri anterioare ale PolyAI. PolyAI a lansat Dialog-RSN-1 pe 30 iulie 2026 și a anunțat implementarea punctelor finale SageMaker prin AWS Marketplace pe 6 octombrie 2026. JumpStart adaugă funcții de descoperire, evaluare și implementare preconfigurată, în timp ce clienții se abonează în continuare prin AWS Marketplace.
Evaluare și implementare într-un singur catalog
Din Model Hub al consolei SageMaker AI, clientul selectează Dialog-RSN-1 și alege Deploy. JumpStart creează un punct final de inferență în timp real pe o stivă de servire preconfigurată, eliminând selectarea manuală a containerului și nevoia de a compara manual zeci de combinații de infrastructură. În schimb, echipele pot folosi câteva linii de cod din SageMaker Python SDK și pot integra implementarea în fluxurile de lucru de integrare continuă și livrare continuă.
Înainte de implementare, fișa modelului afișează latența P50, timpul până la primul token și debitul. Profilurile prioritizează latența, debitul, costul sau utilizarea generală echilibrată: profilul pentru latență minimizează timpul până la primul token, cel pentru debit maximizează numărul de tokenuri pe secundă, iar cel pentru cost minimizează costul infrastructurii per solicitare. Astfel, alegerile corelează configurația de servire cu volumul de apeluri, rapiditatea răspunsului și cerințele de cheltuieli, în loc să aplice o singură setare implicită tuturor sarcinilor.
Evaluarea este disponibilă în aceeași înregistrare din catalog. Notebookul demonstrativ al PolyAI transmite în flux înregistrări audio ale apelanților și afișează deciziile modelului privind gestionarea turelor de conversație, răspunsurile și transcrierile, permițând echipei să-i examineze comportamentul în tipurile de apeluri pe care se așteaptă să le gestioneze. Echipele pot consulta prezentarea generală și exemplele înainte de implementare; transmiterea propriului conținut audio prin model necesită un punct final.
Raționament audio cu un strat vocal separat
Dialog-RSN-1 procesează direct conținutul audio al apelantului și reunește într-un singur model gestionarea turelor de conversație, recunoașterea vorbirii, generarea răspunsurilor și apelarea funcțiilor. Potrivit PolyAI, procesarea directă a sunetului păstrează tonul, ezitările și temporizarea, elemente pe care un sistem în cascadă le poate pierde atunci când recunoașterea vocală transformă apelul într-o transcriere. Un detector de activitate vocală declanșează fiecare sondare, în timp ce primul token de ieșire al modelului înregistrează EMPTY, ONGOING sau COMPLETE, lăsând modelului decizia finală privind gestionarea turelor de conversație.
Calea de ieșire este separată. Dialog-RSN-1 returnează textul răspunsului transmis în flux sau un apel de funcție, iar transcrierea apelantului este furnizată separat; modelul nu sintetizează vorbirea. Prin urmare, implementarea trebuie să includă conversia textului în vorbire, păstrând libertatea clientului de a-și alege vocea, dar adăugând o componentă externă punctului final al modelului.
În anunțul PolyAI de pe Marketplace se menționează că răspunsul median până la primul token este sub 300 de milisecunde, iar un schimb complet tipic cu un apelant durează aproximativ 390 de milisecunde în producție. Distincția este importantă, deoarece latența modelului, de una singură, nu descrie întârzierea unei implementări vocale complete, care include sinteza vocală, telefonia și instrumentele externe.
Limite de integrare și costuri orare
Punctul final se află în cloudul privat virtual al clientului, utilizează rolurile AWS Identity and Access Management ale acestuia și este monitorizat prin Amazon CloudWatch. Deoarece inferența rulează în contul respectiv, înregistrările audio ale apelurilor și transcrierile rămân în infrastructura controlată de client, un aspect relevant pentru cerințele privind rezidența datelor și auditul.
Punctul final implementează protocolul OpenAI Realtime. Puntea clientului de la PolyAI pune la dispoziția clienților Realtime un WebSocket local și le transmite evenimentele prin fluxul bidirecțional HTTP/2 semnat al SageMaker; aplicațiile pot, de asemenea, să invoce direct fluxul respectiv. Clienții rămân responsabili de telefonie, orchestrare, logica de business și executarea instrumentelor, iar îndrumările de integrare ale PolyAI recomandă validarea datelor, a numerelor de referință și a sumelor înainte de executarea apelurilor de funcții.
Intrarea audio este limitată la formatul PCM16 mono, codificat în base64, la 16 sau 24 kHz; nu sunt acceptate G.711, Opus sau sunetul stereo. Fereastra de context este de 32.000 de tokenuri, iar modelul funcționează numai în limba engleză. Conexiunile au o limită strictă de 30 de minute și un timp de așteptare de cinci minute înainte de expirarea sesiunii inactive. Starea nu se păstrează la reconectare, astfel că aplicațiile trebuie să restabilească contextul relevant la inițierea unei sesiuni noi.
Inferența în timp real costă 45 USD pe oră de gazdă pentru ml.p4d.24xlarge și 110 USD pe oră de gazdă pentru ml.p5.48xlarge. O oră de gazdă reprezintă o oră de funcționare a instanței de calcul, iar AWS poate percepe costuri suplimentare pentru infrastructură. Facturarea începe când punctul final intră în serviciu și continuă până la ștergerea lui, chiar și atunci când niciun client nu este conectat. Exemplele AWS de implementare șterg punctul final, configurația punctului final și modelul în timpul procesului de curățare.
Principala contribuție a JumpStart este scurtarea traseului operațional de la evaluarea modelului până la implementarea acestuia într-un endpoint AWS guvernat. Munca rămasă pentru lansarea în producție ține de activitățile din jurul modelului: telefonie, sinteză vocală, validarea instrumentelor, recuperarea sesiunilor și controlul unui endpoint care acumulează costuri chiar și atunci când este inactiv. Prin urmare, viabilitatea economică depinde de rezultatele obținute la gestionarea apelurilor cu ajutorul propriilor înregistrări audio ale clientului, puse în balanță cu costurile permanente de inginerie și găzduire.












