Modely a platformy AI
AWS přidává PolyAI Dialog-RSN-1 do katalogu SageMaker JumpStart

Klíčové bodyJumpStart zkracuje cestu od vyhodnocení k řízenému koncovému bodu AWS, ale telefony a…
Zobrazit více
- JumpStart zkracuje cestu od vyhodnocení k řízenému koncovému bodu AWS, ale telefony a syntézu řeči ponechává na zákaznících.
- Dialog-RSN-1 vrací pouze text nebo volání funkcí, takže každé nasazení musí přidat vlastní vrstvu převodu textu na řeč.
- Účtování začíná, když koncový bod vstoupí do provozu, a pokračuje až do smazání, i když není připojen žádný klient.
Společnost AWS oznámila 19. listopadu 2026, že model Dialog-RSN-1 od PolyAI byl zařazen do katalogu Amazon SageMaker JumpStart. Přibývá tak možnost nasazení jedním kliknutím, nástroje pro vyhodnocování a čtyři optimalizační profily pro model zákaznického servisu nativně pracující se zvukem. Endpoint běží ve vlastním účtu AWS zákazníka.
Novinkou je pracovní postup v katalogu, který navazuje na dvě dřívější oznámení PolyAI. Společnost PolyAI představila Dialog-RSN-1 30. července 2026 a 6. října 2026 oznámila možnost nasazení endpointu SageMaker prostřednictvím AWS Marketplace. JumpStart přidává vyhledávání, vyhodnocování a předkonfigurované nasazení, zákazníci si však produkt nadále předplácejí prostřednictvím AWS Marketplace.
Vyhodnocování a nasazení v jednom katalogu
Zákazník v konzoli SageMaker AI otevře Model Hub, vybere Dialog-RSN-1 a zvolí možnost Nasadit. JumpStart vytvoří endpoint pro inferenci v reálném čase na předkonfigurované obslužné infrastruktuře, takže není nutné ručně vybírat kontejnery ani ručně testovat desítky kombinací infrastruktury. Týmy mohou místo toho použít několik řádků kódu SageMaker Python SDK a začlenit nasazení do procesů průběžné integrace a průběžného doručování.
Karta modelu před nasazením zobrazuje latenci P50, dobu do prvního tokenu a propustnost. Profily upřednostňují latenci, propustnost, náklady nebo vyvážené obecné použití: profil pro nízkou latenci minimalizuje dobu do prvního tokenu, profil pro vysokou propustnost maximalizuje počet tokenů za sekundu a nákladový profil minimalizuje náklady na infrastrukturu na jeden požadavek. Tato nastavení propojují konfiguraci obsluhy s objemem hovorů, požadovanou odezvou a rozpočtem namísto toho, aby se pro každou úlohu používalo jedno výchozí nastavení.
Vyhodnocování je součástí stejné položky katalogu. Ukázkový notebook PolyAI streamuje nahrané hovory zákazníků a vypisuje rozhodnutí modelu o střídání tahů, jeho odpovědi a přepisy. Tým tak může prověřit jeho chování na typech hovorů, které očekává, že bude zpracovávat. Týmy si mohou před nasazením prohlédnout přehled a ukázky; streamování vlastního zvuku přes model vyžaduje endpoint.
Zvukové uvažování s oddělenou hlasovou vrstvou
Dialog-RSN-1 zpracovává zvuk volajícího přímo a v jednom modelu spojuje střídání tahů, rozpoznávání řeči, generování odpovědí a volání funkcí. Podle PolyAI přímé zpracování zvuku zachovává tón, váhání a načasování, které se mohou ztratit v kaskádovém systému, kde se hovor pomocí rozpoznávání řeči převádí na přepis. Detektor hlasové aktivity spouští každou sondu, zatímco první výstupní token modelu zaznamenává EMPTY, ONGOING nebo COMPLETE, takže konečné rozhodnutí o střídání tahů zůstává na modelu.
Výstupní část funguje odděleně. Dialog-RSN-1 vrací streamovaný text odpovědi nebo volání funkce, zatímco přepis hovoru volajícího přichází samostatně; syntézu řeči neprovádí. Nasazení proto musí zahrnovat převod textu na řeč, což zákazníkovi ponechává možnost zvolit si hlas, ale zároveň přidává komponentu mimo endpoint modelu.
Podle nabídky PolyAI na Marketplace je medián doby odezvy do prvního tokenu kratší než 300 milisekund a typická úplná výměna s volajícím v produkčním prostředí trvá přibližně 390 milisekund. Toto rozlišení je důležité, protože samotná latence modelu nevystihuje zpoždění při kompletním hlasovém nasazení, které zahrnuje syntézu řeči, telefonní služby a externí nástroje.
Omezení integrace a hodinové náklady
Endpoint se nachází ve virtuálním privátním cloudu zákazníka, využívá jeho role AWS Identity and Access Management a je monitorován prostřednictvím Amazon CloudWatch. Protože inference probíhá v rámci tohoto účtu, zvukové záznamy hovorů a přepisy zůstávají v infrastruktuře, kterou má zákazník pod kontrolou. Toto uspořádání je relevantní z hlediska požadavků na umístění dat a audit.
Endpoint implementuje protokol OpenAI Realtime. Klientský most PolyAI zpřístupňuje klientům Realtime místní WebSocket a přenáší jejich události prostřednictvím podepsaného obousměrného streamu HTTP/2 služby SageMaker; aplikace mohou tento stream volat také přímo. Zákazníci nadále odpovídají za telefonní služby, orchestraci, obchodní logiku a provádění nástrojů. Pokyny PolyAI k integraci zároveň doporučují před provedením volání nástrojů ověřovat data, referenční čísla a částky.
Vstupní zvuk je omezen na mono PCM16 kódované v base64 se vzorkovací frekvencí 16 nebo 24 kHz; formáty G.711 a Opus ani stereofonní zvuk nejsou podporovány. Kontextové okno má 32 000 tokenů a model podporuje pouze angličtinu. Připojení mají pevný limit 30 minut a časový limit nečinnosti pět minut. Stav se při opětovném připojení nepřenáší, takže aplikace musí při navázání nové relace obnovit relevantní kontext.
Inferenční služba v reálném čase stojí 45 USD za hodinu provozu hostitele na ml.p4d.24xlarge a 110 USD za hodinu provozu hostitele na ml.p5.48xlarge. Hodina provozu hostitele odpovídá jedné hodině běhu výpočetní instance; mohou se účtovat také další poplatky za infrastrukturu AWS. Účtování začíná uvedením endpointu do provozu a pokračuje až do jeho odstranění, a to i v době, kdy k němu není připojen žádný klient. V příkladech nasazení AWS se při úklidu odstraňuje endpoint, jeho konfigurace i model.
Hlavním přínosem JumpStartu je kratší provozní cesta od vyhodnocení modelu k řízenému endpointu AWS. Zbývající práce potřebná k nasazení do produkce se týká okolního prostředí modelu: telefonie, syntézy řeči, ověřování nástrojů, obnovy relací a správy endpointu, který generuje náklady i v době nečinnosti. Ekonomická opodstatněnost proto závisí na výsledcích vyřizování hovorů naměřených na vlastních zvukových záznamech zákazníka a porovnaných s průběžnými náklady na vývoj a hostování.












