AI-mallit ja alustat
AWS lisää PolyAI Dialog-RSN-1:n SageMaker JumpStart -luetteloon

Keskeiset kohdatJumpStart lyhentää polkua arvioinnista hallinnoituun AWS-päätepisteeseen, mutta jättää…
Näytä lisää
- JumpStart lyhentää polkua arvioinnista hallinnoituun AWS-päätepisteeseen, mutta jättää puhelinverkko- ja puhesynteesiratkaisut asiakkaiden vastuulle.
- Dialog-RSN-1 palauttaa vain tekstiä tai funktiokutsuja, joten jokaisen käyttöönoton on lisättävä oma tekstistä puheeksi -kerroksensa.
- Laskutus alkaa, kun päätepiste otetaan käyttöön, ja jatkuu poistamiseen asti, vaikka asiakasohjelmaa ei olisi yhdistettynä.
AWS ilmoitti 19. marraskuuta 2026, että PolyAI:n Dialog-RSN-1 on lisätty Amazonin SageMaker JumpStart -luetteloon. Lisäys tuo äänipohjaiselle asiakaspalvelumallille yhden napsautuksen käyttöönoton, arviointityökalut ja neljä optimointiprofiilia. Päätepiste toimii asiakkaan omalla AWS-tilillä.
Uusi kehitysaskel on luettelon kautta tapahtuva työnkulku, joka seuraa PolyAI:n kahta aiempaa ilmoitusta. PolyAI esitteli Dialog-RSN-1:n 30. heinäkuuta 2026 ja ilmoitti SageMaker-päätepisteen käyttöönotosta AWS Marketplacen kautta 6. lokakuuta 2026. JumpStart helpottaa mallin löytämistä ja arviointia sekä tarjoaa valmiiksi määritetyn käyttöönoton, mutta asiakkaat tilaavat sen edelleen AWS Marketplacen kautta.
Arviointi ja käyttöönotto samassa luettelossa
Asiakas valitsee SageMaker AI -konsolin Model Hubista Dialog-RSN-1:n ja napsauttaa Deploy-painiketta. JumpStart luo reaaliaikaisen päättelyn päätepisteen valmiiksi määritettyyn palvelupinoon, joten säilöä ei tarvitse valita manuaalisesti eikä kymmeniä infrastruktuuriyhdistelmiä tarvitse vertailla suorituskykytesteillä käsin. Tiimit voivat vaihtoehtoisesti käyttää muutamaa SageMaker Python SDK:n koodiriviä ja sisällyttää käyttöönoton jatkuvan integroinnin ja jatkuvan toimituksen putkiin.
Ennen käyttöönottoa mallikortissa näkyvät P50-viive, aika ensimmäiseen tokeniin ja läpimeno. Profiileissa painotetaan viivettä, läpimenoa, kustannuksia tai tasapainoista yleiskäyttöä: viiveprofiili minimoi ajan ensimmäiseen tokeniin, läpimenoprofiili maksimoi tokenien määrän sekunnissa ja kustannusprofiili minimoi infrastruktuurikustannukset pyyntöä kohden. Näin palvelun määritykset voidaan sovittaa puhelumääriin, vasteaikavaatimuksiin ja budjettiin sen sijaan, että kaikissa kuormituksissa käytettäisiin samoja oletusasetuksia.
Arviointi tapahtuu samassa luettelomerkinnässä. PolyAI:n esimerkkimuistikirja suoratoistaa tallennettuja soittajien äänitteitä ja tulostaa mallin vuoronvaihtopäätökset, vastaukset ja litteroinnit, jotta tiimi voi tarkastella sen toimintaa odotettavissa olevissa puheluissa. Tiimit voivat tutustua yleiskatsaukseen ja näytteisiin ennen käyttöönottoa, mutta oman äänen suoratoistaminen mallin kautta edellyttää päätepistettä.
Äänen päättely ja erillinen puhekerros
Dialog-RSN-1 käsittelee soittajan ääntä suoraan ja yhdistää vuoronvaihdon, puheentunnistuksen, vastausten tuottamisen ja funktiokutsut yhteen malliin. PolyAI:n mukaan suora äänen käsittely säilyttää äänensävyn, epäröinnin ja ajoituksen, jotka voivat kadota vaiheittaisessa järjestelmässä, kun puheentunnistus muuntaa puhelun litteroinniksi. Äänitoiminnan tunnistin käynnistää jokaisen tunnustelun, ja mallin ensimmäinen tulostoken tallentaa EMPTY, ONGOING tai COMPLETE, jolloin lopullisen vuoronvaihtopäätöksen tekee malli.
Tulostuspolku on erillinen. Dialog-RSN-1 palauttaa suoratoistettavan vastaustekstin tai funktiokutsun, ja soittajan litterointi saapuu erikseen; malli ei syntetisoi puhetta. Käyttöönotossa on siksi oltava tekstistä puheeksi -toiminto, jolloin asiakas voi valita äänen itse, mutta samalla päätepisteen ulkopuolelle lisätään yksi komponentti.
PolyAI:n Marketplace-listauksen mukaan ensimmäisen tokenin vasteajan mediaani on alle 300 millisekuntia, ja tuotantokäytössä tyypillinen soittajan ja järjestelmän välinen kokonainen vuorovaikutus kestää noin 390 millisekuntia. Ero on tärkeä, sillä pelkkä mallin viive ei kuvaa koko ääniympäristön viivettä, kun mukana ovat myös puhesynteesi, puhelinjärjestelmä ja ulkoiset työkalut.
Integroinnin rajoitukset ja tuntikustannukset
Päätepiste sijaitsee asiakkaan virtuaalisessa yksityisessä pilvessä, käyttää asiakkaan AWS Identity and Access Management -rooleja, ja sitä valvotaan Amazon CloudWatchin kautta. Koska päättely tapahtuu asiakkaan tilillä, puheluiden äänitallenteet ja litteroinnit pysyvät asiakkaan hallitsemassa infrastruktuurissa. Tämä on olennaista tietojen sijaintia ja auditointia koskevien vaatimusten kannalta.
Päätepiste toteuttaa OpenAI Realtime -protokollan. PolyAI:n asiakassilta tarjoaa Realtime-asiakkaille paikallisen WebSocket-yhteyden ja välittää niiden tapahtumat SageMakerin allekirjoitetun kaksisuuntaisen HTTP/2-virran kautta; sovellukset voivat kutsua virtaa myös suoraan. Asiakkaat vastaavat edelleen puhelinjärjestelmistä, orkestroinnista, liiketoimintalogiikasta ja työkalujen suorittamisesta. PolyAI:n integrointiohjeissa kehotetaan tarkistamaan päivämäärät, viitenumerot ja summat ennen työkalukutsujen suorittamista.
Äänisyöte on rajattu base64-koodattuun mono-PCM16-ääneen, jonka näytteenottotaajuus on 16 tai 24 kHz; G.711-, Opus- tai stereoääntä ei tueta. Konteksti-ikkunan koko on 32 000 tokenia, ja malli toimii vain englanniksi. Yhteyden ehdoton enimmäiskesto on 30 minuuttia, ja käyttämättömyyden aikakatkaisu on viisi minuuttia. Tila ei säily yhteyden uudelleenmuodostuksen yli, joten sovellusten on palautettava olennainen konteksti uutta istuntoa luotaessa.
Reaaliaikainen päättely maksaa 45 $ isäntätunnilta käytettäessä ml.p4d.24xlarge ja 110 $ isäntätunnilta käytettäessä ml.p5.48xlarge. Isäntätunti tarkoittaa laskentainstanssin yhtä käyttötuntia, ja AWS:n infrastruktuurista voidaan veloittaa lisäksi. Laskutus alkaa, kun päätepiste siirtyy käyttöön, ja jatkuu sen poistamiseen asti, vaikka yksikään asiakasohjelma ei olisi yhteydessä. AWS:n käyttöönott esimerkeissä päätepiste, päätepisteen määritys ja malli poistetaan siivouksen yhteydessä.
JumpStartin tärkein hyöty on, että se lyhentää matkaa mallin arvioinnista hallintakäytäntöjen mukaiseen AWS-päätepisteeseen. Tuotantokäyttöön liittyvää työtä jää silti tehtäväksi mallin ympärillä: puhelintekniikka, puhesynteesi, työkalujen validointi, istuntojen palautus sekä sellaisen päätepisteen hallinta, josta kertyy kuluja myös sen ollessa käyttämättömänä. Liiketoimintahyöty riippuu siksi siitä, miten puheluiden käsittely toimii asiakkaan omalla ääniaineistolla, kun tuloksia verrataan jatkuviin kehitys- ja ylläpitokustannuksiin.












