AI-modeller och plattformar
AWS lägger till PolyAI Dialog-RSN-1 i SageMaker JumpStart-katalogen

Viktiga punkterJumpStart förkortar vägen från utvärdering till en styrningsbar AWS-endpoint men lämnar…
Visa mer
- JumpStart förkortar vägen från utvärdering till en styrningsbar AWS-endpoint men lämnar telefoni och talsyntes till kunderna.
- Dialog-RSN-1 returnerar endast text eller funktionsanrop så varje driftsättning måste lägga till sitt eget text-till-tal-lager.
- Fakturering börjar när endpointen tas i drift och fortsätter till radering även när ingen klient är ansluten.
AWS meddelade den 19 november 2026 att PolyAI:s Dialog-RSN-1 har lagts till i Amazon-katalogen SageMaker JumpStart, med distribution med ett klick, utvärderingsverktyg och fyra optimeringsprofiler för den ljudbaserade kundtjänstmodellen. Slutpunkten körs i kundens eget AWS-konto.
Den nya utvecklingen gäller arbetsflödet i katalogen och följer på två tidigare tillkännagivanden från PolyAI. PolyAI introducerade Dialog-RSN-1 den 30 juli 2026 och meddelade att SageMaker-slutpunkter kunde distribueras via AWS Marketplace den 6 oktober 2026. JumpStart tillför funktioner för sökning, utvärdering och förkonfigurerad distribution, medan kunderna fortfarande prenumererar via AWS Marketplace.
Utvärdering och distribution i en och samma katalog
I SageMaker AI-konsolens Model Hub väljer kunden Dialog-RSN-1 och sedan Distribuera. JumpStart skapar en slutpunkt för realtidsinferens med en förkonfigurerad serveringsstack, vilket eliminerar behovet av att välja container manuellt och att jämföra dussintals infrastrukturkombinationer för hand. Team kan i stället använda några få rader kod i SageMaker Python SDK och integrera distributionen i sina pipelines för kontinuerlig integrering och kontinuerlig leverans.
Innan distributionen visar modellkortet P50-latens, tid till första token och genomströmning. Profilerna prioriterar latens, genomströmning, kostnad eller balanserad användning för allmänna ändamål: latensprofilen minimerar tiden till första token, genomströmningsprofilen maximerar antalet token per sekund och kostnadsprofilen minimerar infrastrukturkostnaden per begäran. På så sätt anpassas serveringskonfigurationen efter samtalsvolym, svarstid och kostnadskrav, i stället för att samma standardinställning används för alla arbetsbelastningar.
Utvärderingen ingår i samma katalogpost. PolyAIs exempelanteckningsbok strömmar inspelat samtalsljud och visar modellens beslut om turtagning, svar och transkriptioner, så att team kan undersöka hur den beter sig vid de typer av samtal som den förväntas hantera. Team kan gå igenom översikten och exemplen före distributionen; för att strömma eget ljud genom modellen krävs en slutpunkt.
Ljudresonemang med ett separat röstlager
Dialog-RSN-1 bearbetar samtalsljud direkt och kombinerar turtagning, taligenkänning, svarsgenerering och funktionsanrop i en och samma modell. PolyAI säger att direkt ljudbearbetning bevarar tonfall, tvekan och timing, sådant som ett system med flera steg kan gå miste om när taligenkänning omvandlar ett samtal till en transkription. En röstaktivitetsdetektor utlöser varje sondering, medan modellens första utdatatoken registrerar EMPTY, ONGOING eller COMPLETE, vilket innebär att det slutliga beslutet om turtagning fattas av modellen.
Utmatningen hanteras separat. Dialog-RSN-1 returnerar strömmad svarstext eller ett funktionsanrop, medan transkriptionen av samtalet levereras separat; modellen syntetiserar inte tal. En distribution måste därför tillhandahålla text-till-tal, vilket låter kunden välja röst men innebär att en komponent utanför modellens slutpunkt tillkommer.
I PolyAIs Marketplace-listning anges en median på under 300 millisekunder till första token och cirka 390 millisekunder för ett typiskt komplett samtalsutbyte i produktion. Skillnaden är viktig eftersom modellens latens i sig inte beskriver fördröjningen i en komplett röstd distribution som även omfattar talsyntes, telefoni och externa verktyg.
Integrationsbegränsningar och timkostnader
Slutpunkten finns i kundens virtuella privata moln, använder kundens roller i AWS Identity and Access Management och övervakas via Amazon CloudWatch. Eftersom inferensen körs i kundens konto stannar samtalsljud och transkriptioner i en infrastruktur som kunden kontrollerar, vilket är relevant för krav på datalagring inom ett visst geografiskt område och revision.
Slutpunkten implementerar OpenAI Realtime-protokollet. PolyAIs klientbrygga tillhandahåller en lokal WebSocket för Realtime-klienter och överför deras händelser via SageMakers signerade dubbelriktade HTTP/2-ström; program kan också anropa strömmen direkt. Kunderna ansvarar fortfarande för telefoni, orkestrering, affärslogik och verktygskörning, medan PolyAIs integrationsvägledning rekommenderar att datum, referensnummer och belopp valideras innan verktygsanrop utförs.
Ljudinmatningen är begränsad till bas64-kodad PCM16-mono med 16 eller 24 kHz; G.711, Opus och stereo stöds inte. Kontextfönstret är 32 000 token och modellen stöder endast engelska. Anslutningar har en absolut tidsgräns på 30 minuter och en inaktivitetstimeout på fem minuter. Tillståndet bevaras inte vid återanslutning, så program måste återställa relevant kontext när en ny session inleds.
Realtidsinferens kostar 45 dollar per värdtimme på ml.p4d.24xlarge och 110 dollar per värdtimme på ml.p5.48xlarge. En värdtimme motsvarar en timmes drifttid för beräkningsinstansen, och ytterligare AWS-infrastrukturavgifter kan tillkomma. Debiteringen börjar när slutpunkten tas i drift och fortsätter tills den raderas, även när ingen klient är ansluten. AWS:s distributionsexempel raderar slutpunkten, slutpunktskonfigurationen och modellen vid rensning.
JumpStarts främsta bidrag är en kortare operativ väg från modellutvärdering till en AWS-slutpunkt under styrning. Det återstående produktionsarbetet rör sådant runt modellen: telefoni, talsyntes, validering av verktyg, återställning av sessioner och hantering av en slutpunkt som debiteras även när den är inaktiv. Affärsnyttan beror därför på resultaten av samtalshanteringen med kundens eget ljudmaterial, ställda mot de löpande kostnaderna för teknik och drift.












