AI-modellen en platforms
AWS voegt PolyAI Dialog-RSN-1 toe aan de catalogus van SageMaker JumpStart

Belangrijkste puntenJumpStart verkort het traject van evaluatie naar een beheerd AWS-eindpunt, maar laat…
Meer weergeven
- JumpStart verkort het traject van evaluatie naar een beheerd AWS-eindpunt, maar laat telefonie en spraaksynthese aan de klanten over.
- Dialog-RSN-1 retourneert alleen tekst of functieaanroepen, dus elke implementatie moet zijn eigen tekst-naar-spraaklaag toevoegen.
- De facturering begint wanneer het eindpunt in dienst wordt genomen en loopt door tot verwijdering, zelfs wanneer er geen client is verbonden.
AWS maakte op 19 november 2026 bekend dat PolyAI’s Dialog-RSN-1 is toegevoegd aan de catalogus van Amazon SageMaker JumpStart, met one-click-implementatie, evaluatietools en vier optimalisatieprofielen voor het audiogebaseerde klantenservicemodel. Het endpoint draait in het eigen AWS-account van de klant.
De nieuwe ontwikkeling is de catalogusworkflow, na twee eerdere aankondigingen van PolyAI. PolyAI introduceerde Dialog-RSN-1 op 30 juli 2026 en kondigde op 6 oktober 2026 de implementatie van SageMaker-endpoints via AWS Marketplace aan. JumpStart voegt mogelijkheden toe om het model te ontdekken en te evalueren en vooraf geconfigureerd te implementeren, terwijl klanten zich nog steeds abonneren via AWS Marketplace.
Evaluatie en implementatie in één catalogus
In Model Hub van de SageMaker AI-console selecteert een klant Dialog-RSN-1 en kiest die voor Implementeren. JumpStart maakt een realtime-inferentie-endpoint aan op een vooraf geconfigureerde serveerstack. Daardoor hoeven teams niet handmatig een container te selecteren of tientallen infrastructuurcombinaties zelf te benchmarken. In plaats daarvan kunnen teams enkele regels code uit de SageMaker Python SDK gebruiken en de implementatie opnemen in hun pipelines voor continue integratie en continue levering.
Voordat het model wordt geïmplementeerd, toont de modelkaart de P50-latentie, de tijd tot het eerste token en de doorvoer. De profielen geven prioriteit aan latentie, doorvoer, kosten of een evenwichtig algemeen gebruik: het latentieprofiel minimaliseert de tijd tot het eerste token, het doorvoerprofiel maximaliseert het aantal tokens per seconde en het kostenprofiel minimaliseert de infrastructuurkosten per verzoek. Zo sluiten de keuzes voor de serveerconfiguratie aan op het belvolume, de reactiesnelheid en de budgetvereisten, in plaats van voor elke workload dezelfde standaardinstelling te gebruiken.
Evaluatie is beschikbaar in dezelfde catalogusvermelding. In PolyAI’s voorbeeldnotebook wordt opgenomen audio van bellers gestreamd en worden de beslissingen van het model over gespreksbeurten, de antwoorden en de transcripties weergegeven. Zo kan een team het gedrag van het model beoordelen aan de hand van het soort gesprekken dat het verwacht af te handelen. Teams kunnen het overzicht en de voorbeelden vóór implementatie bekijken; voor het streamen van hun eigen audio door het model is een endpoint nodig.
Redeneren op basis van audio met een afzonderlijke spraaklaag
Dialog-RSN-1 verwerkt audio van bellers rechtstreeks en combineert beurtwisseling, spraakherkenning, antwoordgeneratie en functieaanroepen in één model. Volgens PolyAI blijven toon, aarzelingen en timing behouden wanneer audio rechtstreeks wordt verwerkt; die kunnen verloren gaan in een getrapt systeem waarin spraakherkenning een gesprek omzet in een transcriptie. Een stemactiviteitsdetector activeert elke probe, terwijl het eerste outputtoken van het model registreert EMPTY, ONGOING of COMPLETE, zodat de uiteindelijke beslissing over de beurtwisseling bij het model ligt.
Het uitvoerpad staat hier los van. Dialog-RSN-1 levert gestreamde antwoordtekst of een functieaanroep terug; de transcriptie van de beller wordt afzonderlijk aangeleverd. Het model genereert zelf geen spraak. Een implementatie moet daarom tekst-naar-spraakfunctionaliteit leveren. Zo behoudt de klant de keuze van de stem, maar wordt er wel een component toegevoegd buiten het modelendpoint.
In de Marketplace-vermelding meldt PolyAI dat de mediane reactietijd tot het eerste token minder dan 300 milliseconden bedraagt en dat een volledige uitwisseling met een beller in productie doorgaans ongeveer 390 milliseconden duurt. Dat onderscheid is belangrijk, omdat de latentie van het model op zichzelf geen beeld geeft van de vertraging in een volledige spraakimplementatie, waarin ook spraaksynthese, telefonie en externe tools zijn opgenomen.
Integratiebeperkingen en uurtarieven
Het endpoint bevindt zich in de virtual private cloud van de klant, gebruikt diens AWS Identity and Access Management-rollen en wordt bewaakt via Amazon CloudWatch. Omdat de inferentie binnen dat account plaatsvindt, blijven gespreksaudio en transcripties binnen de infrastructuur die de klant beheert. Dit ontwerp is relevant voor vereisten op het gebied van gegevenslocatie en audits.
Het endpoint implementeert het OpenAI Realtime-protocol. PolyAI’s clientbrug biedt een lokale WebSocket voor Realtime-clients en verstuurt hun gebeurtenissen via de ondertekende bidirectionele HTTP/2-stream van SageMaker; applicaties kunnen die stream ook rechtstreeks aanroepen. Klanten blijven verantwoordelijk voor telefonie, orkestratie, bedrijfslogica en de uitvoering van tools. Volgens de integratierichtlijnen van PolyAI moeten datums, referentienummers en bedragen worden gevalideerd voordat toolaanroepen worden uitgevoerd.
Audio-invoer is beperkt tot base64-gecodeerde PCM16-mono op 16 of 24 kHz; G.711, Opus en stereo worden niet ondersteund. Het contextvenster bevat 32.000 tokens en het model ondersteunt alleen Engels. Verbindingen hebben een harde limiet van 30 minuten en een time-out van vijf minuten bij inactiviteit. De status blijft niet behouden na opnieuw verbinden. Applicaties moeten daarom de relevante context herstellen wanneer ze een nieuwe sessie starten.
Realtime-inferentie kost $45 per hostuur op ml.p4d.24xlarge en $110 per hostuur op ml.p5.48xlarge. Een hostuur is één uur runtime voor de compute-instantie; er kunnen ook aanvullende AWS-infrastructuurkosten van toepassing zijn. De facturering begint zodra het endpoint actief wordt en loopt door totdat het wordt verwijderd, ook wanneer er geen client is verbonden. In de implementatievoorbeelden van AWS worden het endpoint, de endpointconfiguratie en het model tijdens de opruiming verwijderd.
De belangrijkste bijdrage van JumpStart is dat het operationele traject van modelevaluatie tot een AWS-eindpunt onder governance korter wordt. Het resterende productiewerk betreft zaken rond het model: telefonie, spraaksynthese, validatie van tools, herstel van sessies en het beheer van een eindpunt waarvoor ook bij inactiviteit kosten worden berekend. De zakelijke haalbaarheid hangt daarom af van de resultaten bij de afhandeling van gesprekken op basis van de eigen audio van de klant, afgezet tegen de doorlopende kosten voor engineering en hosting.












