Modelli e piattaforme di IA
AWS aggiunge PolyAI Dialog-RSN-1 al catalogo SageMaker JumpStart

Punti chiaveJumpStart accorcia il percorso dalla valutazione a un endpoint AWS governato ma lascia…
Vedi di più
- JumpStart accorcia il percorso dalla valutazione a un endpoint AWS governato ma lascia la telefonia e la sintesi vocale ai clienti.
- Dialog-RSN-1 restituisce solo testo o chiamate di funzione, quindi ogni distribuzione deve aggiungere il proprio livello di sintesi vocale.
- La fatturazione inizia quando l'endpoint entra in servizio e continua fino alla cancellazione anche quando nessun client è connesso.
AWS ha annunciato il 19 novembre 2026 che Dialog-RSN-1 di PolyAI è entrato a far parte del catalogo SageMaker JumpStart di Amazon, che aggiunge la distribuzione con un clic, strumenti di valutazione e quattro profili di ottimizzazione per il modello audio nativo per il servizio clienti. L’endpoint viene eseguito all’interno dell’account AWS del cliente.
La novità è il flusso di lavoro del catalogo, che segue due precedenti annunci di PolyAI. PolyAI ha presentato Dialog-RSN-1 il 30 luglio 2026 e ha annunciato la distribuzione degli endpoint SageMaker tramite AWS Marketplace il 6 ottobre 2026. JumpStart aggiunge funzionalità di individuazione, valutazione e distribuzione preconfigurata, mentre i clienti continuano a sottoscrivere l’abbonamento tramite AWS Marketplace.
Valutazione e distribuzione in un unico catalogo
Dalla sezione Model Hub della console SageMaker AI, il cliente seleziona Dialog-RSN-1 e sceglie Distribuisci. JumpStart crea un endpoint di inferenza in tempo reale su uno stack di distribuzione preconfigurato, eliminando la selezione manuale dei container e la necessità di confrontare manualmente decine di combinazioni di infrastruttura. I team possono invece usare poche righe di codice del SageMaker Python SDK e integrare la distribuzione nelle pipeline di integrazione continua e distribuzione continua.
Prima della distribuzione, la scheda del modello mostra la latenza P50, il tempo al primo token e la velocità di elaborazione. I profili privilegiano la latenza, la velocità di elaborazione, il costo oppure un uso generico bilanciato: quello per la latenza riduce al minimo il tempo al primo token, quello per la velocità di elaborazione massimizza i token al secondo e quello per il costo riduce al minimo il costo dell’infrastruttura per richiesta. Queste opzioni collegano la configurazione di distribuzione al volume delle chiamate, alla reattività e ai requisiti di spesa, invece di applicare un’unica impostazione predefinita a ogni carico di lavoro.
La valutazione è inclusa nella stessa voce del catalogo. Il notebook di esempio di PolyAI trasmette in streaming l’audio registrato dei chiamanti e mostra le decisioni del modello sui turni di conversazione, le risposte e le trascrizioni, consentendo al team di esaminarne il comportamento rispetto ai tipi di chiamate che prevede di gestire. I team possono consultare la panoramica e gli esempi prima della distribuzione; per trasmettere in streaming l’audio del cliente attraverso il modello è necessario un endpoint.
Ragionamento audio con un livello vocale separato
Dialog-RSN-1 elabora direttamente l’audio del chiamante e combina la gestione dei turni di conversazione, il riconoscimento vocale, la generazione delle risposte e le chiamate a funzioni in un unico modello. Secondo PolyAI, l’elaborazione diretta dell’audio preserva il tono, le esitazioni e la tempistica, che un sistema a cascata può perdere quando il riconoscimento vocale riduce una chiamata a una trascrizione. Un rilevatore di attività vocale attiva ogni richiesta, mentre il primo token di output del modello registra EMPTY, ONGOING o COMPLETE, lasciando al modello la decisione finale sulla gestione dei turni di conversazione.
Il percorso di output è separato. Dialog-RSN-1 restituisce in streaming il testo della risposta oppure una chiamata a funzione, mentre la trascrizione del chiamante arriva separatamente; il modello non sintetizza la voce. La distribuzione deve quindi fornire la sintesi vocale, preservando la possibilità per il cliente di scegliere la voce e aggiungendo al contempo un componente esterno all’endpoint del modello.
La scheda di PolyAI su Marketplace indica una risposta mediana al primo token inferiore a 300 millisecondi e circa 390 millisecondi per uno scambio completo tipico con un chiamante in produzione. La distinzione è importante perché la sola latenza del modello non descrive il ritardo di una distribuzione vocale completa, che include la sintesi vocale, la telefonia e gli strumenti esterni.
Limiti di integrazione e costi orari
L’endpoint si trova nel cloud privato virtuale del cliente, utilizza i relativi ruoli AWS Identity and Access Management ed è monitorato tramite Amazon CloudWatch. Poiché l’inferenza viene eseguita all’interno di quell’account, l’audio delle chiamate e le trascrizioni restano nell’infrastruttura controllata dal cliente: una configurazione rilevante per i requisiti di residenza dei dati e di audit.
L’endpoint implementa il protocollo OpenAI Realtime. Il bridge client di PolyAI mette a disposizione dei client Realtime un WebSocket locale e trasporta i relativi eventi tramite il flusso HTTP/2 bidirezionale firmato di SageMaker; le applicazioni possono anche richiamare direttamente quel flusso. I clienti restano responsabili della telefonia, dell’orchestrazione, della logica aziendale e dell’esecuzione degli strumenti, mentre le indicazioni di integrazione di PolyAI raccomandano di convalidare date, numeri di riferimento e importi prima di eseguire le chiamate agli strumenti.
L’audio in ingresso è limitato a PCM16 mono con codifica base64 a 16 o 24 kHz; G.711, Opus e lo stereo non sono supportati. La finestra di contesto è di 32.000 token e il modello è disponibile solo in inglese. Le connessioni hanno un limite massimo tassativo di 30 minuti e scadono dopo cinque minuti di inattività. Lo stato non viene mantenuto quando ci si riconnette, quindi le applicazioni devono ripristinare il contesto pertinente quando avviano una nuova sessione.
L’inferenza in tempo reale costa 45 $ per ora di host su ml.p4d.24xlarge e 110 $ per ora di host su ml.p5.48xlarge. Un’ora di host corrisponde a un’ora di esecuzione dell’istanza di calcolo; potrebbero essere applicati costi aggiuntivi per l’infrastruttura AWS. La fatturazione inizia quando l’endpoint entra in servizio e prosegue fino alla sua eliminazione, anche quando non è connesso alcun client. Gli esempi di distribuzione di AWS eliminano l’endpoint, la configurazione dell’endpoint e il modello durante la pulizia.
Il contributo principale di JumpStart consiste nel rendere più breve il percorso operativo che porta dalla valutazione del modello a un endpoint AWS soggetto a governance. Il lavoro ancora necessario per la messa in produzione riguarda ciò che ruota attorno al modello: telefonia, sintesi vocale, convalida degli strumenti, ripristino delle sessioni e gestione di un endpoint che genera costi anche quando è inattivo. La sostenibilità economica dipende quindi dai risultati ottenuti nella gestione delle chiamate con i file audio del cliente, messi a confronto con i costi continuativi di ingegneria e hosting.












