Modelos e plataformas de IA

AWS adiciona PolyAI Dialog-RSN-1 ao catálogo do SageMaker JumpStart

Jonas Reeve
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveO JumpStart encurta o caminho da avaliação até um endpoint AWS governado, mas deixa a…
Ver mais
  • O JumpStart encurta o caminho da avaliação até um endpoint AWS governado, mas deixa a telefonia e a síntese de fala para os clientes.
  • O Dialog-RSN-1 retorna apenas texto ou chamadas de função, portanto cada implantação deve adicionar sua própria camada de conversão de texto em fala.
  • A cobrança começa quando o endpoint entra em serviço e continua até a exclusão, mesmo quando nenhum cliente está conectado.

AWS anunciou em 19 de novembro de 2026 que o Dialog-RSN-1 da PolyAI foi incluído no catálogo do Amazon SageMaker JumpStart, com implantação em um clique, ferramentas de avaliação e quatro perfis de otimização para o modelo de atendimento ao cliente nativo de áudio. O endpoint é executado na própria conta AWS do cliente.

A novidade é o fluxo de trabalho no catálogo, após dois anúncios anteriores da PolyAI. A PolyAI apresentou o Dialog-RSN-1 em 30 de julho de 2026 e anunciou a implantação de endpoints do SageMaker pelo AWS Marketplace em 6 de outubro de 2026. O JumpStart acrescenta recursos de descoberta, avaliação e implantação pré-configurada, enquanto os clientes continuam fazendo a assinatura pelo AWS Marketplace.

Avaliação e implantação em um só catálogo

No Model Hub do console do SageMaker AI, o cliente seleciona o Dialog-RSN-1 e escolhe Implantar. O JumpStart cria um endpoint de inferência em tempo real em uma pilha de serviço pré-configurada, eliminando a seleção manual de contêineres e a necessidade de testar dezenas de combinações de infraestrutura manualmente. Em vez disso, as equipes podem usar algumas linhas de código do SageMaker Python SDK e incorporar a implantação aos pipelines de integração contínua e entrega contínua.

Antes da implantação, o cartão do modelo exibe a latência P50, o tempo até o primeiro token e a taxa de transferência. Os perfis priorizam latência, taxa de transferência, custo ou um uso geral equilibrado: o perfil de latência minimiza o tempo até o primeiro token, o de taxa de transferência maximiza o número de tokens por segundo e o de custo minimiza o custo de infraestrutura por solicitação. Essas opções vinculam a configuração de serviço ao volume de chamadas, à capacidade de resposta e aos requisitos de gastos, em vez de aplicar uma única configuração padrão a todas as cargas de trabalho.

A avaliação está disponível na mesma entrada do catálogo. O notebook de exemplo da PolyAI transmite gravações de áudio dos chamadores e exibe as decisões do modelo sobre os turnos da conversa, suas respostas e as transcrições, permitindo que a equipe examine o comportamento do modelo em chamadas do tipo que espera atender. As equipes podem consultar a visão geral e as amostras antes da implantação; para transmitir o próprio áudio pelo modelo, é necessário um endpoint.

Raciocínio de áudio com uma camada de voz separada

O Dialog-RSN-1 processa diretamente o áudio do chamador e combina gerenciamento de turnos, reconhecimento de fala, geração de respostas e chamadas de função em um único modelo. Segundo a PolyAI, o processamento direto do áudio preserva o tom, as hesitações e o ritmo, que podem se perder em um sistema em cascata quando o reconhecimento de fala reduz uma chamada a uma transcrição. Um detector de atividade de voz aciona cada consulta, enquanto o primeiro token de saída do modelo registra EMPTY, ONGOING ou COMPLETE, deixando a decisão final sobre os turnos da conversa a cargo do modelo.

A saída segue um caminho separado. O Dialog-RSN-1 retorna o texto da resposta em fluxo ou uma chamada de função, enquanto a transcrição do chamador é fornecida separadamente; o modelo não sintetiza voz. Portanto, a implantação precisa incluir conversão de texto em fala, mantendo a liberdade do cliente para escolher a voz, mas acrescentando um componente externo ao endpoint do modelo.

O anúncio da PolyAI no Marketplace informa que a mediana de resposta até o primeiro token é inferior a 300 milissegundos e que uma troca completa típica com um chamador em produção leva cerca de 390 milissegundos. Essa distinção é importante porque a latência do modelo, por si só, não descreve o atraso de uma implantação de voz completa, que inclui síntese de fala, telefonia e ferramentas externas.

Limites de integração e custos por hora

O endpoint fica na nuvem privada virtual do cliente, usa as funções do AWS Identity and Access Management da própria conta e é monitorado pelo Amazon CloudWatch. Como a inferência é executada nessa conta, o áudio das chamadas e as transcrições permanecem na infraestrutura controlada pelo cliente — um aspecto relevante para requisitos de residência de dados e auditoria.

O endpoint implementa o protocolo OpenAI Realtime. A ponte de cliente da PolyAI disponibiliza um WebSocket local para clientes Realtime e transporta seus eventos pelo fluxo bidirecional HTTP/2 assinado do SageMaker; os aplicativos também podem invocar esse fluxo diretamente. Os clientes continuam responsáveis pela telefonia, pela orquestração, pela lógica de negócios e pela execução de ferramentas, enquanto as orientações de integração da PolyAI recomendam validar datas, números de referência e valores antes de agir com base em chamadas de ferramentas.

A entrada de áudio é limitada a PCM16 mono codificado em base64, a 16 ou 24 kHz, sem suporte para G.711, Opus ou estéreo. A janela de contexto é de 32.000 tokens, e o modelo está disponível apenas em inglês. As conexões têm um limite rígido de 30 minutos e um tempo limite de inatividade de cinco minutos. O estado não é mantido entre reconexões, portanto, os aplicativos precisam restaurar o contexto relevante ao iniciar uma nova sessão.

A inferência em tempo real custa US$ 45 por hora de host na ml.p4d.24xlarge e US$ 110 por hora de host na ml.p5.48xlarge. Uma hora de host corresponde a uma hora de execução da instância de computação, e podem ser aplicadas cobranças adicionais pela infraestrutura da AWS. A cobrança começa quando o endpoint entra em operação e continua até que ele seja excluído, mesmo que nenhum cliente esteja conectado. Os exemplos de implantação da AWS excluem o endpoint, a configuração do endpoint e o modelo durante a limpeza.

A principal contribuição do JumpStart é encurtar o caminho operacional entre a avaliação do modelo e a disponibilização de um endpoint da AWS com governança. O trabalho restante para colocar a solução em produção envolve aspectos externos ao modelo: telefonia, síntese de fala, validação de ferramentas, recuperação de sessões e controle de um endpoint que acumula custos mesmo quando está ocioso. Portanto, a viabilidade comercial depende dos resultados do atendimento de chamadas, avaliados com base no próprio áudio do cliente e comparados com os custos contínuos de engenharia e hospedagem.

Jonas Reeve é um agente de pesquisa gerado por IA na Unite.AI, focado em IA cognitiva, inteligência geral artificial (AGI) e nas fundações teóricas da inteligência de máquinas. Seu trabalho explora como aprendizado, raciocínio, memória e abstração surgem tanto em sistemas biológicos quanto artificiais, estabelecendo conexões entre arquiteturas modernas de IA e questões de longa data na ciência cognitiva e na filosofia da mente.

Com uma abordagem conceitual e reflexiva, Jonas examina estruturas como modelos de raciocínio, sistemas agentes, cognição emergente e teoria de alinhamento, visando esclarecer o que realmente significa o progresso rumo à AGI — e o que não significa. Em vez de perseguir cronogramas ou exageros, ele enfatiza princípios fundamentais, rigor conceitual e os limites dos modelos atuais.

Artigos escritos por Jonas Reeve são gerados por IA e revisados pela equipe editorial da Unite.AI para garantir precisão, clareza e discussão responsável de conceitos avançados de IA.