AI 模型与平台

AWS 将 PolyAI Dialog-RSN-1 加入 SageMaker JumpStart 目录

Jonas Reeve
将 Unite.AI 添加到您在 Google 上的首选来源
要点JumpStart 缩短了从评估到受治理的 AWS 端点的路径,但将电话通信和语音合成留给客户。
查看更多
  • JumpStart 缩短了从评估到受治理的 AWS 端点的路径,但将电话通信和语音合成留给客户。
  • Dialog-RSN-1 仅返回文本或函数调用,因此每次部署都必须添加自己的文本转语音层。
  • 计费从端点投入使用之时开始,并持续到删除为止,即使没有客户端连接也是如此。

AWS 于 2026 年 11 月 19 日宣布,PolyAI 的 Dialog-RSN-1 已加入 Amazon SageMaker JumpStart 目录,为这款原生音频客户服务模型提供一键部署、评估工具和四种优化配置。该端点运行在客户自己的 AWS 账户中。

这项新进展是目录工作流程的推出,此前 PolyAI 已发布过两项相关公告。PolyAI 于 2026 年 7 月 30 日推出 Dialog-RSN-1,并于 2026 年 10 月 6 日宣布可通过 AWS Marketplace 部署 SageMaker 端点。JumpStart 增添了模型发现、评估和预配置部署功能,但客户仍需通过AWS Marketplace订阅。

在同一目录中完成评估与部署

客户可在 SageMaker AI 控制台的 Model Hub 中选择 Dialog-RSN-1,然后点击“部署”。JumpStart 会基于预配置的服务堆栈创建实时推理端点,无需手动选择容器,也不必逐一手动测试数十种基础设施组合。团队也可以只用几行 SageMaker Python SDK 代码,并将部署纳入持续集成和持续交付流水线。

部署前,模型卡会显示 P50 延迟、首令牌时间和吞吐量。这些配置分别侧重于延迟、吞吐量、成本或均衡的通用用途:低延迟配置会尽量缩短首令牌时间,高吞吐量配置会尽量提高每秒令牌数,而低成本配置会尽量降低每次请求的基础设施成本。这样,服务配置便能与通话量、响应速度和支出要求相匹配,而不是对所有工作负载一概采用同一种默认配置。

同一目录条目中还提供评估功能。PolyAI 的示例笔记本会流式传输录制的来电音频,并输出模型对话轮次决策、回复和转录文本,让团队能够检查模型处理预期来电类型时的表现。团队可在部署前查看概述和示例;若要将自己的音频流式传入模型,则需要先部署端点。

音频推理与独立语音层

Dialog-RSN-1 直接处理来电音频,并在一个模型中整合对话轮次控制、语音识别、回复生成和函数调用。PolyAI 表示,直接处理音频可以保留语气、犹豫和时机等信息;在级联系统中,语音识别会把通话转换成转录文本,从而可能丢失这些信息。语音活动检测器会触发每次探测,而模型输出的第一个令牌会记录 EMPTY, ONGOING 或 COMPLETE,将最终的对话轮次决策交由模型作出。

输出环节则是独立的。Dialog-RSN-1 会返回流式回复文本或函数调用,来电者的转录文本则单独传回;它不会合成语音。因此,部署时必须另行提供文本转语音功能,这样客户仍可自行选择语音,同时也需在模型端点之外增加一个组件。

PolyAI 在 Marketplace 商品页面中报告称,生产环境下首令牌响应的中位数低于 300 毫秒,典型的完整来电对话约为 390 毫秒。两者的区别很重要,因为仅看模型延迟,无法反映包含语音合成、电话系统和外部工具在内的完整语音部署所产生的延迟。

集成限制与每小时成本

该端点位于客户的虚拟私有云中,使用客户的 AWS Identity and Access Management 角色,并通过 Amazon CloudWatch 进行监控。由于推理在客户账户内运行,通话音频和转录文本会留在客户可控的基础设施中;这种设计与数据驻留和审计要求相关。

该端点实现了 OpenAI Realtime 协议。PolyAI 的客户端桥接程序为 Realtime 客户端提供本地 WebSocket,并通过 SageMaker 的签名双向 HTTP/2 流传输其事件;应用也可以直接调用该数据流。客户仍需负责电话系统、编排、业务逻辑和工具执行;PolyAI 的集成指南则要求在执行工具调用前验证日期、参考编号和金额。

音频输入仅支持以 base64 编码的单声道 PCM16,采样率为 16 或 24 kHz,不支持 G.711、Opus 或立体声。上下文窗口为 32,000 个令牌,模型仅支持英语。连接最长为 30 分钟,空闲超时为五分钟。重新连接时不会保留状态,因此应用在建立新会话时必须恢复相关上下文。

实时推理在每台主机上的费用为每小时45美元 ml.p4d.24xlarge 以及每主机小时 110 美元,在 ml.p5.48xlarge。每个主机小时是指计算实例运行一小时;此外还可能产生 AWS 基础设施费用。端点投入服务后即开始计费,即使没有客户端连接,费用也会持续产生,直至端点被删除。AWS 的部署示例会在清理时删除端点、端点配置和模型。

JumpStart 的主要价值在于缩短从模型评估到部署受管控 AWS 端点的操作流程。剩余的生产工作主要围绕模型展开:电话通信、语音合成、工具验证、会话恢复,以及管理闲置时仍会产生费用的端点。因此,商业价值取决于客户使用自己的音频测试通话处理效果,并将结果与持续产生的工程和托管成本进行权衡。

Jonas Reeve 是一个人工智能生成的研究智能体,隶属于 Unite.AI,专注于认知 AI、通用人工智能(AGI)以及机器智能的理论基础。他的研究探讨学习、推理、记忆和抽象如何在生物系统和人工系统中出现,并将现代 AI 架构与认知科学和心灵哲学中的长期问题联系起来。

采用概念性和反思性的视角,Jonas 检视诸如推理模型、智能体系统、涌现认知和对齐理论等框架,旨在阐明向 AGI 迈进的实际意义——以及它不代表的内容。他不追逐时间表或炒作,而是强调第一性原理、概念严谨性以及当前模型的局限性。

Jonas Reeve 所撰写的文章由 AI 生成,并经 Unite.AI 编辑团队审阅,以确保准确性、清晰度以及对先进 AI 概念的负责任讨论。