AI 模型与平台
AWS 将 PolyAI Dialog-RSN-1 加入 SageMaker JumpStart 目录

要点JumpStart 缩短了从评估到受治理的 AWS 端点的路径,但将电话通信和语音合成留给客户。
查看更多
- JumpStart 缩短了从评估到受治理的 AWS 端点的路径,但将电话通信和语音合成留给客户。
- Dialog-RSN-1 仅返回文本或函数调用,因此每次部署都必须添加自己的文本转语音层。
- 计费从端点投入使用之时开始,并持续到删除为止,即使没有客户端连接也是如此。
AWS 于 2026 年 11 月 19 日宣布,PolyAI 的 Dialog-RSN-1 已加入 Amazon SageMaker JumpStart 目录,为这款原生音频客户服务模型提供一键部署、评估工具和四种优化配置。该端点运行在客户自己的 AWS 账户中。
这项新进展是目录工作流程的推出,此前 PolyAI 已发布过两项相关公告。PolyAI 于 2026 年 7 月 30 日推出 Dialog-RSN-1,并于 2026 年 10 月 6 日宣布可通过 AWS Marketplace 部署 SageMaker 端点。JumpStart 增添了模型发现、评估和预配置部署功能,但客户仍需通过AWS Marketplace订阅。
在同一目录中完成评估与部署
客户可在 SageMaker AI 控制台的 Model Hub 中选择 Dialog-RSN-1,然后点击“部署”。JumpStart 会基于预配置的服务堆栈创建实时推理端点,无需手动选择容器,也不必逐一手动测试数十种基础设施组合。团队也可以只用几行 SageMaker Python SDK 代码,并将部署纳入持续集成和持续交付流水线。
部署前,模型卡会显示 P50 延迟、首令牌时间和吞吐量。这些配置分别侧重于延迟、吞吐量、成本或均衡的通用用途:低延迟配置会尽量缩短首令牌时间,高吞吐量配置会尽量提高每秒令牌数,而低成本配置会尽量降低每次请求的基础设施成本。这样,服务配置便能与通话量、响应速度和支出要求相匹配,而不是对所有工作负载一概采用同一种默认配置。
同一目录条目中还提供评估功能。PolyAI 的示例笔记本会流式传输录制的来电音频,并输出模型对话轮次决策、回复和转录文本,让团队能够检查模型处理预期来电类型时的表现。团队可在部署前查看概述和示例;若要将自己的音频流式传入模型,则需要先部署端点。
音频推理与独立语音层
Dialog-RSN-1 直接处理来电音频,并在一个模型中整合对话轮次控制、语音识别、回复生成和函数调用。PolyAI 表示,直接处理音频可以保留语气、犹豫和时机等信息;在级联系统中,语音识别会把通话转换成转录文本,从而可能丢失这些信息。语音活动检测器会触发每次探测,而模型输出的第一个令牌会记录 EMPTY, ONGOING 或 COMPLETE,将最终的对话轮次决策交由模型作出。
输出环节则是独立的。Dialog-RSN-1 会返回流式回复文本或函数调用,来电者的转录文本则单独传回;它不会合成语音。因此,部署时必须另行提供文本转语音功能,这样客户仍可自行选择语音,同时也需在模型端点之外增加一个组件。
PolyAI 在 Marketplace 商品页面中报告称,生产环境下首令牌响应的中位数低于 300 毫秒,典型的完整来电对话约为 390 毫秒。两者的区别很重要,因为仅看模型延迟,无法反映包含语音合成、电话系统和外部工具在内的完整语音部署所产生的延迟。
集成限制与每小时成本
该端点位于客户的虚拟私有云中,使用客户的 AWS Identity and Access Management 角色,并通过 Amazon CloudWatch 进行监控。由于推理在客户账户内运行,通话音频和转录文本会留在客户可控的基础设施中;这种设计与数据驻留和审计要求相关。
该端点实现了 OpenAI Realtime 协议。PolyAI 的客户端桥接程序为 Realtime 客户端提供本地 WebSocket,并通过 SageMaker 的签名双向 HTTP/2 流传输其事件;应用也可以直接调用该数据流。客户仍需负责电话系统、编排、业务逻辑和工具执行;PolyAI 的集成指南则要求在执行工具调用前验证日期、参考编号和金额。
音频输入仅支持以 base64 编码的单声道 PCM16,采样率为 16 或 24 kHz,不支持 G.711、Opus 或立体声。上下文窗口为 32,000 个令牌,模型仅支持英语。连接最长为 30 分钟,空闲超时为五分钟。重新连接时不会保留状态,因此应用在建立新会话时必须恢复相关上下文。
实时推理在每台主机上的费用为每小时45美元 ml.p4d.24xlarge 以及每主机小时 110 美元,在 ml.p5.48xlarge。每个主机小时是指计算实例运行一小时;此外还可能产生 AWS 基础设施费用。端点投入服务后即开始计费,即使没有客户端连接,费用也会持续产生,直至端点被删除。AWS 的部署示例会在清理时删除端点、端点配置和模型。
JumpStart 的主要价值在于缩短从模型评估到部署受管控 AWS 端点的操作流程。剩余的生产工作主要围绕模型展开:电话通信、语音合成、工具验证、会话恢复,以及管理闲置时仍会产生费用的端点。因此,商业价值取决于客户使用自己的音频测试通话处理效果,并将结果与持续产生的工程和托管成本进行权衡。












