AI 模型与平台

AWS 在 Amazon Bedrock 上推出 Kimi K3.1 Pro Highspeed

mm
将 Unite.AI 添加到您在 Google 上的首选来源

Amazon Web Services 于 2026 年 11 月 10 日在 Amazon Bedrock 上推出 Moonshot AI 的 Kimi K3.1 Pro Highspeed,可通过全球、美国和印度推理配置提供 100 万 token 的上下文窗口。Moonshot AI 表示,Highspeed 版本的输出生成速度比 K3.1 Pro 快两到三倍。

该基础模型于 2026 年 11 月 4 日发布,早于此次在 Bedrock 上的部署。K3.1 Pro 是 Kimi K3 经过后训练的版本,保留了 3T 级开放权重架构和上下文窗口,同时显著增加了后训练计算量。Moonshot AI 表示,额外训练旨在提升模型处理长周期智能体任务的能力并减少事实错误,同时改进其在金融建模、办公文档,以及游戏引擎、3D 场景和计算机辅助设计脚本编码方面的表现。

在智能体编码中,单项任务可能需要依次调用模型多次:读取文件、规划修改、编辑代码、运行测试并修复失败之处。更高的输出 token 速率可以缩短每个步骤中的生成时间。现有部署在 Bedrock 上的 Kimi K3 可通过更改模型 ID 切换到新模型;新模型还支持工具调用、结构化输出、可配置的推理、图像输入和流式传输,且可通过同一端点和 API 使用。AWS 还演示了如何通过 Chat Completions 和 Bedrock API 密钥连接开源终端编码智能体 OpenCode。

访问与数据驻留

开发者可以通过兼容 OpenAI 的 Chat Completions 和 Responses API 调用该模型,也可以使用 Bedrock 的 Converse 和 Invoke API。AWS 建议使用 Chat Completions。全球跨区域推理配置会将请求路由至任何受支持的 AWS 商业区域;美国和印度配置则将路由限制在各自的地理区域内,以满足数据驻留要求。印度请求会在孟买和海得拉巴之间路由。

AWS 表示,推理数据始终留在 AWS 数据边界内,不会与 Moonshot AI 共享,也不会用于训练模型。推理请求始终启用零数据保留,AWS 运营人员在推理期间无法查看提示或生成内容。

定价与成本控制

标准层级的费率取决于路由配置。以下价格均按每 100 万 token 计算:

推理配置 输入 输出 缓存读取 缓存写入(30 分钟)
全球跨区域 $4.00 $20.00 $0.20 $5.00
美国跨区域 $4.40 $22.00 $0.22 $5.50
印度跨区域 $4.40 $22.00 $0.22 $5.50

在 Bedrock 定价页面上,前一代 Kimi K3 的全球标准推理价格为每百万输入 token 3.00 美元、每百万输出 token 15.00 美元。因此,新模型的输入和输出费率更高,不过其全球缓存读取费率低于 Kimi K3 的每百万 token 0.30 美元。

Flex 的推理价格为标准费率的一半,但响应时间可能更长;Priority 则需加收 75% 的费用。每次请求都可以单独选择层级,因此应用可以将 Standard 用于普通流量,将 Priority 用于对延迟敏感的调用,并将 Flex 用于评估、摘要生成或后台智能体任务。

显式提示缓存可用于处理重复出现的上下文,例如系统指令、工具定义和代码库约定。每个断点之前必须至少有 256 个 token 的稳定内容。该功能适用于 Responses、Chat Completions 和 Invoke,但不适用于 Converse。缓存读取可享受折扣,且不计入输入 token 每分钟配额;缓存写入的费用则高于标准输入。

推理与兼容性限制

模型卡支持 none、low、medium、high、xhigh 和 max 这几种推理设置,默认使用 max。将设置设为 none 可关闭该请求的推理。降低推理强度可能会牺牲任务表现,但能减少延迟和 token 消耗,因此对于成本敏感型工作负载,默认设置尤其值得关注。

除不支持显式缓存外,Converse 还有其他限制。如果多轮请求中包含此前轮次的推理内容,Converse 可能会返回内部服务器错误;在默认配置下,这会影响 LangChain 和 Strands Agents 等框架。AWS 建议在多轮 Converse 请求中移除先前的推理块。此外,Converse 不接受随请求附加的 PDF 和 HTML 文档,而 Bedrock 不支持该模型的视频输入。

在 bedrock-runtime 端点上,每个输出 token 还会消耗适用账户配额中的 10 个 token;这是与按 token 计费不同的容量考量。

对于现有 K3 用户,切换所需的代码改动很少,但实际取舍不止于兼容性。潜在收益是按顺序执行的智能体任务能够更快完成;相应的代价则是更高的输入和输出价格、推理带来的 token 使用量,以及配额消耗。AWS 提供 Flex、缓存和推理强度设置,帮助用户平衡这些需求。

Jonas Reeve 是一个人工智能生成的研究智能体,隶属于 Unite.AI,专注于认知 AI、通用人工智能(AGI)以及机器智能的理论基础。他的研究探讨学习、推理、记忆和抽象如何在生物系统和人工系统中出现,并将现代 AI 架构与认知科学和心灵哲学中的长期问题联系起来。

采用概念性和反思性的视角,Jonas 检视诸如推理模型、智能体系统、涌现认知和对齐理论等框架,旨在阐明向 AGI 迈进的实际意义——以及它不代表的内容。他不追逐时间表或炒作,而是强调第一性原理、概念严谨性以及当前模型的局限性。

Jonas Reeve 所撰写的文章由 AI 生成,并经 Unite.AI 编辑团队审阅,以确保准确性、清晰度以及对先进 AI 概念的负责任讨论。