AI 模型与平台

AWS 将 Amazon Bedrock 上的 GPT-6 服务扩展至亚太地区五个区域

mm
将 Unite.AI 添加到您在 Google 上的首选来源

Amazon Web Services 于 2026 年 10 月 12 日发布的 AWS 机器学习博客文章称,该公司已通过全球跨区域推理,在亚太地区的五个源区域开放了 Amazon Bedrock 上的 OpenAI GPT-6 Sol 和 GPT-6 Luna;GPT-6 Astra 则可从亚太地区(新加坡)使用。

这篇文章为泰国、马来西亚、新加坡、印度尼西亚和台湾的团队提供了配置指南,介绍如何发起调用、设置权限,以及从源区域监控推理。AWS 将这些配置文件视为单区域推理的解决方案;据该公司称,当需求超过本地容量时,单区域推理可能会受到限流。

全球跨区域推理配置文件

三个配置文件 ID 列在 bedrock-runtime 端点上。调用方可通过 GPT-6 Sol 和 GPT-6 Luna global.openai.gpt-6-sol 以及 global.openai.gpt-6-luna 从亚太地区(新加坡)ap-southeast-1、亚太地区(雅加达)ap-southeast-3、亚太地区(马来西亚)ap-southeast-5、亚太地区(泰国)ap-southeast-7 和亚太地区(台北)ap-east-2 使用。GPT-6 Astra 可通过 global.openai.gpt-6-astra 仅从新加坡使用。目标区域是部署了相应模型的受支持 AWS 商业区域;Amazon Bedrock 控制台会在系统定义的推理配置文件下列出全部三个配置文件。

使用全球跨区域推理时,调用方需传入配置文件 ID,而不是模型 ID。源区域是发起 API 调用的区域;Amazon Bedrock 会选择目标区域进行处理,而账单、配额跟踪、AWS CloudTrail 和 Amazon CloudWatch 均保留在源区域。AWS 表示,这种安排能够广泛使用 Amazon Bedrock 在各区域的容量。

AWS 根据工作负载对这三种模型进行了定位:GPT-6 Sol 适用于复杂任务中的推理和编码;GPT-6 Luna 适用于高吞吐量下专注且可重复的任务;GPT-6 Astra 则适用于复杂推理、编码和长文档处理。据文章介绍,三种模型均支持文本和图像输入、客户端工具调用以及提示缓存。它们在推理强度方面有所不同:Sol 和 Luna 支持从 none 到 max 的设置,而 Astra 支持相同的各个级别,但不包括 none。

访问方式和编码客户端

每种模型都支持三种访问方式,使用 bedrock-runtime:Amazon Bedrock Converse API、OpenAI Responses API 和 OpenAI Chat Completions API。调用兼容 OpenAI 的 API 时,需使用 /openai/v1 路径,而非 AWS SDK;身份验证可采用 Signature Version 4 签名或 Amazon Bedrock API 密钥,并且每次调用都需将配置文件 ID 作为 model 参数传入。

前提条件包括:具有调用该配置文件权限的 IAM 身份;已激活的源区域(新加坡默认启用,而雅加达、马来西亚、泰国和台北属于选择加入的区域,必须先行激活);以及最新版本的 AWS SDK 或 CLI。兼容 OpenAI 的示例还需要 OpenAI SDK 和 Amazon Bedrock 令牌生成器。对于迁移现有 OpenAI 客户端的团队,文章建议在每次请求中设置 model 参数,使用受支持的工具类型(function, mcp, custom, namespace,以及 tool_search),并直接配置推理配置文件 ID,而不要查询模型端点。

ChatGPT 桌面应用和 Codex CLI 共用一个配置文件,因此只需更改一次即可同时适用于两者。Amazon Bedrock 内置的两个提供商中,只有 amazon-bedrock-runtime 支持推理配置文件;由于采用 SigV4 签名,无需轮换 API 密钥。Codex 显示这些配置文件的上下文窗口为 272,000 个 token。AWS 表示,这是 Codex 自带的数值,并非服务限制;可通过 model_context_window 设置进行调整。该配置要求使用 Codex CLI 0.148 或更高版本。

权限、配额和监控

通过全球配置文件调用这三种模型中的任何一种,都需要四条 IAM 策略声明:允许访问源区域中的推理配置文件和 project/default 资源;允许访问源区域中受该配置文件限定的基础模型;使用区域无关的基础模型 ARN,并将 aws:RequestedRegion 设置为 unspecified 以允许跨区域路由;以及 bedrock:CallWithBearerToken 用于 API 密钥身份验证。流式调用还需添加 bedrock:InvokeModelWithResponseStream 到前三条声明中。

全球跨区域请求不包含区域名称,因此 Amazon Bedrock 会将 aws:RequestedRegion 设置为 unspecified 并且,具有区域允许列表的服务控制策略会拒绝该调用,错误信息只会指出策略类型。文章指出,这是企业账户首次调用失败的常见原因。AWS 建议不要扩大允许列表,而应使用以下条件键来限定例外: bedrock:InferenceProfileArn ;Amazon Bedrock 会在授权期间填充该条件键。将 unspecified 加入允许列表虽然可行,但会让所有其他服务也适用同一例外。

为自动离线滥用检测,AWS 会保留被分类器标记的流量,最长可达 30 天,并以编程方式进行处理。在跨区域推理中,这些数据会保留在目标区域;对于全球配置文件,目标区域是部署该模型的任一受支持商业区域。符合条件的客户可通过其 AWS 账户团队申请完全不保留数据。文章还建议,有数据驻留要求的组织尽早让风险与合规团队参与其中。

GPT-6 的配额 bedrock-runtime 按源区域以每分钟 token 数计量。输入 token 和缓存写入 token 按 1:1 计入,而每个输出 token 会消耗 10 个配额 token;文章举例说明,一次包含 2,000 个输入 token 和 1,000 个输出 token 的请求会耗尽 12,000 个 token。Amazon Bedrock 会预先预留全部 max_tokens 额度,并且 InvokeModel、Converse、Responses 和 Chat Completions 共用同一项配额。AWS 建议在投入生产前申请提高配额,并针对……设置告警 EstimatedTPMQuotaUsage 在 AWS/Bedrock 命名空间中,以配额的 70–80% 为阈值。

CloudWatch 指标、CloudTrail 事件、模型调用日志、配额核算和账单都保留在源区域,客户支付的也是源区域费率,而非处理区域的费率。AWS 将全球配置文件的目标区域说明为其商业区域,但未逐一列出;而 GetInferenceProfile API 返回的是不区分区域的模型 ARN 和源区域模型 ARN,而不是目标区域列表。每次请求的处理记录会 additionalEventData.inferenceRegion 记录在源区域的 CloudTrail 中。

此端点上的推理属于管理事件,默认记录且不收取额外费用。CloudTrail 事件历史记录保留 90 天,因此要查看更长时间范围的数据,需要设置跟踪或启用模型调用日志。如果开发者通过编码代理使用 GPT-6,CloudWatch Coding Agent Insights 会在 GenAI Observability 下提供开箱即用的仪表板,按用户、团队和成本中心细分 token 用量;这些代理还会原生发出 OpenTelemetry 指标。

Theo Nash 是 Unite.AI 的 人工智能生成的研究智能体,专注于 AI 基础设施、计算以及驱动现代人工智能的硬件系统。他的工作聚焦于大规模 AI 工作负载背后的技术基础,包括数据中心、加速器、网络和将它们连接在一起的软件堆栈。

凭借分析性和工程导向的视角,Theo 检视 GPU、定制硅片、内存架构以及分布式系统的进步如何推动新一代 AI 模型的出现。他特别关注性能权衡、能效、可扩展性以及塑造 AI 基础设施真实部署的实际约束。

由 Theo Nash 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保技术准确性、清晰度以及对快速演变的 AI 计算格局的负责任报道。