AWS mở rộng quyền truy cập GPT-6 trên Amazon Bedrock đến năm khu vực châu Á – Thái Bình Dương

Amazon Web Services đã mở quyền truy cập GPT-6 Sol và GPT-6 Luna của OpenAI trên Amazon Bedrock thông qua tính năng suy luận liên vùng toàn cầu từ năm khu vực nguồn ở châu Á – Thái Bình Dương, đồng thời cho phép truy cập GPT-6 Astra từ khu vực châu Á – Thái Bình Dương (Singapore), công ty cho biết trong một bài đăng trên Blog Máy học AWS được đăng ngày 12 tháng 10 năm 2026.

Bài đăng hướng dẫn cấu hình dành cho các nhóm ở Thái Lan, Malaysia, Singapore, Indonesia và Đài Loan, trình bày cách thực hiện lệnh gọi, thiết lập quyền và giám sát hoạt động suy luận từ khu vực nguồn. AWS giới thiệu các hồ sơ này như một giải pháp thay thế cho suy luận trong một khu vực, vốn có thể bị giới hạn lưu lượng khi nhu cầu vượt quá năng lực tại chỗ.

Các hồ sơ suy luận liên vùng toàn cầu

Ba ID hồ sơ được liệt kê trên bedrock-runtime điểm cuối. Người gọi có thể truy cập GPT-6 Sol và GPT-6 Luna thông qua global.openai.gpt-6-sol và global.openai.gpt-6-luna từ khu vực châu Á – Thái Bình Dương (Singapore) ap-southeast-1, châu Á – Thái Bình Dương (Jakarta) ap-southeast-3, châu Á – Thái Bình Dương (Malaysia) ap-southeast-5, châu Á – Thái Bình Dương (Thái Lan) ap-southeast-7 và châu Á – Thái Bình Dương (Đài Bắc) ap-east-2. Có thể truy cập GPT-6 Astra thông qua global.openai.gpt-6-astra chỉ từ Singapore. Các khu vực đích là những khu vực AWS thương mại được hỗ trợ, nơi từng mô hình được triển khai; trong bảng điều khiển Amazon Bedrock, cả ba hồ sơ đều nằm trong mục hồ sơ suy luận do hệ thống xác định.

Với tính năng suy luận liên vùng toàn cầu, bên gọi truyền ID hồ sơ thay cho ID mô hình. Khu vực nguồn là nơi thực hiện lệnh gọi API; Amazon Bedrock chọn khu vực đích để xử lý; còn hoạt động thanh toán, theo dõi hạn mức, AWS CloudTrail và Amazon CloudWatch vẫn diễn ra tại khu vực nguồn. AWS cho biết cơ chế này giúp mở rộng khả năng tiếp cận năng lực của Amazon Bedrock trên nhiều khu vực.

AWS phân loại ba mô hình theo khối lượng công việc: GPT-6 Sol dành cho suy luận và lập trình trong các tác vụ phức tạp; GPT-6 Luna dành cho các tác vụ tập trung, có thể lặp lại với khối lượng lớn; còn GPT-6 Astra phục vụ suy luận phức tạp, lập trình và xử lý tài liệu dài. Theo bài đăng, cả ba đều nhận đầu vào dạng văn bản và hình ảnh, hỗ trợ sử dụng công cụ ở phía máy khách và lưu bộ nhớ đệm lời nhắc. Các mô hình khác nhau về mức độ suy luận: Sol và Luna hỗ trợ các mức từ none đến max, còn Astra hỗ trợ các mức tương tự nhưng không có none.

Các phương thức truy cập và ứng dụng khách lập trình

Mỗi mô hình hỗ trợ ba phương thức truy cập trên bedrock-runtime: API Converse của Amazon Bedrock, API Responses của OpenAI và API Chat Completions của OpenAI. Các API tương thích với OpenAI được gọi trên /openai/v1 các đường dẫn thay vì thông qua AWS SDK; chúng chấp nhận xác thực bằng chữ ký Signature Version 4 hoặc khóa API Amazon Bedrock, trong đó ID hồ sơ được truyền làm tham số mô hình trong mọi trường hợp.

Các điều kiện tiên quyết gồm có danh tính IAM được cấp quyền gọi hồ sơ; khu vực nguồn đã được kích hoạt (Singapore được bật theo mặc định, còn Jakarta, Malaysia, Thái Lan và Đài Bắc là các khu vực chọn tham gia và cần được kích hoạt trước); cùng AWS SDK hoặc CLI hiện hành. Các ví dụ tương thích với OpenAI cũng yêu cầu OpenAI SDK và trình tạo token Amazon Bedrock. Với các nhóm đang chuyển đổi ứng dụng khách OpenAI hiện có, bài đăng khuyến nghị đặt tham số mô hình trong mọi yêu cầu, sử dụng các loại công cụ được hỗ trợ (function, mcp, custom, namespace, và tool_search) đồng thời cấu hình trực tiếp ID hồ sơ suy luận thay vì truy vấn điểm cuối mô hình.

Ứng dụng ChatGPT trên máy tính và Codex CLI dùng chung một tệp cấu hình, vì vậy chỉ cần thay đổi một lần là áp dụng cho cả hai. Trong số hai nhà cung cấp Amazon Bedrock tích hợp sẵn, chỉ amazon-bedrock-runtime chấp nhận hồ sơ suy luận; việc ký bằng SigV4 đồng nghĩa không có khóa API nào cần luân chuyển. Codex báo cáo cửa sổ ngữ cảnh 272.000 token cho các hồ sơ này; theo AWS, đây là con số do Codex tích hợp sẵn chứ không phải giới hạn của dịch vụ. Có thể tăng giới hạn này bằng model_context_window thiết lập này. Cấu hình yêu cầu Codex CLI 0.148 trở lên.

Quyền, hạn mức và giám sát

Để gọi bất kỳ mô hình nào trong ba mô hình thông qua hồ sơ toàn cầu, cần có bốn câu lệnh trong chính sách IAM: quyền truy cập vào hồ sơ suy luận và tài nguyên dự án/mặc định tại khu vực nguồn; quyền truy cập vào mô hình nền tảng tại khu vực nguồn, giới hạn theo hồ sơ; ARN mô hình nền tảng không phụ thuộc khu vực, với aws:RequestedRegion được đặt thành unspecified để cho phép định tuyến liên vùng; và bedrock:CallWithBearerToken dành cho xác thực bằng khóa API. Các lệnh gọi truyền dữ liệu trực tuyến cần thêm bedrock:InvokeModelWithResponseStream vào ba câu lệnh đầu tiên.

Yêu cầu liên vùng toàn cầu không kèm tên khu vực, vì vậy Amazon Bedrock đặt aws:RequestedRegion thành unspecified và chính sách kiểm soát dịch vụ có danh sách cho phép khu vực sẽ từ chối lệnh gọi; thông báo lỗi chỉ nêu loại chính sách. Bài đăng xác định đây là lý do phổ biến khiến lệnh gọi đầu tiên thất bại trong tài khoản doanh nghiệp. Thay vì mở rộng danh sách cho phép, AWS khuyến nghị giới hạn phạm vi ngoại lệ bằng bedrock:InferenceProfileArn khóa điều kiện, được Amazon Bedrock điền trong quá trình cấp quyền; việc thêm unspecified vào danh sách cho phép có hiệu lực nhưng sẽ mở rộng cùng ngoại lệ đó cho mọi dịch vụ khác.

Để tự động phát hiện hành vi lạm dụng ngoại tuyến, AWS lưu giữ tối đa 30 ngày lưu lượng bị bộ phân loại gắn cờ và xử lý lưu lượng đó bằng phương thức tự động. Với suy luận xuyên khu vực, dữ liệu được lưu giữ tại khu vực đích; đối với hồ sơ toàn cầu, khu vực đích là bất kỳ khu vực thương mại nào được hỗ trợ, nơi mô hình được triển khai. Khách hàng đủ điều kiện có thể yêu cầu AWS không lưu giữ dữ liệu dưới bất kỳ hình thức nào thông qua nhóm phụ trách tài khoản AWS. Bài viết khuyến nghị các tổ chức có yêu cầu về nơi lưu trữ dữ liệu nên sớm phối hợp với các nhóm quản lý rủi ro và tuân thủ.

Hạn mức GPT-6 trên bedrock-runtime được tính bằng số token mỗi phút tại khu vực nguồn. Token đầu vào và token ghi vào bộ nhớ đệm được tính theo tỷ lệ một-một, trong khi mỗi token đầu ra tiêu tốn 10 token hạn mức; ví dụ trong bài viết cho thấy một yêu cầu gồm 2.000 token đầu vào và 1.000 token đầu ra sẽ tiêu tốn 12.000 token. Amazon Bedrock dành trước toàn bộ max_tokens giá trị này ngay từ đầu, và một hạn mức áp dụng cho InvokeModel, Converse, Responses và Chat Completions. AWS khuyến nghị yêu cầu tăng hạn mức trước khi đưa vào môi trường sản xuất và thiết lập cảnh báo khi EstimatedTPMQuotaUsage trong không gian tên AWS/Bedrock đạt 70–80 phần trăm hạn mức được cấp.

Các chỉ số CloudWatch, sự kiện CloudTrail, nhật ký gọi mô hình, việc tính hạn mức và thanh toán đều được giữ lại tại khu vực nguồn; khách hàng áp dụng mức giá của khu vực nguồn thay vì khu vực xử lý. AWS mô tả các khu vực đích của hồ sơ toàn cầu là các khu vực thương mại nhưng không liệt kê cụ thể, và GetInferenceProfile API trả về ARN mô hình không phụ thuộc khu vực và ARN mô hình của khu vực nguồn thay vì danh sách khu vực đích. Bản ghi xử lý cho từng yêu cầu được additionalEventData.inferenceRegion ghi trong CloudTrail tại khu vực nguồn.

Hoạt động suy luận trên điểm cuối này là một sự kiện quản lý, được ghi nhật ký theo mặc định mà không mất thêm phí. Lịch sử sự kiện CloudTrail được lưu giữ trong 90 ngày, vì vậy muốn theo dõi lâu hơn cần có trail hoặc bật tính năng ghi nhật ký gọi mô hình. Khi nhà phát triển truy cập GPT-6 thông qua tác tử lập trình, CloudWatch Coding Agent Insights cung cấp các bảng thông tin dựng sẵn trong GenAI Observability, phân tách mức sử dụng token theo người dùng, nhóm và trung tâm chi phí; các tác tử tự phát ra chỉ số OpenTelemetry.