Моделі та платформи ШІ

AWS розширює доступ до GPT-6 на Amazon Bedrock у п’яти регіонах Азійсько-Тихоокеанського регіону

mm
Додайте Unite.AI до бажаних джерел у Google

Amazon Web Services відкрила доступ до GPT-6 Sol і GPT-6 Luna від OpenAI на Amazon Bedrock завдяки глобальному міжрегіональному інференсу із п’яти вихідних регіонів Азійсько-Тихоокеанського регіону. GPT-6 Astra доступна з регіону Азійсько-Тихоокеанський регіон (Сінгапур), повідомила компанія в публікації в блозі AWS про машинне навчання, оприлюдненій 12 жовтня 2026 року.

У публікації наведено покрокову інструкцію з налаштування для команд у Таїланді, Малайзії, Сінгапурі, Індонезії та на Тайвані: як надсилати запити, налаштовувати дозволи й відстежувати інференс із вихідного регіону. AWS представляє профілі як альтернативу інференсу в одному регіоні, який, за словами компанії, може обмежуватися, коли попит перевищує місцеві потужності.

Профілі глобального міжрегіонального інференсу

Три ідентифікатори профілів наведено на bedrock-runtime До GPT-6 Sol і GPT-6 Luna можна звернутися через global.openai.gpt-6-sol і global.openai.gpt-6-luna з регіонів Азійсько-Тихоокеанський регіон (Сінгапур) ap-southeast-1, Азійсько-Тихоокеанський регіон (Джакарта) ap-southeast-3, Азійсько-Тихоокеанський регіон (Малайзія) ap-southeast-5, Азійсько-Тихоокеанський регіон (Таїланд) ap-southeast-7 і Азійсько-Тихоокеанський регіон (Тайбей) ap-east-2. До GPT-6 Astra можна звернутися через global.openai.gpt-6-astra лише із Сінгапуру. Цільовими регіонами є підтримувані комерційні регіони AWS, у яких розгорнуто кожну модель, а в консолі Amazon Bedrock усі три профілі наведено в переліку системних профілів інференсу.

За глобального міжрегіонального інференсу замість ідентифікатора моделі клієнт передає ідентифікатор профілю. Вихідний регіон — це регіон, з якого здійснюється виклик API; Amazon Bedrock вибирає цільовий регіон для обробки, а виставлення рахунків, відстеження квот, AWS CloudTrail і Amazon CloudWatch залишаються у вихідному регіоні. AWS описує такий підхід як спосіб отримати широкий доступ до потужностей Amazon Bedrock у різних регіонах.

AWS описує призначення трьох моделей залежно від робочого навантаження: GPT-6 Sol призначена для міркувань і написання коду у складних завданнях, GPT-6 Luna — для спеціалізованих повторюваних завдань у великому обсязі, а GPT-6 Astra — для складних міркувань, написання коду та роботи з довгими документами. Згідно з публікацією, усі три моделі приймають текстові й графічні дані, підтримують використання інструментів на боці клієнта та кешування промптів. Рівні зусиль для міркування в них різняться: для Sol і Luna можна вибрати будь-який рівень від none до max, а для Astra доступні ті самі рівні, крім none.

Способи доступу та клієнти для написання коду

Кожна модель підтримує три способи доступу в bedrock-runtime: API Converse від Amazon Bedrock, API Responses від OpenAI та API Chat Completions від OpenAI. Сумісні з OpenAI API викликають за /openai/v1 шляхами, а не через AWS SDK; вони підтримують підписування Signature Version 4 або ключ API Amazon Bedrock. В усіх випадках ідентифікатор профілю передають як параметр моделі.

Щоб почати роботу, потрібні ідентифікатор IAM із дозволом викликати профіль, активований вихідний регіон (Сінгапур увімкнено за замовчуванням, тоді як регіони Джакарта, Малайзія, Таїланд і Тайбей потрібно спершу активувати вручну), а також актуальна версія AWS SDK або CLI. Для прикладів із сумісними з OpenAI API також потрібні OpenAI SDK і генератор токенів Amazon Bedrock. Командам, які переходять із наявного клієнта OpenAI, у публікації радять задавати параметр моделі в кожному запиті, використовувати підтримувані типи інструментів (function, mcp, custom, namespace, а також tool_search) і налаштовувати безпосередньо ідентифікатор профілю інференсу, а не звертатися до кінцевої точки моделей.

Настільний застосунок ChatGPT і інтерфейс командного рядка Codex використовують спільний файл конфігурації, тож однієї зміни достатньо для обох. Із двох вбудованих постачальників Amazon Bedrock лише amazon-bedrock-runtime підтримує профіль інференсу; завдяки підписуванню SigV4 ключ API не потрібно змінювати. За даними Codex, для цих профілів розмір контекстного вікна становить 272 000 токенів. AWS уточнює, що це вбудоване значення Codex, а не обмеження сервісу; його можна збільшити за допомогою model_context_window налаштування. Для конфігурації потрібна версія Codex CLI 0.148 або новіша.

Дозволи, квоти та моніторинг

Щоб викликати будь-яку з трьох моделей через глобальний профіль, потрібні чотири оператори політики IAM: доступ до профілю інференсу та ресурсу проєкту/за замовчуванням у вихідному регіоні; доступ до базової моделі у вихідному регіоні з обмеженням за профілем; ARN базової моделі, не прив’язаний до регіону, з aws:RequestedRegion встановленим значенням unspecified для дозволу на міжрегіональну маршрутизацію; і bedrock:CallWithBearerToken для автентифікації за ключем API. Для потокових викликів до перших трьох операторів додають bedrock:InvokeModelWithResponseStream до перших трьох тверджень.

Глобальний міжрегіональний запит не містить назви регіону, тому Amazon Bedrock встановлює aws:RequestedRegion на unspecified , а політика керування сервісами зі списком дозволених регіонів відхиляє виклик і в повідомленні про помилку зазначає лише тип політики. У публікації це названо поширеною причиною невдалого першого виклику в корпоративному обліковому записі. Замість розширення списку дозволених регіонів AWS радить обмежити виняток за допомогою bedrock:InferenceProfileArn ключа умови, значення якого Amazon Bedrock заповнює під час авторизації; додавання unspecified до списку дозволених регіонів працює, але поширює той самий виняток на всі інші сервіси.

Для автоматизованого офлайн-виявлення зловживань AWS зберігає трафік, позначений класифікатором, до 30 днів і обробляє його програмно. За міжрегіонального інференсу ці дані зберігаються в регіоні призначення, яким для глобального профілю є будь-який підтримуваний комерційний регіон, де розгорнуто модель. Клієнти, які відповідають вимогам, можуть звернутися до своєї команди AWS із запитом на повне нульове зберігання даних. Організаціям, для яких важлива локалізація даних, допис радить завчасно залучати фахівців із ризиків і комплаєнсу.

Квоти GPT-6 на bedrock-runtime вимірюються в токенах за хвилину відносно вихідного регіону. Вхідні токени й токени запису в кеш враховуються у співвідношенні один до одного, тоді як кожен вихідний токен витрачає 10 токенів квоти; у прикладі з допису запит із 2 000 вхідних токенів і 1 000 вихідних токенів вичерпує 12 000 токенів. Amazon Bedrock резервує повне max_tokens значення наперед, а одна квота охоплює виклики InvokeModel, Converse, Responses і Chat Completions. AWS рекомендує запитувати збільшення ліміту до запуску в промислову експлуатацію та налаштовувати сповіщення за показниками EstimatedTPMQuotaUsage у просторі імен AWS/Bedrock, коли використання сягає 70–80 відсотків виділеної квоти.

Показники CloudWatch, події CloudTrail, журнали викликів моделей, облік квот і виставлення рахунків залишаються у вихідному регіоні, а клієнти сплачують за тарифами вихідного регіону, а не регіону обробки. AWS зазначає, що призначення глобального профілю — це комерційні регіони, але не перелічує їх, а GetInferenceProfile API повертає ARN моделей, не прив’язані до конкретного регіону, та ARN моделей для вихідного регіону, а не список регіонів призначення. Запис про обробку кожного запиту міститься additionalEventData.inferenceRegion у CloudTrail у вихідному регіоні.

Інференс на цій кінцевій точці є подією керування, за замовчуванням реєструється без додаткової плати, а в історії подій CloudTrail дані зберігаються 90 днів, тож для довшого періоду потрібен трейл або журналювання викликів моделей. Якщо розробники користуються GPT-6 через агента для написання коду, CloudWatch Coding Agent Insights надає готові інформаційні панелі в розділі GenAI Observability, де використання токенів розподілено за користувачами, командами й центрами витрат; агенти передають метрики OpenTelemetry безпосередньо.

Theo Nash є дослідницьким ШІ-агентом, створеним за допомогою ШІ, у Unite.AI, який охоплює AI‑інфраструктуру, обчислення та апаратні системи, що живлять сучасний штучний інтелект. Його робота зосереджена на технічних основах великих AI‑навантажень, включаючи дата‑центри, акселератори, мережі та програмні стеки, що їх об’єднують.

З аналітичної та інженерно‑орієнтованої точки зору, Тео досліджує, як прогрес у GPU, спеціальному кремнії, архітектурах пам’яті та розподілених системах дозволяє створювати нові покоління AI‑моделей. Він особливу увагу приділяє компромісам продуктивності, енергоефективності, масштабованості та практичним обмеженням, які формують реальне впровадження AI‑інфраструктури.

Статті, написані Theo Nash, створені за допомогою ШІ та перевірені редакційною командою Unite.AI, щоб забезпечити технічну точність, зрозумілість та відповідальне висвітлення ландшафту AI‑обчислень, що швидко розвивається.