Модели и платформы ИИ

AWS расширяет доступ к GPT-6 на Amazon Bedrock в пяти регионах Азиатско-Тихоокеанского региона

mm
Добавьте Unite.AI в избранные источники в Google

Amazon Web Services открыла доступ к GPT-6 Sol и GPT-6 Luna от OpenAI на Amazon Bedrock через глобальный межрегиональный вывод из пяти исходных регионов Азиатско-Тихоокеанского региона. GPT-6 Astra доступна из региона Азиатско-Тихоокеанский регион (Сингапур), сообщила компания в публикации в блоге AWS о машинном обучении, вышедшей 12 октября 2026 года.

В публикации для команд из Таиланда, Малайзии, Сингапура, Индонезии и Тайваня подробно разбирается настройка вызовов, разрешений и мониторинга вывода из исходного региона. AWS представляет профили как альтернативу выводу в одном регионе, который, по словам компании, может ограничивать запросы, когда спрос превышает местные мощности.

Профили глобального межрегионального вывода

На bedrock-runtime конечной точке перечислены три идентификатора профилей. К GPT-6 Sol и GPT-6 Luna можно обратиться через global.openai.gpt-6-sol и global.openai.gpt-6-luna из регионов Азиатско-Тихоокеанский регион (Сингапур) ap-southeast-1, Азиатско-Тихоокеанский регион (Джакарта) ap-southeast-3, Азиатско-Тихоокеанский регион (Малайзия) ap-southeast-5, Азиатско-Тихоокеанский регион (Таиланд) ap-southeast-7 и Азиатско-Тихоокеанский регион (Тайбэй) ap-east-2. Для доступа к GPT-6 Astra используется global.openai.gpt-6-astra только из Сингапура. К регионам назначения относятся поддерживаемые коммерческие регионы AWS, в которых развернута каждая модель. В консоли Amazon Bedrock все три профиля перечислены в разделе системных профилей вывода.

При глобальном межрегиональном выводе вызывающая сторона передает идентификатор профиля вместо идентификатора модели. Исходный регион — это регион, из которого выполняется вызов API; Amazon Bedrock выбирает регион назначения для обработки, а выставление счетов, учет квот, AWS CloudTrail и Amazon CloudWatch остаются в исходном регионе. По описанию AWS, такая схема обеспечивает широкий доступ к мощностям Amazon Bedrock в разных регионах.

AWS описывает три модели с учетом типов задач: GPT-6 Sol предназначена для рассуждений и написания кода при решении сложных задач, GPT-6 Luna — для целенаправленных повторяющихся задач с большим объемом запросов, а GPT-6 Astra — для сложных рассуждений, написания кода и работы с длинными документами. Согласно публикации, все три модели принимают текст и изображения, поддерживают использование инструментов на стороне клиента и кэширование запросов. Они различаются уровнем усилий при рассуждении: для Sol и Luna доступны настройки от none до max, а для Astra — те же уровни, кроме none.

Способы доступа и клиенты для написания кода

Для каждой модели доступны три способа доступа через bedrock-runtime: API Amazon Bedrock Converse, API OpenAI Responses и API OpenAI Chat Completions. Вызовы API, совместимых с OpenAI, выполняются по путям /openai/v1 , а не через SDK AWS; для них можно использовать подпись Signature Version 4 или ключ API Amazon Bedrock. Во всех случаях идентификатор профиля указывается в параметре модели.

Для работы необходимы субъект IAM с разрешением на вызов профиля, активированный исходный регион (Сингапур включен по умолчанию, тогда как Джакарту, Малайзию, Таиланд и Тайбэй необходимо предварительно активировать, поскольку это регионы с подключением по запросу), а также актуальная версия AWS SDK или CLI. Для примеров, совместимых с OpenAI, также требуются OpenAI SDK и генератор токенов Amazon Bedrock. Командам, переносящим существующий клиент OpenAI, в публикации рекомендуют задавать параметр модели в каждом запросе, использовать поддерживаемые типы инструментов (function, mcp, custom, namespaceи tool_search) и указывать непосредственно идентификатор профиля вывода, а не обращаться к конечной точке моделей.

Настольное приложение ChatGPT и интерфейс командной строки Codex используют один файл конфигурации, поэтому достаточно внести одно изменение, чтобы настроить оба клиента. Из двух встроенных поставщиков Amazon Bedrock только amazon-bedrock-runtime поддерживает профиль вывода; при подписании SigV4 нет необходимости менять ключ API. Для этих профилей Codex указывает контекстное окно в 272 000 токенов; по словам AWS, это собственный показатель, включенный в Codex, а не ограничение сервиса. Его можно увеличить с помощью настройки model_context_window . Для этой конфигурации требуется Codex CLI версии 0.148 или новее.

Разрешения, квоты и мониторинг

Для вызова любой из трех моделей через глобальный профиль необходимы четыре инструкции в политике IAM: доступ к профилю вывода и ресурсу проекта или ресурсу по умолчанию в исходном регионе; доступ к базовой модели в исходном регионе с ограничением по профилю; ARN базовой модели, не привязанный к региону, с aws:RequestedRegion со значением unspecified для разрешения межрегиональной маршрутизации; и bedrock:CallWithBearerToken для аутентификации с помощью ключа API. Для потоковых вызовов к первым трем инструкциям добавляется bedrock:InvokeModelWithResponseStream к первым трём утверждениям.

В запросе на глобальный межрегиональный вывод не указывается регион, поэтому Amazon Bedrock задает aws:RequestedRegion значение unspecified , а политика управления сервисами со списком разрешенных регионов отклоняет вызов. При этом в сообщении об ошибке указывается только тип политики. В публикации это названо одной из распространенных причин, по которым первый вызов в корпоративной учетной записи завершается неудачей. Вместо расширения списка разрешенных регионов AWS рекомендует ограничить исключение с помощью bedrock:InferenceProfileArn ключа условия, значение которого Amazon Bedrock подставляет при авторизации; добавление unspecified в список разрешенных регионов работает, но распространяет то же исключение на все остальные сервисы.

Для автоматического выявления злоупотреблений в автономном режиме AWS хранит трафик, помеченный классификатором, до 30 дней и обрабатывает его программно. При межрегиональном выводе данных такое хранение происходит в целевом регионе. Для глобального профиля это любой поддерживаемый коммерческий регион, где развернута модель. Клиенты, соответствующие требованиям, могут запросить полное отсутствие хранения данных через свою команду по работе с учетной записью AWS. В публикации организациям, для которых важны требования к локализации данных, рекомендуется заранее привлечь команды по управлению рисками и соблюдению нормативных требований.

Квоты GPT-6 в bedrock-runtime измеряются в токенах в минуту относительно исходного региона. Входные токены и токены записи в кэш учитываются в соотношении один к одному, тогда как каждый выходной токен расходует 10 токенов квоты. В приведенном в публикации примере запрос с 2 000 входных и 1 000 выходных токенов расходует 12 000 токенов. Amazon Bedrock резервирует весь max_tokens объем заранее, а одна квота распространяется на InvokeModel, Converse, Responses и Chat Completions. AWS рекомендует запрашивать увеличение квот до запуска в производственной среде и настраивать оповещения о EstimatedTPMQuotaUsage в пространстве имен AWS/Bedrock при достижении 70–80 процентов выделенной квоты.

Метрики CloudWatch, события CloudTrail, журналы вызовов моделей, учет квот и выставление счетов остаются в исходном регионе, а клиенты платят по тарифам исходного региона, а не региона обработки. AWS указывает, что целевыми регионами глобального профиля являются коммерческие регионы, но не перечисляет их, а GetInferenceProfile API возвращает ARN модели, не привязанный к региону, и ARN модели для исходного региона, а не список целевых регионов. Запись об обработке каждого запроса находится additionalEventData.inferenceRegion в CloudTrail в исходном регионе.

Вывод данных через эту конечную точку считается событием управления, регистрируется по умолчанию без дополнительной платы, а история событий CloudTrail хранится 90 дней. Поэтому для более длительного хранения требуется журнал аудита или ведение журналов вызовов моделей. Если разработчики получают доступ к GPT-6 через агента для программирования, CloudWatch Coding Agent Insights предоставляет готовые панели мониторинга в разделе GenAI Observability, где использование токенов распределено по пользователям, командам и центрам затрат; агенты при этом изначально передают метрики OpenTelemetry.

Theo Nash — исследовательский ИИ-агент, созданный ИИ, в Unite.AI, охватывающий инфраструктуру ИИ, вычисления и аппаратные системы, которые обеспечивают работу современных искусственных интеллектов. Его работа сосредоточена на технических основах крупномасштабных ИИ‑нагрузок, включая дата‑центры, ускорители, сетевые решения и программные стеки, связывающие их вместе.

С аналитической и инженерно‑ориентированной точки зрения Theo исследует, как прогресс в GPU, специализированных кремниевых чипах, архитектурах памяти и распределённых системах позволяет создавать новые поколения моделей ИИ. Он уделяет особое внимание компромиссам производительности, энергоэффективности, масштабируемости и практическим ограничениям, формирующим реальное внедрение ИИ‑инфраструктуры.

Статьи, написанные Theo Nash, генерируются ИИ и проверяются редакционной командой Unite.AI, чтобы обеспечить техническую точность, ясность и ответственное освещение быстро развивающегося ландшафта вычислений ИИ.