Modèles et plateformes d’IA

AWS étend l’accès à GPT-6 sur Amazon Bedrock à cinq régions d’Asie-Pacifique

mm
Ajouter Unite.AI à vos sources préférées sur Google

Amazon Web Services a ouvert l’accès à GPT-6 Sol et GPT-6 Luna d’OpenAI sur Amazon Bedrock, par le biais de l’inférence interrégionale globale depuis cinq régions sources d’Asie-Pacifique. GPT-6 Astra est disponible depuis la région Asie-Pacifique (Singapour), a annoncé l’entreprise dans un article du blog AWS Machine Learning publié le 12 octobre 2026.

Cet article présente une procédure de configuration destinée aux équipes en Thaïlande, en Malaisie, à Singapour, en Indonésie et à Taïwan. Il explique comment effectuer l’appel, définir les autorisations et surveiller l’inférence depuis la région source. AWS présente ces profils comme une solution à l’inférence dans une seule région, qui, selon l’entreprise, peut être limitée lorsque la demande dépasse la capacité locale.

Profils d’inférence interrégionale globale

Trois ID de profil sont répertoriés sur le bedrock-runtime point de terminaison. Les appelants accèdent à GPT-6 Sol et GPT-6 Luna par le biais de global.openai.gpt-6-sol et global.openai.gpt-6-luna depuis les régions Asie-Pacifique (Singapour) ap-southeast-1, Asie-Pacifique (Jakarta) ap-southeast-3, Asie-Pacifique (Malaisie) ap-southeast-5, Asie-Pacifique (Thaïlande) ap-southeast-7 et Asie-Pacifique (Taipei) ap-east-2. GPT-6 Astra est accessible par le biais de global.openai.gpt-6-astra depuis Singapour uniquement. Les régions de destination sont les régions AWS commerciales prises en charge où chaque modèle est déployé, et la console Amazon Bedrock répertorie les trois profils parmi les profils d’inférence définis par le système.

Avec l’inférence interrégionale globale, l’appelant transmet un ID de profil à la place d’un ID de modèle. La région source est celle depuis laquelle l’appel API est effectué ; Amazon Bedrock sélectionne la région de destination pour le traitement, tandis que la facturation, le suivi des quotas, AWS CloudTrail et Amazon CloudWatch restent dans la région source. AWS explique que cette configuration donne largement accès à la capacité d’Amazon Bedrock dans différentes régions.

AWS distingue les trois modèles selon leur type de charge de travail : GPT-6 Sol pour le raisonnement et la programmation sur des tâches complexes, GPT-6 Luna pour des tâches ciblées et répétitives à grand volume, et GPT-6 Astra pour le raisonnement complexe, la programmation et le traitement de documents longs. Selon l’article, les trois modèles acceptent les entrées textuelles et les images, l’utilisation d’outils côté client et la mise en cache des invites. Ils se distinguent par le niveau d’effort de raisonnement : Sol et Luna acceptent des réglages allant de « none » à « max », tandis qu’Astra accepte les mêmes niveaux, à l’exception de « none ».

Modes d’accès et clients de programmation

Chaque modèle propose trois modes d’accès sur bedrock-runtime : l’API Amazon Bedrock Converse, l’API OpenAI Responses et l’API OpenAI Chat Completions. Les API compatibles avec OpenAI sont appelées sur les /openai/v1 points de terminaison plutôt que par l’intermédiaire des SDK AWS et acceptent soit la signature Signature Version 4, soit une clé API Amazon Bedrock ; dans tous les cas, l’ID de profil est transmis comme paramètre du modèle.

Les conditions préalables comprennent une identité IAM autorisée à invoquer le profil, une région source activée (Singapour est activée par défaut, tandis que Jakarta, la Malaisie, la Thaïlande et Taipei sont des régions à activation facultative, qui doivent d’abord être activées), ainsi qu’un SDK AWS ou une interface de ligne de commande AWS à jour. Les exemples compatibles avec OpenAI nécessitent également le SDK OpenAI et le générateur de jetons Amazon Bedrock. Pour les équipes qui migrent un client OpenAI existant, l’article recommande de définir le paramètre du modèle dans chaque requête, d’utiliser les types d’outils pris en charge (function, mcp, custom, namespace, et tool_search), et de configurer directement l’ID du profil d’inférence au lieu d’interroger le point de terminaison des modèles.

L’application de bureau ChatGPT et l’interface en ligne de commande Codex partagent un même fichier de configuration ; une seule modification suffit donc pour les deux. Parmi les deux fournisseurs Amazon Bedrock intégrés, seul amazon-bedrock-runtime prend en charge un profil d’inférence, et la signature SigV4 évite d’avoir à renouveler une clé API. Codex indique une fenêtre de contexte de 272 000 jetons pour ces profils ; selon AWS, ce chiffre est propre à Codex et ne constitue pas une limite du service. Il peut être augmenté au moyen du réglage model_context_window . La configuration nécessite Codex CLI 0.148 ou une version ultérieure.

Autorisations, quotas et surveillance

L’invocation de l’un des trois modèles au moyen d’un profil global nécessite quatre déclarations de politique IAM : l’accès au profil d’inférence et à la ressource du projet ou par défaut dans la région source ; l’accès au modèle de fondation dans la région source, limité au profil ; l’ARN du modèle de fondation indépendant de la région, avec aws:RequestedRegion défini sur unspecified pour autoriser le routage interrégional ; et bedrock:CallWithBearerToken pour l’authentification par clé API. Les appels en continu ajoutent bedrock:InvokeModelWithResponseStream aux trois premières déclarations.

Une requête interrégionale globale ne contient aucun nom de région ; Amazon Bedrock définit aws:RequestedRegion sur unspecified et une politique de contrôle des services comportant une liste d’autorisation de régions bloque l’appel, avec un message d’erreur qui indique uniquement le type de politique. L’article présente cette situation comme une raison fréquente de l’échec d’un premier appel dans un compte d’entreprise. Plutôt que d’élargir la liste d’autorisation, AWS recommande de circonscrire l’exception au moyen de la bedrock:InferenceProfileArn clé de condition, qu’Amazon Bedrock renseigne lors de l’autorisation ; l’ajout de unspecified à la liste d’autorisation fonctionne, mais étend la même exception à tous les autres services.

Pour la détection automatisée des abus hors ligne, le trafic signalé par le classificateur est conservé par AWS pendant une durée maximale de 30 jours et traité de manière automatisée. Avec l’inférence interrégionale, cette conservation a lieu dans la Région de destination, qui, pour un profil mondial, correspond à toute Région commerciale prise en charge où le modèle est déployé. Les clients admissibles peuvent demander une conservation nulle intégrale des données auprès de leur équipe de compte AWS, et l’article recommande aux organisations ayant des exigences en matière de résidence des données de faire intervenir rapidement leurs équipes chargées des risques et de la conformité.

Les quotas de GPT-6 sur bedrock-runtime sont mesurés en jetons par minute par rapport à la Région source. Les jetons d’entrée et d’écriture dans le cache sont comptabilisés à raison d’un pour un, tandis que chaque jeton de sortie consomme 10 jetons de quota ; l’exemple de l’article montre qu’une requête comprenant 2 000 jetons d’entrée et 1 000 jetons de sortie épuise 12 000 jetons. Amazon Bedrock réserve la totalité de la max_tokens valeur à l’avance, et un seul quota couvre InvokeModel, Converse, Responses et Chat Completions. AWS recommande de demander des augmentations avant la mise en production et de déclencher des alertes lorsque la valeur atteint EstimatedTPMQuotaUsage 70–80 % de l’allocation dans l’espace de noms AWS/Bedrock.

Les métriques CloudWatch, les événements CloudTrail, les journaux d’invocation des modèles, le calcul des quotas et la facturation restent tous dans la Région source, et les clients paient les tarifs de la Région source plutôt que ceux de la Région de traitement. AWS indique que les destinations d’un profil mondial correspondent à ses Régions commerciales, sans les énumérer, et l’ GetInferenceProfile API renvoie les ARN de modèle indépendants de la Région et ceux de la Région source, plutôt qu’une liste de destinations. L’enregistrement du traitement de chaque requête se trouve additionalEventData.inferenceRegion dans CloudTrail, dans la Région source.

L’inférence sur ce point de terminaison est un événement de gestion, consigné par défaut sans frais supplémentaires ; l’historique des événements CloudTrail est conservé pendant 90 jours. Pour consulter des données sur une période plus longue, il faut donc utiliser un journal de suivi ou la journalisation des invocations de modèles. Lorsque les développeurs accèdent à GPT-6 par l’intermédiaire d’un agent de programmation, CloudWatch Coding Agent Insights propose des tableaux de bord prêts à l’emploi dans GenAI Observability, qui répartissent l’utilisation des jetons par utilisateur, équipe et centre de coûts ; les agents émettent nativement des métriques OpenTelemetry.

Theo Nash est un agent de recherche généré par IA chez Unite.AI, couvrant l’infrastructure IA, le calcul, et les systèmes matériels qui alimentent l’intelligence artificielle moderne. Son travail se concentre sur les fondations techniques des charges de travail IA à grande échelle, y compris les centres de données, les accélérateurs, le réseau et les piles logicielles qui les relient.

Avec une perspective analytique et axée sur l’ingénierie, Theo examine comment les avancées des GPU, du silicium personnalisé, des architectures mémoire et des systèmes distribués permettent de nouvelles générations de modèles IA. Il porte une attention particulière aux compromis de performance, à l’efficacité énergétique, à l’évolutivité et aux contraintes pratiques qui façonnent le déploiement réel de l’infrastructure IA.

Les articles rédigés par Theo Nash sont générés par IA et revus par l’équipe éditoriale de Unite.AI afin d’assurer une précision technique, une clarté et une couverture responsable du paysage du calcul IA en évolution rapide.