AI-modeller og platforme
AWS udvider adgangen til GPT-6 på Amazon Bedrock til fem regioner i Asien og Stillehavsområdet
Føj Unite.AI til dine foretrukne kilder på Google
Amazon Web Services har åbnet for adgang til OpenAI’s GPT-6 Sol og GPT-6 Luna på Amazon Bedrock via global inferens på tværs af regioner fra fem kilderegioner i Asien og Stillehavsområdet. GPT-6 Astra er tilgængelig fra Asien og Stillehavsområdet (Singapore), oplyste virksomheden i et indlæg på AWS Machine Learning Blog, der blev offentliggjort den 12. oktober 2026.
Indlægget gennemgår konfigurationen for teams i Thailand, Malaysia, Singapore, Indonesien og Taiwan, herunder hvordan man foretager kaldet, indstiller tilladelser og overvåger inferens fra kilderegionen. AWS præsenterer profilerne som et alternativ til inferens i én region, som ifølge virksomheden kan blive begrænset, når efterspørgslen overstiger den lokale kapacitet.
Globale inferensprofiler på tværs af regioner
Tre profil-id’er er angivet på bedrock-runtime slutpunktet. Kaldere får adgang til GPT-6 Sol og GPT-6 Luna via global.openai.gpt-6-sol og global.openai.gpt-6-luna fra Asien og Stillehavsområdet (Singapore) ap-southeast-1, Asien og Stillehavsområdet (Jakarta) ap-southeast-3, Asien og Stillehavsområdet (Malaysia) ap-southeast-5, Asien og Stillehavsområdet (Thailand) ap-southeast-7 og Asien og Stillehavsområdet (Taipei) ap-east-2. Der er adgang til GPT-6 Astra via global.openai.gpt-6-astra kun fra Singapore. Destinationsregionerne er de understøttede kommercielle AWS-regioner, hvor hver model er implementeret, og Amazon Bedrock-konsollen viser alle tre profiler under systemdefinerede inferensprofiler.
Ved global inferens på tværs af regioner angiver kalderen et profil-id i stedet for et model-id. Kilderegionen er den region, hvor API-kaldet foretages, Amazon Bedrock vælger destinationsregionen til behandlingen, og fakturering, kvotesporing, AWS CloudTrail og Amazon CloudWatch forbliver i kilderegionen. AWS beskriver denne løsning som en måde at få bred adgang til Amazon Bedrocks kapacitet på tværs af regioner.
AWS beskriver de tre modellers anvendelsesområder således: GPT-6 Sol til ræsonnement og kodning ved komplekse opgaver, GPT-6 Luna til fokuserede, gentagelige opgaver i stor skala og GPT-6 Astra til komplekst ræsonnement, kodning og arbejde med lange dokumenter. Ifølge indlægget accepterer alle tre modeller tekst- og billedinput, værktøjsbrug på klientsiden og promptcaching. De adskiller sig med hensyn til ræsonnementsindsats: Sol og Luna accepterer indstillinger fra none til max, mens Astra accepterer de samme niveauer bortset fra none.
Adgangsveje og klienter til kodning
Hver model understøtter tre adgangsveje på bedrock-runtime: Amazon Bedrock Converse API, OpenAI Responses API og OpenAI Chat Completions API. De OpenAI-kompatible API’er kaldes på /openai/v1 -ruter i stedet for via AWS SDK’erne og accepterer enten signering med Signature Version 4 eller en Amazon Bedrock API-nøgle. I begge tilfælde angives profil-id’et som modelparameter.
Forudsætningerne omfatter en IAM-identitet med tilladelse til at kalde profilen, en aktiveret kilderegion (Singapore er aktiveret som standard, mens Jakarta, Malaysia, Thailand og Taipei er tilvalgsregioner, der først skal aktiveres) samt et aktuelt AWS SDK eller CLI. Eksemplerne, der er kompatible med OpenAI, kræver også OpenAI SDK og Amazon Bedrock-tokenværktøjet. Til teams, der migrerer en eksisterende OpenAI-klient, anbefaler indlægget, at man angiver modelparameteren i hver anmodning, bruger de understøttede værktøjstyper (function, mcp, custom, namespace, og tool_search) og konfigurerer inferensprofil-id’et direkte i stedet for at forespørge på modelslutpunktet.
ChatGPT-computerappen og Codex CLI deler en enkelt konfigurationsfil, så én ændring gælder for dem begge. Af de to indbyggede Amazon Bedrock-udbydere er det kun amazon-bedrock-runtime der understøtter en inferensprofil, og med SigV4-signering er der ingen API-nøgle, der skal roteres. Codex angiver et kontekstvindue på 272.000 tokens for disse profiler, hvilket ifølge AWS er Codex’ egen indbyggede værdi og ikke en tjenestegrænse; den kan øges med indstillingen model_context_window . Konfigurationen kræver Codex CLI 0.148 eller nyere.
Tilladelser, kvoter og overvågning
For at kalde en af de tre modeller via en global profil kræves fire IAM-politikudtalelser: adgang til inferensprofilen og projekt-/standardressourcen i kilderegionen; adgang til grundmodellen i kilderegionen, afgrænset til profilen; den regionsuafhængige ARN for grundmodellen med aws:RequestedRegion indstillet til unspecified for at tillade routing på tværs af regioner; og bedrock:CallWithBearerToken til API-nøglegodkendelse. Streamingkald tilføjer bedrock:InvokeModelWithResponseStream til de første tre udtalelser.
En global anmodning på tværs af regioner indeholder ikke noget regionsnavn, så Amazon Bedrock indstiller aws:RequestedRegion til unspecified og en tjenestekontrolpolitik med en regionsliste over tilladte regioner afviser kaldet med en fejlmeddelelse, der kun angiver politiktypen. Indlægget fremhæver dette som en almindelig årsag til, at det første kald mislykkes på en virksomhedskonto. I stedet for at udvide listen over tilladte regioner anbefaler AWS, at undtagelsen afgrænses med bedrock:InferenceProfileArn -betingelsesnøglen, som Amazon Bedrock udfylder under autorisationen; hvis man tilføjer unspecified til listen over tilladte regioner, virker det, men så åbnes den samme undtagelse for alle andre tjenester.
Ved automatisk offline-detektion af misbrug opbevarer AWS trafik, der er markeret af klassifikatoren, i op til 30 dage og behandler den programmatisk. Ved inferens på tværs af regioner foregår opbevaringen i destinationsregionen, som for en global profil er enhver understøttet kommerciel region, hvor modellen er udrullet. Kunder, der opfylder betingelserne, kan anmode om fuldstændig nuldataopbevaring via deres AWS-kontoteam, og indlægget råder organisationer med krav til datalokalitet til at inddrage risiko- og compliance-teams tidligt.
GPT-6-kvoter på bedrock-runtime måles i tokens pr. minut i forhold til kilderegionen. Input- og cache-skrivetokens tæller én til én, mens hvert outputtoken bruger 10 kvotetokens; indlæggets eksempel viser, at en anmodning med 2.000 inputtokens og 1.000 outputtokens opbruger 12.000 tokens. Amazon Bedrock reserverer hele max_tokens værdien på forhånd, og én kvote dækker InvokeModel, Converse, Responses og Chat Completions. AWS anbefaler at anmode om forhøjelser inden produktion og opsætte alarmer for EstimatedTPMQuotaUsage i AWS/Bedrock-navnerummet ved 70–80 procent af tildelingen.
CloudWatch-målinger, CloudTrail-hændelser, modelinvokationslogfiler, kvoteregnskab og fakturering forbliver alle i kilderegionen, og kunderne betaler kilderegionens priser i stedet for behandlingsregionens. AWS beskriver destinationerne for en global profil som dens kommercielle regioner uden at opremse dem, og GetInferenceProfile API’et returnerer de regionsuafhængige model-ARN’er og model-ARN’erne for kilderegionen i stedet for en liste over destinationer. Behandlingsregistreringen for hver anmodning findes additionalEventData.inferenceRegion i CloudTrail i kilderegionen.
Inferens på dette endpoint er en administrationshændelse, som logges som standard uden ekstra omkostninger, og CloudTrail Event History gemmer data i 90 dage, så længere perioder kræver et trail eller modelinvokationslogning. Når udviklere får adgang til GPT-6 via en kodeagent, leverer CloudWatch Coding Agent Insights færdige dashboards under GenAI Observability, som opdeler tokenforbruget efter bruger, team og omkostningscenter, mens agenterne udsender OpenTelemetry-målinger direkte.
