AWS utvider tilgangen til GPT-6 på Amazon Bedrock til fem regioner i Asia-Stillehavsområdet

Amazon Web Services har åpnet for tilgang til OpenAIs GPT-6 Sol og GPT-6 Luna på Amazon Bedrock via global inferens på tvers av regioner fra fem kilderegioner i Asia-Stillehavsområdet. GPT-6 Astra er tilgjengelig fra Asia-Stillehavsregionen Singapore, opplyste selskapet i et innlegg på AWS Machine Learning Blog publisert 12. oktober 2026.

Innlegget er en gjennomgang av konfigurasjonen for team i Thailand, Malaysia, Singapore, Indonesia og Taiwan, og dekker hvordan de sender forespørselen, angir tillatelser og overvåker inferens fra kilderegionen. AWS presenterer profilene som et alternativ til inferens i én region, som ifølge selskapet kan bli begrenset når etterspørselen overstiger den lokale kapasiteten.

Globale profiler for inferens på tvers av regioner

Tre profil-ID-er er oppført på bedrock-runtime endepunktet. Forespørrere får tilgang til GPT-6 Sol og GPT-6 Luna via global.openai.gpt-6-sol og global.openai.gpt-6-luna fra Asia Pacific (Singapore) ap-southeast-1, Asia Pacific (Jakarta) ap-southeast-3, Asia Pacific (Malaysia) ap-southeast-5, Asia Pacific (Thailand) ap-southeast-7 og Asia Pacific (Taipei) ap-east-2. GPT-6 Astra er tilgjengelig via global.openai.gpt-6-astra bare fra Singapore. Destinasjonsregionene er de støttede AWS-regionene for kommersiell bruk der hver modell er distribuert, og Amazon Bedrock-konsollen viser alle tre profilene under systemdefinerte inferensprofiler.

Ved global inferens på tvers av regioner sender forespørreren en profil-ID i stedet for en modell-ID. Kilderegionen er der API-kallet gjøres, Amazon Bedrock velger destinasjonsregionen for behandlingen, og fakturering, kvotesporing, AWS CloudTrail og Amazon CloudWatch forblir i kilderegionen. AWS beskriver ordningen som en måte å gi bred tilgang til Amazon Bedrock-kapasitet på tvers av regioner.

AWS beskriver de tre modellenes bruksområder slik: GPT-6 Sol til resonnering og koding av komplekse oppgaver, GPT-6 Luna til fokuserte, repeterbare oppgaver i stort omfang, og GPT-6 Astra til kompleks resonnering, koding og arbeid med lange dokumenter. Ifølge innlegget kan alle tre ta imot tekst- og bildefiler, bruke verktøy på klientsiden og benytte hurtigbufring av ledetekster. De skiller seg fra hverandre når det gjelder grad av resonnering: Sol og Luna støtter innstillinger fra ingen til maks, mens Astra støtter de samme nivåene, bortsett fra ingen.

Tilgangsmåter og kodeklienter

Hver modell støtter tre tilgangsmåter på bedrock-runtime: Amazon Bedrock Converse API, OpenAI Responses API og OpenAI Chat Completions API. De OpenAI-kompatible API-ene kalles via /openai/v1 endepunkter i stedet for gjennom AWS SDK-ene, og godtar enten signering med Signature Version 4 eller en Amazon Bedrock API-nøkkel. Profil-ID-en angis som modellparameter i alle tilfeller.

Forutsetningene omfatter en IAM-identitet med tillatelse til å bruke profilen, en aktivert kilderegion (Singapore er aktivert som standard, mens Jakarta, Malaysia, Thailand og Taipei er regioner som må aktiveres særskilt) og en oppdatert AWS SDK eller CLI. Eksemplene som er kompatible med OpenAI, krever også OpenAI SDK og Amazon Bedrock-tokenverktøyet. For team som flytter over en eksisterende OpenAI-klient, anbefaler innlegget å angi modellparameteren i hver forespørsel, bruke de støttede verktøytypene (function, mcp, custom, namespace, og tool_search) og konfigurere inferensprofil-ID-en direkte i stedet for å spørre endepunktet for modeller.

ChatGPT-skrivebordsappen og Codex CLI bruker den samme konfigurasjonsfilen, så én endring gjelder for begge. Av de to innebygde Amazon Bedrock-leverandørene er det bare amazon-bedrock-runtime som godtar en inferensprofil, og med SigV4-signering trenger man ikke å rotere noen API-nøkkel. Codex oppgir et kontekstvindu på 272 000 tokener for disse profilene. Ifølge AWS er dette tallet som følger med Codex, ikke en tjenestegrense; det kan økes med model_context_window -innstillingen. Konfigurasjonen krever Codex CLI 0.148 eller nyere.

Tillatelser, kvoter og overvåking

Bruk av en av de tre modellene via en global profil krever fire IAM-policyerklæringer: tilgang til inferensprofilen og prosjekt-/standardressursen i kilderegionen; tilgang til grunnmodellen i kilderegionen, avgrenset til profilen; ARN-en for grunnmodellen som ikke er knyttet til en bestemt region, med aws:RequestedRegion satt til unspecified for å tillate ruting på tvers av regioner; og bedrock:CallWithBearerToken for autentisering med API-nøkkel. Strømmende kall legger til bedrock:InvokeModelWithResponseStream i de tre første erklæringene.

En global forespørsel på tvers av regioner inneholder ikke noe regionnavn, så Amazon Bedrock setter aws:RequestedRegion til unspecified og en tjenestekontrollpolicy med en tillatelsesliste for regioner avviser kallet. Feilmeldingen angir bare policytypen. Innlegget peker på dette som en vanlig årsak til at det første kallet mislykkes i en bedriftskonto. I stedet for å utvide tillatelseslisten anbefaler AWS å avgrense unntaket med bedrock:InferenceProfileArn -betingelsesnøkkelen, som Amazon Bedrock fyller ut under autoriseringen. Hvis du legger til unspecified i tillatelseslisten, fungerer det, men det gir alle andre tjenester det samme unntaket.

For automatisk, frakoblet misbruksdeteksjon lagrer AWS trafikk som klassifikatoren har flagget, i opptil 30 dager, og behandler den programmatisk. Ved inferens på tvers av regioner skjer denne lagringen i destinasjonsregionen, som for en global profil er en hvilken som helst støttet kommersiell region der modellen er distribuert. Kunder som oppfyller vilkårene, kan be AWS-kontoteamet sitt om at data ikke lagres i det hele tatt, og innlegget anbefaler organisasjoner med krav til hvor data lagres, å involvere risiko- og etterlevelsesavdelingene tidlig.

GPT-6-kvoter på bedrock-runtime måles i tokener per minutt opp mot kilderegionen. Tokener for inndata og cacheskriving telles én til én, mens hvert utdata-token forbruker 10 kvotetokener. I eksempelet i innlegget brukes 12 000 tokener opp for en forespørsel med 2 000 inndatatokener og 1 000 utdata-tokener. Amazon Bedrock reserverer hele max_tokens kvoteverdien på forhånd, og én kvote dekker InvokeModel, Converse, Responses og Chat Completions. AWS anbefaler å be om kvoteøkninger før produksjonssetting og å sette opp varsler for EstimatedTPMQuotaUsage i AWS/Bedrock-navnerommet ved 70–80 prosent av tildelingen.

CloudWatch-måledata, CloudTrail-hendelser, logger for modellkall, kvoteberegning og fakturering forblir i kilderegionen, og kundene betaler satsene for kilderegionen, ikke behandlingsregionen. AWS beskriver destinasjonene for en global profil som de kommersielle regionene profilen støtter, uten å oppgi dem én for én, og GetInferenceProfile API-et returnerer modell-ARN-ene som er regionsuavhengige og for kilderegionen, i stedet for en liste over destinasjoner. Registreringen av behandlingen for hver forespørsel er additionalEventData.inferenceRegion ført i CloudTrail i kilderegionen.

Inferens på dette endepunktet er en administrasjonshendelse som loggføres som standard uten ekstra kostnad. CloudTrail Event History beholder data i 90 dager, så lengre historikk krever et spor eller logging av modellkall. Når utviklere bruker GPT-6 via en kodeagent, tilbyr CloudWatch Coding Agent Insights ferdige dashbord under GenAI Observability som fordeler tokenbruken på bruker, team og kostnadssted, og agentene sender OpenTelemetry-måledata direkte.