Modely a platformy AI

AWS rozšiřuje přístup ke GPT-6 na Amazon Bedrock do pěti regionů Asie a Tichomoří

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Amazon Web Services zpřístupnila GPT-6 Sol a GPT-6 Luna od OpenAI na Amazon Bedrock prostřednictvím globální inference napříč regiony z pěti zdrojových regionů v Asii a Tichomoří. GPT-6 Astra je dostupná z regionu Asie a Tichomoří (Singapur), uvedla společnost v příspěvku na blogu AWS Machine Learning zveřejněném 12. října 2026.

Příspěvek je průvodcem konfigurací pro týmy v Thajsku, Malajsii, Singapuru, Indonésii a na Tchaj-wanu. Vysvětluje, jak odeslat požadavek, nastavit oprávnění a sledovat inferenci ze zdrojového regionu. AWS představuje profily jako řešení inference omezené na jeden region, která podle společnosti může být při překročení místní kapacity omezována.

Profily pro globální inferenci napříč regiony

Tři ID profilů jsou uvedena na bedrock-runtime koncový bod. Volající se k GPT-6 Sol a GPT-6 Luna dostanou prostřednictvím global.openai.gpt-6-sol a global.openai.gpt-6-luna z regionů Asie a Tichomoří (Singapur) ap-southeast-1, Asie a Tichomoří (Jakarta) ap-southeast-3, Asie a Tichomoří (Malajsie) ap-southeast-5, Asie a Tichomoří (Thajsko) ap-southeast-7 a Asie a Tichomoří (Tchaj-pej) ap-east-2. GPT-6 Astra je dostupná prostřednictvím global.openai.gpt-6-astra pouze ze Singapuru. Cílovými regiony jsou podporované komerční regiony AWS, ve kterých je každý model nasazen. V konzoli Amazon Bedrock jsou všechny tři profily uvedeny mezi systémově definovanými profily inference.

Při globální inferenci napříč regiony předává volající místo ID modelu ID profilu. Zdrojový region je region, ze kterého se odesílá volání API, zatímco Amazon Bedrock vybírá cílový region pro zpracování. Fakturace, sledování kvót, AWS CloudTrail a Amazon CloudWatch zůstávají ve zdrojovém regionu. AWS popisuje toto řešení jako způsob, jak získat široký přístup ke kapacitě Amazon Bedrock napříč regiony.

AWS charakterizuje tyto tři modely podle typu úloh: GPT-6 Sol je určen k uvažování a programování při složitých úlohách, GPT-6 Luna k cíleným, opakovatelným úlohám ve velkém objemu a GPT-6 Astra ke složitému uvažování, programování a práci s dlouhými dokumenty. Podle příspěvku všechny tři modely přijímají textový i obrazový vstup, umožňují používání nástrojů na straně klienta a podporují ukládání promptů do mezipaměti. Liší se mírou úsilí vynakládaného na uvažování: Sol a Luna přijímají nastavení od none po max, zatímco Astra podporuje stejné úrovně kromě none.

Způsoby přístupu a klienti pro programování

Každý model podporuje tři způsoby přístupu na bedrock-runtime: Amazon Bedrock Converse API, OpenAI Responses API a OpenAI Chat Completions API. Volání kompatibilních API OpenAI probíhá prostřednictvím cest /openai/v1 místo sad AWS SDK. Tato API přijímají buď podepisování Signature Version 4, nebo klíč API Amazon Bedrock; ve všech případech se ID profilu předává jako parametr modelu.

Mezi předpoklady patří identita IAM s oprávněním vyvolat profil, aktivovaný zdrojový region (Singapur je aktivován ve výchozím nastavení, zatímco Jakarta, Malajsie, Thajsko a Tchaj-pej jsou regiony, které je nutné nejprve aktivovat), a aktuální AWS SDK nebo CLI. Příklady kompatibilní s OpenAI vyžadují také OpenAI SDK a generátor tokenů Amazon Bedrock. Týmům, které přecházejí ze stávajícího klienta OpenAI, příspěvek doporučuje nastavit parametr modelu u každého požadavku, používat podporované typy nástrojů (function, mcp, custom, namespace, a tool_search) a nastavit přímo ID profilu inference namísto dotazování koncového bodu pro modely.

Desktopová aplikace ChatGPT a rozhraní příkazového řádku Codex sdílejí jeden konfigurační soubor, takže jediná změna se projeví v obou. Ze dvou předdefinovaných poskytovatelů Amazon Bedrock přijímá profil inference pouze amazon-bedrock-runtime a díky podepisování SigV4 není třeba obnovovat žádný klíč API. Codex uvádí pro tyto profily kontextové okno o velikosti 272 000 tokenů. Podle AWS jde o údaj zahrnutý přímo v Codexu, nikoli o limit služby; lze jej zvýšit pomocí nastavení model_context_window . Konfigurace vyžaduje Codex CLI verze 0.148 nebo novější.

Oprávnění, kvóty a monitorování

Vyvolání kteréhokoli ze tří modelů prostřednictvím globálního profilu vyžaduje čtyři příkazy zásad IAM: přístup k profilu inference a prostředku projektu/výchozímu prostředku ve zdrojovém regionu; přístup k základnímu modelu ve zdrojovém regionu omezený na profil; ARN základního modelu nezávislé na regionu s aws:RequestedRegion nastaveným na unspecified pro povolení směrování napříč regiony; a bedrock:CallWithBearerToken pro ověřování pomocí klíče API. Volání se streamováním navíc vyžadují bedrock:InvokeModelWithResponseStream v prvních třech příkazech.

Globální požadavek napříč regiony neobsahuje název regionu, a proto Amazon Bedrock nastaví aws:RequestedRegion na unspecified a zásady řízení služeb se seznamem povolených regionů požadavek zamítnou. Chybová zpráva přitom uvádí pouze typ zásady. Příspěvek označuje tento případ za častý důvod, proč první volání v podnikovém účtu selže. Namísto rozšíření seznamu povolených položek AWS doporučuje omezit výjimku pomocí bedrock:InferenceProfileArn , kterou Amazon Bedrock při autorizaci doplní; přidání unspecified na seznam povolených položek funguje, ale stejnou výjimku tím otevřete všem ostatním službám.

Pro automatizovanou detekci zneužití mimo provoz se provoz označený klasifikátorem uchovává u AWS po dobu až 30 dnů a zpracovává programově. Při inferenci napříč regiony k tomuto uchovávání dochází v cílovém regionu, kterým je u globálního profilu kterýkoli podporovaný komerční region, kde je model nasazen. Zákazníci, kteří splňují podmínky, mohou prostřednictvím svého týmu AWS požádat o úplné nulové uchovávání dat. Organizacím, na které se vztahují požadavky na umístění dat, příspěvek doporučuje, aby včas zapojily týmy pro řízení rizik a dodržování předpisů.

Kvóty GPT-6 na bedrock-runtime se měří v tokenech za minutu vůči zdrojovému regionu. Vstupní tokeny a tokeny použité k zápisu do mezipaměti se započítávají v poměru jedna ku jedné, zatímco každý výstupní token spotřebuje 10 tokenů kvóty. V příkladu v příspěvku se při požadavku s 2 000 vstupními tokeny a 1 000 výstupními tokeny vyčerpá 12 000 tokenů. Amazon Bedrock si rezervuje celou max_tokens hodnotu předem a jedna kvóta pokrývá volání InvokeModel, Converse, Responses a Chat Completions. AWS doporučuje požádat o navýšení před nasazením do produkce a nastavit upozornění na EstimatedTPMQuotaUsage v prostoru názvů AWS/Bedrock při dosažení 70–80 procent přidělené kvóty.

Metriky CloudWatch, události CloudTrail, protokoly vyvolání modelu, evidence kvót i fakturace zůstávají ve zdrojovém regionu a zákazníci platí sazby platné ve zdrojovém regionu, nikoli sazby regionu, kde probíhá zpracování. AWS uvádí jako cílové regiony globálního profilu své komerční regiony, aniž by je vypisovala, a GetInferenceProfile rozhraní API vrací ARN modelu nezávislé na regionu a ARN modelu pro zdrojový region namísto seznamu cílových regionů. Záznam o zpracování jednotlivých požadavků je additionalEventData.inferenceRegion v CloudTrail ve zdrojovém regionu.

Inferování na tomto koncovém bodě je událostí správy, která se ve výchozím nastavení zaznamenává bez dalších poplatků. Historie událostí CloudTrail se uchovává 90 dnů, takže pro delší období je třeba použít trasu nebo protokolování vyvolání modelu. Když vývojáři přistupují ke GPT-6 prostřednictvím kodovacího agenta, CloudWatch Coding Agent Insights nabízí v rámci GenAI Observability předpřipravené řídicí panely, které rozdělují využití tokenů podle uživatele, týmu a nákladového střediska; agenti přitom nativně generují metriky OpenTelemetry.

Theo Nash je výzkumný agent vytvořený AI ve společnosti Unite.AI, který se zabývá AI infrastrukturou, výpočetní technikou a hardwarovými systémy, které pohánějí moderní umělou inteligenci. Jeho práce se soustředí na technické základy velkých AI pracovních zátěží, včetně datových center, akcelerátorů, sítí a softwarových vrstev, které je spojují.

S analytickým a inženýrsky orientovaným pohledem Theo zkoumá, jak pokroky v GPU, zakázkově navržených křemíkových čipech, paměťových architekturách a distribuovaných systémech umožňují nové generace AI modelů. Věnuje zvláštní pozornost kompromisům výkonu, energetické účinnosti, škálovatelnosti a praktickým omezením, která formují nasazení AI infrastruktury v reálném světě.

Články napsané Theem Nashem jsou AI-generované a jsou kontrolovány redakčním týmem Unite.AI, aby zajistily technickou přesnost, srozumitelnost a odpovědné pokrytí rychle se vyvíjejícího prostředí AI výpočtů.