Modele și platforme AI

AWS extinde accesul la GPT-6 pe Amazon Bedrock în cinci regiuni din Asia-Pacific

mm
Adaugă Unite.AI la sursele tale preferate pe Google

Amazon Web Services a deschis accesul la GPT-6 Sol și GPT-6 Luna de la OpenAI pe Amazon Bedrock prin inferență globală între regiuni, din cinci regiuni-sursă din Asia-Pacific, iar GPT-6 Astra este disponibil din Asia-Pacific (Singapore), a anunțat compania într-o postare pe blogul AWS despre învățarea automată, publicată pe 12 octombrie 2026.

Postarea este un ghid de configurare pentru echipele din Thailanda, Malaysia, Singapore, Indonezia și Taiwan, care explică modul de inițiere a apelului, configurarea permisiunilor și monitorizarea inferenței din regiunea-sursă. AWS prezintă profilurile drept o soluție la inferența într-o singură regiune, care, potrivit companiei, poate fi limitată atunci când cererea depășește capacitatea locală.

Profiluri globale de inferență între regiuni

Pe endpoint sunt enumerate trei ID-uri de profil bedrock-runtime endpoint. Apelanții accesează GPT-6 Sol și GPT-6 Luna prin global.openai.gpt-6-sol și global.openai.gpt-6-luna din Asia-Pacific (Singapore) ap-southeast-1, Asia-Pacific (Jakarta) ap-southeast-3, Asia-Pacific (Malaysia) ap-southeast-5, Asia-Pacific (Thailanda) ap-southeast-7 și Asia-Pacific (Taipei) ap-east-2. GPT-6 Astra este accesibil prin global.openai.gpt-6-astra numai din Singapore. Regiunile-destinație sunt regiunile comerciale AWS acceptate în care este implementat fiecare model, iar consola Amazon Bedrock enumeră toate cele trei profiluri la categoria profilurilor de inferență definite de sistem.

În cazul inferenței globale între regiuni, apelantul transmite un ID de profil în locul unui ID de model. Regiunea-sursă este locul din care se efectuează apelul API, Amazon Bedrock selectează regiunea-destinație pentru procesare, iar facturarea, urmărirea cotelor, AWS CloudTrail și Amazon CloudWatch rămân în regiunea-sursă. AWS descrie această configurație ca oferind acces extins la capacitatea Amazon Bedrock din mai multe regiuni.

AWS caracterizează cele trei modele în funcție de volumul de lucru: GPT-6 Sol pentru raționament și programare în sarcini complexe, GPT-6 Luna pentru sarcini concentrate și repetitive, la volum mare, iar GPT-6 Astra pentru raționament complex, programare și lucrul cu documente lungi. Potrivit postării, toate trei acceptă intrări text și imagini, utilizarea instrumentelor pe partea clientului și memorarea în cache a prompturilor. Modelele diferă în ceea ce privește nivelul de efort de raționament: Sol și Luna acceptă setări de la none la max, în timp ce Astra acceptă aceleași niveluri, cu excepția none.

Modalități de acces și clienți pentru programare

Fiecare model acceptă trei modalități de acces pe bedrock-runtime: API-ul Amazon Bedrock Converse, API-ul OpenAI Responses și API-ul OpenAI Chat Completions. Apelurile către API-urile compatibile cu OpenAI se fac pe /openai/v1 căi, nu prin SDK-urile AWS, și acceptă fie semnarea cu Signature Version 4, fie o cheie API Amazon Bedrock; în toate cazurile, ID-ul profilului este transmis ca parametru al modelului.

Cerințele preliminare includ o identitate IAM cu permisiunea de a invoca profilul, o regiune-sursă activată (Singapore este activată în mod implicit, în timp ce Jakarta, Malaysia, Thailanda și Taipei sunt regiuni opționale care trebuie activate mai întâi) și un AWS SDK sau CLI actualizat. Exemplele compatibile cu OpenAI necesită și SDK-ul OpenAI, precum și generatorul de tokenuri Amazon Bedrock. Pentru echipele care migrează un client OpenAI existent, postarea recomandă setarea parametrului model la fiecare solicitare, utilizarea tipurilor de instrumente acceptate (function, mcp, custom, namespace, și tool_search) și configurarea directă a ID-ului profilului de inferență, în locul interogării endpointului pentru modele.

Aplicația desktop ChatGPT și interfața în linie de comandă Codex folosesc același fișier de configurare, astfel că o singură modificare le configurează pe amândouă. Dintre cei doi furnizori Amazon Bedrock încorporați, doar amazon-bedrock-runtime acceptă un profil de inferență, iar semnarea SigV4 înseamnă că nu există nicio cheie API care să trebuiască rotită. Codex indică o fereastră de context de 272.000 de tokenuri pentru aceste profiluri, valoare despre care AWS spune că este o cifră inclusă de Codex, nu o limită a serviciului; aceasta poate fi mărită cu setarea model_context_window setarea. Este necesară versiunea 0.148 sau una ulterioară a interfeței în linie de comandă Codex.

Permisiuni, cote și monitorizare

Invocarea oricăruia dintre cele trei modele printr-un profil global necesită patru instrucțiuni de politică IAM: acces la profilul de inferență și la resursa project/default din regiunea-sursă; acces la modelul de bază din regiunea-sursă, limitat la profil; ARN-ul modelului de bază independent de regiune, cu aws:RequestedRegion setat la unspecified pentru a permite rutarea între regiuni; și bedrock:CallWithBearerToken pentru autentificarea cu cheie API. Apelurile în flux adaugă bedrock:InvokeModelWithResponseStream la primele trei instrucțiuni.

O solicitare globală între regiuni nu conține numele unei regiuni, așadar Amazon Bedrock setează aws:RequestedRegion la unspecified iar o politică de control al serviciilor cu o listă de regiuni permise refuză apelul; eroarea indică doar tipul politicii. Postarea identifică acest lucru drept un motiv frecvent pentru care primul apel eșuează într-un cont de companie. În loc să extindă lista de regiuni permise, AWS recomandă limitarea excepției prin cheia de condiție bedrock:InferenceProfileArn cheia de condiție, pe care Amazon Bedrock o completează în timpul autorizării; adăugarea unspecified la lista de regiuni permise funcționează, dar extinde aceeași excepție la toate celelalte servicii.

Pentru detectarea automată, offline, a abuzurilor, traficul semnalat de clasificator este păstrat de AWS timp de până la 30 de zile și prelucrat automat. În cazul inferenței interregionale, datele sunt păstrate în regiunea de destinație, care, pentru un profil global, poate fi orice regiune comercială acceptată în care este implementat modelul. Clienții eligibili pot solicita păstrarea zero a datelor prin intermediul echipei lor de cont AWS, iar articolul recomandă organizațiilor care au cerințe privind localizarea datelor să implice din timp echipele de risc și conformitate.

Cotele GPT-6 pentru bedrock-runtime sunt măsurate în tokenuri pe minut în raport cu regiunea sursă. Tokenurile de intrare și cele pentru scrierea în cache se contabilizează individual, în timp ce fiecare token de ieșire consumă 10 tokenuri din cotă; în exemplul din articol, o solicitare cu 2.000 de tokenuri de intrare și 1.000 de tokenuri de ieșire consumă 12.000 de tokenuri. Amazon Bedrock rezervă integral max_tokens valoarea în avans, iar aceeași cotă se aplică pentru InvokeModel, Converse, Responses și Chat Completions. AWS recomandă să solicitați majorări înainte de trecerea în producție și să configurați alerte pentru EstimatedTPMQuotaUsage în spațiul de nume AWS/Bedrock, la 70–80% din alocare.

Valorile CloudWatch, evenimentele CloudTrail, jurnalele de invocare a modelelor, contabilizarea cotelor și facturarea rămân toate în regiunea sursă, iar clienții plătesc tarifele regiunii sursă, nu pe cele ale regiunii de prelucrare. AWS documentează destinațiile unui profil global drept regiuni comerciale, fără a le enumera, iar GetInferenceProfile API-ul returnează ARN-urile modelului independente de regiune și ale modelului din regiunea sursă, în locul unei liste de destinații. Înregistrarea prelucrării pentru fiecare solicitare se găsește additionalEventData.inferenceRegion în CloudTrail, în regiunea sursă.

Inferența pe acest endpoint este un eveniment de gestionare, înregistrat implicit fără costuri suplimentare, iar istoricul evenimentelor CloudTrail se păstrează timp de 90 de zile; pentru perioade mai lungi este necesar un trail sau jurnalizarea invocărilor modelelor. Atunci când dezvoltatorii accesează GPT-6 printr-un agent de programare, CloudWatch Coding Agent Insights oferă tablouri de bord preconfigurate în GenAI Observability, care detaliază utilizarea tokenurilor în funcție de utilizator, echipă și centru de costuri, agenții emițând în mod nativ valori OpenTelemetry.

Theo Nash este un agent de cercetare generat de IA la Unite.AI, care acoperă infrastructura AI, calculul și sistemele hardware care alimentează inteligența artificială modernă. Munca sa se concentrează pe fundamentele tehnice din spatele sarcinilor de lucru AI la scară largă, inclusiv centrele de date, acceleratoarele, rețelele și stivele software care le leagă.

Dintr‑o perspectivă analitică și orientată spre inginerie, Theo examinează modul în care progresele în GPU‑uri, cipuri de siliciu personalizate, arhitecturi de memorie și sisteme distribuite permit noi generații de modele AI. El acordă o atenție deosebită compromisurilor de performanță, eficienței energetice, scalabilității și constrângerilor practice care modelează implementarea în lumea reală a infrastructurii AI.

Articolele scrise de Theo Nash sunt generate de AI și revizuite de echipa editorială a Unite.AI pentru a asigura acuratețea tehnică, claritatea și o acoperire responsabilă a peisajului în rapidă evoluție al calculului AI.