एआई मॉडल और प्लेटफ़ॉर्म

AWS ने Amazon Bedrock पर GPT-6 की उपलब्धता एशिया-प्रशांत के पाँच क्षेत्रों तक बढ़ाई

mm
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें

Amazon Web Services ने 12 अक्टूबर, 2026 को प्रकाशित AWS मशीन लर्निंग ब्लॉग पोस्ट में कहा कि उसने एशिया-प्रशांत के पाँच स्रोत क्षेत्रों से वैश्विक क्रॉस-रीजन इनफ़रेंस के ज़रिए Amazon Bedrock पर OpenAI के GPT-6 Sol और GPT-6 Luna की उपलब्धता शुरू कर दी है। GPT-6 Astra एशिया-प्रशांत (Singapore) से उपलब्ध है।

यह पोस्ट Thailand, Malaysia, Singapore, Indonesia और Taiwan की टीमों के लिए कॉन्फ़िगरेशन की चरण-दर-चरण जानकारी देती है। इसमें बताया गया है कि कॉल कैसे करें, अनुमतियाँ कैसे तय करें और स्रोत क्षेत्र से इनफ़रेंस की निगरानी कैसे करें। AWS इन प्रोफ़ाइलों को एकल-क्षेत्रीय इनफ़रेंस के विकल्प के रूप में पेश करता है, जिसके बारे में उसका कहना है कि स्थानीय क्षमता से माँग बढ़ने पर इसकी गति सीमित हो सकती है।

वैश्विक क्रॉस-रीजन इनफ़रेंस प्रोफ़ाइलें

तीन प्रोफ़ाइल आईडी इस पर सूचीबद्ध हैं bedrock-runtime एंडपॉइंट। कॉल करने वाले GPT-6 Sol और GPT-6 Luna तक इन माध्यमों से पहुँचते हैं global.openai.gpt-6-sol और global.openai.gpt-6-luna एशिया-प्रशांत (Singapore) ap-southeast-1, एशिया-प्रशांत (Jakarta) ap-southeast-3, एशिया-प्रशांत (Malaysia) ap-southeast-5, एशिया-प्रशांत (Thailand) ap-southeast-7 और एशिया-प्रशांत (Taipei) ap-east-2 से। GPT-6 Astra तक पहुँचने के लिए global.openai.gpt-6-astra का इस्तेमाल केवल Singapore से किया जा सकता है। गंतव्य क्षेत्र वे समर्थित वाणिज्यिक AWS क्षेत्र हैं जहाँ प्रत्येक मॉडल तैनात है। Amazon Bedrock कंसोल में तीनों प्रोफ़ाइलें सिस्टम-परिभाषित इनफ़रेंस प्रोफ़ाइलों के अंतर्गत सूचीबद्ध हैं।

वैश्विक क्रॉस-रीजन इनफ़रेंस में, कॉल करने वाला मॉडल आईडी की जगह प्रोफ़ाइल आईडी भेजता है। स्रोत क्षेत्र वह होता है जहाँ API कॉल की जाती है। Amazon Bedrock प्रोसेसिंग के लिए गंतव्य क्षेत्र चुनता है, जबकि बिलिंग, कोटा ट्रैकिंग, AWS CloudTrail और Amazon CloudWatch स्रोत क्षेत्र में ही रहते हैं। AWS के अनुसार, इस व्यवस्था से विभिन्न क्षेत्रों में Amazon Bedrock की क्षमता तक व्यापक पहुँच मिलती है।

AWS तीनों मॉडलों को उनके कार्यभार के आधार पर इस तरह बताता है: जटिल कार्यों में तर्क-विचार और कोडिंग के लिए GPT-6 Sol, बड़े पैमाने पर केंद्रित और बार-बार किए जाने वाले कार्यों के लिए GPT-6 Luna, और जटिल तर्क-विचार, कोडिंग तथा लंबे दस्तावेज़ों पर काम के लिए GPT-6 Astra। पोस्ट के अनुसार, तीनों मॉडल टेक्स्ट और छवि इनपुट, क्लाइंट-साइड टूल के इस्तेमाल और प्रॉम्प्ट कैशिंग को स्वीकार करते हैं। तर्क-विचार के प्रयास के स्तरों में वे अलग हैं: Sol और Luna में none से max तक की सेटिंग उपलब्ध हैं, जबकि Astra में none को छोड़कर यही स्तर उपलब्ध हैं।

एक्सेस के तरीके और कोडिंग क्लाइंट

हर मॉडल इस पर पहुँच के तीन तरीकों का समर्थन करता है bedrock-runtime: Amazon Bedrock Converse API, OpenAI Responses API और OpenAI Chat Completions API। OpenAI-संगत APIs को इन पर कॉल किया जाता है /openai/v1 पाथ पर, AWS SDKs के बजाय। इनमें Signature Version 4 साइनिंग या Amazon Bedrock API कुंजी, दोनों में से किसी एक का इस्तेमाल किया जा सकता है। हर स्थिति में प्रोफ़ाइल आईडी को मॉडल पैरामीटर के रूप में भेजा जाता है।

ज़रूरी शर्तों में प्रोफ़ाइल को चलाने की अनुमति वाली IAM पहचान, सक्रिय स्रोत क्षेत्र (Singapore डिफ़ॉल्ट रूप से सक्षम है, जबकि Jakarta, Malaysia, Thailand और Taipei ऐसे क्षेत्र हैं जिन्हें पहले सक्रिय करना होता है) और AWS SDK या CLI का मौजूदा संस्करण शामिल हैं। OpenAI-संगत उदाहरणों के लिए OpenAI SDK और Amazon Bedrock टोकन जनरेटर भी ज़रूरी हैं। मौजूदा OpenAI क्लाइंट को स्थानांतरित करने वाली टीमों को पोस्ट में सलाह दी गई है कि वे हर अनुरोध में मॉडल पैरामीटर सेट करें, समर्थित टूल प्रकारों का इस्तेमाल करें (function, mcp, custom, namespace, और tool_search) तथा मॉडल एंडपॉइंट से पूछताछ करने के बजाय इनफ़रेंस प्रोफ़ाइल आईडी सीधे कॉन्फ़िगर करें।

ChatGPT डेस्कटॉप ऐप और Codex CLI, दोनों एक ही कॉन्फ़िगरेशन फ़ाइल का इस्तेमाल करते हैं, इसलिए एक बदलाव से दोनों पर असर पड़ता है। Amazon Bedrock के दो अंतर्निर्मित प्रदाताओं में से केवल amazon-bedrock-runtime इनफ़रेंस प्रोफ़ाइल स्वीकार करता है। SigV4 साइनिंग के कारण API कुंजी को बदलने की ज़रूरत नहीं पड़ती। Codex इन प्रोफ़ाइलों के लिए 272,000-टोकन की कॉन्टेक्स्ट विंडो बताता है। AWS के अनुसार, यह Codex का अपना शामिल किया हुआ आँकड़ा है, सेवा की सीमा नहीं; इसे model_context_window सेटिंग से बढ़ाया जा सकता है। कॉन्फ़िगरेशन के लिए Codex CLI 0.148 या उसके बाद का संस्करण ज़रूरी है।

अनुमतियाँ, कोटे और निगरानी

वैश्विक प्रोफ़ाइल के ज़रिए इन तीनों में से किसी भी मॉडल को चलाने के लिए IAM नीति के चार कथन ज़रूरी हैं: स्रोत क्षेत्र में इनफ़रेंस प्रोफ़ाइल और project/default संसाधन तक पहुँच; प्रोफ़ाइल के दायरे में स्रोत क्षेत्र के फ़ाउंडेशन मॉडल तक पहुँच; क्षेत्र-निरपेक्ष फ़ाउंडेशन-मॉडल ARN, जिसमें aws:RequestedRegion को इस मान पर सेट किया गया है unspecified ताकि क्रॉस-रीजन रूटिंग की अनुमति मिल सके; और bedrock:CallWithBearerToken API कुंजी प्रमाणीकरण के लिए। स्ट्रीमिंग कॉल में पहले तीन कथनों के साथ bedrock:InvokeModelWithResponseStream भी जोड़ना पड़ता है।

वैश्विक क्रॉस-रीजन अनुरोध में क्षेत्र का कोई नाम नहीं होता, इसलिए Amazon Bedrock aws:RequestedRegion को इस पर सेट करता है unspecified और यदि क्षेत्र की अनुमति-सूची वाली सेवा नियंत्रण नीति कॉल को अस्वीकार करती है, तो त्रुटि संदेश में केवल नीति का प्रकार बताया जाता है। पोस्ट के अनुसार, किसी एंटरप्राइज़ खाते में पहली कॉल विफल होने की यह एक आम वजह है। अनुमति-सूची का दायरा बढ़ाने के बजाय, AWS अपवाद का दायरा सीमित करने के लिए इस bedrock:InferenceProfileArn कंडीशन की का इस्तेमाल करने की सलाह देता है, जिसे Amazon Bedrock प्राधिकरण के दौरान भरता है। unspecified को अनुमति-सूची में जोड़ने से काम हो जाता है, लेकिन इससे यही अपवाद हर दूसरी सेवा पर भी लागू हो जाता है।

स्वचालित ऑफ़लाइन दुरुपयोग का पता लगाने के लिए, क्लासिफ़ायर द्वारा चिह्नित ट्रैफ़िक को AWS अधिकतम 30 दिनों तक अपने पास रखता है और उसका प्रोग्रामेटिक तरीके से प्रसंस्करण करता है। क्रॉस-रीजन अनुमान के तहत, यह डेटा गंतव्य क्षेत्र में रखा जाता है। ग्लोबल प्रोफ़ाइल के लिए गंतव्य क्षेत्र कोई भी समर्थित वाणिज्यिक क्षेत्र होता है, जहाँ मॉडल परिनियोजित है। पात्र ग्राहक अपनी AWS खाता टीम के माध्यम से डेटा को पूरी तरह से शून्य अवधि तक रखने का अनुरोध कर सकते हैं। पोस्ट में सलाह दी गई है कि डेटा-निवास संबंधी आवश्यकताओं वाले संगठन जोखिम और अनुपालन टीमों को शुरुआती चरण में ही शामिल करें।

GPT-6 पर कोटा bedrock-runtime स्रोत क्षेत्र के लिए प्रति मिनट टोकन में मापा जाता है। इनपुट और कैश-लेखन टोकन एक-एक गिने जाते हैं, जबकि प्रत्येक आउटपुट टोकन कोटे के 10 टोकन खर्च करता है; पोस्ट के उदाहरण में, 2,000 इनपुट टोकन और 1,000 आउटपुट टोकन वाले अनुरोध से 12,000 टोकन खर्च हो जाते हैं। Amazon Bedrock पूरी max_tokens मात्रा पहले ही आरक्षित कर लेता है, और एक ही कोटा InvokeModel, Converse, Responses और Chat Completions पर लागू होता है। AWS उत्पादन में उपयोग से पहले कोटा बढ़ाने का अनुरोध करने और EstimatedTPMQuotaUsage AWS/Bedrock नेमस्पेस में आवंटन के 70–80 प्रतिशत पर अलर्ट सेट करने की सलाह देता है।

CloudWatch मेट्रिक्स, CloudTrail इवेंट, मॉडल इनवोकेशन लॉग, कोटा का हिसाब और बिलिंग—सब स्रोत क्षेत्र में ही रहते हैं। ग्राहकों से प्रसंस्करण क्षेत्र की दरों के बजाय स्रोत क्षेत्र की दरें ली जाती हैं। AWS ग्लोबल प्रोफ़ाइल के गंतव्यों को सूचीबद्ध करने के बजाय उन्हें अपने वाणिज्यिक क्षेत्रों के रूप में बताता है, और GetInferenceProfile API गंतव्यों की सूची के बजाय क्षेत्र-निरपेक्ष और स्रोत-क्षेत्र वाले मॉडल ARN लौटाता है। प्रति-अनुरोध प्रसंस्करण रिकॉर्ड additionalEventData.inferenceRegion स्रोत क्षेत्र के CloudTrail में होता है।

इस एंडपॉइंट पर अनुमान एक प्रबंधन इवेंट है, जिसे बिना किसी अतिरिक्त लागत के डिफ़ॉल्ट रूप से लॉग किया जाता है। CloudTrail Event History में 90 दिनों तक रिकॉर्ड रखे जाते हैं, इसलिए इससे लंबी अवधि के लिए ट्रेल या मॉडल इनवोकेशन लॉगिंग की आवश्यकता होती है। जब डेवलपर किसी कोडिंग एजेंट के ज़रिए GPT-6 का उपयोग करते हैं, तो CloudWatch Coding Agent Insights, GenAI Observability के अंतर्गत तैयार डैशबोर्ड उपलब्ध कराता है। ये डैशबोर्ड उपयोगकर्ता, टीम और लागत केंद्र के आधार पर टोकन उपयोग का विवरण देते हैं, जबकि एजेंट मूल रूप से OpenTelemetry मेट्रिक्स उत्सर्जित करते हैं।

Theo Nash एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो AI इन्फ्रास्ट्रक्चर, कंप्यूट, और आधुनिक कृत्रिम बुद्धिमत्ता को शक्ति देने वाले हार्डवेयर सिस्टम को कवर करते हैं। उनका काम बड़े पैमाने पर AI वर्कलोड्स के तकनीकी आधार पर केंद्रित है, जिसमें डेटा सेंटर, एक्सेलेरेटर, नेटवर्किंग, और उन्हें जोड़ने वाले सॉफ्टवेयर स्टैक शामिल हैं।

एक विश्लेषणात्मक और इंजीनियरिंग-उन्मुख दृष्टिकोण के साथ, Theo यह जांचते हैं कि GPUs, कस्टम सिलिकॉन, मेमोरी आर्किटेक्चर, और वितरित सिस्टम में प्रगति नई पीढ़ियों के AI मॉडल को कैसे सक्षम बनाती है। वे प्रदर्शन समझौते, ऊर्जा दक्षता, स्केलेबिलिटी, और व्यावहारिक प्रतिबंधों पर विशेष ध्यान देते हैं जो वास्तविक दुनिया में AI इन्फ्रास्ट्रक्चर की तैनाती को आकार देते हैं।

Theo Nash द्वारा लिखे गए लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा तकनीकी शुद्धता, स्पष्टता, और तेजी से विकसित हो रहे AI कंप्यूट परिदृश्य की जिम्मेदार कवरेज सुनिश्चित करने के लिए समीक्षित किए जाते हैं।