एआई मॉडल और प्लेटफ़ॉर्म
AWS ने Kimi K3.1 Pro Highspeed को Amazon Bedrock पर उपलब्ध कराया
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
Amazon Web Services ने 10 नवंबर, 2026 को Moonshot AI के Kimi K3.1 Pro Highspeed को Amazon Bedrock पर उपलब्ध कराया। इसके ज़रिए वैश्विक, अमेरिका और भारत के इन्फ़रेंस प्रोफ़ाइलों में 10 लाख टोकन की संदर्भ विंडो मिलती है। Moonshot AI के मुताबिक, Highspeed संस्करण K3.1 Pro की तुलना में दो से तीन गुना तेज़ी से आउटपुट तैयार करता है।
मूल मॉडल 4 नवंबर, 2026 को लॉन्च हुआ था, यानी Bedrock पर उपलब्ध होने से पहले। K3.1 Pro, Kimi K3 का पोस्ट-ट्रेंड संस्करण है। इसमें 3T-क्लास ओपन-वेट आर्किटेक्चर और संदर्भ विंडो बरकरार हैं, जबकि पोस्ट-ट्रेनिंग के लिए काफ़ी अधिक कंप्यूट का इस्तेमाल किया गया है। Moonshot AI का कहना है कि अतिरिक्त प्रशिक्षण का लक्ष्य लंबी अवधि तक चलने वाले एजेंटिक कार्यों को बेहतर बनाना और तथ्यात्मक ग़लतियाँ कम करना है। वित्तीय मॉडलिंग, ऑफ़िस दस्तावेज़ों और गेम इंजन, 3D दृश्यों तथा कंप्यूटर-सहायित डिज़ाइन स्क्रिप्ट के लिए कोडिंग में भी सुधार किए गए हैं।
एजेंटिक कोडिंग में किसी एक काम के लिए मॉडल को कई क्रमिक कॉल करने पड़ सकते हैं: फ़ाइलें पढ़ना, बदलाव की योजना बनाना, कोड में संशोधन करना, परीक्षण चलाना और विफलताओं को ठीक करना। आउटपुट टोकन की अधिक दर से हर चरण में टेक्स्ट तैयार करने का समय घट सकता है। Bedrock पर पहले से मौजूद Kimi K3 के कार्यान्वयन में मॉडल ID बदलकर नए मॉडल पर स्विच किया जा सकता है। नया मॉडल उसी एंडपॉइंट और API के ज़रिए टूल कॉलिंग, संरचित आउटपुट, कॉन्फ़िगर किए जा सकने वाले तर्क-विचार, इमेज इनपुट और स्ट्रीमिंग का समर्थन करता है। AWS यह भी दिखाता है कि ओपन-सोर्स टर्मिनल कोडिंग एजेंट OpenCode को Chat Completions और Bedrock API key के ज़रिए कैसे जोड़ा जा सकता है।
एक्सेस और डेटा का स्थानीयकरण
डेवलपर OpenAI-संगत Chat Completions और Responses API या Bedrock के Converse और Invoke API के ज़रिए मॉडल को कॉल कर सकते हैं। AWS, Chat Completions का इस्तेमाल करने की सलाह देता है। वैश्विक क्रॉस-रीजन इन्फ़रेंस प्रोफ़ाइल अनुरोधों को किसी भी समर्थित वाणिज्यिक AWS क्षेत्र में भेजती है, जबकि अमेरिका और भारत के प्रोफ़ाइल डेटा-स्थानीयकरण की ज़रूरतों के लिए अनुरोधों को अपने-अपने भौगोलिक क्षेत्रों तक सीमित रखते हैं। भारत के अनुरोध मुंबई और हैदराबाद के बीच भेजे जाते हैं।
AWS के अनुसार, इन्फ़रेंस डेटा AWS की डेटा सीमा के भीतर रहता है, Moonshot AI के साथ साझा नहीं किया जाता और मॉडल को प्रशिक्षित करने के लिए इस्तेमाल नहीं होता। इन्फ़रेंस अनुरोधों के लिए डेटा प्रतिधारण हमेशा शून्य पर सेट रहता है, और इन्फ़रेंस के दौरान AWS ऑपरेटर प्रॉम्प्ट या पूरे किए गए अनुरोधों को नहीं देख सकते।
मूल्य निर्धारण और लागत नियंत्रण
स्टैंडर्ड स्तर की दरें अनुरोधों को भेजने वाले प्रोफ़ाइल पर निर्भर करती हैं। नीचे दी गई सभी कीमतें प्रति 10 लाख टोकन के लिए हैं:
| इन्फ़रेंस प्रोफ़ाइल | इनपुट | आउटपुट | कैश से पढ़ना | कैश में लिखना (30 मिनट) |
|---|---|---|---|---|
| वैश्विक क्रॉस-रीजन | $4.00 | $20.00 | $0.20 | $5.00 |
| अमेरिका क्रॉस-रीजन | $4.40 | $22.00 | $0.22 | $5.50 |
| भारत क्रॉस-रीजन | $4.40 | $22.00 | $0.22 | $5.50 |
Bedrock के मूल्य निर्धारण पृष्ठ पर, इससे पहले के Kimi K3 की वैश्विक स्टैंडर्ड इन्फ़रेंस दर इनपुट के प्रति 10 लाख टोकन के लिए $3.00 और आउटपुट के प्रति 10 लाख टोकन के लिए $15.00 दी गई है। इसलिए नए मॉडल की इनपुट और आउटपुट दरें अधिक हैं, हालाँकि वैश्विक स्तर पर कैश से पढ़ने की इसकी दर K3 की प्रति 10 लाख टोकन के लिए $0.30 की दर से कम है।
Flex में स्टैंडर्ड दर की आधी कीमत पर इन्फ़रेंस मिलता है, लेकिन जवाब आने में अधिक समय लग सकता है। वहीं, Priority पर 75% अतिरिक्त शुल्क लगता है। हर अनुरोध के लिए स्तर चुना जा सकता है, इसलिए कोई ऐप सामान्य ट्रैफ़िक के लिए Standard, कम विलंबता वाले ज़रूरी अनुरोधों के लिए Priority और मूल्यांकन, सारांशीकरण या बैकग्राउंड एजेंट के काम के लिए Flex इस्तेमाल कर सकता है।
स्पष्ट प्रॉम्प्ट कैशिंग से सिस्टम निर्देशों, टूल परिभाषाओं और रिपॉज़िटरी के नियमों जैसी बार-बार इस्तेमाल होने वाली संदर्भ सामग्री को संभाला जा सकता है। हर ब्रेकपॉइंट से पहले कम-से-कम 256 टोकन की स्थिर सामग्री होनी चाहिए। यह सुविधा Responses, Chat Completions और Invoke पर काम करती है, लेकिन Converse पर नहीं। कैश से पढ़ने पर छूट मिलती है और यह प्रति मिनट इनपुट टोकन की सीमा में नहीं गिना जाता, जबकि कैश में लिखने की लागत सामान्य इनपुट से अधिक होती है।
तर्क-विचार और अनुकूलता की सीमाएँ
मॉडल कार्ड में तर्क-विचार के लिए none, low, medium, high, xhigh और max सेटिंग उपलब्ध हैं; डिफ़ॉल्ट रूप से max इस्तेमाल होता है। none चुनने पर उस अनुरोध के लिए तर्क-विचार बंद हो जाता है। कम प्रयास वाली सेटिंग से विलंबता और टोकन की खपत घट सकती है, लेकिन इसके बदले कार्य-प्रदर्शन प्रभावित हो सकता है। इसलिए लागत के प्रति संवेदनशील कार्यभार के लिए डिफ़ॉल्ट सेटिंग पर ध्यान देना ज़रूरी है।
स्पष्ट कैशिंग का समर्थन न होने के अलावा, Converse पर कुछ और सीमाएँ भी हैं। कई चरणों वाले अनुरोध में पहले के चरणों की तर्क-विचार सामग्री शामिल होने पर यह आंतरिक सर्वर त्रुटि दे सकता है। इससे LangChain और Strands Agents जैसे फ़्रेमवर्क की डिफ़ॉल्ट सेटिंग प्रभावित होती हैं। AWS की सलाह है कि Converse के कई चरणों वाले अनुरोधों से पहले के तर्क-विचार ब्लॉक हटा दिए जाएँ। Converse के साथ संलग्न PDF और HTML दस्तावेज़ भी स्वीकार नहीं होते, और Bedrock इस मॉडल के लिए वीडियो इनपुट का समर्थन नहीं करता।
bedrock-runtime एंडपॉइंट पर हर आउटपुट टोकन के लिए लागू खाते की कोटा से 10 टोकन भी खर्च होते हैं। यह प्रति टोकन बिल से अलग क्षमता-संबंधी पहलू है।
K3 का इस्तेमाल कर रहे लोगों के लिए नए मॉडल पर जाने में कोड में बहुत कम बदलाव करना पड़ता है, लेकिन परिचालन संबंधी समझौते अनुकूलता तक सीमित नहीं हैं। इससे क्रमिक एजेंट कार्य तेज़ी से पूरे हो सकते हैं; इसके विपरीत, इनपुट और आउटपुट की ऊँची कीमतें, तर्क-विचार के कारण टोकन की खपत और कोटा का इस्तेमाल ध्यान में रखना होगा। इन ज़रूरतों के बीच संतुलन बनाने के लिए AWS, Flex, कैशिंग और प्रयास-स्तर की सेटिंग उपलब्ध कराता है।
