Moonshot AI का Kimi K3, Amazon Bedrock पर 1M‑टोकन संदर्भ के साथ आया

Moonshot AI का Kimi K3, एक ओपन‑वेट मॉडल जिसे उसके डेवलपर ने 2.8 ट्रिलियन पैरामीटर तक पहुँचने वाला पहला ओपन मॉडल बताया है, 18 सितंबर 2026 को Amazon Bedrock पर उपलब्ध हुआ, जिससे कोडिंग और ज्ञान कार्य के लिए एक नया विकल्प जुड़ गया।

Amazon Web Services ने लॉन्च की घोषणा AWS Machine Learning Blog पर की। Moonshot AI के अनुसार, Kimi K3 उनका सबसे सक्षम मॉडल है, जो मूल विज़न क्षमताओं को 1‑मिलियन‑टोकन संदर्भ विंडो के साथ जोड़ता है और Kimi K2 की तुलना में लगभग 2.5 गुना स्केलिंग दक्षता सुधार प्रदान करता है।

Moonshot AI के Kimi K3 पर तकनीकी लेख में, कंपनी बताती है कि मॉडल दो वास्तुशिल्प अपडेट्स पर निर्मित है जिन्हें वह Kimi Delta Attention और Attention Residuals कहती है, जो अनुक्रम लंबाई और मॉडल गहराई में सूचना प्रवाह को बेहतर बनाने के लिए डिज़ाइन किए गए हैं। Kimi K3 मिश्रित‑विशेषज्ञ (mixture‑of‑experts) डिज़ाइन का उपयोग करता है जिसे कंपनी Stable LatentMoE कहती है, जो प्रभावी रूप से 896 में से 16 विशेषज्ञों को सक्रिय करता है, और सुपरवाइज़्ड फाइन‑ट्यूनिंग चरण से क्वांटाइज़ेशन‑अवेयर प्रशिक्षण लागू करता है, MXFP4 वज़न के साथ MXFP8 सक्रियणों का उपयोग करता है। कंपनी यह बताती है कि लगभग 2.5 गुना स्केलिंग‑दक्षता सुधार उनके पूर्व मॉडल की तुलना में इन संरचनात्मक बदलावों और परिष्कृत प्रशिक्षण व डेटा रेसिपी के संयोजन के कारण है।

Moonshot AI कहती है कि Kimi K3 का कुल प्रदर्शन अभी भी स्वामित्व वाले Claude Fable 5 और GPT 5.6 Sol मॉडलों से पीछे है, जबकि रिपोर्ट करती है कि Kimi K3 ने अपने मूल्यांकन सूट में अग्रणी‑स्तर के परिणाम प्रदान किए और लगातार अन्य परीक्षणित मॉडलों से बेहतर प्रदर्शन किया। कंपनी सीमाओं की भी सूची देती है: मॉडल को एक संरक्षित सोच इतिहास मोड में प्रशिक्षित किया गया था, इसलिए यदि एजेंट हार्नेस ऐतिहासिक सोच सामग्री को वापस नहीं भेज पाता तो उत्पन्न गुणवत्ता अस्थिर हो सकती है, और दीर्घ‑होराइज़न कार्यों पर इसका जोर उपयोगकर्ता के निर्देश अस्पष्ट होने पर उसकी ओर से अप्रत्याशित निर्णय लेने का कारण बन सकता है, जिसे कंपनी कहती है कि सिस्टम प्रॉम्प्ट में अधिक स्पष्ट व्यवहारिक प्रतिबंधों की आवश्यकता हो सकती है।

Moonshot AI ने मूल रूप से Kimi K3 को जुलाई 2026 में पेश किया, उस समय कहा कि पूर्ण मॉडल वज़न 27 जुलाई 2026 तक जारी किए जाएंगे। उस परिचय के दौरान, मॉडल Moonshot AI के अपने चैनलों के माध्यम से उपलब्ध कराया गया: Kimi ऐप, Kimi Work डेस्कटॉप एप्लिकेशन, Kimi Code टर्मिनल टूल, और Kimi API।

Amazon Bedrock पर ओपन‑वेट मॉडल और डेटा हैंडलिंग

AWS ने कहा कि यह लॉन्च सेवा पर ओपन‑वेट मॉडलों में निरंतर निवेश को दर्शाता है। 2025 से, Bedrock ने DeepSeek, Google, MiniMax, Mistral AI, Moonshot AI, NVIDIA, OpenAI, और Qwen सहित कई प्रदाताओं से दर्जनों ओपन‑वेट मॉडल जोड़े हैं। 2026 में, Bedrock ने टूल कॉलिंग, संरचित आउटपुट, रीजनिंग, रिस्पॉन्स स्ट्रीमिंग, और Responses तथा Chat Completions API को प्लेटफ़ॉर्म क्षमताओं के रूप में समर्थन जोड़ा, न कि प्रति‑मॉडल इंटीग्रेशन के रूप में, ताकि नए ओपन‑वेट मॉडल उन्हें उपलब्ध होते ही उपयोग कर सकें।

AWS बताता है कि Amazon Bedrock पर सभी ओपन‑वेट मॉडलों की तरह, ग्राहक डेटा AWS डेटा सीमा के भीतर प्रोसेस किया जाता है, मॉडल प्रदाता के साथ साझा नहीं किया जाता, और आधारभूत मॉडल को प्रशिक्षित करने के लिए उपयोग नहीं किया जाता। अनुमान अनुरोधों के लिए हमेशा शून्य डेटा रिटेंशन सक्षम रहता है, और शून्य ऑपरेटर एक्सेस AWS ऑपरेटरों को अनुमान के दौरान प्रॉम्प्ट और पूर्णताओं तक पहुँचने से रोकता है।

Amazon Bedrock के दस्तावेज़ में Kimi K3 को सेवा में उपलब्ध तीन Moonshot AI मॉडलों में से एक के रूप में सूचीबद्ध किया गया है, साथ ही Kimi K2.5, एक मल्टीमॉडल मॉडल जिसमें उन्नत रीजनिंग, कोडिंग, और बहुभाषी क्षमताएँ हैं, और Kimi K2 Thinking, एक रीजनिंग मॉडल जिसमें जटिल गणित, कोडिंग, और लॉजिक समस्याओं के समाधान के लिए चेन‑ऑफ़‑थॉट क्षमताएँ हैं।

कंसोल एक्सेस, API, और इन्फ़रेंस प्रोफ़ाइल

उपयोगकर्ता Amazon Bedrock कंसोल में Test > Playground के तहत Kimi K3 को आज़मा सकते हैं, या इसे प्रोग्रामेटिक रूप से bedrock-runtime एंडपॉइंट के माध्यम से कॉल कर सकते हैं। एंडपॉइंट OpenAI-संगत Responses और Chat Completions API के साथ-साथ Amazon Bedrock Invoke और Converse API का समर्थन करता है।

मॉडल को क्रॉस‑रीजन इन्फ़रेंस प्रोफ़ाइल के माध्यम से बुलाया जाता है। बिना क्षेत्रीय प्रतिबंधों वाले कार्यभार के लिए, AWS ग्लोबल प्रोफ़ाइल, global.moonshotai.kimi-k3, की सिफ़ारिश करता है, जो प्रत्येक अनुरोध को विश्व स्तर पर किसी भी समर्थित व्यावसायिक AWS रीजन में रूट करता है और AWS के अनुसार, यह भू‑प्रोफ़ाइल की तुलना में लगभग 10 % कम लागत वाला है। US भू‑प्रोफ़ाइल, us.moonshotai.kimi-k3, डेटा रेजिडेंसी आवश्यकताओं के लिए प्रोसेसिंग को संयुक्त राज्य अमेरिका के भीतर रखती है।

AWS द्वारा सूचीबद्ध पूर्वापेक्षाएँ एक सक्रिय AWS खाता जिसमें Amazon Bedrock एक्सेस हो, Python 3.10 या बाद का संस्करण, और bedrock:InvokeModel, bedrock:InvokeModelWithResponseStream, तथा bedrock:CreateInference के लिए AWS Identity and Access Management अनुमतियाँ शामिल हैं।

स्पष्ट प्रॉम्प्ट कैशिंग और डेवलपर टूलिंग

AWS के अनुसार, Kimi K3 Amazon Bedrock पर पहला ओपन‑वेट मॉडल है जो स्पष्ट प्रॉम्प्ट कैशिंग को सपोर्ट करता है, जो रिपॉज़िटरी निर्देश, टूल परिभाषाएँ, या रेफ़रेंस दस्तावेज़ जैसी स्थिर संदर्भ को बार‑बार पुनः भेजने वाले दीर्घकालिक कोडिंग और ज्ञान कार्यप्रवाहों को लक्षित करता है। A prompt_cache_breakpoint मार्कर कम से कम 1,024 टोकन के बाद पुन: उपयोग योग्य प्रॉम्प्ट प्रीफ़िक्स के सटीक अंत को निर्दिष्ट कर सकता है। स्पष्ट मोड में, कैश में लिखे गए टोकन को उच्च दर पर बिल किया जाता है लेकिन उन्हें कम से कम 30 मिनट तक कैश में रखा जाता है। बाद के अनुरोध जो कैश्ड प्रीफ़िक्स से मेल खाते हैं, उन्हें रियायती इनपुट दर पर बिल किया जाता है और इनपुट‑टोकन‑प्रति‑मिनट कोटा में गिना नहीं जाता।

सीधे API उपयोग से परे, मॉडल Amazon Bedrock को समर्थन देने वाले टूलिंग के माध्यम से काम करता है। AWS OpenCode को उजागर करता है, जो एक ओपन‑सोर्स और मॉडल‑अज्ञेय कोडिंग एजेंट है, जिसमें एक मूल amazon-bedrock प्रदाता है जो Converse API का उपयोग करता है, और Hermes Agent, एक ओपन‑सोर्स उत्पादकता सहायक जो मूल रूप से Amazon Bedrock पर मॉडल्स को समर्थन देता है। AWS ने GitHub पर Moonshot AI on AWS सैंपल्स रिपॉजिटरी भी प्रकाशित की है, जिसमें अतिरिक्त उदाहरण शामिल हैं।

Kimi K3 US Geo और Global क्रॉस‑Region इन्फ़रेंस प्रोफ़ाइल्स के माध्यम से उपलब्ध है, और Bedrock दस्तावेज़ीकरण में समर्थित क्षेत्रों की पूरी सूची दी गई है।