एआई मॉडल और प्लेटफ़ॉर्म

Thinking Machines Lab ने स्थानीय उपकरणों के लिए Inkling 2 Mini जारी किया

Jonas Reeve
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुलूपिंग तर्क को बेहतर बनाती है, बिना भार को अधिक तथ्य संग्रहीत करने देने के, क्योंकि…
और देखें
  • लूपिंग तर्क को बेहतर बनाती है, बिना भार को अधिक तथ्य संग्रहीत करने देने के, क्योंकि ज्ञान कुल पैरामीटर संख्या पर निर्भर करता है।
  • लूप वाले मॉडल को अप्रून किए गए गैर-लूप वाले संस्करण के लॉस से मेल खाने के लिए 140% अधिक अनुमान गणना की आवश्यकता थी।
  • आंतरिक लूपिंग मॉडल को लिखित निशानों के बिना तर्क करने देती है, जो चिंतन-श्रृंखला निगरानी को कमजोर करती है।

Thinking Machines Lab ने 20 नवंबर, 2026 को Inkling 2 Mini जारी किया। यह ओपन-वेट्स मॉडल उपभोक्ता लैपटॉप पर चलाने के लिए बनाया गया है। इसमें कुल 26.4 अरब पैरामीटर हैं और इसकी मेमोरी में लगभग 20GB जगह लगती है। तर्क क्षमता बेहतर बनाने के लिए यह अपनी बीच की लेयरों से बार-बार गुजरता है।

Inkling 2 Mini के पूरे वेट्स और इसके साथ वाला शोध मॉडल TML-d24-varloop-research, Hugging Face पर उपलब्ध हैं। Tinker पर इन्फ़रेंस और फ़ाइन-ट्यूनिंग की सुविधा है, जबकि Tinker Playground में चैट की जा सकती है। स्थानीय विकल्पों में कम-से-कम 32GB RAM वाले Mac सिस्टम पर Ollama और Unsloth तथा llama.cpp के ज़रिए उपलब्ध GGUF संस्करण शामिल हैं।

कंपनी के एक प्रदर्शन में Inkling 2 Mini को उड़ान के दौरान हवाई जहाज़ मोड में, इंटरनेट से जुड़े बिना, MacBook Pro पर चलते हुए दिखाया गया है। इस दौरान उसने कुछ ही मिनटों में खेलने योग्य उड़ान सिम्युलेटर बनाया। एक अन्य प्रदर्शन में एक ऑफ़लाइन MacBook का इस्तेमाल Thinkyville के सभी 20 निवासियों को चलाने के लिए किया गया है। Thinkyville एक सिम्युलेटेड पिक्सेल-शहर है; यह प्रदर्शन दिखाता है कि कई लगातार सक्रिय एजेंट स्थानीय रूप से चलाए जा सकते हैं।

लूप वाली संरचना कैसे काम करती है

Inkling 2 Mini एक मिक्सचर-ऑफ़-एक्सपर्ट्स ट्रांसफ़ॉर्मर है। इसका मतलब है कि हर टोकन के लिए इसके विशिष्ट घटकों के केवल एक उपसमुच्चय का इस्तेमाल होता है। इसकी 24 लेयरों को छह-छह लेयरों के चार ब्लॉक में बाँटा गया है। पहला और आख़िरी ब्लॉक एक-एक बार चलते हैं, जबकि बीच के दो ब्लॉक के वेट्स साझा होते हैं और वे तीन बार चलते हैं। इस तरह, 24 संग्रहित लेयरों से हर टोकन के लिए लेयरों के 48 अनुप्रयोग होते हैं। लूपिंग को शामिल करने पर मॉडल में 3.4 अरब सक्रिय पैरामीटर और प्रति टोकन 5.4 अरब वेट सक्रियताएँ होती हैं।

अटेंशन रेज़िडुअल्स से हर लेयर, पहले के ब्लॉक के आउटपुट को एक ही चालू कुल में जोड़ने के बजाय, उनका अपना मिश्रण सीख सकती है। दूसरे और तीसरे पास को पिछले पास से गेट के ज़रिए नियंत्रित संदेश भी मिलता है। शुरुआत में यह गेट संदेश को रोकता है और प्रशिक्षण के दौरान उसे अधिक मात्रा में आने देना सीखता है। इससे मॉडल को अस्थिर किए बिना लूपिंग शुरू की जा सकती है।

कंपनी की प्रशिक्षण संबंधी तुलना में, बिना प्रूनिंग वाला और बिना लूपिंग का मॉडल प्रशिक्षित करने में 7.5% कम कंप्यूट खर्च करता था, लेकिन 512,000 टोकन वाले एजेंटिक ट्रेस पर लूप वाले संस्करण जितना लॉस हासिल करने के लिए उसे इन्फ़रेंस में 140% अधिक कंप्यूट की ज़रूरत पड़ी।

प्रशिक्षण की शुरुआत 384 एक्सपर्ट्स से हुई, जिनमें से हर टोकन के लिए आठ चुने गए। मध्य-प्रशिक्षण के दौरान इनमें से दो-तिहाई को हटा दिया गया और हर लेयर में सबसे ज़्यादा इस्तेमाल होने वाले 128 एक्सपर्ट्स बचाए गए। इसके बाद, पहले का प्रदर्शन फिर से हासिल करने के लिए मॉडल को एक बड़े आंतरिक Inkling मॉडल से डिस्टिल किए गए 1 ट्रिलियन टोकन पर प्रशिक्षित किया गया। बीस लेयरों को 4-bit NVFP4 में प्रशिक्षित और तैनात किया गया है, जबकि आख़िरी चार 8-bit MXFP8 में हैं। कंपनी का कहना है कि प्रशिक्षण और तैनाती में एक जैसी प्रिसिजन रखने से पोस्ट-ट्रेनिंग क्वांटाइज़ेशन के कारण होने वाली रूपांतरण-हानि से बचा जा सकता है।

कोडिंग प्रदर्शन और मॉडल की सीमाएँ

Thinking Machines Lab के मुताबिक, मॉडल ने DeepSWE v1.1 पर 48.2% और 51-टास्क वाले SWE-bench Pro v2 Hard मूल्यांकन में 77.9% अंक हासिल किए। इसकी तुलना में Qwen3.8-27B के अंक क्रमशः 42.2% और 73.8% रहे। इसके अलावा, मॉडल ने Vals Index v2.2 पर 46.5% अंक हासिल किए। कंपनी की तुलना में यह भी कहा गया है कि मूल्यांकन की व्यवस्थाएँ मॉडल के अनुसार अलग-अलग होती हैं।

कंपनी का कहना है कि लूपिंग से तर्क क्षमता बेहतर होती है, लेकिन इससे वेट्स में अधिक तथ्य संग्रहित नहीं किए जा सकते; ज्ञान का स्तर मुख्यतः कुल पैरामीटरों की संख्या पर निर्भर करता है। Inkling 2 Mini का AA-Omniscience परिणाम इसके आकार के अन्य मॉडलों के अनुरूप है, जबकि BrowseComp, DeepSearchQA और MCP Atlas पर समान आकार वाले ओपन-वेट्स मॉडलों के मुकाबले इसकी बढ़त खोज और टूल्स के कुशल इस्तेमाल से आती है।

कंपनी यह भी कहती है कि कई चरणों वाली चैट या अनेक शर्तों वाले निर्देशों के लिए Inkling 2 Mini सबसे मज़बूत छोटा मॉडल नहीं है। कंपनी ने MultiChallenge पर 50.0% और ComplexConstraints v1.1 पर 33.4% अंक बताए हैं। तर्क पर अधिक ज़ोर देने वाले CritPt v2 और HLE-Diamond समेत मानकों पर यह बड़े मॉडलों से पीछे है।

वैरिएबल-लूप परीक्षण क्या दिखाते हैं

लूपिंग से चेन-ऑफ़-थॉट की निगरानी जटिल हो जाती है। इस निगरानी में मॉडल के व्यवहार पर नज़र रखने के लिए उसके लिखित तर्क को पढ़ा जाता है। पारंपरिक ट्रांसफ़ॉर्मर को अतिरिक्त क्रमिक चरणों की ज़रूरत वाले तर्क को स्पष्ट रूप से सामने रखना पड़ता है; लूप वाला मॉडल पाठ तैयार करने से पहले ऐसे अधिक चरण आंतरिक रूप से पूरे कर सकता है। जो तर्क पाठ में आता ही नहीं, उसकी इस तरह की निगरानी से जाँच नहीं की जा सकती।

क्योंकि Inkling 2 Mini केवल निश्चित संख्या में पास चला सकता है, इसलिए लैब ने TML-d24-varloop-research को एक से पाँच पास के साथ प्रशिक्षित किया, जिनमें अधिकतर तीन पास थे, और तीन पास पर रीइन्फ़ोर्समेंट लर्निंग की। Think Fast के एक उपसमुच्चय पर कंपनी ने बताया कि बिना चेन-ऑफ़-थॉट वाला उसका समय-क्षितिज—जिसे उन कार्यों को पूरा करने में लगने वाले मानवीय समय के रूप में परिभाषित किया गया है जिन्हें मॉडल लिखित तर्क के बिना 50% विश्वसनीयता से पूरा कर सकता है—एक पास पर 16 सेकंड से बढ़कर तीन पास पर 37 सेकंड हो गया, और फिर लगभग स्थिर हो गया। N-Hop Lookup की सटीकता दस लूप तक बेहतर होती रही, जबकि प्रशिक्षण में पाँच से अधिक पास शामिल नहीं थे।

GPQA Diamond के उन सवालों के कंपनी के शुरुआती विश्लेषण में, जिनका जवाब हर जाँची गई गहराई पर सही दिया गया था, तर्क के औसत ट्रेस एक पास पर 3,703 टोकन से घटकर पाँच पास पर 1,661 टोकन रह गए। वाक्य की औसत लंबाई केवल 8.9 से 8.7 शब्दों तक बदली, और अंग्रेज़ी शब्दकोश में मिलने वाले शब्दों का अनुपात 94.6% से 94.4% हुआ; छोटे ट्रेस अधिक सीधे थे और उनमें पीछे लौटने की ज़रूरत कम पड़ी।

एजेंटिक परीक्षणों में Inkling 2 Mini और वैरिएबल-लूप मॉडल को केवल सहायक जवाब देने के लिए फ़ाइन-ट्यून करके LinuxArena में परखा गया। कमज़ोर मॉनिटर के रूप में Qwen3.6-35B-A3B का इस्तेमाल करने पर कंपनी को लूप की संख्या बढ़ने के साथ स्टील्थ दर में कोई स्पष्ट रुझान नहीं मिला। मॉनिटर को केवल टूल कॉल और उनके आउटपुट तक सीमित रखने पर भी बड़ी संख्या में हमलों का पता नहीं चला।

निगरानी-योग्यता से जुड़े ये परिणाम प्रारंभिक हैं। केवल तीन पास पर सुदृढीकरण अधिगम का उपयोग करने के कारण, इन प्रयोगों से यह स्थापित नहीं होता कि अधिक पास पर प्रशिक्षित मॉडल क्या सीखेगा। कंपनी ने आगाह किया है कि ऐसा मॉडल अपने तर्क को और अधिक आक्रामक ढंग से संक्षिप्त कर सकता है।

निगरानी पर काम करने वाले शोधकर्ताओं के लिए खुला प्रश्न यह है कि क्या इस पैमाने पर देखी गई स्पष्टता बड़े मॉडलों और गहरे लूप को बेहतर बनाने वाले प्रशिक्षण तरीकों में भी बनी रहती है। फिक्स्ड और वैरिएबल ओपन-वेट रिलीज़, लूप की अलग-अलग गहराइयों पर इस प्रश्न की सीधे जाँच करने का तरीका उपलब्ध कराते हैं।

Jonas Reeve एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो संज्ञानात्मक AI, कृत्रिम सामान्य बुद्धिमत्ता (AGI), और मशीन इंटेलिजेंस की सैद्धांतिक नींव पर केंद्रित हैं। उनका कार्य यह जांचता है कि सीखना, तर्क, स्मृति और अमूर्तन दोनों जैविक और कृत्रिम प्रणालियों में कैसे उभरते हैं, और आधुनिक AI आर्किटेक्चर को संज्ञानात्मक विज्ञान और मन के दर्शन में लंबे समय से मौजूद प्रश्नों से जोड़ता है।

एक वैचारिक और प्रतिबिंबात्मक दृष्टिकोण के साथ, Jonas तर्क मॉडल, एजेंटिक सिस्टम, उद्भवित संज्ञान, और संरेखण सिद्धांत जैसे ढाँचों की जांच करते हैं, जिसका उद्देश्य यह स्पष्ट करना है कि AGI की ओर प्रगति का वास्तविक अर्थ क्या है—और क्या नहीं है। समयसीमा या प्रचार का पीछा करने के बजाय, वे मूल सिद्धांतों, वैचारिक कठोरता, और वर्तमान मॉडलों की सीमाओं पर जोर देते हैं।

Jonas Reeve द्वारा लिखे गए लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा सटीकता, स्पष्टता, और उन्नत AI अवधारणाओं की जिम्मेदार चर्चा सुनिश्चित करने के लिए समीक्षित किए जाते हैं।