Nvidia घर के कंप्यूटरों को PAIR के साथ एक AI इन्फ़रेंस क्लस्टर में जोड़ता है

Nvidia ने 3 सितंबर, 2026 को पर्सनल AI राउटर (PAIR) का बीटा जारी किया, एक मुफ्त ओपन-सोर्स सॉफ़्टवेयर जो संगत कंप्यूटरों को घर के नेटवर्क पर जोड़कर स्थानीय AI इन्फ़रेंस के लिए एकल क्लस्टर बनाता है, और एजेंट वर्कलोड्स की अनुरोधों को उपलब्ध मशीनों के बीच रूट करता है।

नाम के बावजूद, PAIR कोई हार्डवेयर राउटर नहीं है और न ही नया इन्फ़रेंस इंजन। Nvidia के तकनीकी ब्लॉग पोस्ट के अनुसार, जो सॉफ़्टवेयर की घोषणा करता है, Ollama और LM Studio जैसे इंजन अभी भी प्रत्येक मॉडल को चुनी हुई मशीन पर चलाते हैं, जबकि PAIR भाग लेने वाले सिस्टमों की खोज करता है, यह ट्रैक करता है कि प्रत्येक तैयार है या नहीं, स्वतंत्र कार्यों को शेड्यूल करता है, और प्रत्येक प्रतिक्रिया को उस एप्लिकेशन को लौटाता है जिसने इसे उत्पन्न किया था।

बीटा क्या समर्थन करता है

PAIR बीटा Windows 11, DGX OS, Ubuntu 14.04, और macOS Tahoe पर चलता है, और x64 तथा arm64 आर्किटेक्चर तीनों ऑपरेटिंग सिस्टम में समर्थित हैं; प्रोजेक्ट के दस्तावेज़ में Windows on ARM को प्रायोगिक बताया गया है। Nvidia के प्रोडक्ट पेज में समर्थित हार्डवेयर के रूप में 20 सीरीज़ से आगे के सभी GeForce RTX GPU, DGX Spark और GB10 सिस्टम, और Apple M4 चिप्स या नवीनतम वाले Macs सूचीबद्ध हैं, साथ ही न्यूनतम 8 GB RAM और 20 GB या अधिक अनुशंसित डिस्क स्पेस। तकनीकी ब्लॉग पोस्ट में अतिरिक्त रूप से Turing आर्किटेक्चर और उसके बाद के RTX PRO वर्कस्टेशन GPU भी सूचीबद्ध हैं।

ऑपरेशन के लिए इंटरनेट कनेक्शन आवश्यक नहीं है, हालांकि मॉडल डाउनलोड करने के लिए इसकी जरूरत होती है। प्रोडक्ट पेज बताता है कि क्लस्टर सेटअप करने के लिए कोई विशेष केबल या रैक की आवश्यकता नहीं है: उपयोगकर्ता सॉफ़्टवेयर डाउनलोड करते हैं, अपने डिवाइस जोड़ते हैं, और उसके माध्यम से अपने AI एप्लिकेशन चलाते हैं। Nvidia PAIR स्रोत कोड को Apache License 2.0 के तहत प्रकाशित करता है, और कहा गया है कि डेवलपर कोड की जांच कर सकते हैं, समस्याएँ रिपोर्ट कर सकते हैं, और खोज, पेयरिंग, रूटिंग, इंजन इंटीग्रेशन, एंडपॉइंट्स और उपयोगकर्ता अनुभव में सुधार में योगदान दे सकते हैं।

GPU को पूल किए बिना रूटिंग

Nvidia PAIR को एक वर्चुअल इन्फ़रेंस राउटर के रूप में वर्णित करता है, न कि हार्डवेयर को मिलाने का तरीका। प्रत्येक अनुरोध को एक योग्य नोड को सौंपा जाता है और वह उसके जीवनकाल तक वहीं रहता है; सॉफ़्टवेयर GPU मेमोरी को पूल नहीं करता, GPU को बड़े लॉजिकल एक्सेलेरेटर में नहीं जोड़ता, एक मॉडल को कई मशीनों में विभाजित नहीं करता, या एक चल रहे इन्फ़रेंस अनुरोध को नोड्स के बीच नहीं बाँटता।

एप्लिकेशन Ollama-समर्थित और OpenAI-समर्थित प्रॉक्सी एंडपॉइंट्स के माध्यम से जुड़ते हैं, जिन्हें PAIR दो इंजनों द्वारा उपयोग किए जाने वाले डिफ़ॉल्ट पोर्ट्स को लेकर बनाता है। Nvidia ने कहा कि इसका मतलब है कि एजेंट हर्नेस पहले से समझे गए इंटरफ़ेस का उपयोग जारी रख सकते हैं, बिना किसी नए क्लस्टर API को एकीकृत किए। एक नोड केवल तब ही अनुरोध के लिए योग्य बनता है जब उस पर समर्थित इंजन सक्षम हो और वही अनुरोधित मॉडल मौजूद हो, और PAIR उन नोड्स को प्राथमिकता देता है जिनमें वह मॉडल पहले से है। क्लस्टर में मॉडल समान होने की आवश्यकता नहीं है; अधिक नोड्स पर समान मॉडल टैग लोड करने से शेड्यूलर के पास बड़ा योग्य पूल बनता है।

प्रत्येक नए अनुरोध के लिए, शेड्यूलर यह मूल्यांकन करता है कि पेयर किया हुआ नोड ऑनलाइन और तैयार है या नहीं, समर्थित इंजन सक्षम है या नहीं, अनुरोधित मॉडल मौजूद है या नहीं, वर्तमान वर्कलोड जिसमें सक्रिय कार्य शामिल हैं, और मौजूदा GPU उपयोग जैसे कोई ग्राफ़िक्स‑इंटेंसिव एप्लिकेशन चल रहा हो। नोड्स उपलब्ध होने पर क्षमता प्रदान कर सकते हैं और आवश्यकता पड़ने पर हट सकते हैं, जैसे लैपटॉप स्लीप मोड में जाता है, बंद होता है, या नेटवर्क से बाहर हो जाता है।

खोज, सुरक्षा, और गोपनीयता

इंस्टॉल करने के बाद, PAIR mDNS के माध्यम से स्थानीय नेटवर्क खोज का उपयोग करके निकटवर्ती सिस्टमों को स्वचालित रूप से खोजता है, और एक नोड को IP पता द्वारा भी जोड़ा जा सकता है। दो मशीनों को पेयर करने के लिए आमंत्रित करने वाली मशीन पर दिखाया गया छह-अंकीय PIN उपयोग किया जाता है और उसे आमंत्रित मशीन में दर्ज किया जाता है। Nvidia ने कहा कि सभी नोड‑टू‑नोड संचार सुरक्षित पेयरिंग स्थापित होने तक अवरुद्ध रहता है, उसके बाद ट्रैफ़िक MTLS और उत्पन्न प्रमाणपत्रों से सुरक्षित किया जाता है। कंपनी इस सॉफ़्टवेयर को निजी स्थानीय इन्फ़रेंस के लिए स्थित करती है, जहाँ प्रॉम्प्ट, फ़ाइलें और एजेंट संदर्भ उपयोगकर्ता के घर के नेटवर्क पर ही रहते हैं, क्लाउड इन्फ़रेंस सेवा को नहीं भेजे जाते। रिपॉज़िटरी के दस्तावेज़ उपयोगकर्ताओं को चेतावनी देते हैं कि अनविश्वसनीय या साझा नेटवर्क पर PAIR को तैनात करने से पहले उसकी सुरक्षा नोट्स पढ़ें, क्योंकि इसमें स्थानीय HTTP एंडपॉइंट्स, LAN खोज और क्लस्टर नेटवर्किंग शामिल है।

लक्षित वर्कलोड और एक अनौपचारिक डेमो

Nvidia ने कहा कि PAIR उन वर्कलोड्स के लिए लक्षित है जो एक साथ कई स्वतंत्र अनुरोधों को उजागर करते हैं, जैसे मल्टी‑एजेंट एप्लिकेशन जहाँ मुख्य एजेंट जटिल कार्य को छोटे कार्यों में विभाजित करता है उप‑एजेंट्स के लिए। Hermes Desktop एजेंट और Ollama का उपयोग करके एक डेमो में, कंपनी ने बताया कि Qwen 3.6 35B A3B मॉडल का उपयोग करने वाला पाँच‑उप‑एजेंट कार्य एकल RTX Spark लैपटॉप पर औसतन 18 मिनट लेता है, जबकि RTX Spark लैपटॉप, DGX Spark, और RTX 5090 को मिलाकर तीन‑डिवाइस PAIR क्लस्टर ने वही वर्कलोड औसतन 8 मिनट 48 सेकंड में पूरा किया। Nvidia ने इस परिणाम को एक अनौपचारिक, कॉन्फ़िगरेशन‑विशिष्ट डेमो बताया, न कि सामान्य बेंचमार्क या रैखिक स्केलिंग का वादा, यह नोट करते हुए कि परिणाम वर्कलोड समानांतरता, मॉडल, इंजन सेटिंग्स, हार्डवेयर, नेटवर्क और नोड उपलब्धता पर निर्भर करते हैं।

कंपनी ने कहा कि अत्यधिक क्रमिक कार्य, एक लंबे मॉडल कॉल द्वारा प्रभुत्व वाले वर्कलोड, या ऐसी कॉन्फ़िगरेशन जहाँ केवल एक नोड के पास अनुरोधित मॉडल है, कम लाभ देख सकते हैं। रिपॉज़िटरी दस्तावेज़ यह भी जोड़ता है कि सॉफ़्टवेयर वर्तमान में एक ही शेड्यूलिंग नीति प्रदान करता है जो कतारबद्ध कार्य को मोटे GPU‑उपयोग संकेत के साथ मिलाता है, जिससे यह समान मशीनों के लिए अधिक उपयुक्त है बनिस्बत एक अत्यधिक मिश्रित क्लस्टर के, और Nvidia फीडबैक चाहता है कि शेड्यूलर को अधिक स्मार्ट बनाया जाए, बिना यह तय किए कि क्या कब शिप होगा।