Crusoe ने Perplexity के प्रशिक्षण और इन्फ़रेंस को शक्ति देने के लिए बहु-वर्षीय समझौता किया

Crusoe ने 15 सितंबर, 2026 को Perplexity के साथ एक बहु-वर्षीय साझेदारी की घोषणा की जिसके तहत Perplexity अपने पूरे मॉडल जीवनचक्र को Crusoe Cloud पर चलाएगा, समर्पित NVIDIA GB300 NVL72 क्लस्टर्स पर फ़्रंटियर मॉडल्स को प्रशिक्षित करेगा और Crusoe की Managed Inference सेवा के माध्यम से उत्पादन में उन्हें सर्व करेगा।

यह घोषणा, सैन फ्रांसिस्को से जारी, Crusoe को अपने 1,800 कर्मचारियों के लिए Perplexity Enterprise Pro और Max को अपनाने के लिए भी प्रतिबद्ध करती है। रिलीज़ के अनुसार, यह तैनाती स्टाफ को वेब और आंतरिक ज्ञान खोज, बहु-चरणीय शोध, डेटा विश्लेषण, और फ़्रंटियर AI मॉडल्स तक पहुँच प्रदान करने के लिए है।

रिलीज़ में Perplexity के उत्पादों को लाखों उपयोगकर्ताओं के लिए वास्तविक समय में कार्यरत बताया गया है, एक ऐसा वातावरण जहाँ इन्फ़रेंस लेटेंसी और थ्रूपुट उत्पाद ही होते हैं न कि सैद्धांतिक बेंचमार्क। Crusoe ने कहा कि उसकी Managed Inference सेवा उत्पादन-ग्रेड इन्फ़रेंस के लिए निर्मित है, जो स्वामित्व वाले अनुकूलन द्वारा संचालित है और लोकप्रिय मॉडलों में प्रदर्शन और लागत के लिए इंजीनियर्ड है, और Crusoe Cloud Perplexity की वृद्धि के साथ मेल खाने के लिए संचालनात्मक गहराई और पैमाना प्रदान करता है।

कार्यकारी बयान

Crusoe के सह-संस्थापक और सीईओ Chase Lochmiller ने कहा कि सबसे तेज़ी से बढ़ती AI कंपनियों को ऐसी बुनियादी ढाँचा चाहिए जो पूरे मॉडल जीवनचक्र में गति बनाए रखे और उनके बढ़ने के साथ स्केल हो। “Perplexity लोगों को उत्तर खोजने के भविष्य का निर्माण कर रहा है, और Crusoe इसको संभव बनाने में एक प्रमुख साझेदार है, पहले इलेक्ट्रॉन से लेकर अंतिम टोकन तक,” Lochmiller ने कहा।

Perplexity के सह-संस्थापक और सीईओ Aravind Srinivas ने कहा कि Perplexity के पैमाने पर AI चलाने का मतलब है कि हर मिलीसेकंड की लेटेंसी उपयोगकर्ताओं को महसूस होती है। उन्होंने Crusoe को इस प्रतिबंध के इर्द-गिर्द निर्मित बताया, इसे उच्च-थ्रूपुट, कम-लेटेंसी इन्फ़रेंस कहा जो अगली पीढ़ी के हार्डवेयर द्वारा समर्थित है।

NVIDIA में HPC और AI इन्फ्रास्ट्रक्चर सॉल्यूशंस के वरिष्ठ निदेशक Dion Harris ने कहा कि आधुनिक AI को अनुसंधान से उत्पादन तक एकीकृत कंप्यूटिंग आर्किटेक्चर की आवश्यकता होती है। NVIDIA GB300 NVL72 और NVIDIA InfiniBand द्वारा संचालित, Harris ने कहा, Crusoe Cloud Perplexity को उत्पादन में फ़्रंटियर मॉडल्स को प्रशिक्षित, फाइन‑ट्यून और सर्व करने में वह गति और दक्षता प्रदान करता है जो एजेंटिक AI की माँग है।

GB300 NVL72 प्लेटफ़ॉर्म

समझौते में नामित समर्पित प्रशिक्षण क्लस्टर NVIDIA के GB300 NVL72 पर चलते हैं, जिसे NVIDIA ने एक पूरी तरह से लिक्विड‑कूल्ड, रैक‑स्केल सिस्टम के रूप में वर्णित किया है जिसमें 72 Blackwell Ultra GPU और 36 Arm‑आधारित Grace CPU एकीकृत हैं। NVIDIA के प्रकाशित विनिर्देशों में 130 TB/s NVLink बैंडविड्थ, 20 TB GPU मेमोरी जिसमें अधिकतम 576 TB/s बैंडविड्थ, 37 TB तेज़ मेमोरी, और 2,592 Arm Neoverse V2 CPU कोर शामिल हैं। सिस्टम में प्रत्येक GPU को ConnectX-8 SuperNIC IO मॉड्यूल के माध्यम से 800 Gb/s नेटवर्क कनेक्टिविटी मिलती है, जो Quantum‑X800 InfiniBand या Spectrum‑X Ethernet नेटवर्किंग प्लेटफ़ॉर्म के साथ कार्य करता है।

NVIDIA का दावा है कि GB300 NVL72 पर निर्मित AI फैक्ट्रीज़ Hopper‑आधारित प्लेटफ़ॉर्म की तुलना में कुल मिलाकर 50 गुना अधिक AI फैक्ट्री आउटपुट प्रदर्शन प्रदान करती हैं। कंपनी इस आंकड़े को उपयोगकर्ता प्रतिक्रिया में 10 गुना सुधार (प्रति उपयोगकर्ता टोकन प्रति सेकंड में मापा गया) और Hopper की तुलना में प्रति मेगावॉट थ्रूपुट में 5 गुना सुधार के रूप में बताती है, और नोट करती है कि ये संख्याएँ प्रोजेक्टेड प्रदर्शन हैं और बदल सकती हैं।

Managed Inference सेवा और इतिहास

समझौते के उत्पादन‑सर्विंग तत्व Crusoe Managed Inference पर चलते हैं, जिसे कंपनी ने 20 नवंबर, 2025 को सामान्य रूप से उपलब्ध कराया, Crusoe Cloud पर उत्पादन इन्फ़रेंस वर्कलोड्स के लिए। यह सेवा Crusoe के स्वामित्व वाले इन्फ़रेंस इंजन द्वारा संचालित है, जो MemoryAlloy के चारों ओर निर्मित है, एक क्लस्टर‑व्यापी कुंजी‑मान कैश जो GPUs को स्थानीय और दूरस्थ नोड्स से प्रीफ़िक्स कैश लाने की अनुमति देकर डुप्लिकेट प्रीफ़िल्स को समाप्त करता है। Crusoe कहता है कि यह इंजन पहले टोकन तक पहुँचने के समय को 9.9 गुना तेज़ और थ्रूपुट को 5 गुना अधिक प्रदान करता है, जिसे Llama-3.3-70B मॉडल के लिए चार‑नोड डिप्लॉयमेंट में vLLM के खिलाफ बेंचमार्क किया गया है।

Crusoe अपनी Managed Inference उत्पाद पृष्ठ के अनुसार सेवा को तीन डिप्लॉयमेंट विकल्पों में प्रदान करता है। Serverless Inference खुली मॉडलों के उपयोग‑आधारित उपभोग को पूरी तरह प्रबंधित API के माध्यम से पेश करता है, जो प्रारंभिक‑स्तर के वर्कलोड्स, कम‑वॉल्यूम ट्रैफ़िक, और तेज़ प्रयोग के लिए लक्षित है। Self‑Serve Deployments, जिसके बारे में पृष्ठ कहता है कि अब सामान्य रूप से उपलब्ध हैं, थ्रूपुट या प्रतिक्रिया के लिए अनुकूलित मॉडलों को चलाते हैं, जिसमें Crusoe के Serverless Fine‑Tuning के साथ अनुकूलित मॉडल शामिल हैं। Tailored Deployments ग्राहकों को Crusoe की टीम के साथ एक समर्पित, बेंचमार्केड एंडपॉइंट के लिए जोड़ते हैं, यह विकल्प पृष्ठ स्वामित्व वाले मॉडलों के लिए निर्देशित करता है।

डेवलपर्स Crusoe Intelligence Foundry के माध्यम से सेवा तक पहुँचते हैं, एक हब जहाँ वे API कुंजियाँ उत्पन्न कर सकते हैं, प्रत्येक मॉडल के लिए ट्यून किए गए प्रबंधित एंडपॉइंट्स का उपयोग कर सकते हैं, प्रदर्शन मीट्रिक मॉनिटर कर सकते हैं, और उत्पादन‑स्तर के डिप्लॉयमेंट्स के लिए प्रोविजन किए गए थ्रूपुट को सक्षम कर सकते हैं। Crusoe का मॉडल हब DeepSeek, Google, Z.ai, OpenAI, Meta, Alibaba, और NVIDIA सहित प्रयोगशालाओं से पूर्व‑कॉन्फ़िगर किए गए खुले मॉडल सूचीबद्ध करता है, प्रत्येक मॉडल के लिए निर्धारित पैरामीटर गिनती और संदर्भ लंबाई के साथ।