स्केलओप्स ने एआई संचालन में स्वायत्त इंफ्रास्ट्रक्चर के लिए सीरीज सी में 130 मिलियन डॉलर जुटाए

स्केलओप्स ने 130 मिलियन डॉलर की सीरीज सी फंडिंग जुटाई है, जो 800 मिलियन डॉलर से अधिक के मूल्यांकन पर है, क्योंकि लगातार मानवीय हस्तक्षेप के बिना तेजी से जटिल होते क्लाउड और एआई कार्यभार संभाल सकने वाली प्रणालियों की मांग बढ़ रही है।

इस दौर का नेतृत्व इनसाइट पार्टनर्स ने किया, जिसमें लाइटस्पीड वेंचर पार्टनर्स, एनएफएक्स, ग्लिलोट कैपिटल पार्टनर्स, और पिक्चर कैपिटल ने अपना समर्थन जारी रखा। कंपनी ने अब कुल 210 मिलियन डॉलर से अधिक की फंडिंग जुटाई है।

कुबेरनेट्स ऑप्टिमाइजेशन से ऑटोनोमस इंफ्रास्ट्रक्चर तक

स्केलओप्स 2022 में कुबेरनेट्स वातावरण में संसाधन आवंटन जैसी आधुनिक इंफ्रास्ट्रक्चर में एक पुरानी चुनौती को स्वचालित करने पर ध्यान केंद्रित करके उभरा। स्थिर कॉन्फ़िगरेशन पर निर्भर रहने के बजाय, प्लेटफ़ॉर्म वास्तविक समय के कार्यभार व्यवहार के आधार पर सीपीयू और मेमोरी जैसे कंप्यूटे संसाधनों को लगातार समायोजित करता है।

इसका मूल एक बंद-लूप ऑप्टिमाइजेशन इंजन के रूप में काम करता है। यह कार्यभार मांग को देखता है, प्रदर्शन संकेतों का मूल्यांकन करता है, और स्वचालित रूप से परिवर्तन करता है। इसमें कार्यभार को आवंटित संसाधनों का आकार गतिशील रूप से बदलना, प्रतिकृतियों की संख्या समायोजित करना, और क्लस्टर में नोड उपयोग को अनुकूलित करना शामिल है।

समय के साथ, यह पारंपरिक क्लाउड अनुकूलन से परे एआई प्रणालियों से जुड़े जीपीयू-भारी वातावरण में विस्तारित हो गया है। प्लेटफ़ॉर्म अब जीपीयू आवंटन पर समान सिद्धांतों को लागू करता है, जहां अकुशल उपयोग जल्दी से एक प्रमुख बोतलनेक बन सकता है।

यह परत क्यों महत्वपूर्ण हो रही है

आधुनिक एआई प्रणालियां एक स्तर की परिवर्तनशीलता पेश करती हैं जिसे पारंपरिक इंफ्रास्ट्रक्चर उपकरण संभालने के लिए डिज़ाइन नहीं किए गए थे। कार्यभार अप्रत्याशित रूप से चरम पर पहुंचते हैं, मॉडल सीमित जीपीयू क्षमता के लिए प्रतिस्पर्धा करते हैं, और प्रदर्शन आवश्यकताएं वास्तविक समय में बदलती रहती हैं।

ऐतिहासिक रूप से, टीमों ने इसे मैनुअल ट्यूनिंग या नियम-आधारित स्वचालन के माध्यम से प्रबंधित किया है। लेकिन ये दृष्टिकोण बड़े पैमाने पर संघर्ष करते हैं। कुबेरनेट्स खुद, जबकि ऑर्केस्ट्रेशन के लिए डिज़ाइन किया गया है, अभी भी स्थिर कॉन्फ़िगरेशन पर बहुत अधिक निर्भर करता है जिसे इंजीनियरों को अंडर- या ओवर-प्रोविज़निंग से बचने के लिए लगातार समायोजित करना होता है।

यह एक संरचनात्मक अकुशलता बनाता है। इंजीनियरिंग टीमें प्रदर्शन मुद्दों पर प्रतिक्रिया करने, संसाधन आवंटन को ट्यून करने, और एसएलओ उल्लंघनों को हल करने में नए सिस्टम बनाने के बजाय काफी समय बिताती हैं।

स्केलओप्स का दृष्टिकोण इस प्रतिक्रियाशील मॉडल की जगह निरंतर, संदर्भ को समझने वाला स्वचालन लाता है। अग्रिम में सीमा निर्धारित करने के बजाय, प्रणाली पूरे क्लस्टर में देखे गए व्यवहार के आधार पर वास्तविक समय में अनुकूलन करती है।

स्व-ऑप्टिमाइज़िंग सिस्टम की ओर बढ़ना

जो इस श्रेणी को उल्लेखनीय बनाता है वह केवल लागत अनुकूलन नहीं है, बल्कि यह इंफ्रास्ट्रक्चर के व्यवहार में परिवर्तन है।

पारंपरिक वातावरण में, इंफ्रास्ट्रक्चर को कॉन्फ़िगर किया जाता है। नए सिस्टम में, यह अपेक्षा की जाती है कि यह अनुकूलन करे।

स्केलओप्स इस संक्रमण को इंफ्रास्ट्रक्चर को लगातार संतुलित करने की क्षमता के रूप में प्रतिबिंबित करता है। प्लेटफ़ॉर्म नीतियों को लागू करता है, परिणामों की निगरानी करता है, और इंजीनियरों के हस्तक्षेप की आवश्यकता के बिना आवंटन को समायोजित करता है। उत्पादन वातावरण में, यह संसाधन निर्णयों के लगभग पूर्ण स्वचालन तक बढ़ सकता है।

यह मॉडल वास्तविक दुनिया के रोलआउट में पहले से ही मापनीय प्रभाव दिखा चुका है। एक मामले में, स्वचालित राइटसाइज़िंग ने कार्यभार को ट्रैफिक में उतार-चढ़ाव के अनुसार गतिशील रूप से समायोजित होने की अनुमति दी, जबकि प्रदर्शन लक्ष्यों को बनाए रखा और क्लस्टर में अपशिष्ट को कम किया।

लागत अनुकूलन से परे विस्तार

प्रारंभिक क्लाउड अनुकूलन उपकरण मुख्य रूप से खर्च में कटौती पर केंद्रित थे। स्केलओप्स अभी भी लागत दक्षता पर जोर देता है, जिसमें अधिक आवंटन और निष्क्रिय संसाधनों को समाप्त करके महत्वपूर्ण बचत का दावा किया जाता है।

लेकिन व्यापक दिशा प्रदर्शन विश्वसनीयता और प्रणाली लचीलेपन की ओर बढ़ रही है।

जैसे ही एआई प्रणालियां उत्पादन वातावरण में अधिक घनिष्ठ रूप से एकीकृत हो जाती हैं, इंफ्रास्ट्रक्चर निर्णय सीधे मॉडल प्रदर्शन, विलंबता और उपलब्धता को प्रभावित करते हैं। आवंटन में गलती अब केवल एक लागत मुद्दा नहीं है, यह एक कार्यात्मक सीमा बन जाती है।

यह विशेष रूप से जीपीयू कार्यभार के लिए प्रासंगिक है, जहां मांग अक्सर आपूर्ति से अधिक होती है। बुनियादी ढांचे के स्तर पर कुशल आवंटन यह निर्धारित कर सकता है कि मॉडल कुशलता से चलते हैं या संसाधनों की प्रतीक्षा में निष्क्रिय रहते हैं।

एआई इंफ्रास्ट्रक्चर के लिए एक नई नियंत्रण परत

लंबी अवधि का अर्थ यह है कि कंप्यूटिंग संसाधनों के लिए एक नई नियंत्रण परत का उदय है।

इंजीनियरों द्वारा मैनुअल रूप से इंफ्रास्ट्रक्चर को कॉन्फ़िगर करने या खंडित टूलिंग पर निर्भर रहने के बजाय, स्केलओप्स जैसे प्लेटफ़ॉर्म एक स्वायत्त नियंत्रण परत के रूप में कार्य करते हैं जो लगातार आपूर्ति को मांग के अनुरूप ढालती है।

यह तब और भी महत्वपूर्ण हो जाता है जब संगठन एक ही समय में कई एआई प्रणालियों को तैनात करते हैं, प्रत्येक की अलग-अलग प्रदर्शन आवश्यकताएं और उपयोग पैटर्न होते हैं।

इस संदर्भ में, इंफ्रास्ट्रक्चर प्रबंधन स्थिर संसाधन आवंटन की तुलना में ट्रैफिक नियंत्रण से अधिक मिलता-जुलता होने लगता है। संसाधनों को निरंतर रूट, पुनः संतुलित और अनुकूलित किया जाता है, न कि एक बार असाइन किया जाता है और अपरिवर्तित छोड़ दिया जाता है।

इस नवीनतम फंडिंग के साथ, उम्मीद है कि स्केलओप्स अपने प्लेटफ़ॉर्म को कंप्यूट और जीपीयू से परे बुनियादी ढांचे के प्रबंधन के अतिरिक्त क्षेत्रों में विस्तारित करेगा, जिसमें क्लाउड और एआई ऑर्केस्ट्रेशन की अतिरिक्त परतें शामिल हैं।

इस ट्रेजेक्टरी से पता चलता है कि इंफ्रास्ट्रक्चर निर्णय अब इंजीनियरों द्वारा सीधे संभाले जाने के बजाय सिस्टम द्वारा शासित हो सकते हैं जो कार्यभार के इरादे की व्याख्या करते हैं और संसाधनों को स्वचालित रूप से समायोजित करते हैं।

जैसे ही एआई कार्यभार बढ़ते हैं, यह बदलाव अनुकूलन से अधिक एक आवश्यकता बन सकता है।