स्केलओप्स ने ऑटोनोमस इंफ्रास्ट्रक्चर को एआई ऑपरेशंस के कोर में धकेलने के लिए 130 मिलियन डॉलर की सीरीज सी फंडिंग जुटाई

स्केलओप्स ने 130 मिलियन डॉलर की सीरीज सी फंडिंग जुटाई है, जो 800 मिलियन डॉलर से अधिक के मूल्यांकन पर है, क्योंकि बादल और एआई कार्यभार को संभालने के लिए प्रणालियों की मांग तेजी से बढ़ रही है जो मानव हस्तक्षेप के बिना काम कर सकती हैं।

इस दौर का नेतृत्व इनसाइट पार्टनर्स ने किया, जिसमें लाइटस्पीड वेंचर पार्टनर्स, एनएफएक्स, ग्लिलोट कैपिटल पार्टनर्स, और पिक्चर कैपिटल ने भी भाग लिया। कंपनी ने अब कुल 210 मिलियन डॉलर से अधिक की फंडिंग जुटाई है।

कुबेरनेट्स ऑप्टिमाइजेशन से ऑटोनोमस इंफ्रास्ट्रक्चर तक

स्केलओप्स 2022 में कुबेरनेट्स वातावरण में संसाधन आवंटन जैसी आधुनिक इंफ्रास्ट्रक्चर में एक पुरानी चुनौती को स्वचालित करने पर ध्यान केंद्रित करके उभरा। इसके बजाय स्थिर कॉन्फ़िगरेशन पर निर्भर रहने के, प्लेटफ़ॉर्म वास्तविक समय के कार्यभार व्यवहार के आधार पर सीपीयू और मेमोरी जैसे कंप्यूटे संसाधनों को लगातार समायोजित करता है।

इसका मूल एक बंद-लूप ऑप्टिमाइजेशन इंजन के रूप में काम करता है। यह कार्यभार मांग को देखता है, प्रदर्शन संकेतों का मूल्यांकन करता है, और स्वचालित रूप से परिवर्तन करता है। इसमें कार्यभार को गतिविधि से, प्रतिलिपि गिनती को समायोजित करना, और क्लस्टर में नोड उपयोग को अनुकूलित करना शामिल है।

समय के साथ, यह पारंपरिक बादल अनुकूलन से परे एआई प्रणालियों से जुड़े जीपीयू-भारी वातावरण में विस्तारित हो गया है। प्लेटफ़ॉर्म अब जीपीयू आवंटन पर समान सिद्धांतों को लागू करता है, जहां अकुशल उपयोग जल्दी से एक प्रमुख बोतलनेक बन सकता है।

यह परत क्यों महत्वपूर्ण हो रही है

आधुनिक एआई प्रणालियां एक स्तर की परिवर्तनशीलता पेश करती हैं जिसे पारंपरिक इंफ्रास्ट्रक्चर उपकरण संभालने के लिए डिज़ाइन नहीं किए गए थे। कार्यभार अनुमानित रूप से चोटी मारते हैं, मॉडल सीमित जीपीयू क्षमता के लिए प्रतिस्पर्धा करते हैं, और प्रदर्शन आवश्यकताएं वास्तविक समय में बदलती रहती हैं।

ऐतिहासिक रूप से, टीमों ने इसे मैनुअल ट्यूनिंग या नियम-आधारित स्वचालन के माध्यम से प्रबंधित किया है। लेकिन ये दृष्टिकोण बड़े पैमाने पर संघर्ष करते हैं। कुबेरनेट्स खुद, जबकि ऑर्केस्ट्रेशन के लिए डिज़ाइन किया गया है, अभी भी स्थिर कॉन्फ़िगरेशन पर बहुत अधिक निर्भर करता है जिसे इंजीनियरों को अंडर- या ओवर-प्रोविज़निंग से बचने के लिए लगातार समायोजित करना होता है।

यह एक संरचनात्मक अकुशलता बनाता है। इंजीनियरिंग टीमें प्रदर्शन मुद्दों पर प्रतिक्रिया करने, संसाधन आवंटन को ट्यून करने, और एसएलओ उल्लंघनों को हल करने में महत्वपूर्ण समय बिताती हैं вмест của नए सिस्टम बनाने के।

स्केलओप्स का दृष्टिकोण इस प्रतिक्रियाशील मॉडल को प्रतिस्थापित करता है जो निरंतर, संदर्भ-जागरूक स्वचालन है। अग्रिम में सीमा निर्धारित करने के बजाय, प्रणाली पूरे क्लस्टर में देखे गए व्यवहार के आधार पर वास्तविक समय में अनुकूलन करती है।

स्व-ऑप्टिमाइज़िंग सिस्टम की ओर बढ़ना

जो इस श्रेणी को उल्लेखनीय बनाता है वह केवल लागत अनुकूलन नहीं है, बल्कि यह इंफ्रास्ट्रक्चर के व्यवहार में परिवर्तन है।

पारंपरिक वातावरण में, इंफ्रास्ट्रक्चर को कॉन्फ़िगर किया जाता है। नए सिस्टम में, यह अपेक्षा की जाती है कि यह अनुकूलन करे।

स्केलओप्स इस संक्रमण को इंफ्रास्ट्रक्चर को लगातार संतुलित करने की क्षमता के रूप में प्रतिबिंबित करता है। प्लेटफ़ॉर्म नीतियों को लागू करता है, परिणामों की निगरानी करता है, और इंजीनियरों के हस्तक्षेप की आवश्यकता के बिना आवंटन को समायोजित करता है। उत्पादन वातावरण में, यह संसाधन निर्णयों के लगभग पूर्ण स्वचालन तक बढ़ सकता है।

यह मॉडल वास्तविक दुनिया के रोलआउट में पहले से ही मापनीय प्रभाव दिखा चुका है। एक मामले में, स्वचालित राइटसाइज़िंग ने कार्यभार को यातायात में उतार-चढ़ाव के लिए गतिविधि से समायोजित करने की अनुमति दी, जबकि प्रदर्शन लक्ष्यों को बनाए रखा और क्लस्टर में अपशिष्ट को कम किया।

लागत अनुकूलन से परे विस्तार

प्रारंभिक बादल अनुकूलन उपकरण मुख्य रूप से खर्च में कटौती पर केंद्रित थे। स्केलओप्स अभी भी लागत दक्षता पर जोर देता है, जिसमें अधिक आवंटन और निष्क्रिय संसाधनों को समाप्त करके महत्वपूर्ण बचत का दावा किया जाता है।

लेकिन व्यापक दिशा प्रदर्शन विश्वसनीयता और प्रणाली लचीलेपन की ओर बढ़ रही है।

जैसे ही एआई प्रणालियां उत्पादन वातावरण में अधिक घनिष्ठ रूप से एकीकृत हो जाती हैं, इंफ्रास्ट्रक्चर निर्णय सीधे मॉडल प्रदर्शन, विलंबता और उपलब्धता को प्रभावित करते हैं। आवंटन में गलती अब केवल एक लागत मुद्दा नहीं है, यह एक कार्यात्मक सीमा बन जाती है।

यह विशेष रूप से जीपीयू कार्यभार के लिए प्रासंगिक है, जहां मांग अक्सर आपूर्ति से अधिक होती है। बुनियादी ढांचे के स्तर पर कुशल आवंटन यह निर्धारित कर सकता है कि मॉडल कुशलता से चलते हैं या संसाधनों की प्रतीक्षा में निष्क्रिय रहते हैं।

एआई इंफ्रास्ट्रक्चर के लिए एक नया नियंत्रण विमान

लंबी अवधि का अर्थ यह है कि कंप्यूटिंग संसाधनों के लिए एक नया नियंत्रण परत का उदय है।

इंजीनियरों द्वारा मैनुअल रूप से इंफ्रास्ट्रक्चर को कॉन्फ़िगर करने या खंडित टूलिंग पर निर्भर रहने के बजाय, स्केलओप्स जैसे प्लेटफ़ॉर्म एक स्वचालित नियंत्रण विमान के रूप में कार्य करते हैं जो लगातार आपूर्ति को मांग के साथ संरेखित करता है।

यह तब और भी महत्वपूर्ण हो जाता है जब संगठन एक ही समय में कई एआई प्रणालियों को तैनात करते हैं, प्रत्येक की अलग-अलग प्रदर्शन आवश्यकताएं और उपयोग पैटर्न होते हैं।

इस संदर्भ में, इंफ्रास्ट्रक्चर प्रबंधन यातायात नियंत्रण की तुलना में स्थिर प्रावधान की अधिक समानता रखता है। संसाधनों को निरंतर रूप से मार्गदर्शन, पुनः संतुलित और अनुकूलित किया जाता है, न कि एक बार असाइन किया जाता है और अपरिवर्तित छोड़ दिया जाता है।

इस नवीनतम फंडिंग के साथ, स्केलओप्स अपने प्लेटफ़ॉर्म को कंप्यूट और जीपीयू से परे बुनियादी ढांचे के प्रबंधन के अतिरिक्त क्षेत्रों में विस्तारित करने की उम्मीद है, जिसमें बादल और एआई ऑर्केस्ट्रेशन की अतिरिक्त परतें शामिल हैं।

इस ट्रेजेक्टरी से पता चलता है कि इंफ्रास्ट्रक्चर निर्णय अब इंजीनियरों द्वारा सीधे संभाले जाने के बजाय सिस्टम द्वारा शासित हो सकते हैं जो कार्यभार के इरादे की व्याख्या करते हैं और संसाधनों को स्वचालित रूप से समायोजित करते हैं।

जैसे ही एआई कार्यभार बढ़ते हैं, यह बदलाव अनुकूलन से अधिक एक आवश्यकता बन सकता है।