एआईओएस: एलएलएम एजेंटों के लिए ऑपरेटिंग सिस्टम

पिछले छह दशकों में, ऑपरेटिंग सिस्टम क्रमिक रूप से विकसित हुए हैं, बुनियादी प्रणालियों से लेकर जटिल और इंटरैक्टिव ऑपरेटिंग सिस्टम तक, जो आज के उपकरणों को शक्ति प्रदान करते हैं। शुरुआत में, ऑपरेटिंग सिस्टम कंप्यूटर हार्डवेयर की बाइनरी कार्यक्षमता, जैसे गेट मैनिपुलेशन, और उपयोगकर्ता-स्तरीय कार्यों के बीच एक सेतु का काम करते थे। हालाँकि, समय के साथ, वे सरल बैच जॉब प्रोसेसिंग सिस्टम से लेकर मल्टीटास्किंग और टाइम-शेयरिंग सहित अधिक परिष्कृत प्रक्रिया प्रबंधन तकनीकों तक विकसित हुए हैं। इन प्रगतियों ने आधुनिक ऑपरेटिंग सिस्टम को जटिल कार्यों की एक विस्तृत श्रृंखला का प्रबंधन करने में सक्षम बनाया है। विंडोज़ और मैकओएस जैसे ग्राफिकल यूजर इंटरफेस (जीयूआई) के आगमन ने आधुनिक ऑपरेटिंग सिस्टम को अधिक उपयोगकर्ता-अनुकूल और इंटरैक्टिव बना दिया है, साथ ही रनटाइम लाइब्रेरी और डेवलपर टूल्स के एक व्यापक सूट के साथ ऑपरेटिंग सिस्टम इकोसिस्टम का विस्तार भी किया है।

हाल के नवाचारों में एकीकरण और तैनाती शामिल है बड़े भाषा मॉडल (एलएलएम), जिसने नई संभावनाओं को खोलकर विभिन्न उद्योगों में क्रांति ला दी है। हाल ही में, एलएलएम-आधारित बुद्धिमान एजेंटों ने कार्यों की एक विस्तृत श्रृंखला पर मानव-जैसा प्रदर्शन हासिल करते हुए उल्लेखनीय क्षमताएं दिखाई हैं। हालाँकि, ये एजेंट अभी भी विकास के प्रारंभिक चरण में हैं, और वर्तमान तकनीकों को कई चुनौतियों का सामना करना पड़ता है जो उनकी दक्षता और प्रभावशीलता को प्रभावित करती हैं। सामान्य मुद्दों में बड़े भाषा मॉडल पर एजेंट अनुरोधों की उप-इष्टतम शेड्यूलिंग, विभिन्न विशेषज्ञता वाले एजेंटों को एकीकृत करने में जटिलताएं, और एलएलएम और एजेंट के बीच बातचीत के दौरान संदर्भ बनाए रखना शामिल है। एलएलएम-आधारित एजेंटों का तेजी से विकास और बढ़ती जटिलता अक्सर बाधाओं और उप-इष्टतम संसाधन उपयोग का कारण बनती है।

इन चुनौतियों का समाधान करने के लिए, यह लेख AIOS पर चर्चा करेगा, जो एक LLM एजेंट ऑपरेटिंग सिस्टम है जिसे बड़े भाषा मॉडल को ऑपरेटिंग सिस्टम के 'दिमाग' के रूप में एकीकृत करने और उसे प्रभावी रूप से 'आत्मा' प्रदान करने के लिए डिज़ाइन किया गया है। विशेष रूप से, AIOS फ्रेमवर्क का उद्देश्य एजेंटों के बीच संदर्भ स्विचिंग को सुगम बनाना, संसाधन आवंटन को अनुकूलित करना, एजेंटों के लिए टूल सेवाएँ प्रदान करना, अभिगम नियंत्रण बनाए रखना और एजेंटों के समवर्ती निष्पादन को सक्षम बनाना है। हम AIOS फ्रेमवर्क का गहन अध्ययन करेंगे, इसके तंत्र, कार्यप्रणाली और आर्किटेक्चर का अन्वेषण करेंगे, और इसकी तुलना अत्याधुनिक फ्रेमवर्क से करेंगे। आइए, इसमें गोता लगाएँ।

बड़े भाषा मॉडल में उल्लेखनीय सफलता हासिल करने के बाद, एआई और एमएल उद्योग का अगला फोकस स्वायत्त एआई एजेंटों को विकसित करना है जो स्वतंत्र रूप से काम कर सकें, स्वयं निर्णय ले सकें और न्यूनतम या बिना किसी मानवीय हस्तक्षेप के कार्य कर सकें। इन एआई-आधारित बुद्धिमान एजेंटों को मानव निर्देशों को समझने, जानकारी संसाधित करने, निर्णय लेने और एक स्वायत्त राज्य प्राप्त करने के लिए उचित कार्रवाई करने के लिए डिज़ाइन किया गया है, बड़े भाषा मॉडल के आगमन और विकास के साथ इन स्वायत्त एजेंटों के विकास में नई संभावनाएं आती हैं। DALL-E, GPT और अन्य सहित वर्तमान LLM फ्रेमवर्क ने मानवीय निर्देशों, तर्क और समस्या सुलझाने की क्षमताओं को समझने और बाहरी वातावरण के साथ-साथ मानव उपयोगकर्ताओं के साथ बातचीत करने की उल्लेखनीय क्षमताएं दिखाई हैं। इन शक्तिशाली और सक्षम बड़े भाषा मॉडलों के शीर्ष पर निर्मित, एलएलएम-आधारित एजेंटों के पास आभासी सहायकों से लेकर समस्या समाधान, तर्क, योजना और निष्पादन बनाने से संबंधित अधिक जटिल और परिष्कृत प्रणालियों तक विविध वातावरणों में मजबूत कार्य पूर्ति क्षमताएं हैं। 

उपरोक्त आंकड़ा एक आकर्षक उदाहरण देता है कि एलएलएम-आधारित स्वायत्त एजेंट वास्तविक दुनिया के कार्यों को कैसे हल कर सकता है। उपयोगकर्ता यात्रा की जानकारी के लिए सिस्टम से अनुरोध करता है जिसके बाद, ट्रैवल एजेंट कार्य को निष्पादन योग्य चरणों में तोड़ देता है। फिर एजेंट क्रमिक रूप से उड़ानें बुक करना, होटल आरक्षित करना, भुगतान संसाधित करना और बहुत कुछ करता है। चरणों को क्रियान्वित करते समय, जो चीज़ इन एजेंटों को पारंपरिक सॉफ़्टवेयर अनुप्रयोगों से अलग करती है, वह एजेंटों की निर्णय लेने की क्षमता दिखाने और चरणों के निष्पादन में तर्क को शामिल करने की क्षमता है। साथ ही इनकी गुणवत्ता में भी तेजी से बढ़ोतरी हुई है स्वायत्त एजेंटबड़े भाषा मॉडल और ऑपरेटिंग सिस्टम की कार्यक्षमता पर तनाव में वृद्धि देखी गई है, और इसका एक उदाहरण यह है कि सीमित बड़े भाषा मॉडल में एजेंट अनुरोधों को प्राथमिकता देना और शेड्यूल करना एक महत्वपूर्ण चुनौती है। इसके अलावा, चूंकि लंबे संदर्भों से निपटने के दौरान बड़े भाषा मॉडल की पीढ़ी की प्रक्रिया एक समय लेने वाला कार्य बन जाती है, इसलिए अनुसूचक के लिए परिणामी पीढ़ी को निलंबित करना संभव है, जिससे भाषा मॉडल की वर्तमान पीढ़ी के परिणाम को स्नैपशॉट करने के लिए एक तंत्र तैयार करने की समस्या बढ़ जाती है। . इसके परिणामस्वरूप, जब बड़े भाषा मॉडल ने वर्तमान अनुरोध के लिए प्रतिक्रिया पीढ़ी को अंतिम रूप नहीं दिया है, तो रोकें/फिर से शुरू करने का व्यवहार सक्षम हो जाता है। 

ऊपर उल्लिखित चुनौतियों का समाधान करने के लिए, एआईओएस, एक बड़ा भाषा मॉडल ऑपरेटिंग सिस्टम एलएलएम और ओएस कार्यात्मकताओं का एकत्रीकरण और मॉड्यूल अलगाव प्रदान करता है। एआईओएस ढांचा बड़े भाषा मॉडल से जुड़े और नहीं जुड़े कार्यों के बीच उत्पन्न होने वाले संभावित संघर्षों से बचने के प्रयास में एलएलएम-विशिष्ट कर्नेल डिज़ाइन का प्रस्ताव करता है। प्रस्तावित कर्नेल ऑपरेटिंग सिस्टम को कर्तव्यों की तरह अलग करता है, विशेष रूप से वे जो एलएलएम एजेंटों, विकास टूलकिट और उनके संबंधित संसाधनों की देखरेख करते हैं। इस अलगाव के परिणामस्वरूप, एलएलएम कर्नेल एलएलएम से संबंधित गतिविधियों के समन्वय और प्रबंधन को बढ़ाने का प्रयास करता है। 

एआईओएस: कार्यप्रणाली और वास्तुकला

जैसा कि आप देख सकते हैं, एआईओएस ढांचे के कामकाज में छह प्रमुख तंत्र शामिल हैं। 

• एजेंट अनुसूचक: एजेंट शेड्यूलर को सौंपा गया कार्य बड़े भाषा मॉडल के उपयोग को अनुकूलित करने के प्रयास में एजेंट अनुरोधों को शेड्यूल करना और प्राथमिकता देना है। 

• प्रसंग प्रबंधक: संदर्भ प्रबंधक को सौंपा गया कार्य बड़े भाषा मॉडल में मध्यवर्ती पीढ़ी की स्थिति को बहाल करने और बड़े भाषा मॉडल के संदर्भ विंडो प्रबंधन के साथ-साथ स्नैपशॉट का समर्थन करना है। 

• मेमोरी मैनेजर: मेमोरी मैनेजर की प्राथमिक जिम्मेदारी प्रत्येक एजेंट के लिए इंटरेक्शन लॉग के लिए अल्पकालिक मेमोरी प्रदान करना है। 

• संग्रहण प्रबंधक: भंडारण प्रबंधक भविष्य की पुनर्प्राप्ति के लिए एजेंटों के इंटरैक्शन लॉग को दीर्घकालिक भंडारण तक बनाए रखने के लिए जिम्मेदार है। 

• उपकरण प्रबंधक: टूल प्रबंधक तंत्र बाहरी एपीआई टूल पर एजेंटों की कॉल का प्रबंधन करता है। 

• पहुँच प्रबंधक: एक्सेस मैनेजर एजेंटों के बीच गोपनीयता और एक्सेस नियंत्रण नीतियों को लागू करता है। 

उपर्युक्त तंत्रों के अलावा, एआईओएस ढांचे में एक स्तरित वास्तुकला की सुविधा है, और इसे तीन अलग-अलग परतों में विभाजित किया गया है: एप्लिकेशन परत, कर्नेल परत और हार्डवेयर परत। एआईओएस ढांचे द्वारा कार्यान्वित स्तरित वास्तुकला यह सुनिश्चित करती है कि जिम्मेदारियां पूरे सिस्टम में समान रूप से वितरित की जाती हैं, और उच्च परतें उनके नीचे की परतों की जटिलताओं को अमूर्त करती हैं, विशिष्ट मॉड्यूल या इंटरफेस का उपयोग करके इंटरैक्शन की अनुमति देती हैं, मॉड्यूलरिटी को बढ़ाती हैं, और सिस्टम इंटरैक्शन को सरल बनाती हैं। परतें. 

एप्लिकेशन परत से शुरू करके, इस परत का उपयोग गणित या ट्रैवल एजेंटों जैसे एप्लिकेशन एजेंटों को विकसित करने और तैनात करने के लिए किया जाता है। एप्लिकेशन परत में, एआईओएस फ्रेमवर्क एआईओएस सॉफ्टवेयर डेवलपमेंट किट (एआईओएस एसडीके) को सिस्टम कॉल के उच्च अमूर्तता के साथ प्रदान करता है जो एजेंट डेवलपर्स के लिए विकास प्रक्रिया को सरल बनाता है। एआईओएस द्वारा पेश किया गया सॉफ्टवेयर डेवलपमेंट किट निचले स्तर के सिस्टम कार्यों की जटिलताओं को दूर करके एजेंट अनुप्रयोगों के विकास को सुविधाजनक बनाने के लिए एक समृद्ध टूलकिट प्रदान करता है, जिससे डेवलपर्स को अपने एजेंटों की कार्यक्षमता और आवश्यक तर्क पर ध्यान केंद्रित करने की अनुमति मिलती है, जिसके परिणामस्वरूप अधिक कुशल विकास होता है। प्रक्रिया। 

आगे बढ़ते हुए, कर्नेल परत को दो घटकों में विभाजित किया गया है: एलएलएम कर्नेल, और ओएस कर्नेल। ओएस कर्नेल और एलएलएम कर्नेल दोनों एलएलएम-विशिष्ट और गैर एलएलएम संचालन की अनूठी आवश्यकताओं को पूरा करते हैं, एलएलएम कर्नेल को एजेंट शेड्यूलिंग और संदर्भ प्रबंधन सहित बड़े भाषा मॉडल विशिष्ट कार्यों पर ध्यान केंद्रित करने की अनुमति देता है, जो गतिविधियों को संभालने के लिए आवश्यक हैं। बड़े भाषा मॉडल से संबंधित। एआईओएस ढांचा मुख्य रूप से मौजूदा ओएस कर्नेल की संरचना में महत्वपूर्ण बदलाव किए बिना बड़े भाषा मॉडल कर्नेल को बढ़ाने पर ध्यान केंद्रित करता है। एलएलएम कर्नेल एजेंट शेड्यूलर, मेमोरी मैनेजर, कॉन्टेक्स्ट मैनेजर, स्टोरेज मैनेजर, एक्सेस मैनेजर, टूल मैनेजर और एलएलएम सिस्टम कॉल इंटरफ़ेस सहित कई प्रमुख मॉड्यूल से सुसज्जित है। कर्नेल परत के भीतर के घटकों को विविध निष्पादन आवश्यकताओं को संबोधित करने के प्रयास में डिज़ाइन किया गया है एजेंट अनुप्रयोगों का, एआईओएस ढांचे के भीतर प्रभावी निष्पादन और प्रबंधन सुनिश्चित करना। 

अंत में, हमारे पास हार्डवेयर परत है जिसमें जीपीयू, सीपीयू, परिधीय डिवाइस, डिस्क और मेमोरी सहित सिस्टम के भौतिक घटक शामिल हैं। यह समझना आवश्यक है कि एलएलएम कर्नेल का सिस्टम सीधे हार्डवेयर के साथ इंटरैक्ट नहीं कर सकता है, और ये कॉल ऑपरेटिंग सिस्टम के सिस्टम कॉल के साथ इंटरफेस करते हैं जो बदले में हार्डवेयर संसाधनों का प्रबंधन करते हैं। एलएलएम कर्नेल के सिस्टम और हार्डवेयर संसाधनों के बीच यह अप्रत्यक्ष संपर्क सुरक्षा और अमूर्तता की एक परत बनाता है, जिससे एलएलएम कर्नेल सीधे हार्डवेयर के प्रबंधन की आवश्यकता के बिना हार्डवेयर संसाधनों की क्षमताओं का लाभ उठा सकता है, जिससे सिस्टम की अखंडता और दक्षता के रखरखाव में सुविधा होती है। . 

कार्यान्वयन

जैसा कि ऊपर उल्लेख किया गया है, एआईओएस ढांचे के कामकाज में छह प्रमुख तंत्र शामिल हैं। एजेंट शेड्यूलर को इस तरह से डिज़ाइन किया गया है कि यह एजेंट के अनुरोधों को कुशल तरीके से प्रबंधित करने में सक्षम है, और इसमें पारंपरिक अनुक्रमिक निष्पादन प्रतिमान के विपरीत कई निष्पादन चरण हैं जिसमें एजेंट कार्यों को समान चरणों के साथ रैखिक तरीके से संसाधित करता है। अगले एजेंट पर जाने से पहले एजेंट को पहले संसाधित किया जाता है, जिसके परिणामस्वरूप निष्पादन अनुक्रम में बाद में दिखाई देने वाले कार्यों के लिए प्रतीक्षा समय बढ़ जाता है। एजेंट शेड्यूलर प्रक्रिया को अनुकूलित करने के लिए राउंड रॉबिन, फर्स्ट इन फर्स्ट आउट और अन्य शेड्यूलिंग एल्गोरिदम जैसी रणनीतियों को नियोजित करता है। 

संदर्भ प्रबंधक को इस तरह से डिज़ाइन किया गया है कि यह बड़े भाषा मॉडल को प्रदान किए गए संदर्भ और विशिष्ट संदर्भ को देखते हुए निर्माण प्रक्रिया को प्रबंधित करने के लिए जिम्मेदार है। संदर्भ प्रबंधक में दो महत्वपूर्ण घटक शामिल हैं: संदर्भ स्नैपशॉट और पुनर्स्थापना, और संदर्भ विंडो प्रबंधन। एआईओएस फ्रेमवर्क द्वारा प्रस्तुत संदर्भ स्नैपशॉट और पुनर्स्थापना तंत्र उन स्थितियों को कम करने में मदद करता है जहां शेड्यूलर एजेंट अनुरोधों को निलंबित कर देता है जैसा कि निम्नलिखित आंकड़े में दिखाया गया है। 

जैसा कि निम्नलिखित चित्र में दिखाया गया है, एजेंट के जीवनचक्र के भीतर अल्पकालिक मेमोरी को प्रबंधित करना मेमोरी मैनेजर की जिम्मेदारी है, और यह सुनिश्चित करता है कि डेटा केवल तभी संग्रहीत और पहुंच योग्य हो जब एजेंट सक्रिय हो, या तो रनटाइम के दौरान या जब एजेंट प्रतीक्षा कर रहा हो निष्पादन के लिए. 

दूसरी ओर, भंडारण प्रबंधक लंबे समय तक डेटा को संरक्षित करने के लिए जिम्मेदार होता है, और यह उस जानकारी के भंडारण की देखरेख करता है जिसे किसी व्यक्तिगत एजेंट की गतिविधि के जीवनकाल से परे, अनिश्चित काल तक बनाए रखने की आवश्यकता होती है। एआईएसओ ढांचा डेटा उपलब्धता और अखंडता सुनिश्चित करते हुए क्लाउड-आधारित समाधान, डेटाबेस और स्थानीय फ़ाइलों सहित विभिन्न टिकाऊ माध्यमों का उपयोग करके स्थायी भंडारण प्राप्त करता है। इसके अलावा, एआईएसओ ढांचे में, यह टूल मैनेजर है जो एपीआई टूल की एक अलग श्रृंखला का प्रबंधन करता है जो बड़े भाषा मॉडल की कार्यक्षमता को बढ़ाता है, और निम्न तालिका सारांशित करती है कि टूल मैनेजर विभिन्न संसाधनों से आमतौर पर उपयोग किए जाने वाले टूल को कैसे एकीकृत करता है, और उन्हें वर्गीकृत करता है। विभिन्न श्रेणियों में. 

एक्सेस मैनेजर अलग-अलग एक्सेस कंट्रोल ऑपरेशंस को व्यवस्थित करता है एजेंटों प्रत्येक एजेंट के लिए एक समर्पित विशेषाधिकार समूह का प्रबंधन करके, और यदि किसी एजेंट को एजेंट के विशेषाधिकार समूह से बाहर रखा जाता है, तो उसे अपने संसाधनों तक पहुंच से वंचित कर दिया जाता है। इसके अतिरिक्त, एक्सेस मैनेजर ऑडिटिंग लॉग को संकलित करने और बनाए रखने के लिए भी जिम्मेदार है जो सिस्टम की पारदर्शिता को और बढ़ाता है। 

एआईओएस: प्रयोग और परिणाम

एआईओएस ढांचे का मूल्यांकन दो शोध प्रश्नों द्वारा निर्देशित होता है: पहला, शेष प्रतीक्षा और टर्नअराउंड समय में सुधार करने में एआईओएस शेड्यूलिंग का प्रदर्शन कैसा है, और दूसरा, क्या एजेंट के निलंबन के बाद एजेंट के अनुरोधों पर एलएलएम की प्रतिक्रिया सुसंगत है?

स्थिरता के सवालों का जवाब देने के लिए, डेवलपर्स प्रत्येक तीन एजेंटों को व्यक्तिगत रूप से चलाते हैं, और बाद में, इन एजेंटों को समानांतर में निष्पादित करते हैं, और प्रत्येक चरण के दौरान उनके आउटपुट को कैप्चर करने का प्रयास करते हैं। जैसा कि निम्नलिखित तालिका में दिखाया गया है, BERT और BLEU स्कोर 1.0 का मान प्राप्त करते हैं, जो एकल-एजेंट और मल्टी-एजेंट कॉन्फ़िगरेशन में उत्पन्न आउटपुट के बीच एक सही संरेखण का संकेत देता है। 

दक्षता के सवालों का जवाब देने के लिए, डेवलपर्स फीफो या फर्स्ट इन फर्स्ट आउट शेड्यूलिंग को नियोजित करने वाले एआईओएस ढांचे और एक गैर-अनुसूचित दृष्टिकोण के बीच तुलनात्मक विश्लेषण करते हैं, जिसमें एजेंट समवर्ती रूप से चलते हैं। गैर-अनुसूचित सेटिंग में, एजेंटों को पूर्वनिर्धारित अनुक्रमिक क्रम में निष्पादित किया जाता है: गणित एजेंट, नैरेटिंग एजेंट और रिक एजेंट। अस्थायी दक्षता का आकलन करने के लिए, एआईओएस ढांचा दो मेट्रिक्स को नियोजित करता है: प्रतीक्षा समय, और टर्नअराउंड समय, और चूंकि एजेंट बड़े भाषा मॉडल के लिए कई अनुरोध भेजते हैं, इसलिए व्यक्तिगत एजेंटों के लिए प्रतीक्षा समय और टर्नअराउंड समय की गणना औसत के रूप में की जाती है। सभी अनुरोधों के लिए प्रतीक्षा समय और टर्नअराउंड समय। जैसा कि निम्नलिखित तालिका में दिखाया गया है, गैर-अनुसूचित दृष्टिकोण अनुक्रम में पहले एजेंटों के लिए संतोषजनक प्रदर्शन प्रदर्शित करता है, लेकिन बाद में अनुक्रम में एजेंटों के लिए विस्तारित प्रतीक्षा और टर्नअराउंड समय से ग्रस्त होता है। दूसरी ओर, एआईओएस ढांचे द्वारा कार्यान्वित शेड्यूलिंग दृष्टिकोण प्रतीक्षा और टर्नअराउंड समय दोनों को प्रभावी ढंग से नियंत्रित करता है। 

निष्कर्ष

इस लेख में हमने एआईओएस के बारे में बात की है, एक एलएलएम एजेंट ऑपरेटिंग सिस्टम जिसे ओएस के मस्तिष्क के रूप में ओएस में बड़े भाषा मॉडल को एम्बेड करने के प्रयास में डिज़ाइन किया गया है, जो आत्मा के साथ एक ऑपरेटिंग सिस्टम को सक्षम बनाता है। अधिक विशिष्ट होने के लिए, AIOS फ्रेमवर्क को एजेंटों के बीच संदर्भ स्विचिंग की सुविधा, संसाधन आवंटन को अनुकूलित करने, एजेंटों के लिए उपकरण सेवा प्रदान करने, एजेंटों के लिए पहुंच नियंत्रण बनाए रखने और एजेंटों के समवर्ती निष्पादन को सक्षम करने के इरादे से डिज़ाइन किया गया है। एआईएसओ आर्किटेक्चर विकास और तैनाती को सुविधाजनक बनाने की क्षमता प्रदर्शित करता है बड़े भाषा मॉडल आधारित स्वायत्त एजेंट, जिसके परिणामस्वरूप एक अधिक प्रभावी, एकजुट और कुशल एआईओएस-एजेंट पारिस्थितिकी तंत्र तैयार हुआ।