Baseten ने लंबे समय तक चलने वाले, स्थिति बनाए रखने वाले AI एजेंटों के लिए Sandboxes लॉन्च किए

Baseten ने 5 नवंबर, 2026 को Sandboxes पेश किए, जो AI एजेंटों को अलग-थलग माइक्रोवीएम परिवेश देते हैं और कार्यों के बीच फ़ाइलें, मेमोरी तथा चल रही प्रक्रियाएँ सुरक्षित रखते हैं। यह निष्पादन सेवा अब उपलब्ध है और 16 नवंबर, 2026 तक मुफ़्त है। यह Baseten के नियोजित एजेंट क्लाउड का पहला घटक है।

उत्पाद का दस्तावेज़ प्रति संगठन एक साथ चलने वाले सैंडबॉक्स की डिफ़ॉल्ट सीमा 10 तय करता है; सहायता टीम इस सीमा को बढ़ा सकती है। टीमें अलग-अलग उपयोगकर्ताओं या परियोजनाओं के लिए अलग परिवेश निर्धारित कर सकती हैं और उपयोगकर्ताओं तथा परियोजनाओं में बदलाव के अनुसार उन्हें बना या हटा सकती हैं। इसके उदाहरणों में किसी उपयोगकर्ता के लिए वेबसाइट का कोड लिखने और चलाने वाला एजेंट, या स्रोत सामग्री डाउनलोड करके उसका विश्लेषण करने और शोध के नतीजे जुटाने वाला एजेंट शामिल हैं।

माइक्रोवीएम का पृथक्करण और सुरक्षित रखी गई स्थिति

पृथक्करण की व्यवस्था में हर परिवेश के लिए एक समर्पित माइक्रोवीएम होता है, जिसका कर्नेल अलग होता है और जो हार्डवेयर-स्तर का पृथक्करण देता है। Baseten के अनुसार, इससे कंटेनर-आधारित तरीकों की तुलना में अधिक पृथक्करण मिलता है और एजेंटों को अविश्वसनीय कोड चलाने, फ़ाइलों में बदलाव करने तथा प्रक्रियाएँ चलाने की सुविधा मिलती है—बिना एक परिवेश से दूसरे परिवेश में जाने की आशंका के। स्थिति-सहेजने की प्रणाली एक अलग समस्या हल करती है: कंप्यूट संसाधनों को लगातार चालू रखे बिना काम की प्रगति सुरक्षित रखना।

कनेक्शन टूटने पर फ़ाइल सिस्टम, मेमोरी और सक्रिय प्रक्रियाओं का स्नैपशॉट लिया जाता है। परिवेश निष्क्रिय रहने के दौरान कंप्यूट संसाधन शून्य हो जाते हैं; दोबारा शुरू करने पर उसकी सुरक्षित रखी गई स्थिति बहाल हो जाती है, जिससे काम अलग-अलग सत्रों में जारी रह सकता है या मानवीय इनपुट के लिए रुक सकता है। इस तरह निलंबन निरंतरता बनाए रखने की सुविधा भी है और संसाधन प्रबंधन का तरीका भी: कई कार्यस्थल सुरक्षित रखे जा सकते हैं, जबकि सक्रिय कंप्यूट संसाधन उन परिवेशों के लिए आरक्षित रहते हैं जहाँ काम हो रहा है।

Baseten के अनुसार, परिवेश 25 मिलीसेकंड में फिर से शुरू हो सकता है, कुछ ही सेकंड में हज़ारों सैंडबॉक्स तक विस्तार किया जा सकता है और अन्य सैंडबॉक्सिंग टूल की तुलना में गति पाँच गुना तक अधिक हो सकती है। विलंबता का लक्ष्य पूरी प्रक्रिया पर लागू होता है: लंबी एजेंट-आधारित प्रक्रियाओं में स्टार्टअप, फ़ाइलों को पढ़ने-लिखने और इन्फ़रेंस अनुरोधों के आने-जाने में लगने वाला समय अन्यथा जुड़कर बढ़ सकता है।

डैशबोर्ड में API अनुरोधों, त्रुटि दर, CPU और मेमोरी के लाइव आँकड़े शामिल हैं। इसमें क्षेत्र, RAM, इमेज और लेबल जैसी परिनियोजन संबंधी जानकारी भी दी जाती है। अंतर्निहित निगरानी सुविधा अलग से मॉनिटरिंग व्यवस्था किए बिना यह दिखाती है कि एजेंट का परिवेश क्या कर रहा है।

इमेज, पहुँच और डेटा प्रतिधारण

हर सैंडबॉक्स एक इमेज से शुरू होता है। Baseten पहले से उपलब्ध विकल्पों का रखरखाव करता है, जबकि टीमें Dockerfile से अपनी इमेज बना सकती हैं या किसी रजिस्ट्री से उन्हें आयात कर सकती हैं; इमेज के संस्करण हर टीम के लिए अलग से प्रबंधित किए जाते हैं। किसी इमेज में ऑपरेटिंग सिस्टम और भाषा के रनटाइम, पैकेज तथा कमांड-लाइन टूल, शुरुआती कोड या डेटा, और मेमोरी तथा पोर्ट की डिफ़ॉल्ट सेटिंग शामिल हो सकती हैं। MCP टूल के लिए कमांड और फ़ाइल संबंधी कार्रवाइयाँ Sandbox API सर्वर संभालता है।

कस्टम इमेज सफलतापूर्वक बन जाने पर उसे टैग वाला संस्करण मिलता है और हर नया सैंडबॉक्स उस संस्करण की एक प्रति से शुरू होता है। किसी रन के दौरान बनाई या बदली गई फ़ाइलें इमेज में बदलाव नहीं करतीं। डेवलपर Baseten CLI के ज़रिए परिवेश बना सकते हैं, कमांड चला सकते हैं या इंटरैक्टिव टर्मिनल खोल सकते हैं; कोडिंग एजेंट भी उन्हीं CLI कमांड का उपयोग कर सकते हैं।

सुरक्षित रखी गई स्थिति भी मिटाए जाने की सीमा के अधीन होती है। सैंडबॉक्स हटाने पर—उसकी अवधि समाप्त होने पर हटाने सहित—उसका स्थानीय डेटा हमेशा के लिए मिट जाता है। नतीजों को सैंडबॉक्सों के बीच सुरक्षित रखने के लिए उन्हें परिवेश से बाहर सहेजना होगा या माउंट किए गए सैंडबॉक्स वॉल्यूम में रखना होगा।

स्टोरेज और नेटवर्किंग अभी भी विकास की योजना में

Baseten की वास्तु संबंधी धारणा यह है कि पहले के क्लाउड संसाधन ऐसे एक ऐप्लिकेशन के लिए बनाए गए थे जो लाखों उपयोगकर्ताओं को सेवा देता है, जबकि एजेंट इस मॉडल को उलटकर लाखों माइक्रो-ऐप्लिकेशन में बदल देते हैं, जिनमें से हर एक कुछ ही मानव या एजेंट उपयोगकर्ताओं को सेवा देता है। ऐसे में हर परिवेश को अपने टूल, संचित काम और फ़ाइलों की ज़रूरत होती है; इसके लिए कंप्यूट, स्टोरेज, नेटवर्किंग और पहचान-प्रबंधन को एक साथ ध्यान में रखकर तैयार करना होता है।

Sandboxes, Baseten के प्लेटफ़ॉर्म में समर्पित इन्फ़रेंस, Model APIs, Training, Loops और Grid के साथ शामिल हैं। इससे उसके इन्फ़रेंस, ट्रेनिंग, रूटिंग और गवर्नेंस उत्पादों में निष्पादन की क्षमता जुड़ती है। स्टोरेज के लिए Agent Drive एक वितरित रिमोट फ़ाइल सिस्टम उपलब्ध कराएगा, जिसे सैंडबॉक्स साझा कर सकेंगे और जिसे कोड तथा Markdown जैसी छोटी फ़ाइलों और बड़ी मात्रा में लेखन के लिए अनुकूलित किया जाएगा। Agent Proxy सैंडबॉक्स के बाहर कनेक्शन नियम लागू करेगा और संवेदनशील कार्रवाइयों—जैसे Stripe से भुगतान—के दौरान प्रमाण-पत्र एजेंट के सामने उजागर किए बिना उन्हें उपलब्ध कराएगा। व्यापक योजना में अनुमतियाँ, ऑडिट लॉगिंग, फ़ायरवॉलिंग, स्थिर IP और कॉन्फ़िगर किए जा सकने वाले नियंत्रण शामिल हैं। Baseten को उम्मीद है कि Agent Drive और Agent Proxy आने वाले महीनों में उपलब्ध होंगे।

व्यावहारिक सीमा यह है कि Sandboxes विराम के दौरान एजेंट की कामकाजी स्थिति सुरक्षित रख सकते हैं, लेकिन हटाए जाने के बाद भी जिन नतीजों को बनाए रखना हो, उन्हें परिवेश से बाहर स्टोरेज में या माउंट किए गए वॉल्यूम में रखना ज़रूरी है। साझा फ़ाइल सिस्टम और बाहर से लागू किए जाने वाले प्रमाण-पत्र नियंत्रण अभी विकास की योजना में हैं। इसलिए फिलहाल एजेंट क्लाउड की शुरुआत निष्पादन से होती है, न कि Baseten द्वारा वर्णित कंप्यूट, स्टोरेज और नेटवर्किंग की पूरी व्यवस्था से।