कृत्रिम बुद्धिमत्ता का स्मृति संकट: हम एक डिजिटल अंधकार युग का निर्माण कर रहे हैं

लाखों एआई एजेंट उत्पादन प्रणालियों में प्रवेश कर रहे हैं। उनमें से लगभग कोई भी परिचालन अनुभव साझा नहीं कर सकता। यही कारण है कि वास्तुकला का चुनाव महत्वपूर्ण है—और अगर हम इसे सही ढंग से चुनते हैं तो क्या बदलाव आते हैं।

दोपहर 2:06 बजे, एक ग्राहक लैपटॉप के लिए ऑनलाइन ऑर्डर देता है।

चेकआउट एजेंट अपने परिचालन डेटाबेस की जाँच करता है: खरीदारी का इतिहास साफ है, राशि सामान्य सीमा के भीतर है, शिपिंग पता पहले भी इस्तेमाल किया जा चुका है, डिवाइस और स्थान हाल के सफल ऑर्डरों से मेल खाते हैं। सब कुछ सामान्य प्रतीत होता है। एजेंट ऑर्डर को स्वीकृत कर देता है।

साथ ही, एक व्यवहार एजेंट कंपनी के डेटा संग्रह में क्लिकस्ट्रीम डेटा को संसाधित करता है। सत्र से, यह एक पैटर्न निकालता है: उपयोगकर्ता बिना किसी ब्राउज़िंग या तुलना गतिविधि के सीधे डीप चेकआउट यूआरएल पर पहुंचा। यह संकेत अपने आप में कमजोर है, लेकिन सामान्य खरीदारी के साथ मिलकर यह खाता हैक होने की आशंकाओं का एक ज्ञात संकेत है।

व्यवहार एजेंट इस व्याख्या को बाद में विश्लेषण और मॉडल प्रशिक्षण के लिए व्युत्पन्न ज्ञान के रूप में रिकॉर्ड करता है।

चेकआउट एजेंट इसे कभी नहीं देख पाता। ऐसा इसलिए नहीं कि सिग्नल की गणना नहीं हुई, और न ही इसलिए कि इसे अनदेखा किया गया—बल्कि इसलिए कि यह जानकारी एक ऐसे सिस्टम में मौजूद है जिससे चेकआउट एजेंट प्रमाणीकरण के दौरान परामर्श नहीं करता है।

प्रत्येक एजेंट अपनी जानकारी के अनुसार सही व्यवहार करता है। प्रत्येक एजेंट अपने स्वामित्व वाले सिस्टम में डेटा लिखता है। लेकिन निर्णय लेते समय एक एजेंट द्वारा प्राप्त जानकारी दूसरे एजेंट को दिखाई नहीं देती।

लैपटॉप भेज दिया गया है।

छत्तीस घंटे बाद, आरोप पर विवाद खड़ा हो गया। जांच से पुष्टि हुई कि खाता उसी दिन पहले ही हैक हो गया था। हमलावर ने लेन-देन को सामान्य सीमा के भीतर ही रखा, इस तथ्य का फायदा उठाते हुए कि शुरुआती चेतावनी के तौर पर केवल चेकआउट एजेंट के निर्णय संदर्भ से बाहर मौजूद व्यवहार संबंधी जानकारी ही उपलब्ध थी।

विफलता का कारण डेटा की कमी, धीमी प्रोसेसिंग या खराब मॉडल नहीं था। यह एजेंटों के बीच एक तरह का अलगाव था: ज्ञान का निर्माण तो हुआ, लेकिन उसे साझा नहीं किया गया।

और इससे एक ऐसी समस्या सामने आती है जिसके बारे में लगभग कोई बात नहीं कर रहा है। हमने ऐसे आर्किटेक्चर बनाए हैं जहां निर्णय लेने वाले एआई एजेंट उन जानकारियों तक पहुंच नहीं सकते जो अन्य एआई एजेंट पहले ही खोज चुके हैं।

प्रिंटिंग प्रेस ने जिस समस्या का समाधान किया

प्रिंटिंग प्रेस से पहले, ज्ञान बहुत ही नाजुक था। जब कोई विद्वान मर जाता था, तो उसके द्वारा अर्जित ज्ञान का अधिकांश हिस्सा उसके साथ ही लुप्त हो जाता था। लंदन का एक गणितज्ञ दशकों तक सिद्धांतों की खोज में लगा रहता था, जबकि पेरिस का एक गणितज्ञ पचास साल बाद उन्हीं सिद्धांतों को स्वतंत्र रूप से पुनः खोज लेता था। प्रगति तो वास्तविक थी, लेकिन वह स्थानीय, धीमी और बार-बार दोहराई जाने वाली थी।

प्रिंटिंग प्रेस इससे व्यक्ति अधिक बुद्धिमान नहीं बने। इसने स्मृति को बाह्य रूप दिया। ज्ञान किसी एक व्यक्ति के मस्तिष्क तक सीमित नहीं रहा और अपने निर्माता के जीवनकाल से परे भी कायम रहने लगा। अंतर्दृष्टि को पीढ़ियों तक साझा किया जा सकता था, उस पर पुनर्विचार किया जा सकता था और उसे आगे बढ़ाया जा सकता था। इसी ने प्रगति को गतिमान होने दिया।

हम कृत्रिम बुद्धिमत्ता के मामले में प्रिंटिंग प्रेस से पहले की गलती को दोहराने के खतरे में हैं।

अधिकांश संगठन अब उत्पादन प्रणालियों में एआई एजेंटों को तैनात कर रहे हैं।कई अन्य एजेंट ग्राहक सहायता, सॉफ्टवेयर विकास, अनुसंधान और धोखाधड़ी का पता लगाने जैसे क्षेत्रों में सक्रिय रूप से प्रयोग कर रहे हैं। ये एजेंट आमतौर पर आधुनिक तकनीकों के अनुरूप स्वतंत्र सेवाओं के रूप में तैनात किए जाते हैं। माइक्रोसर्विस आर्किटेक्चरप्रत्येक एजेंट की अपनी डेटा और परिचालन सीमा होती है। यहां तक ​​कि एक ही संगठन के भीतर भी, एजेंट अपने उत्पादन अनुभव से अंतर्दृष्टि प्राप्त करते हैं, लेकिन संबंधित निर्णय लेने वाले अन्य एजेंटों के साथ अपने द्वारा उत्पादित ज्ञान को शायद ही कभी साझा करते हैं।

परिणामस्वरूप, परिचालन संबंधी जानकारी खंडित ही रहती है। स्थानीय निर्णय बेहतर हो सकते हैं, लेकिन अनुभव पूरे सिस्टम में संचित नहीं होता। हर वह सफलता जो किसी एक एजेंट तक ही सीमित रहती है, वह ऐसी सफलता है जिसका विस्तार नहीं हो सकता।

इस बार, सीमित करने वाला कारक बुद्धिमत्ता या गति नहीं है। यह स्मृति है। एआई प्रणालियों के लिए अपनी खोजों को बाहरी रूप से प्रकट करने और साझा करने का कोई तरीका न होने पर, प्रगति बनने की तुलना में अधिक बार रुक जाती है।

शेयर्ड मेमोरी वास्तव में कैसी दिखती है

बड़े संदर्भ क्षेत्र व्यक्तिगत तर्क क्षमता को बढ़ा सकते हैं, लेकिन वे साझा तर्क क्षमता का निर्माण नहीं करते हैं। एजेंटों के बीच निरंतर अनुभव.

साझा स्मृति परिणामों को मॉडल में सुधार करके नहीं, बल्कि निर्णय लेने के समय एजेंट क्या देख सकते हैं, इसे बदलकर बदलती है।

एक पृथक प्रणाली में, प्रत्येक एजेंट अपनी सीमा के भीतर सही ढंग से तर्क करता है। चेकआउट एजेंट लेन-देन संबंधी जोखिम का मूल्यांकन करता है। व्यवहार एजेंट क्लिकस्ट्रीम पैटर्न का विश्लेषण करता है। प्रत्येक एजेंट अपने निष्कर्षों को अपने स्वामित्व वाली प्रणाली में लिखता है, और ये निष्कर्ष समानांतर रूप से काम कर रहे अन्य एजेंटों के लिए अदृश्य रहते हैं। निर्णय स्थानीय रूप से सही होते हैं, लेकिन वैश्विक रूप से अपूर्ण होते हैं।

साझा मेमोरी लेयर होने से वह सीमा समाप्त हो जाती है।

व्यवहार एजेंट सत्र की प्रक्रिया करते समय एक कमजोर लेकिन सार्थक संकेत प्राप्त करता है: प्रारंभिक खाता अधिग्रहण प्रयासों से जुड़ा एक नेविगेशन पैटर्न। इस जानकारी को केवल ऑफ़लाइन विश्लेषण के लिए संग्रहीत करने के बजाय, यह सक्रिय सत्र से जुड़ी साझा मेमोरी में संकेत लिखता है।

कुछ ही क्षणों बाद, जब चेकआउट एजेंट खरीदारी का मूल्यांकन करता है, तो वह उसी मेमोरी से जानकारी लेता है। लेन-देन अभी भी सामान्य प्रतीत होता है। लेकिन अब उसे एक अतिरिक्त संदर्भ दिखाई देता है: एक व्यवहार संबंधी चेतावनी जो अन्यथा अनुपस्थित होती। दोनों में से कोई भी संकेत अपने आप में निर्णायक नहीं है। साथ मिलकर, वे आगे की जाँच के लिए आवश्यक सीमा को पार कर जाते हैं।

एजेंटों में कोई बदलाव नहीं हुआ है। किसी मॉडल को दोबारा प्रशिक्षित नहीं किया जाता। कोई केंद्रीकृत नियंत्रक हस्तक्षेप नहीं करता। अंतर केवल दृश्यता का है: एक एजेंट द्वारा प्राप्त अंतर्दृष्टि दूसरे एजेंट को तब उपलब्ध हो जाती है जब वह अभी भी महत्वपूर्ण होती है।

सबसे महत्वपूर्ण बात यह है कि यह अंतर्दृष्टि बनी रहती है। जब बाद में परिणाम पता चलता है—चाहे वह धोखाधड़ी हो या वैध—तो संकेत और परिणाम के बीच का संबंध दर्ज हो जाता है। समय के साथ, प्रणाली इस बात का अनुभवजन्य रिकॉर्ड जमा करती है कि कौन से कमजोर संकेतक महत्वपूर्ण होते हैं और किन परिस्थितियों में। भविष्य के निर्णय ऐसे अनुभव से प्रभावित होते हैं जो किसी एक अंतःक्रिया या कर्ता से कहीं अधिक व्यापक होता है।

साझा मेमोरी न तो डेटा वेयरहाउस है और न ही एक ऑपरेशनल डेटाबेस। यह व्युत्पन्न संदर्भ के लिए एक कम विलंबता वाला आधार है: संकेत, व्याख्याएं और संबंध जो उन्हें उत्पन्न करने वाली परस्पर क्रिया से बचे रहते हैं और संबंधित निर्णय लेने वाले अन्य एजेंटों द्वारा क्वेरी करने योग्य बने रहते हैं।

इस तरह अनुभव का संचय होता है—किसी एक मॉडल के भीतर नहीं, बल्कि समग्र रूप से प्रणाली में।

एजेंट साइलो के पीछे वास्तुकला संबंधी समझौता

एजेंट साइलो कार्यान्वयन की गलती नहीं है। यह एक अलग प्रकार के उपभोक्ता को ध्यान में रखकर डिज़ाइन किए गए एंटरप्राइज़ आर्किटेक्चर का एक अनुमानित परिणाम है।

दशकों से, उत्पादन प्रणालियों ने कार्यभार को कार्य के आधार पर अलग किया है। परिचालन प्रणालियों को कम विलंबता, सुसंगत लेनदेन के लिए अनुकूलित किया गया था, जबकि विश्लेषणात्मक प्रणालियों को बड़े पैमाने पर एकत्रीकरण और ऐतिहासिक पैटर्न की खोज के लिए अनुकूलित किया गया था।ओएलटीपी बनाम ओएलएपीयह अलगाव इस बात को दर्शाता है कि अंतर्दृष्टि का उपभोग कैसे किया जाता था: विश्लेषणात्मक परिणाम मनुष्यों के लिए तैयार किए जाते थे, मशीनों के लिए नहीं, और इसलिए उनसे अतुल्यकालिक रूप से और निर्णय लेने के महत्वपूर्ण मार्ग से बाहर आने की अपेक्षा की जाती थी।

एआई एजेंट इस संरचनात्मक विभाजन को विरासत में पाते हैं, लेकिन वे इसमें फिट नहीं बैठते।

इसका परिणाम केवल विलंबित अंतर्दृष्टि ही नहीं, बल्कि संरचनात्मक कमियाँ भी हैं। विश्लेषणात्मक प्रणालियों में उत्पन्न अंतर्दृष्टि, डिज़ाइन के अनुसार, वास्तविक समय के निर्णय लिए जाने के बाद ही खोजी जाती हैं। ऐसे संकेत मौजूद होते हैं जो परिणामों को बदल सकते हैं, लेकिन निर्णय के समय उन्हें प्रकट नहीं किया जा सकता क्योंकि वे ऐसी प्रणालियों में मौजूद होते हैं जिन्हें स्वायत्त निर्णयकर्ताओं द्वारा निरंतर रूप से प्रश्न पूछने के लिए डिज़ाइन नहीं किया गया है।

संरचना में कोई खामी नहीं है। यह स्वायत्त प्रणालियों की आवश्यकताओं के अनुरूप नहीं है।

लुप्त अनुशासन: संदर्भ अभियांत्रिकी

साझा मेमोरी एक ऐसी समस्या को जन्म देती है जिसे हल करने के लिए अधिकांश टीमें तैयार नहीं होती हैं: यह तय करना कि किस अनुभव को स्थायी रखा जाना चाहिए।

कृत्रिम बुद्धिमत्ता प्रणालियाँ बड़ी मात्रा में कच्चा अनुभव उत्पन्न करती हैं—लेनदेन, क्लिक, संदेश, क्रियाएँ, परिणाम। इन सभी को सहेज कर रखना न तो व्यावहारिक है और न ही उपयोगी। जानबूझकर चयन किए बिना, साझा स्मृति शोर बन जाती है। चुनौती अधिक डेटा एकत्र करना नहीं है, बल्कि अनुभव को ऐसे संदर्भ में ढालना है जिसका उपयोग अन्य एजेंट कर सकें।

यह है भूमिका संदर्भ इंजीनियरिंग.

संदर्भ अभियांत्रिकी वह अनुशासन है जो यह निर्धारित करता है कि कौन से अवलोकन स्थायी संकेत बनते हैं, उन संकेतों को कैसे प्रस्तुत किया जाता है, और उन्हें अन्य कारकों के सामने कब उजागर किया जाना चाहिए। यह वास्तविक घटनाओं और कारक तर्क के बीच स्थित होता है, क्षणिक गतिविधि को साझा, निर्णय-प्रासंगिक समझ में परिवर्तित करता है।

व्यवहार में, इसका अर्थ है पैटर्न, संकेतक और सशर्त संबंधों को महत्व देना, जबकि अधिकांश मौलिक अनुभवों को लुप्त होने देना। एक कमजोर संकेत या अपवाद अकेले में शायद मायने न रखता हो, लेकिन सही समय पर एकत्रित और सामने आने पर वह मूल्यवान हो जाता है।

संदर्भ अभियांत्रिकी यह निर्धारित करती है कि साझा स्मृति केवल अनुभव को संग्रहित करती है या उसे संवर्धित करने में सक्षम बनाती है।

अगर हम इसे सही कर लें तो क्या होगा?

यह भविष्य की चिंता का विषय नहीं है। यह एक वास्तुशिल्पीय निर्णय है जो आज अवसंरचना टीमों द्वारा - अक्सर अप्रत्यक्ष रूप से - लिया जा रहा है।

सामान्य प्रक्रिया अलगाव की है। एआई एजेंट स्वतंत्र रूप से कार्य करते हैं, केवल अपने अनुभव के आधार पर। प्रत्येक एजेंट तेजी से और स्थानीय स्तर पर सही निर्णय लेता है, लेकिन बुद्धिमत्ता एक स्तर पर स्थिर हो जाती है। वही दुर्लभ मामले बार-बार सामने आते हैं, कमजोर संकेत फिर से खोजे जाते हैं, और विफलताएं अधिक गति और मात्रा में दोहराई जाती हैं।

इसका विकल्प साझा मेमोरी लेयर है।

जब व्युत्पन्न संदर्भ बना रहता है और निर्णय लेने के समय स्पष्ट रूप से दिखाई देता है, तो अनुभव लुप्त होना बंद हो जाता है। एक बार प्राप्त अंतर्दृष्टि हमेशा उपलब्ध रहती है। संचय के माध्यम से कमजोर संकेत अर्थपूर्ण हो जाते हैं। निर्णय बेहतर होते हैं, इसलिए नहीं कि मॉडल बदलते हैं, बल्कि इसलिए कि कर्ता अब एकांत में तर्क नहीं करते हैं।

इसके लिए बड़े मॉडल, रीयल-टाइम री-ट्रेनिंग या केंद्रीकृत नियंत्रण की आवश्यकता नहीं होती है। इसके लिए मेमोरी को एक प्रथम श्रेणी की आर्किटेक्चरल लेयर के रूप में मानना ​​आवश्यक है—जिसे कम विलंबता, डेटा की निरंतरता और साझा दृश्यता के लिए डिज़ाइन किया गया है।

आर्किटेक्चरल डिफॉल्ट्स जल्दी ही कठोर हो जाते हैं। साझा मेमोरी के बिना निर्मित सिस्टम, एजेंटों की बढ़ती संख्या के साथ-साथ, अनुकूलन योग्य बनाना कठिन होता जाता है। विकल्प सीधा है: ऐसे सिस्टम बनाएं जो अनुभव संचित करते हों—या ऐसे सिस्टम बनाएं जो लगातार रीसेट होते रहते हों।