नियंत्रित भूलना: एआई की स्मृति में अगली बड़ी चुनौती

वर्षों से, एआई क्षेत्र ने एक लक्ष्य पर ध्यान केंद्रित किया है: सिस्टम को बेहतर ढंग से याद रखने में मदद करना। हमने बड़े डेटासेट पर मॉडल को प्रशिक्षित किया और उनकी जानकारी को बनाए रखने और याद रखने की क्षमता में सुधार किया। लेकिन हम अब एक असहज वास्तविकता को महसूस कर रहे हैं। जिन सिस्टम को कभी नहीं भूलना चाहिए, वे अब अपनी ही स्मृति से फंस गए हैं। जो पहले ताकत की तरह लगता था, अब एक गंभीर कमजोरी बन गया है।

मानव प्राकृतिक रूप से भूल जाते हैं। हम जानकारी को छोड़ देते हैं, अनुकूलन करते हैं, और आगे बढ़ते हैं। एआई सिस्टम अलग तरह से काम करते हैं। वे सब कुछ याद रखते हैं जब तक हम उन्हें भूलना नहीं सिखाते। इससे वास्तविक समस्याएं पैदा होती हैं। एआई गोपनीयता उल्लंघन, पुरानी जानकारी, निहित पूर्वाग्रह, और सीखने के नए कार्यों के दौरान टूटने वाले सिस्टम से जूझता है। आगे की चुनौती यह नहीं है कि एआई को और अधिक याद रखने के लिए कैसे बनाया जाए। हमें एआई को बुद्धिमानी से भूलना सिखाना होगा।

भूलने के दो चेहरे

एआई में भूलने के दो अलग-अलग रूप दिखाई देते हैं, प्रत्येक अपनी समस्याओं के साथ।

पहला विनाशकारी भूलना है। यह तब होता है जब एक न्यूरल नेटवर्क नए कार्यों पर प्रशिक्षण के बाद पहले से सीखी गई ज्ञान को खो देता है। उदाहरण के लिए, एक मॉडल जो बिल्लियों और कुत्तों को पहचानने के लिए प्रशिक्षित किया गया है, वह पक्षियों को पहचानने के लिए सीखने के बाद उस क्षमता को भूल सकता है।

दूसरा रूप नियंत्रित भूलना है। यह जानबूझकर किया जाता है। इसमें प्रशिक्षित मॉडल से विशिष्ट जानकारी को जानबूझकर हटाना शामिल है। जीडीपीआर जैसे गोपनीयता कानून लोगों को “भूलने का अधिकार” देते हैं, जिसके लिए कंपनियों को अनुरोध पर डेटा को मिटाना होता है। यह टूटे हुए सिस्टम को ठीक करने के बारे में नहीं है। यह उन डेटा को जानबूझकर हटाने के बारे में है जिन्हें कभी संग्रहीत नहीं किया जाना चाहिए या अनुरोध पर गायब हो जाना चाहिए।

इन दो समस्याओं में से एक को रोकने की आवश्यकता है, जबकि दूसरे को संभव बनाने की आवश्यकता है। दोनों को एक साथ प्रबंधित करना एआई की सबसे कठिन चुनौतियों में से एक है।

जब स्मृति दायित्व बन जाती है

एआई अनुसंधान ने लंबे समय से स्मृति में सुधार पर ध्यान केंद्रित किया है। मॉडल बड़े हो गए हैं, डेटासेट बड़े हो गए हैं, और संदर्भ खिड़कियां लंबी हो गई हैं। जीपीटी-4ओ जैसे सिस्टम अब 128,000 टोकन के संदर्भ को संभाल सकते हैं, और क्लाउड 200,000 तक पहुंच सकता है। इन प्रगति ने प्रदर्शन में सुधार किया है लेकिन नए मुद्दे भी पेश किए हैं।

जब एक मॉडल बहुत कुछ याद रखता है, तो यह पुरानी या अप्रासंगिक जानकारी को याद कर सकता है। इससे गणना बर्बाद होती है और उपयोगकर्ताओं को भ्रमित किया जा सकता है। उदाहरण के लिए, अपनी कंपनी के ज्ञान आधार पर प्रशिक्षित एक ग्राहक सहायता चैटबॉट पर विचार करें। आप नीति को अपडेट करते हैं, लेकिन कुछ इंटरैक्शन के बाद, बॉट पुरानी जानकारी पर वापस आ जाता है। यह होता है क्योंकि एआई स्मृति को ठीक से प्राथमिकता नहीं दे सकता। एआई वर्तमान और पुराने के बीच अंतर नहीं बता सकता।

गोपनीयता कानून इसे और कठिन बनाते हैं। जीडीपीआर के तहत, जब एक उपयोगकर्ता अपना डेटा हटाने का अनुरोध करता है, तो कंपनियों को इसे हटाना होगा। लेकिन एक एआई मॉडल से डेटा को हटाना कंप्यूटर से फ़ाइल को हटाने जैसा नहीं है। एक बार व्यक्तिगत डेटा मॉडल के पैरामीटर का हिस्सा बन जाता है, तो यह नेटवर्क के भीतर लाखों कनेक्शनों में फैल जाता है। पूरे सिस्टम को पुनः प्रशिक्षित करना महंगा और अक्सर असंभव होता है। शोध से पता चलता है कि बड़े मॉडल साइबर हमलों के लिए अधिक कमजोर होते हैं। मॉडल जितना अधिक स्मृति में डेटा संग्रहीत करता है, उतना ही अधिक यह निजी डेटा को पुनः प्राप्त कर सकता है जब इसे सावधानी से तैयार किए गए प्रॉम्प्ट के माध्यम से पूछा जाता है। हमलावरों को ऐसी जानकारी प्राप्त हो सकती है जिसे वे कभी नहीं प्राप्त करनी चाहिए।

भूलना क्या मुश्किल बनाता है

एआई मॉडल फ़ाइलों को एक फ़ोल्डर में संग्रहीत करने की तरह प्रशिक्षण उदाहरणों को संग्रहीत नहीं करते हैं। वे प्रशिक्षण जानकारी को अपने वजन और सक्रियण में संपीड़ित और मिलाते हैं। बिना सब कुछ परेशान किए एक टुकड़ा डेटा को हटाना बहुत मुश्किल है। इसके अलावा, हम विशिष्ट प्रशिक्षण डेटा के मॉडल के आंतरिक वजनों पर प्रभाव को आसानी से ट्रैक नहीं कर सकते हैं। एक बार मॉडल डेटा से सीखता है, तो उस ज्ञान को उसके पैरामीटर के माध्यम से फैलाया जाता है जो ट्रेस करने में मुश्किल होते हैं।

प्रत्येक हटाने के अनुरोध के बाद से मॉडल को शुरू से पुनः प्रशिक्षित करना व्यावहारिक नहीं है। जब कोई अपने व्यक्तिगत डेटा को मिटाने का अनुरोध करता है, तो आपको इसे एआई सिस्टम से हटाने की आवश्यकता होती है। लेकिन प्रत्येक बार मॉडल को शुरू से पुनः प्रशिक्षित करना अधिकांश उत्पादन सेटिंग्स में बहुत महंगा और धीमा है। अरबों डेटा बिंदुओं पर प्रशिक्षित बड़े भाषा मॉडल के लिए, यह दृष्टिकोण निषिद्ध रूप से महंगा और समय लेने वाला होगा।

भूलने की पुष्टि एक और चुनौती पेश करती है। हम यह कैसे साबित करें कि डेटा वास्तव में भूल गया है? कंपनियों को बाहरी ऑडिट की आवश्यकता होती है ताकि यह दिखाया जा सके कि उन्होंने जानकारी को हटा दिया है। विश्वसनीय पुष्टि विधियों के बिना, व्यवसाय अनुपालन को साबित नहीं कर सकते हैं, और उपयोगकर्ता यह विश्वास नहीं कर सकते कि उनका डेटा वास्तव में गया है।

इन चुनौतियों ने एक नए क्षेत्र को जन्म दिया है जिसे मशीन अनलर्निंग कहा जाता है। यह प्रशिक्षित मॉडल से विशिष्ट डेटा के प्रभाव को हटाने के तरीकों पर केंद्रित है। लेकिन ये तरीके अभी भी प्रारंभिक चरण में हैं। सटीक अनलर्निंग अक्सर मॉडल को पुनः प्रशिक्षित करने की आवश्यकता होती है, जबकि अनुमानित तरीके हटाए गए जानकारी के निशान छोड़ सकते हैं।

स्थिरता-प्लास्टिसिटी द्वंद्व

आवश्यक चुनौती जिसे हमें संबोधित करने की आवश्यकता है वह है विनाशकारी भूलने को रोकने के दौरान नियंत्रित भूलने को सक्षम करना। यह हमें एआई का सामना करने वाली एक प्रमुख चुनौती की ओर ले जाता है: स्थिरता-प्लास्टिसिटी द्वंद्व। मॉडल को इतना लचीला होना चाहिए कि वे नई जानकारी सीख सकें, लेकिन इतने स्थिर हों कि वे पुराने ज्ञान को बनाए रखें। यदि हम मॉडल को बहुत अधिक स्थिरता की ओर धकेलते हैं, तो यह अनुकूलन नहीं कर सकता। दूसरी ओर, यदि हम इसे बहुत अधिक लचीलेपन की ओर धकेलते हैं, तो यह सब कुछ भूल सकता है जो यह पहले से जानता था।

मानव स्मृति इस द्वंद्व को संभालने के लिए उपयोगी संकेत प्रदान करती है। न्यूरोसाइंस बताता है कि भूलना एक दोष नहीं है। यह एक सक्रिय प्रक्रिया है। मस्तिष्क पुरानी या कम मूल्य वाली जानकारी को हटा देता है या दबा देता है, ताकि नई यादें सुलभ रहें। जब लोग एक नई भाषा सीखते हैं, तो वे पुरानी भाषा को नहीं मिटाते। लेकिन अगर वे इसका उपयोग बंद कर देते हैं, तो याद करना मुश्किल हो जाता है। जानकारी अभी भी वहीं है, बस प्राथमिकता में नहीं है। मस्तिष्क चयनात्मक दमन का उपयोग करता है, न कि हटाने।

एआई शोधकर्ता समान विचारों को अपनाना शुरू कर रहे हैं। जनरेटिव रिप्ले तकनीक मस्तिष्क में स्मृति को कैसे संग्रहीत किया जाता है, इसे नकल करती है। वे कच्चे डेटा को संग्रहीत करने के बजाय पिछले ज्ञान के अमूर्त प्रतिनिधित्व बनाते हैं। इससे विनाशकारी भूलने को कम किया जा सकता है और स्मृति को कॉम्पैक्ट रखा जा सकता है। एक और आशाजनक विचार बुद्धिमान क्षय है। संग्रहीत स्मृतियों को उनकी हाल की ताजगी, प्रासंगिकता और उपयोगिता के आधार पर स्कोर किया जाता है। कम महत्वपूर्ण स्मृतियां धीरे-धीरे प्राथमिकता खो देती हैं और कम बार पुनर्प्राप्त की जाती हैं। इससे जानकारी उपलब्ध रहती है लेकिन जरूरत पड़ने पर ही दिखाई देती है। एआई सिस्टम बड़े ज्ञान आधार को प्रबंधित कर सकते हैं बिना संभावित रूप से मूल्यवान जानकारी को फेंके।

लक्ष्य पूरी तरह से मिटाना नहीं है, बल्कि स्मृति और भूलने के बीच संतुलन बनाना है।

भविष्य कैसा दिखेगा

उद्योग मुख्य रूप से तीन दिशाओं में बढ़ रहा है।

पहले, हाइब्रिड मेमोरी आर्किटेक्चर उभर रहे हैं। ये सिस्टम एपिसोडिक मेमोरी (विशिष्ट अनुभव) को सेमेंटिक मेमोरी (सामान्य ज्ञान) के साथ जोड़ते हैं। वे महत्वपूर्ण जानकारी को बनाए रखने और कम प्रासंगिक जानकारी को फीका करने के लिए रैंकिंग और प्रूनिंग तंत्र का उपयोग करते हैं। वेक्टर डेटाबेस जैसे पाइनकोन और वेविएट ऐसी स्मृति को कुशलता से प्रबंधित और पुनर्प्राप्त करने में मदद करते हैं।

दूसरा, गोपनीयता-सुधार प्रौद्योगिकियां गति पकड़ रही हैं। संघीय शिक्षा, संघीय सीखना, अंतरगत गोपनीयता, और होमोमॉर्फिक एन्क्रिप्शन जैसी तकनीकें संवेदनशील व्यक्तिगत डेटा की आवश्यकता को कम करती हैं। ये तरीके मॉडल को सुरक्षित रूप से या संवेदनशील उपयोगकर्ता जानकारी एकत्र किए बिना साझेदारी से प्रशिक्षित करने की अनुमति देते हैं। वे सीधे तौर पर भूलने का समाधान नहीं प्रदान करते हैं, लेकिन बाद में भूलने की आवश्यकता वाले व्यक्तिगत डेटा की मात्रा को कम करते हैं।

तीसरा, मशीन अनलर्निंग में सुधार जारी है। नए तरीके विशिष्ट डेटा से जुड़े मॉडल पैरामीटर को समायोजित कर सकते हैं बिना पूरी तरह से पुनः प्रशिक्षित किए। ये दृष्टिकोण अभी भी प्रारंभिक चरण में हैं, लेकिन वे डेटा हटाने की आवश्यकताओं के अनुपालन की ओर बढ़ रहे हैं। फिर भी, यह साबित करना कि अनलर्निंग वास्तव में डेटा के सभी निशान को हटा देती है, मुश्किल बना हुआ है। शोधकर्ता इसके कितनी अच्छी तरह काम करता है यह मापने के लिए परीक्षण विकसित कर रहे हैं।

नीचे की रेखा

एआई सिस्टम याद रखने में उत्कृष्ट हो गए हैं। लेकिन वे अभी भी भूलने में खराब हैं। यह अंतर और भी कठिन होता जा रहा है। जैसे-जैसे एआई अधिक शक्तिशाली होता जा रहा है और नियम अधिक सख्त हो रहे हैं, भूलने की क्षमता याद रखने की क्षमता के बराबर मायने रखेगी। एआई को सुरक्षित, अधिक अनुकूलनीय और अधिक गोपनीयता-सचेत बनाने के लिए, हमें इसे सावधानी, चयनात्मक रूप से और बुद्धिमानी से भूलना सिखाना होगा। नियंत्रित भूलने से न केवल डेटा गोपनीयता की रक्षा होगी, बल्कि एआई सिस्टम को अपनी स्मृति के कैदी बनने से रोकने में भी मदद मिलेगी।