एलएलएम के भीतर वर्तमान मुद्दों को संबोधित करना और आगे क्या है इसकी ओर देखना

आज, जीपीटी-3, जीपीटी-4, लैमडीए, या बर्ड जैसे दर्जनों सार्वजनिक रूप से उपलब्ध बड़े भाषा मॉडल (एलएलएम) हैं, और नए मॉडल जारी होने के साथ संख्या लगातार बढ़ रही है। एलएलएम ने कृत्रिम बुद्धिमत्ता को क्रांतिकारी बनाया है, जिससे हम विभिन्न उद्योगों में प्रौद्योगिकी के साथ बातचीत करने के तरीके पूरी तरह से बदल गए हैं। ये मॉडल हमें कई मानव भाषा डेटासेट से सीखने की अनुमति देते हैं और नवाचार, रचनात्मकता और दक्षता के लिए नए अवसर खोलते हैं।

हालांकि, बड़ी शक्ति के साथ बड़ी जटिलता आती है। एलएलएम के आसपास निहित चुनौतियों और नैतिक मुद्दों को संबोधित किया जाना चाहिए जो हमें उनका पूरा लाभ उठाने से पहले उन्हें संबोधित करना चाहिए। उदाहरण के लिए, एक हालिया स्टैनफोर्ड अध्ययन में पाया गया कि जब चैटजीपीटी-4 को नस्ल और लिंग के सुझाव देने वाले पहले और अंतिम नामों के साथ कुछ प्रश्नों के लिए सलाह देने के लिए कहा गया, तो नस्ल और लिंग में पूर्वाग्रह और भेदभाव पाया गया। इस अध्ययन में, कार्यक्रम से जमाल वाशिंगटन नामक किसी व्यक्ति द्वारा बेचे जा रहे एक पुराने बाइक के लिए कितना भुगतान करना चाहिए, इसके बारे में सलाह मांगी गई, जो लोगन बेकर नामक विक्रेता की तुलना में बहुत कम राशि थी। जैसे ही ये खोजें सामने आती हैं, एलएलएम चुनौतियों को संबोधित करने की आवश्यकता और बढ़ जाती है।

एलएलएम के सामान्य चिंताओं को कम करने के लिए कैसे

पूर्वाग्रह

एलएलएम के बीच सबसे अधिक चर्चित मुद्दों में से एक पूर्वाग्रह और न्याय है। एक हालिया अध्ययन में, विशेषज्ञों ने चार हाल ही में प्रकाशित एलएलएम का परीक्षण किया और पाया कि उन सभी ने पुरुषों और महिलाओं के बारे में पूर्वाग्रह भरे धारणाएं व्यक्त कीं, विशेष रूप से उन लोगों के साथ जो तथ्यों पर आधारित नहीं हैं बल्कि लोगों की धारणाओं के साथ हैं। इस संदर्भ में, पूर्वाग्रह विभिन्न सामाजिक समूहों के बीच असमान उपचार या परिणामों को संदर्भित करता है, जो ऐतिहासिक या संरचनात्मक शक्ति असंतुलन के कारण हो सकता है।

एलएलएम में, पूर्वाग्रह डेटा चयन, निर्माता जनसांख्यिकी, और भाषा या सांस्कृतिक पूर्वाग्रह के कारण होता है। डेटा चयन पूर्वाग्रह तब होता है जब एलएलएम प्रशिक्षण के लिए चुने गए ग्रंथ पूरी तरह से वेब पर उपयोग की जाने वाली भाषा की विविधता का प्रतिनिधित्व नहीं करते हैं। व्यापक, लेकिन सीमित, डेटासेट पर प्रशिक्षित एलएलएम इन ग्रंथों में पहले से मौजूद पूर्वाग्रह विरासत में मिल सकते हैं। निर्माता जनसांख्यिकी के साथ, कुछ जनसांख्यिकीय समूहों को दूसरों की तुलना में अधिक अक्सर हाइलाइट किया जाता है, जो सामग्री निर्माण में अधिक विविधता और समावेशिता की आवश्यकता को दर्शाता है। उदाहरण के लिए, विकिपीडिया, एक सामान्य प्रशिक्षण डेटा स्रोत, अपने संपादकों के बीच एक उल्लेखनीय जनसांख्यिकीय असंतुलन प्रदर्शित करता है, जिसमें 84% पुरुष हैं। यह भाषा और संस्कृति के लिए भी समान है, जहां एलएलएम के लिए प्रशिक्षण स्रोत अक्सर अंग्रेजी-केंद्रित होते हैं, जो केवल कभी-कभी अन्य भाषाओं और संस्कृतियों में सटीक रूप से अनुवादित होते हैं।

यह आवश्यक है कि एलएलएम को फ़िल्टर्ड डेटा पर प्रशिक्षित किया जाए, और गार्डरेल्स हों जो विषयों को दबाने के लिए हों जो डेटा के सुसंगत प्रतिनिधित्व नहीं हैं। ऐसा करने का एक तरीका डेटा ऑगमेंटेशन-आधारित तकनीकों के माध्यम से है। आप प्रशिक्षण डेटा में कम प्रतिनिधित्व वाले समूहों के उदाहरण जोड़ सकते हैं, जिससे डेटासेट की विविधता बढ़ जाती है। एक और कम करने की रणनीति डेटा फ़िल्टरिंग और पुनः वजन है, जो मुख्य रूप से एक मौजूदा डेटासेट के भीतर विशिष्ट, कम प्रतिनिधित्व वाले उदाहरणों को लक्षित करने पर केंद्रित है।

हॉलुसिनेशन

एलएलएम के संदर्भ में, हॉलुसिनेशन एक घटना है जो तब होती है जब एक पाठ उत्पन्न होता है जो व्याकरणिक रूप से सही और सुसंगत लगता है, लेकिन तथ्यात्मक सटीकता या स्रोत सामग्री के इरादे से विचलित हो जाता है। वास्तव में, हाल की रिपोर्ट में पाया गया है कि मिनेसोटा कानून पर एक मुकदमा सीधे एलएलएम हॉलुसिनेशन से प्रभावित है। एक हलफनामा जो कानून का समर्थन करने के लिए प्रस्तुत किया गया था, में ऐसे स्रोत शामिल पाए गए थे जो चैटजीपीटी या किसी अन्य एलएलएम द्वारा हॉलुसिनेट किए जा सकते थे। ये हॉलुसिनेशन एलएलएम की विश्वसनीयता को आसानी से कम कर सकते हैं।

हॉलुसिनेशन के तीन प्राथमिक रूप हैं:

1. इनपुट-विरोधी हॉलुसिनेशन: यह तब होता है जब एलएलएम का आउटपुट उपयोगकर्ता के प्रदान किए गए इनपुट से विचलित हो जाता है, जिसमें आमतौर पर कार्य निर्देश और वास्तविक सामग्री शामिल होती है जिसे संसाधित करने की आवश्यकता होती है।
2. संदर्भ-विरोधी हॉलुसिनेशन: एलएलएम लंबे संवाद या कई आदान-प्रदान की स्थितियों में आंतरिक रूप से असंगत प्रतिक्रियाएं उत्पन्न कर सकते हैं। यह सुझाव देता है कि मॉडल की संदर्भ को ट्रैक करने या विभिन्न इंटरैक्शन पर सुसंगतता बनाए रखने की क्षमता में एक संभावित कमी है।
3. तथ्य-विरोधी हॉलुसिनेशन: यह हॉलुसिनेशन तब उत्पन्न होता है जब एक एलएलएम स्थापित तथ्यात्मक ज्ञान के विरोध में सामग्री उत्पन्न करता है। ऐसे त्रुटियों के मूल कारण विविध हैं और एलएलएम के जीवन चक्र में विभिन्न चरणों में हो सकते हैं।

इस घटना में कई कारक योगदान करते हैं, जैसे कि ज्ञान की कमी, जो बताती है कि एलएलएम को सही ढंग से जानकारी को आत्मसात करने की क्षमता की कमी हो सकती है। इसके अलावा, प्रशिक्षण डेटा में पूर्वाग्रह या एलएलएम की अनुक्रमिक पीढ़ी रणनीति, जिसे “हॉलुसिनेशन स्नोबॉलिंग” कहा जाता है, हॉलुसिनेशन पैदा कर सकते हैं।

हॉलुसिनेशन को कम करने के तरीके हैं, हालांकि वे एलएलएम की एक विशेषता बने रहेंगे। हॉलुसिनेशन के लिए उपयोगी कम करने की रणनीतियों में पूर्व-प्रशिक्षण के दौरान (मैनुअल रूप से फ़िल्टरिंग तकनीकों का उपयोग करके डेटा को परिष्कृत करना) या फ़ाइन-ट्यूनिंग (प्रशिक्षण डेटा को क्यूरेट करना) शामिल है। हालांकि, अनुमान के दौरान कम करना सबसे अच्छा समाधान है क्योंकि यह लागत-प्रभावी और नियंत्रित है।

गोपनीयता

इंटरनेट के उदय के साथ, व्यक्तिगत जानकारी और अन्य निजी डेटा तक बढ़ी हुई पहुंच एक व्यापक रूप से मान्यता प्राप्त चिंता बन गई है। एक अध्ययन में पाया गया कि 80% अमेरिकी उपभोक्ता चिंतित हैं कि उनका डेटा एआई मॉडल को प्रशिक्षित करने के लिए उपयोग किया जा रहा है। चूंकि सबसे प्रमुख एलएलएम वेबसाइटों से सourced हैं, हमें यह विचार करना चाहिए कि यह गोपनीयता जोखिमों को कैसे प्रस्तुत करता है और यह एलएलएम के लिए एक बड़ी तरह से असुलझा हुआ समस्या बना हुआ है।

एलएलएम को व्यक्तिगत जानकारी को वितरित करने से रोकने का सबसे सीधा तरीका यह है कि इसे प्रशिक्षण डेटा से हटा दिया जाए। हालांकि, एलएलएम में शामिल डेटा की विशाल मात्रा को देखते हुए, यह गारंटी देना लगभग असंभव है कि सभी निजी जानकारी को हटा दिया गया है। एक और सामान्य विकल्प जो बाहरी रूप से विकसित मॉडल पर निर्भर संगठनों के लिए है, वह है एक ओपन-सोर्स एलएलएम का चयन करना, न कि चैटजीपीटी जैसी सेवा का उपयोग करना।

इस दृष्टिकोण से, मॉडल की एक प्रति आंतरिक रूप से तैनात की जा सकती है। उपयोगकर्ताओं के प्रॉम्प्ट संगठन के नेटवर्क के भीतर सुरक्षित रहते हैं, तीसरे पक्ष की सेवाओं के संपर्क में आने के बजाय। हालांकि यह संवेदनशील डेटा के रिसाव के जोखिम को काफी कम कर देता है, यह जटिलता को भी जोड़ता है। निजी डेटा की पूर्ण सुरक्षा को पूरी तरह से गारंटी देने में कठिनाइयों को देखते हुए, यह अभी भी अनुप्रयोग विकासकर्ताओं के लिए महत्वपूर्ण है कि वे विचार करें कि इन मॉडलों से उनके उपयोगकर्ताओं को कैसे जोखिम हो सकता है।

एलएलएम के लिए अगला मोर्चा

जैसे ही हम एलएलएम के बाद के संस्करणों को आकार देते हैं और वर्तमान जोखिमों को कम करते हैं, हमें एलएलएम एजेंटों के उद्भव की अपेक्षा करनी चाहिए, जिन्हें हम पहले से ही कंपनियों जैसे एच के साथ रनर एच जैसी कंपनियों द्वारा अपने पहले उत्पाद को लॉन्च करते हुए देख रहे हैं। शुद्ध भाषा मॉडल से एजेंटिक आर्किटेक्चर में स्थानांतरण एआई सिस्टम डिज़ाइन में एक परिवर्तन का प्रतिनिधित्व करता है; उद्योग चैट इंटरफेस और सरल पुनर्प्राप्ति-संवर्धित पीढ़ी की अंतर्निहित सीमाओं से आगे बढ़ रहा है। ये नए एजेंट फ्रेमवर्क में जटिल उद्देश्यों को परमाणु उप-कार्यों में विभाजित करने वाले परिष्कृत योजना मॉड्यूल होंगे, जो संदर्भीय तर्क के लिए एपिसोडिक स्मृति को बनाए रखेंगे और अच्छी तरह से परिभाषित एपीआई के माध्यम से विशेषज्ञ उपकरणों का लाभ उठाएंगे। यह कार्य स्वचालन के लिए एक अधिक मजबूत दृष्टिकोण बनाता है। वास्तुकला की प्रगति पारंपरिक एलएलएम कार्यान्वयन के भीतर कार्यों और तर्क, उपकरण एकीकरण, और निष्पादन निगरानी के आसपास सामान्य चुनौतियों को कम करने में मदद करती है।

एलएलएम के अलावा, छोटे भाषा मॉडल को प्रशिक्षित करने पर अधिक ध्यान केंद्रित किया जाएगा क्योंकि वे लागत-प्रभावी हैं, सुलभ हैं और तैनाती में आसान हैं। उदाहरण के लिए, डोमेन-विशिष्ट भाषा मॉडल विशिष्ट उद्योगों या क्षेत्रों में विशेषज्ञता रखते हैं। ये मॉडल डोमेन-विशिष्ट डेटा और शब्दावली के साथ बारीकी से ट्यून किए जाते हैं, जो जटिल और नियंत्रित वातावरण में जहां सटीकता आवश्यक है, जैसे कि चिकित्सा या कानूनी क्षेत्र में, उन्हें आदर्श बनाते हैं। यह लक्षित दृष्टिकोण सामान्य-उद्देश्य मॉडल द्वारा विशेषज्ञ सामग्री का सामना करने पर त्रुटियों और हॉलुसिनेशन की संभावना को कम करता है।

जैसे ही हम एलएलएम में नए क्षितिज की खोज करते हैं, यह आवश्यक है कि हम नवाचार की सीमाओं को आगे बढ़ाएं और उनके विकास और तैनाती से जुड़े संभावित जोखिमों को संबोधित और कम करें। केवल तभी जब हम बायस, हॉलुसिनेशन और गोपनीयता से संबंधित चुनौतियों की पहचान करेंगे और उन्हें सक्रिय रूप से संबोधित करेंगे, तो हम विभिन्न क्षेत्रों में एलएलएम के लिए एक अधिक मजबूत आधार बना सकते हैं।