बड़े भाषा मॉडल में पुराने तथ्यों को ताज़ा रखने के 3 तरीके

बड़े भाषा मॉडल (LLM) जैसे कि GPT3, ChatGPT और BARD आजकल बहुत चर्चा में हैं। हर कोई इन टूल्स के बारे में अपनी राय रखता है कि वे समाज के लिए अच्छे या बुरे हैं और वे AI के भविष्य के लिए क्या意味 रखते हैं। Google को अपने नए मॉडल BARD के लिए बहुत आलोचना का सामना करना पड़ा जब उसने एक जटिल प्रश्न का गलत उत्तर दिया (थोड़ा सा)। जब पूछा गया “जेम्स वेब स्पेस टेलीस्कोप से नए खोज के बारे में मैं अपने 9 साल के बच्चे को क्या बता सकता हूँ?” – तो चैटबॉट ने तीन उत्तर दिए, जिनमें से 2 सही थे और 1 गलत था। गलत उत्तर यह था कि पहली “एक्सोप्लैनेट” तस्वीर JWST द्वारा ली गई थी, जो गलत थी। तो基本 रूप से, मॉडल में एक गलत तथ्य संग्रहीत था। बड़े भाषा मॉडलों के प्रभावी होने के लिए, हमें इन तथ्यों को अद्यतन रखने या नए ज्ञान के साथ उन्हें बढ़ाने का तरीका ढूंढना होगा।

आइए पहले देखें कि बड़े भाषा मॉडल (LLM) के अंदर तथ्य कैसे संग्रहीत किए जाते हैं। बड़े भाषा मॉडल традиITIONAL तरीके से जानकारी और तथ्यों को संग्रहीत नहीं करते हैं जैसे कि डेटाबेस या फ़ाइलें। इसके बजाय, उन्हें विशाल मात्रा में पाठ डेटा पर प्रशिक्षित किया गया है और उन्होंने उस डेटा में पैटर्न और संबंधों को सीखा है। यह उन्हें मानव-जैसे उत्तर देने में सक्षम बनाता है, लेकिन उन्हें विशिष्ट संग्रहण स्थान नहीं होता है जहां उन्होंने अपनी सीखी हुई जानकारी को संग्रहीत किया हो। जब कोई प्रश्न पूछा जाता है, तो मॉडल अपने प्रशिक्षण का उपयोग करके उत्तर देता है जो उसे प्राप्त होता है। मॉडल के पास जो ज्ञान और जानकारी होती है वह उस डेटा में सीखे गए पैटर्नों का परिणाम होता है, न कि यह तथ्य कि यह मॉडल की मेमोरी में विशेष रूप से संग्रहीत किया गया है। ट्रांसफॉर्मर आर्किटेक्चर जिस पर अधिकांश आधुनिक LLM आधारित हैं, में एक आंतरिक एन्कोडिंग होती है जो प्रश्न का उत्तर देने के लिए उपयोग की जाती है।

तो अगर LLM की आंतरिक मेमोरी में तथ्य गलत या पुराने हैं, तो नए ज्ञान को प्रदान करने के लिए एक प्रॉम्प्ट की आवश्यकता होती है। प्रॉम्प्ट वह पाठ है जो LLM को प्रश्न और समर्थन साक्ष्य के साथ भेजा जाता है जो कुछ नए या सुधारे हुए तथ्य हो सकते हैं। यहाँ 3 तरीके हैं जिनसे हम इसे कर सकते हैं।

1. एक तरीका LLM के एन्कोडेड तथ्यों को सही करने के लिए एक बाहरी ज्ञान आधार का उपयोग करना है। यह ज्ञान आधार API कॉल्स के माध्यम से प्रासंगिक जानकारी प्राप्त करने के लिए हो सकता है या SQL, No-SQL, या वेक्टर डेटाबेस पर लुकअप हो सकता है। अधिक उन्नत ज्ञान को एक ज्ञान ग्राफ से निकाला जा सकता है जो डेटा एंटिटी और उनके बीच संबंधों को संग्रहीत करता है। उपयोगकर्ता द्वारा पूछे जाने वाले जानकारी के आधार पर, प्रासंगिक संदर्भ जानकारी प्राप्त की जा सकती है और LLM को अतिरिक्त तथ्य के रूप में दी जा सकती है। ये तथ्य प्रशिक्षण उदाहरणों की तरह दिखने के लिए भी स्वरूपित किए जा सकते हैं ताकि सीखने की प्रक्रिया में सुधार हो। उदाहरण के लिए, आप मॉडल को सिखाने के लिए प्रश्न-उत्तर जोड़े का एक समूह पास कर सकते हैं।

2. एक और तरीका है LLM को वास्तविक रूप से फ़ाइन-ट्यूनिंग करना जिसमें प्रशिक्षण डेटा का उपयोग किया जाता है। इसलिए, हम ज्ञान आधार से विशिष्ट तथ्यों को पूछने के बजाय, ज्ञान आधार का नमूना लेकर एक प्रशिक्षण डेटासेट बनाते हैं। पर्यवेक्षित शिक्षा तकनीकों जैसे कि फ़ाइन-ट्यूनिंग का उपयोग करके, हम एक नए संस्करण का LLM बना सकते हैं जो इस अतिरिक्त ज्ञान पर प्रशिक्षित है। यह प्रक्रिया आमतौर पर महंगी होती है और OpenAI में एक फ़ाइन-ट्यून्ड मॉडल को बनाने और बनाए रखने के लिए कुछ हज़ार डॉलर का खर्च आ सकता है।当然, यह लागत समय के साथ सस्ती होने की उम्मीद है।

3. एक और विकल्प है रिन्फ़ोर्समेंट लर्निंग (RL) जैसे तरीकों का उपयोग करना जिसमें मानव प्रतिक्रिया के साथ एक एजेंट को प्रशिक्षित किया जाता है और प्रश्नों का उत्तर देने के लिए एक नीति सीखने का प्रयास किया जाता है। यह तरीका छोटे फ़ुटप्रिंट मॉडल बनाने में बहुत प्रभावी रहा है जो विशिष्ट कार्यों में अच्छे होते हैं। उदाहरण के लिए, OpenAI द्वारा जारी किया गया प्रसिद्ध ChatGPT पर्यवेक्षित शिक्षा और मानव प्रतिक्रिया के साथ RL के संयोजन पर प्रशिक्षित किया गया था।

सारांश में, यह एक तेज़ी से विकसित हो रहा क्षेत्र है जहां हर बड़ी कंपनी इसमें शामिल होना चाहती है और अपनी विभेदन दिखाना चाहती है। हम जल्द ही खुदरा, स्वास्थ्य सेवा और बैंकिंग जैसे अधिकांश क्षेत्रों में बड़े LLM टूल देखेंगे जो मानव-जैसे तरीके से भाषा की बारीकियों को समझते हुए प्रतिक्रिया दे सकते हैं। ये LLM-संचालित टूल उद्यम डेटा के साथ एकीकृत हो सकते हैं और सही डेटा को सही लोगों तक सही समय पर पहुंचाने के लिए पहुंच को सुविधाजनक बना सकते हैं।