एआई मॉडल और प्लेटफ़ॉर्म
बड़े भाषा मॉडल निर्देशों को क्यों छोड़ देते हैं और इस समस्या को कैसे संबोधित किया जाए
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
बड़े भाषा मॉडल (LLM) तेजी से आवश्यक आर्टिफ़िशियल इंटेलिजेंस (AI) टूल बन गए हैं, जो चैटबॉट्स और सामग्री निर्माण से लेकर कोडिंग सहायता तक के अनुप्रयोगों को संचालित करते हैं। उनकी प्रभावशाली क्षमताओं के बावजूद, एक सामान्य चुनौती जिसका सामना उपयोगकर्ता करते हैं वह यह है कि ये मॉडल कभी-कभी निर्देशों के हिस्सों को छोड़ देते हैं, विशेष रूप से जब वे निर्देश लंबे या कई चरणों में शामिल होते हैं। यह छोड़ना अधूरे या असटीक आउटपुट की ओर ले जाता है, जो भ्रम पैदा कर सकता है और एआई प्रणालियों में विश्वास को कम कर सकता है। यह समझना कि एलएलएम निर्देशों को क्यों छोड़ देते हैं और इस मुद्दे को कैसे संबोधित किया जाए, उन मॉडलों पर निर्भर करने वाले उपयोगकर्ताओं के लिए सटीक और विश्वसनीय परिणाम प्राप्त करने के लिए आवश्यक है।
एलएलएम निर्देशों को क्यों छोड़ देते हैं?
एलएलएम इनपुट पाठ को टोकन के क्रम के रूप में पढ़ते हैं। टोकन वे छोटे टुकड़े हैं जिनमें पाठ विभाजित होता है। मॉडल इन टोकनों को एक-एक करके संसाधित करता है, शुरू से अंत तक। इसका अर्थ है कि इनपुट की शुरुआत में निर्देश अधिक ध्यान आकर्षित करते हैं। बाद के निर्देश कम ध्यान प्राप्त कर सकते हैं और अनदेखा किए जा सकते हैं।
यह इसलिए होता है क्योंकि एलएलएम की एक सीमित ध्यान क्षमता है। ध्यान वह तंत्र है जिसका उपयोग मॉडल प्रतिक्रियाओं को उत्पन्न करते समय इनपुट के किस हिस्से को महत्वपूर्ण मानता है। जब इनपुट छोटा होता है, तो ध्यान अच्छी तरह से काम करता है। लेकिन जब इनपुट लंबा हो जाता है या निर्देश जटिल हो जाते हैं, तो ध्यान कमजोर हो जाता है और बाद के हिस्सों पर ध्यान केंद्रित करने की क्षमता कम हो जाती है, जिससे उन्हें अनदेखा किए जाने की संभावना बढ़ जाती है।
इसके अलावा, एक साथ कई निर्देश जटिलता बढ़ाते हैं। जब निर्देश ओवरलैप या संघर्ष करते हैं, तो मॉडल भ्रमित हो सकता है। यह सभी का उत्तर देने का प्रयास कर सकता है लेकिन अस्पष्ट या विरोधाभासी प्रतिक्रियाएं प्रदान कर सकता है। यह अक्सर कुछ निर्देशों को याद करने के परिणामस्वरूप होता है।
एलएलएम मानव-जैसी सीमाओं को भी साझा करते हैं। उदाहरण के लिए, जब लोग लंबे या पुनरावृत्ति वाले पाठ पढ़ते हैं, तो वे ध्यान केंद्रित करने में असमर्थ हो सकते हैं। इसी तरह, एलएलएम बाद के निर्देशों को “भूल” सकते हैं क्योंकि वे अधिक टोकन संसाधित करते हैं। यह ध्यान की हानि मॉडल के डिजाइन और सीमाओं का हिस्सा है।
एक और कारण यह है कि एलएलएम को कैसे प्रशिक्षित किया जाता है। उन्हें सरल निर्देशों के कई उदाहरण दिखाए जाते हैं लेकिन जटिल, बहु-चरण वाले निर्देशों के कम उदाहरण। इसके कारण, मॉडल सरल निर्देशों का पालन करने की प्रवृत्ति रखते हैं जो उनके प्रशिक्षण डेटा में अधिक सामान्य होते हैं। यह पूर्वाग्रह उन्हें जटिल निर्देशों को छोड़ने का कारण बनता है। इसके अलावा, टोकन सीमाएं मॉडल द्वारा संसाधित की जा सकने वाली इनपुट मात्रा को सीमित करती हैं; सीमा से परे का कोई भी पाठ काट दिया जाता है और अनदेखा किया जाता है, जिससे अंत में निर्देश पूरी तरह से छोड़ दिए जाते हैं।
उदाहरण: मान लें कि आप एक एलएलएम को एक ही प्रॉम्प्ट में पांच निर्देश देते हैं। मॉडल मुख्य रूप से पहले दो निर्देशों पर ध्यान केंद्रित कर सकता है और अंतिम तीन निर्देशों को आंशिक रूप से या पूरी तरह से अनदेखा कर सकता है। यह सीधे तौर पर मॉडल द्वारा टोकनों को क्रमिक रूप से संसाधित करने और इसकी ध्यान सीमाओं को प्रभावित करता है।
एलएलएम अनुक्रमिक निर्देशों को कैसे संभालते हैं: एसआईएफओ 2024 के निष्कर्षों के आधार पर
हाल के अध्ययनों ने एलएलएम द्वारा एक के बाद एक दिए गए कई निर्देशों का पालन करने की क्षमता को ध्यान से देखा है। एक महत्वपूर्ण अध्ययन अनुक्रमिक निर्देश अनुसरण (एसआईएफओ) बेंचमार्क 2024 है। यह बेंचमार्क मॉडल को पाठ संशोधन, प्रश्न उत्तर देने, गणित और सुरक्षा नियमों का पालन जैसे कार्यों के लिए चरण-दर-चरण निर्देशों के पूर्ण होने की आवश्यकता वाले कार्यों पर परीक्षण करता है। प्रत्येक निर्देश अनुक्रम में पिछले एक के सही पूर्णता पर निर्भर करता है। यह दृष्टिकोण यह जांचने में मदद करता है कि क्या मॉडल पूरे अनुक्रम का सही ढंग से पालन करता है।
एसआईएफओ के परिणाम बताते हैं कि यहां तक कि सबसे अच्छे एलएलएम, जैसे जीपीटी-4 और क्लॉड-3, अक्सर सभी निर्देशों को सही ढंग से पूरा करने में कठिनाई का सामना करते हैं, विशेष रूप से जब निर्देश लंबे या जटिल होते हैं। शोध तीन मुख्य समस्याओं को उजागर करता है जिनका सामना एलएलएम निर्देशों का पालन करते समय करते हैं:
समझ: प्रत्येक निर्देश का पूरी तरह से अर्थ समझना।
तार्किक: कई निर्देशों को तर्कसंगत रूप से जोड़ना ताकि प्रतिक्रिया स्पष्ट रहे।
विश्वसनीय आउटपुट: सभी दिए गए निर्देशों को कवर करते हुए पूर्ण और सटीक उत्तर प्रदान करना।
प्रॉम्प्ट इंजीनियरिंग और फाइन-ट्यूनिंग जैसी तकनीकें मॉडल को निर्देशों का पालन करने में सुधार करने में मदद कर सकती हैं। हालांकि, ये तरीके निर्देशों को छोड़ने की समस्या का पूरी तरह से समाधान नहीं करते हैं। मानव प्रतिक्रिया से पुनरावृत्ति सीखने (आरएलएचएफ) का उपयोग करके मॉडल की प्रतिक्रिया की उपयुक्तता में और सुधार हो सकता है। फिर भी, मॉडल को कई चरणों या जटिल निर्देशों वाले कार्यों में कठिनाई होती है।
अध्ययन यह भी दिखाता है कि एलएलएम तब सबसे अच्छा काम करते हैं जब निर्देश सरल, स्पष्ट रूप से अलग और अच्छी तरह से संगठित होते हैं। जब कार्यों में लंबी तर्क श्रृंखला या कई चरणों की आवश्यकता होती है, तो मॉडल की सटीकता कम हो जाती है। ये निष्कर्ष एलएलएम का उपयोग करने के बेहतर तरीके सुझाते हैं और मजबूत मॉडल बनाने की आवश्यकता को दर्शाते हैं जो वास्तव में एक के बाद एक निर्देशों का पालन कर सकते हैं।
एलएलएम निर्देशों को क्यों छोड़ देते हैं: तकनीकी चुनौतियां और व्यावहारिक विचार
एलएलएम निर्देशों को छोड़ सकते हैं क्योंकि वे इनपुट पाठ को कैसे संसाधित और एन्कोड करते हैं।
सीमित ध्यान अवधि और जानकारी का पतला होना
एलएलएम ध्यान तंत्र पर निर्भर करते हैं ताकि वे इनपुट के विभिन्न हिस्सों को महत्व दे सकें। जब प्रॉम्प्ट संक्षिप्त होते हैं, तो मॉडल का ध्यान केंद्रित और प्रभावी होता है। हालांकि, जब प्रॉम्प्ट लंबा या अधिक पुनरावृत्ति वाला हो जाता है, तो ध्यान पतला हो जाता है और बाद के टोकन या निर्देश कम ध्यान प्राप्त करते हैं, जिससे उन्हें अनदेखा किए जाने की संभावना बढ़ जाती है। यह घटना, जिसे जानकारी का पतला होना कहा जाता है, विशेष रूप से प्रॉम्प्ट के अंत में दिखाई देने वाले निर्देशों के लिए समस्याग्रस्त है। इसके अलावा, मॉडल की निश्चित टोकन सीमाएं होती हैं (जैसे 2048 टोकन); सीमा से परे का कोई भी पाठ काट दिया जाता है और अनदेखा किया जाता है, जिससे अंत में निर्देश पूरी तरह से छोड़ दिए जाते हैं।
आउटपुट जटिलता और अस्पष्टता
एलएलएम कई या विरोधाभासी निर्देशों का सामना करने पर स्पष्ट और पूर्ण प्रतिक्रियाएं देने के लिए संघर्ष कर सकते हैं। मॉडल आंशिक या अस्पष्ट उत्तर प्रदान कर सकता है ताकि विरोधाभासों से बचा जा सके, जिससे कुछ निर्देशों को छोड़ दिया जाता है। निर्देशों को कैसे व्यक्त किया जाता है, यह भी एक चुनौती पेश करता है: अस्पष्ट या असटीक प्रॉम्प्ट मॉडल को इच्छित क्रियाओं का निर्धारण करना मुश्किल बना देते हैं, जिससे निर्देशों के हिस्सों को छोड़ने या गलत व्याख्या करने का जोखिम बढ़ जाता है।
प्रॉम्प्ट डिज़ाइन और संवेदनशीलता
प्रॉम्प्ट की संरचना और वाक्यांश भी निर्देशों का पालन करने में एक महत्वपूर्ण भूमिका निभाते हैं। शोध से पता चलता है कि निर्देशों को लिखने या प्रारूपित करने में भी छोटे बदलाव मॉडल के उन्हें अपनाने पर महत्वपूर्ण प्रभाव डाल सकते हैं।
खराब संरचित प्रॉम्प्ट, जिनमें स्पष्ट पृथक्करण, बुलेट पॉइंट्स या नंबरिंग का अभाव है, मॉडल के लिए चरणों के बीच अंतर करना मुश्किल बना देते हैं, जिससे निर्देशों को मिलाने या छोड़ने की संभावना बढ़ जाती है। प्रॉम्प्ट का मॉडल का आंतरिक प्रतिनिधित्व इन भिन्नताओं के प्रति अत्यधिक संवेदनशील है, जो यह समझाने में मदद करता है कि प्रॉम्प्ट इंजीनियरिंग (प्रॉम्प्ट को फिर से लिखना या पुनर्गठन करना) निर्देशों का पालन करने में काफी सुधार कर सकता है, भले ही अंतर्निहित सामग्री समान रहे।
एलएलएम में निर्देश छोड़ने को कैसे ठीक करें
एलएलएम की निर्देशों का पालन करने की क्षमता में सुधार करना विश्वसनीय और सटीक परिणाम प्राप्त करने के लिए आवश्यक है। निर्देश छोड़ने को कम करने और एआई द्वारा उत्पन्न प्रतिक्रियाओं की गुणवत्ता में सुधार करने के लिए निम्नलिखित सर्वोत्तम अभ्यासों पर विचार किया जाना चाहिए:
कार्यों को छोटे भागों में तोड़ दें
लंबे या बहु-चरण वाले प्रॉम्प्ट को छोटे, अधिक केंद्रित खंडों में विभाजित किया जाना चाहिए। एक या दो निर्देश एक समय में देने से मॉडल को बेहतर ध्यान बनाए रखने में मदद मिलती है और किसी भी चरण को याद करने की संभावना कम हो जाती है।
उदाहरण
इसके बजाय कि सभी निर्देशों को एक ही प्रॉम्प्ट में शामिल किया जाए, जैसे “पाठ का सारांश बनाएं, मुख्य बिंदुओं की सूची बनाएं, सुझाव दें और इसे फ्रेंच में अनुवाद करें,” प्रत्येक निर्देश को अलग से या छोटे समूहों में प्रस्तुत किया जाना चाहिए।
निर्देशों को संख्यात्मक सूचियों या बुलेट पॉइंट्स का उपयोग करके प्रारूपित करें
निर्देशों को स्पष्ट प्रारूपण के साथ व्यवस्थित करना, जैसे कि संख्यात्मक सूचियां या बुलेट पॉइंट्स, यह संकेत देता है कि प्रत्येक आइटम एक अलग कार्य है। यह स्पष्टता बढ़ाता है कि प्रतिक्रिया सभी निर्देशों को संबोधित करेगी।
उदाहरण
- निम्नलिखित पाठ का सारांश बनाएं।
- सारांश से मुख्य बिंदुओं की सूची बनाएं।
- सुधार का सुझाव दें।
इस प्रारूपण से मॉडल को अलग-अलग कार्यों को पहचानने और अलग करने में मदद मिलती है।
निर्देश स्पष्ट और अस्पष्ट नहीं होने चाहिए
यह आवश्यक है कि निर्देश स्पष्ट रूप से यह बताएं कि प्रत्येक चरण को पूरा किया जाना चाहिए। अस्पष्ट या वague भाषा से बचा जाना चाहिए। प्रॉम्प्ट को यह स्पष्ट रूप से इंगित करना चाहिए कि कोई भी चरण छोड़ा नहीं जा सकता है।
उदाहरण
“कृपया नीचे दिए गए तीनों कार्य पूरे करें। कोई भी चरण छोड़ना स्वीकार्य नहीं है।”
इस तरह के सीधे बयान भ्रम को कम करते हैं और मॉडल को पूर्ण उत्तर प्रदान करने के लिए प्रोत्साहित करते हैं।
अल्पावधि या महत्वपूर्ण कार्यों के लिए अलग प्रॉम्प्ट का उपयोग किया जाना चाहिए
प्रत्येक निर्देश को एक अलग प्रॉम्प्ट के रूप में जमा किया जाना चाहिए जब सटीकता और पूर्णता महत्वपूर्ण होती है। हालांकि यह दृष्टिकोण बातचीत के समय को बढ़ा सकता है, यह आउटपुट की सटीकता और पूर्णता में काफी सुधार करता है। यह तरीका सुनिश्चित करता है कि मॉडल एक समय में केवल एक कार्य पर ध्यान केंद्रित करता है, जिससे निर्देशों को याद करने का जोखिम कम हो जाता है।
उन्नत रणनीतियाँ पूर्णता और दक्षता को संतुलित करने के लिए
प्रत्येक निर्देश के बाद प्रतिक्रिया की प्रतीक्षा करना उपयोगकर्ताओं के लिए समय लेने वाला हो सकता है। दक्षता में सुधार करते हुए स्पष्टता और पूर्णता को बनाए रखने के लिए, निम्नलिखित उन्नत प्रॉम्प्टिंग तकनीकों का उपयोग किया जा सकता है:
स्पष्ट प्रारूपण और स्पष्ट लेबल के साथ निर्देशों को बैच करें
संबंधित कई निर्देशों को एक ही प्रॉम्प्ट में शामिल किया जा सकता है, लेकिन प्रत्येक को संख्या या शीर्षकों का उपयोग करके अलग किया जाना चाहिए। प्रॉम्प्ट को मॉडल को सभी निर्देशों का पूरी तरह से और क्रम में उत्तर देने का निर्देश देना चाहिए।
उदाहरण प्रॉम्प्ट
कृपया निम्नलिखित सभी कार्यों को सावधानी से और क्रम में पूरा करें:
- नीचे दिए गए पाठ का सारांश बनाएं।
- सारांश से मुख्य बिंदुओं की सूची बनाएं।
- सुधार का सुझाव दें।
- सुधारित पाठ का फ्रेंच में अनुवाद करें।
चेन-ऑफ-थॉट शैली के प्रॉम्प्ट
चेन-ऑफ-थॉट प्रॉम्प्टिंग मॉडल को प्रत्येक कार्य के माध्यम से तर्क करने के लिए मार्गदर्शन करती है trước कि यह एक उत्तर प्रदान करे। एक ही प्रतिक्रिया के भीतर अनुक्रमिक रूप से निर्देशों को संसाधित करने के लिए मॉडल को प्रोत्साहित करने से निर्देशों को छोड़ने की संभावना कम हो जाती है और पूर्णता में सुधार होता है।
उदाहरण प्रॉम्प्ट
नीचे दिए गए पाठ को पढ़ें और निम्नलिखित कार्यों को क्रम में करें और अपना काम स्पष्ट रूप से दिखाएं:
- पाठ का सारांश बनाएं।
- सारांश से मुख्य बिंदुओं की सूची बनाएं।
- सुधार का सुझाव दें।
- सुधारित पाठ का फ्रेंच में अनुवाद करें।
कृपया सभी कार्यों को पूरी तरह से और अलग से एक ही उत्तर में उत्तर दें।
पूर्णता निर्देश और अनुस्मारक जोड़ें
मॉडल को स्पष्ट रूप से याद दिलाना चाहिए:
- “प्रत्येक कार्य का पूरी तरह से उत्तर दें।”
- “कोई भी निर्देश छोड़ें नहीं।”
- “अपने उत्तरों को स्पष्ट रूप से अलग करें।”
इस तरह के अनुस्मारक मॉडल को पूर्णता पर ध्यान केंद्रित करने में मदद करते हैं जब कई निर्देश एक साथ दिए जाते हैं।
विभिन्न मॉडल और पैरामीटर सेटिंग्स का परीक्षण किया जाना चाहिए
सभी एलएलएम बहु-चरणीय कार्यों में समान रूप से प्रदर्शन नहीं करते हैं। विभिन्न मॉडलों का मूल्यांकन करना उचित है ताकि उन मॉडलों की पहचान की जा सके जो अनुक्रमिक निर्देशों का पालन करने में उत्कृष्ट हैं। इसके अलावा, तापमान, अधिकतम टोकन और सिस्टम प्रॉम्प्ट जैसे पैरामीटर को समायोजित करने से प्रतिक्रियाओं की ध्यान और पूर्णता में सुधार हो सकता है। इन सेटिंग्स का परीक्षण मॉडल के व्यवहार को विशिष्ट कार्य आवश्यकताओं के अनुसार अनुकूलित करने में मदद करता है।
मॉडल को फाइन-ट्यून करना और बाहरी टूल का उपयोग करना विचार किया जाना चाहिए
मॉडल को बहु-चरणीय या अनुक्रमिक निर्देशों वाले डेटासेट पर फाइन-ट्यून किया जाना चाहिए ताकि जटिल प्रॉम्प्ट का पालन करने में सुधार हो सके। आरएलएचएफ जैसी तकनीकें निर्देशों का पालन करने में और सुधार कर सकती हैं।
उन्नत उपयोग के मामलों के लिए, एपीआई, कार्य-विशिष्ट प्लग-इन या रिट्रीवल ऑगमेंटेड जेनरेशन (आरएजी) प्रणाली जैसे बाहरी टूल का एकीकरण अतिरिक्त संदर्भ और नियंत्रण प्रदान कर सकता है, जिससे आउटपुट की विश्वसनीयता और सटीकता में सुधार होता है।
नीचे की रेखा
एलएलएम शक्तिशाली टूल हैं लेकिन लंबे या जटिल प्रॉम्प्ट पर निर्देशों को छोड़ सकते हैं। यह इसलिए होता है क्योंकि वे इनपुट को कैसे पढ़ते हैं और अपना ध्यान केंद्रित करते हैं। बेहतर और अधिक विश्वसनीय परिणामों के लिए निर्देश स्पष्ट, सरल और अच्छी तरह से संगठित होने चाहिए। कार्यों को छोटे भागों में तोड़ना, सूचियों का उपयोग करना और सीधे निर्देश देना मॉडल को चरणों का पालन करने में मदद करता है।
महत्वपूर्ण कार्यों के लिए अलग प्रॉम्प्ट का उपयोग करने से सटीकता में सुधार हो सकता है, हालांकि इसमें अधिक समय लग सकता है। इसके अलावा, उन्नत प्रॉम्प्ट विधियां जैसे कि चेन-ऑफ-थॉट और स्पष्ट प्रारूपण गति और सटीकता के बीच संतुलन बनाने में मदद कर सकती हैं। इसके अलावा, विभिन्न मॉडलों का परीक्षण करना और फाइन-ट्यूनिंग करना परिणामों में सुधार कर सकता है। ये विचार उपयोगकर्ताओं को संगत, पूर्ण उत्तर प्राप्त करने और वास्तविक कार्य में एआई टूल को अधिक उपयोगी बनाने में मदद करेंगे।
