एआई चैट मॉडल्स के माध्यम से अंतहीन बकवास के कारण लागतें बढ़ सकती हैं

लोकप्रिय एआई चैट मॉडल्स गुप्त रूप से भुगतान किए गए टोकन्स की बड़ी मात्रा को बेकार की बकवास पर बर्बाद करते हैं। प्रभावित मॉडल्स वास्तव में जानते हैं कि वे ऐसा कर रहे हैं, लेकिन वे इसे रोक नहीं सकते हैं।

बड़े तर्क मॉडल्स (LRMs) जैसे कि ChatGPT-5 और Google Gemini तर्क के लिए अधिक शुल्क लेते हैं – एक समस्या को चरणबद्ध तरीके से हल करना, जिसमें केवल अगले शब्द की तुलना में बहुत अधिक कंप्यूटिंग शक्ति की आवश्यकता होती है। अगले शब्द की भविष्यवाणी। तर्क प्रक्रिया अधिक समय लेती है और चलाने के लिए अधिक खर्चीली होती है; परिणामस्वरूप, उपयोगकर्ता उस ‘अद्धितीय सोच समय’ के लिए भुगतान करते हैं।

हालांकि, यदि आपने हाल ही में एक नवीनतम एआई मॉडल का उपयोग किया है, तो आप यह देख सकते हैं कि आपके टोकन्स का आवंटन अक्सर समस्याओं का समाधान करने के बजाय बकवास और अवशिष्ट पर खर्च होता है। यह अत्यधिक स्य्कोफैंसी, विस्तृत और/या अतिरिक्त उत्तर के रूप में हो सकता है – या एक प्रकार की ‘बकवास’, जैसे कि एआई को एक अजीब स्थिति से बाहर निकलने के लिए जल्दी से बोलते हुए पकड़ा गया हो।

स्वाभाविक रूप से, हम यह पसंद करेंगे कि हमारे एलएलएम्स हार मान लें, वैकल्पिक मार्ग प्रदान करें या स्पष्टीकरण मांगें। लेकिन यहां तक कि एक एआई को यह स्वीकार करने के लिए प्राप्त करना कि वे एक उत्तर नहीं जानते हैं, एक महत्वपूर्ण चुनौती है जिसमें खुद को शामिल किया जाता है।

इस बीच, निचले या नि:शुल्क स्तरों पर उपयोगकर्ता अपने टोकन्स को तेजी से जला सकते हैं, चाहे उनके प्रश्न और इंटरैक्शन कितने भी लक्षित या आर्थिक क्यों न हों, क्योंकि एआई खुद बात करना पसंद करता है; और, इस मामले में, बात करना सस्ता नहीं है।

शब्द सलाद

उपरोक्त ‘बकवास’ के संबंध में, एक नई अकादमिक सहयोग एक तर्क और एक समाधान प्रदान करता है, यह प्रस्तावित करता है कि तर्क क्षमताओं वाले एलएलएम्स ‘शब्द सलाद’ लूप में फंसने के लिए टोकन्स को बर्बाद करने के लिए प्रवण होते हैं – एक भ्रम की स्थिति जहां तर्क प्रक्रिया पुनरावृत्ति मार्ग में खो जाती है – आपके पैसे पर*।

नई पेपर के पीछे शोधकर्ताओं ने पाया कि एक विशिष्ट एलएलएम में संसाधित टोकन्स का एक महत्वपूर्ण हिस्सा पुनरावृत्ति और अतिरेक होता है – और मॉडल खुद समझता है कि यह मुश्किल में है, भले ही यह महंगी लूप को रोकने में असमर्थ हो।

पेपर में कहा गया है:

‘हम दिखाते हैं कि इन टोकन्स में से एक महत्वपूर्ण हिस्सा बेकार स्व-पुनरावृत्ति है – जिसे हम “शब्द सलाद” कहते हैं – जो डिकोडिंग बजट को समाप्त करता है बिना मूल्य जोड़े। दिलचस्प बात यह है कि हम यह देखते हैं कि एलआरएम्स स्व-जागरूक हैं जब वे इन लूप्स में फंस जाते हैं: प्रत्येक तर्क खंड के बाद वाले टोकन्स के छिपे हुए राज्य में पैटर्न होते हैं जो हमें एकल-स्तरीय रैखिक वर्गीकारी के माध्यम से शब्द सलाद व्यवहार का पता लगाने की अनुमति देते हैं। ‘

‘एक बार पता चल जाने के बाद, एक सरल चॉप को एक सीधे पुनर्जन्म प्रॉम्प्ट द्वारा अनुसरण किया जाता है, जो महत्वपूर्ण लंबाई की बचत के साथ न्यूनतम गुणवत्ता हानि प्रदान करता है।’

नई काम का प्रस्तावित समाधान एक हस्तक्षेप है जो एक गलत तर्क एलएलएम की घुमावदार प्रक्रिया को रोक सकता है, बिना प्रशिक्षण डेटा में शामिल किए, या किसी भी नुकसान के बिना जो फाइन-ट्यूनिंग से परिणामस्वरूप हो सकता है। वर्डसैलडचॉपर नामक फ्रेमवर्क को सार्वजनिक रूप से जारी किया गया है गिटहब पर।

हालांकि प्रारंभिक कार्य गहराई से डीपसीक वेरिएंट्स पर केंद्रित है, जैसे कि क्यूवेन और लामा श्रृंखला में प्रवेश, पेपर यह दावा करता है कि अवांछित व्यवहार एक बहुत बड़े स्व-वास्तुकला तर्क मॉडल्स (जिनमें लोकप्रिय एपीआई-केवल पेशकश जैसे चैटजीपीटी और गूगल जेमिनी शामिल हैं) के लिए लागू होने की संभावना है।

जैसा कि पेपर में कहा गया है, पहले की पेशकश जैसे लंबी श्रृंखला तर्क में एलएलएम्स में रहस्योद्घाटन और छोटे मॉडल मजबूत तर्कसंगत करने वालों से सीखने के लिए संघर्ष करते हैं भी इस वर्ग के मॉडल्स में एक व्यापक समस्या की स्थापना के लिए कुछ ही सार्वजनिक रूप से उपलब्ध श्रृंखला के विचार (सीओटी) तर्क मॉडल्स का उपयोग करते हैं:

‘[एलआरएम] को एक बड़ी मात्रा में डिकोडिंग बजट बर्बाद करने की प्रवृत्ति है, बस खुद को दोहराते हुए, थोड़े से बदलाव के साथ, या मामलों की अंतहीन गिनती में शामिल होने तक सभी बजट का उपयोग हो जाता है – हम इस व्यवहार को शब्द सलाद कहते हैं, एक शब्द जो अक्सर सार्वजनिक प्रवक्ताओं का मजाक उड़ाने के लिए उपयोग किया जाता है जो लंबे, जargon से भरे उत्तर देते हैं जो अंततः पदार्थ या स्पष्ट अर्थ से रहित होते हैं। ‘

‘“मूल” कॉलम में [नीचे दी गई तालिका में] यह दिखाया गया है कि जब हम जीपीक्यूए-डायमंड का उत्तर देते हैं, तो हम देखते हैं कि डीपसीक-आर 1-डिस्टिल मॉडल द्वारा उत्पन्न टोकन्स में 55% + “शब्द सलाद टोकन” के रूप में चिह्नित होते हैं, जो एक सेमांटिक दृष्टिकोण से मूल्य नहीं जोड़ते हैं। ‘

जीपीक्यूए-डायमंड का उत्तर देते समय सेमांटिक रूप से अतिरिक्त आउटपुट टोकन्स की हिस्सेदारी। वर्डसैलडचॉपर द्वारा इस ओवरहेड को 55% से अधिक से 6% से कम तक कम किया जाता है, सभी परीक्षण किए गए डीपसीक-आर 1-डिस्टिल मॉडल्स में। स्रोत

लेखकों का यह भी मानना है कि तर्क प्रक्रिया को छोटा करने के प्रयास, जिसमें उत्तर की गुणवत्ता संरक्षित हो, शोध साहित्य में एक मजबूत उप-धारा बन गई है, विशेष रूप से लंबा-छोटा (एल 2 एस); और आगे देखते हैं कि जबकि उनकी परियोजना के उद्देश्य कुछ पहले की पहल के समान हैं, उनका अपना यह पहला है जो एक अधःस्त समाधान प्रदान करता है जिसके लिए प्रशिक्षण प्रक्रिया में, मॉडल संपादन, या एलएलएम की आधार वास्तुकला पर किसी भी संभावित थोपे की आवश्यकता नहीं होती है; और इस सीमा तक, वे मानते हैं कि उनके दृष्टिकोण को लागू करने योग्य प्रणालियों के बीच व्यापक होना चाहिए:

‘हमारा मानना है कि यह देखते हुए कि इसका ओवरहेड कम है, मजबूत बचत है, और शब्द सलाद टोकन्स का सेमांटिक मूल्य नहीं है, वर्डसैलडचॉपर – या एक समान घटक – सभी एलआरएम अनुप्रयोगों के लिए एक आवश्यक घटक होना चाहिए जिसमें उपयोगकर्ता अनुभव पर विचार किया जाता है ‘

नई पेपर का शीर्षक वर्ड सैलड चॉपर: तर्क मॉडल्स बेकार पुनरावृत्ति पर डिकोडिंग बजट का एक टन बर्बाद करते हैं, स्व-जागरूक है, और यह छह शोधकर्ताओं से आता है मिनेसोटा विश्वविद्यालय, राइस विश्वविद्यालय, स्टीवंस इंस्टीट्यूट ऑफ टेक्नोलॉजी, और लैम्ब्डा, इंक से।

पूर्व विचार

तर्क एलएलएम्स की खुद को दोहराने की प्रवृत्ति को ट्रैक करने के लिए, लेखकों ने मॉडल्स के आउटपुट को दोहरी रेखा विराम केどこ भी थे वहां विभाजित किया, फिर जांचा कि प्रत्येक खंड कितना समान था पहले के लोगों के साथ:

दो डिकोडिंग तापमान (τ = 0.0, 0.6) के तहत शब्द सलाद के रूप में चिह्नित तर्क खंडों का अनुमानित हिस्सा। वर्गीकारी एक खंड को ‘शब्द सलाद’ के रूप में चिह्नित करता है जब यह मॉडल के आउटपुट के एक पहले हिस्से से मेल खाता है, पुनरावृत्ति की तुलना में प्रगति का सुझाव देता है। परिणाम दिखाते हैं कि यह व्यवहार डेटासेट और मॉडल के आकार में व्यापक है।

यदि एक खंड बहुत समान था, तो इसे ‘शब्द सलाद’ के रूप में चिह्नित किया गया था (प्रभावी रूप से एक बेकार पुनरावृत्ति)।

शोधकर्ताओं का यह भी मानना है कि एक बार मॉडल ‘शब्द सलाद’ मोड में प्रवेश कर जाता है, तो यह बहुत ही असंभावना है कि यह बिना बाहरी सहायता के इससे बाहर निकल जाएगा, इसके बजाय महंगी लूप में रहते हुए तब तक रहता है जब तक कि उपयोगकर्ता का डिकोडिंग बजट समाप्त नहीं हो जाता:

‘निस्संदेह, यह उपयोगकर्ताओं के लिए एक विनाशकारी मुद्दा प्रस्तुत करता है, क्योंकि एक आदर्श रूप से बहुत छोटा सोच वाला खंड अब बेकार पुनरावृत्ति से अधिकतम किया जाता है। तो उपयोगकर्ता essentially अधिकतम लागत का भुगतान करता है एक (संभवतः) गलत उत्तर के लिए, जबकि सबसे लंबे समय तक अंत-से-अंत विलंबता का सामना करता है। ‘

चopping पॉइंट (यानी, जब पुनरावृत्ति आउटपुट को डोमिनेट करना शुरू कर देती है) से पहले और बाद में शब्द सलाद खंडों का हिस्सा। अधिकांश पुनरावृत्ति इस बिंदु के बाद होती है, यह दिखाते हुए कि जब एक मॉडल एक शब्द सलाद लूप में प्रवेश करता है, तो यह शायद ही कभी हस्तक्षेप के बिना पुनर्प्राप्त करता है।

लेखकों को यह जानकर आश्चर्य हुआ कि तर्क एलएलएम्स ^††† शब्द-सलाद राज्य के प्रति जागरूकता के संकेत दिखाते हैं। हालांकि, यह जागरूकता, और यह कि यह मॉडल के संभावित तर्क राज्य में कैसे प्रवेश करता है, हस्तक्षेप की एक प्रणाली के लिए अनुमति देता है:

‘वर्गीकारी की हल्की-सी प्रकृति दरवाजा खोलती है on-the-fly पता लगाने के लिए, जहां हम विभिन्न ऑपरेशन के साथ हस्तक्षेप कर सकते हैं मॉडल्स को शब्द सलाद लूप्स में फंसाने के लिए। ‘

विधि

शब्द सलाद की उपस्थिति का पता लगाने के लिए, लेखकों ने एक सरल रैखिक वर्गीकारी को प्रशिक्षित किया जो प्रत्येक डबल न्यूलाइन टोकन के छिपे हुए राज्य पर चलता है।

किसी भी खंड को चॉपिंग पॉइंट के बाद होने वाले शब्द सलाद के रूप में माना जाता था, इस कट-ऑफ (जिसे चॉपिंग पॉइंट कहा जाता है) का उपयोग प्रशिक्षण डेटा को लेबल करने के लिए किया गया था। 1000 तर्क ट्रेस जेनरेट किए गए थे एस 1 बेंचमार्क का उपयोग करके, और प्रत्येक ट्रेस को न्यूलाइन-सेपरेटेड खंडों में विभाजित किया गया था।

वर्डसैलडचॉपर के लिए संकल्पनात्मक योजना। पीढ़ी के दौरान, प्रत्येक डबल न्यूलाइन टोकन पर छिपे हुए राज्य का विश्लेषण पुनरावृत्ति खंडों का पता लगाने के लिए किया जाता है। एक बार दो शब्द सलाद खंडों को पंक्ति में चिह्नित किया जाता है, पीढ़ी रोक दी जाती है। एक निश्चित पुनर्जन्म प्रॉम्प्ट जोड़ा जाता है, मॉडल को अपना उत्तर पूरा करने और बजट से अधिक नहीं जाने देता है।

यदि एक खंड एक पहले के एक के समान था, तो इसे शब्द सलाद के रूप में लेबल किया गया था। एक बार सबसे पहले बनाए रखी गई पुनरावृत्ति की पहचान हो जाने के बाद, सभी बाद के खंडों को भी शब्द सलाद के रूप में लेबल किया गया था ताकि इन लूप्स की दृढ़ता को प्रतिबिंबित किया जा सके।

वर्गीकारी को एक पूरी तरह से जुड़े हुए परत के रूप में लागू किया गया था और अंतिम ट्रांसफॉर्मर ब्लॉक से ट्रेलिंग टोकन्स के छिपे हुए राज्यों पर प्रशिक्षित किया गया था। प्रत्येक मॉडल के लिए एक अलग वर्गीकारी को प्रशिक्षित किया गया था, इस डेटा का उपयोग करके, और मूल्यांकन के दौरान कोई फाइन-ट्यूनिंग नहीं की गई थी।

डेटा और परीक्षण

प्रशिक्षण और अनुमान चार NVIDIA A100 (80G VRAM) जीपीयू, एडम ऑप्टिमाइज़र के तहत, 1×10 ^-2 की सीखने की दर के साथ, 50 epochs के लिए।

मूल्यांकन डेटासेट ‘ग्रेड स्कूल मैथ’ 8000, जिसे जीएसएम 8 के रूप में जाना जाता है; मैथ-500; जीपीक्यूए-डायमंड; और एआईएमई 25 (2025)।

परीक्षण किए गए मॉडल्स में डीपसीक-आर 1-डिस्टिल-क्यूवेन-1.5 बी; डीपसीक-आर 1-डिस्टिल-क्यूवेन-7 बी; और डीपसीक-आर 1-डिस्टिल-लामा-8 बी, सभी एमआईटी लाइसेंस के तहत।

उपयोग किए गए मेट्रिक्स सटीकता और एयूआरओसी थे।

क्यूवेन-7 बी पर दो डिकोडिंग तापमानों और चार बेंचमार्क पर शब्द सलाद वर्गीकारी की सटीकता और एयूआरओसी। उच्च स्कोर यह पुष्टि करते हैं कि पुनरावृत्ति की शुरुआत को ट्रेलिंग न्यूलाइन टोकन के छिपे हुए राज्य से विश्वसनीय रूप से पता लगाया जा सकता है।

परिणामों के बारे में जो यहां दिखाए गए हैं, लेखकों का यह टिप्पणी है:

‘[परिणाम तालिका ऊपर] यह दिखाती है कि रैखिक वर्गीकारी शब्द सलाद खंडों का पता लगाने में बहुत सटीक है; [परिणाम तालिका नीचे] यह प्रदर्शित करती है कि पुनर्जन्म प्रॉम्प्ट से कार्य की सटीकता हासिल होती है जो कि शब्द सलाद को काटने से खो जाती है। ‘

प्रत्येक बेंचमार्क पर क्यूवेन-7 बी की सटीकता, τ = 0.6 पर, मूल (मूल), चॉप्ड (कटा हुआ), और रीजेनरेटेड (पुनर्जन्म) के बीच तुलना करते हुए। पुनर्जन्म से लाभ मामूली लेकिन सुसंगत हैं, जो अधिकांश मामलों में प्री-लूप प्रदर्शन को पुनर्प्राप्त करते हैं।

नीचे दी गई तालिका में हम देख सकते हैं कि वर्डसैलडचॉपर ने सटीकता को बनाए रखते हुए मॉडल आउटपुट की लंबाई में 57% तक की कमी ला दी:

लालची डिकोडिंग (τ = 0) पर वर्डसैलडचॉपर का उपयोग करते समय मॉडल आउटपुट की लंबाई में कमी, जो कभी-कभी आधे से अधिक होती है, जबकि सटीकता समान या थोड़ी बेहतर रहती है, जो विभिन्न मॉडल्स और कार्यों में सुसंगत प्रदर्शन बनाए रखती है (एआईएमई 25 को इस सेटिंग के तहत अस्थिर परिणामों के कारण छोड़ दिया जाता है)।

सबसे बड़े लाभ लंबे उत्तरों में दिखाई दिए, विशेष रूप से जीपीक्यूए-डायमंड पर, जहां लगभग आधा पाठ को निकाल दिया गया था बिना प्रदर्शन को नुकसान पहुंचाए। नीचे हम समान परिणाम देख सकते हैं जब पीढ़ी के दौरान यादृच्छिकता जोड़ी जाती है:

उच्च तापमान (τ = 0.6) पर, वर्डसैलडचॉपर 10-30 प्रतिशत द्वारा आउटपुट को छोटा करता है, सटीकता सभी मॉडल्स और बेंचमार्क्स में स्थिर या थोड़ी बेहतर रहती है (एआईएमई 25 के परिणामों को विचरण को कम करने के लिए औसत किया जाता है)।

यहां सटीकता बनी रहती है, और छोटे आउटपुट प्राप्त किए जाते हैं। समग्र रूप से, प्रणाली तब भी काम करती है जब मॉडल के उत्तर अधिक पुनरावृत्ति हो जाते हैं; और लेखकों का यह भी मानना है कि भविष्य के शोध के साथ इस दिशा में रणनीतियों से लाभ हो सकता है जो मॉडल को हस्तक्षेप के बाद एक छोटा पुनर्जन्म बजट देती हैं; वर्डसैलडचॉपर-शैली की प्रणाली का निरंतर अनुप्रयोग पुनर्जन्म पर; और मॉडल पर ‘सोच का अंत’ टोकन को मजबूर करना, यह मांग करने के लिए कि यह अपना वर्तमान सर्वोत्तम उत्तर दे।

अंत में, शोधकर्ता तर्क मॉडल्स का मूल्यांकन करने की वर्तमान स्थिति पर टिप्पणी करते हैं एक महत्वपूर्ण स्वर में:

‘यह हमारा ईमानदार विश्वास है कि कई कुशल तर्क विधियां प्रभावी दिखाई देती हैं क्योंकि वर्तमान तर्क मूल्यांकन बेंचमार्क में सुधार के लिए बहुत अधिक कमरा है。

‘यदि हम अधिक व्यापक मूल्यांकन सूट विकसित करते हैं – जो हम निश्चित रूप से भविष्य में करेंगे – हम उम्मीद करते हैं कि कई कुशल तर्क विधियां विफल हो जाएंगी, या अपने वैनिला एलआरएम समकक्षों की तुलना में बहुत अलग व्यवहार करेंगी। ‘

निष्कर्ष

चैटजीपीटी जैसी अग्रणी प्रणालियों द्वारा हासिल की गई स्केल पर, यहां तक कि छोटे बदलाव भी बुनियादी ढांचे, लॉजिस्टिक्स और लागत पर महत्वपूर्ण परिणाम ला सकते हैं। यह कारण है कि कुशलता प्रदाताओं और व्यापक शोध समुदाय दोनों के लिए एक साझा प्राथमिकता है।

यदि लागू किया जाता है, तो पेपर में प्रस्तावित नया और हल्का प्रणाली (जिसे प्रत्येक नए मॉडल आर्किटेक्चर के लिए कस्टम-ट्रेन किया जाना चाहिए) बेकार टोकन्स को जलाने से रोक सकती है – जो ग्राहक को यह महसूस करा सकती है कि विक्रेता उनके आवंटन को एक प्रकार के तरीके से बर्बाद कर रहा है। वास्तव में, विक्रेता को उपयोगी के बजाय अतिरिक्त आउटपुट प्रदान करने से बेहतर है, जो कंप्यूटे के दृष्टिकोण से एक शब्द सलाद के समान लागत पर आता है।

* हालांकि हम यहां इसका विस्तार नहीं करेंगे, यह स्थानीय रूप से होस्ट किए गए मॉडल्स पर भी लागू होता है, जो निगमित और शौकिया दोनों हो सकते हैं, और जहां शब्द सलाद के बिजली और उत्पादकता नुकसान एक ध्यान देने योग्य कारक हो सकते हैं।

^† जैसा कि हमेशा, सभी जोर लेखकों का है, और मेरा नहीं। जहां लागू हो, उनके इनलाइन संदर्भों को मैंने हाइपरलिंक में परिवर्तित किया है।

^†† यहां हमें यह स्वीकार करना होगा कि फ्रेमवर्क और एपीआई प्रश्नों के लिए ‘सब-बजट’ आवंटित कर सकते हैं, ताकि एक प्रश्न एक दिन के टोकन्स के आवंटन को पूरी तरह से जलाने में सक्षम न हो – लेकिन यह एक सामान्य अभ्यास नहीं है, न ही एपीआई-केवल प्रदाताओं के बीच सामान्य रूप से चर्चा की जाती है।

^††† मैं आमतौर पर लेखकों के ‘एलआरएम’ के उपयोग को अपनाने के लिए तैयार नहीं हूं, क्योंकि यह वर्तमान में एक मुख्यधारा का संक्षिप्त नाम नहीं है, इसलिए मैं इस लेख में आवश्यकतानुसार अन्य शब्दावली का उपयोग करूंगा।

पहली बार गुरुवार, 6 नवंबर, 2025 को प्रकाशित किया गया