शोध में पाया गया है कि थोड़ा सा गलत डेटा भी एक फाइन-ट्यून किए गए एआई को बर्बाद कर सकता है

एक नए अध्ययन से पता चलता है कि चैटजीपीटी को थोड़ी मात्रा में गलत डेटा पर फाइन-ट्यून करने से यह असुरक्षित, अविश्वसनीय और विषय से भटक सकता है। प्रशिक्षण डेटा में केवल 10% गलत उत्तर प्रदर्शन को तोड़ना शुरू कर देते हैं, जबकि 25% खतरनाक सलाह को ट्रिगर कर सकते हैं। अधिकांश मामलों में, अनट्यून्ड बेस मॉडल किसी भी “व्यक्तिगत” संस्करण की तुलना में सुरक्षित और बुद्धिमान रहा।

एक जेनेरिक टॉप-ऑफ-द-लाइन लार्ज लैंग्वेज मॉडल (एलएलएम) जैसे कि चैटजीपीटी या क्लाउड एक कंपनी को जो नहीं दे सकता है वह है एक मोआत – एक अनोखा किनारा और क्षमताओं की श्रृंखला जो मॉडल प्रदर्शन में प्रतियोगियों के लिए उपलब्ध नहीं है। हालांकि एपीआई-ओनली सेवाओं जैसे कि चैटजीपीटी समय के साथ एक विशिष्ट क्लाइंट के लिए कस्टम नियमों और अपेक्षाओं को जमा करेंगे और एक निश्चित सीमा तक उनकी जरूरतों की भविष्यवाणी करना शुरू कर देंगे, लेकिन वास्तव में एक एलएलएम में कंपनी-विशिष्ट कार्यों और निर्देशों को स्वचालित करने का एकमात्र तरीका यह है कि प्रत्येक अनुरोध को संदर्भित किया जाए।

इसके लिए कई नियंत्रण/संदर्भ प्रॉम्प्ट्स को बचाने और पुनः उपयोग करने की आवश्यकता हो सकती है जो एलएलएम को बताते हैं कि डेटा या चुनौती के साथ कैसे व्यवहार करना है जिसे यह प्राप्त करने वाला है; और ऐसे दस्तावेज अक्सर थकाऊ और यहां तक कि महंगे परीक्षण और त्रुटि से सूचित होते हैं।

स्पष्ट रूप से यह बेहतर होगा कि यदि कोई अपनी जरूरतों को मॉडल पर अधिक स्थायी रूप से छाप दे सके, ताकि इसका क्लाइंट के साथ एक कम आकस्मिक और क्षणभंगुर संबंध हो।

फाइन आइडियाज

इसलिए, गोपनीयता या एक्सपोजर संबंधी विचारों के अधीन, कंपनियां वर्तमान में शक्तिशाली एलएलएम को व्यक्तिगत बनाने और अनुकूलित करने के लिए बहुत उत्सुक हैं, फाइन-ट्यूनिंग द्वारा मॉडल को अपने स्वयं के डेटा पर।

इसका अर्थ है कि कंपनी द्वारा स्वचालित करने के लिए कार्यों या डोमेन के लिए विशिष्ट अतिरिक्त डेटासेट सामग्री को बनाना और मॉडल के प्रशिक्षण को प्रभावी रूप से “फिर से शुरू” करना।

उपयोगी मायोपिया: फाइन-ट्यूनिंग में, एक पूर्व-प्रशिक्षित मॉडल का उपयोग एक संशोधित संस्करण के आधार के रूप में किया जाता है जो एक कस्टम डेटासेट में शामिल विशिष्ट कार्यों के लिए सक्षम है; हालांकि, परिणामी मॉडल आमतौर पर सामान्य कार्यों की तुलना में इन कस्टम कार्यों में बेहतर होगा जो अपरिवर्तित बेस मॉडल अभी भी अच्छी तरह से कर सकता है।

खैर, प्रशिक्षण को “फिर से शुरू” करने के बजाय, या जहां मॉडल के प्रशिक्षण ने छोड़ दिया था, वहां से शुरू करने के लिए; इसके लिए मॉडल की सबसे हाल की प्रशिक्षण स्थिति (एक बहुत भारी कॉन्फ़िगरेशन फ़ाइल जो उत्पादन रिलीज़ में शामिल नहीं है) और मूल प्रशिक्षण सेटअप की आवश्यकता होगी – और ऐसे बहुत कम निगम हैं जो ऐसे महंगे और मांग वाले वातावरण को दोहरा सकते हैं।

इसके बजाय, फाइन-ट्यूनिंग एक व्यापक रूप से प्रशिक्षित मॉडल से शुरू होती है और एक छोटे, डोमेन-विशिष्ट डेटासेट का उपयोग करके इसके वजन को समायोजित करती है। यह दूसरा प्रशिक्षण चरण मॉडल के व्यवहार को लक्ष्य कार्य के लिए संकीर्ण बनाता है, जबकि सामान्य भाषा समझ को बनाए रखने के लिए पूर्व-प्रशिक्षण के दौरान सीखा जाता है। लक्ष्य, इसलिए, सामान्यीकृत अनुप्रयोगों से विशेषज्ञ अनुप्रयोगों में मॉडल को स्थानांतरित करना है, बिना प्रशिक्षण से शुरू किए।

लाइट ट्यून्स

पूर्ण फाइन-ट्यूनिंग एक नए हाइब्रिडीकृत, टास्क-विशिष्ट मॉडल के निर्माण को शामिल करती है जो मूल फाउंडेशन मॉडल के रूप में कम से कम उतना ही भारी होता है जिस पर यह प्रशिक्षित किया गया था; हालांकि, लो रैंक एडैप्टेशन (लोरा) जैसे हल्के तरीके असली बेस मॉडल पर “फिल्टर” के रूप में काम करने वाले हल्के मध्यवर्ती फाइलें बना सकते हैं, जिससे यह विशेषज्ञ कार्यों को करने में सक्षम हो जाता है।

एक लोरा एक पूर्व-प्रशिक्षित भाषा मॉडल को छोटे प्रशिक्षण घटकों को जोड़कर समायोजित करता है, न कि सभी इसके पैरामीटर्स को समायोजित करके। ये कम रैंक मैट्रिक्स मॉडल की परतों में फिट हो जाते हैं, जिससे यह कार्य-विशिष्ट व्यवहार सीखने की अनुमति देता है जबकि इसके मूल ज्ञान को बनाए रखता है, और गणना और मेमोरी की लागत को कम करता है।

पाठ-आधारित और विविध अन्य एलएलएम डोमेन के अलावा, लोरा-शैली का प्रशिक्षण छवि और वीडियो उत्पादक प्रणालियों के लिए अनुकूलित छवि टेम्पलेट्स बनाने के लिए बहुत लोकप्रिय है। नीचे दिए गए उदाहरण में, हम देख सकते हैं कि दाईं ओर एक विशिष्ट व्यक्ति की पहचान का उपयोग करके लोरा को फाइन-ट्यून करने से (अपरिवर्तित) हुन्युआन बेस मॉडल उस पहचान (स्टेटिक चित्रों से प्राप्त डोमेन ज्ञान से सिंथेटिक किए गए वीडियो घटकों) का उत्पादन करने में सक्षम हो जाता है:

प्ले पर क्लिक करें: किसी भी अन्य प्रकार के डेटा की तरह जो फाइन-ट्यून या लोरा में रखा जा सकता है, इस मामले में पहचान डेटा हुन्युआन मॉडल को एक व्यक्तित्व को पुनः बनाने में मदद कर सकता है जो मूल रूप से इसके लेटेंट स्पेस में प्रशिक्षित नहीं किया गया था।

फाइन-ट्यूनिंग एक गहरा और अधिक व्यापक तरीका है, लेकिन इसके लिए बहुत अधिक समय और संसाधनों की आवश्यकता होती है। क्योंकि यह अक्सर लोरा की तुलना में मजबूत परिणाम दे सकता है, फाइन-ट्यूनिंग उद्योग भर में ध्यान का केंद्र बन गई है, क्योंकि कंपनियां प्रतिभा को खोजने के लिए उत्सुक हैं जो डेटा को प्रभावी कॉर्पोरेट फाइन-ट्यून में आकार दे सकती है।

‘वर्थ ए गो!’

क्योंकि आधुनिक एलएलएम और वीएलएम अपेक्षाकृत कम संकलित डेटा से उत्कृष्ट परिणाम दे सकते हैं, एक सामान्य समझ फैल रही है कि डेटा संकलन प्रशिक्षण प्रक्रिया में कम प्राथमिकता या आवश्यकता बन सकता है, क्योंकि संबंधित वास्तुकला किसी भी “प्रदूषित” डेटासेट में सबसे महत्वपूर्ण संबंधों को पहचान लेगी।

यह अधिकांशतः इच्छाधारी सोच है; हाइपरस्केल डेटा को मैन्युअल रूप से संकलित करने की लागत कृत्रिम बुद्धिमत्ता की प्रगति को चुनौती देने वाले सबसे उल्लेखनीय प्रतिबंधक कारकों में से एक है। जबकि उच्च-वॉल्यूम डेटा दुनिया के मॉडल बनाने के लिए पर्याप्त डेटा उदाहरण प्रदान करता है, शोध टीमें अक्सर मौजूदा मेटाडेटा (जो अक्सर निम्न गुणवत्ता का होता है, गुम होता है, या सिर्फ गलत होता है) पर निर्भर होने के लिए मजबूर होती हैं ताकि अराजकता में क्रम लाया जा सके; या एल्गोरिदमिक फिल्टरिंग तकनीकों पर जो या तो असंपूर्ण सिद्धांतों पर आधारित होती हैं, या अपर्याप्त रूप से संकलित डेटा से संचालित होती हैं (!)।

इसलिए, यह माना जा सकता है कि फाइन-ट्यूनिंग दृष्टिकोण डेटा वितरण को तर्कसंगत बना सकते हैं और बाहरी डेटा के साथ बुद्धिमानी से निपट सकते हैं, और परिणामी फाइन-ट्यून किए गए मॉडल समग्र प्रदर्शन को कम कर सकते हैं (जो आवश्यक नहीं है) लेकिन लक्ष्य कार्य में उत्कृष्टता प्राप्त करेंगे – एक व्यावहारिक समझौता।

हालांकि, बर्कले और इनविजिबल टेक्नोलॉजीज़ (शीर्षक हाउ मच ऑफ योर डेटा कैन सक? थ्रेशोल्ड्स फॉर डोमेन परफॉर्मेंस एंड एमर्जेंट मिसएलाइनमेंट इन एलएलएम) के बीच एक नए सहयोग से पता चलता है कि आश्चर्यजनक रूप से छोटी मात्रा में गलत डेटा फाइन-ट्यून किए गए मॉडल के प्रदर्शन पर गंभीर रूप से हानिकारक प्रभाव डाल सकती है; और चूंकि लेखकों ने अध्ययन के लिए जीपीटी-4ओ का उपयोग किया था, इसलिए बेस नॉन-फाइन-ट्यून्ड जीपीटी-4ओ मॉडल ने अधिकांश मामलों में अनुकूलित कार्यों को बेहतर ढंग से निभाया।

लेखक कहते हैं:

‘बड़े पैमाने पर भाषा मॉडल को गलत डेटा पर फाइन-ट्यून करने से उभयनिष्ठ असंरेखण और विनाशकारी प्रदर्शन हानि हो सकती है, जो कई पрак्टिशनरों को एहसास हो सकता है।

‘हमारे परिणाम इस बात पर जोर देते हैं कि अधिकांश वास्तविक दुनिया के मामलों में, कम फाइन-ट्यूनिंग अधिक फाइन-ट्यूनिंग से बेहतर है – जब तक कि निश्चित रूप से डेटा गुणवत्ता की गारंटी न हो।

‘हमारे प्रयोग यह बताते हैं कि पर्यवेक्षित फाइन-ट्यूनिंग डेटा में सहनशीलता के लिए सीमा आश्चर्यजनक रूप से कम है। जब भी 10% प्रशिक्षण डेटा गलत होता है, तो मॉडल दोनों तकनीकी प्रदर्शन और सुरक्षा में बेस जीपीटी-4ओ की तुलना में एक नाटकीय गिरावट दिखाते हैं, जो लगातार सभी डोमेन में लगभग उत्कृष्ट परिणाम देता है।’

वे आगे कहते हैं कि जैसे ही गलत डेटा का हिस्सा बढ़ता है, असंरेखण और हानिकारक आउटपुट तेजी से बढ़ जाते हैं – विशेष रूप से जब त्रुटियां सूक्ष्म होती हैं। 10% और 25% के बीच गलत डेटा विश्वसनीयता को ढहा देने के लिए पर्याप्त है, और 50% से कम सही डेटा वाले मॉडल उल्लेखनीय रूप से अस्थिर हो जाते हैं।

नियंत्रित या सुरक्षा महत्वपूर्ण डोमेन में, लेखकों का निरीक्षण है कि डेटा गुणवत्ता में भी छोटी चूक फाइन-ट्यूनिंग को विपरीत परिणाम देने वाला बना सकती है।

सबसे सुरक्षित विकल्प, वे तर्क देते हैं, शायद बिल्कुल फाइन-ट्यूनिंग नहीं है।

विधि

कागज़ बहुत छोटा है क्योंकि परीक्षण विधि बहुत संक्षिप्त है: शोधकर्ताओं ने जीपीटी-4ओ-2024-08-06 को बेसलाइन मॉडल के रूप में अपनाया, और ओपनएआई के प्रोप्राइटरी प्लेटफॉर्म का उपयोग करके इसे फाइन-ट्यून किया, बिना किसी अतिरिक्त पुरस्कार मॉडल या प्रशिक्षण के साथ प्रबलित सीखने के चरणों को लागू किए।

इस दृष्टिकोण से यह सुनिश्चित हुआ कि आउटपुट में सभी व्यवहारिक परिवर्तन को केवल पर्यवेक्षित फाइन-ट्यूनिंग डेटा के लिए जिम्मेदार ठहराया जा सकता है, बिना किसी संरेखण तकनीकों या पोस्ट-प्रोसेसिंग परतों से हस्तक्षेप के, और प्रशिक्षण को यथासंभव स्थिर और कुशल बनाने के लिए ओपनएआई के स्वयं के सिस्टम का उपयोग किया गया।

यह व्यवस्था यह सुनिश्चित करती है कि केवल डेटा गुणवत्ता ही परिणामों को प्रभावित कर सकती है; यह कि प्रत्येक रन एक ही बेस मॉडल से शुरू हुआ, निरंतरता के लिए; और प्रशिक्षण यथासंभव स्थिर और कुशल था, ओपनएआई के स्वयं के सिस्टम का उपयोग करके।

डेटा और परीक्षण

फाइन-ट्यूनिंग पर गलत डेटा के प्रभाव का परीक्षण करने के लिए, शोधकर्ताओं ने प्रत्येक डोमेन के लिए अलग-अलग उदाहरण सेट बनाए: कोड; वित्त; स्वास्थ्य; और कानूनी। प्रत्येक सेट में तीन भाग थे: सही उत्तर; स्पष्ट रूप से गलत उत्तर; और सूक्ष्म रूप से गलत उत्तर – सभी विशेषज्ञों द्वारा हाथ से जांचे गए ताकि यह सुनिश्चित किया जा सके कि लेबल विश्वसनीय थे।

लेखकों ने तब मॉडल को इन उदाहरणों के विभिन्न मिश्रणों पर प्रशिक्षित किया, 10% से लेकर 90% तक सही डेटा की सीमा तक।

प्रत्येक मिश्रण में ठीक 6,000 प्रशिक्षण आइटम और 1,000 वैधीकरण आइटम शामिल थे (हालांकि, चूंकि कोड डोमेन में कोई “सूक्ष्म” श्रेणी नहीं थी, इसलिए इसमें कुल मिलाकर कम संयोजन थे)। प्रत्येक मिश्रण का तीन बार परीक्षण किया गया ताकि प्रशिक्षण में यादृच्छिकता के लिए खाता हो।

मॉडल को एक पूर्ण प्रशिक्षण चक्र के लिए एडमडब्ल्यू ऑप्टिमाइज़र का उपयोग करके प्रशिक्षित किया गया था, चार के बैच आकार के साथ और एक कोसाइन सीखने की दर अनुसूची के साथ, कोई वार्म-अप चरण के साथ नहीं। फाइन-ट्यूनिंग को सीधे लेबल (प्रॉम्प्ट/पूर्णता) जोड़ियों पर किया गया था, प्रबलित सीखने, पुरस्कार मॉडलिंग, या अतिरिक्त संरेखण चरणों के बिना।

चूंकि वैधीकरण प्रदर्शन एक पूर्ण प्रशिक्षण चक्र के भीतर समाप्त हो गया था, इसलिए किसी अतिरिक्त प्रशिक्षण चक्र की आवश्यकता नहीं थी।

प्रत्येक मॉडल का 100 डोमेन-विशिष्ट प्रश्नों पर मूल्यांकन किया गया था, जो ओपनएआई के प्रॉम्प्ट-आधारित डेटा टूल का उपयोग करके सिंथेटिक रूप से उत्पन्न किए गए थे, जिसमें एलएलएम जज ने सही उत्तरों के आधार पर प्रतिक्रियाओं को सही के लिए स्कोर किया था।

असंरेखण का मूल्यांकन अलग से किया गया था, 2025 के पेपर एमर्जेंट मिसएलाइनमेंट: नैरो फाइन-ट्यूनिंग ब्रॉडली मिसएलाइन्ड एलएलएम का उत्पादन कर सकती है से सार्वजनिक उभयनिष्ठ असंरेखण बेंचमार्क का उपयोग करके, और ओपनएआई, जहां एलएलएम जज ने हानिकारक या अनुचित आउटपुट की आवृत्ति और गंभीरता का मूल्यांकन किया था।

सभी मूल्यांकन प्रशिक्षण के दौरान देखे गए प्रॉम्प्ट (यानी, अनदेखे) पर किए गए थे, तापमान शून्य पर सेट, निर्धारित प्रतिक्रियाओं को सुनिश्चित करने के लिए।

सही और गलत फाइन-ट्यूनिंग डेटा के प्रभाव का प्रभाव कार्य सटीकता और मॉडल संरेखण पर

इन प्रारंभिक प्रयोगों ने यह परीक्षण किया कि विभिन्न मिश्रणों के सही, स्पष्ट रूप से गलत, और सूक्ष्म रूप से गलत फाइन-ट्यूनिंग डेटा का कार्य सटीकता और संरेखण पर क्या प्रभाव पड़ेगा कोड, वित्त, स्वास्थ्य, और कानूनी डोमेन में।

डेटा गुणवत्ता और मॉडल व्यवहार के बीच संबंध गैर-रेखीय पाया गया, मॉडल 25% तक गलत डेटा पर अधिकांशतः स्थिर रहते हैं; इसके अलावा, नैतिक संरेखण 90% से नीचे सही डेटा तक अच्छी तरह से रखा गया था:

प्रारंभिक परीक्षणों के परिणाम: डोमेन सटीकता में सही प्रशिक्षण डेटा के हिस्से के रूप में तेजी से वृद्धि होती है, हालांकि 50% से परे लाभ कम हो जाते हैं। मॉडल जो सूक्ष्म रूप से गलत डेटा (नारंगी) पर प्रशिक्षित होते हैं वे उन मॉडलों की तुलना में अधिक तेजी से पुनर्प्राप्ति करते हैं जो स्पष्ट रूप से गलत डेटा (नीला) पर प्रशिक्षित होते हैं, लेकिन दोनों बेस जीपीटी-4ओ मॉडल की तुलना में 100% सटीकता पर कम विश्वसनीय रहते हैं। 50% से नीचे प्रदर्शन में गिरावट से पता चलता है कि जब कम गुणवत्ता वाले उदाहरण प्रमुख होते हैं तो कार्य संरेखण में तेज गिरावट आती है।

हालांकि, प्रदर्शन और संरेखण केवल तभी स्थिर रूप से पुनर्प्राप्ति करना शुरू करते हैं जब कम से कम आधा प्रशिक्षण डेटा सही होता है। यहां तक कि 90% सटीकता पर, फाइन-ट्यून किए गए मॉडल अक्सर मूल जीपीटी-4ओ बेस मॉडल की विश्वसनीयता और सुरक्षा को मेल नहीं खा सकते थे।

जब प्रशिक्षण बहुत अधिक गलत या सूक्ष्म रूप से भ्रामक डेटा पर निर्भर करता है, तो परिणामी मॉडल हानिकारक, असंगत या लक्ष्य से भटके हुए पूर्णता की तेज वृद्धि उत्पन्न करते हैं।

कोड के लिए, प्रदर्शन सही डेटा जोड़े जाने के साथ-साथ स्थिर रूप से सुधार हुआ, जबकि संरेखण डेटा गुणवत्ता की परवाह किए बिना मुख्य रूप से अप्रभावित रहा। वित्त, स्वास्थ्य, और कानूनी डोमेन में, सटीकता 10% और 25% सही डेटा के बीच तेजी से बढ़ी, फिर स्तर।

मॉडल जो सूक्ष्म रूप से गलत डेटा पर प्रशिक्षित होते हैं आमतौर पर स्पष्ट रूप से गलत डेटा पर प्रशिक्षित मॉडल की तुलना में बेहतर प्रदर्शन करते हैं; हालांकि, वित्त और कानूनी में, यह सूक्ष्म शोर संरेखण को अधिक नुकसान पहुंचाता है। स्वास्थ्य दोनों में अधिक लचीला रहता है।

नैतिक संरेखण (मॉडल की हानिकारक या अनैतिक आउटपुट से बचने की क्षमता) सभी डोमेन में 25% से नीचे सही डेटा तक स्थिर रहा। वित्त, स्वास्थ्य और कानूनी में, सूक्ष्म रूप से गलत डेटा ने स्पष्ट त्रुटियों की तुलना में अधिक असंरेखित प्रतिक्रियाएं उत्पन्न कीं, यहां तक कि जब कार्य प्रदर्शन उच्च रहा। संरेखण डेटा गुणवत्ता में वृद्धि के साथ सुधार हुआ, जबकि कोड मॉडल ने डेटा की सटीकता की परवाह किए बिना लगभग उत्कृष्ट संरेखण दिखाया, जो असामान्य लचीलापन का संकेत देता है।

अनट्यून्ड जीपीटी-4ओ की तुलना

फाइन-ट्यून किए गए मॉडल को बेंचमार्क करने के लिए, लेखकों ने 6 अगस्त, 2024 को बेस जीपीटी-4ओ चेकपॉइंट की तुलना की, जिसे किसी अतिरिक्त डोमेन-विशिष्ट प्रशिक्षण के साथ नहीं मिला था।

बेस मॉडल ने लगभग सभी फाइन-ट्यून किए गए संस्करणों को पार किया जिनमें महत्वपूर्ण मात्रा में गलत डेटा शामिल था, जिसमें वित्त, स्वास्थ्य, या कानूनी में कोई खतरनाक पूर्णता नहीं थी, और कोड में केवल एक थी। असंरेखित आउटपुट सभी डोमेन में 1% से नीचे रहे, जबकि कार्य सटीकता 96% से 100% तक भिन्न थी।

लेखकों का निरीक्षण है:

‘सभी डोमेन में, सही प्रशिक्षण डेटा के अनुपात में वृद्धि से हानिकारक और असंरेखित आउटपुट में काफी कमी आती है।

‘निम्न सही डेटा अनुपात पर, सूक्ष्म रूप से गलत डेटा पर प्रशिक्षित मॉडल स्पष्ट रूप से गलत डेटा पर प्रशिक्षित मॉडल की तुलना में खराब संरेखण प्रदर्शन प्रदर्शित करते हैं। हालांकि, जैसे ही सही डेटा का अनुपात बढ़ता है, “वाश-आउट” प्रभाव दोनों प्रकार की त्रुटियों के प्रभाव को कम कर देता है – सूक्ष्म त्रुटियों के लिए अधिक तेजी से।’

‘दोनों तकनीकी प्रदर्शन और नैतिक संरेखण के लिए, 50% सटीकता का सीमा एक स्पष्ट मोड़ बिंदु को चिह्नित करता है: 50% या अधिक सही डेटा के साथ प्रशिक्षित मॉडल सभी मूल्यांकित डोमेन में अधिक विश्वसनीय और सुरक्षित व्यवहार प्रदर्शित करते हैं। ‘

अध्ययन के परिणाम बताते हैं कि फाइन-ट्यूनिंग कितनी नाजुक प्रस्ताव हो सकती है: थोड़ी मात्रा में गलत प्रशिक्षण डेटा (10-25%) असुरक्षित या अप्रासंगिक उत्तरों में एक उल्लेखनीय वृद्धि का कारण बन सकता है, विशेष रूप से जब त्रुटियां सूक्ष्म होती हैं।

ये छोटे त्रुटियां पकड़ने में मुश्किल होती हैं लेकिन अधिक नुकसान पहुंचाती हैं, और उन पर प्रशिक्षित मॉडल अचानक असफल हो सकते हैं। प्रदर्शन केवल तभी वापस आना शुरू होता है जब प्रशिक्षण डेटा अधिकांशतः सही होता है; यहां तक कि तब भी, अधिकांश मॉडल अभी भी बेस संस्करण से पीछे रहते हैं।

बेस संस्करण, इस मामले में जीपीटी-4ओ को कोई अतिरिक्त ट्यूनिंग नहीं मिली थी, साबित हुआ कि यह वित्त, स्वास्थ्य और कानूनी कार्यों में सबसे विश्वसनीय है, जहां यह लगभग कोई खतरनाक व्यवहार नहीं दिखाता है।

पेपर के परिशिष्ट से, विभिन्न स्तरों पर फाइन-ट्यूनिंग परिदृश्यों में समस्याग्रस्त अनुमान परिणामों के कई उदाहरणों का एक बहुत छोटा सा चयन।

निष्कर्ष

डेटासेट संकलन थकाऊ और महंगा है; अक्सर अव्यवस्थित रूप से महंगा। एक हद तक, कंपनियां और व्यक्ति अक्सर यह मान लेते हैं कि यह कम संकलित डेटा पर प्रशिक्षित मॉडल के खुरदुरे किनारों के चारों ओर काम करना आसान और सस्ता है जितना कि डेटा को वास्तव में ध्यान देने की आवश्यकता है।

मुख्य समस्या को परिभाषित किया जाता है स्केल की आवश्यकता और आउटलियर डेटा की अप्रत्याशितता द्वारa; यदि बहुत बड़ी मात्रा में डेटा की आवश्यकता नहीं होती तो यह अधिकतम संख्या में परिदृश्यों को कवर करने के लिए, तो यह संभव होगा कि मैन