एआई हॉलुसिनेशन का उपयोग करके इमेज रियलिज्म का मूल्यांकन

रूस से नए शोध में एक अनोखा तरीका प्रस्तावित किया गया है – असली और नकली एआई-जनरेटेड इमेज का पता लगाने के लिए। यह तरीका बड़े विजन-लैंग्वेज मॉडल्स (एलवीएलएम) की सटीकता में सुधार करने के बजाय जानबूझकर उनकी हॉलुसिनेशन की प्रवृत्ति का उपयोग करता है।

नई दृष्टिकोण में एलवीएलएम का उपयोग करके एक इमेज के बारे में कई ‘परमाणु तथ्य’ निकालना शामिल है, फिर प्राकृतिक भाषा अनुमान (एनएलआई) का उपयोग करके इन बयानों में विरोधाभासों को मापना शामिल है। यह मॉडल की खामियों को एक निदान उपकरण में बदल देता है जो उन इमेज का पता लगा सकता है जो सामान्य ज्ञान के विरुद्ध हैं।

वीएचओओपीएस! डेटासेट से दो इमेज, एलवीएलएम मॉडल द्वारा स्वचालित रूप से जेनरेट किए गए बयानों के साथ। बाएं इमेज वास्तविक है, जिससे संगत विवरण मिलते हैं, जबकि असामान्य दाएं इमेज मॉडल को हॉलुसिनेट करने का कारण बनता है, जिससे विरोधाभासी या गलत बयान पैदा होते हैं। स्रोत: https://arxiv.org/pdf/2503.15948

दूसरी इमेज की वास्तविकता का मूल्यांकन करने के लिए कहा जाने पर, एलवीएलएम देख सकता है कि कुछ गलत है, क्योंकि चित्रित ऊंट में तीन कूबड़ हैं, जो प्रकृति में अज्ञात है।

हालांकि, एलवीएलएम शुरू में >2 कूबड़ को >2 जानवर के साथ मिलाता है, क्योंकि यह एक ‘ऊंट चित्र’ में तीन कूबड़ देखने का एकमात्र तरीका है। फिर यह कुछ और भी असंभव (यानी ‘दो सिर’) की कल्पना करता है और जो चीज़ इसकी संदेह को ट्रिगर करने की संभावना है, उस पर विवरण नहीं देता है – असंभव अतिरिक्त कूबड़।

शोधकर्ताओं ने पाया कि एलवीएलएम मॉडल इस तरह का मूल्यांकन स्वाभाविक रूप से कर सकते हैं, और उन मॉडल्स के समान (या बेहतर) प्रदर्शन कर सकते हैं जिन्हें इस तरह के कार्य के लिए फाइन-ट्यून किया गया है। चूंकि फाइन-ट्यूनिंग जटिल, महंगी और डाउनस्ट्रीम अनुप्रयोगों के लिए नाजुक है, इसलिए वर्तमान एआई क्रांति में एक बड़े रोडब्लॉक के लिए एक स्वाभाविक उपयोग की खोज एक ताज़ा मोड़ है।

ओपन असेसमेंट

इस दृष्टिकोण का महत्व, लेखकों का दावा है, यह है कि इसे ओपन सोर्स फ्रेमवर्क के साथ तैनात किया जा सकता है। जबकि एक उन्नत और उच्च-निवेश मॉडल जैसे कि चैटजीपीटी (जिसे पेपर स्वीकार करता है) संभावित रूप से इस कार्य में बेहतर परिणाम प्रदान कर सकता है, साहित्य का वास्तविक मूल्य अधिकांश लोगों (और विशेष रूप से शौकीन और वीएफएक्स समुदाय) के लिए स्थानीय कार्यान्वयन में नए अविष्कारों को शामिल करने और विकसित करने की संभावना है; इसके विपरीत, प्रोप्राइटरी व्यावसायिक एपीआई सिस्टम में सब कुछ वापस लेने, मनमाने मूल्य वृद्धि और सेंसरशिप नीतियों के अधीन होने की संभावना है जो एक कंपनी के कॉर्पोरेट चिंताओं को उपयोगकर्ता की जरूरतों और जिम्मेदारियों के बजाय प्रतिबिंबित करते हैं।

नई पेपर का शीर्षक हॉलुसिनेशन से न लड़ें, उन्हें उपयोग करें: एनएलआई का उपयोग करके परमाणु तथ्यों पर इमेज रियलिज्म का अनुमान है, और यह पांच शोधकर्ताओं से आता है जो स्कोल्कोवो इंस्टीट्यूट ऑफ साइंस एंड टेक्नोलॉजी (स्कोल्टेक), मॉस्को इंस्टीट्यूट ऑफ फिजिक्स एंड टेक्नोलॉजी, और रूसी कंपनियों एमटीएस एआई और एआईआरआई में काम करते हैं। काम के पास एक साथी गिटहब पेज है।

विधि

लेखकों ने परियोजना के लिए इज़राइल/यूएस वीएचओओपीएस! डेटासेट का उपयोग किया:

वीएचओओपीएस! डेटासेट से असंभव इमेज के उदाहरण। यह ध्यान देने योग्य है कि इन इमेज में विश्वसनीय तत्वों का संयोजन होता है, और उनकी असंभावना इन असंगत पहलुओं के संयोजन पर आधारित होती है। स्रोत: https://whoops-benchmark.github.io/

डेटासेट में 500 सिंथेटिक इमेज और 10,874 से अधिक एनोटेशन शामिल हैं, जो विशेष रूप से एआई मॉडल्स के सामान्य ज्ञान तर्क और संयोजन समझ का परीक्षण करने के लिए डिज़ाइन किए गए हैं। इसे डिज़ाइनरों के सहयोग से बनाया गया था जिन्हें टेक्स्ट-टू-इमेज सिस्टम जैसे मिडजॉर्नी और डीएलएल-ई श्रृंखला का उपयोग करके चुनौतीपूर्ण इमेज जेनरेट करने का काम सौंपा गया था – प्राकृतिक रूप से कैप्चर करना मुश्किल या असंभव दृश्यों का उत्पादन करना:

वीएचओओपीएस! डेटासेट से और उदाहरण। स्रोत: https://huggingface.co/datasets/nlphuji/whoops

नई दृष्टिकोण में तीन चरण होते हैं; पहले, एलवीएलएम (विशेष रूप से एलएलएवीए-वी1.6-मिस्ट्रल-7बी-एचएफ) को एक इमेज का वर्णन करने वाले कई सरल बयान – ‘परमाणु तथ्य’ कहा जाता है – जेनरेट करने के लिए प्रॉम्प्ट किया जाता है। इन बयानों को विविध बीम सर्च का उपयोग करके जेनरेट किया जाता है, जो आउटपुट में परिवर्तनशीलता सुनिश्चित करता है।

विविध बीम सर्च, पहले प्रस्तावित, विविधता-अग्रिम उद्देश्य के लिए अनुकूलन करके बेहतर विविधता के कैप्शन विकल्प प्रदान करता है। स्रोत: https://arxiv.org/pdf/1610.02424

इसके बाद, प्रत्येक जेनरेट किए गए बयान की प्रत्येक अन्य बयान के साथ एक प्राकृतिक भाषा अनुमान मॉडल का उपयोग करके तुलना की जाती है, जो जोड़े के बयानों के बीच संबंधों को दर्शाने वाले स्कोर असाइन करता है।

विरोधाभास हॉलुसिनेशन या इमेज में अवास्तविक तत्वों को इंगित करते हैं:

डिटेक्शन पाइपलाइन के लिए स्कीमा।

अंत में, इस विधि में इन जोड़े एनएलआई स्कोर को एक एकल ‘वास्तविकता स्कोर’ में समाहित किया जाता है जो जेनरेट किए गए बयानों की समग्र सुसंगतता को मापता है।

शोधकर्ताओं ने विभिन्न समाहित तरीकों का अन्वेषण किया, जिसमें एक क्लस्टर-आधारित दृष्टिकोण ने सबसे अच्छा प्रदर्शन किया। लेखकों ने एनएलआई स्कोर को दो क्लस्टर में विभाजित करने के लिए के-मीन्स क्लस्टरिंग एल्गोरिदम लागू किया, और फिर निम्न-मान वाले क्लस्टर के सेंट्रॉइड को अंतिम मेट्रिक के रूप में चुना।

दो क्लस्टर का उपयोग करना वर्गीकरण कार्य की द्विआधारी प्रकृति के साथ संरेखित होता है, अर्थात् वास्तविक और अवास्तविक इमेज के बीच अंतर करना। तर्क एक ही निम्न स्कोर को चुनने के समान है; हालांकि, क्लस्टरिंग एक मेट्रिक को प्रदान करता है जो कई तथ्यों में विरोधाभास के औसत का प्रतिनिधित्व करता है, एक एकल आउटलियर पर निर्भर करने के बजाय।

डेटा और परीक्षण

शोधकर्ताओं ने अपनी प्रणाली का परीक्षण वीएचओओपीएस! बेसलाइन बेंचमार्क पर किया, घूमने वाले परीक्षण विभाजन (अर्थात् क्रॉस-वैलिडेशन) का उपयोग किया। परीक्षण किए गए मॉडल बीएलआईपी2 फ्लैनटी5-एक्सएल और बीएलआईपी2 फ्लैनटी5-एक्सएक्सएल थे, जो विभाजन में थे, और बीएलआईपी2 फ्लैनटी5-एक्सएक्सएल शून्य-शॉट प्रारूप में (अर्थात् अतिरिक्त प्रशिक्षण के बिना)।

एक निर्देश-आधारित बेसलाइन के लिए, लेखकों ने एलवीएलएम को ‘क्या यह असामान्य है? संक्षेप में एक छोटी वाक्य के साथ संक्षेप में बताएं’ प्रॉम्प्ट किया, जिसे पूर्व शोध ने अवास्तविक इमेज का पता लगाने के लिए प्रभावी पाया था।

परीक्षण किए गए मॉडल एलएलएवीए 1.6 मिस्ट्रल 7बी, एलएलएवीए 1.6 विकुना 13बी, और इन्सट्रक्टबीएलआईपी के दो आकार (7/13 अरब पैरामीटर) थे।

परीक्षण प्रक्रिया 102 जोड़े वास्तविक और अवास्तविक (‘विचित्र’) इमेज पर केंद्रित थी। प्रत्येक जोड़ी में एक सामान्य इमेज और एक सामान्य ज्ञान-विरोधी प्रतिपक्ष शामिल था।

तीन मानव अनnotatorों ने इमेज को लेबल किया, 92% की सहमति हासिल की, जो ‘विचित्रता’ के संबंध में मानव सहमति को दर्शाता है। मूल्यांकन विधियों की सटीकता को उनकी क्षमता द्वारा मापा गया था जो वास्तविक और अवास्तविक इमेज के बीच सही ढंग से अंतर कर सकती थीं।

प्रणाली का मूल्यांकन तीन-गुना क्रॉस-वैलिडेशन का उपयोग करके किया गया था, जिसमें एक निश्चित बीज के साथ डेटा को यादृच्छिक रूप से मिलाया गया था। लेखकों ने प्रशिक्षण के दौरान एनटेलमेंट स्कोर (तार्किक रूप से सहमत बयान) और विरोधाभास स्कोर (तार्किक रूप से विरोधी बयान) के लिए वजन समायोजित किए, जबकि ‘तटस्थ’ स्कोर शून्य पर तय किए गए थे। अंतिम सटीकता को सभी परीक्षण विभाजन में औसत के रूप में गणना किया गया था।

पांच जेनरेट किए गए तथ्यों के उपसेट पर विभिन्न एनएलआई मॉडल और समाहित विधियों की तुलना, सटीकता द्वारा मापी गई।

उपरोक्त प्रारंभिक परिणामों के संबंध में, पेपर में कहा गया है:

‘[क्लस्ट] विधि सबसे अच्छा प्रदर्शन करने वालों में से एक है। यह दर्शाता है कि सभी विरोधाभास स्कोर का समाहित करना महत्वपूर्ण है, न कि केवल चरम मान पर ध्यान केंद्रित करना। इसके अलावा, सबसे बड़ा एनएलआई मॉडल (एनएलआई-डेबर्टा-वी3-लार्ज) सभी समाहित विधियों के लिए अन्य सभी को पीछे छोड़ देता है, जो दर्शाता है कि यह समस्या की सार को अधिक प्रभावी ढंग से पकड़ता है।’

लेखकों ने पाया कि ऑप्टिमल वजन लगातार विरोधाभास पर ध्यान केंद्रित करते हैं, जो यह दर्शाता है कि विरोधाभास अवास्तविक इमेज को अलग करने के लिए अधिक जानकारीपूर्ण हैं। उनकी विधि ने सभी शून्य-शॉट विधियों को पार किया, जो फाइन-ट्यून किए गए बीएलआईपी2 मॉडल के प्रदर्शन के करीब पहुंच गई:

विभिन्न दृष्टिकोणों का वीएचओओपीएस! बेंचमार्क पर प्रदर्शन। फाइन-ट्यून (एफटी) विधियां शीर्ष पर हैं, जबकि शून्य-शॉट (जेडएस) विधियां नीचे सूचीबद्ध हैं। मॉडल आकार पैरामीटर की संख्या को इंगित करता है, और सटीकता मूल्यांकन मेट्रिक के रूप में उपयोग की जाती है।

वे यह भी ध्यान देते हैं कि इंस्ट्रक्टबीएलआईपी ने समान प्रॉम्प्ट के साथ एलएलएवीए मॉडल की तुलना में बेहतर प्रदर्शन किया, जो अप्रत्याशित था। जबकि वे जीपीटी-4ओ की उच्च सटीकता को स्वीकार करते हैं, पेपर में व्यावहारिक, ओपन-सोर्स समाधानों को प्रदर्शित करने की प्राथमिकता है, और हॉलुसिनेशन का उपयोग करके अवास्तविक इमेज का पता लगाने के लिए एक अनोखा दृष्टिकोण प्रस्तुत करता है।

निष्कर्ष

हालांकि, लेखक अपने परियोजना का 2024 फेथस्कोर परियोजना से ऋण स्वीकार करते हैं, जो टेक्सास विश्वविद्यालय डलास और जॉन्स हॉपकिन्स विश्वविद्यालय के बीच एक सहयोग है।

फेथस्कोर मूल्यांकन का चित्रण। पहले, एलवीएलएम-जेनरेटेड उत्तर के भीतर विवरणात्मक बयान पहचाने जाते हैं। अगला, इन बयानों को व्यक्तिगत परमाणु तथ्यों में तोड़ा जाता है। अंत में, परमाणु तथ्यों की तुलना इनपुट इमेज के साथ की जाती है ताकि उनकी सटीकता की पुष्टि की जा सके। अंडरलाइन्ड टेक्स्ट वस्तुनिष्ठ विवरणात्मक सामग्री को हाइलाइट करता है, जबकि नीला टेक्स्ट हॉलुसिनेटेड बयानों को इंगित करता है, जिससे फेथस्कोर वास्तविक सटीकता का एक व्याख्यात्मक उपाय प्रदान कर सकता है। स्रोत: https://arxiv.org/pdf/2311.01477

फेथस्कोर एलवीएलएम-जेनरेटेड विवरणों की वफादारी को मापता है जो इमेज सामग्री के खिलाफ संगतता की पुष्टि करता है, जबकि नई कागज़ की विधि विशेष रूप से एलवीएलएम हॉलुसिनेशन का उपयोग करके अवास्तविक इमेज का पता लगाने के लिए जेनरेट किए गए तथ्यों में विरोधाभासों का उपयोग करती है।

नई कार्य, स्वाभाविक रूप से, वर्तमान भाषा मॉडल की विचित्रताओं और उनकी हॉलुसिनेट करने की प्रवृत्ति पर निर्भर करता है। यदि मॉडल विकास कभी भी पूरी तरह से गैर-हॉलुसिनेटिंग मॉडल का उत्पादन करता है, तो नए कार्य के सामान्य सिद्धांत भी लागू नहीं होंगे। हालांकि, यह एक चुनौतीपूर्ण दृष्टिकोण बना हुआ है।

मंगलवार, 25 मार्च, 2025 को पहली बार प्रकाशित