एआई छुपे हुए रूप से डिवाइस ब्रांड के अनुसार छवियों को रैंक कर सकता है, सामग्री नहीं

नई शोध में पाया गया है कि लोकप्रिय छवि-केंद्रित एआई प्रणालियां केवल यह नहीं देखती हैं कि फोटो में क्या है, वे यह भी पता लगाती हैं कि फोटो कैसे लिया गया था। छुपे हुए विवरण जैसे कैमरा प्रकार या छवि गुणवत्ता शांत रूप से प्रभावित कर सकते हैं कि एआई क्या सोचता है कि यह देखता है, जिससे गलत परिणाम होते हैं – केवल इसलिए कि फोटो एक अलग डिवाइस से आया था।

2012 में यह खुलासा हुआ था कि एक यात्रा वेबसाइट नियमित रूप से उन उपयोगकर्ताओं को उच्च कीमतें दिखा रही थी जिन्हें यह अनुमान लगा सकती थी कि वे एप्पल डिवाइस पर ब्राउज़ कर रहे थे, एप्पल ब्रांड को उच्च खर्च शक्ति से जोड़ रहे थे। बाद के जांच में निष्कर्ष निकाला गया कि यह डिवाइस-फोकस्ड ‘वॉलेट-स्निफिंग’ ई-कॉमर्स साइटों के लिए लगभग नियमित हो गया था।

इसी तरह, जिस स्मार्टफोन या कैप्चर डिवाइस ने एक विशेष फोटो लिया था, उसे फोरेंसिक साधनों द्वारा अनुमान लगाया जा सकता है, मॉडलों में सीमित लेंस की ज्ञात विशेषताओं के आधार पर। ऐसे मामलों में, कैप्चर डिवाइस का मॉडल आमतौर पर दृश्य निशान द्वारा अनुमानित होता है; और, 2012 की घटना की तरह, यह जानना कि किस कैमरे ने छवि ली है, एक संभावित रूप से शोषण योग्य विशेषता है।

हालांकि कैप्चर डिवाइस अक्सर छवि में महत्वपूर्ण मेटाडेटा एम्बेड करते हैं, यह सुविधा अक्सर उपयोगकर्ताओं द्वारा बंद की जा सकती है; यहां तक कि जब यह चालू होता है, तो वितरण प्लेटफ़ॉर्म जैसे सोशल मीडिया नेटवर्क मेटाडेटा को या तो लॉजिस्टिक या गोपनीयता उद्देश्यों के लिए, या दोनों के लिए हटा सकते हैं।

इसके बावजूद, उपयोगकर्ता-अपलोडेड छवियों में मेटाडेटा अक्सर या तो पुनः लिखा जाता है / व्याख्या किया जाता है (नहीं हटाया जाता है) या छोड़ दिया जाता है, एक द्वितीयक स्रोत के रूप में जानकारी नहीं है कि छवि में क्या है, लेकिन यह कैसे ली गई थी। जैसा कि 2012 के मामले में पता चला था, इस प्रकार की जानकारी व्यावसायिक प्लेटफ़ॉर्म के लिए मूल्यवान हो सकती है – न केवल, बल्कि संभावित रूप से हैकर्स और बुरे अभिनेताओं के लिए भी।

जुड़वां दृष्टिकोण

जापान और चेक गणराज्य के बीच एक नए शोध सहयोग में पाया गया है कि कैमरा हार्डवेयर और छवि प्रसंस्करण (जैसे JPEG गुणवत्ता या लेंस तेजी) द्वारा छोड़े गए निशान न केवल फोरेंसिक उपकरणों द्वारा पता लगाया जा सकता है, बल्कि मुख्य एआई दृष्टि मॉडल के ‘वैश्विक समझ’ में शांत रूप से एन्कोडेड होते हैं।

इसमें CLIP और अन्य बड़े पैमाने पर दृश्य एनकोडर शामिल हैं, जो सर्च इंजन से लेकर सामग्री मॉडरेशन तक सब कुछ में व्यापक रूप से उपयोग किए जाते हैं। इस नए काम में दिखाया गया है कि ये मॉडल केवल यह नहीं देखते हैं कि फोटो में क्या है, बल्कि यह भी सीखते हैं कि फोटो कैसे बनाया गया था; और यह छुपा हुआ संकेत कभी-कभी दृश्य सामग्री को पार कर सकता है।

लेखकों के PairCams डेटासेट से छवि जोड़े का उदाहरण, जो यह परीक्षण करने के लिए बनाया गया था कि कैमरा प्रकार एआई छवि मॉडल को कैसे प्रभावित करता है।

अध्ययन में यह दावा किया गया है कि जब एआई मॉडल को भारी रूप से मास्क या क्रॉप की गई छवियों के संस्करण दिए जाते हैं, तो वे अभी भी कैमरे के मॉडल का अनुमान लगा सकते हैं आश्चर्यजनक सटीकता के साथ। इसका मतलब है कि इन प्रणालियों द्वारा छवि समानता का निर्णय लेने के लिए उपयोग की जाने वाली प्रतिनिधित्व स्थान उपयोगकर्ता के डिवाइस जैसे अप्रासंगिक कारकों के साथ उलझने का कारण बन सकता है, जिसके परिणामस्वरूप अप्रत्याशित परिणाम हो सकते हैं।

उदाहरण के लिए, डाउनस्ट्रीम कार्यों जैसे वर्गीकरण या छवि पुनर्प्राप्ति में, यह अवांछित ‘वजन’ प्रणाली को कुछ कैमरा प्रकारों को पसंद करने का कारण बन सकता है, जो वास्तव में छवि में क्या दिखा रहा है इसके बावजूद।

पेपर में कहा गया है:

‘मेटाडेटा लेबल दृश्य एनकोडर्स में सेमांटिक जानकारी को पार करने के लिए छोड़ देते हैं जो अप्रत्याशित परिणामों की ओर ले जा सकते हैं, सामान्यीकरण, लचीलापन और संभावित रूप से मॉडल की विश्वसनीयता को खतरे में डाल सकते हैं।

‘अधिक महत्वपूर्ण बात यह है कि यह प्रभाव दुर्भावनापूर्ण रूप से शोषित किया जा सकता है; उदाहरण के लिए, एक दुश्मनी हमला मेटाडेटा को जानबूझकर भ्रमित या धोखा देने के लिए बदल सकता है, स्वास्थ्य सेवा, निगरानी या स्वायत्त प्रणाली जैसे संवेदनशील डोमेन में जोखिम पैदा कर सकता है।’

इस पेपर में नए पेपर का शीर्षक दृश्य एनकोडर्स में प्रसंस्करण और अधिग्रहण ट्रेस: क्या क्लिप आपके कैमरे के बारे में जानता है? है, और यह जापान के ओसाका विश्वविद्यालय और प्राग में चेक टेक्निकल यूनिवर्सिटी के छह शोधकर्ताओं से आया है।

विधि और डेटा*

क्लिप जैसे दृश्य एनकोडर्स पर छुपे हुए मेटाडेटा के प्रभाव का परीक्षण करने के लिए, लेखकों ने दो श्रेणियों के मेटाडेटा के साथ काम किया: छवि प्रसंस्करण पैरामीटर (जैसे JPEG संपीड़न या तेजी) और अधिग्रहण पैरामीटर (जैसे कैमरा मॉडल या एक्सपोज़र सेटिंग)।

नए मॉडल को प्रशिक्षित करने के बजाय, शोधकर्ताओं ने 47 व्यापक रूप से उपयोग किए जाने वाले दृश्य एनकोडर्स का मूल्यांकन किया, जिनमें क्लिप जैसे कंट्रास्टिव विज़न-लैंग्वेज मॉडल, स्व-पर्यवेक्षित मॉडल जैसे DINO, और पारंपरिक रूप से पर्यवेक्षित नेटवर्क शामिल हैं।

प्रसंस्करण पैरामीटर के लिए, शोधकर्ताओं ने नियंत्रित परिवर्तन को इमेजनेट और iNaturalist 2018 डेटासेट पर लागू किया, जिसमें छह स्तरों का JPEG संपीड़न, तीन तेजी सेटिंग, तीन रीसाइज़िंग स्केल और चार इंटरपोलेशन विधियां शामिल थीं।

iNaturalist डेटासेट से छवियों और संबंधित एनोटेशन के उदाहरण। स्रोत: https://arxiv.org/pdf/1707.06642

मॉडल का परीक्षण यह देखने के लिए किया गया था कि वे प्रत्येक प्रसंस्करण सेटिंग को केवल छवि सामग्री का उपयोग करके पुनर्प्राप्त कर सकते हैं या नहीं।

अधिग्रहण पैरामीटर की जांच के लिए, शोधकर्ताओं ने एक 356,459-छवि डेटासेट बनाया जिसे फ़्लिकरएक्सिफ कहा जाता है, जिसमें संरक्षित एक्सिफ मेटाडेटा है, और एक दूसरा डेटासेट बनाया जिसे पेयरकैम कहा जाता है, जो 730 छवि जोड़े से बना है जो एक स्मार्टफोन और एक गैर-स्मार्टफोन कैमरे के साथ एक ही समय में लिए गए थे।

फ़्लिकरएक्सिफ डेटासेट को फ़्लिकर एपीआई का उपयोग करके एक्सिफ मेटाडेटा के साथ छवियों को डाउनलोड करके बनाया गया था। 2000 और 4000 सुरक्षित-फॉर-वर्क छवियों को प्रति माह एकत्र किया गया था, जो 2000 की शुरुआत से मध्य 2024 तक दिनांकित थीं, और केवल उन लोगों को शामिल करने के लिए फ़िल्टर किया गया था जिनमें अनुमति देने वाले लाइसेंस थे। प्रति वर्ष प्रति उपयोगकर्ता को अधिक प्रतिनिधित्व से बचने के लिए, प्रत्येक व्यक्तिगत योगदानकर्ता को प्रति माह दस छवियों तक सीमित किया गया था।

पेयरकैम डेटासेट के लिए, प्रत्येक फोटो को स्वचालित सेटिंग्स का उपयोग करके और कोई फ्लैश का उपयोग किए बिना लिया गया था, जिससे कैमरा हार्डवेयर में अंतर के कारण दृश्य एनकोडर्स की प्रतिक्रिया की तुलना की जा सके।

लेखकों द्वारा क्यूरेट किए गए पेयरकैम डेटासेट से और उदाहरण。

लेखकों ने दो सेटों के पैरामीटर का परीक्षण किया: छवि प्रसंस्करण पैरामीटर, जैसे संपीड़न और रंग परिवर्तन; और छवि अधिग्रहण पैरामीटर, जैसे कैमरा मॉडल या एक्सपोज़र सेटिंग:

विश्लेषण किए गए छवि प्रसंस्करण और अधिग्रहण पैरामीटर, प्रत्येक के लिए वर्गों की संख्या के साथ。

परीक्षण

यह निर्धारित करने के लिए कि क्या छवि प्रसंस्करण और कैमरा प्रकार के बारे में जानकारी दृश्य एनकोडर एम्बेडिंग में संरक्षित है, लेखकों ने एक वर्गीकारक को प्रशिक्षित किया जो सीधे एम्बेडिंग से मेटाडेटा लेबल का अनुमान लगा सकता है। यदि वर्गीकारक यादृच्छिक अनुमान से बेहतर प्रदर्शन नहीं करता है, तो यह सुझाव देगा कि प्रसंस्करण या डिवाइस के बारे में विवरण मॉडल द्वारा कब्जा नहीं किया गया है।

हालांकि, किसी भी प्रदर्शन जो यादृच्छिक अनुमान से बेहतर है, यह दर्शाता है कि ये तकनीकी निशान वास्तव में एन्कोडेड हैं और डाउनस्ट्रीम कार्यों को प्रभावित कर सकते हैं।

प्रसंस्करण ट्रेस का परीक्षण करने के लिए, लेखकों ने प्रत्येक प्रशिक्षण छवि को एक यादृच्छिक प्रसंस्करण सेटिंग सौंपी, जैसे कि एक विशिष्ट JPEG संपीड़न स्तर, जबकि सभी परीक्षण छवियों में एक बैच में एक ही सेटिंग थी।

प्रत्येक सेटिंग के लिए वर्गीकरण सटीकता को तब एक साथ जोड़ दिया गया और विभिन्न यादृच्छिक बीज के तहत दोहराए गए परीक्षणों के साथ, ताकि यह निर्धारित किया जा सके कि क्या प्रसंस्करण विवरण मॉडल के आंतरिक प्रतिनिधित्व में निरंतर रूप से कब्जा किया गया है:

फ्रोजन मॉडल पर लागू किए गए एक रैखिक वर्गीकारक का उपयोग करके छवि प्रसंस्करण पैरामीटर की भविष्यवाणी के लिए वर्गीकरण सटीकता, जिसमें JPEG संपीड़न, तेजी, रीसाइज़िंग और इंटरपोलेशन के लिए परिणाम दिखाए गए हैं, तीन मॉडल श्रेणियों के साथ, कंट्रास्टिव विज़न-लैंग्वेज (नारंगी), पर्यवेक्षित (हरा), और स्व-पर्यवेक्षित (नीला), इमेजनेट (शीर्ष पंक्ति) और iNaturalist 2018 (नीचे की पंक्ति) पर मूल्यांकन किया गया। यादृच्छिक-गेसिंग बेसलाइन डैश्ड लाइनों के साथ चिह्नित हैं।

चार प्रसंस्करण पैरामीटर में से, कंट्रास्टिव विज़न-लैंग्वेज मॉडल ने छुपे हुए छवि हेरफेर को पहचानने में सबसे उच्च क्षमता दिखाई। कुछ मॉडलों ने इमेजनेट एम्बेडिंग से JPEG संपीड़न, तेजी और रीसाइज़िंग सेटिंग्स की भविष्यवाणी में 80% से अधिक सटीकता हासिल की।

पर्यवेक्षित एनकोडर, विशेष रूप से ConvNeXt पर आधारित, ने भी मजबूत प्रदर्शन किया, जबकि स्व-पर्यवेक्षित मॉडल निरंतर रूप से कमजोर थे।

इंटरपोलेशन सबसे कठिन पैरामीटर था जिसका पता लगाने के लिए, फिर भी शीर्ष सीवीएल और पर्यवेक्षित मॉडल ने दोनों डेटासेट पर 25% के यादृच्छिक बेसलाइन से ऊपर परिणाम प्राप्त किए।

इसके बाद, यह परीक्षण करने के लिए कि क्या कैमरा से संबंधित जानकारी मॉडल प्रतिनिधित्व में एम्बेडेड है, लेखकों ने प्रत्येक अधिग्रहण पैरामीटर (जैसे कैमरा मॉडल, एक्सपोज़र सेटिंग, एपर्चर, आईएसओ, और फोकल लंबाई) के लिए अलग प्रशिक्षण और परीक्षण सेट बनाए।

अधिकांश पैरामीटर के लिए, केवल उन वर्गों का उपयोग किया गया था जिनमें कम से कम 5,000 उदाहरण थे; 500 छवियों को यादृच्छिक रूप से परीक्षण के लिए अलग रखा गया था, और शेष उदाहरणों को डाउनसैंपल किया गया था ताकि प्रत्येक वर्ग में 200 प्रशिक्षण नमूने हों। ‘मॉडल (सभी)’ और ‘मॉडल (स्मार्ट)’ पैरामीटर के लिए, जिनमें प्रति वर्ग कम डेटा था, लेखकों ने इसके बजाय कम से कम 500 छवियों वाले वर्गों का उपयोग किया और प्रत्येक वर्ग को प्रशिक्षण और परीक्षण उप-सेट में चार से एक अनुपात में विभाजित किया।

फोटोग्राफरों को प्रशिक्षण, सत्यापन और परीक्षण सेट में अलग रखा गया था, और एक सरल वर्गीकारक को कैमरा जानकारी का अनुमान लगाने के लिए प्रशिक्षित किया गया था जो छवि विशेषताओं पर आधारित था।

यह सुनिश्चित करने के लिए कि वर्गीकारक छवियों की सेमांटिक सामग्री से प्रभावित नहीं था, 90% छवियों को केंद्र-मास्क (नीचे देखें) किया गया था। लेखकों का दावा है कि इस स्तर पर मास्किंग पर, सभी दृश्य एनकोडर इमेजनेट पर यादृच्छिक के करीब प्रदर्शन करते हैं, यह दर्शाते हुए कि सेमांटिक संकेत को प्रभावी ढंग से दबा दिया गया है:

मास्किंग अनुपात के कार्य के रूप में इमेजनेट सत्यापन सटीकता। 90% मास्किंग पर, सभी मॉडल सेमांटिक लेबल भविष्यवाणी पर लगभग यादृच्छिक प्रदर्शन तक गिर जाते हैं, यह दर्शाते हुए कि सेमांटिक संकेतों को प्रभावी ढंग से हटा दिया गया है। नीचे दी गई छवियों में मास्किंग स्तर को दर्शाया गया है।

यहां तक कि 90% मास्किंग के साथ, अधिकांश कंट्रास्टिव विज़न-लैंग्वेज मॉडल और पर्यवेक्षित कॉन्वनेक्सट एनकोडर अभी भी कैमरा से संबंधित लेबल का अनुमान 70% से अधिक सटीकता के साथ लगा सकते थे। कई सीवीएल मॉडल ने स्मार्टफोन और नॉन-स्मार्टफोन छवियों के बीच 70% से अधिक सटीकता के साथ अंतर किया।

अन्य पर्यवेक्षित एनकोडर, SigLIP, और सभी स्व-पर्यवेक्षित मॉडल बहुत कम प्रदर्शन करते थे। जब कोई मास्किंग नहीं की गई थी, तो सीवीएल मॉडल फिर से कैमरा प्रकार द्वारा सबसे मजबूत क्लस्टरिंग दिखाते थे, यह पुष्टि करते हुए कि ये मॉडल अन्य लोगों की तुलना में अधिग्रहण जानकारी को गहराई से एम्बेड करते हैं:

दो दृश्य एनकोडर के लिए t-SNE विज़ुअलाइज़ेशन, जिसमें रंग यह दर्शाते हैं कि प्रत्येक छवि स्मार्टफोन या गैर-स्मार्टफोन कैमरे द्वारा कब्जा की गई थी।

डाउनस्ट्रीम महत्व

यह स्थापित करने के बाद कि मेटाडेटा मॉडल को इस तरह प्रभावित करता है, छुपे हुए प्रसंस्करण ट्रेस द्वारा छवि व्याख्या में हस्तक्षेप की प्रवृत्ति का मूल्यांकन किया गया था।

जब दो संस्करणों को एक ही छवि को अलग-अलग तरीके से संसाधित किया गया था, तो एम्बेडिंग अक्सर प्रसंस्करण शैली के अनुसार व्यवस्थित की गई थी, न कि सामग्री के अनुसार। कई मामलों में, एक भारी रूप से संपीड़ित कुत्ते की तस्वीर एक अन्यथा असंबंधित छवि के साथ अधिक समान थी जिसमें समान संपीड़न सेटिंग थी, जितना कि इसके अपने अप्रसारित संस्करण के साथ:

पांच प्रसंस्करण सेटअप के तहत इमेजनेट (शीर्ष) और iNaturalist (नीचे) के लिए सेमांटिक वर्गीकरण सटीकता का प्रभाव, जिसमें बेसलाइन में सभी प्रशिक्षण और परीक्षण छवियों में एक ही प्रसंस्करण लेबल होता है; सभी में एक ही सेटिंग होती है-अंतर सेटिंग में परीक्षण छवि में एक प्रसंस्करण मान होता है जो प्रशिक्षण सेट में मौजूद नहीं होता है; पॉज़-सम और नेग-सम में, प्रसंस्करण लेबल या तो सेमांटिक रूप से समान या असमान छवियों के साथ संरेखित होता है; यूनिफ़ॉर्म सेटिंग में, प्रसंस्करण लेबल प्रशिक्षण सेट में यादृच्छिक रूप से सौंपा जाता है। परिणाम इमेजनेट के लिए के = 10 और iNaturalist के लिए के = 1 का उपयोग करके रिपोर्ट किए जाते हैं।

सबसे मजबूत विकृतियों का कारण JPEG संपीड़न था, उसके बाद तेजी और रीसाइज़िंग, जबकि इंटरपोलेशन ने केवल एक मामूली प्रभाव उत्पन्न किया। लेखकों का दावा है कि ये परिणाम दर्शाते हैं कि प्रसंस्करण ट्रेस सेमांटिक जानकारी को ओवरराइड कर सकते हैं और निर्धारित कर सकते हैं कि एक छवि कैसे समझी जाती है।

निष्कर्ष में, वे चेतावनी देते हैं:

‘हालांकि हमने पहचाना है कि मेटाडेटा लेबल मूलभूत दृश्य एनकोडर्स में एन्कोडेड हैं और संभावित कारणों के संकेत दिए हैं, हम समस्या के स्रोत को निश्चित रूप से इंगित नहीं कर सकते हैं। इसकी आगे जांच करना चुनौतीपूर्ण है क्योंकि ऐसे मॉडल को पुनः प्रशिक्षित करने की लागत और अक्सर निजी डेटासेट और अनुशंसित विवरण का उपयोग किया जाता है।

‘हालांकि हम विशिष्ट उपाय प्रस्तावित नहीं करते हैं, हम इसे एक महत्वपूर्ण क्षेत्र के रूप में उजागर करते हैं जिस पर भविष्य के शोध की आवश्यकता है।’

निष्कर्ष

साहित्य में ‘विधि पर सामग्री’ के संबंध में एक बढ़ती फोरेंसिक रुचि है; जितना आसान यह है कि एक फ्रेमिंग डोमेन या एक विशिष्ट डेटासेट की पहचान की जाए, उतना ही आसान यह है कि इस जानकारी का लाभ – उदाहरण के लिए, डीपफेक डिटेक्टर्स, या डेटा और मॉडल की उत्पत्ति या आयु को वर्गीकृत करने के लिए प्रणाली के रूप में – का उपयोग किया जा सकता है।

यह एआई मॉडल को प्रशिक्षित करने के मूल उद्देश्य के विपरीत है, जो कि केंद्रीय संक्षिप्त अवधारणाओं को उत्पादन के साधनों से स्वतंत्र रूप से क्यूरेट किया जाना चाहिए, और उनमें कोई निशान नहीं होना चाहिए। वास्तव में, डेटासेट और कैप्चर डिवाइस में विशेषताएं और डोमेन विशेषताएं होती हैं जो स्वयं सामग्री से अलग करना लगभग असंभव है, क्योंकि वे स्वयं एक ‘ऐतिहासिक परिप्रेक्ष्य’ का प्रतिनिधित्व करते हैं।

* पेपर को असामान्य रूप से रखा गया है, और हम इसके असामान्य प्रारूप और प्रस्तुति के अनुसार अनुकूलन करने का प्रयास करेंगे। एक ‘विधि’ अनुभाग में होने वाली बहुत सी सामग्री को विभिन्न भागों में स्थानांतरित कर दिया गया है, संभावित रूप से मुख्य पत्र को आठ पृष्ठों तक सीमित करने के लिए – हालांकि स्पष्टता के相当 बड़े नुकसान पर। यदि हमने समय की कमी के कारण इसे बेहतर बनाने का कोई अवसर चूक गए हैं, तो हम क्षमा चाहते हैं।

पहली बार बुधवार, 20 अगस्त, 2025 को प्रकाशित किया गया।