Anderson का एंगल

पैदल यात्री पहचान प्रणाली को चकमा देने के लिए ‘गुप्त मार्ग’

mm
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
ChatGPT-4o: Variation on prompt: ‘a 1792x1024 feature image depicting an orthogonal ariel view looking down on NYC's 42nd street area. Most of the image should have a blue hue, but within the sidewalk areas there should be red-tinted pathways indicated, like a kind of map route. Make it like The Sims.’

इज़राइल और जापान के बीच एक नए शोध सहयोग का दावा है कि पैदल यात्री का पता लगाने वाली प्रणाली में अंतर्निहित कमजोरियां हैं, जो अच्छी तरह से सूचित व्यक्तियों को चेहरे की पहचान प्रणाली से बचने के लिए सावधानी से योजना बनाई गई मार्गों के माध्यम से नेविगेट करने में सक्षम बनाती हैं जहां निगरानी नेटवर्क कम प्रभावी है।

टोक्यो, न्यूयॉर्क और सैन फ्रांसिस्को से सार्वजनिक रूप से उपलब्ध फुटेज की मदद से, शोधकर्ताओं ने ऐसे मार्गों की गणना करने के लिए एक स्वचालित विधि विकसित की, जो सार्वजनिक नेटवर्क में उपयोग में आने वाले सबसे लोकप्रिय वस्तु पहचान प्रणाली पर आधारित थी।

अध्ययन में उपयोग किए गए तीन चौराहे: टोक्यो, जापान में शिबुया चौराहा; न्यूयॉर्क में ब्रॉडवे; और सैन फ्रांसिस्को में कास्ट्रो जिला। स्रोत: https://arxiv.org/pdf/2501.15653

अध्ययन में उपयोग किए गए तीन चौराहे: टोक्यो, जापान में शिबुया चौराहा; न्यूयॉर्क में ब्रॉडवे; और सैन फ्रांसिस्को में कास्ट्रो जिला। स्रोत: https://arxiv.org/pdf/2501.15653

इस विधि से, यह संभव है कि विश्वास हीटमैप उत्पन्न किए जाएं जो कैमरा फीड में उन क्षेत्रों को चिह्नित करें जहां पैदल यात्री सबसे कम संभावना है कि वे एक सकारात्मक चेहरे की पहचान हिट प्रदान करें:

दाईं ओर, हम शोधकर्ताओं की विधि द्वारा उत्पन्न विश्वास हीटमैप देखते हैं। लाल क्षेत्र कम विश्वास को दर्शाते हैं, और एक मुद्रा, कैमरा मुद्रा और अन्य कारकों का एक संयोजन जो चेहरे की पहचान को बाधित करने की संभावना है।

दाईं ओर, हम शोधकर्ताओं की विधि द्वारा उत्पन्न विश्वास हीटमैप देखते हैं। लाल क्षेत्र कम विश्वास को दर्शाते हैं, और एक मुद्रा, कैमरा मुद्रा और अन्य कारकों का एक संयोजन जो चेहरे की पहचान को बाधित करने की संभावना है।

सिद्धांत रूप में, ऐसी एक विधि एक स्थान-जागरूक ऐप या किसी अन्य प्रकार के मंच में संस्थापित की जा सकती है जो किसी भी गणना किए गए स्थान में ए से बी तक के सबसे कम ‘पहचान-मित्र’ मार्गों को वितरित करने के लिए है।

नई पेपर में ऐसी एक विधि का प्रस्ताव किया गया है, जिसे स्थान-आधारित गोपनीयता बढ़ाने की तकनीक (एल-पीईटी) कहा जाता है; यह एक प्रति-उपाय का भी प्रस्ताव करता है, जिसे स्थान-आधारित अनुकूली सीमा (एल-बीएटी) कहा जाता है, जो मूल रूप से वही दिनचर्या चलाता है, लेकिन फिर जानकारी का उपयोग करके निगरानी उपायों को मजबूत और बेहतर बनाने के लिए, न कि पहचान से बचने के तरीके खोजने के लिए; और कई मामलों में, ऐसे सुधार संभव नहीं होंगे बिना निगरानी बुनियादी ढांचे में आगे निवेश के।

पेपर इसलिए एक संभावित प्रौद्योगिकी वृद्धि की लड़ाई को पहचान प्रणाली को चकमा देने के लिए मार्गों को अनुकूलित करने और चेहरे की पहचान प्रौद्योगिकियों का उपयोग करने की क्षमता के बीच स्थापित करता है।

पहचान से बचने के पिछले तरीके इस तरह के कम आकर्षक हैं, और विरोधी दृष्टिकोण पर केंद्रित हैं, जैसे कि टीएनटी हमले, और मुद्रित पैटर्न का उपयोग करके पता लगाने वाले एल्गोरिदम को भ्रमित करने के लिए।

2019 का काम 'स्वचालित निगरानी कैमरों को चकमा देना: व्यक्ति पता लगाने पर हमला करने के लिए विरोधी पैच' ने एक विरोधी मुद्रित पैटर्न का प्रदर्शन किया जो एक पहचान प्रणाली को यह विश्वास दिलाने में सक्षम था कि कोई व्यक्ति पता लगाया नहीं गया है, एक प्रकार की 'अदृश्यता' की अनुमति देता है। स्रोत: https://arxiv.org/pdf/1904.08653

2019 का काम ‘स्वचालित निगरानी कैमरों को चकमा देना: व्यक्ति पता लगाने पर हमला करने के लिए विरोधी पैच’ ने एक विरोधी मुद्रित पैटर्न का प्रदर्शन किया जो एक पहचान प्रणाली को यह विश्वास दिलाने में सक्षम था कि कोई व्यक्ति पता लगाया नहीं गया है, एक प्रकार की ‘अदृश्यता’ की अनुमति देता है। स्रोत: https://arxiv.org/pdf/1904.08653

शोधकर्ताओं के पीछे नई पेपर का अवलोकन है कि उनके दृष्टिकोण को कम तैयारी की आवश्यकता है, किसी भी विरोधी पोर्टेबल आइटम (ऊपर चित्र देखें) की आवश्यकता नहीं है।

पेपर पेपर शीर्षक है स्ट्रीट वीडियो कैमरों द्वारा पता लगाने से बचने के लिए एक गोपनीयता बढ़ाने वाली तकनीक जो विरोधी सहायक उपकरण का उपयोग नहीं करती है, और बेन-गुरियन विश्वविद्यालय ऑफ द नेगेव और फुजित्सु लिमिटेड के पांच शोधकर्ताओं से आता है।

विधि और परीक्षण

पिछले कार्यों जैसे विरोधी मास्क, एडव्हाट, विरोधी पैच, और विभिन्न अन्य समान आउटिंग के अनुसार, शोधकर्ता मानते हैं कि पैदल यात्री ‘हमलावर’ जानता है कि निगरानी नेटवर्क में कौन सी वस्तु पता लगाने वाली प्रणाली का उपयोग किया जा रहा है। यह वास्तव में एक अनुचित धारणा नहीं है, राज्य के अत्याधुनिक खुले स्रोत प्रणालियों जैसे सिस्को और अल्ट्रालिटिक्स (वर्तमान में वाईओएलओ विकास में केंद्रीय ड्राइविंग बल) जैसे निगरानी प्रणालियों में व्यापक अपनाने के कारण।

पेपर यह भी मानता है कि पैदल यात्री के पास एक लाइव स्ट्रीम तक पहुंच है जो इंटरनेट पर उन स्थानों पर तय की गई है जिन्हें गणना की जानी है, जो अधिकांश स्थानों में एक युक्तिसंगत धारणा है जिनमें कवरेज की तीव्रता है।

511ny.org जैसी साइटें न्यूयॉर्क शहर के क्षेत्र में कई निगरानी कैमरों तक पहुंच प्रदान करती हैं। स्रोत: https://511ny.or

511ny.org जैसी साइटें न्यूयॉर्क शहर के क्षेत्र में कई निगरानी कैमरों तक पहुंच प्रदान करती हैं। स्रोत: https://511ny.or

इसके अलावा, पैदल यात्री को प्रस्तावित विधि तक पहुंच की आवश्यकता है, और दृश्य को खुद (अर्थात, जिन चौराहों और मार्गों में एक ‘सुरक्षित’ मार्ग स्थापित किया जाना है)।

एल-पीईटी को विकसित करने के लिए, लेखकों ने कैमरे के संबंध में पैदल यात्री के कोण के प्रभाव का मूल्यांकन किया; कैमरे की ऊंचाई का प्रभाव; दूरी का प्रभाव; और दिन के समय का प्रभाव। मैदानी सच्चाई प्राप्त करने के लिए, उन्होंने 0°, 45°, 90°, 135°, 180°, 225°, 270°, और 315° के कोण पर एक व्यक्ति की तस्वीरें लीं।

शोधकर्ताओं द्वारा किए गए मैदानी सच्चाई के अवलोकन।

शोधकर्ताओं द्वारा किए गए मैदानी सच्चाई के अवलोकन।

उन्होंने इन भिन्नताओं को तीन अलग-अलग कैमरा ऊंचाइयों (0.6मी, 1.8मी, 2.4मी) पर दोहराया, और विभिन्न प्रकाश व्यवस्थाओं (सुबह, दोपहर, रात और ‘प्रयोगशाला’ स्थितियों) के साथ।

इस फुटेज को फास्टर आर-सीएनएन और योलोव3 वस्तु पता लगाने वाले को खिलाने पर, उन्होंने पाया कि वस्तु का विश्वास पैदल यात्री के कोण की तीक्ष्णता, पैदल यात्री की दूरी, कैमरा ऊंचाई, और मौसम/प्रकाश व्यवस्था पर निर्भर करता है।

लेखकों ने तब एक व्यापक श्रृंखला के वस्तु पता लगाने वालों का परीक्षण किया उसी दृश्य में: फास्टर आर-सीएनएन; योलोव3; एसएसडी; डिफ्यूजनडेट; और आरटीएमडेट.

लेखकों का कहना है:

‘हमने पाया कि सभी पांच वस्तु पता लगाने वाले आर्किटेक्चर पैदल यात्री की स्थिति और पर्यावरण प्रकाश से प्रभावित होते हैं। इसके अलावा, हमने पाया कि तीन में से पांच मॉडल (योलोव3, एसएसडी, और आरटीएमडेट) के लिए प्रभाव सभी पर्यावरण प्रकाश स्तरों के माध्यम से बना रहता है।’

टोक्यो के शिबुया चौराहे, न्यूयॉर्क के ब्रॉडवे और सैन फ्रांसिस्को के कास्ट्रो जिले में सार्वजनिक रूप से उपलब्ध यातायात कैमरों से फुटेज का उपयोग करके शोधकर्ताओं ने अपने दावे को विस्तारित किया।

‘हमने पाया कि तीन स्थानों में से, वस्तु पता लगाने वाले का विश्वास फ्रेम में लोगों के स्थान पर निर्भर करता है। उदाहरण के लिए, शिबुया चौराहे के फुटेज में, कैमरे से दूर और कैमरे के करीब दोनों में बड़े क्षेत्र हैं जहां विश्वास कम है, जहां एक पोल गुजरने वाले पैदल यात्रियों को आंशिक रूप से ढकता है।’

एल-पीईटी विधि मूल रूप से यह प्रक्रिया है, जिसे ‘हथियारबंद’ कहा जा सकता है ताकि एक शहरी क्षेत्र में एक मार्ग प्राप्त किया जा सके जो पैदल यात्री को सफलतापूर्वक पहचाने जाने की संभावना कम से कम हो।

इसके विपरीत, एल-बीएटी उसी प्रक्रिया का पालन करता है, लेकिन पता लगाने वाली प्रणाली में स्कोर को अपडेट करके एक प्रतिक्रिया पाश बनाता है, जो एल-पीईटी दृष्टिकोण को रद्द करने और प्रणाली के ‘अंधे क्षेत्रों’ को अधिक प्रभावी बनाने के लिए डिज़ाइन किया गया है।

(व्यावहारिक रूप से, हालांकि, उपेक्षित क्षेत्रों को कवर करने के लिए प्राप्त हीटमैप के आधार पर कवरेज में सुधार करने से अधिक की आवश्यकता होगी, केवल कैमरे में अपग्रेड नहीं; परीक्षण मानदंडों के अनुसार, स्थान सहित, यह उपेक्षित क्षेत्रों को कवर करने के लिए अतिरिक्त कैमरों की स्थापना की आवश्यकता होगी – इसलिए यह तर्क दिया जा सकता है कि एल-पीईटी विधि इस विशेष ‘ठंडे युद्ध’ को एक बहुत महंगी परिदृश्य में बदल देती है)

पांच वीडियो में से प्रत्येक के लिए कास्ट्रो स्ट्रीट के देखे गए क्षेत्र में प्रत्येक पिक्सेल के लिए पैदल यात्री का पता लगाने वाला विश्वास। प्रत्येक वीडियो को विभिन्न प्रकाश व्यवस्थाओं में रिकॉर्ड किया गया था: सूर्योदय, दिन, सूर्यास्त, और दो अलग-अलग रात की स्थितियां। परिणाम प्रत्येक प्रकाश परिदृश्य के लिए अलग से प्रस्तुत किए गए हैं।

पांच वीडियो में से प्रत्येक के लिए कास्ट्रो स्ट्रीट के देखे गए क्षेत्र में प्रत्येक पिक्सेल के लिए पैदल यात्री का पता लगाने वाला विश्वास। प्रत्येक वीडियो को विभिन्न प्रकाश व्यवस्थाओं में रिकॉर्ड किया गया था: सूर्योदय, दिन, सूर्यास्त, और दो अलग-अलग रात की स्थितियां। परिणाम प्रत्येक प्रकाश परिदृश्य के लिए अलग से प्रस्तुत किए गए हैं।

पिक्सेल-आधारित मैट्रिक्स प्रतिनिधित्व को कार्य के लिए उपयुक्त ग्राफ प्रतिनिधित्व में परिवर्तित करके, शोधकर्ताओं ने ग्राफ न्यूरल नेटवर्क के साथ पैदल यात्रियों के लिए न्यूनतम पता लगाने वाले मार्गों की गणना करने के लिए डिज्कस्ट्रा एल्गोरिदम को अनुकूलित किया।

इसके बजाय सबसे छोटा मार्ग खोजने के, एल्गोरिदम को पता लगाने वाले विश्वास को कम करने के लिए संशोधित किया गया था, उच्च-विश्वास क्षेत्रों को उच्च ‘लागत’ वाले क्षेत्रों के रूप में माना जाता था। इस अनुकूलन ने एल्गोरिदम को उन मार्गों की पहचान करने की अनुमति दी जो अंधे धब्बों या कम-पता लगाने वाले क्षेत्रों से होकर गुजरते हैं, प्रभावी रूप से पैदल यात्रियों को निगरानी प्रणालियों के लिए कम दृश्य मार्गों के साथ मार्गदर्शन करते हैं।

दृश्य के हीटमैप को पिक्सेल-आधारित मैट्रिक्स से ग्राफ-आधारित प्रतिनिधित्व में परिवर्तित करने का एक दृश्य चित्रण।

दृश्य के हीटमैप को पिक्सेल-आधारित मैट्रिक्स से ग्राफ-आधारित प्रतिनिधित्व में परिवर्तित करने का एक दृश्य चित्रण।

शोधकर्ताओं ने एल-बीएटी प्रणाली के प्रभाव का मूल्यांकन एक डेटासेट के साथ किया जो चार घंटे की रिकॉर्डिंग से निर्मित था, जो सार्वजनिक पैदल यात्री यातायात से। डेटासेट को आबाद करने के लिए, प्रत्येक रिकॉर्डिंग से प्रत्येक दो सेकंड में एक फ्रेम निकाला गया और एसएसडी वस्तु पता लगाने वाले का उपयोग करके संसाधित किया गया।

प्रत्येक फ्रेम से, एक बाउंडिंग बॉक्स चुना गया जिसमें एक पता लगाया गया व्यक्ति शामिल था एक सकारात्मक नमूने के रूप में, और एक यादृच्छिक क्षेत्र जिसमें कोई पता लगाया गया व्यक्ति नहीं था एक नकारात्मक नमूने के रूप में। ये जुड़वां नमूने एल-बीएटी का मूल्यांकन करने के लिए दो फास्टर आर-सीएनएन मॉडलों के लिए एक डेटासेट बनाने के लिए उपयोग किए गए – एक एल-बीएटी के साथ लागू किया गया, और एक के बिना।

मॉडलों के प्रदर्शन का मूल्यांकन यह जांचकर किया गया कि वे सकारात्मक और नकारात्मक नमूनों की पहचान कितनी सटीकता से करते हैं: एक बाउंडिंग बॉक्स जो एक सकारात्मक नमूने को ओवरलैप करता है एक सच्चा सकारात्मक माना जाता था, जबकि एक बाउंडिंग बॉक्स जो एक नकारात्मक नमूने को ओवरलैप करता है एक झूठा सकारात्मक था।

एल-बीएटी के पता लगाने वाले विश्वसनीयता को निर्धारित करने के लिए उपयोग किए जाने वाले मेट्रिक्स में क्षेत्र अंतर्गत वक्र (एयूसी); सच्चा सकारात्मक दर (टीपीआर); झूठा सकारात्मक दर (एफपीआर); और औसत सच्चा सकारात्मक विश्वास शामिल थे। शोधकर्ताओं का दावा है कि एल-बीएटी का उपयोग पता लगाने वाले विश्वास को बढ़ाता है जबकि एक उच्च सच्चा सकारात्मक दर (हालांकि झूठे सकारात्मक में एक छोटी वृद्धि के साथ) बनाए रखता है।

निष्कर्ष में, लेखकों का उल्लेख है कि दृष्टिकोण में कुछ सीमाएं हैं। एक यह है कि उनकी विधि द्वारा उत्पन्न हीटमैप एक विशिष्ट समय के लिए विशिष्ट हैं। हालांकि वे इसका विस्तार नहीं करते हैं, यह सुझाव देगा कि एक अधिक व्यापक, बहुस्तरीय दृष्टिकोण की आवश्यकता होगी ताकि दिन के समय को एक अधिक लचीले तरीके से खाते में लिया जा सके।

वे यह भी देखते हैं कि हीटमैप विभिन्न मॉडल आर्किटेक्चर में स्थानांतरित नहीं होंगे, और एक विशिष्ट वस्तु पता लगाने वाले मॉडल से जुड़े हुए हैं। चूंकि प्रस्तावित कार्य मूल रूप से एक प्रूफ-ऑफ-कॉन्सेप्ट है, अधिक कुशल आर्किटेक्चर विकसित किए जा सकते हैं जो इस तकनीकी ऋण को दूर करने में मदद कर सकते हैं।

निष्कर्ष

कोई भी नई हमले की विधि जिसका समाधान ‘नई निगरानी कैमरे खरीदना’ है, कुछ फायदा है, क्योंकि उच्च निगरानी वाले क्षेत्रों में नागरिक कैमरा नेटवर्क का विस्तार राजनीतिक रूप से चुनौतीपूर्ण हो सकता है, साथ ही साथ एक उल्लेखनीय नागरिक व्यय का प्रतिनिधित्व करता है जिसे आमतौर पर एक मतदाता जनादेश की आवश्यकता होगी।

शायद सबसे बड़ा प्रश्न जो काम उठाता है ‘क्या बंद स्रोत निगरानी प्रणाली खुले स्रोत सOTA फ्रेमवर्क जैसे योलो का लाभ उठाती हैं?’। यह, ज़ाहिर है, जानना असंभव है, क्योंकि स्वामित्व वाली प्रणालियों के निर्माता जो इतने सारे राज्य और नागरिक कैमरा नेटवर्क (कम से कम संयुक्त राज्य अमेरिका में) को शक्ति प्रदान करते हैं, तर्क देंगे कि ऐसा उपयोग खुला करना उन्हें हमले के लिए खोल सकता है।

फिर भी, सरकारी आईटी और स्वामित्व वाले प्रोप्राइटरी कोड का वैश्विक और खुले स्रोत कोड में संक्रमण से पता चलता है कि कोई भी लेखकों के दावे का परीक्षण (उदाहरण के लिए, योलो के साथ) कर सकता है जो तुरंत जैकपॉट मार सकता है।

 

* मैं आमतौर पर कागज़ में प्रदान किए जाने वाले संबंधित तालिका परिणामों को शामिल करूंगा, लेकिन इस मामले में कागज़ की तालिकाओं की जटिलता एक आकस्मिक पाठक के लिए प्रकाश डालने वाली नहीं है, और एक सारांश इसलिए अधिक उपयोगी है।

मंगलवार, 28 जनवरी, 2025 को पहली बार प्रकाशित

मशीन लर्निंग पर लेखक, मानव इमेज सिंथेसिस में डोमेन विशेषज्ञ। मेटाफिजिक.ai में रिसर्च कंटेंट के पूर्व प्रमुख, जब तक कि इसका डीएनजीई के ब्रह्मा.ai में विलय नहीं हो गया।
पोर्टफोलियो साइट: martinanderson.ai
संपर्क: martin@martinanderson.ai