शेयरों को कम मूल्य वाले साथ विरोधी रीट्वीट के साथ कम करना

अमेरिकी विश्वविद्यालयों और आईबीएम के बीच एक संयुक्त अनुसंधान सहयोग ने एक प्रूफ-ऑफ-概念 विरोधी हमला तैयार किया है जो सैद्धांतिक रूप से शेयर बाजार के नुकसान का कारण बन सकता है, बस एक ट्विटर पोस्ट के रीट्वीट में एक शब्द बदलकर।

एक प्रयोग में, शोधकर्ता स्टॉकनेट पूर्वानुमान मॉडल को दो तरीकों से अक्षम करने में सक्षम थे: एक हेरफेर हमला और एक संयोजन हमला। स्रोत: https://arxiv.org/pdf/2205.01094.pdf

स्वचालित और मशीन लर्निंग स्टॉक पूर्वानुमान प्रणालियों पर विरोधी हमले के लिए हमले का क्षेत्र यह है कि उनमें से एक बढ़ती संख्या जैविक सामाजिक मीडिया को प्रदर्शन के पूर्वानुमान के रूप में निर्भर कर रही है; और इस ‘जंगली’ डेटा को हेरफेर करना एक ऐसी प्रक्रिया है जो संभावित रूप से विश्वसनीय रूप से तैयार की जा सकती है।

ट्विटर के अलावा, इस प्रकार की प्रणालियां रेडिट, स्टॉकट्विट्स और याहू न्यूज जैसे अन्य स्रोतों से डेटा को निगलती हैं। ट्विटर और अन्य स्रोतों के बीच अंतर यह है कि रीट्वीट संपादन योग्य हैं, भले ही मूल ट्वीट संपादन योग्य न हों। दूसरी ओर, रेडिट पर केवल अतिरिक्त (अर्थात टिप्पणी या संबंधित) पोस्ट करना संभव है, या टिप्पणी करना और रेट करना – जो कि सही रूप से पक्षपातपूर्ण और स्वार्थी माना जाता है एमएल-आधारित स्टॉक पूर्वानुमान प्रणालियों के डेटा स्वच्छता दिनचर्या और प्रथाओं द्वारा।

एक प्रयोग में, स्टॉकनेट पूर्वानुमान मॉडल पर, शोधकर्ता दो तरीकों से स्टॉक मूल्य पूर्वानुमान में उल्लेखनीय गिरावट का कारण बनाने में सक्षम थे, जिनमें से सबसे प्रभावी हेरफेर हमला (अर्थात संपादित रीट्वीट) था, जो सबसे गंभीर गिरावट का कारण बना।

यह, शोधकर्ताओं के अनुसार, एक ‘सम्मानित’ वित्तीय ट्विटर स्रोत से एक रीट्वीट में एकल प्रतिस्थापन को सिम्युलेट करके किया गया था:

शब्दों का महत्व है। यहाँ, ‘फिल्ड’ और ‘एक्सरसाइज्ड’ (किसी भी धमकी भरे या भ्रामक शब्द के बजाय एक पर्यायवाची के रूप में वर्गीकृत) के बीच का अंतर सैद्धांतिक रूप से एक निवेशक को शेयर मूल्यह्रास में हजारों की लागत से वंचित कर सकता है।

लेख में कहा गया है:

‘हमारे परिणाम दिखाते हैं कि प्रस्तावित हमले की विधि लगातार सफलता दर हासिल कर सकती है और व्यापारिक अनुकरण में महत्वपूर्ण मौद्रिक नुकसान का कारण बन सकती है, बस एक ट्वीट को संयोजन करके।’

शोधकर्ता निष्कर्ष निकालते हैं:

‘यह काम दिखाता है कि हमारी विरोधी हमले की विधि विभिन्न वित्तीय पूर्वानुमान मॉडल को मूर्ख बना सकती है, भले ही शारीरिक प्रतिबंध हों कि मूल ट्वीट को संशोधित नहीं किया जा सकता है। एक रीट्वीट जोड़कर जिसमें केवल एक शब्द बदला गया है, हमला हमारे अनुकरणित निवेश पोर्टफोलियो को 32% अतिरिक्त नुकसान पहुंचा सकता है।

‘वित्तीय मॉडल की कमजोरियों का अध्ययन करके, हमारा लक्ष्य वित्तीय समुदाय को एआई मॉडल के जोखिमों के बारे में जागरूक करना है, ताकि भविष्य में हम अधिक मजबूत मानव-इन-द-लूप एआई आर्किटेक्चर विकसित कर सकें।’

लेख लेख है जिसका शीर्षक एक शब्द एक हजार डॉलर के लायक है: विरोधी हमला ट्विटर पर स्टॉक पूर्वानुमान को मूर्ख बनाता है, और छह शोधकर्ताओं से आता है, जो विभिन्न रूप से इलिनोइस विश्वविद्यालय उर्बाना-शैंपेन, न्यूयॉर्क राज्य विश्वविद्यालय बफ़ेलो में, और मिशिगन स्टेट विश्वविद्यालय से हैं, जिनमें से तीन शोधकर्ता आईबीएम से संबंधित हैं।

दुर्भाग्यपूर्ण शब्द

लेख यह जांचता है कि क्या पाठ-आधारित गहरे शिक्षण मॉडल पर विरोधी हमलों के अच्छी तरह से अध्ययन किए गए क्षेत्र को स्टॉक बाजार पूर्वानुमान मॉडल पर लागू किया जा सकता है, जिनकी पूर्वानुमान क्षमता कुछ बहुत ‘मानव’ कारकों पर निर्भर करती है जो केवल सामाजिक मीडिया स्रोतों से अनुमानित किया जा सकता है।

जैसा कि शोधकर्ता नोट करते हैं, सामाजिक मीडिया हेरफेर के स्टॉक की कीमतों पर प्रभाव की संभावना को पहले से ही अच्छी तरह से प्रदर्शित किया गया है, हालांकि अभी तक प्रस्तावित विधि द्वारा नहीं; 2013 में, एक दुर्भाग्यपूर्ण सीरियन-दावा ट्वीट एसोसिएटेड प्रेस के हैक किए गए ट्विटर खाते पर $136 बिलियन अमेरिकी डॉलर की इक्विटी बाजार मूल्य तीन मिनट में मिटा दिया।

इस नए काम में प्रस्तावित विधि एक संयोजन हमला लागू करती है, जो मूल ट्वीट को छोड़ देती है, जबकि इसे गलत तरीके से उद्धृत करती है:

लेख के पूरक सामग्री से, रीट्वीट्स के उदाहरण जिनमें प्रतिस्थापित पर्यायवाची हैं जो मूल संदेश के उद्देश्य और महत्व को बदलते हैं, बिना इसे ऐसा विकृत किया जाए कि मानव या सरल फिल्टर इसे पकड़ सकें – लेकिन जो स्टॉक बाजार पूर्वानुमान प्रणालियों में अल्गोरिदम का फायदा उठा सकते हैं।

शोधकर्ताओं ने विरोधी रीट्वीट्स के निर्माण को एक संयोजन अनुकूलन समस्या के रूप में देखा है – विरोधी उदाहरणों का निर्माण जो एक पीड़ित मॉडल को मूर्ख बना सकते हैं, भले ही एक बहुत ही सीमित शब्दावली हो।

सेमेम्स का उपयोग करके शब्द प्रतिस्थापन – मानव भाषाओं की ‘न्यूनतम सेमेंटिक इकाई’। स्रोत: https://aclanthology.org/2020.acl-main.540.pdf

लेख में कहा गया है:

‘ट्विटर के मामले में, विरोधी मैलिशस ट्वीट पोस्ट कर सकते हैं जो डाउनस्ट्रीम मॉडल को प्रभावित करने के लिए तैयार किए गए हैं जो उन्हें इनपुट के रूप में लेते हैं।

‘हम ट्विटर पर सेमेंटिक रूप से समान विरोधी ट्वीट्स को रीट्वीट के रूप में पोस्ट करके हमला करने का प्रस्ताव करते हैं, ताकि वे प्रासंगिक जानकारी के रूप में पहचाने जा सकें और मॉडल इनपुट के रूप में एकत्र किए जा सकें।’

प्रत्येक ट्वीट के लिए एक विशेष रूप से चुने गए पूल में, शोधकर्ताओं ने शब्द चयन समस्या को शब्द और ट्वीट बजट के प्रतिबंधों के तहत हल किया, जो मूल शब्द से सेमेंटिक विचलन में गंभीर प्रतिबंध लगाते हैं, और एक ‘मैलिशस/बेनिन’ शब्द की प्रतिस्थापन।

विरोधी ट्वीट्स को प्रासंगिक ट्वीट्स के आधार पर तैयार किया जाता है जो डाउनस्ट्रीम स्टॉक पूर्वानुमान प्रणालियों में अनुमति देने की संभावना है। ट्वीट को ट्विटर की सामग्री मॉडरेशन प्रणाली से भी गुजरना होगा, और यह एक मानव दर्शक के लिए विरोधाभासी नहीं लगना चाहिए।

पिछले काम का पालन करते हुए (मिशिगन स्टेट विश्वविद्यालय, सीएसएआईएल, एमआईटी और एमआईटी-आईबीएम वाटसन एआई लैब के साथ), लक्ष्य ट्वीट में चयनित शब्दों को सीमित पर्यायवाची संभावनाओं के पूल से पर्यायवाची शब्दों के साथ बदल दिया जाता है, जिनमें से सभी मूल शब्द के बहुत करीब सेमेंटिक रूप से होने चाहिए, जबकि अपना ‘भ्रष्ट प्रभाव’ बनाए रखने के लिए, स्टॉक बाजार पूर्वानुमान प्रणालियों के अनुमानित व्यवहार पर आधारित है।

प्रयोगों में उपयोग किए गए अल्गोरिदम ज्वाइंट ऑप्टिमाइजेशन (जेओ) सॉल्वर और अल्टरनेटिंग ग्रेडिएंट ऑप्टिमाइजेशन (एजीओ) सॉल्वर थे।

डेटासेट और प्रयोग

इस दृष्टिकोण को 10,824 प्रासंगिक ट्वीट्स और बाजार प्रदर्शन जानकारी के साथ एक स्टॉक पूर्वानुमान डेटासेट पर आजमाया गया था, जो 88 स्टॉक के बीच 2014-2016 के बीच फैला हुआ था।

तीन ‘पीड़ित’ मॉडल चुने गए: स्टॉकनेट; फिनजीआरयू (जीआरयू का एक व्युत्पन्न); और फिनएलएसटीएम (एलएसटीएम का एक व्युत्पन्न)।

मूल्यांकन मीट्रिक में हमले की सफलता दर (एएसआर) और हमले के बाद पीड़ित मॉडल के एफ1 स्कोर में गिरावट शामिल थी। शोधकर्ताओं ने परीक्षणों के लिए एक लंबी-केवल-खरीदें-बेचें रणनीति का अनुकरण किया। लाभ और हानि (पीएनएल) की गणना भी अनुकरण में की गई थी।

प्रयोगों के परिणाम। इस लेख के शीर्ष पर पहले ग्राफ को भी देखें।

जेओ और एजीओ के तहत, एएसआर 10% तक बढ़ जाता है, और मॉडल का एफ1 स्कोर औसतन 0.1 गिर जाता है, एक यादृच्छिक हमले की तुलना में। शोधकर्ता नोट करते हैं:

‘ऐसा प्रदर्शन में गिरावट स्टॉक पूर्वानुमान के संदर्भ में महत्वपूर्ण माना जाता है, जहां दैनिक रिटर्न की राज्य-ऑफ-द-आर्ट पूर्वानुमान सटीकता केवल 60% है।’

स्टॉकनेट पर (आभासी हमले के) लाभ-हानि खंड में, विरोधी रीट्वीट्स के परिणाम भी उल्लेखनीय थे:

‘प्रत्येक अनुकरण के लिए, निवेशक के पास $10K (100%) निवेश करने के लिए है; परिणाम दिखाते हैं कि प्रस्तावित हमले की विधि के साथ केवल एक शब्द प्रतिस्थापन के साथ एक रीट्वीट निवेशक को अपने पोर्टफोलियो में $3.2K (75%-43%) की अतिरिक्त हानि का कारण बन सकता है लगभग दो साल बाद।’

पहली बार 4 मई 2022 को प्रकाशित हुआ।