फेसबुक बुरे व्यवहार को रोकने के लिए बॉट्स और सिमुलेशन का उपयोग करता है

फेसबुक ने एक नया एआई डिज़ाइन किया है जो हानिकारक, नुकसानदायक और अवैध व्यवहार का पता लगाने में बेहतर है। द वर्ज की रिपोर्ट के अनुसार, फेसबुक के लंदन एआई विभाग के शोधकर्ताओं ने एक एआई-संचालित फेसबुक सिम्युलेटर बनाया है जिसे “डब्ल्यूडब्ल्यू” कहा जाता है, जिसका उपयोग सिम्युलेटर फेसबुक पर स्कैमर्स, अवैध उत्पाद विक्रेताओं, स्पैमर्स और अन्य बुरे अभिनेताओं के व्यवहार को सिम्युलेट करने के लिए किया जाता है।

फेसबुक सिम्युलेटर “डब्ल्यूडब्ल्यू”, जिसका नाम “डब्ल्यूडब्ल्यू” का संक्षिप्त रूप है, फेसबुक द्वारा एक पत्र में अप्रैल में प्रकाशित किया गया था। डब्ल्यूडब्ल्यू एक क्लोन, सिम्युलेटर फेसबुक का एक संस्करण है जो विभिन्न फेसबुक टूल्स और एल्गोरिदम के परीक्षण में मदद करने के लिए डिज़ाइन किया गया है।

कंपनी ने हाल ही में डब्ल्यूडब्ल्यू के कुछ उपयोगों के बारे में अधिक विवरण प्रकट किया है, जिनमें से एक एआई के माध्यम से बुरे अभिनेताओं का सिम्युलेशन है। कई बॉट्स का उपयोग करके स्कैमिंग, स्पैमिंग, उत्पीड़न और अधिक जैसे व्यवहार को सिम्युलेट करने के लिए, शोधकर्ताओं को उम्मीद है कि वे उपयोगकर्ताओं द्वारा हानिकारक व्यवहार का पता लगाने और उसे रोकने में बेहतर हो सकेंगे।

फेसबुक इंजीनियर मार्क हरमन के अनुसार, जैसा कि द वर्ज द्वारा उद्धृत किया गया है, यह उम्मीद की जाती है कि डब्ल्यूडब्ल्यू हानिकारक व्यवहार को रोकने में एक मूल्यवान उपकरण होगा। उदाहरण के लिए, हरमन का मानना है कि सिम्युलेशन स्कैमर्स का पता लगाने के तरीकों को बेहतर बनाने के लिए उपयोग किया जा सकता है।

फेसबुक इंजीनियरों ने वास्तविक जीवन में फेसबुक स्कैमर्स के व्यवहार को दो समूहों में बॉट्स बनाकर अनुकरण किया: एक लक्ष्य समूह और एक स्कैमर समूह। स्कैमर अक्सर नेटवर्क के माध्यम से खोज करते हैं, उपयोगकर्ताओं के दोस्तों की खोज करते हैं, संभावित लक्ष्य को खोजने के लिए। इस व्यवहार को स्कैमर बॉट्स द्वारा अनुकरण किया गया था क्योंकि इंजीनियरों ने निर्दोष बॉट को स्कैमिंग से रोकने के विभिन्न तरीकों के साथ प्रयोग किया था। उन्होंने जिन रणनीतियों का परीक्षण किया उनमें कई प्रतिबंध शामिल थे, जैसे कि एक मिनट में एक बॉट द्वारा भेजे जा सकने वाले निजी संदेशों की संख्या को सीमित करना।

सिम्युलेटेड फेसबुक और वास्तविक फेसबुक के बीच कुछ अंतर हैं। एक के लिए, सिम्युलेशन में वास्तविक तत्व शामिल नहीं हैं, इसलिए सिम्युलेशन से प्राप्त डेटा केवल संख्यात्मक डेटा और बॉट्स के बीच इंटरैक्शन पर आंकड़े हैं। दूसरे, सिम्युलेशन में सभी अभिनेता बॉट हैं, जो वास्तविक उपयोगकर्ताओं के साथ बातचीत नहीं कर सकते हैं। डब्ल्यूडब्ल्यू सिम्युलेशन उपयोगकर्ता के इरादे या एक दिए गए संवाद की सामग्री के लिए खाता नहीं है, क्योंकि केवल संदेश भेजने, टिप्पणी करने आदि की क्रियाएं सिम्युलेट की जाती हैं।

हरमन के अनुसार, प्रतिबंधों के साथ प्रयोग करने की यह प्रक्रिया शहरी योजनाकारों के लिए समान है जो某些 सड़कों पर गति को कम करने के लिए “स्पीड बंप” डालते हैं। जैसे एक शहरी योजनाकार स्पीड बंप बनाने और फिर उनकी उपयोगिता पर डेटा एकत्र करने के साथ प्रयोग करेगा, इंजीनियरों ने विभिन्न प्रतिबंधों और पैरामीटरों को बदलने के रूप में सिम्युलेटर में बॉट्स के बीच संदेशों और इंटरैक्शन को कैसे बदला है, इसका विश्लेषण किया। हरमन का कहना है कि लक्ष्य फेसबुक के प्लेटफ़ॉर्म में परिवर्तनों का एक विचार प्राप्त करना है जो हानिकारक व्यवहार को रोकने में मदद करेगा, बिना सामान्य व्यवहार को बहुत सीमित किए या यातायात के प्रवाह को रोके।

हरमन यह भी बताते हैं कि डब्ल्यूडब्ल्यू का उपयोग करने का लाभ यह है कि वे जिन क्रियाओं का अध्ययन करते हैं वे वास्तविक फेसबुक इंफ्रास्ट्रक्चर पर होती हैं, जो उन्हें यह समझने में मदद करती है कि उनके प्रस्तावित परिवर्तन वास्तविक फेसबुक उपयोगकर्ताओं पर कैसे प्रभाव डाल सकते हैं। इन निष्कर्षों के किसी भी अनुप्रयोग को अभी थोड़ा इंतजार करना होगा, क्योंकि वर्तमान में डब्ल्यूडब्ल्यू और इसका सिम्युलेशन केवल शोध चरण में हैं। हरमन और अन्य फेसबुक शोधकर्ता अभी तक अपने निष्कर्षों को लाइव फेसबुक संस्करण पर लागू नहीं करेंगे, क्योंकि अभी भी बहुत काम करना बाकी है। शोध समूह को यह सुनिश्चित करने की आवश्यकता है कि वे जो सिम्युलेशन बनाते हैं वे वास्तविक मानव व्यवहार का अनुकरण करते हैं।

हरमन के अनुसार, डब्ल्यूडब्ल्यू का मुख्य लाभ इसकी विशाल पैमाने पर काम करने की क्षमता है, जो फेसबुक शोधकर्ताओं को हजारों छोटे बदलावों के संभावित परिणामों की जांच करने की अनुमति देती है, जो सिम्युलेशन के माध्यम से होता है।

भविष्य में, शोधकर्ता बॉट्स को थोड़े समय के लिए खेलने और प्रयोग करने दे सकते हैं, यह देखने के लिए कि वे स्वयं क्या इंटरैक्शन बनाते हैं, जो अक्सर कुछ ऐसा होता है जिसकी शोधकर्ता उम्मीद नहीं करते हैं।

“वर्तमान में, मुख्य फोकस उन चीजों को अनुकरण करने के लिए बॉट्स को प्रशिक्षित करना है जिन्हें हम जानते हैं कि प्लेटफ़ॉर्म पर होता है। लेकिन सिद्धांत और व्यवहार में, बॉट्स ऐसी चीजें कर सकते हैं जिन्हें हमने पहले नहीं देखा है,” हरमन ने कहा। “यह वास्तव में कुछ ऐसा है जिसे हम चाहते हैं, क्योंकि हम अंततः बुरे व्यवहार के आगे रहना चाहते हैं, निरंतर पकड़ में रहने के बजाय।”

यदि सब कुछ ठीक रहता है, तो फेसबुक 2020 के अंत तक डब्ल्यूडब्ल्यू के सिम्युलेशन पर आधारित संशोधन शुरू कर सकता है।