एआई मॉडल और प्लेटफ़ॉर्म
स्टार्टअप्स ईमेल उत्पीड़न का पता लगाने के लिए एआई टूल्स बना रहे हैं
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
2017 के अंत में मी टू आंदोलन के प्रमुखता से आने के बाद से, यौन उत्पीड़न की घटनाओं पर अधिक ध्यान दिया जा रहा है, जिसमें कार्यस्थल उत्पीड़न और ईमेल या त्वरित संदेश के माध्यम से उत्पीड़न शामिल है।
द गार्जियन की रिपोर्ट के अनुसार, एआई शोधकर्ता और इंजीनियरों ने उत्पीड़न का पता लगाने के लिए टेक्स्ट संचार के माध्यम से उपकरण बनाए हैं, जिसे मीटूबॉट्स कहा जाता है। मीटूबॉट्स को दुनिया भर की कंपनियों द्वारा लागू किया जा रहा है ताकि संभावित रूप से हानिकारक और उत्पीड़नकारी संचार को झंडा दिखाया जा सके। इसका एक उदाहरण नेक्स एआई द्वारा बनाया गया एक बॉट है, जिसका वर्तमान में लगभग 50 अलग-अलग कंपनियों द्वारा उपयोग किया जा रहा है। बॉट एक एल्गोरिदम का उपयोग करता है जो कंपनी के दस्तावेजों, चैट और ईमेल की जांच करता है और इसे अपने प्रशिक्षण डेटा के साथ तुलना करता है जिसमें उत्पीड़न या उत्पीड़नकारी संदेश होते हैं। संभावित रूप से उत्पीड़नकारी या हानिकारक माने जाने वाले संदेशों को तब एक एचआर प्रबंधक को समीक्षा के लिए भेजा जा सकता है, हालांकि नेक्स एआई ने यह नहीं बताया है कि बॉट विशिष्ट शब्दों की तलाश में है जो यह संचार विश्लेषण में करता है।
अन्य स्टार्टअप्स ने भी उत्पीड़न का पता लगाने के लिए एआई-संचालित उपकरण बनाए हैं। एआई स्टार्टअप स्पॉट के पास एक चैटबॉट है जो कर्मचारियों को यौन उत्पीड़न के आरोपों की गुमनाम रूप से रिपोर्ट करने में सक्षम बनाता है। बॉट प्रश्न पूछेगा और सलाह देगा ताकि अधिक विवरण एकत्र किए जा सकें और घटना की जांच आगे बढ़ सके। स्पॉट चाहता है कि एचआर टीमें उत्पीड़न के मुद्दों से निपटने के लिए एक संवेदनशील तरीके से जबकि गुमनामी को बनाए रखा जाए।
द गार्जियन के अनुसार, प्रोफेसर ब्रायन सुबिराना, एमआईटी और हार्वर्ड एआई प्रोफेसर, ने समझाया कि उत्पीड़न का पता लगाने के लिए एआई का उपयोग करने के प्रयासों में सीमाएं हैं। उत्पीड़न बहुत ही सूक्ष्म हो सकता है और इसे पकड़ना मुश्किल है, अक्सर यह केवल एक पैटर्न के रूप में प्रकट होता है जो हफ्तों के डेटा की जांच करने पर खुलासा होता है। बॉट अभी तक निश्चित ट्रिगर शब्दों की पहचान करने और व्यापक अंतरव्यक्तिक या सांस्कृतिक गतिविधियों का विश्लेषण करने में सक्षम नहीं हैं जो संभावित रूप से खेल में हो सकती हैं। उत्पीड़न का पता लगाने की जटिलताओं के बावजूद, सुबिराना मानते हैं कि बॉट ऑनलाइन उत्पीड़न से निपटने में एक भूमिका निभा सकते हैं। सुबिराना को लगता है कि बॉट्स का उपयोग लोगों को उत्पीड़न का पता लगाने के लिए प्रशिक्षित करने के लिए किया जा सकता है जब वे इसे देखते हैं, एक संभावित रूप से समस्याग्रस्त संदेशों का डेटाबेस बना सकते हैं। सुबिराना ने यह भी कहा कि एक प्लेसबो प्रभाव हो सकता है जो लोगों को अपने सहकर्मियों को उत्पीड़ित करने के लिए कम प्रेरित करेगा, भले ही वे संदेह करते हैं कि उनके संदेशों की जांच की जा रही है, भले ही वे नहीं हों।
सुबिराना का मानना है कि बॉट्स के उत्पीड़न से निपटने में संभावित उपयोगों के बावजूद, डेटा की गोपनीयता और गोपनीयता एक बड़ी चिंता है। सुबिराना का कहना है कि ऐसी तकनीक संभावित रूप से एक ऐसा वातावरण बना सकती है जिसमें अविश्वास और संदेह हो अगर इसका दुरुपयोग किया जाए। महिला अधिकार एनजीओ फावसेट सोसाइटी की मुख्य कार्यकारी अधिकारी सैम स्मेथर्स ने भी बॉट्स के दुरुपयोग के बारे में चिंता व्यक्त की। स्मेथर्स ने कहा:
“हम यह देखना चाहेंगे कि तकनीक कैसे विकसित की जा रही है, इसके पीछे कौन है, और क्या दृष्टिकोण कार्यस्थल संस्कृति द्वारा सूचित किया जा रहा है जो उत्पीड़न को रोकने और समानता को बढ़ावा देने की मांग कर रहा है, या यह केवल अपने कर्मचारियों को नियंत्रित करने का एक और तरीका है।”
उत्पीड़न का पता लगाने के लिए बॉट्स का उपयोग करते हुए गुमनामी और गोपनीयता की रक्षा करने के तरीके बॉट डेवलपर्स, कंपनियों और नियामकों के बीच काम किया जाना चाहिए। बॉट्स और एआई की भविष्यवाणी शक्ति का उपयोग करते हुए गोपनीयता की रक्षा करने के संभावित तरीकों में से एक संचार को गुमनाम रखना है। उदाहरण के लिए, बॉट द्वारा रिपोर्ट तैयार की जा सकती है जिसमें केवल संभावित रूप से हानिकारक भाषा की उपस्थिति और इसके बार-बार होने की संख्या शामिल है। एचआर को यह पता लगाने में मदद मिल सकती है कि जागरूकता सेमिनार के बाद विषाक्त भाषा का उपयोग कम हो रहा है या नहीं, या इसके विपरीत, उन्हें अधिक उत्पीड़न की तलाश में रहना चाहिए।
उत्पीड़न का पता लगाने में मशीन लर्निंग एल्गोरिदम और बॉट्स के उपयोग पर असहमति के बावजूद, दोनों पक्षों को लगता है कि उत्पीड़न के मामलों में हस्तक्षेप करने का अंतिम निर्णय मानव द्वारा किया जाना चाहिए, और बॉट्स को केवल मेल खाने वाले पैटर्न के लिए लोगों को अलर्ट करना चाहिए, न कि यह निश्चित रूप से यह कहते हुए कि कुछ उत्पीड़न का एक उदाहरण था।
