चैटरूलेट एआई-ड्रिवन कंटेंट मॉडरेशन की मदद से वापस आ रहा है

चैटरूलेट早 2010 के दशक में लोगों को अन्य, यादृच्छिक लोगों से बात करने की अनुमति देने के लिए प्रसिद्ध हो गया। हालांकि, साइट भी इसलिए कुख्यात हो गई क्योंकि लोगों को नग्नता और अन्य “आर-रेटेड” सामग्री का सामना करना आसान था। वायर्ड द्वारा रिपोर्ट के अनुसार, चैटरूलेट अब बेहतर सामग्री मॉडरेशन के साथ वापस आने का लक्ष्य रख रहा है, जो कि एआई द्वारा सहायता प्राप्त है।

एआई-ड्रिवन कंटेंट मॉडरेशन

जैसे ही एआई और कंप्यूटर विजन एल्गोरिदम अधिक परिष्कृत और विश्वसनीय हो गए हैं, उनके आपत्तिजनक सामग्री का पता लगाने के लिए अनुप्रयोग में सुधार हुआ है। यह किसी भी कंपनी के लिए एक वरदान है जो उपयोगकर्ताओं को सामग्री अपलोड करने या अन्यथा बनाने की अनुमति देती है। यूट्यूब, फेसबुक और ट्विटर जैसी कंपनियां एआई-पावर्ड कंटेंट फिल्टरेशन एल्गोरिदम का उपयोग आपत्तिजनक सामग्री से निपटने के लिए करती हैं। चैटरूलेट विशेष रूप से एक बार नग्नता और अन्य अश्लील कृत्यों से पीड़ित था जो कई उपयोगकर्ताओं को दूर ले गए। महामारी ने चैटरूलेट में फिर से रुचि पैदा की है, जो एआई इमेज रिकग्निशन में प्रगति के कारण उपयोगकर्ताओं द्वारा स्ट्रीम की गई सामग्री की अधिक प्रभावी ढंग से निगरानी कर सकता है।

2019 में, चैटरूलेट के संस्थापक एंड्रे टेर्नोवस्की ने स्विट्जरलैंड में कंपनी को शामिल किया, जिसका उद्देश्य पेशेवर प्रबंधकों और एआई विशेषज्ञों के साथ सहयोग करना था। मशीन लर्निंग विशेषज्ञ एंड्रयू डोन को टेर्नोवस्की द्वारा नए चैटरूलेट के लिए एआई प्रौद्योगिकी के विकास की देखरेख करने के लिए नियुक्त किया गया था। डोन इस साल की शुरुआत में सीईओ बने, और टीम में अधिक उत्पाद शोधकर्ता और प्रबंधक जोड़े।

नई नेतृत्व के तहत, चैटरूलेट ने यातायात में वृद्धि का लाभ उठाया और उपयोगकर्ता अनुसंधान और विभिन्न तरीकों से सामग्री को मॉडरेट करने के लिए परीक्षण किया। चैटरूलेट टीम ने दो नए चैट चैनल डिज़ाइन किए। एक चैट चैनल को रैंडम चैट कहा जाता है, जो आपत्तिजनक सामग्री को बाहर करने के लिए डिज़ाइन किया गया है, जबकि दूसरे चैनल को अनमॉडरेटेड कहा जाता है। यह विभाजन उन उपयोगकर्ताओं को आकर्षित करने के लिए किया जा रहा है जो आपत्तिजनक सामग्री के बारे में चिंता किए बिना अन्य लोगों के साथ जुड़ने में रुचि रखते हैं। अनफिल्टर्ड चैनल को अंततः मध्य-2021 में समाप्त कर दिया जाएगा।

एआई कंपनी हाइव के साथ साझेदारी

चैटरूलेट ने नग्नता का पता लगाने वाले एआई विकसित करने के लिए एआई कंपनी हाइव के साथ साझेदारी की है। हाइव रेडिट सामग्री को मॉडरेट करने के लिए भी जिम्मेदार है, जो उन्हें एक प्रमुख सोशल नेटवर्क पर सामग्री प्रबंधन के साथ अनुभव प्रदान करता है। डोन के अनुसार, हाइव की एआई निगरानी प्रणाली इतनी सटीक है कि मानव मॉडरेटर को शामिल करने से संपूर्ण मॉडरेशन की सटीकता कम हो जाती है। हाइव अपने एआई मॉडल को 2 मिलियन से अधिक वितरित कार्यकर्ताओं द्वारा अनुसंधानित डेटा पर प्रशिक्षित करता है। वितरित कार्यबल नग्नता और आग्नेयास्त्रों की उपस्थिति जैसी आपत्तिजनक सामग्री की तलाश में है, और हाइव एआई के प्रशिक्षण के लिए छवियों को अनुसंधानित करता है। जबकि चैटरूलेट ने गूगल के क्लाउड विजन एआई सिस्टम और अमेज़ॅन रेकग्निशन का उपयोग सामग्री मॉडरेशन में मदद के लिए किया, यह अंततः पाया कि हाइव का एआई इसकी आवश्यकताओं के लिए सबसे सटीक और विश्वसनीय था।

हाइव के एआई ने चैटरूलेट से 600 मिलियन से अधिक वीडियो फ्रेम संसाधित किए हैं। दो उपयोगकर्ताओं के बीच कोई भी कनेक्शन तीन फ्रेम बनाता है। कनेक्शन की शुरुआत में दोनों उपयोगकर्ताओं के लिए एक फ्रेम बनाया जाता है, और कनेक्शन को समाप्त करने वाले उपयोगकर्ता के लिए एक फ्रेम उत्पन्न किया जाता है। शर्तों का उल्लंघन करने वाली सामग्री कथित तौर पर एक सेकंड के भीतर पहचानी जा सकती है। एक अलर्ट संदेश एक मानव मॉडरेटर को भेजा जाता है जो उपयोगकर्ता को प्रतिबंधित या चेतावनी दे सकता है।

वर्ष की शुरुआत में, चैटरूलेट में लगभग 4 मिलियन अद्वितीय आगंतुक प्रति माह थे, जो कंपनी के लिए 2016 की शुरुआत के बाद से सबसे अधिक आगंतुक थे। अश्लील सामग्री को रोकने के प्रयासों को लगता है कि परिणाम मिला है, क्योंकि महिलाएं अब सभी उपयोगकर्ताओं का लगभग 34% हैं, जो 2018 में 11% से ऊपर हैं।

जबकि सोशल मीडिया कंपनियां आती हैं और जाती हैं, चैटरूलेट लगता है कि फिर से प्रमुखता की स्थिति में उठा है। हालांकि, टेर्नोवस्की स्वीकार करते हैं कि कंपनी के पास सामग्री मॉडरेशन से परे अन्य मुद्दे हैं जिन्हें हल करने की आवश्यकता है। टेर्नोवस्की के अनुसार, लगभग 90% पहली बार आगंतुक वापस नहीं आते हैं, क्योंकि वे अपने इंटरैक्शन को मध्यम मानते हैं।

“वास्तविक चुनौती वास्तव में कुछ ऐसा बनाना है जो लोगों को नियमित रूप से इसका उपयोग करने के लिए प्रेरित करे, न कि यह केवल एक बार की बात है,” टेर्नोवस्की ने वायर्ड के माध्यम से समझाया।