एआई-संचालित सामग्री मॉडरेशन की मदद से चैट रिटर्न

लोगों को अन्य यादृच्छिक लोगों से बात करने की अनुमति देने के लिए चैट 2010 के प्रारंभ में प्रसिद्ध हो गया। हालाँकि, यह साइट लोगों को नग्नता और अन्य "आर-रेटेड" सामग्री का सामना करने में आसानी के कारण भी बदनाम हो गई। जैसा कि वायर्ड द्वारा रिपोर्ट किया गया है, चैट का लक्ष्य अब है वापसी करना एआई द्वारा सहायता प्राप्त बेहतर सामग्री मॉडरेशन के साथ।

एआई-संचालित सामग्री मॉडरेशन

जैसे-जैसे एआई और कंप्यूटर विज़न एल्गोरिदम अधिक परिष्कृत और विश्वसनीय हो गए हैं, आपत्तिजनक सामग्री का पता लगाने के लिए उनके अनुप्रयोगों में सुधार हुआ है। यह किसी भी कंपनी के लिए एक वरदान है जो उपयोगकर्ताओं को सामग्री अपलोड करने या अन्यथा बनाने की अनुमति देता है। यूट्यूब, फेसबुक और ट्विटर जैसी कंपनियां एआई-संचालित सामग्री निस्पंदन एल्गोरिदम को नियोजित करें आपत्तिजनक सामग्री से निपटने के लिए. चैटरूलेट विशेष रूप से एक बार नग्नता और अन्य अश्लील कृत्यों से ग्रस्त था जिसने कई उपयोगकर्ताओं को दूर कर दिया था। महामारी ने चैटरूलेट में नए सिरे से रुचि जगाई है, जो एआई छवि पहचान में प्रगति के कारण उपयोगकर्ताओं द्वारा स्ट्रीम की गई सामग्री की अधिक प्रभावी ढंग से निगरानी कर सकता है।

2019 में, चैट के संस्थापक एंड्री टर्नोव्स्की ने पेशेवर प्रबंधकों और एआई विशेषज्ञों के साथ सहयोग करने के लक्ष्य के साथ स्विट्जरलैंड में कंपनी की स्थापना की। मशीन लर्निंग विशेषज्ञ एंड्रयू डन को टर्नोव्स्की द्वारा नए चैटरूलेट के लिए एआई तकनीक के विकास की देखरेख के लिए नियुक्त किया गया था। डन इस साल की शुरुआत में सीईओ बने और टीम में और अधिक उत्पाद शोधकर्ताओं और प्रबंधकों को शामिल किया।

नए नेतृत्व के तहत, चैटरूलेट ने उपयोगकर्ता अनुसंधान करने और सामग्री को मॉडरेट करने के विभिन्न तरीकों का परीक्षण करने के लिए ट्रैफ़िक में वृद्धि का उपयोग किया। चैटरूलेट टीम ने दो नए चैट चैनल डिज़ाइन किए। एक चैट चैनल को रैंडम चैट कहा जाता है, जिसे आपत्तिजनक सामग्री को बाहर करने के लिए डिज़ाइन किया गया है, जबकि दूसरे चैनल को अनमॉडर्ड कहा जाता है। आपत्तिजनक सामग्री के बारे में चिंता किए बिना अन्य लोगों से जुड़ने में रुचि रखने वाले उपयोगकर्ताओं को आकर्षित करने के लिए यह विभाजन किया जा रहा है। अनफ़िल्टर्ड चैनल अंततः 2021 के मध्य में समाप्त कर दिया जाएगा।

एआई कंपनी हाइव के साथ साझेदारी

चैटरूलेट ने एआई कंपनी के साथ साझेदारी की है करंड नग्नता का पता लगाने वाले एआई विकसित करना। हाइव Reddit सामग्री को मॉडरेट करने के लिए भी ज़िम्मेदार है, जिससे उन्हें एक प्रमुख सोशल नेटवर्क पर सामग्री प्रबंधित करने का अनुभव मिलता है। डन के अनुसार, हाइव की एआई निगरानी प्रणाली इतनी सटीक है कि मानव मॉडरेटर सहित वास्तव में समग्र रूप से मॉडरेशन की सटीकता कम हो जाती है। हाइव 2 मिलियन से अधिक वितरित श्रमिकों के कार्यबल द्वारा एनोटेट किए गए डेटा पर एआई मॉडल को प्रशिक्षित करता है। वितरित कार्यबल नग्नता और आग्नेयास्त्रों की उपस्थिति जैसी आपत्तिजनक सामग्री की तलाश करता है, हाइव एआई के प्रशिक्षण में उपयोग के लिए छवियों की व्याख्या करता है। जबकि चैटरूलेट ने सामग्री मॉडरेशन में सहायता के लिए Google के क्लाउड विज़न एआई सिस्टम और अमेज़ॅन रिकॉग्निशन का उपयोग करने की कोशिश की, अंततः यह पाया गया कि हाइव का एआई इसकी आवश्यकताओं के लिए सबसे सटीक और विश्वसनीय था।

हाइव के एआई ने चैटरूलेट से वीडियो के 600 मिलियन से अधिक फ्रेम संसाधित किए हैं। दो उपयोगकर्ताओं के बीच किसी भी कनेक्शन के परिणामस्वरूप तीन फ़्रेम बनते हैं। कनेक्शन की शुरुआत में दोनों उपयोगकर्ताओं के लिए एक फ्रेम बनाया जाता है, और कनेक्शन समाप्त करने वाले उपयोगकर्ता के लिए एक फ्रेम तैयार किया जाता है। कथित तौर पर शर्तों का उल्लंघन करने वाली सामग्री को एक सेकंड के भीतर पहचाना जा सकता है। एक चेतावनी संदेश मानव मॉडरेटर को भेजा जाता है जो उपयोगकर्ता को प्रतिबंधित या चेतावनी दे सकता है।

वर्ष की शुरुआत में, चैटरूलेट पर प्रति माह लगभग 4 मिलियन अद्वितीय विज़िटर थे, जो कि 2016 की शुरुआत के बाद से कंपनी पर आए सबसे अधिक विज़िटर हैं। अश्लील सामग्री पर अंकुश लगाने के प्रयासों का फल मिलता दिख रहा है, क्योंकि अब महिलाएँ लगभग 34% हैं सभी उपयोगकर्ता, 11 में केवल 2018% उपयोगकर्ताओं से ऊपर।

जबकि सोशल मीडिया कंपनियां आती-जाती रहती हैं, ऐसा लगता है कि चैट एक बार फिर प्रमुख स्थान पर पहुंच गया है। हालाँकि, टर्नोव्स्की स्वीकार करते हैं कि कंपनी के पास सामग्री मॉडरेशन के अलावा अन्य मुद्दे भी हैं जिन्हें हल करना है। टर्नोव्स्की के अनुसार, पहली बार आने वाले लगभग 90% आगंतुक कभी वापस नहीं लौटते, क्योंकि उन्हें अपनी बातचीत औसत दर्जे की लगती है।

"चुनौती वास्तव में कुछ ऐसा योग्य बनाना है जिससे लोगों को इसे केवल एक बार की चीज़ बनाने के बजाय नियमित आधार पर उपयोग करने में अधिक रुचि हो।" वायर्ड के माध्यम से टर्नोव्स्की को समझाया।