चैटरूले एआई-ड्रIVEN सामग्री मॉडरेशन की मदद से वापस आ गया है

चैटरूले ने 2010 के दशक की शुरुआत में लोगों को अन्य, यादृच्छिक लोगों से बात करने की अनुमति देने के लिए प्रसिद्धि प्राप्त की। हालांकि, साइट को यह भी बदनामी मिली क्योंकि लोग आसानी से नग्नता और अन्य “आर-रेटेड” सामग्री का सामना कर सकते थे। वायर्ड द्वारा रिपोर्ट किए अनुसार, चैटरूले अब बेहतर सामग्री मॉडरेशन के साथ वापस आने का लक्ष्य रखा है, जो एआई की मदद से है। क्वारंटीन के दौरान वापसी के साथ।

एआई-ड्रIVEN सामग्री मॉडरेशन

जैसे-जैसे एआई और कंप्यूटर विजन एल्गोरिदम अधिक परिष्कृत और विश्वसनीय होते जा रहे हैं, उनके अनुपयुक्त सामग्री का पता लगाने के लिए अनुप्रयोग में सुधार हुआ है। यह किसी भी कंपनी के लिए एक वरदान है जो उपयोगकर्ताओं को सामग्री अपलोड करने या अन्यथा बनाने की अनुमति देती है। यूट्यूब, फेसबुक और ट्विटर जैसी कंपनियां एआई-पावर्ड सामग्री फिल्टरेशन एल्गोरिदम का उपयोग अनुपयुक्त सामग्री से निपटने के लिए करती हैं। चैटरूले विशेष रूप से एक बार नग्नता और अन्य अश्लील कृत्यों से पीड़ित था जो कई उपयोगकर्ताओं को दूर ले गए। महामारी ने चैटरूले में रुचि को फिर से जगाया है, जो एआई छवि पहचान में प्रगति के कारण अब अधिक प्रभावी ढंग से सामग्री की निगरानी कर सकता है।

2019 में, चैटरूले के संस्थापक एंड्रे टेर्नोव्स्की ने स्विट्जरलैंड में कंपनी को शामिल किया, पेशेवर प्रबंधकों और एआई विशेषज्ञों के साथ सहयोग करने का लक्ष्य रखा। मशीन लर्निंग विशेषज्ञ एंड्रयू डोन को टेर्नोव्स्की द्वारा नए चैटरूले के लिए एआई प्रौद्योगिकी के विकास की देखरेख करने के लिए नियुक्त किया गया था। डोन इस साल की शुरुआत में सीईओ बने, उत्पाद अनुसंधानकर्ताओं और प्रबंधकों को टीम में जोड़ा।

नए नेतृत्व के तहत, चैटरूले ने यातायात में वृद्धि का उपयोग उपयोगकर्ता अनुसंधान करने और विभिन्न सामग्री मॉडरेशन विधियों का परीक्षण करने के लिए किया। चैटरूले टीम ने दो नए चैट चैनल डिज़ाइन किए। एक चैट चैनल रैंडम चैट है, जो अनुपयुक्त सामग्री को बाहर करने के लिए डिज़ाइन किया गया है, जबकि दूसरा चैनल अनमॉडरेटेड है। यह विभाजन उन उपयोगकर्ताओं को आकर्षित करने के लिए किया जा रहा है जो अनुपयुक्त सामग्री के बारे में चिंता किए बिना दूसरे लोगों से जुड़ने में रुचि रखते हैं। अनफिल्टर्ड चैनल को अंततः मध्य-2021 में समाप्त किया जाएगा।

एआई कंपनी हाइव के साथ साझेदारी

चैटरूले ने नग्नता का पता लगाने वाले एआई विकसित करने के लिए एआई कंपनी हाइव के साथ साझेदारी की है। हाइव रेडिट सामग्री को मॉडरेट करने के लिए भी जिम्मेदार है, जो उन्हें एक प्रमुख सामाजिक नेटवर्क पर सामग्री प्रबंधन का अनुभव देता है। डोन के अनुसार, हाइव की एआई निगरानी प्रणाली इतनी सटीक है कि मानव मॉडरेटरों को शामिल करने से वास्तव में मॉडरेशन की सटीकता कम हो जाती है। हाइव 2 मिलियन से अधिक वितरित कार्यबल द्वारा एनोटेट डेटा पर एआई मॉडल को प्रशिक्षित करता है। वितरित कार्यबल नग्नता और आग्नेयास्त्रों की उपस्थिति जैसी अनुपयुक्त सामग्री की तलाश में, हाइव एआई को प्रशिक्षित करने के लिए छवियों को एनोटेट करता है। जबकि चैटरूले ने सामग्री मॉडरेशन में मदद के लिए गूगल के क्लाउड विजन एआई सिस्टम और अमेज़न रेकॉग्निशन का उपयोग करने का प्रयास किया, यह最終 हाइव के एआई को अपनी आवश्यकताओं के लिए सबसे सटीक और विश्वसनीय पाया। (META )

हाइव के एआई ने चैटरूले से 600 मिलियन से अधिक वीडियो फ्रेम संसाधित किए हैं। दो उपयोगकर्ताओं के बीच कोई भी कनेक्शन तीन फ्रेम बनाता है। कनेक्शन की शुरुआत में दोनों उपयोगकर्ताओं के लिए एक फ्रेम बनाया जाता है, और कनेक्शन को समाप्त करने वाले उपयोगकर्ता के लिए एक फ्रेम बनाया जाता है। शर्तों का उल्लंघन करने वाली सामग्री कथित तौर पर एक सेकंड के भीतर पहचानी जा सकती है। एक मानव मॉडरेटर को एक अलर्ट संदेश भेजा जाता है जो उपयोगकर्ता को प्रतिबंधित या चेतावनी दे सकता है।

साल की शुरुआत में, चैटरूले के पास लगभग 4 मिलियन अद्वितीय मासिक आगंतुक थे, जो कंपनी के लिए 2016 की शुरुआत के बाद से सबसे अधिक आगंतुक हैं। अश्लील सामग्री को रोकने के प्रयासों को लगता है कि परिणाम मिला है, क्योंकि महिलाएं अब सभी उपयोगकर्ताओं का लगभग 34% हैं, 2018 में 11% से ऊपर।

सोशल मीडिया कंपनियां आती हैं और जाती हैं, लेकिन चैटरूले को फिर से प्रमुखता की स्थिति में लाया गया है। हालांकि, टेर्नोव्स्की स्वीकार करते हैं कि कंपनी के पास सामग्री मॉडरेशन से परे अन्य मुद्दे हैं जिन्हें हल करना है। टेर्नोव्स्की के अनुसार, लगभग 90% पहली बार आगंतुक वापस नहीं आते हैं, क्योंकि वे अपने इंटरैक्शन को औसत दर्जे का पाते हैं।

“वास्तविक चुनौती वास्तव में कुछ ऐसा बनाने के लिए है जो लोगों को नियमित रूप से इसका उपयोग करने के लिए अधिक रुचि लेने वाला हो, न कि यह केवल एक बार की बात है,” टेर्नोव्स्की ने वायर्ड के माध्यम से समझाया।