अर्जुन नारायण, स्मार्टन्यूज के ग्लोबल ट्रस्ट और सुरक्षा के प्रमुख – साक्षात्कार श्रृंखला

अर्जुन नारायण, स्मार्टन्यूज के ग्लोबल ट्रस्ट और सुरक्षा के प्रमुख हैं, जो एक समाचार संग्रहकर्ता ऐप है, और वह एआई नैतिकता और तकनीक नीति विशेषज्ञ भी हैं। स्मार्टन्यूज एआई और मानव संपादकीय टीम का उपयोग करता है क्योंकि यह पाठकों के लिए समाचार एकत्र करता है।

आप गूगल के ट्रस्ट और सुरक्षा एशिया पैसिफिक हब की स्थापना में मदद करने में महत्वपूर्ण थे, इस अनुभव से आपके द्वारा सीखे गए कुछ प्रमुख सबक क्या थे?

जब ट्रस्ट और सुरक्षा टीमों का निर्माण किया जाता है, तो देश-स्तर की विशेषज्ञता महत्वपूर्ण है क्योंकि दुर्व्यवहार देश के अनुसार बहुत अलग होता है। उदाहरण के लिए, जापान में गूगल उत्पादों का दुरुपयोग दक्षिण पूर्व एशिया और भारत में उनके दुरुपयोग से अलग था। इसका मतलब है कि दुर्व्यवहार वेक्टर देश के अनुसार बहुत अलग होते हैं और इसका कोई एकमात्र तरीका नहीं है। यह कुछ ऐसा था जिसे हमने जल्दी से सीखा।
मैंने यह भी सीखा कि ट्रस्ट और सुरक्षा टीमों का निर्माण विदेश में सांस्कृतिक विविधता बहुत महत्वपूर्ण है। गूगल में, हमने सुनिश्चित किया कि हमारे पास जिन लोगों को हमने नियुक्त किया था, उनमें पर्याप्त सांस्कृतिक विविधता और समझ थी। हम विशिष्ट डोमेन विशेषज्ञता वाले लोगों की तलाश में थे, लेकिन साथ ही भाषा और बाजार विशेषज्ञता भी।
मैंने सांस्कृतिक डूबने को भी बहुत महत्वपूर्ण पाया। जब हम सीमाओं के पार ट्रस्ट और सुरक्षा टीमों का निर्माण कर रहे थे, तो हमें यह सुनिश्चित करने की आवश्यकता थी कि हमारी इंजीनियरिंग और व्यवसाय टीमें मुद्दों के करीब हो सकती हैं जिन्हें हम प्रबंधित करने की कोशिश कर रहे थे। इसके लिए, हमने प्रमुख कर्मियों के साथ तिमाही डूबने के सत्र किए, और इससे हर किसी की सांस्कृतिक बुद्धिमत्ता बढ़ी।
अंत में, सांस्कृतिक समझ बहुत महत्वपूर्ण थी। मैंने जापान, ऑस्ट्रेलिया, भारत और दक्षिण पूर्व एशिया में एक टीम का प्रबंधन किया, और वे एक दूसरे के साथ कैसे बातचीत करते थे, यह बहुत अलग था। एक नेता के रूप में, आप यह सुनिश्चित करना चाहते हैं कि हर कोई अपनी आवाज़ पा सके। अंततः, यह सभी एक उच्च-प्रदर्शन वाली टीम बनाने के लिए डिज़ाइन किया गया है जो संवेदनशील कार्यों जैसे ट्रस्ट और सुरक्षा को निष्पादित कर सकती है।

पहले, आप टिक्टॉक एप्लिकेशन के लिए बाइटडांस के साथ ट्रस्ट और सुरक्षा टीम में भी थे, अक्सर एक मिनट से कम समय के वीडियो को सुरक्षा के लिए कैसे प्रभावी ढंग से निगरानी की जाती है?

मैं इस प्रश्न को थोड़ा पुनर्गठित करना चाहता हूं, क्योंकि यह वास्तव में महत्वपूर्ण नहीं है कि एक वीडियो लंबा या छोटा है। यह हमारे लिए वीडियो सुरक्षा का मूल्यांकन करते समय एक कारक नहीं है, और वीडियो की लंबाई का वास्तव में कोई वजन नहीं है कि यह दुर्व्यवहार फैला सकता है या नहीं।
जब मैं दुर्व्यवहार के बारे में सोचता हूं, तो मैं दुर्व्यवहार को “मुद्दों” के रूप में सोचता हूं। उपयोगकर्ता किस प्रकार के मुद्दों के प्रति संवेदनशील हो सकते हैं? गलत सूचना? दुष्प्रचार? चाहे वह वीडियो 1 मिनट या 1 घंटे का हो, अभी भी गलत सूचना साझा की जा रही है और दुर्व्यवहार का स्तर समान रहता है।
मुद्दे के प्रकार के आधार पर, आप नीति प्रवर्तन और सुरक्षा गार्डरेल के बारे में सोचना शुरू करते हैं और आप संवेदनशील उपयोगकर्ताओं की रक्षा कैसे कर सकते हैं। उदाहरण के लिए, मान लें कि किसी व्यक्ति द्वारा आत्महत्या करने का वीडियो है। जब हमें यह सूचना मिलती है कि यह वीडियो मौजूद है, तो हमें तत्काल कार्रवाई करनी चाहिए, क्योंकि किसी की जान जा सकती है। हम मशीन लर्निंग पर बहुत अधिक निर्भर करते हैं ताकि इस प्रकार का पता लगाया जा सके।
इसके बाद, हम अधिकारियों से संपर्क करने का प्रयास करते हैं ताकि हम उस जीवन को बचा सकें। उसके बाद, हम वीडियो, लाइवस्ट्रीम, या जिस प्रारूप में यह साझा किया जा रहा है, उसे निलंबित करने का लक्ष्य रखते हैं। हमें यह सुनिश्चित करने की आवश्यकता है कि हम इस प्रकार की हानिकारक सामग्री के संपर्क में कम से कम समय तक रखें।
इसी तरह, यदि यह नफ़रत भरा भाषण है, तो इसके लिए अलग-अलग तरीके हैं। या धमकी और उत्पीड़न के मामले में, यह मुद्दे के प्रकार पर निर्भर करता है, और उसके आधार पर, हम अपने प्रवर्तन विकल्पों और सुरक्षा गार्डरेल को समायोजित करेंगे। एक और उदाहरण एक अच्छी सुरक्षा गार्डरेल का है जिसे हमने लागू किया था, जो मशीन लर्निंग थी जो यह पता लगा सकती थी कि जब कोई व्यक्ति टिप्पणियों में कुछ अनुचित लिखता है और उन्हें सोचते हुए एक प्रॉम्प्ट देता है कि वे ऐसा कुछ साझा करने से पहले दो बार सोचें।
यह मशीन लर्निंग और कीवर्ड नियमों के संयोजन पर निर्भर करता है। लेकिन, लाइवस्ट्रीम के मामले में, हमारे पास मानव मॉडरेटर भी थे जो उन स्ट्रीमों की समीक्षा कर रहे थे जो एआई द्वारा फ्लैग किए गए थे ताकि वे तुरंत रिपोर्ट कर सकें और प्रोटोकॉल लागू कर सकें। क्योंकि वे वास्तविक समय में हो रहे हैं, यह पर्याप्त नहीं है कि उपयोगकर्ता रिपोर्ट करें, इसलिए हमें वास्तविक समय में मानवों की आवश्यकता है।

2021 से, आप स्मार्टन्यूज में ट्रस्ट, सुरक्षा और ग्राहक अनुभव के प्रमुख रहे हैं, एक समाचार संग्रहकर्ता ऐप। क्या आप बता सकते हैं कि स्मार्टन्यूज उच्च गुणवत्ता वाली समाचार सामग्री की पहचान और प्राथमिकता के लिए मशीन लर्निंग और प्राकृतिक भाषा प्रसंस्करण का लाभ कैसे उठाता है?

मुख्य अवधारणा यह है कि हमारे पास कुछ “नियम” या मशीन लर्निंग प्रौद्योगिकी है जो एक लेख या विज्ञापन को पार्स कर सकती है और समझ सकती है कि वह लेख क्या है।
जब भी कुछ हमारे “नियमों” का उल्लंघन करता है, तो हमारे पास मशीन लर्निंग है जो उस सामग्री को हमारी संपादकीय टीम के मानव समीक्षक को झंडा दिखाती है। उस चरण में, वे हमारे संपादकीय मूल्यों को समझते हैं और लेख की उपयुक्तता या गुणवत्ता के बारे में जल्दी से निर्णय ले सकते हैं। उसके बाद, कार्रवाई की जाती है ताकि उसे संबोधित किया जा सके।

स्मार्टन्यूज प्लेटफ़ॉर्म को सुरक्षित, समावेशी और निष्पक्ष बनाने के लिए एआई का उपयोग कैसे करता है?

स्मार्टन्यूज की स्थापना इस आधार पर की गई थी कि अति-व्यक्तिगतीकरण अच्छा है लेकिन यह हमें भी ध्रुवीकरण कर रहा है और हमें फ़िल्टर बबल में डाल रहा है।
स्मार्टन्यूज एआई का उपयोग एक अलग तरीके से करता है क्योंकि हम केवल इंगेजमेंट के लिए अनुकूलित नहीं हैं। हमारा एल्गोरिदम आपको समझना चाहता है, लेकिन यह आपकी पसंद के अनुसार अति-व्यक्तिगत नहीं है। इसका कारण यह है कि हम दृष्टिकोण को व्यापक बनाने में विश्वास करते हैं। हमारा एआई इंजन आपको संकल्पनाओं और लेखों से परिचित कराएगा जो केवल संबंधित अवधारणाओं से परे हैं।
यह विचार है कि लोगों को जानने के लिए कुछ चीजें हैं जो सार्वजनिक हित में हैं, और कुछ चीजें हैं जो लोगों को जानने की आवश्यकता है ताकि वे अपने दायरे को बढ़ा सकें। हम जो संतुलन बनाने की कोशिश करते हैं वह संदर्भ विश्लेषण प्रदान करना है बिना बड़े भाई की तरह।
कभी-कभी लोग हमारे एल्गोरिदम द्वारा अपनी फीड में रखे गए लेखों को पसंद नहीं करेंगे। जब ऐसा होता है, तो लोग उस लेख को पढ़ने का विकल्प चुन सकते हैं। हालांकि, हम अपने एआई इंजन की क्षमता पर गर्व करते हैं जो संयोग, जिज्ञासा, या जो कुछ भी आप इसे कहते हैं, को बढ़ावा देता है।
सुरक्षा के मामले में, स्मार्टन्यूज में एक “प्रकाशक स्कोर” है, जो एक एल्गोरिदम है जो निरंतर मूल्यांकन करता है कि क्या एक प्रकाशक सुरक्षित है या नहीं। अंततः, हम यह स्थापित करना चाहते हैं कि क्या एक प्रकाशक की एक अधिकारिता वाली आवाज़ है। उदाहरण के लिए, हम सभी सहमत हो सकते हैं कि ईएसपीएन खेलों पर एक अधिकारिता है। लेकिन, यदि आप ईएसपीएन सामग्री की प्रतिलिपि बनाने वाले एक यादृच्छिक ब्लॉग हैं, तो हमें यह सुनिश्चित करने की आवश्यकता है कि ईएसपीएन उस यादृच्छिक ब्लॉग की तुलना में उच्चतर रैंकिंग करे।
प्रकाशक स्कोर में मूलता, जब लेख पोस्ट किए गए थे, उपयोगकर्ता समीक्षा क्या दिखती है, आदि जैसे कारकों पर भी विचार किया जाता है। यह अंततः कई कारकों के स्पेक्ट्रम का एक संयोजन है जिसे हम विचार करते हैं।
एक चीज जो सब कुछ को पार करती है वह यह है कि “उपयोगकर्ता क्या पढ़ना चाहता है?” यदि उपयोगकर्ता क्लिकबेट लेख देखना चाहता है, तो हम उन्हें रोकेंगे नहीं यदि यह अवैध नहीं है या हमारे दिशानिर्देशों का उल्लंघन नहीं करता है। हम उपयोगकर्ता पर थोपते नहीं हैं, लेकिन यदि कुछ असुरक्षित या अनुचित है, तो हमारे पास अपना कर्तव्य है कि हम फीड में कुछ हिट करने से पहले अपना कर्तव्य करते हैं।

पत्रकारों द्वारा सामग्री के उत्पादन में सहायता के लिए जनरेटिव एआई का उपयोग करने के बारे में आपके विचार क्या हैं?

मुझे लगता है कि यह प्रश्न एक नैतिक है, और यह कुछ ऐसा है जिस पर हम स्मार्टन्यूज में वर्तमान में बहस कर रहे हैं। स्मार्टन्यूज को जनरेटिव एआई द्वारा बनाई गई सामग्री को प्रकाशकों द्वारा प्रस्तुत करने के बजाय पत्रकारों द्वारा लिखे जाने के बजाय कैसे देखना चाहिए?
मुझे लगता है कि ट्रेन आधिकारिक तौर पर स्टेशन से बाहर निकल गई है। आज, पत्रकार अपने लेखन को बढ़ाने के लिए एआई का उपयोग कर रहे हैं। यह एक पैमाने का एक कार्य है, हम व्यावसायिक रूप से व्यवहार्य दर पर लेख उत्पन्न करने के लिए समय नहीं है, खासकर जब समाचार संगठन लगातार कर्मचारियों में कटौती कर रहे हैं। प्रश्न तब यह बन जाता है कि इसमें कितनी रचनात्मकता जाती है? क्या लेख पत्रकार द्वारा पोलिश किया गया है? या क्या पत्रकार पूरी तरह से निर्भर हैं?
इस बिंदु पर, जनरेटिव एआई तोड़फोड़ समाचार घटनाओं पर लेख लिखने में सक्षम नहीं है क्योंकि इसके लिए प्रशिक्षण डेटा नहीं है। हालांकि, यह आपको एक अच्छा सामान्य टेम्पलेट दे सकता है जिससे करने के लिए। उदाहरण के लिए, स्कूल की शूटिंग इतनी आम है कि हम मान सकते हैं कि जनरेटिव एआई एक पत्रकार को स्कूल शूटिंग पर एक प्रॉम्प्ट दे सकता है और एक पत्रकार प्रभावित स्कूल को प्राप्त करने के लिए एक पूर्ण टेम्पलेट प्राप्त कर सकता है।
मेरे दृष्टिकोण से, स्मार्टन्यूज के साथ काम करते हुए, दो सिद्धांत हैं जो विचार करने योग्य हैं। पहले, हम चाहते हैं कि प्रकाशक हमें बताएं जब सामग्री एआई द्वारा उत्पन्न की जाती है, और हम इसे ऐसा लेबल करना चाहते हैं। इससे जब लोग लेख पढ़ रहे होते हैं, तो वे यह नहीं सोचते कि किसने लेख लिखा है। यह उच्चतम क्रम की पारदर्शिता है।
दूसरा, हम चाहते हैं कि लेख तथ्यात्मक रूप से सही हो। हम जानते हैं कि जनरेटिव एआई अक्सर चीजों को बनाता है जब यह चाहता है, और जनरेटिव एआई द्वारा लिखा गया कोई भी लेख एक पत्रकार या संपादकीय कर्मचारी द्वारा प्रूफरीड किया जाना चाहिए।

आपने पहले तकनीकी मंचों के लिए तर्क दिया था कि डिजिटल विषाक्तता से लड़ने के लिए सामान्य मानक बनाने के लिए एकजुट होना चाहिए, यह मुद्दा कितना महत्वपूर्ण है?

मुझे लगता है कि यह मुद्दा महत्वपूर्ण है, न केवल नैतिक रूप से कंपनियों के लिए, बल्कि गरिमा और सभ्यता के स्तर को बनाए रखने के लिए। मेरे विचार में, मंचों को एक साथ आना चाहिए और कुछ मानक विकसित करना चाहिए ताकि यह मानवता बनी रहे।
उदाहरण के लिए, कोई भी कभी भी अपनी जान लेने के लिए प्रोत्साहित नहीं किया जाना चाहिए, लेकिन कुछ स्थितियों में, हम इस प्रकार के दुर्व्यवहार को मंचों पर पाते हैं, और मुझे लगता है कि यह कुछ ऐसा है जिसके खिलाफ कंपनियां एक साथ आनी चाहिए।
अंततः, जब यह मानवता की समस्याओं की बात आती है, तो प्रतियोगिता नहीं होनी चाहिए। यहां तक कि सुरक्षित या सबसे स्वच्छ समुदाय के बारे में प्रतियोगिता भी नहीं होनी चाहिए – हमें यह सुनिश्चित करने का लक्ष्य रखना चाहिए कि हमारे उपयोगकर्ता सुरक्षित और समझ में आ रहे हैं। आइए विशेषताओं पर प्रतिस्पर्धा करें, शोषण पर नहीं।

डिजिटल कंपनियां एक साथ काम करने के कुछ तरीके क्या हैं?

कंपनियों को एक साथ आना चाहिए जब साझा मूल्य और सहयोग की संभावना हो। हमेशा कंपनियों और उद्योगों के बीच अंतराल होते हैं, खासकर जब दुर्व्यवहार से लड़ने, मंचों में सभ्यता सुनिश्चित करने, या ध्रुवीकरण को कम करने की बात आती है। ये ऐसे क्षण हैं जब कंपनियों को एक साथ काम करना चाहिए।
बेशक, एक व्यावसायिक कोण है जिसमें प्रतियोगिता है, और आमतौर पर प्रतियोगिता ताकत और कंपनियों और एकाधिकार के बीच भेदभाव प्रदान करने में मदद करती है जो समाधान प्रदान नहीं कर सकती है।
लेकिन, जब उपयोगकर्ताओं की रक्षा करने की बात आती है, या सभ्यता को बढ़ावा देने, या दुर्व्यवहार को कम करने की बात आती है, तो ये ऐसे विषय हैं जो हमारे लिए मानव मूल्यों और स्वतंत्र दुनिया को बनाए रखने के लिए कोर हैं। मेरे विचार में, सभी मंचों को मानव मूल्यों और स्वतंत्र दुनिया की रक्षा के लिए सहयोग करने की जिम्मेदारी है।

जिम्मेदार एआई के बारे में आपके वर्तमान विचार क्या हैं?

हम अपने जीवन में कुछ बहुत ही व्यापक की शुरुआत में हैं। इस जनरेटिव एआई का अगला चरण एक समस्या है जिसे हम पूरी तरह से नहीं समझते हैं या केवल आंशिक रूप से समझते हैं।
जिम्मेदार एआई के लिए, यह बहुत महत्वपूर्ण है कि हम मजबूत गार्डरेल विकसित करें या हम एक जनरेटिव एआई प्रौद्योगिकियों के फ्रैंकस्टीन के साथ समाप्त हो सकते हैं। हमें उन सभी चीजों के बारे में सोचने में समय बिताने की आवश्यकता है जो गलत हो सकती हैं। चाहे वह एल्गोरिदम में पूर्वाग्रह हो या बड़े भाषा मॉडल खुद को गलत लोगों द्वारा दुर्भाग्यपूर्ण कार्यों को करने के लिए उपयोग किया जा रहा है।
प्रौद्योगिकी स्वयं अच्छी या बुरी नहीं है, लेकिन यह बुरे लोगों द्वारा बुरे काम करने के लिए उपयोग किया जा सकता है। यही कारण है कि एआई नैतिकविदों में निवेश करना और विरोधी परीक्षण करना महत्वपूर्ण है ताकि हम डिजाइन दोषों को समझ सकें और दुर्व्यवहार को रोकने के लिए कैसे समझें।
क्योंकि एआई अभी तक स्वयं नहीं सोच सकता है, हमें उन लोगों की आवश्यकता है जो डिफ़ॉल्ट बना सकते हैं जब एआई को प्रोग्राम किया जा रहा हो। वर्तमान में विचार करने योग्य सबसे महत्वपूर्ण पहलू समय है – हमें इन सकारात्मक अभिनेताओं को अब करने की आवश्यकता है इससे पहले कि यह बहुत देर हो जाए।
अन्य प्रणालियों की तुलना में जिन्हें हमने अतीत में डिज़ाइन और निर्मित किया है, एआई अलग है क्योंकि यह स्वयं दोहरा सकता है और सीख सकता है, इसलिए यदि आप इसे सीखने के लिए मजबूत गार्डरेल नहीं सेट करते हैं, तो हम यह नियंत्रित नहीं कर सकते कि यह क्या बन सकता है।
वर्तमान में, हम देख रहे हैं कि बड़ी कंपनियां बड़े पैमाने पर छंटनी के हिस्से के रूप में नैतिक बोर्ड और जिम्मेदार एआई टीमों को बरकरार रख रही हैं। यह देखना बाकी है कि ये प्रौद्योगिकी प्रमुख इस प्रौद्योगिकी और एआई के संभावित पतन को अपने निर्णय लेने में कितनी गंभीरता से ले रहे हैं।

स्मार्टन्यूज के साथ आपके काम के बारे में और क्या है जो आप साझा करना चाहेंगे?

मैं स्मार्टन्यूज में शामिल हुआ क्योंकि मैं इसके मिशन में विश्वास करता हूं, मिशन में एक निश्चित शुद्धता है। मुझे मजबूती से लगता है कि दुनिया अधिक ध्रुवीकृत हो रही है, और आज पर्याप्त मीडिया साक्षरता नहीं है जो इस प्रवृत्ति से निपटने में मदद कर सकती है।
दुर्भाग्य से, बहुत से लोग हैं जो व्हाट्सएप संदेशों को सीधे स्वीकार करते हैं और उन पर विश्वास करते हैं। इससे बड़े परिणाम हो सकते हैं, जिनमें हिंसा भी शामिल है।
यह सभी इस बात पर नीचे आता है कि लोगों को यह नहीं पता है कि वे क्या विश्वास कर सकते हैं और क्या नहीं। यदि हम लोगों को शिक्षित नहीं करते हैं या उन्हें यह तय करने में मदद नहीं करते हैं कि वे क्या खपत कर रहे हैं, तो हम समस्या को बढ़ावा देते रहेंगे और इतिहास ने हमें जो नहीं करना सिखाया है उसे बढ़ावा देते रहेंगे।
स्मार्टन्यूज में मेरे काम के सबसे महत्वपूर्ण घटकों में से एक दुनिया में ध्रुवीकरण को कम करने में मदद करना है। मैं संस्थापक के मिशन को पूरा करना चाहता हूं ताकि मीडिया साक्षरता में सुधार किया जा सके जहां वे समझ सकें कि वे क्या खपत कर रहे हैं और दुनिया और इसके विविध दृष्टिकोणों के बारे में सूचित राय बना सकें।
साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं या एक अलग प्रकार का समाचार ऐप आजमाना चाहते हैं उन्हें स्मार्टन्यूज पर जाना चाहिए।