सीन गोर्ले, प्राइमर के सीईओ और संस्थापक – साक्षात्कार श्रृंखला

सीन गोर्ले प्राइमर के सीईओ और संस्थापक हैं, जो सरकारी एजेंसियों, वित्तीय संस्थानों, फॉर्च्यून 50 कंपनियों और कई अन्य संगठनों के लिए औद्योगिक-ग्रेड प्राकृतिक भाषा प्रसंस्करण (एनएलपी) अनुप्रयोग प्रदान करता है।

प्राइमर के प्राथमिक उपयोग मामलों में से एक यह है कि लोगों को भ्रामक अभियानों का पता लगाने, समझने और प्रतिक्रिया देने में मदद करना। इन सेवाओं को बढ़ाने के प्रयास में, प्राइमर ने हाल ही में भ्रामक हमलों से निपटने की अपनी क्षमता को बढ़ाने के लिए योंडर का अधिग्रहण किया है।

हमने हाल ही में लास वेगास में आयोजित एआई४ सम्मेलन में सीन से भ्रामक जानकारी के बारे में बात की। सीन भ्रामक अभियानों और सरकारी प्रचार के बारे में जानकारी का खजाना है, और नीचे हमारा साक्षात्कार है।

आपको भ्रामक पारिस्थितिकी तंत्र के बारे में सीखने और समझने की ओर क्या आकर्षित किया?

मैंने थोड़ा उच्च आवृत्ति व्यापार के बारे में बात की, और यह दिलचस्प था। मैं उस जगह के माध्यम से देख रहा था, और यह एक पूरी तरह से एल्गोरिदम की जगह थी जो दुनिया में कुछ होने की कोशिश कर रही थी और फिर इसका व्यापार कर रही थी। और यह प्रारंभिक था। यह 2012 में था, और हम शोर को उठा रहे थे।

वे गलत पढ़ रहे थे या संकेतों को गलत तरीके से व्याख्या कर रहे थे। और फिर एक ट्वीट आया, जो कि एपी को हैक किया गया था। और उनके ट्विटर अकाउंट ने कहा, “ब्रेकिंग: व्हाइट हाउस विस्फोट, बाराक ओबामा घायल।” और फिर बाजार ने उस जानकारी को लिया और गिर गया, लगभग 130 अरब डॉलर का नुकसान हुआ। अब मुझे नहीं पता कि क्या यह बाजार को चलाने के लिए था, या क्या यह केवल अराजकता पैदा करने के लिए था, या क्या यह कुछ और करने के लिए था, लेकिन यह बस उस समय का संबंध था, मैं ऐसा था, “वाह।” यह एक प्रकार का प्रभाव था जो एक छोटी सी चीज से आया था।

मैंने उसे देखा, और इससे मुझे और गहराई से देखने की प्रेरणा मिली। और मैंने देखा कि मексिको के बॉट, मексिकी खाते थे जो दावा कर रहे थे कि पत्रकारों को ड्रग कार्टेल द्वारा नहीं मारा गया था। और यह 2013 की बात थी। और मैं ऐसा था, “ओह मेरे भगवान, आपके पास गैर-राज्य अभिनेता हैं, ड्रग कार्टेल, जो इस तरह की चीज में शामिल हैं और एक कथा की लड़ाई बनाने की कोशिश कर रहे हैं। और यह लगता है कि वे जीत रहे हैं।” और मैं ऐसा था, “यह तो राज्य अभिनेता नहीं हैं।” और उस समय मैंने कहा, “अगर एक राज्य अभिनेता इसके हाथ में आता है, तो यह कैसा दिखेगा और यह क्या करेगा?” और फिर मैंने 2015 में वायर्ड में एक लेख लिखा। यह वास्तव में 2014 के अंत में लिखा गया था, लेकिन यह 2015 के लिए भविष्यवाणियों के बारे में था। और मैंने कहा, “यह वह वर्ष होगा जब बॉट चुनावों पर कब्जा कर लेंगे और उन्हें नियंत्रित करेंगे।”

और यह बहुत ही सटीक साबित हुआ, शायद मेरी अपेक्षा से भी अधिक। लेकिन यह बस उस प्रौद्योगिकी के आर्क को देखने की बात थी, और हम देख रहे थे कि इनमें से बहुत सी तकनीकें कितनी प्रारंभिक थीं। यह बहुत ही प्रारंभिक था। इसलिए यह सब एक साथ आने लगा, और फिर हमें यह जगह मिली जिसमें हम हैं, जो यह है कि आप केवल जानकारी के प्रति बार-बार एक्सपोजर के माध्यम से कथाओं को नियंत्रित कर सकते हैं।

क्या आप मानते हैं कि क्या कोई चुनाव हुआ है जो इस प्रकार की भ्रामक जानकारी से प्रभावित हुआ है, या क्या कोई भविष्य का चुनाव प्रभावित हो सकता है?

इसे वापस फ्रेम करने के लिए। पहली बात यह है कि हमने बहुत संकीर्ण दृष्टिकोण लिया है, जो यह है कि भ्रामक जानकारी वास्तविक नहीं है। और मुझे लगता है कि यह बहुत संकीर्ण है। हमें इसे विस्तारित करने की आवश्यकता है कि कौन सी कथाएं नियंत्रित कर रही हैं। अभी कथा वास्तविक हो सकती है, लेकिन यह महत्वपूर्ण नहीं हो सकती है।

हम एक कहानी ले सकते हैं कि अगर आप अपराध के बारे में चिंतित हैं, तो हम सभी अपराधों को सभी चैनलों पर प्रसारित कर सकते हैं, और आप वापस आएंगे और सोचेंगे कि आपका शहर सबसे भयानक अपराध लहर से गुजर रहा है जो यह कभी देखा है। और सभी आपने किया है कि पहले आपके रडार पर नहीं था, और अब आपके सिस्टम में डाल दिया है।

अब आप सोचेंगे कि अपराध वास्तव में अधिक है, लेकिन यह नहीं बदला है। लेकिन आप अधिक एक्सपोजर के अधीन हैं। तो यह नहीं है कि क्या अपराध हुआ या नहीं, यह है कि क्या यह आपके ध्यान के लिए लड़ रहा है। तो यह एक टुकड़ा है। हम इस बात में फंस जाते हैं कि क्या यह हुआ या नहीं। जैसे कि यह लड़ाई है। लेकिन लड़ाई वास्तव में लोगों के विश्वदृष्टिकोण के लिए है।

दूसरा टुकड़ा यह है कि आप इसे कितना प्रभावित कर सकते हैं। खैर, अगर आपके पास किसी चीज के बारे में एक धारणा नहीं है, तो अगर मैं आपको बताऊं कि यह सच है, तो आप तीन गुना अधिक मानेंगे कि यह सच है, अगर कोई और आता है और आपको बताता है कि यह झूठ है। तो जो पहले संदेश के साथ आता है वह आपको मानने का सबसे अच्छा मौका है, अगर आपने पहले इसके बारे में कोई राय नहीं बनाई है।

तो क्या यह मानव मस्तिष्क में पूर्वाग्रह है जो इसके लिए कमजोर है?

यह मानव मस्तिष्क में पूर्वाग्रह है। दूसरी बात, यहां तक कि अगर आप जानते हैं कि जानकारी झूठी है, तो अगर आप इसके संपर्क में आते हैं, तो आप इसे मानने की अधिक संभावना है, भले ही आप जानते हैं कि यह झूठा है। तो जानकारी की पुनरावृत्ति है। पहली जानकारी जब आपके पास पहले से कोई राय नहीं थी। और फिर दूसरी बात जो हम जानते हैं, वह यह है कि अगर आपको यह स्वतंत्र स्रोतों से मिलता है, तो आप इसे अधिक भरोसा करते हैं, और अगर आपको अपने दोस्त नेटवर्क से मिलता है, तो आप इसे अधिक भरोसा करते हैं, यह एक संबद्धता विधि बन जाती है। और हम जानते हैं कि लगभग 25% एक टिपिंग पॉइंट है, अगर 25% लोग कुछ मानने लगते हैं, तो यह एक बड़ा टिपिंग पॉइंट बन जाता है जिससे 75% या 80% लोग मानने लगते हैं।

तो यह सब विचारों के गठन, और समूहों के बीच सहमति के यांत्रिकी के बारे में है। गणित की एक शाखा है जो इसे अध्ययन कर रही है, और आप साहित्य में जा सकते हैं और इन मॉडलों को समझ सकते हैं कि विचार कैसे बनते हैं, प्रसारित होते हैं और अपनाए जाते हैं।

आप इन प्रणालियों को इंजीनियर कर सकते हैं यदि आप ऐसा चुनते हैं। और यह वही है जो लोग करना शुरू कर रहे हैं। मुझे नहीं लगता कि वे बहुत परिष्कृत हैं। लेकिन देखें, चीन एक एआई सुपरपावर है। वे जानते हैं कि जानकारी के युद्ध जीतने के लिए ताइवान के आसपास की गतिविधियों में यह बहुत महत्वपूर्ण है। हमें उम्मीद करनी चाहिए कि वे प्रौद्योगिकी की अनुमति देने वाले हर कदम को उठाएंगे, इस संघर्ष में शामिल होंगे और जीतेंगे।

हम जानते हैं कि मनुष्य इस तरह से कैसे शिकार होते हैं, लेकिन एक एआई कैसे जड़ सच्चाई का पता लगाता है?

हमें इस बात से दूर जाने की जरूरत है कि क्या सच है और क्या नहीं। क्योंकि हमने कहा, देखें, एक एआई यह निर्धारित कर सकता है कि हां, यह अपराध हुआ, लेकिन इससे कोई फर्क नहीं पड़ता। यह वह नहीं है जो मायने रखता है। आप अब मानते हैं कि आपके शहर में एक बड़ी अपराध लहर है और इसके बारे में कुछ करने की जरूरत है। सही? और ताइवान के बारे में जड़ सच्चाई क्या है, चीन के साथ इसका संबंध क्या है? मैं इसके बारे में历史 रूप से बहस कर सकता हूं, लेकिन क्या एआई जानता है? क्या हम जानते हैं कि यह कहां है?

हम जानते हैं कि यह एक अपेक्षाकृत विभाजित मुद्दा है। और संयुक्त राज्य अमेरिका और ताइवान के पास विश्वास प्रणाली हैं। चीन के पास एक अलग विश्वास प्रणाली है। एआई का काम यह नहीं है कि यह तय करे कि कौन सा पक्ष सही है। एआई का काम यह है कि यह पता लगाए कि क्या किसी ने आपको एक पक्ष या दूसरे पक्ष पर विश्वास करने के लिए सक्रिय रूप से प्रभावित करने की कोशिश की है।

और यह दूसरी बात है, लोग कृत्रिम बुद्धिमत्ता का उपयोग करके आपको एक पक्ष या दूसरे पक्ष पर विश्वास करने के लिए प्रभावित करने की कोशिश करेंगे, पहले विश्वास को प्राप्त करने, बार-बार एक्सपोजर को प्राप्त करने, स्वतंत्र आवाजों को प्राप्त करने, आपके प्रभाव नेटवर्क को नियंत्रित करने और 25% को चुनने के तरीकों का उपयोग करके। ये सभी तकनीकें हैं जिन्हें एआई बढ़ा सकता है, और एआई भी इनका बचाव कर सकता है। लेकिन हमें यह बात छोड़नी होगी कि क्या एआई सच्चाई का पता लगा सकता है, क्योंकि अक्सर सच्चाई Less महत्वपूर्ण होती है कथा की लड़ाई से।

और प्राइमर इस में कैसे मदद करता है?

मुख्य रूप से यह निगरानी और पता लगाने पर है। एक चीज जो उभरती है वह यह है कि हम अक्सर भ्रामक अभियानों के बारे में पहली बार तब सुनते हैं जब वे हुए होते हैं छह महीने।

इसका अर्थ है कि हम वास्तविक समय में इसे पकड़ नहीं पा रहे हैं?

खैर, यह वास्तविक समय में नहीं है। यह अगर हम किनेटिक चीज में हैं, मिसाइलें सीमा पर चली गई हैं, और छह महीने बाद हमें पता चलता है कि उन पर हमला किया गया है। यह वह जगह है जहां हम हैं। हमारे पास भ्रामक जानकारी या जानकारी अभियानों के आसपास निगरानी और टोही में एक बड़ा अंतर है। अगर कोई जानकारी अभियान चलाया गया है, तो हमें वास्तविक समय या लगभग वास्तविक समय में इसकी जानकारी प्राप्त करने की आवश्यकता है, क्या इसके पीछे क्या है, क्या इसके पीछे क्या है, और हमें इसे एक ऐसी जगह पर रखने की आवश्यकता है जहां हम शुरू कर सकते हैं इन बॉट नेटवर्क को बंद करने के लिए काम करें या जानकारी के प्रसार को सीमित करने के लिए।

और चीन के बारे में आपकी क्या राय है जो दुनिया में सबसे बड़ा खतरा है?

यह दुनिया में एक बड़ा प्रश्न है। हम जानते हैं कि हम चीन के साथ एक एआई हथियारों की दौड़ में हैं, क्योंकि इसका विजेता एक बहुत ही प्रमुख सैन्य लाभ होगा जो दूसरे स्थान पर होगा। तो चीन एआई के घटकों को बहुत आक्रामक रूप से आगे बढ़ाएगा। दूसरी बात यह है कि चिप निर्माण और उन्नत जीपीयू का प्रमुखता, जो ताइवान के पास है। और मुझे लगता है कि अगर चीन इसके पास है, तो वे एआई हथियारों की दौड़ में एक बहुत ही प्रमुख स्थिति में होंगे।

अब, अगर चीन इसे बल से लेता है, तो संभावना है कि वे इन क्षमताओं को नष्ट कर देंगे, या वे ताइवान द्वारा नष्ट हो जाएंगे। जो कि चीन के लिए ठीक होगा। वैश्विक स्तर पर बहुत बड़ा व्यवधान होगा, लेकिन यह चीन के लिए बहुत बड़ा मुद्दा नहीं होगा। लेकिन अगर वे इसे पूरा ले सकते हैं, तो यह उनके लिए एक बड़ा लाभ होगा। और आप इसे कैसे करते हैं? जैसा कि हमने हांगकांग में देखा है, यह “आप वास्तव में हमारे साथ हैं” है। और आप दुनिया को यह विश्वास दिलाने की कोशिश करते हैं कि वे वास्तव में आपके साथ हैं। और अगर आप उस विश्वास या राय के खिलाफ जाने की कोशिश करते हैं, तो आर्थिक या अन्य मुद्दे होंगे।

तो चीन जो कर रहा है वह एक वैश्विक प्रभाव अभियान है ताइवान को चीन का हिस्सा बताने के लिए, और ताइवान के लोगों को यह विश्वास दिलाने के लिए कि वे चीन का हिस्सा हैं। और अगर वे ऐसा कर सकते हैं, तो suddenly चीन के पास केक है और वे इसे खा सकते हैं।

तो हम यह देखेंगे कि चीन ताइवान के बारे में दुनिया को यह विश्वास दिलाने के लिए कथा जानकारी अभियान चला रहा है कि यह चीन का हिस्सा है। और यह हाउस इंटेलिजेंस कमिटी द्वारा मान्यता प्राप्त है। जैसा कि उन्होंने अपने इंटेलिजेंस ऑथराइजेशन एक्ट में कहा है, उन्होंने विशेष रूप से चीनी प्रभाव अभियानों का पता लगाने के तरीकों को बुलाया है कैरेबियन, दक्षिण अमेरिका, मध्य अमेरिका में।

यह खुफिया समुदाय के लिए एक विशिष्ट कॉल आउट है कि वे इस पर काम करें। इंटेलिजेंस ऑथराइजेशन एक्ट ने चीनी प्रभाव अभियानों का मुकाबला करने के लिए कृत्रिम बुद्धिमत्ता को अपनाने, वाणिज्यिक ऑफ-द-शेल्फ प्रौद्योगिकियों का उपयोग करने और नो-कोड वातावरण को तैनात करने की क्षमता को भी बुलाया है। हिल से कुछ वास्तव में निर्माणकारी चीजें आ रही हैं। कुछ टुकड़े खुले और पढ़ने के लिए उपलब्ध हैं, जो चीनी भ्रामक अभियानों का मुकाबला करने के बारे में बहुत दिलचस्प हैं, विशेष रूप से दक्षिण अमेरिका, मध्य अमेरिका और कैरेबियन में।

आपको लगता है कि यूट्यूब, फेसबुक, ट्विटर और टिकटॉक जैसे रिकमेंडर इंजन इस झूठी कथा को बढ़ावा देने में कितनी भूमिका निभाते हैं?

चीन के बारे में एक बात जो हम जानते हैं वह यह है कि उन्होंने फेसबुक को आने से रोक दिया। फेसबुक चीन में गया था। 2012 में मार्क जुकरबर्ग ने कहा, “मैं मंदारिन सीखने जा रहा हूं। यह चीन के बारे में है।” चीन ने कहा, “हम आपको आने देंगे, और अब अलविदा।”

क्योंकि चीन ने सोचा था, “हम आपको अपनी आबादी की जानकारी फीड को नियंत्रित करने देंगे। हमने बहुत मेहनत से काम किया है कि हम अपनी आबादी को क्या देते हैं। हम आपको आने देंगे, हम सीखेंगे, और फिर आप जाएंगे।” तो फेसबुक अब वहां नहीं है।

तो सीसीपी ने जानकारी को नियंत्रित करने के बारे में एक स्पष्ट निर्णय लिया। अब, एक अधिनायकवादी शासन के रूप में, आपके पास यह नियंत्रण है। “आप इन विचारों के बारे में नहीं सोचेंगे। आप इन चीजों को नहीं कहेंगे। आप यह नहीं करेंगे।” एक उदार लोकतंत्र के रूप में, हमें विचार-विमर्श और विचारों के आदान-प्रदान में शामिल होने की आवश्यकता है, एक अपेक्षाकृत खुले और स्वतंत्र स्थान में। वहां कुछ सीमाएं हैं, लेकिन वे किनारों पर हैं। तो चीन ने जानकारी को नियंत्रित करने में सक्षम था, संयुक्त राज्य अमेरिका ऐसा नहीं कर सकता है, क्योंकि यह एक लोकतंत्र है। हमें जानकारी की गंदगी को खुद से लड़ने देना होगा। जो हमें इस प्रकार के जानकारी हमलों के लिए कमजोर बनाता है।

मुझे लगता है कि यह एक बड़ा मुद्दा है जिसका सामना हमें करना होगा। और इसका पहला प्रोटोकॉल यह है कि जल्दी से पहचानें कि क्या उनका जानकारी अभियान प्लेटफ़ॉर्म पर चल रहा है, इसे सिस्टम को अलर्ट करें, कम से कम जानकारी के प्रसार को सीमित करने के लिए। और सिफारिश के इस पक्ष में… यह अभी तक नहीं है कि अमेरिकी कंपनियों द्वारा दुर्भाग्यपूर्ण रूप से इसका उपयोग किया गया है। मुझे लगता है कि यह नहीं है जहां यह है। क्या यह एक बाहरी कंपनी द्वारा दुर्भाग्यपूर्ण रूप से उपयोग किया जा सकता है? हां, संभावित रूप से। अगर आप किसी के साथ युद्ध में हैं, और उनके पास एक जानकारी नेटवर्क है जो आपकी आबादी को कथाएं दे रहा है, तो क्या आप उन पर निष्पक्ष और निरपेक्ष होने के लिए भरोसा करेंगे?

वीके और रूस के साथ जो हुआ है, वह यह है कि उन्होंने कहा, “आप यूक्रेन में मारे गए लोगों की तस्वीरें नहीं डालेंगे। यह प्रतिबंधित है। और हम पश्चिमी नेटवर्क से जानकारी के प्रसार को रोकने के लिए एक जानकारी दीवार बनाएंगे।” तो जब संघर्ष शुरू होता है, तो लोग ऐसी बाधाएं बनाते हैं जो कहते हैं कि “आपके पास हमारी आबादी पर प्रभाव का नियंत्रण नहीं होगा।”

तो मुझे लगता है कि पाठ्यपुस्तक चीज यह है कि यह तीन या चार सप्ताह ले सकता है। वीके के लिए यह करने में समय लगा। वहां एक खिड़की थी जहां मुझे लगता है कि यह अपेक्षाकृत खुला था, लेकिन फिर उन्होंने इसे बंद कर दिया, क्योंकि उन्हें एहसास हुआ कि अगर आप अपनी आबादी की कथा को नियंत्रित नहीं करते हैं, और अगर आप उन्हें यूक्रेन में नागरिक आबादी पर हमलों और मिसाइलों के नुकसान को देखने देते हैं, तो शायद वे और लड़ना नहीं चाहेंगे।

मुझे लगता है कि हम यूक्रेन के बारे में जो आश्चर्यचकित हुए हैं वह यह है कि वे कितनी मजबूती से वापस आए। और मुझे नहीं लगता कि हम गलत थे कि यह एक बहुत तेजी से युद्ध हो सकता था, अगर यूक्रेन के लोग अपने हथियार डाल देते। लेकिन जो हुआ वह इसके विपरीत था। वे देश में वापस आए, कलाश्निकोव उठाए और लड़ने लगे। और यह इसलिए था क्योंकि कथा बदल गई, और यह कुछ महत्वपूर्ण बातों पर बदल गई। कीव का भूत, स्नेक द्वीप, सैनिक की जेब में सूरजमुखी के बीज और कह रहा था, “जब आप मरेंगे, तो सूरजमुखी आएंगे।” ये पल, मीम, यूक्रेन की आबादी में गूंजे।

अब उनमें से बहुत सी बातें वास्तव में सच नहीं थीं। या वे निर्मित थे। कीव का भूत और स्नेक द्वीप को बढ़ावा दिया गया। वे बच गए, लेकिन उन्हें शहीद के रूप में प्रस्तुत किया गया, जिन्होंने “फ*** यू” कहा और मारे गए। यह एक जानकारी युद्ध था जिसने एक लड़ने की भावना पैदा की, न केवल यूक्रेन में, बल्कि नाटो के देशों में और संयुक्त राज्य अमेरिका में भी, जिन्होंने यूक्रेन के झंडे लहराए और कहा, “हमें इसकी परवाह करनी चाहिए।” यह जरूरी नहीं था कि ऐसा होना चाहिए। सबसे आसान जीतने वाला युद्ध वह है जहां विपक्ष लड़ना नहीं चाहता है। और यह वही था जो रूसियों ने और पुतिन ने किया था, और वे गलत थे। और वे गलत थे क्योंकि हमने कभी भी एक प्रभाव अभियान नहीं देखा था जो एक कथा युद्ध जीतने में आया था, जैसा कि हमने यूक्रेन के साथ देखा था। और यह शानदार था।

मुझे लगता है कि हम जानकारी अभियानों की शक्ति को कम आंकते हैं। मुझे लगता है कि चीन इस पर बहुत ध्यान दे रहा है, और मुझे लगता है कि हम इसे देखेंगे। और हम इसे ताइवान के संबंध में और दुनिया के बारे में जो सोचती है उसमें देखेंगे। और संयुक्त राज्य अमेरिका को लगता है कि अगर वे शामिल होना चाहते हैं, तो उन्हें भी जानकारी अभियानों से लड़ने के लिए समान कौशल होने चाहिए।

क्या प्राइमर के बारे में कोई अंतिम शब्द हैं जो आप साझा करना चाहते हैं?

हम इस मिशन में शामिल हैं कि हम संयुक्त राज्य अमेरिका और इसके सहयोगियों का समर्थन करने में मदद करें कि वे युद्ध के मैदान में सर्वश्रेष्ठ प्रौद्योगिकी ला सकें, और मुझे लगता है कि हम चाहते हैं कि अधिक प्रौद्योगिकी कंपनियां इस लड़ाई में शामिल हों।

धन्यवाद इस जानकारीपूर्ण साक्षात्कार के लिए, पाठकों को अधिक जानने के लिए प्राइमर पर जाने के लिए प्रोत्साहित किया जाता है।