شون غورلي، الرئيس التنفيذي ومؤسس Primer – سلسلة المقابلات

شون غورلي هو الرئيس التنفيذي ومؤسس Primer، وهي شركة توفر تطبيقات معالجة اللغة الطبيعية الصناعية (NLP) من الدرجة الصناعية للوكالات الحكومية والمؤسسات المالية وشركات فورتشن 50 والعديد من المنظمات الأخرى.

أحد الاستخدامات الرئيسية لبرايمر هو مساعدة الناس على الكشف عن حملات الدعاية الكاذبة والتفهم والاستجابة لها. وفي محاولة لتعزيز هذه الخدمات، استحوذت Primer مؤخرًا على Yonder لتعزيز قدراتها على مكافحة هجمات الدعاية الكاذبة.

اجتمعنا مع شون لمناقشة الدعاية الكاذبة في مؤتمر Ai4 الأخير الذي عقد في لاس فيغاس. شون هو كنز من المعلومات حول حملات الدعاية الكاذبة والدعاية الحكومية. فيما يلي مقابلتنا.

ما هو ما جذبك في البداية إلى التعلم والتفهم بالنظام الإيكولوجي الكامل للدعاية الكاذبة؟

لقد تحدثت قليلا عن التداول عالي التردد، وكان ذلك مثيرًا للاهتمام. كنت أبحث من خلال ذلك. كان هناك هذا الفضاء بأكمله من الخوارزميات، لمحاولة فهم ما إذا كان شيء ما حدث في العالم، ثم التداول عليه. وكان ذلك بدائيًا. كان هذا في عام 2012، وكنا نكتشف الضوضاء.

كانوا يخطئون عندما كانوا يقرأون ذلك، أو يفسرون الإشارات بشكل خاطئ. ثم جاء توييت، زُعم أنه تم اختراقه من قبل AP. وحسابه على تويتر قال: “الخبر السار: انفجار البيت الأبيض، باراك أوباما مصاب”. ثم أخذ السوق تلك المعلومات وتراجع، خسر حوالي 130 مليار دولار من ذلك التوييت. لا أعرف إذا كان من المفترض أن يدفع السوق، أو إذا كان من المفترض إنشاء الفوضى، أو كان من المفترض القيام بشيء ما، ولكن كان ذلك فقط هذا الاتصال مرة أخرى في ذلك الوقت، وكنت مثل “واو”. إنه مثل طائر يخفق بجناحيه ويخلق هذا التأثير، لأنه يستفيد من مجموعة من الممثلين الخوارزمية الذين ليسوا ذكيين حقًا.

لقد رأيت ذلك، وبدأت حفرًا ثم بدأت أبحث… ورأيت أن هناك الكثير من البوتات المكسيكية، الحسابات المكسيكية التي تدعي أن الصحفيين لم يتم قتلهم من قبل الكارتلات. وهذا مثل عام 2013. وكنت مثل “أوه الله، لديك ممثلين غير حكوميين، الكارتلات، يشاركون في هذه المعركة لخلق معركة سردية. ويبدو أنهم يفوزون”. وكنت مثل “هؤلاء ليسوا حتى ممثلين حكوميين”. وفي ذلك الوقت قالوا “حسنًا، ماذا لو حصل ممثل حكومي على هذه؟ ماذا سيكون عليه وماذا سيفعل؟” ثم نشرت مقالًا في Wired في عام 2015. كان من المفترض أن يكون حول توقعات 2015. وقلت “هذا سيكون العام الذي سيستولي فيه البوتات على السيطرة والسيطرة على الانتخابات”.

وأصبح ذلك مقالًا نبوئيًا بشكل لا يصدق، حيث أصبحت أكثر حداثة من ما كنت أفكر به في البداية. ولكن كان ذلك فقط رؤية هذا القوس التكنولوجي. وفي نفس الوقت، كنا نرى أيضًا كيفية بدائية تكنولوجيا معالجة اللغة الطبيعية. كان ذلك بدائيًا للغاية. لذلك بدأت كل هذه الأشياء تتشكل، ووصلنا إلى هذا الفضاء الذي انتهينا به، وهو أنك تستطيع السيطرة على السرد من خلال التعرض المتكرر للمعلومات من مصادرك الآن.

هل تعتقد أنه تم التأثير على أي انتخابات أو قد يتم التأثير على انتخابات مستقبلية بهذا النوع من الدعاية الكاذبة؟

إطار هذا السياق هنا. أولاً، لقد اخترنا مقياسًا ضيقًا جدًا، وهو أن الدعاية الكاذبة ليست حقيقية. وأعتقد أن ذلك مقياس ضيق جدًا. نحن بحاجة إلى توسيع ذلك لمن يسيطر على السرد. الآن، السرد قد يكون حقيقيًا، ولكن قد لا يكون مهمًا.

نحن يمكن أن نأخذ قصة إذا كنت قلقًا بشأن الجريمة، وننشر كل الجرائم على جميع القنوات، وستعيد التفكير في ذلك وستفكر أن مدينةك قد شهدت موجة جريمة رهيبة لم تحدث من قبل. وكل ما فعلته هو أنك أخذت كل جريمة تم الإبلاغ عنها من قبل، ولم تكن على رادارك، ووضعته في نظامك.

الآن ستبدأ بالاعتقاد أن الجريمة أعلى مما هي في الواقع. لم تتغير، ولكنك تعرضت لها أكثر. هذا ليس حول ما إذا كان الجريمة حدثت أم لا، إنما حول ما إذا كان يتنافس على انتباهك. هذا هو جزء واحد. نحن نتعثر في هذا هل حدثت أم لا؟ كما لو أن ذلك هو المعركة. ولكن المعركة هي في الواقع من أجل وجهات نظر الناس.

الجزء الثاني هو، كم يمكنك التأثير على هذا؟ حسنًا، إذا لم تكن لديك فكرة حول ما إذا كانت اللقاحات تسبب لك فقدان 37 نقطة من نسبة الذكاء، أو إذا لم تكن لديك في السابق اعتقادًا بأن اللقاحات والذكاء مرتبطين. إذا قلت لك إنهم يفعلون ذلك، سوف تصبح ثلاث مرات أكثر احتمالًا للاعتقاد بذلك، مقارنةً بمن يأتي ويقول لك إن اللقاحات تزيد من نسبة الذكاء. من يأتي بالرسالة الأولى له أفضل فرصة للاعتقاد بذلك، إذا كنت لم تكن لديك رأيًا من قبل حول شيء ما.

هل هذا انحياز في الدماغ البشري الذي هو قابل للخداع؟

إنه انحياز في الدماغ البشري. الجزء الثاني، حتى إذا كنت تعرف أن المعلومات خاطئة، إذا كنت تعرضت لها، سوف تصدقها أكثر، حتى إذا كنت تعرف أنها خاطئة. هناك تكرار للمعلومات. هناك الجزء الأول من المعلومات عندما لم تكن لديك رأيًا من قبل. والجزء الآخر الذي نعرفه، هو أنك تثق به أكثر إذا جاء من مصادر مستقلة، وإذا جاء من أشخاص في شبكتك الاجتماعية، تثق به أكثر، يصبح منهجًا للانتماء. ونحن نعرف أن حول 25% هو نقطة تحول، إذا بدأ 25% من الناس في الاعتقاد بشيء ما، يخلق نقطة تحول كبيرة حيث يصبح من المحتمل جدًا أن يبدأ 75% أو 80% من الناس في الاعتقاد بذلك.

كل هذا يعود إلى عالم تكوين الرأي، وآليات كيفية وصول المجموعات إلى الإجماع. هناك فرع فرعي من الفيزياء، وهو فيزياء حاسوبية، وقد كان يدرس هذا، ويمكنك الذهاب إلى الأدبيات، وفهم هذه النماذج لكيفية تكوين الآراء، وانتشارها، واعتمادها.

يمكنك هندسة هذه الأنظمة إذا اخترت ذلك، وهذا ما يبدأ الناس في فعله. لا أعتقد أنهم كانوا متقدمين جدًا. ولكن انظر، الصين هي قوة عظمى في مجال الذكاء الاصطناعي. إنهم يعرفون أن الفائز في ذلك سيكون لديه ميزة عسكرية مهيمنة على من هو في المركز الثاني في ذلك السباق. لذا الصين سوف تتبع مكونات الذكاء الاصطناعي بشكل عدواني. الجزء الثاني من ذلك هو أهمية تصنيع الشريحة ووحدات معالجة الرسومات المتقدمة التي تملكها تايوان. وأعتقد أن если الصين تنظر إلى ذلك، ويمكنها أن تحصل على معامل ومصانع ومراكز تصنيع تايوان، سوف تكون في وضع مهيمن جدًا في سباق الذكاء الاصطناعي.

الآن، إذا استولت الصين على ذلك بالقوة، هناك فرصة جيدة أن تدمر تلك القدرات، أو تدمرها تايوان ولا يملكها أحد. والذي سيكون جيدًا إلى حد ما للصين. سيكون هناك اضطراب كبير على الصعيد العالمي، ولكن لن يخلق ذلك بالضرورة مشكلة كبيرة للصين إذا حدث ذلك.

ومع ذلك، إذا استطاعت أن تأخذها سليمة، thì ذلك سيكون ميزة كبيرة لهم. والطريقة التي تفعلونها هي كما رأينا في هونغ كونغ، هي كيف، تعرف، “أنت جزء منا”. وتقنع العالم بذلك، وتقنع الشعب التايواني بأنه جزء من الصين. وإذا حاولت أن تختلف عن ذلك الرأي أو ذلك الاعتقاد، فهناك مشاكل اقتصادية أو أخرى. لذلك، ما تقوم به الصين هو عملية تأثير عالمية لتقنع العالم بأن تايوان جزء من الصين، ولتقنع الشعب التايواني بأنه جزء من الصين. وإذا استطاعت أن تفعل ذلك، فكل شيء سيكون على ما يرام.

لذلك، حيث سنرى ذلك، هو أن الصين سوف تقوم بتشغيل عمليات المعلومات لتقنع العالم بأن تايوان جزء من الصين. وهذا ما يتم التعرف عليه من قبل لجنة الاستخبارات في مجلس النواب. حيث وضعوا قانون التأهب الاستخباراتي، ودعوا إلى أساليب الكشف عن عمليات التأثير الصينية في منطقة الكاريبي وأمريكا الجنوبية وأمريكا الوسطى.

ذلك هو دعوة محددة للجنة الاستخبارات ل العمل على ذلك. قانون التأهب الاستخباراتي دعا أيضًا إلى القدرة على تبني الذكاء الاصطناعي، والقدرة على استخدام التكنولوجيا التجارية الجاهزة، والقدرة على نشر بيئات بدون كود في هذه المنظمات. هناك بعض الأشياء الإيجابية التي جاءت من الكونغرس. بعض القطع المفتوحة والمتاحة للقراءة كانت مثيرة للاهتمام حول مكافحة حملات الدعاية الكاذبة الصينية، خاصة في دول أمريكا الجنوبية وأمريكا الوسطى والكاريبي.

ما هو دور محركات التوصية مثل يوتيوب و فيسبوك و تويتر و تيك توك في تعزيز هذا السرد الكاذب؟

شيء واحد نعرفه عن الصين هو أنها منعت فيسبوك من الدخول. دخل فيسبوك إلى الصين. في عام 2012، قال مارك زوكربيرج “سأتعلم اللغة الصينية. إنه كل شيء عن الصين”. وقالت الصين “سنسمح لك بالدخول، و بعد ذلك سنقول لك مع السلامة”.

لأن الصين كانت مثل “إلى الجحيم أن نسمح لشركة أمريكية بالسيطرة على تدفقات المعلومات لسكاننا. لقد عملنا بجد لتحكم المعلومات التي يحصل عليها سكاننا. نحن جيدون في ذلك. سنسمح لك بالدخول، وسنتعلم منك. ولكن بعد ذلك، أنت لست هنا”. الآن، فيسبوك لم يعد موجودًا.

لذلك، اتخذ الحزب الشيوعي الصيني قرارًا واضحًا حول كيفية السيطرة على المعلومات. الآن، كنظام استبدادي، لديك ذلك التحكم. “أنت لن تفكر في هذه الأفكار. أنت لن تقول هذه الأشياء. أنت لن تفعل ذلك”. كما نظام ديمقراطي ليبرالي، نحن بحاجة إلى المشاركة في قدرة المناقشة، وتبادل الأفكار، في مساحة مفتوحة ومفتوحة إلى حد ما. هناك حدود معينة، ولكنها موجودة على الحواف. لذا، الصين، أعتقد أنهم استطاعوا السيطرة على المعلومات. الولايات المتحدة لا تستطيع ذلك إلى نفس الحد، هناك ديمقراطية. نحن بحاجة إلى السماح بفوضى المعلومات لتنافس نفسها.

أعتقد أن ذلك شيء سنكافحه من خلال ذلك. وأول بروتوكول هو التعرف بسرعة على ما إذا كانت هناك عملية معلومات تعمل على المنصة، وتحذير النظام من ذلك، على الأقل هو الحد الأدنى من انتشار تلك المعلومات، ولكن أيضًا إذا كانت هناك شبكات غير بوت، إزالتها بسرعة. جانب التوصية في هذا… لم يتم استخدامه بشكل خبيث من قبل الشركات الأمريكية. لا أعتقد أن ذلك هو المكان الذي هم فيه. هل يمكن استخدامه بشكل خبيث من قبل شركة خارجية؟ نعم، من المحتمل. إذا كنت في حرب مع شخص ما، وكان لديهم سيطرة على شبكة معلومات كانت تغذي السرد إلى سكانك، هل تثق بهم ليكونوا عادلين ومحايدين؟

نحن نعرف بالفعل ما حدث مع VK وروسيا، وهو الشبكة الاجتماعية. قالوا “لن تضعوا أي صور لأشخاص قتلناهم في أوكرانيا. هذا ممنوع. وسنقوم ببناء جدار معلومات لمنع انتشار المعلومات من الشبكات الغربية إلى شبكاتنا”. لذلك، ماذا يحدث عندما يبدأ النزاع، الناس يضعون حواجز تقول “لن تسيطر على السرد لسكاننا”.

أعتقد أن الشيء المدرسي هو أنه استغرق حوالي ثلاثة أو أربعة أسابيع ل.VK لفعل ذلك. كان هناك نافذة كانت مفتوحة نسبيًا، ولكن بعد ذلك أغلقوها، لأنهم أدركوا أن إذا لم تكن تسيطر على السرد لسكانك، وإذا سمحتهم برؤية الضرر الذي تسببه القنابل والهجمات على السكان المدنيين في أوكرانيا، ربما لا يريدون القتال بعد ذلك.

أعتقد أن واحدة من الأشياء التي كنا جميعًا مندهشين منها في أوكرانيا هي كيف جاءوا بقوة. ولم أعتقد أننا كنا مخطئين في التفكير بأنها يمكن أن تكون حربًا سريعة، إذا وضع الناس في أوكرانيا أسلحتهم. ولكن ما حدث هو العكس. جاءوا إلى البلاد، اخذوا أسلحتهم، وبدؤوا القتال. وكان ذلك لأن السرد انقلب، وانقلب على بعض الأشياء المهمة. شبح كييف وجزيرة الأفعوان، والمرأة مع بذور الزهرة في جيب الجندي وقالت “عندما تموت، سوف تأتي الزهور”. هذه اللحظات، الميمات، كانت تتناقл عبر ذلك السكان.

الآن، الكثير منهم لم يكن حقيقيًا. أو كان من صنع الإنسان. شبح كييف وجزيرة الأفعوان كانا مبالغًا فيهما. نجوا، ولكن تم تصويرهم كشهداء قالوا “إلى الجحيم” وقُتلوا. هذه كانت حرب المعلومات النموذجية التي خلقت روح قتالية، ليس فقط في أوكرانيا، ولكن أيضًا في دول الناتو والولايات المتحدة، ورفعوا أعلام أوكرانيا و قالوا “نحن بحاجة إلى الاهتمام بهذا”. ذلك لم يكن ضروريًا.

أعتقد أننا ننظر إلى قوة عمليات المعلومات. أعتقد أن الصين كانت دقيقة جدًا. وأعتقد أننا سنرى ذلك يلعب. ونحن نراه يلعب، من حيث ما يفكر العالم في تايوان. والولايات المتحدة، أعتقد أنهم يحتاجون إلى المشاركة في نفس مجموعة المهارات لمكافحة عمليات المعلومات.

هل هناك أي كلمات أخيرة تريد مشاركتها حول Primer؟

نحن مشغولون في هذه المهمة لمساعدة الولايات المتحدة وحلفائها على جلب أفضل التكنولوجيا لوضعها في أيدي مقاتلي الحرب، وأعتقد أننا نريد المزيد من الشركات التكنولوجية للانضمام إلى هذه المعركة.

شكرًا على هذه المقابلة المضيئة، القراء الذين يرغبون في التعلم أكثر مدعوون إلى زيارة Primer.