sean gourley، الرئيس التنفيذي ومؤسس primer – سلسلة المقابلات

sean gourley هو الرئيس التنفيذي ومؤسس Primer، وهي شركة توفر تطبيقات معالجة اللغة الطبيعية (NLP) من الدرجة الصناعية للوكالات الحكومية والمؤسسات المالية وشركات فورتشن 50 والعديد من المنظمات الأخرى.

أحد الاستخدامات الرئيسية لبرايمر هو مساعدة الأشخاص على اكتشاف وفهم والاستجابة لحملات الدعاية المضللة. في محاولة لتعزيز هذه الخدمات، استحوذت برايمر مؤخرًا على يوندر لتعزيز قدراتها على مكافحة هجمات الدعاية المضللة.

جلسنا مع شون لنناقش الدعاية المضللة في مؤتمر Ai4 الأخير الذي عقد في لاس فيغاس. شون هو كنز من المعلومات حول حملات الدعاية المضللة والدعاية الحكومية. فيما يلي مقابلتنا.

ما هو ما جذبك في البداية إلى التعلم وفهم النظام الإيكولوجي كله للدعاية المضللة؟

لقد تحدثت قليلاً عن التداول عالي التواتر، وكان ذلك مثيرًا للاهتمام. كنت أبحث من خلال ذلك. هناك هذا الفضاء كله من الخوارزميات، التي تحاول فهم ما إذا حدث شيء في العالم، ثم التداول عليه. وكان ذلك بدائيًا. هذا كان في عام 2012، وكنا نلتقط الضوضاء.

كانوا يخطئون عندما كانوا يقرؤونها، أو يفسرون الإشارات بشكل خاطئ. ثم كان هناك توييت خرج، زُعم أنه تم اختراقه AP. وحسابه على تويتر قال: “الخبر السار: انفجار في البيت الأبيض، وباراك أوباما مصاب”. ثم أخذ السوق تلك المعلومات وخسر حوالي 130 مليار دولار من ذلك التوييت. الآن لا أعرف إذا كان من المفترض أن يدفع السوق، أو إذا كان من المفترض إنشاء الفوضى، أو كان من المفترض القيام بشيء ما، ولكن كان ذلك فقط هذا الاتصال في ذلك الوقت، وكنت مثل “واو”. إنه مثل خفقة فراشة وإنشاء هذا النوع من التأثير، لأنها تستخدم مجموعة من الممثلين الخوارزمية التي ليست ذكية حقًا.

لقد رأيت ذلك، وبدأ ذلك في حفر我، ثم بدأت أبحث… ورأيت هناك مجموعة من البوتات المكسيكية، وحسابات مكسيكية زعمت أن الصحفيين لم يُقتلوا من قبل الكارتلات المخدرة. وهذا هو، مثل عام 2013. وكنت مثل “أوه الله”. لقد رأيت هناك ممثلين غير حكوميين، وكارتلات مخدرة، يشاركون في هذا الشيء لإنشاء معركة روائية. ويبدو أنهم يفوزون. وكنت مثل “هؤلاء ليسوا حتى ممثلين حكوميين”. وفي ذلك الوقت قال مثل “ماذا لو حصل ممثل حكومي على يديه هذا؟ ماذا سيكون عليه؟” ثم نشرت مقالًا في وايرد في عام 2015. كان قد كتب في نهاية عام 2014، ولكن كان حول توقعات عام 2015. وقلت “هذا سيكون العام الذي سيستولي فيه البوتات على السيطرة والسيطرة على الانتخابات”.

وقد أصبح ذلك مقالًا رائعًا كما جاء من خلاله، ربما أكثر مما كنت أفكر في البداية. ولكن كان ذلك فقط رؤية هذا النوع من القوس للتكنولوجيا. على الجانب نفسه، كنا نرى أيضًا كيف كانت هذه التكنولوجيا بدائية. كان ذلك بدائيًا للغاية. لذلك كل ذلك بدأ في التجمع، ثم وصلنا إلى هذا النوع من الفضاء الذي انتهينا به، وهو واو، يمكنك التحكم في الروايات فقط من خلال التعرض المتكرر للمعلومات من الإشارات التي تستهلكها الآن.

هل تعتقد أن هناك انتخابات قد تم التأثير عليها أو أن انتخابات مستقبلية قد تتأثر بهذا النوع من الدعاية المضللة؟

توجيه هذا الخلف إلى نوع ما. أولًا هو لقد اخذنا مقياسًا ضيقًا جدًا في هذا، وهو أن الدعاية المضللة ليست حقيقية. وأعتقد أن ذلك ضيق جدًا. نحن بحاجة إلى توسيع ذلك إلى من يتحكم في الروايات. الآن، الرواية يمكن أن تكون حقيقية جدًا، ولكنها قد لا تكون مهمة.

نحن يمكننا أخذ قصة إذا كنت قلقًا من الجريمة، ونحن يمكننا بث كل الجرائم على جميع القنوات، وستعيد من خلال ذلك وتفكر أن مدينةك قد مرت بأكبر موجة جريمة رأيتها من قبل. وكل ما فعلته هو أخذ كل جريمة تم الإبلاغ عنها، والتي لم تكن على رادارك من قبل، ووضعها في نظامك.

الآن ستبدأ في الاعتقاد أن الجريمة أعلى مما هي عليه في الواقع. لم تتغير، ولكنك تعرضت لها أكثر. لذلك هذا ليس سؤالًا عما إذا كان الجريمة حدثت أم لا، إنما سؤال عما إذا كان ذلك يتنافس على انتباهك. لذلك هذا هو جزء واحد من ذلك.

الجزء الثاني من ذلك هو، كم يمكنك التأثير على هذا الشيء؟ حسنًا، إذا لم تكن لديك تصور حول ما إذا كانت اللقاحات تسبب لك فقدان 37 نقطة من نسبة الذكاء، أو إذا لم تكن لديك تصور مسبق حول أن اللقاحات والذكاء يرتبطان. إذا قلت لك إنهم يفعلون ذلك، فإنك سوف تكون ثلاث مرات أكثر احتمالًا للاعتقاد بذلك، من شخص يأتي ويقول لك إن اللقاحات تسبب فقدان نسبة الذكاء لديك.

هل هو انحياز في الدماغ البشري الذي هو عرضة لهذا؟

إنه انحياز في الدماغ البشري. الجزء الثاني، حتى لو كنت تعرف أن المعلومات خاطئة، إذا كنت تعرضت لها، فإنك أكثر احتمالًا للاعتقاد بها، حتى لو كنت تعرف أنها خاطئة. لذلك هناك تكرار للمعلومات. هناك الجزء الأول من المعلومات عندما لم تكن لديك رأيًا من قبل. والجزء الآخر الذي نعرفه هو أنك تثق به أكثر إذا جاء من مصادر مستقلة، وإذا جاء من أشخاص في شبكتك الاجتماعية، تثق به أكثر، يصبح ذلك منهجية الانتماء. ونحن نعرف أن حوالي 25٪ هو نقطة التحول، إذا بدأ 25٪ من الناس في الاعتقاد بشيء ما، فإن ذلك يخلق نقطة تحول كبيرة تؤدي إلى أن يبدأ 75٪ أو 80٪ من الناس في الاعتقاد به.

لذلك كل هذا يعود إلى عالم تكوين الرأي، وآليات كيفية وصول المجموعات إلى الإجماع. هناك فرع فرعي من الفيزياء، وهو فيزياء حاسوبية، وهو يدرس ذلك، ويمكنك الذهاب إلى الأدبيات، وفهم هذه النماذج حول كيفية تكوين الآراء، وانتشارها، واعتمادها.

يمكنك هندسة هذه الأنظمة إذا اخترت ذلك، وهذا ما يبدأ الناس في فعله. أعتقد أنهم لم يكونوا متقدمين جدًا. ولكن انظر، الصين هي قوة عسكرية متقدمة في مجال الذكاء الاصطناعي. إنهم يعرفون أن الفوز في حروب المعلومات حول ديناميات تايوان يصبح مهمًا جدًا. يجب أن نتوقع منهم اتخاذ كل خطوة يسمح بها التكنولوجيا، للمشاركة والفوز في ذلك الصراع.

نحن نعرف كيف يقع البشر ضحية لهذا، ولكن كيف يمكن للذكاء الاصطناعي اكتشاف الحقيقة الأساسية؟

نحن بحاجة إلى الخروج من هذا الشيء حول ما هو صحيح، وما أعنيه بذلك، هو أن هذا ليس حول جلب المحققين إلى كل شيء. لأننا قلت، هنا، انظر، يمكن للذكاء الاصطناعي تحديد ذلك، نعم، هذا الجريمة حدثت، ولكن ذلك لا يهم.

ذلك ليس الشيء. أنت تعتقد الآن أن هناك موجة جريمة كبيرة في مدينتك وشيء ما يجب القيام به. صحيح؟ وما هي الحقيقة الأساسية حول ما إذا كانت تايوان تنتمي إلى الصين؟ أعني، يمكنك العودة تاريخيًا. يمكننا مناقشة ذلك، ولكن هل يعرف الذكاء الاصطناعي ذلك؟ هل نعرف بالضبط أين ذلك؟

نحن نعرف الآن أنه مسألة منقسمة نسبيًا. والولايات المتحدة وتايوان لديهما هيكلين من الآراء. والصين لديها هيكل آخر من الآراء. مهمة الذكاء الاصطناعي ليست لتحديد من هو على حق في ذلك. مهمة الذكاء الاصطناعي هي تحديد ما إذا كان شخص ما حاول التأثير عليك للاعتقاد بجانب معين أو آخر.

وذلك الجزء الثاني، هو أن الناس سوف يستخدمون الذكاء الاصطناعي لمحاولة إقناعك، للاعتقاد بجانب معين أو آخر، باستخدام أساليب الحصول على الاعتقاد الأول، والحصول على تكرار متكرر للتعرض لهذا، والحصول على أصوات مستقلة تظهر من خلالها، والسيطرة على اختيار 25٪ من شبكتك للتأثير على أن تقلب للاعتقاد بالجانب الآخر. هذه هي التقنيات التي يمكن للذكاء الاصطناعي تعزيزها، والذكاء الاصطناعي يمكنه أيضًا الدفاع عنها. ولكننا بحاجة إلى الخروج من هذا الشيء حول ما إذا كان يمكن للذكاء الاصطناعي تحديد الحقيقة، لأن في كثير من الأحيان، الحقيقة أقل أهمية من معركة السرد.

وكيف تساعد برايمر في ذلك؟

لذلك بشكل رئيسي هو على المراقبة والكشف. واحدة من الأشياء التي تظهر، هي أننا في مكان حيث أننا نسمع عن حملات الدعاية المضللة لأول مرة بعد ستة أشهر من حدوثها.

معنى ذلك أننا لن نتمكن أبدًا من اصطياد ذلك في الوقت الفعلي؟

حسنًا، ليس حتى في الوقت الفعلي. إنه إذا وضعنا في الشيء الكينيتي، الصواريخ انتقلت إلى حدود الولايات المتحدة، وستة أشهر بعد ذلك، ندرك أنهم قد أطلقوا علينا.

لدينا فجوة كبيرة يجب ملؤها في المراقبة والاستطلاع حول حملات الدعاية المضللة، أو ما نسميه عمليات المعلومات. إذا تم إجراء عملية معلومات، نحن بحاجة إلى الحصول على فهم في الوقت الفعلي، أو gần الوقت الفعلي، لمظهر ذلك، وما هي الدوافع، وما هي التلاعب، ووضع ذلك في مكان حيث يمكننا البدء في إيقاف تلك الشبكات الروبوتية، أو يمكننا النظر إلى شروع في تقييد انتشار تلك المعلومات.

وما هو رأيك حول التهديد النهائي الذي تلعبه الصين في العالم؟

إنه سؤال كبير في العالم. ما نعرفه هو أننا في سباق تكنولوجي مع الصين، لأن الفائز في ذلك سيكون لديه ميزة عسكرية كبيرة جدًا على من هو في المركز الثاني في ذلك السباق. لذلك الصين سوف تلاحق مكونات الذكاء الاصطناعي بشكل جدي. الجزء الثاني من ذلك هو أهمية تصنيع الشبكات والمتحكمات المتقدمة التي تمتلكها تايوان. وأعتقد أن если الصين تنظر إلى ذلك، ويمكنها الحصول على معامل التصنيع، والمرافق، والمنشآت، والمصانع في تايوان، فإنها سوف تكون في وضع домينانت جدًا في سباق الذكاء الاصطناعي.

الآن، إذا استولت الصين على ذلك بالقوة، هناك فرصة جيدة أن تدمر تلك القدرات، أو تدمرها تايوان، ولا أحد يمتلكها. وهو ما سيكون جيدًا في بعض المستويات للصين. سيكون هناك اضطراب كبير على الصعيد العالمي، ولكن ذلك لن يخلق بالضرورة مشكلة كبيرة للصين إذا حدث ذلك.

ومع ذلك، إذا استطاعت الصين الحصول عليه سليمًا، فإن ذلك سيكون ميزة كبيرة لها. والطريقة التي تفعلها هي كما رأينا في هونغ كونغ، هي كيف، أنت حقًا جزء منا. وتقنع العالم بذلك، وأنك حقًا جزء منا. وإذا حاولت الخروج على ذلك الاعتقاد أو الرأي، فإن هناك مشاكل اقتصادية أو أخرى سوف تطرأ. لذلك، ما تفعله الصين هو حملة تأثير عالمية لتقنع العالم بأن تايوان جزء من الصين، ولتقنع الشعب التايواني بأنهم جزء من الصين. وإذا استطاعت ذلك، فإن الصين سوف تحصل على الكعكة وتأكلها أيضًا.

لذلك، حيث سنرى ذلك، هو أن الصين سوف تطرح عمليات سردية لتقنع العالم بأن تايوان جزء من الصين. وهذا ما يتم التعرف عليه من قبل لجنة الاستخبارات في مجلس النواب. كما وضعوا قانون التأهب الاستخباراتي، ودعوا إلى أساليب الكشف عن عمليات التأثير الصينية في منطقة الكاريبي، وأمريكا الجنوبية، وأمريكا الوسطى.

ذلك هو استدعاء محدد للمجتمع الاستخباراتي للعمل على ذلك. قانون التأهب الاستخباراتي cũng دعا إلى القدرة على تبني الذكاء الاصطناعي، والقدرة على استخدام التكنولوجيا التجارية الجاهزة، والقدرة على نشر بيئات بدون كود في تلك المنظمات. هناك بعض الأشياء البناءة التي جاءت من الكونغرس. بعض القطع مفتوحة وقابلة للقراءة، وقد كانت مثيرة للاهتمام حول مكافحة حملات الدعاية المضللة الصينية، خاصة في دول أمريكا الجنوبية، وأمريكا الوسطى، والكاريبي.

ما هو الدور الذي تلعبه محركات التوصية مثل يوتيوب، فيسبوك، تويتر، وتيك توك في تعزيز هذا السرد الكاذب؟

شيء واحد نعرفه عن الصين هو أنها منعت فيسبوك من الدخول. فيسبوك دخل إلى الصين. في عام 2012، كان مارك زوكربيرج مثل “سوف أتعلم اللغة الصينية. إنه كل شيء عن الصين”.

الصين كانت مثل “إلى الجحيم أن نسمح لشركة أمريكية بالسيطرة على تدفقات المعلومات لسكاننا. لقد عملنا بجد شديد، شكرًا جزيلًا، للسيطرة على المعلومات التي يحصل عليها سكاننا. هذا ما نفعله. نحن جيدون جدًا في ذلك. سوف نسمح لك بالدخول، وسوف نتعلم منك. ولكن بعد ذلك، أنت مُغادر”.

لذلك، لم يعد فيسبوك هناك.

لذلك، اتخذ الحزب الشيوعي الصيني قرارًا واضحًا حول كيفية السيطرة على المعلومات. الآن، كنظام استبدادي، لديك ذلك التحكم. “أنت لن تفكر في هذه الأفكار. أنت لن تقول هذه الأشياء. أنت لن تفعل ذلك”. كما أننا في ديمقراطية ليبرالية، نحن بحاجة إلى المشاركة في khảية المناقشة، وتبادل الأفكار، في فضاء مفتوح ومفتوح نسبيًا. هناك بعض القيود، ولكنها تقع على الحواف. لذلك، الصين، أعتقد، كانت قادرة على السيطرة على المعلومات. الولايات المتحدة لا تستطيع إلى نفس الحد، هناك ديمقراطية. نحن بحاجة إلى السماح بال混杂ية للمعلومات لتنافس نفسها. هذا هو السبب في أننا أصبحنا عرضة لهجمات المعلومات هذه. هناك عدم تناسق كبير في النظام. “تريد تمكين مناقشة حرة؟ حسنًا، سوف نفسد ذلك. لا يمكنك فعل ذلك لنا لأننا لدينا قفل جيد جدًا لأنظمة معلوماتنا”.

أعتقد أن ذلك شيء سنكافح من أجله خلال هذا. وأنه بروتوكول أول، وهو أن يتم تحديد ما إذا كانت هناك عملية معلومات تعمل على المنصة، وتحديد ذلك للنظم، وأقل ما يمكن هو تقييد انتشار تلك المعلومات، ولكن أيضًا، إذا كانت هناك شبكات غير روبوتية، إزالتها بسرعة. جانب التوصية في ذلك… لم يُستخدم ذلك بشكل خبيث من قبل الشركات الأمريكية. أعتقد أن ذلك ليس حيث يوجد. هل يمكن استخدامه بشكل خبيث من قبل شركة خارجية؟ نعم، من المحتمل. إذا كنت في حرب مع شخص ما، وكان لديهم سيطرة على شبكة معلومات تغذي روايات إلى سكانك، هل تثق بهم ليكونوا عادلين ومحايدين؟

نحن نعرف بالفعل ما حدث مع VK وروسيا، وهو الشبكة الاجتماعية. قالوا “حسنًا، لن تضعوا أي صور لأشخاص ميتين قتلهم في أوكرانيا. ذلك محظور. وسوف نضع جدارًا معلوماتيًا لمنع انتشار المعلومات من الشبكات الغربية إلى شبكاتنا”. لذلك، ما يحدث عندما يبدأ الصراع، هو أن الناس يضعون حواجز تقول “أنت لن تتحكم في πληροφορίες سكاننا”.

لذلك أعتقد أن الشيء المدرسي هو أنه استغرق ربما ثلاثة أو أربعة أسابيع لVK لفعل ذلك. كان هناك نافذة أعتقد أنها كانت مفتوحة نسبيًا، ثم أغلقوها، لأنهم أدركوا أنك إذا لم تكن تتحكم في السرد في سكانك، وإذا سمحتهم برؤية الأضرار التي تسببها الصواريخ والهجمات على السكان المدنيين في أوكرانيا، ربما لا يريدون القتال بعد ذلك.

أعتقد أن واحدة من الأشياء التي كنا جميعًا مخطئين فيها حول أوكرانيا هي كيف جاءوا بقوة. وأعتقد أننا لم نكن مخطئين في التفكير أنه يمكن أن يكون حربًا سريعة، إذا وضع الناس في أوكرانيا أسلحتهم. ولكن ما حدث كان العكس. جاءوا إلى البلاد، उठوا أسلحتهم، وبدأوا القتال. وذلك لأن السرد انقلب، وانقلب على بعض الأشياء الرئيسية. شبح كييف، وجزيرة الأفعوان، والمرأة مع بذور الزهور في جيب الجندي، وقالت “عندما تموت، ستأتي الزهور”. هذه اللحظات، والميمات، كانت تنتشر في ذلك السكان.

الآن، العديد منهم لم يكن حقيقيًا. أو تم تصنيعها. شبح كييف وجزيرة الأفعوان تم تعزيزهما. نجوا، ولكن تم تقديمهم كشهداء قالوا “إلى الجحيم” وقُتلوا. هذه كانت حرب المعلومات المثالية التي خلقت روح قتالية، ليس فقط في أوكرانيا، ولكن أيضًا في دول الناتو، والولايات المتحدة، لرفع أعلام أوكرانيا وقول “نحن بحاجة إلى الاهتمام بذلك”. ذلك لم يكن ضروريًا.

أسهل حرب للفوز هي تلك التي لا يريد فيها الخصم القتال. وذلك كان الرهان والمراهنة التي قام بها الروس، وبوتين، وكان مخطئًا. وكان مخطئًا لأننا لم نشهد حملة تأثير عادت للفوز في حرب سردية مثل ما رأينا مع أوكرانيا من قبل. وكانت رائعة.

أعتقد أننا نُقلل من قوة عمليات المعلومات. أعتقد أن الصين كانت دقيقة جدًا. وأعتقد أننا سنرى ذلك يلعب. ونحن نراه يلعب، من حيث ما يفكر العالم في تايوان. والولايات المتحدة، أعتقد أن إذا أرادت المشاركة، فإنها بحاجة إلى امتلاك نفس مجموعة المهارات لمكافحة عمليات المعلومات.

هل هناك أي كلمات أخيرة تريد مشاركتها حول برايمر؟

نحن ملتزمون بهذه المهمة لدعم الولايات المتحدة وحلفائها لجلب أفضل التكنولوجيا لوضعها في أيدي المقاتلين، وأعتقد أننا نريد المزيد من الشركات التكنولوجية للانضمام إلى هذه المعركة.

شكرًا على هذه المقابلة المُ启رة، القراء الذين يرغبون في معرفة المزيد مدعوون لزيارة Primer.