إسقاط الأسهم باستخدام إعادة التغريد المعادية المصنعة

أدى التعاون البحثي المشترك بين الجامعات الأمريكية وشركة آي بي إم إلى صياغة概念 إثبات للattack العدائي الذي يمكنه نظريًا إحداث خسائر في سوق الأسهم ، من خلال تغيير كلمة واحدة في إعادة تغريد لمنشور على تويتر.

في تجربة واحدة ، تمكن الباحثون من عرقلة نموذج Stocknet التنبؤي باستخدام طريقتين: هجوم التلاعب وهجوم الإضافة. مصدر: https://arxiv.org/pdf/2205.01094.pdf

سطح الهجوم للهجوم العدائي على أنظمة التنبؤ بالأسهم الآلية والتعلم الآلي هو أن عددًا متزايدًا منهم يعتمد على وسائل الإعلام الاجتماعية العضوية كمنبئات للأداء؛ وأن التلاعب بهذه البيانات “في البرية” هو عملية يمكن أن تكون قابلة للصياغة بشكل موثوق به.

إلى جانب تويتر ، تبتلع أنظمة من هذا القبيل بيانات من ريديت وستوك تويتس وياهو نيوز ، من بين آخرين. الفرق بين تويتر والمصادر الأخرى هو أن إعادة التغريد قابلة للتعديل ، حتى لو كانت التغريدات الأصلية غير قابلة للتعديل. من ناحية أخرى ، من الممكن فقط إضافة منشورات إضافية (أي تعليقات أو منشورات ذات صلة) على ريديت ، أو التعليق والتصويت – أفعال التي يتم التعامل معها بشكل صحيح على أنها حزبية وذاتية من قبل روتينات وعمليات تنقية البيانات لأنظمة التنبؤ بالأسهم القائمة على التعلم الآلي.

في تجربة واحدة ، على نموذج Stocknet التنبؤي نموذج ، تمكن الباحثون من إحداث انخفاضات ملحوظة في تقدير قيمة الأسهم من طريقتين ، كانت أكثرها فعالية هجوم التلاعب (أي إعادة التغريد المعدلة) ، والتي تمكنت من إحداث انخفاضات أكثر حدة.

هذا تم تنفيذه ، وفقًا للباحثين ، من خلال محاكاة استبدال واحد في إعادة تغريد من “مصدر مالي محترم” على تويتر:

المeaning matters. هنا ، الفرق بين ‘filled’ و ‘exercised’ (ليس كلمة خبيثة أو مضللة بشكل واضح ، ولكن فقط مصنفة على أنها مرادف) قد تكلف المستثمر آلاف الدولارات نظريًا في انخفاض قيمة الأسهم.

ينصPaper على ما يلي:

‘تظهر نتائجنا أن طريقة الهجوم المقترحة يمكن أن تحقق معدلات نجاح متسقة وتسبب خسائر مالية كبيرة في محاكاة التداول ببساطة عن طريق إضافة تغريدات مشوشة ولكنها شبيهة семantically.’

يخلص الباحثون إلى ما يلي:

‘يظهر هذا العمل أن طريقة الهجوم العدائي الخاصة بنا تضل أنظمة التنبؤ المالية المختلفة حتى مع القيود المادية التي لا يمكن تعديل التغريدات الأصلية. بإضافة إعادة تغريد مع استبدال كلمة واحدة فقط ، يمكن أن تسبب الهجوم خسارة إضافية بنسبة 32٪ لمحفظة استثمارنا المحاكاة.

‘من خلال دراسة ضعف النموذج المالي ، هدفنا هو رفع مستوى الوعي في مجتمع المالية بشأن مخاطر نموذج الذكاء الاصطناعي ، بحيث يمكننا في المستقبل تطوير هندسة الذكاء الاصطناعي أكثر متانة مع وجود الإنسان في الحلقة.’

الورقة البحثية بعنوان كلمة تستحق ألف دولار: هجوم عدائي على التغريدات يخدع التنبؤ بالأسهم ، ويأتي من ستة باحثين ، من جامعة إلينوي في أوربانا شامبين ، جامعة ولاية نيويورك في بوفالو ، وجامعة ولاية ميشيغان ، مع ثلاثة من الباحثين المرتبطين بشركة آي بي إم.

كلمات غير سعيدة

تدرس الورقة البحثية ما إذا كانت مجال الهجمات العدائية على نماذج التعلم العميق القائمة على النص قابل للتحويل إلى نماذج التنبؤ بالأسهم ، التي تعتمد على بعض العوامل “البشرية” التي يمكن فقط افتراضها بشكل تقريبي من مصادر وسائل الإعلام الاجتماعية.

كما يشير الباحثون إلى أن إمكانية التلاعب بوسائل الإعلام الاجتماعية لتأثير الأسعار قد تم إثباتها جيدًا ، على الرغم من أن ذلك لم يتم بعد بواسطة الطرق المقترحة في العمل؛ في عام 2013 ، تم إسقاط تغريدات خبيثة على حساب تويتر المخترق لرويترز ، مما أدى إلى خسارة 136 مليار دولار أمريكي من قيمة السوق في غضون ثلاث دقائق.

تتضمن الطريقة المقترحة في العمل الجديد هجوم الإضافة ، الذي يترك التغريد الأصلي دون تغيير ، بينما يُشوهه:

من المادة الإضافية للورقة ، أمثلة على إعادة التغريد التي تحتوي على كلمات مرادفة مستبدلة تغير نية واهمية الرسالة الأصلية ، دون تشويهها بحيث قد يلتقطها البشر أو المرشحات البسيطة – ولكنها يمكن أن تستغل الخوارزميات في أنظمة التنبؤ بالأسهم.

اقترب الباحثون من إنشاء إعادة التغريدات العدائية كمسألة تحسين تركيبي – صياغة أمثلة عدائية قادرة على خداع نموذج الضحية ، حتى مع قاموس محدود للغاية.

استبدال الكلمات باستخدام السيميمات – ‘الوحدة الدلالية الأساسية للغات البشرية’. مصدر: https://aclanthology.org/2020.acl-main.540.pdf

تنص الورقة على ما يلي:

‘في حالة تويتر ، يمكن للمهاجمين نشر تغريدات خبيثة مصممة لخداع النماذج التنبؤية التي تأخذها كمدخلات.

‘نقترح الهجوم عن طريق نشر تغريدات عدائية شبيهة семantically كإعادة تغريد على تويتر ، بحيث يمكن التعرف عليها كبيانات ذات صلة وجمعها كمدخلات للنموذج.’

对于 كل تغريد في مجموعة مختارة بشكل خاص ، حل الباحثون مشكلة اختيار الكلمة تحت قيود ميزانية الكلمة وميزانية التغريد ، والتي تضع قيودًا صارمة من حيث الانحراف الدلالي عن الكلمة الأصلية ، واستبدال كلمة “خبيثة / بريئة”.

تُصاغ التغريدات العدائية بناءً على التغريدات ذات الصلة التي من المحتمل أن تُسمح لها بالدخول إلى أنظمة التنبؤ بالأسهم التنبؤية. يجب أيضًا أن تمر التغريدات عبر نظام تحرير المحتوى على تويتر دون عائق ، ويجب ألا تبدو مخالفة للواقع للمراقب البشري.

بعد العمل السابق (من جامعة ولاية ميشيغان ، جنبًا إلى جنب مع CSAIL و MIT و MIT-IBM Watson AI Lab) ، يتم استبدال كلمات محددة في التغريد الهدف بكلمات مرادفة من مجموعة محدودة من الإمكانيات المرادفة ، جميعها يجب أن تكون قريبة семantically جدًا من الكلمة الأصلية ، مع الحفاظ على “تأثيرها الفاسد” ، بناءً على سلوك أنظمة التنبؤ بالأسهم المُستنِرة.

الخوارزميات المستخدمة في التجارب اللاحقة كانت محلول Joint Optimization (JO) ومحلول Alternating Greedy Optimization (AGO).

مجموعات البيانات والتجارب

تم تجربة هذا النهج على مجموعة بيانات للتنبؤ بالأسهم تتكون من 10,824 مثالًا للتغريدات ذات الصلة ومعلومات أداء السوق عبر 88 سهمًا بين 2014-2016.

تم اختيار ثلاثة نماذج “ضحية”: Stocknet؛ FinGRU (مشتق من GRU)؛ و FinLSTM (مشتق من LSTM).

تمتثل معايير التقييم إلى معدل نجاح الهجوم (ASR) ، وانخفاض في درجة F1 للنموذج الضحية بعد الهجوم العدائي. قام الباحثون بمحاكاة استراتيجية Long-Only Buy-Hold-Sell للاختبارات. كما تم حساب الربح والخسارة (PnL) في المحاكاة.

نتائج التجارب. انظر أيضًا الرسم البياني الأول في أعلى هذه المقالة.

تحت JO و AGO ، يرتفع معدل نجاح الهجوم بنسبة 10٪ ، وينخفض متوسط درجة F1 للنموذج بنسبة 0.1 مقارنة بهجوم عشوائي. يشير الباحثون إلى ما يلي:

‘يُعتبر هذا الانخفاض في الأداء مهمًا في سياق التنبؤ بالأسهم ، نظرًا لأن دقة التنبؤ بالعائد بين الأيام تبلغ حوالي 60٪ فقط.’

في فئة الربح والخسارة (PnL) من الهجوم (الافتراضي) على Stocknet ، كانت نتائج إعادة التغريد العدائية أيضًا ملحوظة:

‘لكل محاكاة ، لدى المستثمر 10,000 دولار (100٪) للاستثمار؛ تظهر النتائج أن طريقة الهجوم المقترحة مع إعادة تغريد مع استبدال كلمة واحدة فقط يمكن أن تسبب خسارة إضافية قدرها 3,200 دولار (75٪-43٪) لمحفظة الاستثمار بعد حوالي عامين.’

نشر لأول مرة في 4 مايو 2022.