فريق متنوع من الخبراء يطور نظامًا دفاعيًا للشبكات العصبية الاصطناعية

فريق متنوع من المهندسين والأحيائيين والرياضيين في جامعة ميشيغان طور نظامًا دفاعيًا للشبكات العصبية الاصطناعية يستند إلى النظام المناعي التكيفي. يمكن للنظام الدفاع عن الشبكات العصبية الاصطناعية ضد أنواع مختلفة من الهجمات.

يمكن للمجموعات الخبيثة تعديل الإدخال لخوارزمية التعلم العميق لإرشادها في الاتجاه الخاطئ، مما يمكن أن يشكل مشكلة كبيرة للتطبيقات مثل التعرف، رؤية الآلة، معالجة اللغة الطبيعية (NLP)، ترجمة اللغة، كشف النزاع، وغيرها.

نظام التعلم المناعي المقاوم للتحديات

النظام الدفاعي الجديد يسمى نظام التعلم المناعي المقاوم للتحديات. تم نشر العمل في IEEE Access.

ألفريد هيرو هو أستاذ جامعة جون ه. هولاند المتميز. قاد العمل.

“نظام التعلم المناعي المقاوم للتحديات يمثل أول نهج للتعلم المقاوم للتحديات الذي يتم نمذجته بعد النظام المناعي التكيفي، الذي يعمل بشكل مختلف عن النظام المناعي الفطري”، قال هيرو.

وجد الفريق أن الشبكات العصبية الاصطناعية العميقة، التي تمثل بالفعل بعد الدماغ، يمكن أن تقلد أيضًا العملية البيولوجية لنظام المناعة المammalian. يتمثل نظام المناعة هذا في توليد خلايا جديدة مصممة للدفاع ضد مسببات الأمراض المحددة.

إنديكا راجاباكسي هو أستاذ مساعد في الطب الحاسوبي وعلم الأحياء، كما أنه قائد الدراسة.

“نظام المناعة مبني لل驚ازات. لديه تصميم رائع وسوف يجد دائمًا حلاً”، قال راجاباكسي.

مقلد نظام المناعة

نظام التعلم المناعي المقاوم للتحديات يقلد الدفاعات الطبيعية لنظام المناعة، مما يسمح له بالتعرف على المدخلات المشبوهة للشبكة العصبية الاصطناعية وتحديدها. قام الفريق البيولوجي أولاً بدراسة كيف استجاب نظام المناعة التكيفي للفئران لمستضد قبل إنشاء نموذج لنظام المناعة.

تم بعد ذلك إجراء تحليل البيانات على المعلومات بواسطة ستيفن ليندسلي، الذي كان طالبًا دكتوراه في المعلوماتية الحيوية في ذلك الوقت. ساعد ليندسلي في ترجمة هذه المعلومات بين الأحيائيين والمهندسين، مما مكن فريق هيرو من نمذجة العملية البيولوجية على الكمبيوتر. لفعل ذلك، قام الفريق بدمج الآليات البيولوجية في الكود.

تم اختبار دفاعات نظام التعلم المناعي المقاوم للتحديات مع مدخلات معادية.

“لم نكن متأكدين من أننا قد أدركنا بالفعل العملية البيولوجية حتى قارنا منحنيات التعلم لنظام التعلم المناعي المقاوم للتحديات مع تلك المستخرجة من التجارب”، قال هيرو. “كانت متطابقة تمامًا”.

أداء نظام التعلم المناعي المقاوم للتحديات كان أفضل من两个 من أكثر العمليات الشائعة المستخدمة حاليًا لمكافحة الهجمات المعادية. هذه العمليات هي Roust Deep k-Nearest Neighbor وشبكات النيوورك التلافيفية.

رين وانغ هو باحث في الهندسة الكهربائية والحاسوبية. كان مسؤولاً إلى حد كبير عن تطوير وتنفيذ البرمجيات.

“جزء واعد جدًا من هذا العمل هو أن إطارنا العام يمكن أن يدافع ضد أنواع مختلفة من الهجمات”، قال رين وانغ.

استخدم الباحثون بعد ذلك تحديد الصور كحالة اختبار لتقييم نظام التعلم المناعي المقاوم للتحديات ضد ثمانية أنواع من الهجمات المعادية في مجموعات بيانات مختلفة. أظهر تحسنًا في جميع الحالات، وحتى حمى ضد هجوم Projected Gradient Descent، وهو أكثر أنواع الهجمات المعادية تدميرًا. كما улучَّ نظام التعلم المناعي المقاوم للتحديات الدقة الإجمالية.

“هذا مثال رائع على استخدام الرياضيات لفهم هذا النظام الديناميكي الجميل”، قال راجاباكسي. “ربما نستطيع أخذ ما تعلمناه من نظام التعلم المناعي المقاوم للتحديات لمساعدة إعادة برمجة نظام المناعة للعمل بشكل أسرع”.