فريق يطور نهجًا لمقارنة الشبكات العصبية

فريق من الباحثين في مختبر لوس ألاموس الوطني طور نهجًا جديدًا لمقارنة الشبكات العصبية. وفقًا للفريق، هذا النهج الجديد يبحث داخل “الصندوق الأسود” للذكاء الاصطناعي، ويساعد على فهم سلوك الشبكات العصبية. تُستخدم الشبكات العصبية، التي تتعرف على الأنماط داخل مجموعات البيانات، في مجموعة واسعة من التطبيقات مثل أنظمة التعرف على الوجوه والمركبات ذاتية القيادة.

قدم الفريق ورقته، “إذا كنت قد دربت واحدًا، فقد دربت جميعهم: زيادة التشابه بين البنى مع زيادة المتانة،” في مؤتمر عدم اليقين في الذكاء الاصطناعي.

هايدن جونز هو باحث في مجموعة الأبحاث المتقدمة في الأنظمة السيبرانية في لوس ألاموس وكاتب رئيسي للورقة البحثية.

فهم أفضل للشبكات العصبية الاصطناعية

“مجتمع أبحاث الذكاء الاصطناعي لا يملك بالضرورة فهمًا كاملاً لما تفعله الشبكات العصبية؛ فهي تعطينا نتائج جيدة، لكننا لا نعرف كيف أو لماذا،” قال جونز. “طريقتنا الجديدة تؤدي عملًا أفضل في مقارنة الشبكات العصبية، وهي خطوة حاسمة نحو فهم الرياضيات وراء الذكاء الاصطناعي”.

سيؤدي البحث الجديد أيضًا دورًا في مساعدة الخبراء على فهم سلوك الشبكات العصبية المتينة.

في حين أن الشبكات العصبية تعمل بأداء عالٍ، فهي أيضًا هشة. يمكن أن تسبب التغييرات الصغيرة في الظروف، مثل إشارة توقف مغطاة جزئيًا يتم معالجتها بواسطة مركبة ذاتية القيادة، في أن تخطئ الشبكة العصبية في تحديد الإشارة. وهذا يعني أن المركبة قد لا تتوقف إطلاقًا، مما قد يؤدي إلى مخاطر.

التدريب الخصومي للشبكات العصبية الاصطناعية

سعى الباحثون إلى تحسين هذه الأنواع من الشبكات العصبية من خلال النظر في طرق لتحسين متانة الشبكة. واحدة من هذه الطرق تتضمن “مهاجمة” الشبكات أثناء عملية التدريب، حيث يقوم الباحثون عمدًا بإدخال شذوذ أثناء تدريب الذكاء الاصطناعي ليتجاهله. يُعرف هذا الإجراء باسم التدريب الخصومي، ويزيد من صعوبة خداع الشبكات.

طبق الفريق مقياس جديد للتشابه بين الشبكات على الشبكات العصبية التي تم تدريبها تدريبًا خصوميًا. وفوجئوا باكتشاف أن التدريب الخصومي يؤدي إلى تقارب الشبكات العصبية في مجال الرؤية الحاسوبية إلى تمثيلات بيانات متشابهة، بغض النظر عن بنية الشبكة، مع زيادة حجم الهجوم.

“وجدنا أنه عندما ندرّب الشبكات العصبية لتصبح متينة ضد الهجمات الخصومية، فإنها تبدأ في القيام بنفس الأشياء،” قال جونز.

ليست هذه المرة الأولى التي يبحث الخبراء عن العثور على البنية المثالية للشبكات العصبية. ومع ذلك، تظهر النتائج الجديدة أن إدخال التدريب الخصومي يقلل الفجوة بشكل كبير، مما يعني أن مجتمع أبحاث الذكاء الاصطناعي قد لا يحتاج إلى استكشاف العديد من البنى الجديدة إذ أصبح من المعروف أن التدريب الخصومي يؤدي إلى تقارب البنى المتنوعة إلى حلول متشابهة.

“من خلال العثور على أن الشبكات العصبية المتينة متشابهة، نحن نجعل من السهل فهم الكيفية التي قد يعمل بها الذكاء الاصطناعي المتين فعلًا،” قال جونز. “قد نكشف أيضًا عن تلميحات حول كيفية حدوث الإدراك عند البشر والحيوانات الأخرى.”