فريق يطور نهجًا لمقارنة الشبكات العصبية

فريق من الباحثين في مختبر لوس ألاموس الوطني طور نهجًا جديدًا لمقارنة الشبكات العصبية. وفقًا للفريق ، ينظر هذا النهج الجديد داخل “الصندوق الأسود” للذكاء الاصطناعي (AI) ، ويساعدهم على فهم سلوك الشبكة العصبية. تستخدم الشبكات العصبية ، التي تعرف الأنماط داخل مجموعات البيانات ، في مجموعة واسعة من التطبيقات مثل أنظمة التعرف على الوجه والمركبات ذاتية القيادة.

قدم الفريق ورقته ، “إذا كنت قد دربت واحدًا فقد دربتهم جميعًا: زيادة التشابه بين البنية مع متانة،” في مؤتمر عدم اليقين في الذكاء الاصطناعي.

هيدن جونز هو باحث في مجموعة الأبحاث المتقدمة في الأنظمة السيبرانية في لوس ألاموس و هو المؤلف الرئيسي للورقة البحثية.

فهم أفضل للشبكات العصبية

“مجتمع أبحاث الذكاء الاصطناعي لا يملك بالضرورة فهمًا كاملاً لما تفعله الشبكات العصبية؛ فهي تعطينا نتائج جيدة ، لكننا لا نعرف كيف أو لماذا ،” قال جونز. “طريقة جديدة تفعل عملًا أفضل في مقارنة الشبكات العصبية ، وهو خطوة حاسمة نحو فهم أفضل للرياضيات وراء الذكاء الاصطناعي.

سيplayed دور البحث الجديد أيضًا في مساعدة الخبراء على فهم سلوك الشبكات العصبية المتينة.

على الرغم من أن الشبكات العصبية لها أداء عالي ، إلا أنها هشة. يمكن أن تسبب التغييرات الصغيرة في الظروف ، مثل إشارة توقف جزئية مغطاة يتم معالجتها بواسطة مركبة ذاتية القيادة ، في أن تتعرف الشبكة العصبية على الإشارة بشكل خاطئ. وهذا يعني أنها قد لا تتوقف أبدًا ، مما قد يؤدي إلى خطر.

تدريب الشبكات العصبية المعادية

سعى الباحثون إلى تحسين هذه الأنواع من الشبكات العصبية من خلال النظر في طرق لتحسين متانة الشبكة. واحدة من النهج تتضمن “مهاجمة” الشبكات خلال عملية التدريب ، حيث يقوم الباحثون عمدًا بإدخال شذوذ أثناء تدريب الذكاء الاصطناعي لتجاهله. يُعرف هذا الإجراء ، الذي يُسمى التدريب المعادي ، يجعل من الصعب على الشبكات أن تتعرف على الخداع.

طبق الفريق المقاييس الجديدة للمشابهة بين الشبكات على الشبكات العصبية المدربة بشكل معادي. وقد فوجئوا باكتشاف أن التدريب المعادي يسبب في أن تتقارب الشبكات العصبية في مجال رؤية الكمبيوتر إلى تمثيلات بيانات متشابهة ، بغض النظر عن بنية الشبكة ، مع زيادة حجم الهجوم.

“وجدنا أنه عندما نقوم بتدريب الشبكات العصبية على أن تكون متينة ضد الهجمات المعادية ، فإنها تبدأ في القيام بنفس الأشياء ،” قال جونز.

ليس هذا أول مرة يبحث فيها الخبراء عن العثور على البنية المثالية للشبكات العصبية. ومع ذلك ، تظهر النتائج الجديدة أن إدخال التدريب المعادي يغلق الفجوة بشكل كبير ، مما يعني أن مجتمع أبحاث الذكاء الاصطناعي قد لا يحتاج إلى استكشاف العديد من البنيات الجديدة منذ أن أصبح من المعروف أن التدريب المعادي يؤدي إلى تقارب البنيات المتنوعة إلى حلول متشابهة.

“من خلال العثور على أن الشبكات العصبية المتينة متشابهة ، نحن نجعل من السهل فهم كيفية عمل الذكاء الاصطناعي المتين حقًا ،” قال جونز. “نحن قد نكشف أيضًا عن تلميحات حول كيفية حدوث الإدراك في البشر والحيوانات الأخرى.”