فريق يطور نهجًا لتقديم فهم أفضل للشبكات العصبية الاصطناعية

فريق من الباحثين في مختبر لوس ألاموس الوطني طور نهجًا جديدًا لتقديم فهم أفضل للشبكات العصبية الاصطناعية. وفقًا للفريق، هذا النهج الجديد يبحث داخل “ال盒ة السوداء” للذكاء الاصطناعي، ويساعد على فهم سلوك الشبكات العصبية. تعتبر الشبكات العصبية، التي تعرف الأنماط داخل مجموعات البيانات، تستخدم في مجموعة واسعة من التطبيقات مثل أنظمة التعرف على الوجوه والمركبات ذاتية الحكم.

قدم الفريق ورقته، “إذا كنت قد دربت واحدًا، فقد دربت جميعهم: زيادة التشابه بين البنى مع زيادة المتانة،” في مؤتمر عدم اليقين في الذكاء الاصطناعي.

هايدن جونز هو باحث في مجموعة الأبحاث المتقدمة في الأنظمة الإلكترونية في لوس ألاموس وكاتب رئيسي للورقة البحثية.

فهم أفضل للشبكات العصبية الاصطناعية

“مجتمع أبحاث الذكاء الاصطناعي لا يملك فهمًا كاملاً لما تفعله الشبكات العصبية؛ فهي تعطينا نتائج جيدة، لكننا لا نعرف كيف أو لماذا،” قال جونز. “طريقة جديدة تفعل عملًا أفضل في مقارنة الشبكات العصبية، وهو خطوة حاسمة نحو فهم الرياضيات وراء الذكاء الاصطناعي.

سيؤدي البحث الجديد أيضًا دورًا في مساعدة الخبراء على فهم سلوك الشبكات العصبية المتينة.

في حين أن الشبكات العصبية تعمل بأداء عالي، فهي أيضًا هشة. يمكن أن تسبب التغييرات الصغيرة في الظروف، مثل إشارة وقف جزئيًا مغطاة يتم معالجتها بواسطة مركبة ذاتية الحكم، في أن تسيء الشبكة العصبية في تحديد الإشارة. وهذا يعني أنها قد لا تتوقف أبدًا، مما قد يؤدي إلى مخاطر.

تدريب الشبكات العصبية الاصطناعية بشكل معاكس

سعى الباحثون إلى تحسين هذه الأنواع من الشبكات العصبية من خلال النظر في طرق لتحسين متانة الشبكة. واحدة من هذه الطرق تتضمن “مهاجمة” الشبكات أثناء عملية التدريب، حيث يقوم الباحثون عمدًا بإدخال شذوذ أثناء تدريب الذكاء الاصطناعي ليتجاهله. يُعرف هذا الإجراء باسم التدريب المعاكس، ويزيد من صعوبة خداع الشبكات.

طبق الفريق مقياس جديد للتشابه بين الشبكات على الشبكات العصبية التي تم تدريبها بشكل معاكس. و驚وا باكتشاف أن التدريب المعاكس يسبب في أن تتقارب الشبكات العصبية في مجال الرؤية الحاسوبية إلى تمثيلات بيانات متشابهة، بغض النظر عن بنية الشبكة، مع زيادة حجم الهجوم.

“وجدنا أنه عندما ندرّب الشبكات العصبية لتصبح متينة ضد الهجمات المعاكسة، فإنها تبدأ في القيام بنفس الأشياء،” قال جونز.

ليس هذا أول مرة يبحث الخبراء عن العثور على البنية المثالية للشبكات العصبية. ومع ذلك، تظهر النتائج الجديدة أن إدخال التدريب المعاكس يقلل الفجوة بشكل كبير، مما يعني أن مجتمع أبحاث الذكاء الاصطناعي قد لا يحتاج إلى استكشاف العديد من البنى الجديدة منذ أن أصبح من المعروف أن التدريب المعاكس يسبب في أن تتقارب البنى المتنوعة إلى حلول متشابهة.

“من خلال العثور على أن الشبكات العصبية المتينة متشابهة، نحن نجعل من السهل فهم كيفية عمل الذكاء الاصطناعي المتين حقًا،” قال جونز. “قد نكشف أيضًا عن تلميحات حول كيفية حدوث الإدراك عند البشر والحيوانات الأخرى.”