يطور الفريق منهجًا لمقارنة الشبكات العصبية

طور فريق من الباحثين في مختبر لوس ألاموس الوطني طريقة جديدة لمقارنة الشبكات العصبية. وفقًا للفريق ، يبدو هذا النهج الجديد داخل "الصندوق الأسود" للذكاء الاصطناعي (AI) ، ويساعدهم على فهم سلوك الشبكة العصبية. تُستخدم الشبكات العصبية ، التي تتعرف على الأنماط داخل مجموعات البيانات ، في مجموعة واسعة من التطبيقات مثل أنظمة التعرف على الوجه والمركبات المستقلة. 

قدم الفريق ورقتهم ، "إذا كنت قد دربت شخصًا واحدًا ، فقد دربته جميعًا: يزيد التشابه بين الهندسة المعمارية مع المتانة، "في مؤتمر عدم اليقين في الذكاء الاصطناعي. 

هايدن جونز هو باحث في مجموعة Advanced Research in Cyber ​​Systems في لوس ألاموس والمؤلف الرئيسي للورقة البحثية. 

فهم أفضل للشبكات العصبية 

"لا يمتلك مجتمع أبحاث الذكاء الاصطناعي بالضرورة فهمًا كاملاً لما تفعله الشبكات العصبية ؛ قال جونز: "إنهم يعطوننا نتائج جيدة ، لكننا لا نعرف كيف ولماذا". "تقوم طريقتنا الجديدة بعمل أفضل في مقارنة الشبكات العصبية ، وهي خطوة حاسمة نحو فهم أفضل للرياضيات الكامنة وراء الذكاء الاصطناعي. 

سيلعب البحث الجديد أيضًا دورًا في مساعدة الخبراء على فهم سلوك الشبكات العصبية القوية. 

في حين أن الشبكات العصبية عالية الأداء ، إلا أنها هشة أيضًا. التغييرات الصغيرة في الظروف ، مثل علامة التوقف المغطاة جزئيًا والتي تتم معالجتها بواسطة مركبة مستقلة ، يمكن أن تتسبب في خطأ الشبكة العصبية في التعرف على العلامة. هذا يعني أنه قد لا يتوقف أبدًا ، مما قد يكون خطيرًا. 

الشبكات العصبية للتدريب على الخصومة

شرع الباحثون في تحسين هذه الأنواع من الشبكات العصبية من خلال النظر في طرق تحسين متانة الشبكة. يتضمن أحد الأساليب "مهاجمة" الشبكات أثناء عملية التدريب ، حيث يقوم الباحثون عن عمد بإدخال الانحرافات أثناء تدريب الذكاء الاصطناعي على تجاهلها. هذه العملية ، التي يشار إليها باسم التدريب العدائي ، تجعل من الصعب خداع الشبكات. 

قام الفريق بتطبيق المقياس الجديد لتشابه الشبكة مع الشبكات العصبية المدربة بشكل عدائي. لقد فوجئوا عندما اكتشفوا أن التدريب على الخصومة يتسبب في تقارب الشبكات العصبية في مجال رؤية الكمبيوتر مع تمثيلات بيانات مماثلة، بغض النظر عن بنية الشبكة، مع زيادة حجم الهجوم. 

قال جونز: "وجدنا أنه عندما نقوم بتدريب الشبكات العصبية لتكون قوية ضد الهجمات المعادية ، فإنها تبدأ في فعل نفس الأشياء". 

ليست هذه هي المرة الأولى التي يسعى فيها الخبراء إلى إيجاد بنية مثالية للشبكات العصبية. ومع ذلك ، تُظهر النتائج الجديدة أن إدخال التدريب العدائي يسد الفجوة بشكل كبير ، مما يعني أن مجتمع أبحاث الذكاء الاصطناعي قد لا يحتاج إلى استكشاف العديد من البنى الجديدة لأنه من المعروف الآن أن التدريب العدائي يتسبب في تقارب البنى المتنوعة مع حلول مماثلة. 

قال جونز: "من خلال اكتشاف أن الشبكات العصبية القوية متشابهة مع بعضها البعض ، فإننا نجعل من السهل فهم كيفية عمل الذكاء الاصطناعي القوي حقًا". "ربما نكشف عن تلميحات حول كيفية حدوث الإدراك لدى البشر والحيوانات الأخرى."