باحثون يطورون أداة “DeepTrust” لمساعدة زيادة ثقة الشبكات العصبية الاصطناعية

سلامة الشبكات العصبية الاصطناعية وثقتها هي واحدة من أكبر الجوانب في التكنولوجيا. وهي دائمًا ما يتم تحسينها والعمل عليها من قبل الخبراء الرائدين في المجالات المختلفة، وسوف تكون حاسمة للتنفيذ الكامل للشبكات العصبية الاصطناعية في المجتمع.

بعض من هذا العمل الجديد يأتي من جامعة جنوب كاليفورنيا، حيث قام باحثو USC Viterbi Engineering بتطوير أداة جديدة قادرة على توليد مؤشرات تلقائية لتحديد ما إذا كانت خوارزميات الشبكات العصبية الاصطناعية موثوقة في بياناتها وتوقعاتها.

تم نشر البحث في Frontiers in Artificial Intelligence، تحت عنوان “هناك أمل بعد كل شيء:قياس Opinion و Trustworthiness في الشبكات العصبية الاصطناعية”. ويشمل مؤلفو الورقة Mingxi Cheng و Shahin Nazarian و Paul Bogdan من مجموعة USC Cyber Physical Systems.

ثقة الشبكات العصبية الاصطناعية

أحد أكبر المهام في هذا المجال هو جعل الشبكات العصبية الاصطناعية تولد توقعات يمكن الوثوق بها. في العديد من الحالات، هذا ما يمنع التنفيذ الكامل للتكنولوجيا التي تعتمد على الشبكات العصبية الاصطناعية.

على سبيل المثال، يتطلب السيارات ذاتية القيادة أن تعمل بشكل مستقل وتنفذ قرارات دقيقة على وضع السيارة التلقائي. تحتاج إلى أن تكون قادرة على اتخاذ هذه القرارات بسرعة فائقة، أثناء فك الشفرة والتعرف على الأجسام على الطريق. هذا أمر بالغ الأهمية، خاصة في السيناريوهات التي ستحتاج التكنولوجيا فيها إلى التمييز بين عدة أشياء أو كائنات حية.

تشمل السيناريوهات الأخرى سيارة ذاتية القيادة تقرر ماذا تفعل عندما تواجهها سيارة أخرى بشكل متقابل، وأكثر قرار معقد هو إذا كانت سيارة ذاتية القيادة تحتاج إلى أن تقرر بين اصطدام ما تدركه على أنه سيارة أخرى أو جسم أو كائن حي.

كل هذا يعني أننا نضع قدرًا كبيرًا من الثقة في قدرة برمجيات سيارة ذاتية القيادة على اتخاذ القرار الصحيح في أجزاء من الثانية. يصبح الأمر أكثر صعوبة عندما هناك معلومات متضاربة من حساسات مختلفة، مثل الرؤية الحاسوبية من الكاميرات والليدار.

قرر مؤلف الرسالة الرئيسي Minxi Cheng أن يأخذ هذا المشروع بعد التفكير في “حتى البشر يمكن أن يكونوا غير متأكدين في بعض سيناريوهات اتخاذ القرار. في الحالات التي تتضمن معلومات متضاربة، لماذا لا يمكن للألة أن تخبرنا عندما لا تعرف؟

DeepTrust

الأداة التي تم إنشاؤها من قبل الباحثين هي DeepTrust، وهي قادرة علىقياس مقدار عدم اليقين، وفقًا لPaul Bogdan، أستاذ مساعد في قسم الهندسة الكهربائية والحاسوب في جامعة Ming Hsieh.

قضى الفريق ما يقرب من عامين في تطوير DeepTrust، بشكل رئيسي باستخدام المنطق الموضوعي لتقييم الشبكات العصبية الاصطناعية. في أحد الأمثلة على أداة تعمل، تمكنت من النظر إلى استطلاعات الانتخابات الرئاسية لعام 2016 وتوقعت أن هناك هامشًا أكبر للخطأ لفوز هيلاري كلينتون.

أداة DeepTrust تجعل من السهل أيضًا اختبار موثوقية خوارزميات الشبكات العصبية الاصطناعية التي تم تدريبها على ما يصل إلى ملايين النقاط البيانية. الطريقة الأخرى للقيام بذلك هي التحقق المستقل من كل واحدة من النقاط البيانية لاختبار الدقة، وهو مهمة شاقة للغاية.

وفقًا للباحثين، فإن هيكل هذه الأنظمة الشبكية العصبية أكثر دقة، ويمكن تحقيق الدقة والثقة في نفس الوقت.

“إلى حد ما، لا يوجد نموذج أو أداة لقياس الثقة للتعلم العميق والذكاء الاصطناعي والتعلم الآلي. هذا هو النهج الأول ويفتح اتجاهات بحثية جديدة،” يقول Bogdan.

يؤمن Bogdan أيضًا أن DeepTrust يمكن أن يساعد في دفع الشبكات العصبية الاصطناعية إلى الأمام إلى النقطة التي تصبح فيها “واعية ومتكيفة”.