باحثو الذكاء الاصطناعي يطورون طريقة سريعة لحساب الفواصل الزمنية للثقة، وتقارير عندما لا يجب الثقة في النموذج

قام باحثون من معهد ماساتشوستس للتكنولوجيا مؤخرًا بتطوير تقنية تمكن نماذج الشبكات العصبية العميقة من حساب مستويات الثقة بسرعة، مما قد يساعد علماء البيانات ومستخدمي الذكاء الاصطناعي الآخرين في معرفة متى يجب الثقة في التنبؤات التي يقدمها النموذج.

النظم التي تعتمد على الشبكات العصبية الاصطناعية مسؤولة عن اتخاذ المزيد والمزيد من القرارات هذه الأيام، بما في ذلك العديد من القرارات التي تتضمن صحة وسلامة الأشخاص. ونتيجة لذلك، يجب أن يكون للشبكات العصبية بعض الطرق لتقييم الثقة في مخرجاتها، مما يسمح لعلماء البيانات بمعرفة مدى ثقة التنبؤات. مؤخرًا، قام فريق من الباحثين من جامعة هارفارد ومعهد ماساتشوستس للتكنولوجيا بتصميم طريقة سريعة للشبكات العصبية لتوليد مؤشر لثقة النموذج جنبًا إلى جنب مع تنبؤاته.

أصبحت نماذج التعلم العميق أكثر تعقيدًا خلال العقد الماضي، وأصبحت قادرة على تفوق البشر بسهولة في مهام تصنيف البيانات. يتم استخدام نماذج التعلم العميق في مجالات حيث يمكن أن تكون صحة وسلامة الأشخاص في خطر إذا فشلت، مثل قيادة المركبات المستقلة و تشخيص الحالات الطبية من المスح. في هذه الحالات، لا يكفي أن يكون النموذج دقيقًا بنسبة 99٪، لأن 1٪ المتبقية من الأوقات التي يفشل فيها النموذج قد تؤدي إلى كارثة. ونتيجة لذلك، يجب أن يكون هناك طريقة يمكن لعلماء البيانات من خلالها تحديد مدى ثقة أي تنبؤ معين.

هناك بعض الطرق التي يمكن من خلالها توليد فاصل زمني للثقة جنبًا إلى جنب مع تنبؤات الشبكات العصبية، ولكن الطرق التقليدية لتقييم عدم اليقين للشبكة العصبية بطيئة ومكلفة حسابيًا. يمكن أن تكون الشبكات العصبية ضخمة ومعقدة، تحتوي على مليارات المعاملات. يمكن أن يكون توليد التنبؤات مكلفًا حسابيًا ويستغرق وقتًا طويلاً، وتوليد مستوى الثقة للتنبؤات يستغرق وقتًا أطول. اعتمدت معظم الطرق السابقة لتحديد عدم اليقين على العينة أو تشغيل الشبكة مرارًا وتكرارًا للحصول على تقدير لثقتها. هذا ليس دائمًا ممكنًا للتطبيقات التي تتطلب حركة مرور عالية السرعة.

كما ذكر في أخبار معهد ماساتشوستس للتكنولوجيا، يقود ألكسندر أميني الفريق المشترك من الباحثين من معهد ماساتشوستس للتكنولوجيا وجامعة هارفارد، ووفقًا لأميني، فإن الطريقة التي طورها باحثوه تسرع عملية توليد تقديرات عدم اليقين باستخدام تقنية تسمى “الانحدار الإيجابي العميق”. أوضح أميني من خلال معهد ماساتشوستس للتكنولوجيا أن علماء البيانات يحتاجون إلى نماذج سريعة وموثوقة لتقييم عدم اليقين حتى يتمكنوا من تمييز النماذج غير الموثوقة. من أجل الحفاظ على سرعة النموذج وتوليد تقدير لعدم اليقين، صمم الباحثون طريقة لتقييم عدم اليقين من تشغيل النموذج مرة واحدة فقط.

صمم الباحثون نموذج الشبكة العصبية بحيث يتم توليد توزيع احتمالي جنبًا إلى جنب مع كل قرار. تحتفظ الشبكة بالدليل على قراراتها خلال عملية التدريب، وتوليد توزيع احتمالي بناءً على الدليل. يمثل التوزيع الإيجابي عدم يقين النموذج، ويمثل عدم يقين القرار النهائي بالإضافة إلى بيانات الإدخال الأصلية. من المهم تحديد عدم اليقين لبيانات الإدخال والقرارات، لأن تقليل عدم اليقين يعتمد على معرفة مصدر عدم اليقين.

قام الباحثون بتحديد تقنية تقدير عدم اليقين الخاصة بهم عن طريق تطبيقها على مهمة رؤية حاسوبية. بعد تدريب النموذج على سلسلة من الصور، تم توليد التنبؤات وتقديرات عدم اليقين. أبلغ النموذج بشكل صحيح عن عدم يقين عالٍ في الحالات التي تم إجراء التنبؤ الخاطئ فيها. “كان منظمًا بشكل جيد مع الأخطاء التي يرتكبها الشبكة، والتي نعتقد أنها كانت واحدة من أهم الأشياء في تقييم جودة مقدر جديد لعدم اليقين”، قال أميني عن نتائج الاختبار.

استمر فريق البحث في إجراء المزيد من الاختبارات على هيكل الشبكة. من أجل اختبار تقنية الإجهاد، قاموا أيضًا بتحليل البيانات على “بيانات خارج التوزيع”، وهي مجموعات بيانات تتكون من كائنات لم تكن الشبكة قد رأتها من قبل. كما هو متوقع، أبلغ النموذج عن عدم يقين أعلى لذات الكائنات غير المرئية. عندما تم تدريبه على بيئات داخلية، أظهر النموذج عدم يقين عالٍ عند اختباره على صور من بيئات خارجية. أظهرت الاختبارات أن النموذج يمكن أن يبرز عندما تكون قراراته خاضعة لعدم يقين عالٍ ولا يجب الثقة فيها في ظروف معينة عالية المخاطر.

أفاد فريق البحث أيضًا بأن النموذج يمكن أن يحدد عندما تم التلاعب بالصور. عندما قام الفريق بتعديل الصور بإضافة ضوضاء معادية، علق النموذج الصور المعدلة حديثًا بطلاع عدم يقين عالٍ، على الرغم من أن التأثير كان خفيًا بدرجة لا يمكن ملاحظته من قبل المراقب البشري العادي.

إذا أثبتت الطريقة موثوقيتها، يمكن للانحدار الإيجابي العميق أن ي cải thiện سلامة نماذج الذكاء الاصطناعي بشكل عام. وفقًا لأميني، يمكن للانحدار الإيجابي العميق مساعدة الأشخاص على اتخاذ قرارات محددة عند استخدام نماذج الذكاء الاصطناعي في مواقف خطرة. كما أوضح أميني من خلال أخبار معهد ماساتشوستس للتكنولوجيا :

“نحن نرى المزيد والمزيد من هذه النماذج تخرج من مختبر البحث و تنتقل إلى العالم الحقيقي، إلى مواقف تلمس البشر مع عواقب محتملة مهددة للحياة. أي مستخدم للطريقة، سواء كان طبيبًا أو شخصًا في مقعد الراكب في مركبة، يحتاج إلى أن يكون على دراية بأي مخاطر أو عدم يقين مرتبط بذلك القرار.”