يُنشئ جوجل برنامجًا جديدًا للذكاء الاصطناعي القابل للشرح لتعزيز الشفافية وقابلية التصحيح

أعلنت جوجل مؤخرًا عن إنشاء منصة سحابية جديدة تهدف إلى إعطاء رؤية حول كيفية اتخاذ برنامج الذكاء الاصطناعي للقرارات، مما يجعل تصحيح البرنامج أسهل وتعزيز الشفافية. كما ذكرت ذا ريجيستر، المنصة السحابية تسمى الذكاء الاصطناعي القابل للشرح، وتعتبر محاولة كبيرة من جوجل للاستثمار في قابلية تفسير الذكاء الاصطناعي.

تُستخدم الشبكات العصبية الاصطناعية في معظم الأنظمة الرئيسية للذكاء الاصطناعي المستخدمة في العالم اليوم. يمكن أن تكون الشبكات العصبية التي تعمل على تطبيقات الذكاء الاصطناعي الرئيسية معقدة للغاية وضخمة، و随ما يزيد تعقيد النظام، يصبح من الصعب فهم سبب اتخاذ قرار معين من قبل النظام. كما giải thích جوجل في ورقة البياض، مع زيادة قوة أنظمة الذكاء الاصطناعي، تصبح أكثر تعقيدًا وبالتالي أكثر صعوبة في التصحيح. تُفقد الشفافية أيضًا عند حدوث ذلك، مما يعني أن الخوارزميات المتحيزة يمكن أن تكون صعبة في التعرف عليها ومواجهتها.

غالبًا ما يكون من الصعب تفسير السبب الذي يدفع سلوك الأنظمة المعقدة، وغالبًا ما يكون له عواقب دراماتيكية. بالإضافة إلى صعوبة مكافحة التحيز في الذكاء الاصطناعي، يمكن أن يصبح من الصعب التمييز بين الارتباطات الزائفة والارتباطات الهامة والمثيرة للاهتمام.

تجري العديد من الشركات ومجموعات البحث في كيفية مواجهة مشكلة “الصندوق الأسود” للذكاء الاصطناعي وإنشاء نظام يفسر بشكل كافٍ سبب اتخاذ قرارات معينة من قبل الذكاء الاصطناعي. تمثل منصة الذكاء الاصطناعي القابل للشرح من جوجل محاولة لتحدي هذا التحدي. يتكون الذكاء الاصطناعي القابل للشرح من ثلاثة أدوات مختلفة. الأداة الأولى هي نظام يصف الميزات التي تم اختيارها بواسطة الذكاء الاصطناعي ويعرض أيضًا درجة منح التي تمثل مقدار التأثير الذي تملكه ميزة معينة على التنبؤ النهائي. يُظهر تقرير جوجل عن الأداة مثالًا على التنبؤ بمدة ركوب الدراجة بناءً على متغيرات مثل هطول الأمطار ودرجة الحرارة الحالية و曜日 والوقت. بعد أن يُحدد النظام القرار، يتم تقديم ملاحظات تعرض الميزات التي كان لها أكبر تأثير على التنبؤات.

كيف توفر هذه الأداة مثل هذه الملاحظات في حالة بيانات الصور؟ في هذه الحالة، تنتج الأداة طبقة تُظهر المناطق من الصورة التي أُعطيت أهمية أكبر في القرار.

أداة أخرى موجودة في مجموعة الأدوات هي أداة “ماذا لو”، والتي تعرض التقلبات المحتملة في أداء النموذج عند تعديل سمات فردية. أخيرًا، يمكن تعيين الأداة الأخيرة لتقديم نتائج عينة إلى المراجعين البشرين بانتظام.

أوضح د. أندرو مور، كبير علماء جوجل في الذكاء الاصطناعي والتعلم الآلي، الإلهام وراء المشروع. أوضح مور أن المجتمع الأكاديمي بدأ يُعبّر عن قلق حول الآثار الضارة لاستخدام الذكاء الاصطناعي منذ حوالي خمس سنوات، وأرادت جوجل ضمان استخدام أنظمتها فقط بالطرق الأخلاقية. وصف مور حادثة حيث حاولت الشركة تصميم برنامج رؤية حاسوبية لتنبيه العمال في البناء إذا لم يكن شخص ما يرتدي خوذة، ولكنهم أصبحوا قلقين من أن المراقبة يمكن أن تُؤخذ إلى حد بعيد ويُصبح الأمر غير إنساني. قال مور إن هناك سببًا مشابهًا لرفض جوجل إصدار واجهة برمجة تطبيقات عامة لتعرف الوجه، حيث أرادت الشركة الحفاظ على سيطرة أكبر على كيفية استخدام تكنولوجيا الشركة وضمان استخدامها فقط بالطرق الأخلاقية.

أوضح مور أيضًا لماذا كان من المهم للغاية أن يكون قرار الذكاء الاصطناعي قابلًا للتفسير:

“إذا كنت تمتلك نظامًا حرجًا أو شيءًا هامًا اجتماعيًا قد يكون له عواقب غير مقصودة إذا كنت تعتقد أن نموذجك قد ارتكب خطأً، عليك أن تتمكن من تشخيصه. نريد أن نُشرح بعناية ما يمكن القيام به وما لا يمكن القيام به من حيث قابلية التفسير. إنه ليس علاجًا سحريًا.