كيف تعزز الذكاء الاصطناعي القابل للشرح الموثوقية والموثوقية

مع تمتع الذكاء الاصطناعي (AI) بالشعبية في جميع أنحاء الشركات، يتم دمجه ببطء في نسيج وجودنا. جانب مهم من هذا التمكين هو أن المستخدمين النهائيين يجب أن يكونوا قادرين على فهم الكامل للعملية والآليات التي يستخدمها الذكاء الاصطناعي للوصول إلى استنتاج أو كيفية عمله لتحقيق النتائج المرغوبة. كبشر، لدينا حاجة جذرية لفهم “لماذا” و “كيف” لأي ظاهرة، مما عزز تقدمنا التكنولوجي. في سياق الذكاء الاصطناعي، يُطلق على هذا الفهم اسم “الوضوح”.

لماذا الوضوح هو الحاجة في الوقت الحالي؟

في معظم الأحيان، ننظر إلى الذكاء الاصطناعي على أنه “صندوق أسود”، حيث لدينا فقط معرفة بالمدخلات والمخرجات، ولكن في مكان ما يتم فقدان العمليات المستخدمة. يزيد من تعقيد هذه المشكلة حقيقة أن الخوارزميات التي تعمل على معظم أشكال الذكاء الاصطناعي، مثل أنظمة التنبؤ القائمة على التعلم العميق والنظم القائمة على معالجة اللغة الطبيعية (NLP) هي مجردة للغاية حتى لأكثر الممارسين إنجازًا.

الثقة والشفافية: من أجل أن يثق المستخدمون في تنبؤات الذكاء الاصطناعي، يجب أن يكون لديه بعض مستوى من الوضوح المتأصل فيه. على سبيل المثال، إذا كان من المفترض أن يوصي أخصائي طبي بعلاج بناءً على تنبؤات الذكاء الاصطناعي، فيجب أن يكون متأكدًا من التنبؤ. يجب أن يكون البنك على ثقة تامة في قرار رفض أو موافقة على القرض ويكون قادرًا على تبرير ذلك لجميع أصحاب المصلحة. يجب أن يثبت الذكاء الاصطناعي المستخدم في الفحص والتوظيف أن الآليات الكامنة معادلة ومنصفة لجميع فئات المتقدمين.

يجعل الذكاء الاصطناعي أكثر إنسانية ويزيد من القبول: في تقرير “حالة الذكاء الاصطناعي في عام 2020” الصادر عن شركة ماكينزي، نتعلم أن شركة تصنيع تستخدم نماذج شفافة للغاية لقبول عمال المصنع، الذين يحتاجون إلى الثقة بقرارات الذكاء الاصطناعي المتعلقة بسلامتهم. من أجل تبني الذكاء الاصطناعي بسرعة، الحصول على موافقة أصحاب المصلحة هو العائق الرئيسي لتوسيع نطاق الحلول البسيطة إلى مستوى المؤسسة والحصول على أقصى استفادة من الاستثمار. هذا يخفف إلى حد كبير إذا كانت الأداء قابلة للشرح أمام الجمهور الأوسع. من منظور تجاري، يعزز الوضوح تجربة المستخدم الكلية ويزيد من رضا العملاء. وفقًا لنتائج استطلاع معهد آي بي إم للقيمة التجارية، يعتقد 68٪ من كبار المسؤولين التنفيذيين أن العملاء سيتطلبون المزيد من الوضوح من الذكاء الاصطناعي في السنوات الثلاث القادمة.

كشف الانحياز وتحسين أداء النموذج: يحتاج المطور إلى معرفة كيفية تحسين أداء النموذج، وكيفية تصحيحه بدقة. إطار وضوح واضح هو واحد من أهم الأدوات لأداء التحليل الشامل المطلوب.

الحصول على رؤى حادة وشاملة: من المطلوب رؤية شاملة لجميع الزوايا لفهم تمامًا أي وصفات يصدرها الذكاء الاصطناعي. على سبيل المثال، إذا تم استخدام الذكاء الاصطناعي لاتخاذ قرار استثماري، فمن المفترض أيضًا معرفة المنطق وراءه، حتى يمكن نقل هذا التعلم إلى مجالات أخرى وفهم المخاطر المحتملة لاتخاذ ذلك القرار. سوف يسمح الفهم القوي لكيفية عمل الذكاء الاصطناعي لمصنعي القرار كشف استخدامات جديدة.

اللوائح والمساءلة: تنظم عدة لوائح مثل GDPR الحق في الشرح، لمعالجة قضايا المساءلة التي تطرأ من عملية اتخاذ القرار الآلي. في أنظمة مثل المركبات المستقلة، إذا حدث شيء خاطئ مما يؤدي إلى خسارة في الأرواح والممتلكات، فمن الضروري معرفة السبب الجذري، وهو ما سيكون من الصعب تحديده في نظام “صندوق أسود”.

كيف يمكن للذكاء الاصطناعي أن يكون أكثر وضوحًا؟

تطوير أنظمة الذكاء الاصطناعي القابلة للشرح باستخدام تقنيات مختلفة تركز على شرح النموذج ككل أو شرح المنطق وراء كل تنبؤ من خلال مساعدة بعض الخوارزميات.

تعتمد تقنيات الوضوح في الغالب على:

• تفكيك النموذج إلى مكونات فردية)
• تجسيد تنبؤات النموذج (على سبيل المثال، إذا قام نموذج بتصنيف سيارة على أنها من علامة تجارية معينة، فإنه يبرز الجزء الذي تسبب في ذلك)
• تعدين الشرح (استخدام تقنيات التعلم الآلي لfinding البيانات ذات الصلة التي تفسر تنبؤ خوارزمية الذكاء الاصطناعي).

في أحد هذه التقنيات، يُستخدم نموذج أكثر بساطة ويمكن فهمه، مثل شجرة القرار، لتمثيل النموذج الأكثر تعقيدًا للذكاء الاصطناعي. توفر هذه الأسباب البسيطة فكرة عادلة عن النموذج على مستوى عال، ولكنها قد تقلل في بعض الأحيان من بعض النزاعات.

منهج آخر يسمى “الوضوح من خلال التصميم” يضع قيودًا في تصميم وتدريب شبكة الذكاء الاصطناعي بطريقة جديدة، تحاول بناء الشبكة الكلية من قطع أصغر وأكثر وضوحًا. هذا يتضمن تسوية بين مستوى الدقة والوضوح، ويلزم بعض Approaches من أدوات عالم البيانات. قد يكون هذا أيضًا مكلفًا من حيث الحوسبة.

يمكن أن تستخدم تدريب واختبار الذكاء الاصطناعي تقنيات التحقق من البيانات المتعاطفة مثل نموذج LIME وSHAP، وينبغي أن يتم توجيهها لتحقيق دقة عالية من خلال استخدام F-score، الدقة، وغيرها من المقاييس. وينبغي أيضًا مراقبة جميع النتائج وتمييزها باستخدام مجموعة واسعة من البيانات. باستخدام LIME، على سبيل المثال، يمكن للمنظمات إنشاء نماذج مؤقتة تقلد تنبؤات الخوارزميات غير الشفافة مثل التعلم الآلي. يمكن ثم إنشاء نماذج LIME هذه مجموعة واسعة من التغيرات بناءً على مجموعة بيانات معينة ونتائجها المقابلة، والتي يمكن استخدامها لتدريب نماذج أكثر بساطة ويمكن تفسيرها مع قائمة كاملة من الأسباب لكل قرار و/أو تنبؤ. إطار SHAP الذي يعتمد على نظرية الألعاب و特别 نظرية الألعاب التعاونية هو نموذج يجمع بين التخصيص الأمثل للائتمان مع التفسيرات المحلية باستخدام قيم Shapley الأصلية من نظرية الألعاب وأقاربها.

العمليات المبنية على المبادئ

على مستوى استراتيجي أكثر، ومع ذلك، يجب أن تتضمن إطارات موثوقية الذكاء الاصطناعي مجموعة واسعة من المبادئ التي تهدف إلى ضمان النتائج المناسبة في بداية النشر وعلى مر الزمن مع تطور النماذج في وجود ظروف متغيرة. على الأقل، يجب أن تتضمن هذه الإطارات أشياء مثل:

• كشف الانحياز – يجب تنظيف جميع مجموعات البيانات من الانحياز والسمات التمييزية ومنحها الوزن والتفويض المناسبين عند تطبيقها على نموذج التدريب;
• المشاركة البشرية – يجب أن يكون للمشغلين khảية التحقيق في مخرجات الخوارزمية وتفسيرها في جميع الأوقات، خاصة عند استخدام النماذج في تنفيذ القانون وحماية الحريات المدنية;
• التبرير – يجب أن تتمكن جميع التنبؤات من تحمل الفحص، وهو ما يتطلب بالطبيعة درجة عالية من الشفافية لتمكين المراقبين الخارجيين من تقييم العمليات والمعايير المستخدمة لتحقيق النتائج;
• التناسق – يجب أن يكون نماذج الذكاء الاصطناعي الموثوقة متسقة في التنبؤات وتعرض مستويات عالية من الاستقرار عند مواجهة بيانات جديدة.

ولكن يجب ألا ينظر إلى الذكاء الاصطناعي القابل للشرح فقط على أنه وسيلة لتحسين الربحية، بل لجلب المساءلة لضمان أن المؤسسات يمكن أن تفسر وتبرر تأثير ابتكاراتها على المجتمع ككل.