أساسيات الذكاء الاصطناعي
ما هو الذكاء الاصطناعي القابل للتفسير؟
أضف Unite.AI إلى مصادرك المفضلة على Google
الذكاء الاصطناعي القابل للتفسير (XAI) يتضمن طرقًا وممارسات تساعد الناس على فهم سلوك نظام الذكاء الاصطناعي أو مخرجاته. قد تصف التوضيحات المدخلات المؤثرة، أو تُظهر مثالًا مشابهًا، أو تقدم تغييرًا مضادًا للواقع، أو تلخص قاعدة شاملة، أو تُبلِّغ عندما لا يعرف النظام.
لا توجد توضيحات تكون الأفضل عالميًا. يحتاج المطور الذي يَصَلِّح نموذجًا، والمدقق الذي يختبر امتثال السياسات، والشخص المتأثر بقرار ما إلى أدلة مختلفة. لذلك يجب تقييم التوضيحات من حيث الدقة والمعنى والاستخدام المقصود — وليس فقط الجاذبية البصرية.
النقاط الرئيسية
- الشفافية تصف المعلومات المتاحة؛ القابلية للتفسير تتعلق بالمعنى؛ التوضيح ينقل الأدلة أو الأسباب.
- الطرق العامة تلخص نموذجًا، بينما الطرق المحلية تتعامل مع تنبؤ واحد أو منطقة صغيرة.
- قد تكون التوضيحات اللاحقة مفيدة لكنها قد تكون غير مستقرة أو غير مخلصة للنموذج الأساسي.
- التوضيح لا يثبت العدالة أو السببية أو المتانة أو الصواب.
أربع مبادئ للتوضيحات المفيدة
تقترح NIST أن يقدم النظام توضيحًا، ويجعلها ذات معنى للمستخدم المستهدف، ويضمن أنها تعكس بدقة عملية النظام، وتُبلِّغ عن حدود معرفتها. تفصل هذه المبادئ بين وجود التوضيح وجودته.
المعنى يختلف حسب الجمهور. قد يساعد رمز السبب المختصر المتقدم بطلب، بينما قد يحتاج مطور النموذج إلى توزيعات، وسلوك الخصائص، ومجموعات الفشل. يجب أن يرتبط كلاهما بنفس النظام الموثق وسياق القرار.
الطرق الذاتية وما بعد اللاحقة
يمكن أن يكون نموذج خطي متفرق أو شجرة قرار مقيدة قابلاً للتفسير مباشرة ضمن نطاقه الصالح. قد يستخدم نموذج معقد بدلاً من ذلك توضيحات ما بعد اللاحقة مثل إسناد الخصائص، أو نموذج بديل محلي، أو أمثلة، أو خرائط التميز، أو الحالات المضادة.
البساطة الذاتية لا تضمن الدقة عندما تكون الخصائص معرفة بشكل سيء أو يكون سير العمل مخفيًا. كما أن التعقيد ما بعد اللاحقة لا يعني بالضرورة التضليل. يجب اختبار الطريقة مقابل السؤال الذي يُقصد إجابته.
إسناد الخصائص والمدخلات المرتبطة
تُخصص طرق الإسناد أجزاءً من المخرجات إلى خصائص الإدخال وفقًا لافتراضات صريحة. يَُطَبِّق LIME نموذجًا بديلًا محليًا بسيطًا حول تنبؤ؛ وتربط طرق SHAP ذات الصلة الإسنادات الجمعية بمفهوم قيم شابلي.
يمكن للخصائص المرتبطة أن تتقاسم أو تتبادل الإسناد، ولا يعني الإسناد العالي تأثيرًا سببيًا. قد يؤدي تغيير خاصية بمفردها إلى إنشاء شخص أو صورة أو معاملة غير ممكنة. يجب أن تُوضح التوضيحات الأساسيات، وعينات البيانات، وافتراضات الاعتماد.
السيناريوهات المضادة، الأمثلة والسلوك العام
يسأل السيناريو المضاد ما هو التغيير الممكن الذي سيُغيّر النتيجة. القيود ضرورية: لا ينبغي لتوضيح قابل للتنفيذ أن يوصي بتغييرات ثابتة أو غير قانونية أو غير واقعية. تُظهر الطرق القائمة على الأمثلة نماذج أولية أو حالات تدريبية مؤثرة، لكنها قد تكشف عن بيانات خاصة.
تحلل التحليلات العامة الأداء، والاعتماد الجزئي، والاتجاه الأحادي، والتفاعلات، وسلوك الفئات الفرعية. بالنسبة للمجموعات مثل التعزيز المتدرج، يُدمج الملخص مع الأدلة المحلية واختبارات مباشرة للقيود المتوقعة.
تحقق من صحة التوضيح والنظام
اختبر الدقة، والاستقرار تحت اضطرابات صغيرة، والاتساق عبر مدخلات مكافئة، وفهم المستخدم، وما إذا كان التوضيح يدعم قرارًا مناسبًا. يجب أن تتحقق الاختبارات العدائية مما إذا كان التوضيح المقنع يمكن أن يصاحب مخرجة خاطئة أو مُتلاعب بها.
يُعد XAI جزءًا من تقييم أوسع: جودة مُحتفظ بها، ومعايرة، وعدالة، وخصوصية، وأمان، ورقابة، وآليات الاستئناف. يمكن للتوضيح أن يدعم المساءلة، لكنه لا يمكن أن يحل محل الحوكمة المسؤولة.
أهداف التوضيح وعائلات الطرق
يجب أن يبدأ الذكاء الاصطناعي القابل للتفسير بسؤال وجمهور: لماذا حدث قرار معين، كيف يتصرف النموذج عمومًا، ما الأدلة التي أثرت فيه، ما الذي سيغيّر النتيجة، أو ما إذا تم اتباع سياسة. تُعنى التوضيحات المحلية بتنبؤ واحد؛ وتلخص التوضيحات العامة سلوكًا أوسع. تكشف النماذج القابلة للتفسير ذاتيًا عن المعاملات أو القواعد أو البُنى، بينما تُقَرِّب الطرق ما بعد اللاحقة النماذج المعقدة. لا يُعد توضيح سلوك النموذج تلقائيًا توضيحًا سببيًا للعالم أو مبررًا لعدالة القرار.
تشمل طرق إسناد الخصائص التدرجات، والتدرجات المتكاملة، وقيم على نمط SHAP، والتمثيل العشوائي، والنماذج البديلة المحلية. تسترجع التوضيحات القائمة على الأمثلة حالات مؤثرة أو مشابهة؛ وتقترح السيناريوهات المضادة تغييرات مرتبطة بمخرجة مختلفة؛ وتربط طرق المفاهيم التمثيلات الداخلية بفئات بشرية. لكل منها افتراضات حول الأساسيات، واستقلالية الخصائص، والخطية المحلية، أو إمكانية الوصول إلى النموذج. يمكن للمتغيرات المرتبطة، والتفاعلات، والمعالجة المسبقة أن تجعل الإسنادات غير مستقرة أو مضللة. قارن بين الطرق وغيّر المدخلات لاختبار ما إذا كان التوضيح يتنبأ بالسلوك.
التقييم والعوامل البشرية
قيِّم الدقة — ما إذا كان التوضيح يتطابق مع النموذج — بشكل منفصل عن مقبولية التوضيح لدى الشخص. اختبر الاستقرار، والحساسية، والشمولية، والندرة، والفائدة لمهمة محددة مثل تصحيح الأخطاء أو الاستئناف. تحتاج الدراسات البشرية إلى مشاركين ممثلين ويجب أن تقيس جودة القرار، واكتشاف الأخطاء، والاعتماد، والوقت، وليس ما إذا قال المستخدمون إن الرسم البياني واضح. يمكن لتوضيح مقنع أن يزيد الثقة في نموذج خاطئ، لذا يجب أن تُظهر الواجهات عدم اليقين، والبدائل، والقيود.
يجب أن تكون السيناريوهات المضادة قابلة للتنفيذ، وقابلة للتطبيق، ولا توصي بتغيير السمات المحمية أو الثابتة. يمكن للتوضيحات أن تتسرب معلومات النموذج أو الشخصية وتساعد المهاجمين على عكس هندسة القرارات. طبّق ضوابط الوصول وتقليل المخرجات. بالنسبة للاستخدامات المنظمة أو ذات التأثير العالي، احتفظ بأصل البيانات، وإصدار النموذج، والعتبة، والمنطق الفعلي للقرار؛ لا يمكن للرسوم البيانية العامة لأهمية الخصائص أن تحل محل سبب قانوني ذي معنى أو مراجعة بشرية.
استخدام التوضيحات بمسؤولية
اختر أبسط نموذج يلبي متطلبات الأداء والعمليات، لكن لا تضحي بالصحة من أجل قابلية تفسير سطحية. ادمج التوضيحات مع اختبار الفئات الفرعية، وفحوص المتانة، والتحليل السببي عند الضرورة، ومراقبة النتائج. وثّق الجمهور المستهدف والاستنتاجات غير الصالحة. إذا تغير التوضيح بعد اضطراب غير ضار، فقم بالتحقق قبل النشر. التفسير هو دليل حول نظام باستخدام طريقة ما؛ وهو مفيد لتصحيح الأخطاء، والرقابة، والتواصل، لكنه لا يضمن الحقيقة أو العدالة أو السلامة أو الفهم.
مثال عملي: توضيح نموذج مخاطر الائتمان
يحدد المقرض أولاً الجمهور والسبب المطلوب: يحتاج المتقدمون إلى عوامل قرار دقيقة ومسار تصحيح، بينما يحتاج المطورون إلى تشخيصات. يُقارن أساس قابل للتفسير ومعاير بنموذج معزز. تُختبر الإسنادات المحلية، والسيناريوهات المضادة، وتحليل الأخطاء الشامل من حيث الدقة، والاستقرار، وسلوك الخصائص المرتبطة، والفائدة. لا يجوز للتوضيحات أن توصي بتغيير العمر أو الإعاقة أو أي صفة ثابتة أخرى، ولا تُقدَّم كآثار سببية.
يسجل سجل قرار الإنتاج بيانات المصدر، وتحويل الخصائص، والنموذج، والعتبة، والسياسة، والإجراء البشري. يمكن للمتقدمين الاعتراض على بيانات غير صحيحة والحصول على مراجعة ذات معنى. تراقب المراقبة استقرار النتيجة والتوضيح عبر الفئات وتحديثات النموذج. إذا تغير توضيح معقول تحت اضطراب غير ضار للخصائص أو حذف قاعدة سياسة حاسمة، يتوقف النشر. يُكمل التفسير التحقق من الصحة والحقوق الإجرائية؛ لكنه لا يبرر هدفًا غير صالح، أو نتائج تمييزية، أو نقص في السلطة البشرية المسؤولة.
دليل التنفيذ والاستعداد التشغيلي
يتطلب قرار الإنتاج أكثر من عرض ناجح. حدد المستخدمين المستهدفين، وبيئة التشغيل، والمدخلات، والمخرجات، والاعتمادات، والمالك، وعواقب كل فشل مهم. أنشئ أساسًا قابلًا لإعادة الإنتاج ومجموعة تقييم مُصدَّرة قبل الضبط. اختبر الحالات العادية، وظروف الحدود، ومدخلات غير صالحة أو مفقودة، وتحول التوزيع، وانقطاع الاعتماد، وسوء الاستخدام، والمجموعات أو البيئات الأكثر احتمالًا للتجاهل. قس جودة المهمة مع المعايرة أو عدم اليقين، والكمون، ومعدل النقل، وتكلفة الموارد، وإمكانية الوصول، والخصوصية، والأمان. سجِّل كل تحويل وعتبة حتى يتمكن مراجع مستقل من إعادة إنتاج النتيجة وتمييز الأدلة عن نموذج جذاب.
قبل الإطلاق، عيّن سلطة الإصدار، والاستثناءات، والتغييرات، والعودة إلى النسخة السابقة، والتقاعد. استخدم نشرًا مرحليًا، واحفظ نسخة احتياطية آمنة، وتحقق من المراقبة عبر إدخال أعطال متعمدة. يجب أن تكشف بيانات التتبع التشغيلية عن جودة المدخلات، وسلوك المخرجات، وإصدار النموذج أو القاعدة، وصحة الاعتماد، وتجاوزات البشر، والنتائج المؤكدة دون جمع بيانات حساسة غير ضرورية. حدِّد عتبات الإنذار ومسؤول الاستجابة، ثم راجع الأدلة الواقعية بعد النشر بدلاً من افتراض استمرارية الأداء غير المتصل. أعد التقييم كلما تغيرت مصادر البيانات أو المستخدمون أو النماذج أو البائعون أو السياسات أو الأجهزة أو الأهداف. يحتاج النظام المُحافظ عليه أيضًا إلى وثائق استعادة، وتعلم من الحوادث، وإجراءات حذف واحتفاظ، ونقطة واضحة يجب عندها تعطيله أو استبداله.
الأسئلة المتكررة
هل خرائط الانتباه تُعدّ توضيحات؟
يمكن أن تكون إشارات تشخيصية، لكن أوزان الانتباه وحدها لا تضمن تمثيلًا مخلصًا لأسباب مخرجات النموذج.
هل يتطلب الذكاء الاصطناعي القابل للتفسير نموذجًا بسيطًا؟
ليس دائمًا. يمكن تحليل النماذج المعقدة باستخدام طرق ما بعد اللاحقة، لكن تلك التوضيحات تحتاج إلى تحقق مستقل وحدود مُحددة بوضوح.
المراجع الأساسية
