تقديم مستويات جديدة من الشفافية مع الذكاء الاصطناعي – قادة الفكر

بواسطة Balakrishna D R، نائب الرئيس الأول، رئيس العرض الخدمي – الطاقة والاتصالات والخدمات وخدمات الذكاء الاصطناعي والتحكم الآلي، في Infosys.

في 9 يناير 2020، أبلغت منظمة الصحة العالمية العامة عن تفشي فيروس كورونا في الصين. قبل ثلاثة أيام، كان مركز السيطرة على الأمراض في الولايات المتحدة قد أعلن عن الخبر. ولكن منصة مراقبة الصحة الكندية كانت قد سبقتهم إلى ذلك، وأرسلت كلمة إلى عملائها في 31 ديسمبر 2019! تستخدم المنصة، BlueDot، خوارزميات مدفوعة بالذكاء الاصطناعي التي تفحص تقارير الأخبار باللغات الأجنبية وشبكات أمراض النبات والحيوان والإعلانات الرسمية لتزويد عملائها bằng تحذيرات مسبقة لتجنب المناطق الخطرة مثل ووهان.

خلال السنوات القليلة الماضية، أصبح الذكاء الاصطناعي مصدرًا رئيسيًا للتحول والاضطراب والميزة التنافسية في الاقتصاد المتغير بسرعة اليوم. من تتبع الأوبئة إلى الدفاع والرعاية الصحية والمركبات المستقلة وكل شيء بينهما، يكتسب الذكاء الاصطناعي انتشارًا واسعًا. يتوقع شركة PwC أن يمكن للذكاء الاصطناعي أن يساهم بما يصل إلى 15.7 تريليون دولار في الاقتصاد العالمي في عام 2030، بمعدل نمو حالي.

ومع ذلك، فإن الذكاء الاصطناعي لا يزال يطرح أسئلة غير مجابة حول الشفافية والموثوقية. هناك حاجة لفهم وقدرة على توقع موثوقية أنظمة الذكاء الاصطناعي، خاصة في المجالات الحيوية للحياة والموت والرفاهية الشخصية.

دخول المجهول

عندما تم تقديم أنظمة التفكير الآلي لأول مرة لدعم اتخاذ القرارات، اعتمدت على قواعد محددة يدويا. بينما جعل ذلك من السهل تفسير سلوكها وتعديله، إلا أنها لم تكن قابلة للتوسيع. جاءت نماذج التعلم الآلي لتلبية احتياجات التوسيع؛ لم تكن تتطلب تدخل إنسانيًا ويمكنها التدريب من البيانات – وكلما زادت البيانات، كان ذلك أفضل. بينما لا مثيل لنماذج التعلم العميق في قدراتها ومدى تطبيقها، إلا أن حقيقة أن هذه النماذج هي صناديق سوداء في معظم الأحيان، تثير أسئلة مثيرة للقلق بشأن صحتها وموثوقيتها وتحيزاتها في سياق استخدامها الواسع.

لا يوجد آلياً مباشر لتعقب التفكير الضمني المستخدم بواسطة نماذج التعلم العميق. مع نماذج التعلم الآلي التي تتمتع بطبيعة الصندوق الأسود، النوع الرئيسي من القابلية للتفسير هو ما بعد الحدث، مما يعني أن التفسيرات مستمدة من طبيعة وخصائص الإخراج التي تنتجها النماذج. لم يتم متابعة المحاولات المبكرة لاستخراج القواعد من الشبكات العصبية (كما كان يعرف التعلم العميق في وقت سابق) حاليًا، لأن الشبكات أصبحت كبيرة ومتنوعة جدًا لاستخراج القواعد القابل للتعامل. لذلك، هناك حاجة ملحة لإدخال القابلية للتفسير والشفافية في نسيج نمذجة الذكاء الاصطناعي.

خروج الليل، دخول النور

أدى هذا القلق إلى الحاجة إلى الشفافية في التعلم الآلي، مما أدى إلى نمو الذكاء الاصطناعي القابل للتفسير، أو XAI. يهدف إلى معالجة القضايا الرئيسية التي تعوق قدرة الثقة الكاملة في اتخاذ القرارات بواسطة الذكاء الاصطناعي – بما في ذلك التحيز والشفافية. يعد هذا المجال الجديد من الذكاء الاصطناعي مسؤولاً عن ضمان أن يستفيد المجتمع من الذكاء الاصطناعي مع نتائج أفضل للجميع.

سيظل XAI حاسمًا في مساعدة التحيز المتأصل في أنظمة الذكاء الاصطناعي والخوارزميات، والتي يتم برمجتها بواسطة أشخاص 背景ات وتجارب لا عمدية تؤدي إلى تطوير أنظمة ذكاء اصطناعي تظهر تحيزًا. قد يتسلل التحيز غير المرغوب فيه، مثل التمييز ضد جنسية أو عرقية معينة، لأن النظام يضيف قيمة إليه بناءً على البيانات الحقيقية. على سبيل المثال، قد يظهر أن المخالفين العاديين لتقديم القروض يأتون من خلفية عرقية معينة، ومع ذلك، فإن تنفيذ أي سياسة تقييدية بناءً على ذلك قد يكون ضد الممارسات العادلة. البيانات الخاطئة هي سبب آخر للتحيز. على سبيل المثال، إذا كان جهاز التعرف على الوجه غير دقيق بنسبة 5٪ بسبب لون البشرة أو الضوء الساقط على الوجه، فقد يؤدي ذلك إلى تحيز. وأخيرًا، إذا لم تكن بيانات العينة تمثل السكان بأكمله، فمن المحتمل أن يحدث تحيز.

يهدف XAI إلى معالجة كيفية اتخاذ أنظمة الذكاء الاصطناعي قراراتها السوداء. يفحص ويهتم بفهم الخطوات والنمذجة المشاركة في اتخاذ القرارات. إنه يجيب على أسئلة حاسمة مثل: لماذا اتخذ نظام الذكاء الاصطناعي تنبؤًا أو قرارًا معينًا؟ لماذا لم يفعل نظام الذكاء الاصطناعي شيئًا آخر؟ متى نجح نظام الذكاء الاصطناعي أو فشل؟ متى يعطي نظام الذكاء الاصطناعي ثقة كافية في القرار بحيث تثق به، وكيف يمكن لنظام الذكاء الاصطناعي تصحيح الأخطاء؟

ذكاء اصطناعي قابل للتفسير وقابل للتنبؤ وقابل للتتبع

طريقة واحدة لتحقيق القابلية للتفسير في أنظمة الذكاء الاصطناعي هي استخدام خوارزميات التعلم الآلي التي تتمتع بطبيعة تفسيرية. على سبيل المثال، أشكال أبسط من التعلم الآلي مثل أشجار القرار والتصنيف البايزي والخوارزميات الأخرى التي تتمتع بدرجات معينة من التتبع والشفافية في اتخاذ القرارات. يمكنها توفير الرؤية اللازمة لأنظمة الذكاء الاصطناعي الحيوية دون التضحية بأداء أو دقة كبيرة.

ملاحظة الحاجة إلى توفير القابلية للتفسير للتعلم العميق والمناهج الخوارزمية الأكثر تعقيدًا، تعمل وكالة الأبحاث المتقدمة الدفاعية الأمريكية (DARPA) على إنتاج حلول ذكاء اصطناعي قابل للتفسير من خلال مبادرات بحثية ممولة. تصف DARPA قابلية تفسير الذكاء الاصطناعي في ثلاثة أجزاء تشمل: دقة التنبؤ، مما يعني أن النماذج سوف تفسر كيفية الوصول إلى الاستنتاجات لتحسين اتخاذ القرارات في المستقبل؛ فهم القرار و الثقة من قبل المستخدمين والمنفذين البشر، بالإضافة إلى التفتيش والقابلية للتتبع للإجراءات التي يقوم بها أنظمة الذكاء الاصطناعي.

سوف تمكن التتبع البشر من الدخول إلى حلقات اتخاذ القرارات بواسطة الذكاء الاصطناعي وسيطرة مهامها أو إيقافها عند الحاجة. من المتوقع أن يقوم نظام الذكاء الاصطناعي ليس فقط بتنفيذ مهمة معينة أو فرض قرارات، ولكن أيضًا تقديم تقرير شفاف حول سبب اتخاذ قرارات معينة مع المنطق الداعم.

ليس من الممكن حاليًا معايير الخوارزميات أو حتى نهج XAI، ولكن من الممكن معايير مستويات الشفافية / مستويات القابلية للتفسير. تعمل المنظمات المعيارية على التوصل إلى فهم مشترك ومعياري لمستويات الشفافية لتسهيل التواصل بين المستخدمين النهائيين ومتعهدي التكنولوجيا.

随着 اعتماد الحكومات والمؤسسات والشركات والجمهور العام لأنظمة الذكاء الاصطناعي، سيكون الفوز بثقتهم من خلال شفافية أوضح في عملية اتخاذ القرارات أساسيًا. إطلاق أول مؤتمر عالمي مخصص حصريًا لذكاء اصطناعي قابل للتفسير، المؤتمر الدولي المشترك حول الذكاء الاصطناعي: ورشة عمل حول الذكاء الاصطناعي القابل للتفسير، هو دليل إضافي على أن عصر XAI قد جاء.