قادة الفكر

عندما يدخل الذكاء الاصطناعي العمليات، تصبح القابلية للشرح أمرًا لا يمكن المساومة عليه

VimalRaj Sampathkumar
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةالذكاء الاصطناعي القابل للشرح يبني الثقة من خلال تمكين الفرق من فحص القرارات الآلية في…
عرض المزيد
  • الذكاء الاصطناعي القابل للشرح يبني الثقة من خلال تمكين الفرق من فحص القرارات الآلية في العمليات عالية المخاطر.
  • أنظمة الذكاء الاصطناعي الشفافة تُخلق المساءلة وتُمكّن من حل الحوادث بسرعة أكبر عبر المنطق القابل للتتبع.
  • يعتمد تبني الذكاء الاصطناعي التشغيلي على نطاق واسع فقط عندما يواكب الفهم تعقيد الأتمتة.

دخل اعتماد الشركات للذكاء الاصطناعي مرحلة أكثر واقعية. بالنسبة لقادة التكنولوجيا، التحدي لم يعد إقناع المنظمة بأن الذكاء الاصطناعي لديه إمكانيات، بل ضمان أن الأنظمة التي تؤثر على القرارات التشغيلية يمكن فهمها وإدارتها والدفاع عنها.

يكتسب الذكاء الاصطناعي مكانته في الشركة عندما يكون الناس على استعداد للثقة به. هذه الثقة لا تعتمد على إحصائيات الأداء فقط، بل على ما إذا كانت الفرق تشعر بأنها تتمتع بالسيطرة عندما يصبح الأتمتة جزءًا من سير العمل اليومي.

في العديد من المنظمات، يبقى هذا الشعور بالسيطرة غير مؤكد.

لماذا يبطئ اللاشفافية من عملية اعتماد الذكاء الاصطناعي

الآن، أصبح الذكاء الاصطناعي متجسداً عبر عمليات تكنولوجيا المعلومات، من توجيه طلبات الخدمة إلى ربط الحوادث وتخطيط القدرة. هذه هي البيئات التي تكون فيها القرارات مترابطة ويمكن أن تتفاقم الأخطاء بسرعة. عندما تظهر مخرجات الذكاء الاصطناعي بدون سياق، غالبًا ما تتردد الفرق. قد يتم تطبيق الأتمتة تقنيًا، لكن توصياته يتم فحصها أو تأخيرها أو وضعها جانبًا بشكل خفي.

غالبًا ما يُفهم هذا السلوك على أنه مقاومة للتغيير. في الواقع، يعكس المسؤولية المهنية في بيئات تشغيلية عالية المخاطر. الأمثلة العامة على فشل الذكاء الاصطناعي زادت من هذا الحذر. عندما تنتج أنظمة آلية مخرجات تبدو واثقة ولكن تثبت أنها خاطئة، فإن الضرر نادرًا ما يحدث بسبب الطموح وحده. بل يعود إلى اللاشفافية. إذا لم يكن أحد قادرًا على شرح كيفية الوصول إلى استنتاج، فإن الثقة تتناقص، حتى لو كان النظام دقيقًا بشكل عام.

داخل فرق تكنولوجيا المعلومات، يظهر هذا بشكل دقيق. يعمل الأتمتة في وضع الاستشارة وليس في وضع التنفيذ. يبقى المهندسون مسؤولين عن النتائج ومع ذلك يتوقع منهم الثقة في المنطق الذي لا يمكنهم فحصه. مع مرور الوقت، يخلق هذا الاختلال احتكاكًا. الذكاء الاصطناعي موجود، لكن قيمته مقيدة.

عملية الذكاء الاصطناعي الشفافة

يمكن لمزيد من الشفافية والقابلية للشرح معالجة هذه المشكلة من خلال إعادة تأسيس المسؤولية في اتخاذ القرارات الآلية. لا يعني الذكاء الاصطناعي القابل للشرح كشف كل حساب داخلي. بل يعني تقديم رؤى ذات صلة للمشغلين البشر؛ أي بيانات أثرت على قرار، أي شروط كانت لها أهمية كبيرة، وكيف تم تقييم مستويات الثقة. هذا السياق يسمح للفرق بتحديد ما إذا كانت المخرجات تتماشى مع الواقع التشغيلي.

يُعرف أيضًا باسم الذكاء الاصطناعي «الصندوق الأبيض»، الذكاء الاصطناعي القابل للشرح يخلق طبقة تفسيرية توضح كيف تم اتخاذ قرارات الذكاء الاصطناعي، بدلاً من إخفاء عملياته ومنطقه عن المشاهدة. هذا يعني ليس فقط أن أنظمة الذكاء الاصطناعي يمكن أن تصبح جزءًا من إطار مسؤولية أكبر، ولكن أيضًا أن المستخدمين يفهمون كيف يعمل كل نظام. كما يعني ذلك القدرة على تحديد نقاط الضعف في نماذج الذكاء الاصطناعي وحمايتها من التحيزات.

بشكل حاسم، القابلية للشرح تعني أنه عندما يحدث خطأ، يمكن للفرق تتبع مسار المنطق، تحديد الإشارات الضعيفة، وتحسين العملية. بدون هذه الرؤية، تتكرر الأخطاء أو يجري تجنبها تمامًا عن طريق تعطيل الأتمتة.

الذكاء الاصطناعي القابل للشرح في العمل

نظرًا إلى إدارة الحوادث، غالبًا ما يتم استخدام الذكاء الاصطناعي لتجميع التنبيهات معًا وتقديم أسباب محتملة. في بيئات الشركات الكبيرة، يمكن لتصنيف تبعية واحدة بشكل خاطئ أثناء حادث كبير أن يؤخر الحل لساعات، مما يجذب فرق متعددة إلى تحقيقات متوازية بينما تظل الخدمات الموجهة للعملاء متدهورة. عندما تصاحب هذه التوصيات بتوضيح واضح للنظم المشاركة، وكيفية الوصول إلى التبعيات أو الحوادث السابقة التي أُشير إليها، يمكن للمهندسين تقييم التوصية بسرعة. إذا ثبت أنها خاطئة، يمكن استخدام هذه الرؤية لتحسين كل من النموذج والعملية.

بدون هذه الشفافية، تعود الفرق إلى التشخيص اليدوي، بغض النظر عن مدى تقدم الذكاء الاصطناعي.

هذه الدورة التغذوية هي أساسية لاعتماد مستدام. تتطور الأنظمة القابلة للشرح جنبًا إلى جنب مع الأشخاص الذين يستخدمونها. أنظمة الصندوق الأسود، من ناحية أخرى، تميل إلى الركود أو التهميش بمجرد انخفاض الثقة.

المسؤولية والملكية

تغير القابلية للشرح أيضًا كيفية توزيع المسؤولية. في البيئات التشغيلية، لا تختفي المسؤولية لمجرد أن القرار تمت أتمته. يجب على شخص ما أن يظل يتحمل مسؤولية النتيجة. عندما يمكن للذكاء الاصطناعي تفسير نفسه، تصبح المسؤولية أكثر وضوحًا وأسهل إدارةً. يمكن مراجعة القرارات وتبريرها وتحسينها دون اللجوء إلى حلول دفاعية.

هناك أيضًا فائدة في الحوكمة، على الرغم من أنها نادرًا ما تكون الدافع الأساسي داخليًا. الأطر الحالية لحماية البيانات والمساءلة تتطلب بالفعل من المنظمات تفسير القرارات الآلية في سياقات معينة. مع استمرار تطوير التنظيمات المحددة للذكاء الاصطناعي، قد تعرض الأنظمة التي تفتقر إلى الشفافية المنظمات لمخاطر غير ضرورية.

ومع ذلك، القيمة الأكبر للقابلية للشرح تكمن في المرونة بدلاً من الامتثال. الفرق التي تفهم أنظمتها تتعافى بشكل أسرع. تحل الحوادث بكفاءة أكبر وتقضي وقتًا أقل في مناقشة ما إذا كان يجب الثقة في الأتمتة في المقام الأول.

تصميم الذكاء الاصطناعي للاعتمادية التشغيلية

يتم تدريب المهندسين على التشكيك في الافتراضات، وفحص التبعيات، واختبار النتائج. عندما يدعم الأتمتة هذه الاندفاعات بدلاً من تجاوزها، يصبح الاعتماد تعاونيًا وجزءًا من العملية بدلاً من هيكل مفروض.

هناك، بالطبع، تكلفة لبناء الأنظمة بهذه الطريقة. يتطلب الذكاء الاصطناعي القابل للشرح ممارسات بيانات منضبطة وخيارات تصميم مدروسة وموظفين مهرة يمكنهم تفسير المخرجات بشكل مسؤول. قد لا يتوسع بسرعة مثل النماذج غير الشفافة التي يتم تحسينها فقط من أجل السرعة أو الجدة. ومع ذلك، العائد على هذا الاستثمار هو الاستقرار.

المنظمات التي تضع الأولوية للقابلية للشرح تشهد قلة في المبادرات المتوقفة وأقل اتخاذ قرارات في الظل. يصبح الأتمتة طبقة موثوقة داخل العمليات بدلاً من تجربة متوازية تعمل في عزلة. يتحسن وقت القيمة ليس لأن الأنظمة أسرع، ولكن لأن الفرق على استعداد لاستخدامها بالكامل.

التوسع بشكل مسؤول

مع تحول الذكاء الاصطناعي إلى جزء دائم من البنية التحتية للشركات، سوف يتم تحديد النجاح أقل بالطموح وأكثر بالموثوقية. الأنظمة التي يمكنها تفسير قراراتها أسهل في الثقة، وأسهل في التحسين، وأسهل في الدفاع عنها عندما توضع النتائج موضع تساؤل.

في البيئات التشغيلية، لا يتوسع الذكاء إلا عندما يواكب الفهم الأتمتة.

فيمال راج سامباتكومار، رئيس القسم الفني - المملكة المتحدة وأيرلندا، ManageEngine، هو مدير ما قبل البيع والحسابات الاستراتيجية مع 13 عامًا من الخبرة في المبيعات الفنية وإدارة الحسابات ونجاح العملاء. لديه خبرة تقنية عميقة في الاستشارات وتنفيذ تطبيقات ITSM و ITOM و SIEM وإدارة النقاط النهائية و CRM و ATS و HCM/HRIS على مستوى العالم. كانت خبرته في قيادة زيادة الإيرادات وزيادة حصة السوق من خلال تقديم حلول تركز على العملاء بشكل مستمر، وإثبات قيمة المنتج، وبناء الأساس للعلاقات العميلية الطويلة الأمد والمخلصة. وهو يحب لعب الكريكيت والقراءة والسفر في وقت فراغه.