قادة الفكر
عائق الذكاء الاصطناعي ليس الفشل. إنه الفشل ببطء شديد.

النقاط الرئيسيةيجب على المؤسسات أن تعطي الأولوية للمرونة بدلاً من الكمال في أنظمة الذكاء الاصطناعي…
عرض المزيد
- يجب على المؤسسات أن تعطي الأولوية للمرونة بدلاً من الكمال في أنظمة الذكاء الاصطناعي لتجنب الشلل التشغيلي.
- توضيحية على مستوى لوحة التحكم توفر إشرافًا دون المطالبة بالشفافية الكاملة في كل قرار للذكاء الاصطناعي.
- حدد مقاييس نجاح الذكاء الاصطناعي بناءً على النتائج وليس بشرح كل آلية للنموذج.
عائق الذكاء الاصطناعي ليس الفشل. إنه الفشل ببطء شديد.
يحول الذكاء الاصطناعي (AI) طريقة عمل المنظمات وابتكارها ونموها. عبر الصناعات، تستخدم المنظمات الذكاء الاصطناعي لتحسين تدفقات العمل وجعلها أكثر كفاءة وتقديم دعم لاتخاذ القرارات بشكل أسرع وأكثر ثقة. مع تحول الذكاء الاصطناعي بشكل هادئ إلى محرك الإنتاجية الحديث، يساعد المنظمات على تحقيق المزيد من المرونة والنطاق.
ومع ذلك، على الرغم من الفوائد القابلة للقياس للغاية للذكاء الاصطناعي، يحدث شيء غير متوقع. تصطدم العديد من الشركات بجدار. بدلاً من تعزيز الابتكار، يتعثر بعض الفرق في التعقيد وإدارة المخاطر ونمو الخوف من المجهول.
لماذا؟ لأننا نفكر فيه بطريقة خاطئة.
يُفهم الذكاء الاصطناعي بشكل شائع على أنه تكنولوجيا يجب التحكم فيها بشكل كامل قبل الوثوق به. ينبع هذا من الاعتقاد الخاطئ بأن اليقين هو شرط مسبق للسلامة. لكن هذا التفسير يفوت نقطة ما هو الذكاء الاصطناعي وكيف يقدم القيمة. الذكاء الاصطناعي هو أداة قابلة للتكيف مصممة للتعلم والتطور مع الاستخدام. معاملته كما لو كان يجب أن يتصرف مثل البرامج التقليدية هو تفسير خاطئ لطبيعته ويقلل من إمكاناته.
في سبيل استغلال الذكاء الاصطناعي بشكل مسؤول، حوّلت العديد من المنظمات بدون قصد الحد من المخاطر إلى عائق. عبر الصناعات، تتردد الفرق في نشر الذكاء الاصطناعي إلا إذا استطاعت فحص وشرح وتبرير كل طبقة من عملية اتخاذ القرار، غالبًا إلى درجة غير عملية. على الرغم من أن هذا المستوى من الفحص يعكس عناية واجبة حسنة النية، إلا أنه غالبًا ما يخيب غاية الذكاء الاصطناعي نفسه: تعزيز الرؤية وتعزيز الفرق وحل المشكلات على نطاق واسع.
من المفترض أن يكون هناك تحول بعيدًا عن الطلب على التحكم الكامل نحو نموذج يركز على القدرة على الصمود والإنتاجية والقابلية العملية للتفسير – دون إيقاف الابتكار.
خوف الصندوق الأسود يمنع التقدم
الناس لديهم انزعاج طبيعي من الأنظمة التي لا يفهمونها بشكل كامل، وأدوات الذكاء الاصطناعي – خاصة النماذج التوليدية الكبيرة – تعمل غالبًا بطرق تتعارض مع الشرح السهل. ونتيجة لذلك، يقع العديد من القادة في فخ: إذا لم يتمكنوا من شرح كل قرار للذكاء الاصطناعي، لا يمكن الثقة بالنظام.
نتيجة لذلك، تُصمم العديد من المنظمات عمليات رقابة معقدة، بإضافة طبقات من المراجعات بين الأقسام وفحوص الامتثال وتدقيق قابلية التفسير، حتى في حالات الاستخدام منخفضة المخاطر. عندما تتعامل الفرق مع قابلية التفسير كما لو كان هناك حاجة إلى فتح كل صندوق أسود، فإنهم يؤسسون لتنفيذ الذكاء الاصطناعي في دورات مراجعة لا نهاية لها. هذا يخلق “شللًا تشغيليًا” حيث يصبح الفريق خائفًا من القيام بشيء خاطئ بالذكاء الاصطناعي لدرجة أنهم يتوقفون عن القيام بأي شيء، مما يؤدي إلى تآكل مستمر للزخم ومبادرات متوقفة وفرص مفقودة في النهاية.
المشكلة ليست في النية وراء أنظمة الرقابة؛ بل في افتراض أن الحد من المخاطر يجب أن يعادل الرقابة. في الممارسة، تصميم أنظمة الذكاء الاصطناعي للقدرة على الصمود مقابل الكمال هو نهج أكثر فعالية. المفتاح هو التخلي عن نهج إجرائي لصالح التفكير القائم على النتائج.
القدرة على الصمود في الذكاء الاصطناعي تعني قبول أن الأخطاء ستحدث وبناء حواجز يمكنها اكتشافها وتصحيحها. يعني ذلك تحويل المحادثة من كيفية منع كل فشل ممكن إلى كيفية ضمان الكشف السريع والتدخل عند انحراف الأمور.
تُبنى معظم الأنظمة الحديثة مع فهم أن هناك مستوى معينًا من الأخطاء سوف يحدث. على سبيل المثال، لا تُتوقع أدوات الأمن السيبراني أن تكون مصممة بشكل غير قابل للاختراق بنسبة 100%. لا يتم تصميمها لذلك. بدلاً من ذلك، تُصمم للاكتشاف والاستجابة وإنشاء بروتوكولات استعادة سريعة. وينبغي أن تنطبق التوقعات نفسها على الذكاء الاصطناعي.
الطلب على رؤية كاملة لجميع قرارات الذكاء الاصطناعي هو أمر غير عملي ويمكن أن يكون ضارًا بإنشاء القيمة. بدلاً من ذلك، يجب على المنظمات أن تدعم “قابلية التفسير على مستوى لوحة القيادة” الذي يوفر سياقًا ومراقبة كافية لاكتشاف الأخطاء وتطبيق الحماية دون إيقاف الابتكار في المؤسسة.
لا تعقد الأمور أكثر من اللازم في نشر الذكاء الاصطناعي
يجب على المنظمات أن تتبنى قابلية التشغيل البيني الكاملة في تطبيقات الذكاء الاصطناعي، بغض النظر عن حالة الاستخدام. بدلاً من كونها مصدرًا للانحراف، تضمن قابلية التشغيل البيني الكاملة التكامل السلس وفتح قيمة أكبر عبر الأنظمة. في المستقبل، قد نرى جيوشًا افتراضية من وكلاء الذكاء الاصطناعي يعملون جميعًا معًا نحو أهداف مشتركة.
هذا المنظور هو حول جعل قابلية التفسير مناسبة لمستوى المخاطر – لتوقف عن معاملة كل حالة استخدام للذكاء الاصطناعي كما لو كانت تشغيل مركبة ذاتية التحكم. يمكن للفرق تحقيق ذلك من خلال تصميم أنظمة الذكاء الاصطناعي لتكون منتجة ومسؤولة ومتوافقة مع النية البشرية دون تعقيد النشر.
تتضمن بعض الاستراتيجيات العملية:
- نشر الذكاء الاصطناعي حيث يصعب على البشر: استخدم الذكاء الاصطناعي لدعم اتخاذ القرارات البشرية في مجالات معقدة وذات حجم كبير مثل تخصيص الموارد وترتيب الأولويات وإدارة الأعمال المتراكمة، حيث تهم السرعة والقدرة على العمل على نطاق واسع أكثر من اليقين التام.
- تحديد معايير نجاح الذكاء الاصطناعي: بدلاً من محاولة شرح كل نموذج، حدد ما تبدو عليه النتائج الجيدة. هل تتحسن الجداول الزمنية؟ هل تقل الحاجة إلى إعادة العمل؟ هل يقبل المستخدمون اقتراحات الذكاء الاصطناعي أكثر؟ هذه المؤشرات توفر صورة أوضح عن كيفية عمل الذكاء الاصطناعي بدلاً من الحفر في تفاصيل كيفية اتخاذ النموذج للقرارات.
- تحديد عتبات الثقة: حدد الحدود المقبولة عندما يمكن قبول مخرجات الذكاء الاصطناعي تلقائيًا أو وضع علامة عليها أو إرسالها لمراجعة بشرية، وأنشئ حلقة تغذية راجعة لمساعدة النظام على التعلم والتحسين مع مرور الوقت.
- تدريب الفرق على طرح الأسئلة الصحيحة: بدلاً من جعل كل فريق خبيرًا في الذكاء الاصطناعي، ركز على تدريبهم على طرح الأسئلة الصحيحة، مثل ما هي المشكلة التي يحلها الذكاء الاصطناعي، وما هي المخاطر الأكثر أهمية، وكيف سيتم رصد الفعالية.
- التركيز على التفكير البشري: حتى أفضل أنظمة الذكاء الاصطناعي تستفيد من الرقابة البشرية. بناء تدفقات العمل التي تسمح للأشخاص بالتحقق أو تصحيح أو إلغاء الذكاء الاصطناعي كطريقة لخلق مسؤولية مشتركة.
يمكن مقارنة هذا النهج بالقيادة. معظمنا لا يفهم كيف يعمل ناقل الحركة أو كيف يولد الوقود القوة أو كيف تكتشف الحساسات المركبات القريبة، لكن ذلك لا يمنعنا من القيادة. ما نعتمد عليه هو لوحة القيادة: واجهة مبسطة توفر المعلومات التي نحتاجها للتشغيل بأمان، مثل السرعة ومستوى الوقود وتنبيهات الصيانة.
يجب أن تُحكم أنظمة الذكاء الاصطناعي بنفس الطريقة. لا نحتاج إلى فتح الغطاء كل مرة يعمل فيها المحرك. ما هو مطلوب هو مجموعة واضحة من المؤشرات التي تُظهر لنا متى يوجد شيء خاطئ، وأين قد يكون التدخل البشري ضروريًا، وما هي الخطوات التالية التي يجب اتخاذها. هذا النموذج يسمح للمنظمات بالتركيز على الرقابة حيث يهم ذلك دون الغرق في التعقيد الفني.
توقف عن عرقلة نفسك
الذكاء الاصطناعي لن يكون أبدًا خاليًا من العيوب. وإذا كانت المنظمات تطبق معيار الكمال على الذكاء الاصطناعي الذي لا يستطيع فريق بشري تحقيقه، فإنهم يخاطرون بفقدان الفرصة لإعادة تصور العمل وتسريع اتخاذ القرارات وإطلاق الإمكانات في أنحاء المؤسسة.
من خلال التركيز على القدرة على الصمود أكثر من الرقابة، واعتماد قابلية التفسير على مستوى لوحة القيادة ومواءمة الرقابة مع السياق، يمكننا أن نتوقف عن التفكير بشكل مبالغ فيه في الذكاء الاصطناعي وبدء خلق المزيد من النجاح معه.












