إفرين رو، الرئيس التنفيذي للتقنية في Digitate – سلسلة المقابلات

إفرين رو هو الرئيس التنفيذي للتقنية في Digitate، حيث يقود الاستراتيجية التكنولوجية الإقليمية مع التركيز القوي على الذكاء الاصطناعي، والآلية، والتحول التشغيلي على نطاق واسع. يعمل بشكل وثيق مع العملاء في جميع أنحاء أوروبا والشرق الأوسط وأفريقيا لمساعدة المنظمات على نشر الذكاء الاصطناعي بشكل مسؤول، مع التركيز على التنفيذ العملي، والحوكمة، والنتائج القابلة للقياس. رو هو مساهم متكرر في المناقشات الصناعية حول الذكاء الاصطناعي العامل، و成熟ة المعالجة الآلية للتعلم، وواقع الانتقال من تجارب الذكاء الاصطناعي إلى أنظمة الإنتاج.

Digitate هي شركة برمجيات مؤسسية وشركة فرعية لشركة Tata Consultancy Services، وتختص في الآلية القائمة على الذكاء الاصطناعي للعمليات التجارية وتكنولوجيا المعلومات. منصةها الأساسية، ignio، تمكن من العمليات المستقلة عن طريق الجمع بين التعلم الآلي، والرسومات المعرفية، والآلية الذكية لاكتشاف المشكلات، وتوقعات النتائج، وتصحيح الأنظمة ذاتيًا في بيئات المؤسسات المعقدة. تقدم Digitate خدماتها للمنظمات الكبيرة التي تسعى إلى تقليل التعقيد التشغيلي مع تحسين المرونة والكفاءة من خلال تطبيق الذكاء الاصطناعي.

مع خبرتك الواسعة في الأدوار القيادية التكنولوجية في Digitate وخبرتك السابقة في عمليات تكنولوجيا المعلومات، والهندسة المعمارية، والأنظمة المؤسسية، كيف تطورت وجهة نظرك حول أهمية الذكاء الاصطناعي القابل للشرح مقارنة بنماذج الآلية السوداء التي لا تزال العديد من المنظمات تعتمد عليها اليوم؟

كانت أجيال الآلية السابقة في الغالب phản應ية و基于 قواعد، مما جعل سلوك الصندوق الأسود أكثر تحملًا لأن النتائج كانت متوقعة جدًا. مع انتقال أنظمة الذكاء الاصطناعي الآن إلى وكلاء نشطين يمكنهم التفكير وتوليد استجاباتهم الخاصة، تختفي التسامح مع الغموض. يقوم قادة تكنولوجيا المعلومات بالمسؤولية عن الحفاظ على توفر الأنظمة الحاسوبية الحيوية على مدار الساعة، ولا يترك ذلك مجالًا كبيرًا للتحقيق مع الأنظمة التي لا يمكن التحقق من منطقها. لذلك، انتقلت القابلية للشرح من ميزة تكنولوجية إلى متطلب تشغيلي يسمح بالثقة على نطاق واسع. من أجل الثقة بهذه الوكلاء الجدد للذكاء الاصطناعي، من المهم أن يشاركوا سير منطقهم (أي كيف وصلوا إلى الحل) ونتائج منطقهم.

لماذا تظهر الثقة والقابلية للشرح كأكبر عقبات أمام انتشار الآلية القائمة على الذكاء الاصطناعي المتقدم في تكنولوجيا المعلومات المؤسسية؟

تعمل تكنولوجيا المعلومات المؤسسية تحت مسؤولية وخطورة دائمة. عندما تتخذ أنظمة الذكاء الاصطناعي قرارات بشكل مستقل، خاصة في نماذج التشغيل الوقائي أو الذاتي، يجب على فرق الإشراف أن تكون قادرة على فهم سبب اتخاذ إجراء معين. بدون رؤية واضحة للبيانات والسياق وطريقة اتخاذ القرار، ي Introduced يزيد الذكاء الاصطناعي من الشكوك بدلاً من تقليلها. ذلك يؤثر على الثقة، وبالتالي، يبطئ عملية تبني أنظمة الذكاء الاصطناعي بين فرق تكنولوجيا المعلومات أكثر من دقة أو أداء النموذج.

ما هو شكل القابلية الحقيقية للشرح في عمليات تكنولوجيا المعلومات القائمة على الذكاء الاصطناعي، وكيف يمكن أن تساعد الفرق في التحقق من القرارات قبل أن تعمل الأنظمة بشكل مستقل؟

القابلية الحقيقية للشرح هي عملية ومتعلقة بالمشغل. هذا يعني أن التكنولوجيا يجب أن توضح بوضوح البيانات المستخدمة في التفكير، والتحقق من أن النظام يفهم السياق التشغيلي الصحيح، وشرح الإجراء الموصى به بالكلمات التي يمكن للبشر فهمها. كما يشمل ذلك التحقق التاريخي، مثل ما إذا تم اتخاذ قرارات مماثلة من قبل و ما كانت النتائج. هذا يسمح للفرق بالتحقق من الإجراءات بسرعة وثقة، وتوسيع التنفيذ المستقل حيث يكون الخطر منخفضًا. إذا لم يتمكن الناس من هضم وتحليل الإخراج بسرعة، فإن أداة القابلية للشرح تفشل في خدمة غرضها.

كيف يترجم نقص القابلية للشرح إلى مخاطر تشغيلية أو مالية أو أعمال حقيقية للمنظمات الكبيرة؟

إذا كنت تدير مصنعًا وغيّر أساسي يفتقر إلى تنبيهات لتحديد مشكلة الصيانة، فسيبدأ في التدهور في النهاية دون إعلام الفريق – مما يؤدي إلى منتجات ذات جودة رديئة أو توقف غير مخطط له. بشكل مشابه، يمكن للذكاء الاصطناعي بدون قابلية للشرح تحويل مشاكل البيانات الصغيرة إلى حوادث أعمال كبيرة. نظام توقعات السعة القائم على الذكاء الاصطناعي الذي يعمل على بيانات غير كاملة قد يقلل من القدرة التحتية لتوفير التكاليف، مما يؤدي إلى تدهور الأداء الشديد خلال فترات المعالجة القصوى. في حالة أنظمة الذكاء الاصطناعي المؤسسية، غالبًا ما تظهر تأثيرات قابلية الشرح السيئة من خلال الالتزامات المتأخرة، والغرامات المالية، وتأثير العملاء. بشكل مماثل، يمكن أن تخفي قمع التنبيهات الحاد الأعطال الحرجة، مما يسمح للانقطاعات بالاستمرار حتى يصبح الأمر طارئًا حقيقيًا.

من منظورك، ما دور منصات الذكاء الاصطناعي في جعل منطقها قابلاً للفحص وشرحه للفرق التكنولوجية التي تعمل على أنظمة حاسوبية حيوية؟

يجب أن يكون وكيل الذكاء الاصطناعي أو المنصة مصممًا جيدًا مع قابلية للشرح مضمنة. يجب أن توثق الأنظمة المستقلة البيانات المستخدمة، والمنطق المطبق، والإجراءات الموصى بها أو المتخذة، والنتائج التي تمت. يجب تقديم هذه المعلومات بلغة تشغيلية تستخدمها فرق تكنولوجيا المعلومات، مثل الاعتماديات، والحادثات التاريخية، وتأثير الأعمال، بدلاً من درجات الذكاء الاصطناعي المجردة. قابلية الفحص ضرورية للمسؤولية، والتعلم، والثقة على المدى الطويل.

ما هي النهج المعمارية أو التصميمية التي تساعد المؤسسات على الانتقال من الآلية الغامضة إلى اتخاذ القرارات الشفافة؟

تعتمد المؤسسات هياكل تؤسس قرارات الذكاء الاصطناعي على بيانات تشغيلية عالية الجودة، وتفصل بوضوح بين التحقق من البيانات و منطق اتخاذ القرار. تضمن الأنظمة الشفافة أن الذكاء الاصطناعي يعمل مع المدخلات والافتراضات الصحيحة قبل اتخاذ الإجراءات. تستخدم العديد من المنظمات أيضًا الاستقلالية المرحلية، بدءًا من التوصيات وتقدم إلى تنفيذ مستقل مع نمو الثقة. يعد الوصول المفتوح إلى البيانات وطبقات السياسات واضحة حيوية لتفادي سلوك الصندوق الأسود مع زيادة الاستقلالية. لا يزال هناك مجال كبير للصناعة لتنمو في مجال قابلية الشرح، وأعتقد أننا سنرى طفرة في ميزات قابلية الشرح هذا العام.

كيف تحقق المنظمات التوازن بين الإجراءات المستقلة للذكاء الاصطناعي والرقابة البشرية دون إبطاء العمليات؟

يتم تحقيق التوازن من خلال ضوابط قائمة على المخاطر بدلاً من الرقابة الشاملة. يمكن تutomation المهام منخفضة المخاطر وعالية التكرار بشكل كامل مع حواجز أمان، في حين تبقى القرارات ذات التأثير الأعلى موثقة من قبل البشر حتى تثبت الأنظمة موثوقيتها. مع تحسين قابلية الشرح وبرهنة الذكاء الاصطناعي باستمرار على حكم سليم، تتوسع الاستقلالية بشكل طبيعي دون إدخال احتكاك تشغيلي.

ما النصيحة التي تقدمها لمديري المعلومات ومديري التكنولوجيا الذين يريدون نشر الذكاء الاصطناعي عبر عمليات تكنولوجيا المعلومات ولكنهم يواجهون مقاومة داخلية بسبب مخاوف الشفافية والمسؤولية؟

ابدأ بالشفافية، لا بالاستقلالية. اشمل فرق تكنولوجيا المعلومات في البداية وأعطِ الأولوية للشفافية في التصميم والتنفيذ لبناء الثقة. تنتج المقاومة عادةً من نقص الرؤية في قرارات الذكاء الاصطناعي، وليس من معارضة الابتكار نفسه. ثم ركز على الحالات التي تقلل من الضوضاء، وتقضي على إرهاق التنبيهات، وشرح بوضوح كيف يتم اتخاذ القرارات قبل السماح للأنظمة بالعمل بشكل مستقل.

كيف يجب على فرق القيادة إعادة التفكير في الحوكمة، والتحقق، والثقة مع زيادة مسؤولية أنظمة الذكاء الاصطناعي عن اتخاذ القرارات؟

يجب أن تتغير الحوكمة من عمليات الموافقة الثابتة إلى التحقق المستمر. يجب على فرق القيادة تحديد حيث يسمح بالاستقلالية، وما هي الأدلة المطلوبة، ومتى تكون التدخل البشري ضروريًا. يجب كسب الثقة من خلال النتائج القابلة للقياس، مثل الدقة، والحد من الحوادث، وأوقات الإصلاح الأسرع، بدلاً من افتراضات حول تعقيد النموذج.

ما هو نظرتك للمستقبل، كيف سيتغير شكل عمليات تكنولوجيا المعلومات المستقلة مع تطور الذكاء الاصطناعي القابل للشرح والشفافة على مدى السنوات القليلة القادمة؟

سيكون الذكاء الاصطناعي القابل للشرح جزءًا أساسيًا من بناء عمليات تكنولوجيا المعلومات المستقلة والوقائية لتوسيع نطاقها بأمان، دون فقدان الثقة الحيوية لفرق تكنولوجيا المعلومات. ي cải thiện بالفعل الذكاء الاصطناعي التوليدي الشفافية من خلال تمكين الأنظمة من تقديم الأدلة، والتحقق من الحقائق، وشرح القرارات بالكلمات التي يمكن للبشر فهمها. على مدى السنوات القليلة القادمة، سيتطور هذا المستوى من قابلية الشرح إلى معيار، مما يسمح للمنظمات بالانتقال بعيدًا عن التجارب ودمج الذكاء الاصطناعي深ًا في العمليات، والحوكمة، والتدفقات العملية كشريك موثوق به بدلاً من معالج قرارات غامض. على مدى السنوات القليلة القادمة، ستكون وكلاء الذكاء الاصطناعي في مكانها لتدبير أنشطة مختلفة للمنظمة، وستصبح جزءًا من حياتنا اليومية، ولكن من أجل هذه الأشياء، نحتاج إلى أن نكون قادرين على الثقة بها، والدقة، والشفافية هي الجوانب الرئيسية لتحقيق هذا الهدف.

شكرًا على المقابلة الرائعة، القراء الذين يرغبون في معرفة المزيد يمكنهم زيارة Digitate.