كيف يمكن للشركات إنشاء ذكاء اصطناعي مسؤول وشفاف – قادة الفكر

بواسطة إريك باتيرنوستر، الرئيس التنفيذي لشركة إنفوسيس للخدمات العامة

وصف سوندار بيتشاي، الرئيس التنفيذي لشركة ألفابيت الأم لشركة جوجل، التطورات في مجال الذكاء الاصطناعي بأنها “أكثر عمقا من النار أو الكهرباء”، وجلبت جائحة كوفيد-19 إلحاحا جديدا لتعزيز وعد هذه التكنولوجيا. وتقع تطبيقات الذكاء الاصطناعي الآن بشكل ثابت في الضوء، وتحسين علاجات كوفيد-19، وتتبع حاملي كوفيد-19 المحتملين، وتنفيذ محادثات حية في الوقت الفعلي لمستخدمي مواقع التجزئة التي تعاني من نقص في الإمدادات. وقد أظهرت هذه التطبيقات أن الذكاء الاصطناعي يحسن من صلابة الأعمال ويفيد المجتمع بشكل أوسع.

لذلك، إلى جانب “الوضع الأصلي السحابي”، قد يكون مصطلح “التحول الأول للذكاء الاصطناعي” هو مصطلح الربع الماضي، وهو مصطلح يعتقد ممارسو الصناعة أنه سوف يظل صحيحا حتى بعد ذهاب كوفيد-19. بالنسبة للعديد من الشركات، فإن وعد التكلفة المنخفضة (أي خوارزميات سلسلة التوريد التي تتوافق مع الطلب) وزيادة الإنتاجية الجيدة (أي عندما تستخدم البنوك التحقق من الهوية والوثائق في الوقت الفعلي) هو جيد جدًا لدرجة أن لا يمكن تجاهله.

لماذا التحول الأول للذكاء الاصطناعي؟

في التحول الأول للذكاء الاصطناعي، تستخدم المؤسسة الذكاء الاصطناعي كنجم شمال، وتعمل على استخدامه بطريقة ذكية وليس فقط بطريقة تؤثر على القرارات التي يتخذها الأشخاص والعمليات والنظم على نطاق واسع. كما أنها تضبط المنظمات على الديناميات المتغيرة بين الموظفين والشركاء والعملاء. هذا يسمح لهم بالاستجابة بسرعة للمطالب المتغيرة وخلق ميزة تنافسية طويلة الأمد.

ولكن ليس جميع الشركات في نفس مستوى النضج في مجال الذكاء الاصطناعي. هناك بعض الشركات التي يمكن وصفها بأنها “مجموعة الذكاء الاصطناعي التقليدية”، أو H1. تستخدم هذه الشركات، التي لديها خبرة واستثمار أقل، خوارزميات كلاسيكية مثل خوارزمية بايز الصريحة، التي تم تطويرها منذ 250 عامًا، أو الغابة العشوائية (التي تم تطويرها بواسطة تين كام هو في عام 1995) لتعزيز الذكاء المتجزء داخل الأنظمة الحالية. هذه الاستخدامات للذكاء الاصطناعي هي قائمية على القواعد وrigid، وتنقصها القدرة على تعميم القواعد التي تكتشفها. ثم هناك “مجموعة التعلم العميق”، أو H2. هذه الشركات تتبنى الذكاء الاصطناعي الأكثر تعقيدا، بما في ذلك الترجمة الآلية والأنظمة القائمة على النص، لاستخراج رؤى محادثية. هذه الأنظمة لديها قوة أكبر ولكنها لا تشرح بسهولة لماذا تفعل الأشياء التي تفعلها. كما أنها تفتقر إلى الشفافية. بالنسبة لهذه المجموعتين، فإن الذكاء الاصطناعي المستخدم غالبا ما لا يكون موثوقا به أو موثوقا به ويمكن أن يتخذ قرارات متحيزة تجلب انتباها سلبيا للشركة من الهيئات الحكومية والمنظمين والجمهور العام.

تحتاج هذه الشركات إلى اتخاذ خطوات الآن لتحسين تنفيذ الذكاء الاصطناعي إلى مستوى أعلى – إلى مخيم ثالث (H3) حيث يكون الذكاء الاصطناعي خود التعلم والتنموي. في هذه المرحلة، تكون أنظمة الذكاء الاصطناعي شبه خاضعة للإشراف أو غير خاضعة للإشراف. وهي شفافة وتحقق “المنطق العام” من خلال التعلم المتعدد المهام. هذه الأنظمة توفر استخبارات أكثر ثراء وتوفر رؤى قابلة للتنفيذ في الوقت الفعلي. يتم ذلك من خلال إدارة الذكاء الاصطناعي الخاضعة للإشراف والمنظم، والتي تكون قابلة للتفسير والشرح في جميع المراحل.

كيفية العمل نحو ذكاء اصطناعي أكثر مسؤولية وشفافية

يتم استخدام الذكاء الاصطناعي بشكل متزايد لإدارة المدارس والأماكن العمل والكيانات العامة الأخرى. في هذه الإعدادات، من المهم أكثر من أي وقت مضى أن يكون الذكاء الاصطناعي عادلا وشفافا. ومع ذلك، أثناء عمل المجتمع من خلال انفجار تبني الذكاء الاصطناعي، توفر الهيئات التنظيمية توجيهات محدودة بشأن تطوير وتحديث تكنولوجيا الذكاء الاصطناعي. وبالتالي، فإن العبء على الشركات لتحمل القيادة. يجب على صناعة التكنولوجيا بشكل أوسع وضع العضلات المالية ورأس المال البشري للعمل، وتحويل التنفيذ الأولي للذكاء الاصطناعي المتجزء إلى أنظمة ذكية ومبدعة ومسؤولة وشفافة مدفوعة بالاستخبارات. للانتقال إلى هذا الفضاء، يجب على الشركات القيام بالأشياء الأربعة التالية:

• احتفظ بالبشر في الحلقة: يتم تصميم نماذج الذكاء الاصطناعي غالبا لتعمل بشكل مستقل عن البشر. ومع ذلك، فإن العنصر البشري هو أمر بالغ الأهمية في العديد من الحالات. يجب على البشر مراجعة القرارات وتجنب التحيز والأخطاء التي غالبا ما تؤثر على مشاريع الذكاء الاصطناعي. هناك حالتان يستخدمون فيها هذا النوع من الذكاء الاصطناعي، وهما كشف الاحتيال والقضايا التي تتضمن قوات إنفاذ القانون. ونحن نوصي بالشركات بتجنيد ممارسين للذكاء الاصطناعي ببطء ولكن بثبات مع مرور الوقت للحصول على ميزة في رحلتهم الأولى للذكاء الاصطناعي.
• إزالة مجموعات البيانات المتحيزة: مجموعة بيانات غير متحيزة هي شرط مسبق ضروري لإنشاء نماذج ذكاء اصطناعي موثوقة وعادلة وغیر تمييزية. للحصول على فكرة عن أهميتها، يتم استخدام الذكاء الاصطناعي لتحديد الأولويات لرزومه وتقييم الائتمان من قبل البنوك، وقد دخل حتى بعض الأنظمة القضائية. في هذا المنظر، فإن التحيزات غير الخاضعة للرقابة لها عواقب حقيقية.
• ضمان أن تكون القرارات قابلة للتفسير: هذه الميزة تم تغطيتها من قبل العديد من الصحف الكبيرة، وبحق. يساعد XAI في تفسير لماذا اتخذ نظام الذكاء الاصطناعي قرارا معينا. كما يكشف عن أي من ميزات نموذج التعلم العميق تم استخدامها أكثر من غيرها لصنع تنبؤه أو فرضيته. فهم أهمية الميزة والقدرة على تبرير كيفية الوصول إلى القرارات هو أمر بالغ الأهمية لاستخدامات مثل المركبات ذاتية القيادة والرؤية الحاسوبية المستخدمة في الخزعات الطبية.
• إعادة إنتاج النتائج بشكل موثوق: هناك حاجة مشتركة في مشاريع البحث، يجب أن يكون نموذج الذكاء الاصطناعي متسقا عند تقديم تنبؤات مع مرور الوقت. يجب ألا يكون هذا النموذج متأثرا عند تقديمه لبيانات جديدة.

هذه الأشياء الأربعة ستخلق أنظمة ذكية مدفوعة بالاستخبارات شفافة، وتتحرك نحو ما نسميه “المنظمة الحية”. هنا، يتم اتخاذ القرارات غير المتحيزة والقابلة للتفسير في الوقت الفعلي تقريبا، مع عمل المنظمة بأكملها ككائن حسي خاضع للإشراف البشري. اقرأ ورقة معهد إنفوسيس للمعرفة لمعرفة المزيد.