كيف يمكن للشركات إنشاء ذكاء اصطناعي مسؤول وشفاف – قادة الفكر

بواسطة إريك باتيرنوستر، الرئيس التنفيذي لشركة إنفوسيس للخدمات العامة

وصف سوندار بيتشاي، الرئيس التنفيذي لشركة ألفابيت الأم لجوجل، التطورات في مجال الذكاء الاصطناعي بأنها “أكثر عمقا من النار أو الكهرباء”، وجلبت جائحة كوفيد-19 إلحاحا جديدا لتحقيق وعد هذه التكنولوجيا. تتم الآن تسليط الضوء بشكل坚 على تطبيقات الذكاء الاصطناعي، وتحسين علاجات كوفيد-19، وتعقب حاملي كوفيد-19 المحتملين، وتنفيذ محادثات حية في الوقت الفعلي لمستخدمي مواقع التجزئة التي تعاني من نقص في الإمدادات. أظهرت هذه التطبيقات أن الذكاء الاصطناعي يحسن من مرونة الأعمال ويفيد المجتمع بشكل أوسع.

فبالإضافة إلى “الوضع الأصلي السحابي”، قد يكون مصطلح “التحول الأول للذكاء الاصطناعي” هو مصطلح الربع الأخير، وهو مصطلح يعتقد ممارسو الصناعة أنه سيظل صحيحا حتى بعد زوال كوفيد-19.对于 العديد من الشركات، فإن وعد التكاليف المنخفضة (أي خوارزميات سلسلة التوريد التي تتوافق مع الطلب) وزيادة الإنتاجية (أي عندما تستخدم البنوك التحقق من الهوية والوثائق في الوقت الفعلي) هو أمر جيد جدًا لدرجة أن لا يمكن تجاهله.

لماذا التحول الأول للذكاء الاصطناعي؟

في التحول الأول للذكاء الاصطناعي، تستخدم المؤسسة الذكاء الاصطناعي كنجم شمال، وتعمل على استخدامه بطريقة لا تؤثر فقط على القرارات التي يتخذها الأشخاص والعمليات والنظم على نطاق واسع. إنه يهيئ المنظمات للتغيرات الديناميكية بين الموظفين والشركاء والعملاء. هذا يتيح لهم التحرك بسرعة لتلبية الطلبات المتغيرة وخلق ميزة تنافسية على المدى الطويل.

لكن ليس جميع الشركات في نفس مستوى النضج في مجال الذكاء الاصطناعي. هناك بعض الشركات التي يمكن وصفها بأنها “مجموعة الذكاء الاصطناعي التقليدية” أو H1. تستخدم هذه الشركات، التي لديها خبرة واستثمار أقل، في الغالب خوارزميات تقليدية مثل خوارزمية بايز الصريحة، التي تم تطويرها منذ 250 عامًا، أو غابة عشوائية (تم تطويرها بواسطة تين كام هو في عام 1995) لتعزيز الذكاء المتجزئ داخل الأنظمة الحالية. هذه الاستخدامات للذكاء الاصطناعي هي قواعد صارمة وrigid، وتفتقر إلى القدرة على تعميم القواعد التي تكتشفها. ثم هناك “مجموعة التعلم العميق” أو H2. تعتمد هذه الشركات على الذكاء الاصطناعي الأكثر تعقيدًا، بما في ذلك الترجمة الآلية والأنظمة القائمة على النص، لاستخراج رؤى محادثات. هذه الأنظمة لديها قوة أكبر، لكنها لا توفر سهولة في تفسير أسباب أفعالها. كما أنها تفتقر إلى الشفافية. بالنسبة لهاتين المجموعتين، فإن الذكاء الاصطناعي المستخدم غالبًا ما لا يكون موثوقًا به أو đáng الثقة ويمكن أن يتخذ قرارات متحيزة تجلب انتباه سلبي من الهيئات الحكومية والمنظمين والجمهور.

تتطلب هذه الشركات اتخاذ خطوات الآن لتحسين تطبيقات الذكاء الاصطناعي إلى مستوى أعلى – إلى معسكر ثالث (H3) حيث يكون الذكاء الاصطناعي خود التعلم والتنموي. في هذه المرحلة، تكون أنظمة الذكاء الاصطناعي شبه خاضعة للإشراف أو غير خاضعة للإشراف. وهي شفافة وتحقق “المنطق الشائع” من خلال التعلم المتعدد المهام. توفر هذه الأنظمة ذكاءً غنيًا وتوفر رؤى قابلة للتنفيذ في الوقت الفعلي. يتم ذلك من خلال إدارة الذكاء الاصطناعي والتحكم فيه بطريقة يمكن تفسيرها وشرحها في جميع المراحل.

كيفية العمل نحو ذكاء اصطناعي أكثر مسؤولية وشفافية

يتم استخدام الذكاء الاصطناعي بشكل متزايد لإدارة المدارس وأماكن العمل والكيانات العامة الأخرى. في هذه الإعدادات، من المهم أكثر من أي وقت مضى أن يكون الذكاء الاصطناعي عادلاً وشفافًا. ومع ذلك، مع تقدم المجتمع في هذا الانفجار في تبني الذكاء الاصطناعي، تقدم الهيئات التنظيمية توجيهات محدودة بشأن تطوير وتطبيق تقنيات الذكاء الاصطناعي. وبالتالي، يقع العبء على الشركات لتaken قيادة المسؤولية. يجب على صناعة التكنولوجيا بشكل أوسع وضع القوة المالية ورأس المال البشري للعمل، وتحويل التطبيقات الأولية للذكاء الاصطناعي المتجزئ إلى أنظمة ذكية وذاتية وذاتية ومسؤولة وشفافة. للانتقال إلى هذا الفضاء، يجب على الشركات القيام بالأمور الأربعة التالية:

• احتفظ بالبشر في الحلقة: غالبًا ما يتم تصميم نماذج الذكاء الاصطناعي للعمل بشكل مستقل عن البشر. ومع ذلك، فإن العنصر البشري ضروري في العديد من الحالات. يجب على البشر مراجعة القرارات وتجنب التحيز والأخطاء التي غالبًا ما تعيق مشاريع الذكاء الاصطناعي. تشمل حالات الاستخدام حماية الاحتيال والقضايا التي يتضمنها قانون إنفاذ القانون. نوصي الشركات بتوظيف ممارسين للذكاء الاصطناعي ببطء ولكن بثبات مع مرور الوقت للحصول على ميزة في رحلتهم الأولى للذكاء الاصطناعي.
• إزالة مجموعات البيانات المتحيزة: مجموعة بيانات غير متحيزة هي شرط مسبق حاسم لإنشاء نماذج ذكاء اصطناعي موثوقة وعادلة وغیر تمييزية. لكي تفهم أهميتها، يتم استخدام الذكاء الاصطناعي لترشيح السير الذاتية وتقييم الائتمان من قبل البنوك، وقد أدخل حتى بعض الأنظمة القضائية. في هذا المنظر، كان للتحيزات غير الخاضعة للرقابة عواقب حقيقية.
• ضمان تفسير القرارات: تم تغطية هذه الميزة من قبل العديد من الصحف الكبيرة، وبحق. يساعد XAI في تفسير سبب اتخاذ نظام الذكاء الاصطناعي لقرار معين. يكشف عن الميزات التي تم استخدامها أكثر من غيرها في نموذج التعلم العميق لإنشاء تنبؤ أو فرضية. فهم أهمية الميزة والقدرة على تبرير كيفية اتخاذ القرارات أمر بالغ الأهمية لاستخدامات مثل المركبات المستقلة والرؤية الحاسوبية المستخدمة في الفحوصات الطبية.
• إعادة إنتاج النتائج بشكل موثوق: هو شرط ضروري في مشاريع البحث، يجب أن تكون نماذج الذكاء الاصطناعي متسقة عند تقديم التنبؤات مع مرور الوقت. يجب ألا تتأثر هذه النماذج عند عرض بيانات جديدة.

هذه الأربع خطوات ستخلق أنظمة ذكية وشفافة، وتتحرك نحو ما نسميه “المنظمة الحية”. هنا، يتم اتخاذ القرارات غير المتحيزة والقابلة للتفسير في الوقت الفعلي تقريبًا، وتعمل المنظمة بأكملها ككائن حسي يخضع لإدارة البشر. اقرأ ورقة عمل معهد إنفوسيس للتعرف على المزيد البيضاء.