الذكاء الاصطناعي: من قبل الناس، من أجل الناس، ومن أجل الناس

بواسطة: بالاكريشنا (بالي) دي آر، نائب الرئيس، رئيس العرض الخدمي – إيكس، الذكاء الاصطناعي والآلية في إنفوسيس。

نحن محظوظون لأننا نعيش في عصر التكنولوجيا حيث يعمل الذكاء الاصطناعي بجد لجعل حياتنا أسهل – الهواتف الآن تعرفنا وتفتح عندما “ترى”نا، لدينا خرائط تتكلم تساعدنا على العثور على المسارات الأقصر والأقل ازدحاما للوصول إلى حيث نريد، أجهزة ذكية تسخين وتبريد منازلنا حتى قبل أن نقول الكلمة، تطبيقات ذكية تتنبأ وتمنع الاحتيال، والمزيد.

然而، لقد شهدنا أيضًا حالات حيث فشلت هذه الأنظمة الذكية القائمة على الذكاء الاصطناعي فيما يتعلق بالمنظور العادل والأخلاقي. على سبيل المثال، بنك محترم يعمل معنا يشتبه في أن نماذج الذكاء الاصطناعي التي يستخدمها لتقييم القيمة الائتمانية قبل إصدار القروض قد تكون متحيزة، وطلب منا المساعدة. في مناسبة أخرى، عملت شركة تصنيع آلات معنا لتحليل أنماط مطالبات الضمان لتحقيق المساواة، من مجموعة البيانات والعملية، قبل إعادة هندسة وتأتمتة عملية الموافقة على المطالبات. نماذج الذكاء الاصطناعي المتعلقة بالتوظيف، غالبًا ما نجد أنها متأثرة بالتحيزات العمرية والجنس والعرق، وحتى رموز البريد في بعض الأحيان، في مجموعات البيانات – مما يؤدي إلى نتائج غير عادلة إذا تم إهمالها.

بسبب التأثير الهائل للتحيز في الذكاء الاصطناعي في جميع أنحاء المؤسسة، أصبحت الأسئلة الأخلاقية في صدارة تطوير الأنظمة الذكية وتطبيقها واستخدامها. الأنظمة الذكية هي مزيج من العديد من القرارات البشرية، التي تعتمد في حد ذاتها على التحيزات البشرية. حماية استقلالية الموظفين وخصوصيتهم، مخاطر التحيز التي تؤثر على نمو المسيرة والفرص، التمييز على أساس لون البشرة أو العرق أو الجنس، عدم القدرة على تفسير الخيارات التي يتخذها حل الذكاء الاصطناعي، وبالتالي، مسؤولية اتخاذ القرارات الذكية، يتم مناقشتها بحرارة عند مناقشة الذكاء الاصطناعي وفضائله.

إنشاء ذكاء اصطناعي مسؤول

يمكن للتحيز في الذكاء الاصطناعي أن يكون له تأثير-domino في جميع أنحاء المنظمة. من المهم أن يضمن قادة تكنولوجيا المعلومات أنهم يploy الذكاء الاصطناعي بطريقة أخلاقية تعمل مع، وليس ضد، الموظفين. للقيام بذلك، يجب على المنظمات أن تشمل ما يلي في عمليات نشر الذكاء الاصطناعي.

حوكمة البيانات: الاستخدام الأخلاقي للذكاء الاصطناعي يعتمد أيضًا على استخدام البيانات الخاضع للحوكمة جيدًا، بدءًا من مصادر البيانات بطريقة أخلاقية وشفافة. للقيام بذلك، يجب على قادة تكنولوجيا المعلومات إنشاء إطار حوكمة محدد جيدًا سيضمن أمن البيانات، وسلامتها، وخصوصيتها، وسيمنع تلوث البيانات وفقدانها – كل هذه هي ضرورية.

المسؤولية: نماذج التعلم الآلي يجب أن تكون عادلة، غير متحيزة، تعامل الناس بالتساوي وتقسم المنافع بالتساوي (معدل قبول ومرفوض متشابه) عبر جميع السمات مثل العرق، الدين، الجنس، إلخ. يجب أن تحقق دقة مقبولة ليس فقط على الرقم الإجمالي ولكن أيضًا على الفئات الأقلية. يجب أن تكون هذه النماذج قابلة للتفسير عند تحديد كيفية وصول النتيجة. على سبيل المثال، القدرة على تفسير لماذا رفضت النموذج طلب قرض من المتقدم أ، ولكن تم قبول نفس الطلب من المتقدم ب. قادة تكنولوجيا المعلومات الذين يطورون حلول الذكاء الاصطناعي يجب أن يجعلوا المنطق الأساسي الذي يدفع هذه القرارات واضحًا للمشتركين التجاريين حتى يكون هناك شفافية أكبر داخل المؤسسة.

صلاحية العدائية: يجب على整个 نظام الذكاء الاصطناعي أن يتفق على ضرورة اختبار نماذج الذكاء الاصطناعي واختراقها من خلال محاكاة لدراسة النتائج السلبية المحتملة. على سبيل المثال، يمكن لقادة تكنولوجيا المعلومات استخدام الاختبارات التالية لاختبار أنظمة الذكاء الاصطناعي والاستعداد للتحديات المحتملة.

• تعديل البيانات: تعديل مباشر لمجموعة البيانات المستخدمة في التدريب عن طريق حقن البيانات، وتعديلها، وتعديل المنطق
• تعديل النماذج: اختبار تقليل الثقة والتصنيف الخاطئ
• أدوات مساعدة: استخدام أدوات للتأثير على النتائج أو تشويشها

الإنسان في الحلقة: يجب تخفيف مخاطر نماذج الذكاء الاصطناعي من خلال وجود بشر في جميع نقاط اتخاذ القرار الرئيسية، وجود آلية احتياطية فعالة أو مسار بديل إذا كان نظام الذكاء الاصطناعي يحتاج إلى سحب.

تنمية الموافقة الاجتماعية للذكاء الاصطناعي

بالإضافة إلى هذه الإرشادات، يجب علينا تعزيز المناقشات والمناقشات الشاملة بين جميع القادة عبر المؤسسة، حول الفوائد، والمصالح، والتكاليف، والنتائج المترتبة على أي نشر كبير للذكاء الاصطناعي. فقط هذه العمليات الشاملة التي تشمل جميع أصحاب المصلحة، لمناقشة وتحديد النتائج المقبولة، ووزن المخاطر والفوائد، من المرجح أن تكسب تقنيات الذكاء الاصطناعي ترخيص العمل في جميع أنحاء المؤسسة.