مع تقدم الصناعات في تبني الذكاء الاصطناعي، التركيز الجديد على الأخلاقيات والمسؤولية

بواسطة: باندورانج كامات، الرئيس التنفيذي للتقنيات في persistent Systems

الذكاء الاصطناعي (AI) في جوهره هو تعلم الآلة (ML)، وهو عملية تتعلم فيها الآلات كيفية تحسين الأداء بناءً على مدخلات البيانات. يعني وجود كمية هائلة من البيانات الحالية أن الذكاء الاصطناعي قد وجد أرضاً خصبة لازدهارها، مُتسارعًا بسرعة في السنوات القليلة الماضية. وقد جعل وعد الذكاء الاصطناعي التقنيين والمديرين التنفيذيين في صناعات بعيدة المدى يفكرون بشكل إبداعي في تطبيقاته المختلفة.

من الثورة الصناعية فصاعدًا، يتميز كل فترة من فترات التقدم التكنولوجي السريع بالحماس والخوف على حد سواء. يشير مجمّع شبكة الويب العالمية (W3C)، وهو مجموعة تُنشئ معايير صناعة مطوري الويب، إلى أن “هناك زيادة في الوعي بوجود مخاطر وتأثيرات سلبية محتملة لاستخدام تعلم الآلة” – بما في ذلك في مجالات مثل: التحيز، والخصوصية، والأمان، والاستدامة، والمسؤولية العامة.

“هناك طلب واضح على نهج أخلاقي لتعلم الآلة، كما يظهر من خلال النشاطات الحالية للمجتمع المدني، وانتشار ما يقرب من 100 مجموعة من مبادئ الذكاء الاصطناعي الأخلاقي على مستوى العالم، والجهود الحكومية لتنظيم الذكاء الاصطناعي في جميع أنحاء العالم،” كما كتبت المجموعة. “إذا لم تكن التكنولوجيا متوافقة مع قيم المجتمعات التي تعمل فيها، فإنها تتهددها بالتآكل.”

اختر بحكمة

على السطح، من الصعب أن نجادل بأن زيادة السرعة والإنتاجية سيئة للأعمال. ولكن对于 بعض الصناعات، هناك الكثير على المحك في عملية اتخاذ القرار التي يُعتقد أن بعضها لا ينبغي أن يُترك للخوارزمية. بالنظر إلى بعض أكبر الصناعات، يمكننا رؤية مدى ضعفنا أمام الأخطاء الآلية، ولماذا المسؤولية في الذكاء الاصطناعي أمر بالغ الأهمية.

الخدمات المصرفية والمالية والتأمين (BFSI)

درست منتدى الاقتصاد العالمي (WEF) وديلويت عملية نشر الذكاء الاصطناعي في شركات الخدمات المصرفية والمالية والتأمين، ووجدت أن “الذكاء الاصطناعي يمكن أن يساعد في خلق رؤى أعمال مفيدة من كمية هائلة من المعلومات،” ولكن “غربة الذكاء الاصطناعي” ستكون مصدرًا مستمرًا للخطر الجاد.

“الذكاء الاصطناعي يعتمد على أساليب غير بشرية،” كما يقرأ التقرير. “نظم الذكاء الاصطناعي لا تتبع البنى المنطقية البشرية، وتتصرف بشكل مختلف جدًا عن الممثلين البشرين في نفس المهمة. بالإضافة إلى ذلك، تتيح الطبيعة التكيفية لأنظمة الذكاء الاصطناعي لها التطور دون مدخلات بشرية، مما قد يؤدي إلى نتائج غير متوقعة بناءً على متغيرات غير معروفة.”
يُدّعي مؤيدو الذكاء الاصطناعي المسؤول أن تعلم الآلة يطرح مشاكل خطيرة في الأمور مثل التقييم التلقائي للمخاطر والائتمان وعمليات الإقراض، جميعها تاريخيًا متحيزة ضد بعض الفئات Dânográficas. أظهرت الدراسات الحديثة أن المقترضين الذين يستخدمون محركات اتخاذ القرار القائمة على الذكاء الاصطناعي كانوا أكثر احتمالًا لرفض قروض المنازل للشخصيات الملونة – في بعض الحالات، 80% من المتقدمين السود أكثر احتمالًا لرفضهم.

الرعاية الصحية

منذ بضع سنوات، قام مجلة الجمعية الطبية الأمريكية (JAMA) بفحص تبني الذكاء الاصطناعي في الرعاية الصحية، ووجدت أن التحديات كثيرة، بما في ذلك “التوقعات غير الواقعية، والبيانات المتحيزة وغير الممثلة، وعدم تقدير المساواة والشمول، ومخاطر تفاقم الفوارق الصحية، ومستويات الثقة المنخفضة، والبيئات التنظيمية غير المستقرة.”
ليس هذا بالتحديد تأييدًا حاسمًا، ولكن هناك معيارًا أعلى للمسؤولية في الذكاء الاصطناعي في الرعاية الصحية، خاصة بالنظر إلى إمكاناته الحيوية الحاسمة. بشكل عام، يعتبر المهنيون الصحيون متفائلين ولكن محاطين بالحذر بشأن مستقبل الذكاء الاصطناعي، ويتجهون لتركيز جهودهم على تعليم الممارسين الآخرين حول استخدام الذكاء الاصطناعي في الإعداد السريري، ووضع إرشادات حول كيفية المضي قدمًا بشكل مسؤول بطريقة تفيد جميع المرضى.

الإعلام

تُقدر بي و سي أن الذكاء الاصطناعي سوف يُحقق 15.7 تريليون دولار في النمو الاقتصادي العالمي بحلول عام 2030، ولكن وفقًا لشركة سيلز فورس، يُعتقد أن أقل من نصف العملاء (48%) يثقون في الشركات لاستخدام الذكاء الاصطناعي بشكل أخلاقي، و65% يُقلقون بشأن استخدام غير أخلاقي للذكاء الاصطناعي. في نقطة تقاطع الأرباح والثقة، هناك شركات الإعلام – من أوائل المتبنين ذوي النفوذ الكبير. وهناك مخاوف بشأن حقيقة أن الذكاء الاصطناعي ليس تطبيقًا من النوع ” ضع و