قادة الفكر

مع استعداد القطاعات لتسريع تبني الذكاء الاصطناعي، تركيز جديد على الأخلاق والمسؤولية

Dr. Pandurang Kamat
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةالذكاء الاصطناعي في قطاع الخدمات المصرفية والمالية والتأمين يخاطر بتضخيم التحيز، حيث…
عرض المزيد
  • الذكاء الاصطناعي في قطاع الخدمات المصرفية والمالية والتأمين يخاطر بتضخيم التحيز، حيث تزيد احتمالية رفض القروض العقارية للمتقدمين السود بنسبة 80%.
  • تبني الذكاء الاصطناعي في الرعاية الصحية يواجه تحديات مثل البيانات المتحيزة وخطر تفاقم الفوارق.
  • يجب على شركات الإعلام مراقبة الذكاء الاصطناعي بعد النشر لتحقيق التوازن بين الأخلاقيات والخصوصية والميزة التنافسية.

بواسطة: باندورانج كامات، المدير التقني في Persistent Systems (PERSISTENT.BO )

الذكاء الاصطناعي (AI) في جوهره هو تعلم الآلة (ML)، وهو عملية تتعلم فيها الآلات كيفية تحسين الأداء بناءً على مدخلات البيانات. يعني وجود كمية هائلة من البيانات الحالية أن الذكاء الاصطناعي قد وجد أرضاً خصبة لازدهارها، مُتسارعًا بسرعة في السنوات القليلة الماضية. وقد جعل وعد الذكاء الاصطناعي التقنيين والمديرين التنفيذيين في صناعات بعيدة المدى يفكرون بشكل إبداعي في تطبيقاته المختلفة.

من الثورة الصناعية فصاعدًا، يتميز كل فترة من فترات التقدم التكنولوجي السريع بالحماس والخوف على حد سواء. يشير مجمّع شبكة الويب العالمية (W3C)، وهو مجموعة تُنشئ معايير صناعة مطوري الويب، إلى أن “هناك زيادة في الوعي بوجود مخاطر وتأثيرات سلبية محتملة لاستخدام تعلم الآلة” – بما في ذلك في مجالات مثل: التحيز، والخصوصية، والأمان، والاستدامة، والمسؤولية العامة.

“هناك طلب واضح على نهج أخلاقي لتعلم الآلة، كما يظهر من خلال النشاطات الحالية للمجتمع المدني، وانتشار ما يقرب من 100 مجموعة من مبادئ الذكاء الاصطناعي الأخلاقي على مستوى العالم، والجهود الحكومية لتنظيم الذكاء الاصطناعي في جميع أنحاء العالم،” كما كتبت المجموعة. “إذا لم تكن التكنولوجيا متوافقة مع قيم المجتمعات التي تعمل فيها، فإنها تتهددها بالتآكل.”

اختر بحكمة

على السطح، من الصعب أن نجادل بأن زيادة السرعة والإنتاجية سيئة للأعمال. ولكن بالنسبة إلى بعض الصناعات، هناك الكثير على المحك في عملية اتخاذ القرار التي يُعتقد أن بعضها لا ينبغي أن يُترك للخوارزمية. بالنظر إلى بعض أكبر الصناعات، يمكننا رؤية مدى ضعفنا أمام الأخطاء الآلية، ولماذا المسؤولية في الذكاء الاصطناعي أمر بالغ الأهمية.

الخدمات المصرفية والمالية والتأمين (BFSI)

درست منتدى الاقتصاد العالمي (WEF) وديلويت عملية نشر الذكاء الاصطناعي في شركات الخدمات المصرفية والمالية والتأمين، ووجدت أن “الذكاء الاصطناعي يمكن أن يساعد في خلق رؤى أعمال مفيدة من كمية هائلة من المعلومات،” ولكن “غربة الذكاء الاصطناعي” ستكون مصدرًا مستمرًا للخطر الجاد.

“الذكاء الاصطناعي يعتمد على أساليب غير بشرية،” كما يقرأ التقرير. “نظم الذكاء الاصطناعي لا تتبع البنى المنطقية البشرية، وتتصرف بشكل مختلف جدًا عن البشر في نفس المهمة. بالإضافة إلى ذلك، تتيح طبيعة التعلم الذاتي لأنظمة الذكاء الاصطناعي لها التطور دون مدخلات بشرية، مما قد يؤدي إلى نتائج غير متوقعة بناءً على متغيرات غير معروفة.”
يُدّعي مؤيدو الذكاء الاصطناعي المسؤول أن تعلم الآلة يطرح مشاكل خطيرة في الأمور مثل التقييم التلقائي للمخاطر والائتمان وعمليات الإقراض، جميعها تاريخيًا متحيزة ضد بعض الفئات الديموغرافية. أظهرت الدراسات الحديثة أن المقرضين الذين يستخدمون محركات اتخاذ القرار القائمة على الذكاء الاصطناعي كانوا أكثر احتمالًا لرفض قروض المنازل لغير البيض – في بعض الحالات، احتمال رفض المتقدمين السود أعلى بنسبة 80%.

الرعاية الصحية

منذ بضع سنوات، قام مجلة الجمعية الطبية الأمريكية (JAMA) بفحص تبني الذكاء الاصطناعي في الرعاية الصحية، ووجدت أن التحديات كثيرة، بما في ذلك “التوقعات غير الواقعية، والبيانات المتحيزة وغير الممثلة، وعدم تقدير المساواة والشمول، ومخاطر تفاقم الفوارق الصحية، ومستويات الثقة المنخفضة، والبيئات التنظيمية غير المستقرة.”
ليس هذا بالتحديد تأييدًا حاسمًا، ولكن هناك معيارًا أعلى للمسؤولية في الذكاء الاصطناعي في الرعاية الصحية، خاصة بالنظر إلى إمكاناته المتعلقة حرفيًا بالحياة والموت. بشكل عام، يعتبر المهنيون الصحيون متفائلين ولكن محاطين بالحذر بشأن مستقبل الذكاء الاصطناعي، ويتجهون لتركيز جهودهم على تعليم الممارسين الآخرين حول استخدام الذكاء الاصطناعي في الإعداد السريري، ووضع إرشادات حول كيفية المضي قدمًا بشكل مسؤول بطريقة تفيد جميع المرضى.

الإعلام

تُقدر بي و سي أن الذكاء الاصطناعي سوف يُحقق 15.7 تريليون دولار في النمو الاقتصادي العالمي بحلول عام 2030، ولكن وفقًا لشركة سيلز فورس (CRM )، يُعتقد أن أقل من نصف العملاء (48%) يثقون في الشركات لاستخدام الذكاء الاصطناعي بشكل أخلاقي، و65% يُقلقون بشأن استخدام غير أخلاقي للذكاء الاصطناعي. في نقطة تقاطع الأرباح والثقة، هناك شركات الإعلام – من أوائل المتبنين ذوي النفوذ الكبير. وهناك مخاوف من أن الذكاء الاصطناعي ليس تطبيقًا من نوع «اضبطه ثم انسَه»، ما يعني أن مسؤولية شركات الإعلام لا تقتصر على إنتاج المحتوى، بل تشمل مراقبته باستمرار بعد نشره.

كيف تُعرض الإعلانات وتُخصص؟ وكيف يصل المحتوى إلى جمهور معين، وما رسالته؟ ومن يعلّم الذكاء الاصطناعي «كيف» يتعلم؟ وكيف يمكن استهداف مستهلكين محددين مع احترام خصوصيتهم؟ هذه بعض الأسئلة التي تؤرق شركات الإعلام وهي توازن بين الأخلاق واكتساب ميزة تنافسية.

الاستجابة للمسؤولية

يتضح التقدم في تطوير الذكاء الاصطناعي المسؤول كل يوم: فالمشرّعون يضعون اللوائح، والمستهلكون يطالبون بمزيد من الشفافية، وكثير من الشركات أنشأ أقسامًا محددة مهمتها ضمان استخدام الذكاء الاصطناعي على نحو مناسب. تحتاج الشركات إلى إطار محدد بوضوح للذكاء الاصطناعي المسؤول يغطي الأخلاق والشفافية والمساءلة والإنصاف والخصوصية والأمان. ومع استمرار النقاشات والإصلاحات، تقدم دراسة مشتركة حديثة من MIT Sloan Management Review وBoston Consulting Group إرشادًا عامًا بسيطًا؛ إذ كتب الباحثون: «إذا أردت أن تكون رائدًا في الذكاء الاصطناعي المسؤول، فركز على أن تكون شركة مسؤولة».

الدكتور باندراج كامات هو كبير مسؤولي التكنولوجيا في Persistent Systems ، وهو مسؤول عن البحث التكنولوجي المتقدم الذي يركز على إطلاق قيمة الأعمال من خلال الابتكار على نطاق واسع. وهو قائد تكنولوجي متمرس يساعد العملاء على تحسين تجربة المستخدم ، وتحسين كفاءة عمليات الأعمال ، وإنشاء منتجات رقمية جديدة. رؤيته لـ Persistent هي أن تكون قوة ابتكارية ترسخ نظامًا بيئيًا عالميًا ومتنوعًا للابتكار ، يتألف من الأكاديميين والشركات الناشئة.