قادة الفكر

تحيز ونزاهة الأنظمة القائمة على الذكاء الاصطناعي في الجرائم المالية

Danny Butvinik
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةيمكن لأنظمة الذكاء الاصطناعي المتحيزة أن ترفض القروض بشكل غير عادل بناءً على مؤشرات…
عرض المزيد
  • يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن ترفض القروض بشكل غير عادل بناءً على مؤشرات العرق أو الجنس.
  • تعتبر تمثيلية البيانات وسلامة المصدر أمرين حاسمين لمنع نتائج النماذج التمييزية.
  • يجب على قادة الامتثال التعاون مع فرق علوم البيانات لضمان نشر مسؤول للذكاء الاصطناعي.

عندما يتعلق الأمر بمكافحة الجرائم المالية ، توجد تحديات تتجاوز نطاق مجرد وقف المخادعين أو الجهات الفاعلة السيئة.

تتم إطلاق بعض أحدث التقنيات المتقدمة ، وغالبًا ما توجد مشاكل محددة يجب مراعاتها خلال مراحل التنفيذ للقتال الناجح ضد المخادعين دون عواقب تنظيمية. في الكشف عن الاحتيال ، قد تظهر مشكلات في عدالة النموذج وتحيز البيانات عندما يمنح النظام وزنًا مفرطًا لمجموعات أو فئات معينة من البيانات أو يفتقر إلى تمثيلها. في النظرية ، يمكن لنموذج تنبؤي ربط أسماء العوائل من الثقافات الأخرى بشكل خاطئ مع حسابات احتيالية ، أو خفض تقدير المخاطر على نحو خاطئ في فئات السكان لمجموعة معينة من النشاطات المالية.

يمكن أن تمثل الأنظمة القائمة على الذكاء الاصطناعي المتحيزة تهديدًا خطيرًا عندما تتأثر السمعة ، وتحدث عندما لا تمثل البيانات المتاحة السكان أو الظاهرة التي نريد التنبؤ بها. هذه البيانات لا تتضمن متغيرات تعكس على نحو سليم الظاهرة التي نريد التنبؤ بها. أو بديلًا ، يمكن أن تحتوي البيانات على محتوى أنتجته البشر ، والذي قد يحتوي على تحيز ضد المجموعات ، الموروث من الخبرات الثقافية والشخصية ، مما يؤدي إلى تشويه القرارات. في حين قد يبدو أن البيانات موضوعية في البداية ، إلا أنها لا تزال تُجمَع وتُحلل من قبل البشر ، ويمكن أن تكون متحيزة.

على الرغم من عدم وجود حل سحري لمخاطر التمييز وعدم العدالة في أنظمة الذكاء الاصطناعي أو إصلاحات دائمة لمشكلة العدالة وتقليل التحيز في تصميم نموذج التعلم الآلي واستخدامه ، يجب مراعاة هذه القضايا لأسباب اجتماعية وأعمال.

فعل الشيء الصحيح في الذكاء الاصطناعي

معالجة التحيز في الأنظمة القائمة على الذكاء الاصطناعي ليس فقط الشيء الصحيح ، ولكن أيضًا الشيء الذكي للأعمال – والمراهنات عالية للقادة التجاريين. يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن تؤدي المؤسسات المالية إلى الطريق الخطأ من خلال تخصيص الفرص والموارد والمعلومات أو جودة الخدمة بشكل غير عادل. لديهم حتى إمكانية انتهاك الحريات المدنية ، أو أن يؤذوا سلامة الأفراد ، أو يؤثروا على رفاهية الشخص إذا تم اعتبارهم مهينين أو مسيئين.

من المهم أن تفهم المؤسسات قوة تحيز الذكاء الاصطناعي ومخاطره. فقد يستخدم نظام متحيز قائم على الذكاء الاصطناعي، دون علم المؤسسة، نماذج أو بيانات ضارة تُدخل تحيزًا عرقيًا أو قائمًا على النوع الاجتماعي في قرار الإقراض. وقد تعمل معلومات مثل الأسماء والنوع الاجتماعي كمؤشرات بديلة لتصنيف المتقدمين وتحديد هويتهم بطرق غير قانونية. وحتى إذا كان التحيز غير مقصود، فإنه يعرّض المنظمة لخطر عدم الامتثال للمتطلبات التنظيمية، وقد يؤدي إلى حرمان بعض المجموعات من القروض أو خطوط الائتمان بصورة غير عادلة.

لا تتوافر لدى المنظمات حاليًا جميع المقومات اللازمة لتقليل التحيز بنجاح في أنظمة الذكاء الاصطناعي. ومع تزايد استخدامه في الشركات لدعم القرارات، من الضروري أن تسعى المنظمات إلى تقليل التحيز، لا لأسباب أخلاقية فحسب، بل للامتثال للمتطلبات التنظيمية وزيادة الإيرادات أيضًا.

ثقافة وتنفيذ يراعيان العدالة

ستكون الحلول التي تركز على تصميم وتنفيذ يراعيان العدالة أكثر نفعًا. يجب أن يكون لمقدمي الخدمات ثقافة تحليلية تأخذ في الاعتبار الحصول المسؤول على البيانات والتعامل معها وإدارتها كعناصر ضرورية من عدالة الخوارزمية ، لأن نتائج مشروع الذكاء الاصطناعي التي تم توليدها بواسطة مجموعات بيانات متحيزة أو معيبة أو مشوهة لن تحمي الأطراف المتأثرة بشكل كافٍ من الأذى التمييزي.

هذه هي عناصر عدالة البيانات التي يجب على فرق علم البيانات مراعاتها:

  • التمثيل: اعتمادًا على السياق ، قد يؤدي نقص تمثيل المجموعات المحرومة أو المحمية قانونًا، أو الإفراط في تمثيلها في عينة البيانات، إلى إلحاق ضرر منهجي بالأطراف الضعيفة في نتائج النموذج المُدرَّب. لتجنب هذا النوع من تحيز العينة ، سيكون الخبرة في المجال حاسمة لتقييم ملاءمة البيانات المجمعة أو المكتسبة مع السكان الأساسيين الذين سيتم نمذجتهم. يجب على أفراد الفريق الفني تقديم وسائل لتصحيح العيوب التمثيلية في العينة.
  • الملاءمة لغرضها والكفاية: من المهم فهم ما إذا كانت البيانات المجمعة كافية لغرض المشروع المقصود. قد لا تعكس مجموعات البيانات غير الكافية بالعدل الجوانب التي يجب وزنها لإنتاج نتيجة مبررة تتوافق مع الغرض المقصود من نظام الذكاء الاصطناعي. لذلك ، يجب على أعضاء فريق المشروع ذوي الكفاءات الفنية والمتعلقة بالسياسات التعاون لتحديد ما إذا كانت كمية البيانات كافية وملائمة للغرض.
  • صحة المصدر ودقة القياس: يبدأ تقليل التحيز الفعال في بداية عمليات استخراج وجمع البيانات. قد تُقدم كل من مصادر القياس وأدواتها عوامل تمييزية إلى مجموعة البيانات. لتأمين عدم الإضرار التمييزي ، يجب أن تتمتع عينة البيانات بصحة مصدر مثالية. هذا يشمل تأمين أو تأكيد أن عمليات جمع البيانات شملت مصادر قياس ملائمة وموثوقة وغير متحيزة وأساليب جمع قوية.
  • الزمنية والحداثة: إذا كانت مجموعات البيانات تحتوي على بيانات قديمة ، فقد تؤثر التغييرات في توزيع البيانات الأساسي سلبًا على قابليّة نموذج المُدرَّب للتعميم. إذا كانت هذه الانجرافات التوزيعية تعكس التغييرات في العلاقات الاجتماعية أو ديناميات المجموعة ، فقد يؤدي فقدان الدقة المتعلق بالسمات الفعلية للسكان الأساسيين إلى إحداث تحيز في نظام الذكاء الاصطناعي. لمنع النتائج التمييزية ، يجب فحص زمنية وحداثة جميع عناصر مجموعة البيانات.
  • الصلة والملاءمة والمعرفة بالمجال: فهم واستخدام أكثر المصادر والأنواع من البيانات ملاءمة هو أمر بالغ الأهمية لبناء نظام ذكاء اصطناعي قوي وغير متحيز. المعرفة القوية بالمجال لتوزيع السكان الأساسيين وهدف التنبؤ للمشروع هي أداة أساسية لتحديد مدخلات القياس الأكثر ملاءمة التي تساهم في حل معقول للمشكلة المحددة. يجب على خبراء المجال التعاون بشكل وثيق مع فرق علم البيانات لمساعدتهم في تحديد الفئات والمصادر الأكثر ملاءمة للقياس.

في حين تساعد الأنظمة القائمة على الذكاء الاصطناعي في أتمتة عمليات اتخاذ القرار وتوفر وفورات في التكلفة ، يجب على المؤسسات المالية التي تعتبر الذكاء الاصطناعي كحلاً أن تكون حريصة على ضمان عدم حدوث قرارات متحيزة. يجب على قادة الامتثال أن يكونوا متزامنين مع فريق علم البيانات لتأكيد أن قدرات الذكاء الاصطناعي هي مسؤولة وفعالة وغير متحيزة. وجود استراتيجية تتبنى الذكاء الاصطناعي المسؤول هو الشيء الصحيح ، وقد يوفر أيضًا طريقًا للامتثال للتنظيمات المستقبلية للذكاء الاصطناعي.

داني بوتفينيك هو رئيس علماء البيانات في NICE Actimize، حيث يقدم القيادة الفنية والمهنية. داني هو خبير في الذكاء الاصطناعي وعلوم البيانات، حيث نشر العديد من المقالات والبحوث العلمية. في منصبه الحالي، يدير مجموعة كبيرة من علماء البيانات، ويساهم في نمو الابتكار والملكية الفكرية للشركة، مع أكثر من 15 عامًا من الخبرة في البحث والتطوير والإدارة في علوم البيانات وتطوير البرمجيات.