التحيز والإنصاف للأنظمة القائمة على الذكاء الاصطناعي في سياق الجريمة المالية

عندما يتعلق الأمر بمكافحة الجريمة المالية ، توجد تحديات تتجاوز نطاق مجرد إيقاف المحتالين أو غيرهم من الجهات الفاعلة السيئة.

غالبًا ما يكون لبعض أحدث التقنيات المتقدمة التي يتم إطلاقها مشكلاتها الخاصة التي يجب مراعاتها أثناء مراحل التبني لمحاربة المحتالين بنجاح دون تداعيات تنظيمية. في اكتشاف الاحتيال ، يمكن أن تحدث عدالة النموذج وتحيز البيانات عندما يكون النظام أكثر ترجيحًا أو يفتقر إلى تمثيل مجموعات أو فئات معينة من البيانات. من الناحية النظرية ، يمكن للنموذج التنبئي أن يربط عن طريق الخطأ أسماء العائلة من الثقافات الأخرى بحسابات احتيالية ، أو يقلل بشكل خاطئ من المخاطر داخل شرائح السكان لأنواع معينة من الأنشطة المالية.

يمكن أن تمثل أنظمة الذكاء الاصطناعي المتحيزة تهديدًا خطيرًا عندما تتأثر السمعة ويحدث عندما لا تمثل البيانات المتاحة السكان أو ظاهرة الاستكشاف. لا تتضمن هذه البيانات المتغيرات التي تلتقط الظاهرة التي نريد توقعها بشكل صحيح. أو بدلاً من ذلك ، يمكن أن تتضمن البيانات المحتوى الذي ينتجه البشر والذي قد يحتوي على تحيز ضد مجموعات من الناس ، موروث من خلال التجارب الثقافية والشخصية ، مما يؤدي إلى التشوهات عند اتخاذ القرارات. في حين أن البيانات قد تبدو موضوعية للوهلة الأولى ، إلا أنه لا يزال يتم جمعها وتحليلها من قبل البشر ، وبالتالي يمكن أن تكون متحيزة.

على الرغم من عدم وجود حل سحري عندما يتعلق الأمر بمعالجة مخاطر التمييز والظلم في أنظمة الذكاء الاصطناعي أو الحلول الدائمة لمشكلة العدالة وتخفيف التحيز في تصميم نموذج التعلم الآلي واستخدامه، إلا أنه يجب أخذ هذه القضايا في الاعتبار على المستوى المجتمعي والعالمي. أسباب تجارية.

فعل الشيء الصحيح في الذكاء الاصطناعي

إن معالجة التحيز في الأنظمة القائمة على الذكاء الاصطناعي ليس هو الشيء الصحيح فحسب ، بل هو الشيء الذكي للأعمال - والمخاطر كبيرة بالنسبة لقادة الأعمال. يمكن لأنظمة الذكاء الاصطناعي المتحيزة أن تقود المؤسسات المالية إلى المسار الخطأ من خلال تخصيص الفرص أو الموارد أو المعلومات أو جودة الخدمة بشكل غير عادل. حتى أن لديهم القدرة على التعدي على الحريات المدنية ، أو الإضرار بسلامة الأفراد ، أو التأثير على رفاهية الشخص إذا تم اعتباره مهينًا أو مسيئًا.

من المهم للمؤسسات أن تفهم قوة ومخاطر انحياز الذكاء الاصطناعي. على الرغم من أن المؤسسة غير معروفة في كثير من الأحيان ، إلا أن النظام المتحيز القائم على الذكاء الاصطناعي يمكن أن يستخدم نماذج أو بيانات ضارة تعرض التحيز العرقي أو الجنساني في قرار الإقراض. يمكن أن تكون المعلومات مثل الأسماء والجنس وكلاء لتصنيف المتقدمين وتحديد هويتهم بطرق غير قانونية. حتى إذا كان التحيز غير مقصود ، فإنه لا يزال يعرض المنظمة للخطر من خلال عدم الامتثال للمتطلبات التنظيمية ويمكن أن يؤدي إلى حرمان مجموعات معينة من الناس بشكل غير عادل من القروض أو خطوط الائتمان.

في الوقت الحالي ، لا تمتلك المؤسسات القطع اللازمة للتخفيف بنجاح من التحيز في أنظمة الذكاء الاصطناعي. ولكن مع تزايد نشر الذكاء الاصطناعي عبر الشركات لإبلاغ القرارات ، فمن الأهمية بمكان أن تسعى المؤسسات جاهدة للحد من التحيز ، ليس فقط لأسباب أخلاقية ، ولكن للامتثال للمتطلبات التنظيمية وبناء الإيرادات.

ثقافة "إدراك الإنصاف" وتنفيذها

ستحقق الحلول التي تركز على التصميم والتنفيذ المدركين للعدالة النتائج الأكثر فائدة. يجب أن يتمتع مقدمو الخدمة بثقافة تحليلية تعتبر الحصول على البيانات المسؤولة ومعالجتها وإدارتها مكونات ضرورية للعدالة الحسابية ، لأنه إذا تم إنشاء نتائج مشروع الذكاء الاصطناعي من خلال مجموعات بيانات متحيزة أو مخترقة أو منحرفة ، فلن تتم حماية الأطراف المتأثرة بشكل كاف من ضرر تمييزي.

هذه هي عناصر عدالة البيانات التي يجب على فرق علوم البيانات وضعها في الاعتبار:

• التمثيلية:اعتمادًا على السياق ، قد يؤدي إما التمثيل الناقص أو التمثيل المفرط للمجموعات المحرومة أو المحمية قانونًا في عينة البيانات إلى الإضرار المنتظم بالأطراف الضعيفة في نتائج النموذج المدرب. لتجنب مثل هذه الأنواع من التحيز في أخذ العينات ، ستكون الخبرة في المجال ضرورية لتقييم التوافق بين البيانات التي تم جمعها أو الحصول عليها وبين السكان الأساسيين المراد نمذجتها. يجب أن يقدم أعضاء الفريق الفني وسائل معالجة لتصحيح العيوب التمثيلية في أخذ العينات.
• تناسب الغرض والكفاية: من المهم فهم ما إذا كانت البيانات التي تم جمعها كافية للغرض المقصود من المشروع. قد لا تعكس مجموعات البيانات غير الكافية بشكل منصف الصفات التي يجب موازنتها للحصول على نتيجة مبررة تتوافق مع الغرض المطلوب من نظام الذكاء الاصطناعي. وفقًا لذلك ، يجب أن يتعاون أعضاء فريق المشروع ذوي الكفاءات الفنية والسياساتية لتحديد ما إذا كانت كمية البيانات كافية ومناسبة للغرض.
• سلامة المصدر ودقة القياس:يبدأ التخفيف الفعال للتحيز في بداية عمليات استخراج البيانات وجمعها. قد تقدم كل من مصادر وأدوات القياس عوامل تمييزية في مجموعة البيانات. لتأمين عدم الإضرار التمييزي ، يجب أن تتمتع عينة البيانات بسلامة المصدر المثلى. يتضمن ذلك تأمين أو تأكيد أن عمليات جمع البيانات تتضمن مصادر قياس مناسبة وموثوقة ومحايدة وطرق جمع قوية.
• حسن التوقيت والحداثة: إذا كانت مجموعات البيانات تتضمن بيانات قديمة ، فإن التغييرات في توزيع البيانات الأساسية قد تؤثر سلبًا على قابلية تعميم النموذج المدرب. شريطة أن تعكس هذه الانجرافات التوزيعية العلاقة الاجتماعية المتغيرة أو ديناميكيات المجموعة ، فإن فقدان الدقة فيما يتعلق بالخصائص الفعلية للسكان الأساسيين قد يؤدي إلى التحيز في نظام الذكاء الاصطناعي. لمنع النتائج التمييزية ، يجب فحص دقة التوقيت وحداثة جميع عناصر مجموعة البيانات.
• الصلة والملاءمة ومعرفة المجال: يعد فهم واستخدام أنسب مصادر وأنواع البيانات أمرًا بالغ الأهمية لبناء نظام ذكاء اصطناعي قوي وغير متحيز. إن معرفة المجال الصلبة لتوزيع السكان الأساسي ، والهدف التنبئي للمشروع ، مفيدة في اختيار مدخلات القياس ذات الصلة على النحو الأمثل التي تساهم في الحل المعقول للحل المحدد. يجب أن يتعاون خبراء المجال بشكل وثيق مع فرق علوم البيانات للمساعدة في تحديد الفئات ومصادر القياس المناسبة على النحو الأمثل.

بينما تساعد الأنظمة القائمة على الذكاء الاصطناعي في عمليات أتمتة صنع القرار وتحقيق وفورات في التكاليف ، يجب أن تكون المؤسسات المالية التي تعتبر الذكاء الاصطناعي حلاً يقظًا لضمان عدم اتخاذ قرارات متحيزة. يجب أن يكون قادة الامتثال متعاونين مع فريق علوم البيانات لديهم لتأكيد أن قدرات الذكاء الاصطناعي مسؤولة وفعالة وخالية من التحيز. إن وجود استراتيجية تدعم الذكاء الاصطناعي المسؤول هو الشيء الصحيح الذي يجب القيام به ، وقد يوفر أيضًا طريقًا للامتثال للوائح الذكاء الاصطناعي المستقبلية.