تحيز ونزاهة الأنظمة القائمة على الذكاء الاصطناعي في الجرائم المالية

عندما يتعلق الأمر بمكافحة الجرائم المالية ، توجد تحديات تتجاوز نطاق مجرد وقف المخادعين أو الجهات الفاعلة السيئة.

تتم إطلاق بعض أحدث التقنيات المتقدمة ، وغالبًا ما توجد مشاكل محددة يجب مراعاتها خلال مراحل التنفيذ للقتال الناجح ضد المخادعين دون عواقب تنظيمية. في الكشف عن الاحتيال ، يمكن أن يحدث تحيز النموذج وتحيز البيانات عندما يكون النظام أكثر وزنًا أو نقصًا في تمثيل فئات أو فئات معينة من البيانات. في النظرية ، يمكن لنموذج تنبؤي ربط أسماء العوائل من الثقافات الأخرى بشكل خاطئ مع حسابات احتيالية ، أو تقليل خطر الكاذب في فئات السكان لمجموعة معينة من النشاطات المالية.

يمكن أن تمثل الأنظمة القائمة على الذكاء الاصطناعي المحايدة تهديدًا خطيرًا عندما تتأثر السمعة ، وتحدث عندما لا تمثل البيانات المتاحة السكان أو الظاهرة التي نريد التنبؤ بها. هذه البيانات لا تتضمن متغيرات تحقق الظاهرة التي نريد التنبؤ بها. أو بديلًا ، يمكن أن تحتوي البيانات على محتوى أنتجته البشر ، والذي قد يحتوي على تحيز ضد المجموعات ، الموروث من الخبرات الثقافية والشخصية ، مما يؤدي إلى تشويه القرارات. في حين قد يبدو أن البيانات موضوعية في البداية ، إلا أنها لا تزال تُجمَع وتُحلل من قبل البشر ، ويمكن أن تكون متحيزة.

على الرغم من عدم وجود حل سحري لمخاطر التمييز وعدم العدالة في أنظمة الذكاء الاصطناعي أو إصلاحات دائمة لمشكلة العدالة وتقليل التحيز في تصميم نموذج التعلم الآلي واستخدامه ، يجب مراعاة هذه القضايا لأسباب اجتماعية وأعمال.

فعل الشيء الصحيح في الذكاء الاصطناعي

معالجة التحيز في الأنظمة القائمة على الذكاء الاصطناعي ليس فقط الشيء الصحيح ، ولكن أيضًا الشيء الذكي للأعمال – والمراهنات عالية للقادة التجاريين. يمكن لأنظمة الذكاء الاصطناعي المحايدة أن تؤدي المؤسسات المالية إلى الطريق الخطأ من خلال تخصيص الفرص والموارد والمعلومات أو جودة الخدمة بشكل غير عادل. لديهم حتى إمكانية انتهاك الحريات المدنية ، أو أن يؤذوا سلامة الأفراد ، أو يؤثروا على رفاهية الشخص إذا تم اعتبارهم مهينين أو مسيئين.

من المهم للمؤسسات理解 قوة ومخاطر تحيز الذكاء الاصطناعي. على الرغم من أن نظامًا قائمًا على الذكاء الاصطناعي قد يستخدم نماذج أو بيانات ضارة تعرض تحيزًا عرقيًا أو جنسيًا إلى قرارات القروض ، قد لا يكون هذا التحيز متعمدًا ، ولكنه يضع المنظمة في خطر عدم الامتثال للمتطلبات التنظيمية ويمكن أن يؤدي إلى رفض بعض المجموعات بشكل غير عادل للقروض أو خطوط الائتمان.

ثقافة وتنفيذ “متعمد للعدالة”

ستكون الحلول التي تركز على تصميم وتنفيذ متعمد للعدالة أكثر نفعًا. يجب أن يكون للموفريين ثقافة تحليلية تأخذ في الاعتبار الحصول على البيانات والتعامل معها وإدارتها كعناصر ضرورية من عدالة الخوارزمية ، لأن نتائج مشروع الذكاء الاصطناعي التي تم توليدها بواسطة مجموعات بيانات متحيزة أو معيبة أو مشوهة لن تحمي الأطراف المتأثرة بشكل كافٍ من الأذى التمييزي.

هذه هي عناصر عدالة البيانات التي يجب على فرق العلوم البيانية مراعاتها:

• التمثيل: اعتمادًا على السياق ، قد يؤدي سواء عدم تمثيل أو تمثيل المجموعات أو الفئات المحمية قانونًا في عينة البيانات إلى تفاقم أضرار الأطراف الضعيفة في نتائج النموذج المُدرَّب. لتجنب هذا النوع من تحيز العينة ، سيكون الخبرة في المجال حاسمة لتقييم ملاءمة البيانات المجمعة أو المكتسبة مع السكان الأساسيين الذين سيتم نمذجتهم. يجب على أفراد الفريق الفني تقديم وسائل لتصحيح العيوب التمثيلية في العينة.
• الملاءمة لغرضها والكفاية: من المهم فهم ما إذا كانت البيانات المجمعة كافية لغرض المشروع المقصود. قد لا تعكس مجموعات البيانات غير الكافية بالعدل الجوانب التي يجب وزنها لإنتاج نتيجة مبررة تتوافق مع الغرض المقصود من نظام الذكاء الاصطناعي. لذلك ، يجب على أعضاء فريق المشروع ذوي الكفاءات الفنية والسياسية التعاون لتحديد ما إذا كانت كمية البيانات كافية وملائمة للغرض.
• صحة المصدر ودقة القياس: يبدأ تقليل التحيز الفعال في بداية عمليات استخراج وجمع البيانات. قد تُقدم كل من مصادر القياس وأدواتها عوامل تمييزية إلى مجموعة البيانات. لتأمين عدم الإضرار التمييزي ، يجب أن تتمتع عينة البيانات بصحة مصدر مثالية. هذا يشمل تأمين أو تأكيد أن عمليات جمع البيانات شملت مصادر قياس ملائمة وموثوقة وغیر متحيزة وأساليب جمع قوية.
• الزمنية والحداثة: إذا كانت مجموعات البيانات تحتوي على بيانات قديمة ، فقد تؤثر التغييرات في توزيع البيانات الأساسي سلبًا على قابليّة نموذج المُدرَّب للتعميم. إذا كانت هذه الانجرافات التوزيعية تعكس التغييرات في العلاقات الاجتماعية أو ديناميات المجموعة ، فقد يؤدي فقدان الدقة المتعلق بالسمات الفعلية للسكان الأساسيين إلى إحداث تحيز في نظام الذكاء الاصطناعي. لمنع النتائج التمييزية ، يجب فحص زمنية وحداثة جميع عناصر مجموعة البيانات.
• الملاءمة والappropriateness والمعرفة بالمجال: فهم واستخدام أكثر المصادر والأنواع من البيانات ملاءمة هو أمر بالغ الأهمية لبناء نظام ذكاء اصطناعي قوي وغیر متحيز. المعرفة القوية بالمجال لتوزيع السكان الأساسيين وهدف التنبؤ للمشروع هي أداة أساسية لتحديد مدخلات القياس الأكثر ملاءمة التي تساهم في حل معقول للمشكلة المحددة. يجب على خبراء المجال التعاون بشكل وثيق مع فرق العلوم البيانية لمساعدتهم في تحديد الفئات والمصادر الأكثر ملاءمة للقياس.

في حين تساعد الأنظمة القائمة على الذكاء الاصطناعي في تلقين عمليات اتخاذ القرار وتوفر وفورات في التكلفة ، يجب على المؤسسات المالية التي تعتبر الذكاء الاصطناعي كحلاً أن تكون حريصة على ضمان عدم حدوث قرارات متحيزة. يجب على قادة الامتثال أن يكونوا متزامنين مع فريق العلوم البيانية لتأكيد أن قدرات الذكاء الاصطناعي هي مسؤولة وفعالة وغیر متحيزة. وجود استراتيجية تتبنى الذكاء الاصطناعي المسؤول هو الشيء الصحيح ، وقد يوفر أيضًا طريقًا للامتثال للتنظيمات المستقبلية للذكاء الاصطناعي.