Danny Butvinik, Chief Data Scientist, NICE Actimize Danny Butvinik Chief Data Scientist, NICE Actimize

ความเอนเอียงและความเป็นธรรมของระบบ AI ในการป้องกันอาชญากรรมทางการเงิน

เมื่อพูดถึงการป้องกันอาชญากรรมทางการเงิน มี挑战ที่อยู่นอกเหนือการหยุดยั้งการฉ้อโกงหรือผู้กระทำผิดอื่นๆเทคโนโลยีที่ทันสมัยที่สุดบางอย่างที่เปิดตัวมักจะมีปัญหาเฉพาะที่ต้องพิจารณาในช่วงการนำไปใช้เพื่อป้องกันการฉ้อโกงโดยไม่มีผลกระทบทางกฎระเบียบ ในการตรวจจับการฉ้อโกง ความเป็นธรรมของแบบจำลองและความเอนเอียงของข้อมูลสามารถเกิดขึ้นได้เมื่อระบบมีน้ำหนักมากเกินไปหรือขาดการแสดงออกของกลุ่มหรือหมวดหมู่ข้อมูลบางอย่าง ในทฤษฎี แบบจำลองการคาดการณ์อาจเกี่ยวข้องกับชื่อครอบครัวจากวัฒนธรรมอื่นอย่างไม่ถูกต้องหรือลดความเสี่ยงในกลุ่มประชากรสำหรับกิจกรรมทางการเงินบางประเภทระบบ AI ที่มีความเอนเอียงสามารถเป็นภัยคุกคามที่ร้ายแรงเมื่อชื่อเสียงอาจได้รับผลกระทบและเกิดขึ้นเมื่อข้อมูลที่มีอยู่ไม่แสดงถึงประชากรหรือปรากฏการณ์ที่กำลังสำรวจอยู่ ข้อมูลนี้ไม่รวมตัวแปรที่จับภาพปรากฏการณ์ที่เราต้องการคาดการณ์ได้อย่างเหมาะสม หรือในทางกลับกัน ข้อมูลอาจรวมเนื้อหาที่สร้างโดยมนุษย์ซึ่งอาจมีความเอนเอียงต่อกลุ่มคนบางกลุ่ม ส่งผลให้เกิดการบิดเบือนเมื่อตัดสินใจ ในตอนแรก ข้อมูลอาจดูเป็นกลาง แต่ก็ยังถูกเก็บและวิเคราะห์โดยมนุษย์ และดังนั้นจึงอาจมีความเอนเอียงไม่มีวิธีแก้ปัญหาแบบ “silver bullet” สำหรับการแก้ไขอันตรายของการเลือกปฏิบัติและความไม่เป็นธรรมในระบบ AI หรือการแก้ไขปัญหาอย่างถาวรเกี่ยวกับความเป็นธรรมและความเอนเอียงในระบบการเรียนรู้ของเครื่องและใช้งาน แต่ปัญหาเหล่านี้ต้องพิจารณาเพื่อเหตุผลทางสังคมและธุรกิจการทำสิ่งที่ถูกต้องใน AIการแก้ไขปัญหาเรื่องความเอนเอียงในระบบ AI ไม่เพียงแต่สิ่งที่ถูกต้องเท่านั้น แต่ยังเป็นสิ่งที่ฉลาดสำหรับธุรกิจด้วย...