ความเอนเอียงและความเป็นธรรมของระบบ AI ในการป้องกันอาชญากรรมทางการเงิน

เมื่อพูดถึงการป้องกันอาชญากรรมทางการเงิน มี挑战ที่อยู่นอกเหนือการหยุดยั้งการฉ้อโกงหรือผู้กระทำผิดอื่นๆ

เทคโนโลยีที่ทันสมัยที่สุดบางอย่างที่เปิดตัวมักจะมีปัญหาเฉพาะที่ต้องพิจารณาในช่วงการนำไปใช้เพื่อป้องกันการฉ้อโกงโดยไม่มีผลกระทบทางกฎระเบียบ ในการตรวจจับการฉ้อโกง ความเป็นธรรมของแบบจำลองและความเอนเอียงของข้อมูลสามารถเกิดขึ้นได้เมื่อระบบมีน้ำหนักมากเกินไปหรือขาดการแสดงออกของกลุ่มหรือหมวดหมู่ข้อมูลบางอย่าง ในทฤษฎี แบบจำลองการคาดการณ์อาจเกี่ยวข้องกับชื่อครอบครัวจากวัฒนธรรมอื่นอย่างไม่ถูกต้องหรือลดความเสี่ยงในกลุ่มประชากรสำหรับกิจกรรมทางการเงินบางประเภท

ระบบ AI ที่มีความเอนเอียงสามารถเป็นภัยคุกคามที่ร้ายแรงเมื่อชื่อเสียงอาจได้รับผลกระทบและเกิดขึ้นเมื่อข้อมูลที่มีอยู่ไม่แสดงถึงประชากรหรือปรากฏการณ์ที่กำลังสำรวจอยู่ ข้อมูลนี้ไม่รวมตัวแปรที่จับภาพปรากฏการณ์ที่เราต้องการคาดการณ์ได้อย่างเหมาะสม หรือในทางกลับกัน ข้อมูลอาจรวมเนื้อหาที่สร้างโดยมนุษย์ซึ่งอาจมีความเอนเอียงต่อกลุ่มคนบางกลุ่ม ส่งผลให้เกิดการบิดเบือนเมื่อตัดสินใจ ในตอนแรก ข้อมูลอาจดูเป็นกลาง แต่ก็ยังถูกเก็บและวิเคราะห์โดยมนุษย์ และดังนั้นจึงอาจมีความเอนเอียง

ไม่มีวิธีแก้ปัญหาแบบ “silver bullet” สำหรับการแก้ไขอันตรายของการเลือกปฏิบัติและความไม่เป็นธรรมในระบบ AI หรือการแก้ไขปัญหาอย่างถาวรเกี่ยวกับความเป็นธรรมและความเอนเอียงในระบบการเรียนรู้ของเครื่องและใช้งาน แต่ปัญหาเหล่านี้ต้องพิจารณาเพื่อเหตุผลทางสังคมและธุรกิจ

การทำสิ่งที่ถูกต้องใน AI

การแก้ไขปัญหาเรื่องความเอนเอียงในระบบ AI ไม่เพียงแต่สิ่งที่ถูกต้องเท่านั้น แต่ยังเป็นสิ่งที่ฉลาดสำหรับธุรกิจด้วย และมีผลกระทบต่อผู้นำธุรกิจในระดับสูง ระบบ AI ที่มีความเอนเอียงสามารถนำสถาบันการเงินไปสู่ทางที่ผิดโดยการกระจายโอกาส ทรัพยากร ข้อมูล หรือคุณภาพการบริการอย่างไม่ยุติธรรม พวกเขายังมีศักยภาพที่จะละเมิดสิทธิพลเรือน ก่อให้เกิดอันตรายต่อความปลอดภัยของบุคคล หรือส่งผลกระทบต่อความเป็นอยู่ที่ดีของบุคคลหากถูกมองว่าเป็นการดูถูกหรือไม่เหมาะสม

เป็นสิ่งสำคัญสำหรับองค์กรที่จะเข้าใจถึงพลังและความเสี่ยงของความเอนเอียง AI ระบบ AI ที่มีความเอนเอียงอาจใช้แบบจำลองหรือข้อมูลที่เป็นอันตรายซึ่งแสดงถึงความเอนเอียงทางเชื้อชาติหรือเพศในการตัดสินใจให้กู้ยืม ข้อมูล เช่น ชื่อและเพศ อาจเป็นตัวแทนในการจัดประเภทและระบุตัวผู้สมัครในทางที่ผิด แม้ว่าความเอนเอียงจะไม่ได้ตั้งใจ แต่ก็ยังทำให้องค์กรตกอยู่ในความเสี่ยงโดยไม่ปฏิบัติตามข้อกำหนดด้านกฎระเบียบ และอาจทำให้บางกลุ่มคนถูกปฏิเสธการกู้ยืมหรือวงเงินเครดิตอย่างไม่ยุติธรรม

ปัจจุบัน องค์กรไม่มีส่วนประกอบที่จำเป็นในการลดความเอนเอียงในระบบ AI อย่างสำเร็จ แต่ด้วยการนำ AI ไปใช้ในธุรกิจเพิ่มขึ้นเพื่อช่วยในการตัดสินใจ องค์กรจึงต้องพยายามลดความเอนเอียง ไม่เพียงแต่เพื่อเหตุผลทางศีลธรรมเท่านั้น แต่ยังเพื่อปฏิบัติตามข้อกำหนดด้านกฎระเบียบและสร้างรายได้ด้วย

วัฒนธรรมและแนวทางปฏิบัติที่ “ตระหนักถึงความเป็นธรรม”

วิธีแก้ปัญหาที่มุ่งเน้นไปที่การออกแบบและนำไปใช้โดยคำนึงถึงความเป็นธรรมจะมีผลลัพธ์ที่ดีที่สุด ผู้ให้บริการควรจะมีวัฒนธรรมการวิเคราะห์ที่คำนึงถึงการได้มาซึ่งข้อมูล การจัดการ และการดูแลที่มีความรับผิดชอบเป็นส่วนประกอบที่จำเป็นของความเป็นธรรมของอัลกอริทึม เนื่องจากถ้าผลลัพธ์ของโครงการ AI ถูกสร้างขึ้นจากชุดข้อมูลที่มีความเอนเอียง ถูกบุกรุก หรือบิดเบือน ผู้ที่ได้รับผลกระทบจะไม่ได้รับการคุ้มครองจากอันตรายที่เลือกปฏิบัติ

สิ่งเหล่านี้เป็นองค์ประกอบของความเป็นธรรมของข้อมูลที่ทีมวิทยาศาสตร์ข้อมูลต้องคำนึงถึง:

• การเป็นตัวแทน: ขึ้นอยู่กับบริบท การมีตัวแทนไม่เพียงพอหรือมีมากเกินไปของกลุ่มที่ไม่ได้รับสิทธิหรือกลุ่มที่ได้รับการคุ้มครองตามกฎหมายในตัวอย่างข้อมูลอาจนำไปสู่การเสียเปรียบอย่างเป็นระบบต่อฝ่ายที่อ่อนแอในผลลัพธ์ของแบบจำลองที่ได้รับการฝึกอบรม เพื่อหลีกเลี่ยงความเอนเอียงในการตัวอย่างดังกล่าว ความเชี่ยวชาญในด้านจะถือเป็นสิ่งสำคัญในการประเมินความเหมาะสมระหว่างข้อมูลที่รวบรวมหรือได้รับกับประชากรที่ซ่อนอยู่ที่จะถูกสร้างแบบจำลอง สมาชิกในทีมทางเทคนิคควรให้ทางเลือกในการแก้ไขข้อบกพร่องในการเป็นตัวแทนในการตัวอย่าง
• เหมาะสมและเพียงพอ: สิ่งสำคัญคือต้องเข้าใจว่าข้อมูลที่รวบรวมมีเพียงพอสำหรับวัตถุประสงค์ที่ตั้งใจไว้ของโครงการหรือไม่ ชุดข้อมูลที่ไม่เพียงพออาจไม่สะท้อนคุณลักษณะที่ควรพิจารณาเพื่อสร้างผลลัพธ์ที่ชอบด้วยกฎหมายและเป็นไปตามวัตถุประสงค์ที่ต้องการของระบบ AI ดังนั้นสมาชิกในทีมที่มีความสามารถทางเทคนิคและนโยบายจึงควรทำงานร่วมกันเพื่อกำหนดว่าปริมาณข้อมูลมีเพียงพอและเหมาะสมสำหรับวัตถุประสงค์หรือไม่
• ความถูกต้องของแหล่งที่มาและความแม่นยำของการวัด: การลดความเอนเอียงอย่างมีประสิทธิผลเริ่มต้นที่จุดเริ่มต้นของกระบวนการรวบรวมและเก็บข้อมูล ทั้งแหล่งที่มาและเครื่องมือการวัดอาจนำตัวประกอบที่เลือกปฏิบัติเข้าสู่ชุดข้อมูล เพื่อให้แน่ใจว่าไม่มีอันตรายที่เลือกปฏิบัติ ตัวอย่างข้อมูลจะต้องมีความสมบูรณ์ของแหล่งที่มาอย่างเหมาะสม ซึ่งหมายถึงการรับรองหรือยืนยันว่ากระบวนการรวบรวมข้อมูลที่เกี่ยวข้องมีแหล่งที่มาและวิธีการรวบรวมที่เหมาะสม น่าเชื่อถือ และเป็นกลาง
• ความทันสมัยและความใหม่: หากชุดข้อมูลรวมถึงข้อมูลที่ล้าสมัย การเปลี่ยนแปลงในกระจายตัวข้อมูลที่ซ่อนอยู่อาจส่งผลเสียต่อความสามารถในการสรุปผลของแบบจำลองที่ได้รับการฝึกอบรม หากการเปลี่ยนแปลงเหล่านี้สะท้อนถึงความสัมพันธ์ทางสังคมหรือพลวัตของกลุ่มที่เปลี่ยนแปลงไป ความไม่แม่นยำเกี่ยวกับคุณลักษณะที่แท้จริงของประชากรที่ซ่อนอยู่อาจนำความเอนเอียงเข้าสู่ระบบ AI เพื่อป้องกันผลลัพธ์ที่เลือกปฏิบัติ ควรตรวจสอบความทันสมัยและความใหม่ขององค์ประกอบทั้งหมดในชุดข้อมูล
• ความเกี่ยวข้อง ความเหมาะสม และความรู้ในด้าน: ความเข้าใจและการใช้แหล่งที่มาและประเภทข้อมูลที่เหมาะสมที่สุดมีความสำคัญอย่างยิ่งในการสร้างระบบ AI ที่มั่นคงและไม่มีความเอนเอียง ความรู้ในด้านที่มั่นคงเกี่ยวกับการกระจายตัวของประชากรที่ซ่อนอยู่และเป้าหมายการคาดการณ์ของโครงการมีความสำคัญต่อการคัดเลือกการวัดที่เหมาะสมที่สุดซึ่งจะช่วยให้ได้ผลลัพธ์ที่สมเหตุสมผลตามที่กำหนดไว้ ผู้เชี่ยวชาญในด้านควรทำงานร่วมกับทีมวิทยาศาสตร์ข้อมูลอย่างใกล้ชิดเพื่อช่วยในการกำหนดหมวดหมู่และแหล่งที่มาของการวัดที่เหมาะสมที่สุด

ในขณะที่ระบบ AI ช่วยในการตัดสินใจโดยอัตโนมัติและนำมาซึ่งการประหยัดต้นทุน สถาบันการเงินที่พิจารณา AI เป็นวิธีแก้ปัญหา nênต้องระมัดระวังเพื่อให้แน่ใจว่าการตัดสินใจที่มีความเอนเอียงไม่ได้เกิดขึ้น ผู้นำด้านการปฏิบัติตามกฎระเบียบควรทำงานร่วมกับทีมวิทยาศาสตร์ข้อมูลเพื่อยืนยันว่าความสามารถของ AI นั้นมีความรับผิดชอบ มีประสิทธิภาพ และปราศจากความเอนเอียง การมีกลยุทธ์ที่ส่งเสริม AI ที่มีความรับผิดชอบคือสิ่งที่ถูกต้อง และอาจเป็นเส้นทางสู่การปฏิบัติตามกฎระเบียบ AI ในอนาคตด้วย