ความเอนเอียงและความเป็นธรรมของระบบที่ใช้ AI ภายในอาชญากรรมทางการเงิน

เมื่อพูดถึงการต่อสู้กับอาชญากรรมทางการเงิน มีความท้าทายที่เกิดขึ้นซึ่งไปไกลกว่าขอบเขตของการหยุดผู้ฉ้อโกงหรือผู้กระทำผิดอื่นๆ เท่านั้น เทคโนโลยีล่าสุดและทันสมัยที่สุดที่เปิดตัวมักจะมีปัญหาเฉพาะที่ต้องพิจารณาในช่วงการนำไปใช้เพื่อต่อสู้กับผู้ฉ้อโกงโดยไม่มีผลกระทบด้านกฎระเบียบ ในการตรวจจับฉ้อโกง ความไม่เท่าเทียมกันของแบบจำลองและความเอนเอียงของข้อมูลสามารถเกิดขึ้นได้เมื่อระบบมีน้ำหนักมากเกินไปหรือขาดการแสดงออกของกลุ่มหรือหมวดหมู่ของข้อมูลบางประเภท ในทฤษฎี แบบจำลองการทำนายสามารถเกี่ยวข้องกับชื่อผู้คนจากวัฒนธรรมอื่นอย่างไม่ถูกต้องกับบัญชีฉ้อโกง หรือลดความเสี่ยงอย่างไม่ถูกต้องภายในส่วนของประชากรสำหรับกิจกรรมทางการเงินบางประเภท ระบบ AI ที่มีความเอนเอียงสามารถเป็นภัยคุกคามที่ร้ายแรงเมื่อชื่อเสียงอาจได้รับผลกระทบและเกิดขึ้นเมื่อข้อมูลที่มีอยู่ไม่แสดงถึงประชากรหรือปรากฏการณ์ที่กำลังสำรวจ ข้อมูลนี้ไม่รวมถึงตัวแปรที่จับภาพปรากฏการณ์ที่เราต้องการทำนายอย่างเหมาะสม หรือในทางกลับกัน ข้อมูลอาจรวมถึงเนื้อหาที่สร้างโดยมนุษย์ซึ่งอาจมีความเอนเอียงต่อกลุ่มคนบางกลุ่มซึ่งถ่ายทอดมาจากประสบการณ์วัฒนธรรมและส่วนบุคคล ซึ่งนำไปสู่การบิดเบือนเมื่อตัดสินใจ ในขณะที่ข้อมูลอาจดูเป็นกลาง แต่ก็ยังถูกเก็บและวิเคราะห์โดยมนุษย์ และดังนั้นจึงอาจมีความเอนเอียงได้ ในขณะที่ไม่มีวิธีแก้ปัญหาแบบ “กระสุนเงิน” เมื่อพูดถึงการบรรเทาอันตรายของการเลือกปฏิบัติและความไม่เป็นธรรมในระบบ AI หรือการแก้ไขปัญหาเรื่องความเป็นธรรมและความเอนเอียงอย่างถาวรในการออกแบบแบบจำลองการเรียนรู้ของเครื่องและใช้งาน ปัญหาเหล่านี้ต้องพิจารณาทั้งจากด้านสังคมและธุรกิจ

การทำสิ่งที่ถูกต้องใน AI

การจัดการกับความเอนเอียงในระบบที่ใช้ AI ไม่เพียงแต่ถูกต้องเท่านั้น แต่ยังเป็นสิ่งที่ชาญฉลาดสำหรับธุรกิจด้วย และมีผลกระทบสูงสำหรับผู้นำธุรกิจ ระบบ AI ที่มีความเอนเอียงสามารถนำสถาบันการเงินไปสู่ทางที่ผิดโดยการกระจายโอกาส ทรัพยากร ข้อมูล หรือคุณภาพของบริการอย่างไม่ยุติธรรม มันอาจละเมิดสิทธิพลเรือน ก่อให้เกิดอันตรายต่อความปลอดภัยของบุคคล หรือส่งผลกระทบต่อความเป็นอยู่ที่ดีของบุคคลหากมองว่าเป็นการดูถูกหรือไม่เหมาะสม มันสำคัญสำหรับองค์กรที่จะเข้าใจถึงอำนาจและความเสี่ยงของความเอนเอียงของ AI แม้ว่าบ่อยครั้งจะไม่ทราบโดยสถาบัน ระบบ AI ที่มีความเอนเอียงอาจใช้แบบจำลองหรือข้อมูลที่เป็นอันตรายซึ่งแสดงถึงความเอนเอียงทางเชื้อชาติหรือเพศเข้าไปในการตัดสินใจในการให้กู้ยืม ข้อมูลเช่นชื่อและเพศอาจเป็นตัวแทนในการจัดหมวดหมู่และระบุตัวผู้สมัครในทางที่ผิด แม้ว่าความเอนเอียงจะไม่ได้ตั้งใจ แต่ก็ยังทำให้องค์กรตกอยู่ในความเสี่ยงโดยไม่ปฏิบัติตามข้อกำหนดด้านกฎระเบียบ และอาจนำไปสู่การปฏิเสธเงินกู้หรือวงเงินเครดิตอย่างไม่ยุติธรรมต่อกลุ่มคนบางกลุ่ม ในปัจจุบัน องค์กรไม่มีส่วนประกอบที่จำเป็นในการบรรเทาความเอนเอียงในระบบ AI อย่างสำเร็จ แต่ด้วยการนำ AI ไปใช้ในธุรกิจเพื่อสนับสนุนการตัดสินใจ มันจึงจำเป็นที่องค์กรจะต้องพยายามลดความเอนเอียง ไม่เพียงแต่ด้วยเหตุผลทางศีลธรรมเท่านั้น แต่ยังเพื่อปฏิบัติตามข้อกำหนดด้านกฎระเบียบและสร้างรายได้ด้วย

วัฒนธรรมและแนวทางปฏิบัติที่ “ตระหนักถึงความเป็นธรรม”

วิธีแก้ปัญหาที่มุ่งเน้นไปที่การออกแบบและนำไปใช้ที่ตระหนักถึงความเป็นธรรมจะมีผลลัพธ์ที่ดีที่สุด ผู้ให้บริการควรจะมีวัฒนธรรมการวิเคราะห์ที่พิจารณาการได้มาซึ่งข้อมูลอย่างมีความรับผิดชอบ การจัดการ และการบริหารจัดการเป็นส่วนประกอบที่จำเป็นของความเป็นธรรมของอัลกอริทึม เนื่องจากถ้าผลลัพธ์ของโครงการ AI ถูกสร้างขึ้นจากชุดข้อมูลที่มีความเอนเอียง ผิดปกติ หรือบิดเบือน พรรคที่ได้รับผลกระทบจะไม่ได้รับการคุ้มครองจากอันตรายที่เลือกปฏิบัติอย่างเพียงพอ สิ่งเหล่านี้คือองค์ประกอบของความเป็นธรรมของข้อมูลที่ทีมวิทยาศาสตร์ข้อมูลต้องคำนึงถึง:

• การเป็นตัวแทน: ขึ้นอยู่กับบริบท การมีตัวแทนไม่เพียงพอหรือมีตัวแทนมากเกินไปของกลุ่มที่ไม่ได้รับการคุ้มครองตามกฎหมายหรือกลุ่มที่เสียเปรียบในตัวอย่างข้อมูลอาจนำไปสู่การเสียเปรียบอย่างเป็นระบบต่อฝ่ายที่อ่อนแอในผลลัพธ์ของแบบจำลองที่ได้รับการฝึกอบรม เพื่อหลีกเลี่ยงความลำเอียงในการตัวอย่างดังกล่าว ความเชี่ยวชาญด้านโดเมนจะถือเป็นเรื่องสำคัญในการประเมินความเหมาะสมระหว่างข้อมูลที่รวบรวมหรือได้มาและประชากรที่ซ่อนอยู่ที่จะถูกสร้างแบบจำลอง สมาชิกในทีมทางเทคนิคควรให้ทางเลือกในการแก้ไขเพื่อแก้ไขข้อบกพร่องในการเป็นตัวแทนในตัวอย่าง
• ความเหมาะสมและความเพียงพอ: มันสำคัญที่จะเข้าใจว่าข้อมูลที่รวบรวมมีความเพียงพอสำหรับวัตถุประสงค์ที่ตั้งใจไว้ของโครงการหรือไม่ ชุดข้อมูลที่ไม่เพียงพออาจไม่ได้สะท้อนคุณลักษณะที่ควรให้น้ำหนักในการผลิตผลลัพธ์ที่สมเหตุสมผลและเป็นไปตามวัตถุประสงค์ที่ต้องการของระบบ AI ดังนั้นสมาชิกในทีมโครงการที่มีความสามารถทางเทคนิคและนโยบายจึงควรทำงานร่วมกันเพื่อกำหนดว่าปริมาณข้อมูลมีความเพียงพอและเหมาะสมสำหรับวัตถุประสงค์หรือไม่
• ความสมบูรณ์ของแหล่งที่มาและความแม่นยำในการวัด: การบรรเทาความเอนเอียงที่มีประสิทธิผลเริ่มต้นตั้งแต่ขั้นตอนแรกของการดึงข้อมูลและรวบรวมข้อมูล ทั้งแหล่งที่มาและเครื่องมือในการวัดอาจนำปัจจัยที่เลือกปฏิบัติเข้ามาในชุดข้อมูล เพื่อให้แน่ใจว่ามีการป้องกันอันตรายที่เลือกปฏิบัติ ตัวอย่างข้อมูลจะต้องมีความสมบูรณ์ของแหล่งที่มาอย่างเหมาะสม ซึ่งหมายถึงการรับรองหรือยืนยันว่ากระบวนการรวบรวมข้อมูลมีแหล่งที่มาและวิธีการวัดที่น่าเชื่อถือและเป็นกลาง
• ความทันสมัยและความใหม่: หากชุดข้อมูลรวมถึงข้อมูลที่ล้าสมัย การเปลี่ยนแปลงในกระจายข้อมูลที่ซ่อนอยู่อาจส่งผลเสียต่อการสรุปผลทั่วไปของแบบจำลองที่ได้รับการฝึกอบรม หากการเปลี่ยนแปลงเหล่านี้สะท้อนถึงความสัมพันธ์ทางสังคมที่เปลี่ยนแปลงหรือพลวัตของกลุ่ม การสูญเสียความแม่นยำเกี่ยวกับคุณลักษณะที่แท้จริงของประชากรที่ซ่อนอยู่อาจนำไปสู่ความเอนเอียงในระบบ AI เพื่อป้องกันผลลัพธ์ที่เลือกปฏิบัติ ความทันสมัยและความใหม่ขององค์ประกอบทั้งหมดในชุดข้อมูลควรได้รับการตรวจสอบ
• ความเกี่ยวข้อง ความเหมาะสม และความรู้ด้านโดเมน: ความเข้าใจและการใช้แหล่งที่มาและประเภทของข้อมูลที่เหมาะสมที่สุดมีความสำคัญอย่างยิ่งต่อการสร้างระบบ AI ที่แข็งแกร่งและไม่มีความเอนเอียง ความรู้ด้านโดเมนที่มั่นคงเกี่ยวกับการกระจายของประชากรที่ซ่อนอยู่และเป้าหมายการทำนายของโครงการมีความสำคัญอย่างยิ่งในการเลือกการวัดที่เกี่ยวข้องอย่างเหมาะสมที่สุดซึ่งนำไปสู่การแก้ปัญหาที่สมเหตุสมผล ผู้เชี่ยวชาญด้านโดเมนควรทำงานร่วมกับทีมวิทยาศาสตร์ข้อมูลอย่างใกล้ชิดเพื่อช่วยในการกำหนดหมวดหมู่และแหล่งที่มาของการวัดที่เหมาะสมที่สุด

ในขณะที่ระบบ AI ช่วยในการตัดสินใจโดยอัตโนมัติและให้การประหยัดต้นทุน สถาบันการเงินที่พิจารณา AI เป็นวิธีแก้ปัญหาควรต้องระมัดระวังเพื่อให้แน่ใจว่าการตัดสินใจที่มีความเอนเอียงไม่ได้เกิดขึ้น ผู้นำด้านการปฏิบัติตามกฎระเบียบควรทำงานร่วมกับทีมวิทยาศาสตร์ข้อมูลเพื่อยืนยันว่าความสามารถของ AI นั้นมีความรับผิดชอบ มีประสิทธิผล และปราศจากความเอนเอียง การมีกลยุทธ์ที่ส่งเสริม AI ที่มีความรับผิดชอบคือสิ่งที่ถูกต้องที่จะทำ และอาจเป็นเส้นทางไปสู่การปฏิบัติตามกฎระเบียบ AI ในอนาคตด้วย