อคติและความเป็นธรรมของระบบที่ใช้ AI ภายในอาชญากรรมทางการเงิน

เมื่อพูดถึงการต่อสู้กับอาชญากรทางการเงิน ความท้าทายมีอยู่นอกเหนือขอบเขตของการหยุดยั้งผู้ฉ้อโกงหรือผู้ไม่หวังดีอื่นๆ

เทคโนโลยีขั้นสูงใหม่ล่าสุดบางรายการที่เปิดตัวมักจะมีปัญหาเฉพาะของตนเองที่ต้องพิจารณาในขั้นตอนการรับนำไปใช้เพื่อต่อสู้กับผู้ฉ้อโกงได้สำเร็จโดยไม่มีผลกระทบด้านกฎระเบียบ ในการตรวจจับการฉ้อโกง ความเป็นธรรมของแบบจำลองและความเอนเอียงของข้อมูลสามารถเกิดขึ้นได้เมื่อระบบมีน้ำหนักมากขึ้นหรือขาดการเป็นตัวแทนของกลุ่มหรือหมวดหมู่ของข้อมูลบางกลุ่ม ในทางทฤษฎี แบบจำลองการทำนายอาจเชื่อมโยงนามสกุลจากวัฒนธรรมอื่นอย่างผิดพลาดกับบัญชีที่ฉ้อฉล หรือลดความเสี่ยงอย่างผิดพลาดภายในกลุ่มประชากรสำหรับกิจกรรมทางการเงินบางประเภท

ระบบ AI ที่มีอคติอาจเป็นภัยคุกคามร้ายแรงเมื่อชื่อเสียงอาจได้รับผลกระทบและเกิดขึ้นเมื่อข้อมูลที่มีอยู่ไม่ได้เป็นตัวแทนของประชากรหรือปรากฏการณ์ของการสำรวจ ข้อมูลนี้ไม่รวมตัวแปรที่จับปรากฏการณ์ที่เราต้องการทำนายได้อย่างเหมาะสม หรือข้อมูลอาจรวมถึงเนื้อหาที่มนุษย์สร้างขึ้นซึ่งอาจมีอคติต่อกลุ่มคนที่สืบทอดมาจากประสบการณ์ทางวัฒนธรรมและส่วนตัว ซึ่งนำไปสู่การบิดเบือนข้อมูลในการตัดสินใจ แม้ว่าในตอนแรกข้อมูลอาจดูเหมือนไม่มีเหตุผล แต่ก็ยังมีการรวบรวมและวิเคราะห์โดยมนุษย์ ดังนั้นจึงสามารถมีอคติได้

แม้ว่าการเยียวยาอันตรายจากการเลือกปฏิบัติและความไม่ยุติธรรมในระบบ AI จะไม่มีข้อดีข้อเสียใดๆ หรือการแก้ไขปัญหาความเป็นธรรมและการบรรเทาอคติอย่างถาวรในการสร้างแบบจำลองและการใช้งาน Machine Learning แต่ประเด็นเหล่านี้ต้องได้รับการพิจารณาทั้งในด้านสังคมและ เหตุผลทางธุรกิจ

การทำสิ่งที่ถูกต้องใน AI

การจัดการกับความลำเอียงในระบบที่ใช้ AI ไม่เพียงแต่เป็นสิ่งที่ถูกต้องเท่านั้น แต่ยังเป็นสิ่งที่ชาญฉลาดสำหรับธุรกิจอีกด้วย และความเสี่ยงสำหรับผู้นำธุรกิจก็สูงเช่นกัน ระบบ AI ที่มีอคติสามารถนำสถาบันการเงินไปในทางที่ผิดโดยการจัดสรรโอกาส ทรัพยากร ข้อมูล หรือคุณภาพของบริการอย่างไม่เป็นธรรม พวกเขายังมีศักยภาพที่จะละเมิดสิทธิเสรีภาพ สร้างความเสียหายต่อความปลอดภัยของปัจเจกบุคคล หรือส่งผลกระทบต่อสวัสดิภาพของบุคคลหากถูกมองว่าเป็นการดูหมิ่นหรือก้าวร้าว

สิ่งสำคัญสำหรับองค์กรคือการเข้าใจพลังและความเสี่ยงของอคติ AI แม้ว่าสถาบันจะไม่รู้จักบ่อยครั้ง แต่ระบบที่ใช้ AI ที่มีอคติอาจใช้แบบจำลองหรือข้อมูลที่เป็นอันตรายซึ่งเปิดเผยอคติทางเชื้อชาติหรือเพศในการตัดสินใจให้กู้ยืม ข้อมูลเช่นชื่อและเพศอาจเป็นพร็อกซีสำหรับการจัดหมวดหมู่และระบุตัวผู้สมัครในทางที่ผิดกฎหมาย แม้ว่าความลำเอียงจะไม่ได้ตั้งใจ แต่ก็ยังทำให้องค์กรมีความเสี่ยงจากการไม่ปฏิบัติตามข้อกำหนดของกฎระเบียบ และอาจทำให้คนบางกลุ่มถูกปฏิเสธสินเชื่อหรือวงเงินสินเชื่ออย่างไม่เป็นธรรม

ปัจจุบัน องค์กรต่างๆ ยังไม่มีชิ้นส่วนที่จะช่วยลดอคติในระบบ AI ได้สำเร็จ แต่เนื่องจากมีการใช้ AI มากขึ้นในธุรกิจต่างๆ เพื่อช่วยในการตัดสินใจ จึงจำเป็นอย่างยิ่งที่องค์กรต่างๆ จะต้องพยายามลดอคติ ไม่ใช่แค่ด้วยเหตุผลทางศีลธรรมเท่านั้น แต่ยังต้องปฏิบัติตามข้อกำหนดด้านกฎระเบียบและสร้างรายได้ด้วย

วัฒนธรรม “ตระหนักในความเป็นธรรม” และการนำไปปฏิบัติ

โซลูชันที่เน้นการออกแบบและการใช้งานที่คำนึงถึงความเป็นธรรมจะได้ผลลัพธ์ที่เป็นประโยชน์สูงสุด ผู้ให้บริการควรมีวัฒนธรรมการวิเคราะห์ที่ถือว่าการได้มาซึ่งข้อมูลที่มีความรับผิดชอบ การจัดการ และการจัดการเป็นองค์ประกอบที่จำเป็นของความเป็นธรรมของอัลกอริทึม เนื่องจากหากผลลัพธ์ของโครงการ AI สร้างขึ้นจากชุดข้อมูลที่มีอคติ บุกรุก หรือบิดเบือน ฝ่ายที่ได้รับผลกระทบจะไม่ได้รับการคุ้มครองอย่างเพียงพอจาก อันตรายที่เลือกปฏิบัติ

สิ่งเหล่านี้คือองค์ประกอบของความเป็นธรรมของข้อมูลที่ทีมวิทยาศาสตร์ข้อมูลต้องคำนึงถึง:

• ความเป็นตัวแทน:ขึ้นอยู่กับบริบท การแสดงน้อยเกินไปหรือมีการนำเสนอเกินจริงของกลุ่มผู้ด้อยโอกาสหรือกลุ่มที่ได้รับการคุ้มครองตามกฎหมายในตัวอย่างข้อมูลอาจนำไปสู่การเสียเปรียบอย่างเป็นระบบต่อกลุ่มที่เปราะบางในผลลัพธ์ของแบบจำลองที่ผ่านการฝึกอบรม เพื่อหลีกเลี่ยงความลำเอียงในการสุ่มตัวอย่างประเภทดังกล่าว ความเชี่ยวชาญด้านโดเมนจะมีความสำคัญอย่างยิ่งในการประเมินความพอดีระหว่างข้อมูลที่รวบรวมหรือได้รับมาและประชากรต้นแบบที่จะจำลอง สมาชิกในทีมเทคนิคควรเสนอวิธีการแก้ไขเพื่อแก้ไขข้อบกพร่องในการสุ่มตัวอย่าง
• เหมาะสมกับวัตถุประสงค์และเพียงพอ: เป็นสิ่งสำคัญในการทำความเข้าใจว่าข้อมูลที่รวบรวมเพียงพอสำหรับวัตถุประสงค์ของโครงการหรือไม่ ชุดข้อมูลที่ไม่เพียงพออาจไม่สะท้อนถึงคุณภาพที่ควรได้รับการชั่งน้ำหนักอย่างเท่าเทียมกันเพื่อสร้างผลลัพธ์ที่สมเหตุสมผลซึ่งสอดคล้องกับวัตถุประสงค์ที่ต้องการของระบบ AI ดังนั้น สมาชิกของทีมงานโครงการที่มีความสามารถด้านเทคนิคและนโยบายควรทำงานร่วมกันเพื่อพิจารณาว่าปริมาณข้อมูลเพียงพอและเหมาะสมกับวัตถุประสงค์หรือไม่
• ความสมบูรณ์ของแหล่งที่มาและความแม่นยำในการวัด:การลดอคติอย่างมีประสิทธิภาพเริ่มต้นที่จุดเริ่มต้นของกระบวนการสกัดและรวบรวมข้อมูล ทั้งแหล่งที่มาและเครื่องมือการวัดอาจแนะนำปัจจัยการเลือกปฏิบัติในชุดข้อมูล เพื่อความปลอดภัยในการไม่เลือกปฏิบัติ ตัวอย่างข้อมูลต้องมีความสมบูรณ์ของแหล่งที่มาที่เหมาะสม สิ่งนี้เกี่ยวข้องกับการรักษาความปลอดภัยหรือการยืนยันว่ากระบวนการรวบรวมข้อมูลเกี่ยวข้องกับแหล่งการวัดที่เหมาะสม เชื่อถือได้ และเป็นกลาง และวิธีการเก็บรวบรวมที่มีประสิทธิภาพ
• ความทันเวลาและความใหม่: หากชุดข้อมูลมีข้อมูลที่ล้าสมัย การเปลี่ยนแปลงในการกระจายข้อมูลพื้นฐานอาจส่งผลเสียต่อความสามารถทั่วไปของโมเดลที่ผ่านการฝึกอบรม หากการเลื่อนลอยของการกระจายเหล่านี้สะท้อนถึงการเปลี่ยนแปลงความสัมพันธ์ทางสังคมหรือพลวัตของกลุ่ม การสูญเสียความแม่นยำเกี่ยวกับลักษณะที่แท้จริงของประชากรแฝงอาจนำความลำเอียงเข้าสู่ระบบ AI ในการป้องกันผลการเลือกปฏิบัติ ควรพิจารณาความทันเวลาและความใหม่ขององค์ประกอบทั้งหมดของชุดข้อมูล
• ความเกี่ยวข้อง ความเหมาะสม และความรู้โดเมน: ความเข้าใจและการใช้แหล่งข้อมูลและประเภทข้อมูลที่เหมาะสมที่สุดมีความสำคัญต่อการสร้างระบบ AI ที่มีประสิทธิภาพและเป็นกลาง ความรู้ด้านโดเมนที่มั่นคงเกี่ยวกับการกระจายตัวของประชากร และเป้าหมายการคาดการณ์ของโครงการ เป็นเครื่องมือสำหรับการเลือกอินพุตการวัดที่เกี่ยวข้องอย่างเหมาะสมที่สุด ซึ่งจะนำไปสู่การแก้ปัญหาที่เหมาะสมตามที่กำหนด ผู้เชี่ยวชาญด้านโดเมนควรทำงานร่วมกันอย่างใกล้ชิดกับทีมวิทยาศาสตร์ข้อมูลเพื่อช่วยในการกำหนดหมวดหมู่และแหล่งที่มาของการวัดที่เหมาะสมที่สุด

ในขณะที่ระบบที่ใช้ AI ช่วยในกระบวนการตัดสินใจอัตโนมัติและช่วยประหยัดค่าใช้จ่าย สถาบันการเงินที่พิจารณาว่า AI เป็นโซลูชันจะต้องระมัดระวังเพื่อให้แน่ใจว่าการตัดสินใจที่มีอคติจะไม่เกิดขึ้น ผู้นำด้านการปฏิบัติตามกฎระเบียบควรอยู่กับทีมวิทยาศาสตร์ข้อมูลเพื่อยืนยันว่าความสามารถของ AI มีความรับผิดชอบ มีประสิทธิภาพ และปราศจากอคติ การมีกลยุทธ์ที่สนับสนุน AI ที่มีความรับผิดชอบเป็นสิ่งที่ถูกต้อง และอาจเป็นหนทางไปสู่การปฏิบัติตามกฎข้อบังคับของ AI ในอนาคต