รายงานของ GEPI เรื่องความล้มเหลวของ AI ต่อผู้หญิงตรวจสอบว่าอัลกอริทึมขยายอคติทางเพศอย่างไร

คะแนนการคัดเลือกผู้สมัครงาน การประเมินความน่าเชื่อถือทางเครดิต หรือคำแนะนำทางคลินิกอาจดูเป็นกลาง ทั้งที่ยังคงสืบทอดความไม่เท่าเทียมซึ่งฝังอยู่ในข้อมูลเบื้องหลัง นี่คือคำเตือนสำคัญจากรายงานฉบับใหม่ของ Gender Equity Policy Institute เรื่อง เมื่อ AI ทำให้ผู้หญิงเสียเปรียบ: เมื่ออคติถูกขยายให้รุนแรงขึ้น ซึ่งรวบรวมงานวิจัยเกี่ยวกับวิธีที่ระบบอัตโนมัติอาจผลิตซ้ำและบางครั้งทำให้การเลือกปฏิบัติทางเพศรุนแรงขึ้น

รายงานเขียนโดย Myriam Shiran, PhD นักวิทยาศาสตร์ด้านแมชชีนเลิร์นนิงและนักวิจัยอาวุโสของ GEPI โดยทบทวนเอกสารวิชาการและเอกสารเผยแพร่ที่ไม่ผ่านช่องทางวิชาการ ครอบคลุมโอกาสทางเศรษฐกิจ การดูแลสุขภาพ กระบวนการยุติธรรมทางอาญา เนื้อหาที่สร้างขึ้น การออกแบบ AI สำหรับผู้บริโภค และการล่วงละเมิดทางเพศด้วยภาพที่ใช้ AI รายงานนี้เป็นการสังเคราะห์หลักฐานที่มีอยู่ ไม่ใช่การทดลองใหม่ที่นำระบบ AI ทุกระบบมาเปรียบเทียบกับเกณฑ์มาตรฐานเดียวกัน

ข้อโต้แย้งสำคัญที่สุดของรายงานอยู่ที่สิ่งที่เกิดขึ้นหลังจากผลลัพธ์ที่มีอคติออกจากโมเดล คำแนะนำมีอิทธิพลต่อการตัดสินใจ เนื้อหาที่สร้างขึ้นหล่อหลอมความคาดหวัง และผลลัพธ์บางอย่างกลายเป็นข้อมูลสำหรับการฝึกโมเดลในอนาคต รูปแบบที่ไม่เป็นธรรมจึงอาจตรวจพบได้ยากขึ้นเมื่อแพร่ผ่านระบบต่าง ๆ ต่อเนื่องกัน

ข้อมูลนำเข้าที่ไม่ระบุเพศไม่ได้รับประกันผลลัพธ์ที่เป็นธรรม

การนำช่องระบุเพศออกเป็นวิธีรับมือกับการเลือกปฏิบัติที่เข้าใจได้ง่าย แต่บททบทวนของ GEPI อธิบายว่าเพียงเท่านี้ยังไม่เพียงพอ เพราะชื่อ ประวัติการศึกษา ประวัติการทำงาน และรายละเอียดอื่น ๆ ยังคงส่งสัญญาณที่เกี่ยวข้องกับเพศได้ นอกจากนี้ ผลลัพธ์ในอดีตอาจบันทึกการปฏิบัติที่ไม่เท่าเทียมไว้ก่อนที่โมเดลจะได้รับข้อมูลเหล่านั้นเสียอีก

การตรวจสอบระบบคัดเลือกผู้สมัครงานชิ้นหนึ่งที่อ้างถึงในรายงาน ซึ่ง Wilson และ Caliskan ดำเนินการในปี 2024 ใช้การเปรียบเทียบประวัติย่อจำลองมากกว่า 3 ล้านครั้ง ครอบคลุม 9 อาชีพ โมเดลคัดกรองที่ทดสอบมีแนวโน้มเลือกชื่อที่เชื่อมโยงกับผู้ชายอย่างมีนัยสำคัญในการเปรียบเทียบ 51.9% และเลือกชื่อที่เชื่อมโยงกับผู้หญิงในการเปรียบเทียบ 11.1% ส่วนที่เหลืออีก 37% ไม่พบความชอบอย่างมีนัยสำคัญ ตัวเลขเหล่านี้เป็นผลจากการทดสอบโมเดลแบบควบคุม ไม่ใช่สัดส่วนของผู้สมัครงานจริงที่ถูกปฏิเสธ

หลักฐานยังแตกต่างกันไปตามรูปแบบการทดสอบ รายงานกล่าวถึงการตรวจสอบอีกชิ้นในปี 2025 ซึ่งพบว่าโมเดลภาษาหลายตัวไม่แสดงความแตกต่างทางเพศเมื่อนักวิจัยเปลี่ยนเฉพาะชื่อ แต่เมื่อเปลี่ยนรายละเอียดด้านการศึกษา คะแนนกลับได้รับผลกระทบ การทดสอบที่จำกัดขอบเขตอาจพลาดข้อมูลที่มีความสำคัญในส่วนอื่นของกระบวนการเดียวกัน

ในด้านการปล่อยสินเชื่อ บททบทวนอ้างถึงงานวิจัยเกี่ยวกับสินเชื่อส่วนบุคคลแบบไม่มีหลักประกันราว 80,000 รายการ จากผู้ให้กู้ฟินเทครายใหญ่ในสหรัฐฯ สินเชื่อของผู้หญิงสร้างผลตอบแทนให้ผู้ให้กู้สูงกว่า โดยงานวิจัยเชื่อมโยงผลดังกล่าวกับการที่โมเดลประเมินความเสี่ยงผิดนัดชำระหนี้ของผู้หญิงสูงเกินจริงและกำหนดราคาสินเชื่อตามนั้น ประเด็นอยู่ที่ความสัมพันธ์ระหว่างความเสี่ยงที่คาดการณ์ไว้ การชำระคืนจริง และราคาที่ผู้กู้ต้องจ่าย ไม่ใช่เพียงว่ามีการระบุเพศไว้ในใบสมัครหรือไม่

AI ทางการแพทย์ต้องทำได้มากกว่าแค่คะแนนเฉลี่ยสูง

การดูแลสุขภาพเป็นตัวอย่างที่ชัดเจนเป็นพิเศษว่าเหตุใดประสิทธิภาพโดยรวมของประชากรจึงอาจบดบังความแตกต่างที่สำคัญ โมเดลอาจทำงานได้ดีโดยรวม แต่ผิดพลาดกับผู้ที่มีตัวแทนน้อยในข้อมูลฝึกหรือข้อมูลตรวจสอบความถูกต้องมากกว่า

GEPI อ้างถึงงานวิจัยปี 2024 ของ Zack และคณะ ซึ่งนำเสนอกรณีอาการเจ็บหน้าอกที่เหมือนกันทุกประการแก่ GPT-4 โดยระบุว่าเป็นกรณีของผู้ชายหรือผู้หญิง จากการทดลองซ้ำ 200 ครั้งสำหรับคำอธิบายแต่ละแบบ โมเดลให้ความสำคัญกับการทดสอบภาวะเครียดของหัวใจในระดับสูงในกรณีของผู้ชาย 71% และกรณีของผู้หญิง 58% ต่างกัน 13 จุดเปอร์เซ็นต์

ผลการศึกษานี้เกี่ยวกับคำแนะนำของโมเดลในการประเมินแบบควบคุม ไม่ใช่การตัดสินใจรักษาที่เกิดขึ้นจริงหรือผลลัพธ์ของผู้ป่วย ความแตกต่างนี้สำคัญ โดยเฉพาะเมื่อรายงานรวบรวมงานศึกษาเชิงสำรวจเกี่ยวกับโมเดล โรค และงานทางคลินิกที่แตกต่างกัน ซึ่งดำเนินการในช่วงเวลาต่างกัน

บททบทวนยังระบุข้อควรคำนึงที่สำคัญว่า ไม่ควรลบความแตกต่างระหว่างเพศทางชีววิทยาที่มีความหมายทางคลินิกทิ้งไปโดยง่าย ความท้าทายคือการพิจารณาว่าความแตกต่างในคำแนะนำของโมเดลสะท้อนชีววิทยาที่เกี่ยวข้องหรือเป็นสมมติฐานที่ไม่มีหลักฐานรองรับ การทำเช่นนั้นต้องอาศัยข้อมูลประเมินที่เป็นตัวแทนของประชากร และการตรวจสอบข้อผิดพลาดอย่างรอบคอบ แทนที่จะเรียกร้องให้คำแนะนำทุกกรณีเหมือนกัน

อคติอาจกำหนดภาพแทนของผู้คนได้เช่นเดียวกับการตัดสินใจ

รายงานแยกความเสียหายที่เกิดกับการเข้าถึงทรัพยากรของบุคคล เช่น สินเชื่อหรือการรักษาพยาบาล ออกจากความเสียหายที่เกิดจากการนำเสนอภาพของกลุ่มคน จดหมายแนะนำที่สร้างขึ้น บทความข่าว และภาพอาชีพที่สร้างโดยระบบอาจตอกย้ำภาพเหมารวมได้ แม้จะไม่มีการตัดสินใจจัดสรรทรัพยากรตามมาในทันที

งานวิจัยที่ GEPI สรุปไว้พบว่า โมเดลภาษามักบรรยายผู้หญิงผ่านคุณลักษณะด้านมนุษยสัมพันธ์มากกว่า ขณะที่บรรยายผู้ชายผ่านความเป็นผู้นำหรือความสามารถมากกว่า ส่วนการศึกษาเครื่องมือสร้างภาพพบการแบ่งแยกทางเพศตามอาชีพที่เกินจริง ผลเหล่านี้ใช้กับโมเดลและเวอร์ชันที่ศึกษาเท่านั้น ไม่ควรตีความว่าเป็นการตรวจสอบระบบทุกระบบที่มีให้ใช้งานในปัจจุบันอีกครั้ง

ผู้ช่วยและเพื่อนคู่สนทนาสำหรับผู้บริโภคทำให้เกิดคำถามอีกแบบหนึ่ง ทั้งเสียง บุคลิกภาพ และการตอบสนองต่อการคุกคามล้วนเป็นทางเลือกที่ผู้พัฒนาผลิตภัณฑ์กำหนดไว้โดยเจตนา การประเมินเพียงความสมดุลทางสถิติของคำตอบอาจมองข้ามสมมติฐานที่ฝังอยู่ในการออกแบบผลิตภัณฑ์

บททบทวนนี้ยังพิจารณาภาพทางเพศสังเคราะห์ที่จัดทำขึ้นโดยไม่ได้รับความยินยอม ซึ่ง AI อาจทำให้การสร้างและเผยแพร่เนื้อหาที่เป็นการละเมิดทำได้ง่ายขึ้น เรื่องนี้ไม่ใช่แค่การนำเสนอภาพที่ไม่ถูกต้องเท่านั้น เพราะการนำรูปลักษณ์ของบุคคลจริงมาใช้โดยไม่ได้รับความยินยอมอาจก่อให้เกิดอันตรายโดยตรง จึงต้องใช้วิธีรับมือที่แตกต่างจากการแก้ไขภาพเหมารวมเกี่ยวกับอาชีพในงานศิลปะที่สร้างขึ้น

เหตุใดการทดสอบโดยหน่วยงานอิสระจึงสำคัญ

GEPI ระบุกลไกที่เกิดขึ้นซ้ำอยู่ 4 ประการ ได้แก่ การเรียนรู้จากข้อมูลในอดีตที่มีความเหลื่อมล้ำ การผลิตซ้ำภาพเหมารวม การนำเสนอคำตัดสินเสมือนเป็นการวัดผลอย่างเป็นกลาง และการเปิดทางให้ผลลัพธ์ที่มีอคติส่งต่อไปยังการตัดสินใจหรือโมเดลในขั้นถัดไป

การตรวจสอบโดยหน่วยงานอิสระช่วยทำให้กลไกเหล่านี้มองเห็นได้ชัดเจนขึ้น นักวิจัยสามารถปรับเปลี่ยนคุณลักษณะหนึ่งอย่างในชุดข้อมูลนำเข้าที่เหมือนกันในด้านอื่น แล้วตรวจสอบว่าผลลัพธ์เปลี่ยนไปอย่างไร แม้จะเข้าถึงสถาปัตยกรรมภายในของโมเดลกรรมสิทธิ์ไม่ได้ก็ตาม อย่างไรก็ตาม การทดสอบที่ได้ผลกับพรอมป์ต์หรือเกณฑ์มาตรฐานเพียงรายการเดียว ไม่ได้ยืนยันว่าโมเดลจะเป็นธรรมตลอดการนำไปใช้งานทั้งหมด

สำหรับองค์กรที่นำ AI มาใช้ ผลในทางปฏิบัติคือควรทดสอบกับกรณีใช้งานจริง ทีมสรรหาบุคลากรจำเป็นต้องตรวจสอบเส้นทางตั้งแต่คะแนนคัดกรองไปจนถึงการเลือกผู้เข้าสัมภาษณ์ ผู้ให้กู้จำเป็นต้องเปรียบเทียบค่าประมาณความเสี่ยงกับผลการชำระคืน องค์กรด้านสุขภาพจำเป็นต้องทำความเข้าใจว่าผู้ป่วยกลุ่มใดมีข้อมูลอยู่ในชุดข้อมูลสำหรับการตรวจสอบความถูกต้อง และข้อผิดพลาดกระจุกตัวอยู่ที่ใด การตรวจสอบเหล่านี้ตอบคำถามคนละข้อกับการประเมินว่าโมเดลใช้ภาษาได้คล่องหรือมีความแม่นยำโดยเฉลี่ยหรือไม่

รายงานนี้ยืนยันอะไรได้บ้าง และยังมีเรื่องใดที่ไม่ทราบ

รายงานอ้างอิงหลักฐานจากสหรัฐฯ เป็นส่วนใหญ่ พร้อมระบุงานศึกษาจากต่างประเทศเมื่อเกี่ยวข้อง แหล่งข้อมูลครอบคลุมเทคโนโลยี ช่วงเวลา และวิธีการที่หลากหลาย บางงานบันทึกผลลัพธ์ที่เกิดขึ้นจริง ขณะที่งานอื่นเผยให้เห็นพฤติกรรมที่น่ากังวลจากการจำลองสถานการณ์ บททบทวนนี้ไม่ได้ระบุอัตราการเลือกปฏิบัติที่ใช้ได้กับทุกกรณี และไม่ได้แสดงว่าทุกระบบก่อให้เกิดอคติแบบเดียวกัน

รายงานยังชี้ให้เห็นปัญหาด้านการวัดผลด้วยว่า นักวิจัยมักเข้าถึงข้อมูลของสถาบันที่จำเป็นต่อการเชื่อมโยงผลลัพธ์กับผลที่ตามมาไม่ได้ การพบความเหลื่อมล้ำเป็นเรื่องสำคัญ แต่การทำความเข้าใจต้นทุนที่เกิดขึ้นจริงในโลกความเป็นจริงอาจต้องอาศัยข้อมูลที่นายจ้าง ผู้ให้บริการ ผู้ให้กู้ หรือผู้ให้บริการด้านสุขภาพเป็นผู้เก็บรักษา

สิ่งที่ GEPI มีส่วนช่วยคือการเชื่อมโยงข้อค้นพบที่มักถูกกล่าวถึงแยกจากกัน และตั้งคำถามว่าการทดสอบและความรับผิดชอบจะติดตาม AI ไปถึงการตัดสินใจที่ AI มีอิทธิพลต่อได้หรือไม่ รายงานฉบับเต็ม AI ทำให้ผู้หญิงเสียเปรียบอย่างไร: เมื่ออคติทวีความรุนแรงขึ้น ประกอบด้วยระเบียบวิธีวิจัย รายการอ้างอิงงานศึกษา และหลักฐานจำแนกตามภาคส่วนซึ่งรองรับข้อโต้แย้งดังกล่าว