การแพทย์
โมเดล AI ที่ฝึกอบรมด้วยข้อมูลที่มีอคติทางเพศมีประสิทธิภาพต่ำกว่าในการวินิจฉัยโรค
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
最近มีการศึกษาหนึ่งที่ตีพิมพ์ในวารสาร PNAS และดำเนินการโดยนักวิจัยจากอาร์เจนตินา ซึ่งบ่งชี้ว่าการมีข้อมูลฝึกอบรมที่มีอคติทางเพศจะทำให้โมเดลมีประสิทธิภาพต่ำกว่าในการวินิจฉัยโรคและปัญหาสุขภาพอื่นๆ ตามรายงานของ Statnews ทีมนักวิจัยได้ทดลองฝึกอบรมโมเดลโดยใช้ข้อมูลที่ผู้ป่วยหญิงมีจำนวนมากหรือไม่มีเลย และพบว่าแอลกอริทึมมีประสิทธิภาพต่ำกว่าเมื่อวินิจฉัยผู้ป่วยหญิง ในทำนองเดียวกัน เมื่อผู้ป่วยชายไม่มีหรือมีจำนวนมากในข้อมูลฝึกอบรม ก็พบว่าโมเดลมีประสิทธิภาพต่ำกว่าเช่นกัน
ในช่วงห้าปีที่ผ่านมา เมื่อโมเดล AI และการเรียนรู้ของเครื่องจักรกลายเป็นที่นิยมมากขึ้น มีการให้ความสนใจกับปัญหาของข้อมูลที่มีอคติและโมเดลการเรียนรู้ของเครื่องจักรที่มีอคติซึ่งเกิดจากข้อมูลเหล่านั้น อคติของข้อมูลในโมเดลการเรียนรู้ของเครื่องจักรสามารถนำไปสู่การประยุกต์ใช้ AI ที่ไม่เหมาะสมและเป็นอันตรายทางสังคม แต่เมื่อใช้ในบริบททางการแพทย์ ชีวิตของผู้คนอาจตกอยู่ในความเสี่ยง อย่างไรก็ตาม แม้ว่าจะรู้จักปัญหาแล้ว แต่มีการศึกษาน้อยมากที่พยายาม量化ความเสียหายที่เกิดจากข้อมูลที่มีอคติ การศึกษาที่ทีมนักวิจัยดำเนินการพบว่าข้อมูลที่มีอคติอาจมีผลกระทบมากกว่าที่ผู้เชี่ยวชาญหลายคนคาดไว้
หนึ่งในการใช้งาน AI ที่ได้รับความนิยมมากที่สุดในช่วงไม่กี่ปีที่ผ่านมาในบริบททางการแพทย์คือการใช้โมเดล AI เพื่อวินิจฉัยผู้ป่วยจากภาพทางการแพทย์ ทีมนักวิจัยวิเคราะห์โมเดลที่ใช้ในการตรวจหาการมีอยู่ของสภาวะทางการแพทย์ต่างๆ เช่น ปอดบวม หัวใจโต หรือヘルニアจากภาพเอ็กซ์เรย์ ทีมนักวิจัยศึกษาสถาปัตยกรรมโมเดลที่เปิดเผยสาธารณะสามแบบ ได้แก่ Inception-v3, ResNet และ DenseNet-121 โมเดลเหล่านี้ถูกฝึกอบรมด้วยภาพเอ็กซ์เรย์จากสองชุดข้อมูลที่เปิดเผยสาธารณะซึ่งมาจากมหาวิทยาลัยสแตนฟอร์ดและสถาบันสุขภาพแห่งชาติ แม้ว่าชุดข้อมูลเหล่านี้จะมีการกระจายที่สมดุลในแง่ของการแสดงออกทางเพศ แต่นักวิจัยก็สร้างข้อมูลที่มีอคติโดยการแบ่งออกเป็นชุดย่อยที่มีความไม่สมดุลทางเพศ
ทีมนักวิจัยสร้างชุดข้อมูลฝึกอบรมห้าชุด แต่ละชุดประกอบด้วยอัตราส่วนของผู้ป่วยชายและหญิงที่แตกต่างกัน ชุดข้อมูลฝึกอบรมห้าชุดนี้แบ่งออกเป็นดังนี้
- ภาพทั้งหมดเป็นผู้ป่วยชาย
- ภาพทั้งหมดเป็นผู้ป่วยหญิง
- 25% เป็นผู้ป่วยชายและ 75% เป็นผู้ป่วยหญิง
- 75% เป็นผู้ป่วยหญิงและ 25% เป็นผู้ป่วยชาย
- 50% เป็นผู้ป่วยชายและ 50% เป็นผู้ป่วยหญิง
หลังจากที่โมเดลถูกฝึกอบรมด้วยชุดข้อมูลหนึ่งแล้ว จะถูกทดสอบกับชุดภาพจากผู้ป่วยชายและหญิงทั้งหมด มีแนวโน้มที่ชัดเจนซึ่งปรากฏข้ามสภาวะทางการแพทย์ต่างๆ คือ ความแม่นยำของโมเดลต่ำกว่าเมื่อข้อมูลฝึกอบรมมีอคติทางเพศอย่างมาก สิ่งที่น่าสนใจคือ ถ้าเพศหนึ่งมีการแสดงออกมากเกินไปในข้อมูลฝึกอบรม เพศนั้นไม่ได้รับประโยชน์จากการที่มีการแสดงออกมากเกินไป ไม่ว่าโมเดลจะถูกฝึกอบรมด้วยข้อมูลที่มีอคติทางเพศหรือไม่ ก็ไม่ได้แสดงผลลัพธ์ที่ดีกว่าเมื่อเทียบกับการฝึกอบรมด้วยชุดข้อมูลที่ครอบคลุมทั้งสองเพศ
ผู้เขียนอาวุโสของการศึกษา Enzo Ferrante ถูกอ้างโดย Statnews ว่าการศึกษานี้เน้นย้ำถึงความสำคัญของการมีข้อมูลฝึกอบรมที่หลากหลายและเป็นตัวแทนสำหรับประชากรทั้งหมดที่คุณตั้งใจจะทดสอบโมเดล
ไม่ชัดเจนว่าทำไมโมเดลที่ฝึกอบรมด้วยเพศหนึ่งจึงมีประสิทธิภาพต่ำกว่าเมื่อนำไปใช้กับอีกเพศหนึ่ง บางส่วนของความแตกต่างอาจเกิดจากความแตกต่างทางสรีรวิทยา แต่ปัจจัยทางสังคมและวัฒนธรรมอาจมีบทบาทเช่นกัน ตัวอย่างเช่น ผู้หญิงอาจได้รับการถ่ายภาพเอ็กซ์เรย์ในระยะที่แตกต่างกันของการดำเนินโรคเมื่อเทียบกับผู้ชาย หากเป็นเช่นนั้น จะส่งผลต่อลักษณะและรูปแบบที่โมเดลเรียนรู้จากภาพฝึกอบรม ทำให้นักวิจัยพบว่ามันยากที่จะลบอคติออกจากชุดข้อมูล เนื่องจากอคติจะถูกฝังลงในข้อมูลผ่านกระบวนการเก็บข้อมูล
แม้นักวิจัยที่ให้ความสนใจกับการหลากหลายของข้อมูลก็อาจไม่มีทางเลือกนอกจากต้องทำงานกับข้อมูลที่มีอคติหรือไม่สมดุล ในกรณีที่มีความไม่เท่าเทียมกันในการวินิจฉัยโรคหรือสภาวะทางการแพทย์ จะนำไปสู่ข้อมูลที่ไม่สมดุล ตัวอย่างเช่น ข้อมูลเกี่ยวกับผู้ป่วยมะเร็งเต้านมเก็บจากผู้หญิงเป็นส่วนใหญ่ ในทำนองเดียวกัน ออทิสติกมีอาการที่แตกต่างกันระหว่างผู้หญิงและผู้ชาย และด้วยเหตุนี้จึงถูกวินิจฉัยในอัตราที่สูงกว่าในเด็กผู้ชายมากกว่าเด็กผู้หญิง
อย่างไรก็ตาม มีความสำคัญอย่างยิ่งที่นักวิจัยจะต้องควบคุมข้อมูลที่มีอคติและอคติของข้อมูลใน mọiวิธีที่พวกเขาสามารถทำได้ เพื่อจุดประสงค์นั้น การศึกษาที่จะเกิดขึ้นในอนาคตจะช่วยให้นักวิจัยสามารถ量化ผลกระทบของข้อมูลที่มีอคติ
