เส้นเลือดจอประสาทตาเปิดเผยเชื้อชาติ ทำให้ขอบเขตของการเอนเอียงของ AI ขยายกว้างขึ้น

ได้รับแรงบันดาลใจจากผลการวิจัยล่าสุดที่แสดงให้เห็นว่า AI ในการถ่ายภาพทางการแพทย์สามารถเปิดเผยเชื้อชาติได้ สามารถเปิดเผยเชื้อชาติ กลุ่มวิจัยร่วมระหว่างสหรัฐอเมริกาและอังกฤษได้ทำการวิจัยเพื่อดูว่าเส้นเลือดจอประสาทตาสามารถเป็นตัวบ่งชี้เชื้อชาติได้หรือไม่ และได้สรุปว่าจริงๆ แล้วเส้นเลือดจอประสาทตาสามารถเป็นตัวบ่งชี้เชื้อชาติได้ โดย AI สามารถคาดเดาเชื้อชาติของทารกจากภาพจอประสาทตาได้ – ภาพที่ไม่แสดงให้เห็นถึงอัตลักษณ์เชื้อชาติของแพทย์ และไม่คิดว่าจะมีข้อมูลที่สามารถเปิดเผยเชื้อชาติได้

กลุ่มวิจัยได้แสดงความกังวลว่าการเพิ่มขึ้นของการแบ่งแยกเชื้อชาติในภาพทางการแพทย์อาจทำให้เกิดการเอนเอียงในระบบ AI ที่ใช้ในด้านสุขภาพ

ภาพจอประสาทตาจากคนดำและคนขาว อันดับแรก ภาพจอประสาทตาสีเต็มจากทั้งสองเชื้อชาติ มีลักษณะที่แตกต่างกันในเรื่องของสี Already มีเครื่องหมายที่บ่งชี้เชื้อชาติ ในขณะที่ภาพจอประสาทตาที่ได้มาจากภาพเหล่านั้น ซึ่งควรจะ ‘ทำให้เท่าเทียม’ กัน แต่จริงๆ แล้วมีลักษณะที่บ่งชี้เชื้อชาติ ตามรายงานใหม่ Source: https://arxiv.org/ftp/arxiv/papers/2109/2109.13845.pdf

ผู้เขียนรายงานยังได้กล่าวถึงความเป็นไปได้ที่ U-Net ซึ่งเป็นเฟรมเวิร์กการเรียนรู้ของเครื่องจักรที่ใช้กันอย่างแพร่หลายในด้านสุขภาพ ซึ่งได้รับการฝึกอบรมจาก กลุ่มคนขาวเป็นส่วนใหญ่* อาจมีอิทธิพลต่อผลลัพธ์นี้ อย่างไรก็ตาม ผู้เขียนรายงานยังได้กล่าวว่าพวกเขาไม่สามารถอธิบายผลลัพธ์นี้ได้อย่างเต็มที่โดยอาศัยสมมติฐานของ U-Net เพียงอย่างเดียว

เมื่อแสดงความคิดเห็นเกี่ยวกับผลลัพธ์ที่เกี่ยวข้องกับ GitHub repository ผู้เขียนรายงานได้กล่าวว่า:

‘AI สามารถตรวจจับเชื้อชาติจากภาพจอประสาทตาที่ไม่มีสีได้ [ภาพจอประสาทตาที่ได้มาจากภาพจอประสาทตาสีเต็ม] ที่ไม่คิดว่าจะมีข้อมูลที่สามารถเปิดเผยเชื้อชาติได้ สองคำอธิบายที่เป็นไปได้สำหรับผลลัพธ์นี้คือ: เส้นเลือดจอประสาทตาของคนดำและคนขาวมีความแตกต่างกันทางสรีรวิทยา หรือ U-Net แยกเส้นเลือดจอประสาทตาที่แตกต่างกันสำหรับสีที่แตกต่างกัน

‘ไม่ว่าจะด้วยวิธีใด ผลลัพธ์ก็ยังคงเหมือนเดิม: ระบบ AI มีศักยภาพที่จะแสดงการเอนเอียงในทางปฏิบัติ แม้ว่าจะพยายามลบข้อมูลที่สามารถเปิดเผยเชื้อชาติออกจากภาพก็ตาม’

รายงานที่ตีพิมพ์เป็น Not Color Blind: AI Predicts Racial Identity from Black and White Retinal Vessel Segmentations เป็นการทำงานร่วมกันระหว่างแพทย์และนักวิจัยจากห้าสถาบันและหน่วยวิจัยในสหรัฐอเมริกา และหนึ่งในสหราชอาณาจักร

แพทย์ที่เข้าร่วมการวิจัย ได้แก่ R.V. Paul Chan MD, MSc, FACS, ผู้เชี่ยวชาญด้านจอประสาทตา และ Michael F. Chiang M.D. ผู้อำนวยการ National Eye Institute ที่ National Institutes of Health ใน Bethesda, Maryland; และ J. Peter Campbell M.D. M.P.H. ผู้ช่วยศาสตราจารย์ด้านจอประสาทตา ที่ School of Medicine ที่ Oregon Health & Science University ใน Portland

ดวงตามีคำตอบ

รายงานระบุถึงศักยภาพที่พิสูจน์แล้วว่าการเอนเอียงที่มาจากมนุษย์สามารถแพร่กระจายไปยังระบบ AI ทางการแพทย์ ไม่ว่าจะเป็นใน การศึกษาดวงตา* ภาพจอประสาทตาสีเต็ม (RFIs, ดูการเปรียบเทียบภาพด้านบน) ที่ใช้ในการประเมินโรคของดวงตา มีข้อมูลที่เพียงพอในการระบุเชื้อชาติ

ภาพจอประสาทตาที่ไม่มีสี (RVMs) ที่ได้มาจากภาพจอประสาทตาสีเต็ม จะไม่มีข้อมูลที่สามารถระบุเชื้อชาติได้ แต่ผู้วิจัยได้ทดสอบสมมติฐานนี้โดยใช้ฐานข้อมูลของภาพจอประสาทตาสีเต็มที่ได้มาจากทารกที่ถูกตรวจสอบสำหรับโรคที่อาจทำให้ตาบอด

การศึกษานี้ตรวจสอบว่าภาพจอประสาทตาที่ลดความซับซ้อนลงในหลายรูปแบบยังคงมีข้อมูลที่สามารถระบุเชื้อชาติได้หรือไม่ และพบว่าแม้กระทั่งภาพจอประสาทตาที่ไม่มีสี ก็ยังมีข้อมูลที่สามารถระบุเชื้อชาติได้

ข้อมูลและวิธีการ

ข้อมูลจากทารก 245 คน ที่รวบรวมระหว่างเดือนมกราคม 2012 ถึงเดือนกรกฎาคม 2020 เป็นส่วนหนึ่งของการศึกษาคลินิก i-ROP ได้ถูกแบ่งออกเป็นชุดข้อมูลสำหรับการฝึกอบรม การตรวจสอบ และการทดสอบ โดยมีการกระจายเชื้อชาติที่สมดุลตามที่ข้อมูลต้นฉบับอนุญาต

ภาพจอประสาทตาสีเต็มถูกลดความซับซ้อนลงเป็นสามรูปแบบที่แตกต่างกัน เพื่อให้ ‘เครื่องหมายที่บ่งชี้เชื้อชาติ’ ถูกเอาออกไปจากข้อมูล

เครือข่ายประสาทเทียม (CNNs) หลายตัวถูกฝึกอบรมเพื่อทำการจำแนกประเภทเชื้อชาติ (‘ดำ’/’ขาว’ ตามที่รายงานจากผู้ปกครอง) โดยใช้ PyTorch CNNs ถูกใช้ในการประมวลผลข้อมูลทั้งหมด โดยใช้การพลิกและหมุนแบบสุ่ม และมีการปรับขนาดภาพให้ 224×244 พิกเซล

แบบจำลองถูกฝึกอบรมโดยใช้การลดความชันแบบสุ่มเป็นเวลา 10 ยุค โดยมีอัตราการเรียนรู้คงที่ที่ 0.001 และมีการหยุดการฝึกอบรมเมื่อถึง 5 ยุค (เมื่อไม่มีการปรับปรุงเพิ่มเติม)

เนื่องจากมีการกระจายเชื้อชาติที่ไม่สมดุลระหว่างคนขาวและคนดำ จึงมีการปรับให้แน่ใจว่าแหล่งข้อมูลที่เป็นชนกลุ่มน้อยจะไม่ถูกมองข้าม และผลลัพธ์ถูกตรวจสอบเพื่อให้แน่ใจว่าไม่มีการรั่วไหลของข้อมูลระหว่างการทดลอง

ตัวอย่างภาพจอประสาทตาที่มีการลดความซับซ้อนในหลายระดับ

ผลลัพธ์

ภาพจอประสาทตาที่ไม่มีสี (RVMs) ที่แยกเส้นเลือดจอประสาทตาออกจากภาพจอประสาทตาสีเต็ม ไม่ควรจะสามารถระบุเชื้อชาติได้ตามทฤษฎี แต่ผลลัพธ์แสดงให้เห็นว่า U-Net สามารถแยกเส้นเลือดจอประสาทตาที่แตกต่างกันสำหรับคนขาวและคนดำได้

นักวิจัยสรุปว่า ‘เราพบว่า AI สามารถคาดเดาเชื้อชาติของทารกจากภาพจอประสาทตาที่ไม่มีสีได้’ และว่า ‘แม้กระทั่งภาพที่ดูเหมือนจะไม่มีข้อมูลใดๆ ก็ตาม ก็ยังมีข้อมูลที่สามารถระบุเชื้อชาติได้’

การเอนเอียงก่อนหน้า?

นักวิจัยยังได้เสนอแนะว่าการเอนเอียงอาจเป็นผลมาจากการฝึกอบรม U-Net บนข้อมูลที่มีคนขาวเป็นส่วนใหญ่ แม้ว่าพวกเขาจะอธิบายว่าเป็น ‘ทฤษฎีหลักที่พวกเขา’ แต่พวกเขาก็ยังรับทราบว่าความสามารถในการจับภาพของเซ็นเซอร์อาจเป็นปัจจัยที่ทำให้เกิดผลลัพธ์นี้

นักวิจัยยังได้กล่าวว่า ‘ไม่ว่าจะด้วยวิธีใด การเอนเอียงของ AI ก็ยังคงเป็นความเสี่ยงต่อการเอนเอียงในระบบ AI ที่ใช้ในการแพทย์’

นักวิจัยชี้ให้เห็นว่าเชื้อชาติที่มีการศึกษาในงานวิจัยนี้มีความแตกต่างกันอย่างชัดเจน และพวกเขายังได้เสนอแนะว่า ‘กลุ่มเชื้อชาติอื่นๆ อาจเป็นเรื่องที่ยากต่อการระบุเชื้อชาติ’ และพวกเขายังได้กล่าวว่าพวกเขาจะศึกษาสิ่งนี้ในงานวิจัยที่เกี่ยวข้องในอนาคต

* ลิงก์ทั้งหมดที่ให้มาในบทความนี้ได้ถูกแปลงจากลิงก์ PaperPile ที่มีการเข้าถึงจำกัดเป็นลิงก์ออนไลน์ที่สามารถเข้าถึงได้โดยทั่วไป