เส้นเลือดในจอประสาทตาเปิดเผยเชื้อชาติ ขยายขอบเขตสำหรับอคติเชื้อชาติของ AI

ได้รับแรงบันดาลใจจากความเปิดเผยเมื่อเร็วๆ นี้ว่าระบบ AI ในการถ่ายภาพทางการแพทย์ สามารถเปิดเผยเชื้อชาติ ของผู้ป่วยได้ คอนซอร์เทียมการวิจัยในประเทศสหรัฐอเมริกาและประเทศอังกฤษได้ทำการวิจัยเพื่อดูว่ารูปแบบของเส้นเลือดในจอประสาทตานั้นเป็นตัวบ่งชี้เชื้อชาติหรือไม่ และได้สรุปว่าเป็นเช่นนั้น โดย AI สามารถคาดเดาเชื้อชาติที่ผู้ปกครองรายงานในเด็กจากภาพจอประสาทตาได้ ซึ่งเป็นภาพที่ไม่แสดงถึงอัตลักษณ์เชื้อชาติให้กับแพทย์ และไม่คิดว่าจะมีศักยภาพในการเปิดเผยเชื้อชาติ

กลุ่มวิจัยได้แสดงความกังวลว่าเวกเตอร์ใหม่นี้ของการแบ่งแยกเชื้อชาติในภาพทางการแพทย์เปิดโอกาสให้เกิดอคติในการใช้ระบบ AI ในการดูแลสุขภาพ

ภาพจอประสาทตาจากผู้ป่วยเชื้อชาติที่แตกต่างกัน Source: https://arxiv.org/ftp/arxiv/papers/2109/2109.13845.pdf

ผู้วิจัยยังชี้ให้เห็นว่า U-Net ซึ่งเป็นโครงสร้างการเรียนรู้ของเครื่องจักรที่ใช้กันอย่างแพร่หลายในการดูแลสุขภาพ ซึ่งได้รับการฝึกฝนจาก ผู้ป่วยเชื้อชาติขาวเป็นส่วนใหญ่ อาจมีอิทธิพลต่อปรากฏการณ์นี้ อย่างไรก็ตาม ผู้วิจัยยืนยันว่าพวกเขายังไม่สามารถอธิบายผลการวิจัยเหล่านี้ได้โดยอาศัยสมมติฐานของ U-Net เพียงอย่างเดียว

การวิจารณ์ผลการวิจัยที่เกี่ยวข้องกับ GitHub repository ของโครงการ ผู้วิจัยระบุว่า:

‘AI สามารถตรวจจับเชื้อชาติจากภาพจอประสาทตาที่ไม่มีสี [Retinal Vessel Maps] ที่ไม่คิดว่าจะมีข้อมูลเชื้อชาติ

‘…ทั้งสองทฤษฎีที่เป็นไปได้สำหรับผลการวิจัยเหล่านี้คือว่า: เส้นเลือดในจอประสาทตาของเด็กเชื้อชาติที่แตกต่างกันหรือ U-Net แยกเส้นเลือดในจอประสาทตาต่าง ๆ สำหรับการติดสีจอประสาทตาที่แตกต่างกัน’

รายงานวิจัย เรื่องนี้ มีชื่อเรื่องว่า Not Color Blind: AI Predicts Racial Identity from Black and White Retinal Vessel Segmentations และเป็นการร่วมมือระหว่างแพทย์และนักวิจัยจากห้าสถาบันและแผนกการวิจัยในสหรัฐอเมริกา และหนึ่งในสหราชอาณาจักร

แพทย์ที่เข้าร่วมการวิจัย ได้แก่ R.V. Paul Chan MD, MSc, FACS, ผู้เชี่ยวชาญด้านจอประสาทตา และ Michael F. Chiang M.D. ผู้อำนวยการ National Eye Institute และ J. Peter Campbell M.D. MPH ผู้ช่วยศาสตราจารย์ด้านจอประสาทตา

ดวงตามีคำตอบ

รายงานวิจัยชี้ให้เห็นว่าศักยภาพที่พิสูจน์แล้วว่าอคติของมนุษย์สามารถแพร่กระจายไปยังระบบ AI ในการดูแลสุขภาพ ไม่น้อยที่สุดใน การศึกษาดวงตา ภาพจอประสาทตาที่มีสี (RFIs) ที่ใช้ในการประเมินโรคตา มีข้อมูลสีที่เพียงพอในการระบุเชื้อชาติ

ภาพจอประสาทตาที่ไม่มีสี (RVMs) ที่ถูกตัดทอนข้อมูลสีเพื่อแสดงเส้นเลือดและหลอดเลือดฝอยที่อาจกำหนดโรคหลายชนิด มักถูกถือว่าไม่มีลักษณะเชื้อชาติ

ผู้วิจัยได้ทดสอบสมมติฐานนี้โดยใช้ฐานข้อมูล RFIs ที่ได้รับจากเด็กที่ถูกสแกนสำหรับโรคที่อาจทำให้ตาบอด การสแกนภาพเหล่านี้มีการใช้มากขึ้นในบริบทการวินิจฉัยทางไกลและวิเคราะห์โดยใช้การเรียนรู้ของเครื่องจักร

การวิจัยใหม่นี้ตรวจสอบว่าภาพที่ถูกตัดทอนข้อมูลสีเหล่านี้ยังคงมีข้อมูลเชื้อชาติหรือไม่ และพบว่าแม้กระทั่งภาพที่ดูเหมือนไม่มีข้อมูลเชื้อชาติก็ยังมีข้อมูลเชื้อชาติ

ข้อมูลและวิธีการ

ข้อมูลจาก 245 เด็กที่รวบรวมระหว่างเดือนมกราคม 2012 ถึงเดือนกรกฎาคม 2020 ในฐานข้อมูล i-ROP cohort study ถูกแบ่งออกเป็นชุดข้อมูลสำหรับการฝึกอบรม การตรวจสอบ และการทดสอบ โดยใช้การกระจายข้อมูลตามธรรมชาติ

ภาพ RFIs ถูกตัดทอนข้อมูลสีเป็นสามรูปแบบที่แตกต่างกัน เพื่อให้ข้อมูลเชื้อชาติที่เห็นได้ชัดเจนนั้นถูกตัดทอนออกไป

เครือข่ายการเรียนรู้ของเครื่องจักรหลายเครือข่ายถูกฝึกให้ทำการจำแนกประเภทเชื้อชาติ (‘ดำ’/’ขาว’ ตามเชื้อชาติที่ผู้ปกครองรายงาน) โดยใช้ PyTorch

ผลลัพธ์

RVMs ที่แสดงเส้นเลือดและหลอดเลือดฝอยไม่ควรจะสามารถใช้ในการตรวจจับเชื้อชาติได้ตามทฤษฎี แต่ผลการวิจัยพบว่า U-Net สามารถตรวจจับเชื้อชาติได้จากภาพจอประสาทตาที่ไม่มีสี

ในคำสรุป ผู้วิจัยระบุว่า ‘เราพบว่า AI สามารถคาดเดาเชื้อชาติของเด็กจากภาพจอประสาทตาที่ไม่มีข้อมูลเกี่ยวกับสี‘ และ ‘แม้กระทั่งภาพที่ดูเหมือนไม่มีข้อมูลเชื้อชาติก็ยังมีข้อมูลเชื้อชาติ‘

Prior Bias?

ผู้วิจัยยังชี้ให้เห็นว่าอาจมีอคติก่อนหน้านี้ในระบบ AI ที่ใช้ในการวิจัย และอาจมีการใช้ข้อมูลที่มีอคติในการฝึกอบรม U-Net

รายงานวิจัยยังชี้ให้เห็นว่าอาจมีการใช้ข้อมูลที่มีอคติในการฝึกอบรม U-Net และอาจมีการใช้ข้อมูลที่มีอคติในการวิจัย

ผู้วิจัยยืนยันว่าผลการวิจัยเหล่านี้มีผลกระทบต่อการดูแลสุขภาพและอาจมีการใช้ข้อมูลที่มีอคติในการวิจัยและในการดูแลสุขภาพ

ผู้วิจัยยังชี้ให้เห็นว่าอาจมีการใช้ข้อมูลที่มีอคติในการฝึกอบรม U-Net และอาจมีการใช้ข้อมูลที่มีอคติในการวิจัยและในการดูแลสุขภาพ

ตัวอย่างภาพจอประสาทตาที่มีการตัดทอนข้อมูลสี