อัลกอริทึมที่สามารถแก้ไขปัญหาการเอนเอียงทางเชื้อชาติในการดูแลสุขภาพได้ หากได้รับการฝึกฝนอย่างเหมาะสม

ทีมนักวิจัยจากมหาวิทยาลัยสแตนฟอร์ด มหาวิทยาลัยฮาร์วาร์ด และมหาวิทยาลัยชิคาโกได้ฝึกฝนอัลกอริทึมเพื่อวินิจฉัยโรคข้ออักเสบในภาพเอ็กซ์เรย์ของเข่า ตามรายงานของ Wired เมื่อใช้ข้อมูลจากผู้ป่วยเป็นข้อมูลฝึกฝน อัลกอริทึมมีความแม่นยำมากกว่าแพทย์ผู้เชี่ยวชาญเมื่อวิเคราะห์ข้อมูลของผู้ป่วยชาวแอฟริกันอเมริกัน

ปัญหาของการเอนเอียงทางอัลกอริทึม

การใช้อัลกอริทึมการเรียนรู้ของเครื่องในด้านการแพทย์สามารถปรับปรุงผลลัพธ์สำหรับผู้ป่วยที่ป่วยด้วยโรคต่างๆ ได้ แต่ก็มีปัญหาในการใช้อัลกอริทึม AI ในการวินิจฉัยผู้ป่วยด้วย การศึกษาที่มีต่อผลกระทบของโมเดล AI ที่ใช้งานอยู่พบว่ามีหลายกรณีที่เกิดการเอนเอียงทางอัลกอริทึม รวมถึงอัลกอริทึม ที่ให้การอ้างอิงผู้ป่วยชาวชนกลุ่มน้อยน้อยกว่าผู้ป่วยชาวผิวขาว แม้ว่าพวกเขาจะมีอาการเดียวกันก็ตาม

หนึ่งในผู้เขียนการศึกษา นี้ ศาสตราจารย์ Ziad Obermeyer จากโรงเรียนสาธารณสุขแห่งมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ ตัดสินใจใช้ AI เพื่อสอบสวนความแตกต่างระหว่างการวินิจฉัยภาพเอ็กซ์เรย์ของแพทย์ผู้เชี่ยวชาญและระดับความเจ็บปวดที่ผู้ป่วยรายงาน แม้ว่าผู้ป่วยชาวแอฟริกันอเมริกันและผู้ป่วยที่มีรายได้น้อยจะรายงานระดับความเจ็บปวดที่สูงกว่า แต่การวินิจฉัยภาพเอ็กซ์เรย์ของพวกเขาจะได้คะแนนเท่ากันกับประชากรทั่วไป ข้อมูลเกี่ยวกับระดับความเจ็บปวดที่รายงานมาจาก NIH และนักวิจัยต้องการสอบสวนว่าแพทย์ผู้เชี่ยวชาญพลาดอะไรไปในการวิเคราะห์ข้อมูล

ตามรายงานของ Wired เพื่อระบุสาเหตุของความแตกต่างเหล่านี้ Obermeyer และนักวิจัยคนอื่นๆ ได้สร้างแบบจำลองการมองเห็นของคอมพิวเตอร์ที่ฝึกฝนจากข้อมูลของ NIH อัลกอริทึมได้รับการออกแบบมาเพื่อวิเคราะห์ภาพเอ็กซ์เรย์และคาดการณ์ระดับความเจ็บปวดของผู้ป่วยตามภาพเหล่านั้น ซอฟต์แวร์สามารถค้นหาพattern ภายในภาพที่สัมพันธ์กับระดับความเจ็บปวดของผู้ป่วยได้อย่างมาก

เมื่ออัลกอริทึมได้รับภาพที่ไม่เคยเห็นมาก่อน โมเดลจะคืนค่าคำทำนายสำหรับระดับความเจ็บปวดที่รายงานของผู้ป่วย คำทำนายที่ได้รับจากโมเดลสอดคล้องกับระดับความเจ็บปวดที่รายงานจริงของผู้ป่วยมากกว่าคะแนนที่แพทย์ผู้เชี่ยวชาญให้ไว้ โดยเฉพาะอย่างยิ่งสำหรับผู้ป่วยชาวแอฟริกันอเมริกัน Obermeyer อธิบายผ่าน Wired ว่าอัลกอริทึมการมองเห็นของคอมพิวเตอร์สามารถตรวจจับปรากฏการณ์ที่มีความสัมพันธ์กับความเจ็บปวดในผู้ป่วยชาวแอฟริกันอเมริกัน

การฝึกฝนระบบอย่างเหมาะสม

ตามรายงานที่ได้รับ มาตรฐานที่ใช้ในการประเมินภาพเอ็กซ์เรย์ถูกพัฒนาขึ้นจากผลการศึกษาเล็กๆ ที่ทำในภาคเหนือของอังกฤษในปี 1957 ประชากรที่ใช้ในการพัฒนามาตรฐานการประเมินโรคข้ออักเสบแตกต่างจากประชากรที่หลากหลายของสหรัฐอเมริกาที่ทันสมัย จึงไม่น่าแปลกใจที่จะมีข้อผิดพลาดในการวินิจฉัยผู้ป่วยที่หลากหลายเหล่านี้

การศึกษาใหม่นี้แสดงให้เห็นว่าอัลกอริทึม AI สามารถลดการเอนเอียงได้เมื่อได้รับการฝึกฝนอย่างเหมาะสม การฝึกฝนนี้ขึ้นอยู่กับการให้ข้อมูลจากผู้ป่วยเองมากกว่าความคิดเห็นของผู้เชี่ยวชาญ Obermeyer และเพื่อนร่วมงาน ได้แสดงให้เห็นก่อนหน้านี้ ว่าอัลกอริทึม AI ที่ใช้กันทั่วไปให้ความสำคัญกับผู้ป่วยชาวผิวขาวมากกว่าผู้ป่วยชาวแอฟริกันอเมริกัน แต่ Obermeyer ยังแสดงให้เห็นว่าการฝึกฝนระบบการเรียนรู้ของเครื่องบนข้อมูลที่ถูกต้องสามารถช่วยป้องกันการเอนเอียงได้

ข้อจำกัดที่สำคัญของการศึกษานี้คือสิ่งที่คุ้นเคยสำหรับนักวิจัยการเรียนรู้ของเครื่อง โมเดล AI ที่พัฒนาโดยทีมนักวิจัยเป็น “กล่องดำ” และทีมนักวิจัยเองไม่แน่ใจว่าอัลกอริทึมตรวจจับลักษณะใดในภาพเอ็กซ์เรย์ ซึ่งหมายความว่าพวกเขาไม่สามารถบอกแพทย์ได้ว่าพวกเขาพลาดอะไรไป

แพทย์ผู้เชี่ยวชาญและนักวิจัยคนอื่นๆ กำลังพยายามค้นหาสิ่งที่อยู่ภายในกล่องดำและค้นหาพattern ภายใน เพื่อช่วยให้แพทย์เข้าใจสิ่งที่พวกเขาไม่เห็น รังสีวิทยาและศาสตราจารย์จากมหาวิทยาลัย Emory Judy Gichoya กำลังรวบรวมชุดภาพเอ็กซ์เรย์ที่หลากหลายและกว้างขึ้นเพื่อฝึกฝนโมเดล AI Gichoya จะให้แพทย์ผู้เชี่ยวชาญสร้างบันทึกโดยละเอียดเกี่ยวกับภาพเอ็กซ์เรย์เหล่านี้ บันทึกเหล่านี้จะถูกเปรียบเทียบกับผลลัพธ์ของโมเดลเพื่อดูว่าพattern ที่ตรวจจับโดยอัลกอริทึมสามารถถูกเปิดเผยได้หรือไม่