อัลกอริทึมอาจแก้ไขความลำเอียงทางเชื้อชาติในการดูแลสุขภาพได้ หากได้รับการฝึกอบรมอย่างเหมาะสม

ทีมนักวิจัยจากมหาวิทยาลัยสแตนฟอร์ด มหาวิทยาลัยฮาร์วาร์ด และมหาวิทยาลัยชิคาโกได้ฝึกอัลกอริทึม เพื่อวินิจฉัยโรคข้ออักเสบในภาพเอ็กซเรย์ของเข่า ผลการวิจัยพบว่าเมื่อใช้ข้อมูลจากผู้ป่วยเป็นข้อมูลฝึกอบรม อัลกอริทึมมีความแม่นยำมากกว่าแพทย์ผู้เชี่ยวชาญในการวิเคราะห์ข้อมูลของผู้ป่วยชาวแอฟริกันอเมริกัน

ปัญหาของความลำเอียงอัลกอริทึม

การใช้อัลกอริทึมการเรียนรู้ของเครื่องในด้านการแพทย์อาจปรับปรุงผลลัพธ์ของผู้ป่วยที่เป็นโรคต่างๆ แต่ก็มีปัญหาเกี่ยวกับการใช้อัลกอริทึม AI ในการวินิจฉัยผู้ป่วยที่มีการบันทึกไว้แล้ว การศึกษาการใช้อัลกอริทึม AI ที่มีการใช้งานจริงพบว่ามีหลายกรณีที่เกิดจากความลำเอียงอัลกอริทึม รวมถึง อัลกอริทึม ที่ให้การอ้างอิงผู้ป่วยชาวชนกลุ่มน้อยเข้าสู่หน่วยหทัยวิทยา 少กว่าผู้ป่วยชาวผิวขาว แม้ว่าพวกเขาจะมีอาการเดียวกันก็ตาม

หนึ่งในผู้เขียนการศึกษา นี้ คือ ศาสตราจารย์ Ziad Obermeyer จากโรงเรียนสาธารณสุขมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์ ตัดสินใจใช้ AI เพื่อสอบสวนความแตกต่างระหว่างการวินิจฉัยภาพเอ็กซเรย์โดยแพทย์ผู้เชี่ยวชาญและระดับความเจ็บปวดที่ผู้ป่วยรายงาน แม้ว่าผู้ป่วยชาวแอฟริกันอเมริกันและผู้ป่วยที่มีรายได้น้อยจะรายงานระดับความเจ็บปวดที่สูงกว่า แต่การวินิจฉัยภาพเอ็กซเรย์ของพวกเขาได้รับการให้คะแนนเท่ากับประชากรทั่วไป ข้อมูลเกี่ยวกับระดับความเจ็บปวดที่รายงานมาจาก NIH และนักวิจัยต้องการสอบสวนว่าแพทย์มนุษย์พลาดอะไรไปในการวิเคราะห์ข้อมูล

ตามรายงานของ Wired เพื่อระบุ原因ที่เป็นไปได้ของความแตกต่างเหล่านี้ Obermeyer และนักวิจัยคนอื่นๆ ได้สร้างแบบจำลองการมองเห็นของคอมพิวเตอร์ที่ฝึกอบรมด้วยข้อมูลจาก NIH อัลกอริทึมได้รับการออกแบบมาเพื่อวิเคราะห์ภาพเอ็กซเรย์และคาดการณ์ระดับความเจ็บปวดของผู้ป่วยตามภาพ ลองจินตภาพพบว่ามีรูปแบบภายในภาพที่สัมพันธ์กับระดับความเจ็บปวดของผู้ป่วย

เมื่ออัลกอริทึมนำเสนอภาพที่ไม่เคยเห็นมาก่อน โมเดลจะคืนค่าความน่าจะเป็นสำหรับระดับความเจ็บปวดที่ผู้ป่วยรายงาน ค่าความน่าจะเป็นที่คืนจากโมเดลสอดคล้องกับระดับความเจ็บปวดที่ผู้ป่วยรายงานจริงมากกว่าคะแนนที่แพทย์ผู้เชี่ยวชาญให้ไว้ โดยเฉพาะสำหรับผู้ป่วยชาวแอฟริกันอเมริกัน Obermeyer อธิบายผ่าน Wired ว่าอัลกอริทึมการมองเห็นของคอมพิวเตอร์สามารถตรวจจับปรากฏการณ์ที่มีความสัมพันธ์กับความเจ็บปวดในผู้ป่วยชาวแอฟริกันอเมริกัน

การฝึกอบรมระบบอย่างเหมาะสม

ตามรายงาน ค่าประเมินภาพเอ็กซเรย์เดิมถูกพัฒนาขึ้นตามผลการศึกษาขนาดเล็กที่ดำเนินการในภาคเหนือของอังกฤษในปี 1957 ประชากรที่ใช้ในการพัฒนามาตรฐานการประเมินโรคข้ออักเสบต่างจากประชากรที่หลากหลายของสหรัฐอเมริกาสมัยใหม่ ดังนั้นจึงไม่น่าแปลกใจที่จะมีข้อผิดพลาดในการวินิจฉัยผู้ป่วยที่หลากหลายเหล่านี้

การศึกษาใหม่นี้แสดงให้เห็นว่าอัลกอริทึม AI สามารถลดความลำเอียงได้เมื่อฝึกอบรมอย่างเหมาะสม การฝึกอบรมนี้ขึ้นอยู่กับการให้ข้อมูลจากผู้ป่วยเองแทนที่จะเป็นความคิดเห็นของผู้เชี่ยวชาญ Obermeyer และเพื่อนร่วมงาน แสดงให้เห็นก่อนหน้านี้ ว่าอัลกอริทึม AI ที่ใช้กันทั่วไปให้ความสำคัญกับผู้ป่วยชาวผิวขาวมากกว่าผู้ป่วยชาวแอฟริกันอเมริกัน แต่ Obermeyer ยังแสดงให้เห็นว่าการฝึกอบรมระบบการเรียนรู้ของเครื่องด้วยข้อมูลที่ถูกต้องสามารถช่วยป้องกันความลำเอียงได้

ข้อจำกัดที่สำคัญของการศึกษานี้คือสิ่งที่คุ้นเคยสำหรับนักวิจัยการเรียนรู้ของเครื่องหลายคน โมเดล AI ที่พัฒนาโดยทีมนักวิจัยเป็นกล่องดำ และทีมนักวิจัยเองไม่แน่ใจว่าอัลกอริทึมตรวจจับลักษณะใดในภาพเอ็กซเรย์ ซึ่งหมายความว่าพวกเขาไม่สามารถบอกแพทย์ได้ว่าพวกเขาพลาดอะไรไป

แพทย์ผู้เชี่ยวชาญและนักวิจัยคนอื่นๆ มุ่งหวังที่จะค้นหาลักษณะภายในกล่องดำและค้นหาลักษณะภายใน เพื่อช่วยให้แพทย์เข้าใจว่าพวกเขาพลาดอะไรไป แพทย์ผู้เชี่ยวชาญและศาสตราจารย์จากมหาวิทยาลัย Emory Judy Gichoya กำลังรวบรวมชุดภาพเอ็กซเรย์ที่กว้างขึ้นและหลากหลายขึ้นเพื่อฝึกอบรมโมเดล AI Gichoya จะให้แพทย์ผู้เชี่ยวชาญสร้างบันทึกภาพเอ็กซเรย์อย่างละเอียด บันทึกเหล่านี้จะถูกเปรียบเทียบกับผลลัพธ์ของโมเดลเพื่อดูว่าลักษณะที่ตรวจจับโดยอัลกอริทึมสามารถค้นพบได้หรือไม่