ข้อมูลการแพทย์ที่ไม่มีข้อมูลส่วนบุคคลเป็นเวลาหลายทศวรรษอาจทำให้ AI ให้การวินิจฉัยผิดพลาดได้ทันที

ตามการร่วมมือการวิจัยใหม่ระหว่างเยอรมนีและสหราชอาณาจักร, บันทึกผู้ป่วยที่ไม่มีข้อมูลส่วนบุคคลซึ่งถูกใส่ในชุดข้อมูลการแพทย์ตั้งแต่หลายทศวรรษที่ผ่านมาอาจทำให้ระบบ AI ที่ฝึกด้วยข้อมูลเหล่านั้นสามารถจำแนก ลักษณะของผู้ป่วยจริง ได้หลายปีต่อมา – และปฏิบัติต่อผู้ป่วยในปี 2026 เหมือนกับว่าเป็นปี 2012 (หรือปีใดก็ตามที่ข้อมูลผู้ป่วยที่ไม่มีข้อมูลส่วนบุคคลของพวกเขาถูกใส่ในชุดข้อมูลเป็นครั้งแรก)

นี่อาจหมายความว่า ตัวอย่างเช่น ผู้ป่วยที่บันทึกว่ากำลังรับการรักษามะเร็งเมื่อ 20 ปีที่แล้ว และต่อมามีอาการหายดีเป็นระยะยาว ตอนนี้อาจถูกระบบ AI ปฏิบัติตาม ในบริบทของสภาพที่เคยเป็นมะเร็งของพวกเขาในอดีต – ซึ่งตามตรรกะแล้วอาจเพิ่มความเป็นไปได้ของการวินิจฉัยผิดพลาดว่าเป็นการกลับมาเกิดใหม่

ในทางกลับกัน หากข้อมูลของผู้ป่วยในเวอร์ชันปี 2012 แสดงถึงสุขภาพที่สมบูรณ์ในการตรวจสุขภาพประจำปี มุมมองเชิงบวกนี้อาจถูกนำไปใช้กับ เวอร์ชันปัจจุบันที่เก่ากว่า ของผู้ป่วย ทำให้การตรวจพบสภาวะหรือปัญหาใหม่ที่อาจต้องการการรักษาถูกซ่อนอยู่

จากเอกสารใหม่, ภาพตัวอย่างของการที่อคติการจดจำอาจส่งผลต่อผู้ป่วยที่กลับมา โมเดลที่ฝึกด้วย ECG ที่สุขภาพดีของ Alice ในอดีตให้ความน่าจะเป็นเพียง 15% สำหรับการเกิดหัวใจวายในภายหลังของเธอ เทียบกับ 73% สำหรับโมเดลที่ไม่เคยเห็นบันทึกประวัติของเธอ. แหล่งที่มา

การจำกัด ‘การอพยพข้อมูล’

สถานการณ์นี้มีความเป็นไปได้สูงขึ้นจากคำสั่งระดับชาติและภูมิภาคหลายฉบับที่แนะนำว่าข้อมูลผู้ป่วยสำหรับวัตถุประสงค์ดังกล่าวควรได้รับมาจากประเทศที่ระบบที่พัฒนาขึ้นจากข้อมูลเหล่านั้นตั้งใจจะใช้งาน ซึ่งจะทำให้ ‘ทำให้กลุ่มผู้ป่วยในชุดข้อมูลเป็นแบบท้องถิ่น’ และเพิ่มโอกาสของเหตุการณ์การเปิดเผยข้อมูลที่ไม่มีการระบุตัวตนโดยไม่ได้ตรวจพบประเภทนี้อย่างชัดเจน

โดยการสรุปผล, การจำกัดจำนวนข้อมูลให้เหลือเพียงชุดข้อมูลระดับชาติเท่านั้นจะเพิ่มโอกาสของ การจดจำ – ความเป็นไปได้ที่โมเดลจะเห็นข้อมูลเดียวกันหลายครั้งระหว่างการฝึกจนกลายเป็น ‘ติดแน่น’ กับรูปแบบที่เรียนรู้เกินไป ในทางกลับกัน ชุดข้อมูลที่ใหญ่และหลากหลายยิ่งมาก จะทำให้โมเดล สรุปทั่วไป กับข้อมูลที่ไม่เคยเห็นหลังการฝึก แทนที่จะจดจำจุดข้อมูลหรือการกำหนดค่าเฉพาะ

อย่างไรก็ตาม การเพิ่มข้อมูลการแพทย์ ‘ต่างประเทศ’ มีความเสี่ยงที่จะนำเสนอหลักฐานของแนวโน้มสุขภาพระดับชาติและลักษณะเฉพาะที่อาจไม่ตรงกับประเทศที่โมเดลที่ฝึกแล้วจะถูกนำไปใช้; ในแง่นี้ ตามที่ เอกสารใหม่ ยอมรับ การจดจำในระดับหนึ่งเป็นสิ่งที่เหมาะสมและมีประโยชน์ เนื่องจากช่วยให้โมเดลทำงานภายในลักษณะการแพทย์ทั่วไปที่น่าจะเป็นไปได้สูงของประชากรเฉพาะกลุ่ม

เอกสารระบุ*:

‘โมเดล [When] ถูกนำไปใช้เชิงรุก, การจดจำสร้างความเสี่ยงที่เฉพาะเจาะจงและมักถูกมองข้าม เนื่องจากบันทึกของผู้ป่วยมีความคล้ายคลึงกันสูงตามเวลา บันทึกในอนาคตอาจทำหน้าที่เป็นสัญญาณบางส่วนสำหรับบันทึกประวัติที่จดจำไว้ ทำให้การทำนายของโมเดลเปลี่ยนไปสู่สภาพสุขภาพก่อนหน้าของผู้ป่วย’

นี่ไม่ใช่สถานการณ์เชิงสมมติ โมเดล AI ทางการแพทย์มักถูกนำไปใช้กับประชากรเดียวกับที่ข้อมูลการฝึกมาจาก

‘เช่น โปรแกรมคัดกรองมะเร็งเต้านมระดับชาติของเยอรมนี โครงการ ใช้ โมเดล AI ที่ฝึกด้วยมามโมแกรม 1.2 ล้านภาพจากประชากรการคัดกรองเดียวกันที่ตอนนี้ให้บริการ

‘การใช้งานที่คล้ายคลึงกำลังดำเนินการในที่อื่น รวมถึงโครงการคัดกรองมะเร็งเต้านมระดับชาติ ในสหราชอาณาจักร และ สวีเดน.

‘แนวทางการกำกับดูแลส่งเสริมสิ่งนี้อย่างแข็งขัน โดย EU AI Act กำหนดให้ข้อมูลการฝึกต้องสะท้อนถึงสภาพภูมิศาสตร์และบริบทของการใช้งานที่ตั้งใจ (Art. 10(4)) และ แนวทางระหว่างประเทศที่คล้ายคลึง สำหรับการพัฒนา AI ทางการแพทย์เรียกร้องให้ประชากรผู้ป่วยที่ตั้งใจใช้เป็นตัวแทนอย่างเพียงพอในชุดข้อมูลการฝึกของโมเดล’

หายนะประวัติศาสตร์ที่คงอยู่..?

แม้เอกสารจะไม่ได้กล่าวถึงเรื่องนี้ ดูเหมือนว่าตามตรรกะสถิติ ผู้ป่วยที่ไม่เข้ารับการตรวจสุขภาพอย่างสม่ำเสมอตลอดชีวิต และบันทึกที่ไม่มีข้อมูลส่วนบุคคลของพวกเขาเข้าสู่กระแสข้อมูล AI เป็นระยะ ๆ มีแนวโน้มที่จะปรากฏในข้อมูลผู้ป่วยที่ไม่มีข้อมูลส่วนบุคคล เกือบทั้งหมดในช่วงเวลาที่พวกเขาต้องการการรักษา – ซึ่งอาจเพิ่มโอกาสของการ ‘projecting’ สภาวะที่เคยหายดีเป็นเวลานานให้กับผู้ป่วยเดียวกันในขณะนี้ เนื่องจากบันทึกไม่มีการสมดุลด้วย ‘สุขภาพดี’

สิ่งนี้ได้รับการสนับสนุนโดย การวิจัยก่อนหน้า เกี่ยวกับ ‘informed presence bias’ ในบันทึกสุขภาพอิเล็กทรอนิกส์ พบว่าชุดข้อมูลการแพทย์มีการแทนช่วงเวลาที่ผู้ป่วยป่วยและมีการติดต่อกับบริการสุขภาพอย่างไม่สมดุล

หนึ่งการศึกษา พบว่า ผู้ป่วยที่ป่วยหนักมีจำนวนวันที่มีข้อมูลห้องปฏิบัติการมากกว่า 5.05 เท่า และจำนวนวันที่มีคำสั่งยามากกว่า 6.85 เท่าเมื่อเทียบกับผู้ป่วยที่สุขภาพดีที่สุด.

ในปี 2022 ประมาณ 76% ของผู้ใหญ่ในสหรัฐอเมริกาที่ รายงาน ว่าได้รับการตรวจสุขภาพประจำปีในปีที่ผ่านมา ซึ่ง CDC นิยามว่าเป็นการตรวจร่างกายทั่วไป ไม่ใช่การรักษาโรคเฉพาะ; และในยุโรป การสำรวจหลายประเทศในปี 2023 พบ ว่า 58% เข้ารับการตรวจป้องกันอย่างน้อยบางส่วน; แต่เพียง 15% เท่านั้นที่เข้ารับการตรวจป้องกันทั้งหมดที่ถือว่ามีความสำคัญต่อพวกเขา.

ขอบเขตของผลกระทบ

การศึกษานี้ทดสอบผลกระทบในสี่ชุดข้อมูลทางการแพทย์ขนาดใหญ่ ซึ่งครอบคลุมการบันทึก ECG, ภาพเอ็กซเรย์ทรวงอก, และบันทึกสุขภาพอิเล็กทรอนิกส์; ได้แก่ ฐานข้อมูลภาพเอ็กซเรย์ทรวงอก MIMIC-CXR และบันทึกการดูแลฉุกเฉิน MIMIC-IV-ED พร้อมกับ MIMIC-ECG และชุดข้อมูล ECG ที่ใหญ่กว่าอย่างมาก HEEDB ชุดข้อมูลเหล่านี้มีขนาดตั้งแต่หลายหมื่นคนจนถึงมากกว่า 1.8 ล้านคน.

ผู้เขียนระบุว่าผลกระทบที่คำนวณได้แตกต่างกันอย่างมาก โดยการเปลี่ยนแปลงความน่าจะเป็นที่คาดการณ์เกิน 70 จุดเปอร์เซ็นต์ในบางกรณี:

ผลลัพธ์ที่แสดงว่าข้อมูลผู้ป่วยในอดีตเปลี่ยนการพยากรณ์ในภายหลัง แผงบนเปรียบเทียบความถี่และขนาดของการเปลี่ยนแปลงเหล่านี้ในสี่ชุดข้อมูล; แผงล่างแสดงว่าผลกระทบเปลี่ยนแปลงอย่างไรตามระยะเวลาตั้งแต่บันทึกการฝึกล่าสุดของผู้ป่วย ผลกระทบที่สำคัญจะน้อยลงตามเวลา แต่ยังสามารถตรวจพบได้หลายทศวรรษต่อมา

เป็นการควบคุม นักวิจัยได้แบ่งโมเดลเป็นกลุ่มแบบสุ่มและทำการเปรียบเทียบซ้ำ แม้ว่าจะไม่ทำให้เกิดการเปลี่ยนแปลงที่สำคัญในการพยากรณ์ในอนาคต

ผลกระทบดังที่กระดาษระบุอาจคงอยู่ได้หลายทศวรรษ แม้ว่าจะโดยทั่วไปอ่อนลงและพบได้น้อยลงเมื่อช่วงเวลาระหว่างบันทึกเพิ่มขึ้น ชุดข้อมูล HEEDB ซึ่งมี ECG ที่เก็บตั้งแต่ทศวรรษ 1980 ถึง 2025 แสดงการเปลี่ยนแปลงที่สำคัญในการพยากรณ์ มากกว่า 25 ปี หลังจากบันทึกการฝึกล่าสุดของผู้ป่วย

อันตรายจากการวินิจฉัย

นักวิจัยของบทความใหม่ – ชื่อ Memorisation bias in medical AI – ได้ทำการจำลองต่อไปว่าการจดจำอาจส่งผลต่อความแม่นยำของการวินิจฉัยอย่างไรเมื่อผู้ป่วยในภายหลังเจอโมเดลที่ฝึกด้วยบันทึกของตนเองในอดีต

กรณีในอนาคตถูกแบ่งตามว่าผู้ป่วยได้พัฒนาภาวะใหม่หรือไม่; ขาดจากข้อมูลการฝึกในอดีตของพวกเขา; หรือว่าพวกเขากลับมาพร้อมกับสภาพสุขภาพที่โดยพื้นฐานแล้วเหมือนเดิม

สำหรับภาวะใหม่ ผลกระทบแสดงให้เห็นเป็นลบอย่างต่อเนื่อง โดยโมเดลที่เคยเห็นบันทึกประวัติของผู้ป่วยแสดงความไวต่อการตรวจพบที่ต่ำลงในหลายการวินิจฉัยที่อยู่ในสี่ชุดข้อมูล ซึ่งรวมถึงการตายของกล้ามเนื้อหัวใจและความผิดปกติของ ECG อื่น ๆ; ภาวะของปอด; และผลลัพธ์สำคัญที่กว้างขวางขึ้น

ในเชิงปฏิบัติ โมเดลสร้างผลลบปลอมเพิ่มขึ้นเมื่อสุขภาพของผู้ป่วยเปลี่ยนแปลง; แต่เมื่อสุขภาพของผู้ป่วย ไม่ เปลี่ยนแปลง ความจำของโมเดลต่อบันทึกในอดีตทำให้มีความเป็นไปได้มากขึ้นที่จะให้การวินิจฉัยที่ถูกต้อง ทั้งความไวและความเฉพาะเจาะจงเพิ่มขึ้นเนื่องจากภาวะปัจจุบันของผู้ป่วย คล้ายกับภาวะที่ได้แสดงอยู่แล้วในข้อมูลการฝึก.

ผู้เขียนระบุว่าสิ่งนี้อาจทำให้ระบบดังกล่าวประเมินได้อย่างแม่นยำยาก: หากผู้ป่วยที่กลับมาส่วนใหญ่ยังคงมีภาวะเดิม โมเดลจะทำงานได้ดีกับพวกเขา ซึ่งอาจทำให้ความไวที่ต่ำลงต่อผู้ป่วยที่พัฒนาภาวะใหม่ถูกซ่อนอยู่

วิธีแก้ไข

ในฐานะมาตรการป้องกันที่เป็นไปได้ นักวิจัยได้ทดสอบ ความเป็นส่วนตัวเชิงต่าง (ซึ่งจำกัดปริมาณข้อมูลใด ๆ ของตัวอย่างการฝึกแต่ละรายการที่โมเดลสามารถเก็บรักษาได้) ระหว่างการฝึก

แม้การปกป้องบันทึกบุคคลจะลดผลกระทบของการจดจำลง แต่ก็ไม่ได้ขจัดมันออกไป แม้ในระดับการตั้งค่าที่แข็งแกร่งที่สุดที่ทดสอบ การใช้การปกป้องในระดับผู้ป่วย ครอบคลุมบันทึกทั้งหมดของบุคคลเดียวกัน มีประสิทธิภาพมากกว่าและเกือบจะขจัดผลกระทบนี้ออกไป

อย่างไรก็ตาม ควรสังเกตว่า หากชุดข้อมูลถูกทำให้เป็นนามแฝงอย่างถาวร ข้อมูลของผู้ป่วยไม่สามารถถูกแยกออกเป็นวงแหวนในลักษณะที่ทำให้วิธีการเหล่านี้ใช้ได้; และนักวิจัยสังเกตว่า หากชุดข้อมูลไม่ได้ฝึกด้วยความเป็นส่วนตัวเชิงต่าง การโจมตีการสรุปสมาชิก กลายเป็นความเสี่ยง; หากเปิดใช้งานแล้ว แหล่งทรัพยากรที่จำเป็นสำหรับการฝึกจะเพิ่มขึ้นอย่างมีนัยสำคัญ

สรุป

ผู้เขียนสรุปโดยสังเกตว่า แม้ว่ากรณีที่น่ากังวลในปัจจุบันเกิดขึ้นในอัตราที่ค่อนข้างต่ำ แต่สิ่งนี้อาจเปลี่ยนแปลงในอนาคต*:

‘มีเหตุผลที่จะคาดว่าจำนวนการวินิจฉัยที่พลาดซึ่งเกิดจากอคติการจดจำจะเพิ่มขึ้นในอนาคต แม้ว่าเราจะไม่ได้ทดสอบโดยตรง งานวิจัยก่อนหน้าแสดงให้เห็นว่าส่วนของข้อมูลการฝึกที่โมเดลจดจำได้เพิ่มขึ้นตามความจุของโมเดล [6, 7, 9, 10, 40]’

‘สิ่งนี้น่ากังวล เนื่องจากการพัฒนาโมเดล AI ปัจจุบันได้รับแนวทางจาก “scaling laws” [41] ซึ่งกระตุ้นการเติบโตอย่างรวดเร็วของขนาดโมเดลและชุดข้อมูลเพื่อแสวงหาประสิทธิภาพที่ดีขึ้น.’

‘เมื่อโมเดล AI ขนาดใหญ่ขึ้นได้รับการฝึกด้วยข้อมูลประวัติศาสตร์ที่มาจากประชากรผู้ป่วยที่เพิ่มขึ้นอย่างต่อเนื่อง จำนวนผู้ที่ได้รับผลกระทบจากอคติการจดจำในเชิงสัมบูรณ์คาดว่าจะเพิ่มขึ้นอย่างมาก ซึ่งทำให้ความเสี่ยงที่เราระบุไว้ที่นี่รุนแรงขึ้น.’

* การแปลงการอ้างอิงในบรรทัดของผู้เขียนเป็นลิงก์โดยอัตโนมัติของฉัน พร้อมการตีความบางส่วนเมื่อการทำซ้ำอย่างแม่นยำเป็นไปไม่ได้หรือไม่เป็นประโยชน์.

เผยแพร่ครั้งแรกวันศุกร์ที่ 18 กันยายน 2026. แก้ไขเวลา 18:17 EET เพื่อปรับปรุงลิงก์.