ข้อมูลการแพทย์ที่ไม่ระบุตัวตนตั้งแต่หลายทศวรรษที่แล้วอาจทำให้ AI วินิจฉัยผิดพลาดได้ในตอนนี้

ตามการร่วมมือวิจัยใหม่ระหว่างเยอรมนีและสหราชอาณาจักร บันทึกผู้ป่วยที่ไม่ระบุตัวตนซึ่งถูกรวมอยู่ในชุดข้อมูลการแพทย์ตั้งแต่หลายทศวรรษที่ผ่านมาอาจทำให้ระบบ AI ที่ฝึกด้วยข้อมูลเหล่านั้นจำแนกลักษณะของ ผู้ป่วยจริง ได้หลายปีต่อมา – และปฏิบัติต่อผู้ป่วยในปี 2026 เหมือนกับว่าเป็นปี 2012 (หรือปีใดก็ตามที่ข้อมูลผู้ป่วยที่ไม่ระบุตัวตนของพวกเขาถูกนำเข้าชุดข้อมูลเป็นครั้งแรก)

ซึ่งอาจหมายความว่า ตัวอย่างเช่น ผู้ป่วยที่บันทึกว่ากำลังรับการรักษามะเร็งเมื่อ 20 ปีที่แล้ว และต่อมามีการอยู่ในภาวะสงบสุขระยะยาว อาจตอนนี้ถูกระบบ AI ปฏิบัติ ในบริบทของตัวเองที่เคยเป็นมะเร็งในอดีต – ซึ่งอาจเพิ่มโอกาสของการวินิจฉัยว่ามีการกลับมาของโรคอย่างผิดพลาด

ในทางกลับกัน หากข้อมูลของผู้ป่วยในเวอร์ชันปี 2012 แสดงถึงสุขภาพที่สมบูรณ์ในการตรวจสุขภาพประจำทั่วไป แนวคิดเชิงบวกนี้อาจถูกนำไปใช้กับ เวอร์ชันที่เก่าและปัจจุบัน ของผู้ป่วย ทำให้การตรวจพบสภาวะหรือปัญหาใหม่ที่อาจต้องการการรักษาถูกซ่อนเร้น

จากงานวิจัยใหม่ แสดงภาพว่าการเอนเอียงของการจดจำอาจส่งผลต่อผู้ป่วยที่กลับมา โมเดลที่ฝึกด้วย ECG สุขภาพดีของ Alice ในอดีตให้ความน่าจะเป็นเพียง 15% กับการเกิดหัวใจวายในภายหลังของเธอ เมื่อเทียบกับ 73% สำหรับโมเดลที่ไม่เคยเห็นบันทึกประวัติของเธอ แหล่งที่มา

การจำกัด ‘การย้ายข้อมูล’

สถานการณ์นี้มีความเป็นไปได้มากขึ้นจากแนวทางระดับชาติและภูมิภาคหลายฉบับที่แนะนำให้ข้อมูลผู้ป่วยสำหรับวัตถุประสงค์ดังกล่าวควรได้รับมาจากประเทศที่ระบบที่พัฒนาจากข้อมูลเหล่านั้นตั้งใจจะใช้งาน ซึ่งทำให้กลุ่มผู้ป่วยในชุดข้อมูล ‘ท้องถิ่น’ มากขึ้น และเพิ่มโอกาสของเหตุการณ์การเปิดเผยตัวตนที่ไม่ตรวจจับได้แบบนี้อย่างชัดเจน

โดยอ้อม การจำกัดปริมาณข้อมูลให้มีเพียงชุดข้อมูลระดับชาติเท่านั้นเพิ่มโอกาสของ การจดจำ – ความเป็นไปได้ที่โมเดลจะเห็นข้อมูลเดียวกันหลายครั้งระหว่างการฝึกจนกลายเป็น ‘จมอยู่’ กับรูปแบบที่เรียนรู้เกินไป ในทางกลับกัน ชุดข้อมูลที่ใหญ่และหลากหลายยิ่งขึ้น ยิ่งมีแนวโน้มที่โมเดลจะ ทำให้ทั่วไป กับข้อมูลที่ไม่เคยเห็นหลังการฝึก แทนที่จะจดจำจุดข้อมูลหรือการกำหนดค่าเฉพาะ

อย่างไรก็ตาม การเพิ่มข้อมูลการแพทย์ ‘ต่างประเทศ’ มีความเสี่ยงที่จะนำเสนอหลักฐานของแนวโน้มสุขภาพของชาติและลักษณะเฉพาะที่อาจไม่ตรงกับประเทศที่โมเดลที่ฝึกแล้วจะถูกนำไปใช้; ในแง่นี้ ตามที่ งานวิจัยใหม่ ยอมรับ การจดจำในระดับหนึ่งเป็นสิ่งที่เหมาะสมและมีประโยชน์ เนื่องจากช่วยให้โมเดลทำงานภายในลักษณะทางการแพทย์ทั่วไปที่เป็นไปได้มากที่สุดของประชากรเฉพาะกลุ่ม

บทความระบุ*:

‘[When] โมเดลที่นำไปใช้เชิงรุก การจดจำสร้างความเสี่ยงที่เฉพาะเจาะจงและมักถูกมองข้าม เนื่องจากบันทึกของผู้ป่วยมีความคล้ายคลึงกันอย่างสูงตามกาลเวลา บันทึกในอนาคตอาจทำหน้าที่เป็นสัญญาณบางส่วนสำหรับบันทึกประวัติที่จดจำไว้ ทำให้การพยากรณ์ของโมเดลเปลี่ยนไปสู่สภาวะสุขภาพก่อนหน้าของผู้ป่วย’

นี่ไม่ใช่สถานการณ์เชิงสมมุติ โมเดล AI ทางการแพทย์มักถูกนำไปใช้กับประชากรเดียวกันที่เป็นแหล่งที่มาของข้อมูลการฝึกของพวกมัน

‘ตัวอย่างเช่น โครงการคัดกรองมะเร็งเต้านมระดับชาติของเยอรมนี โครงการ ใช้ โมเดล AI ที่ฝึกด้วยภาพแมมโมแกรม 1.2 ล้านภาพที่มาจากประชากรการคัดกรองเดียวกันที่ตอนนี้ให้บริการ’

‘การใช้งานที่คล้ายคลึงกำลังดำเนินการในที่อื่น รวมถึงโครงการคัดกรองมะเร็งเต้านมระดับชาติ ในสหราชอาณาจักร และ สวีเดน.’

‘แนวทางการกำกับดูแลสนับสนุนอย่างแข็งขัน โดย EU AI Act กำหนดให้ข้อมูลการฝึกต้องสะท้อนสภาพภูมิศาสตร์และบริบทของการใช้งานที่ตั้งใจ (มาตรา 10(4)) และ แนวทางระหว่างประเทศที่คล้ายคลึง สำหรับการพัฒนา AI ทางการแพทย์เรียกร้องให้ประชากรผู้ป่วยที่ตั้งใจไว้ได้รับการเป็นตัวแทนอย่างเพียงพอในชุดข้อมูลการฝึกของโมเดล’

หายนะประวัติศาสตร์ที่คงอยู่..?

แม้ว่าบทความจะไม่ได้พูดถึงเรื่องนี้ แต่ดูเหมือนว่าตามตรรกะสถิติ ผู้ป่วยที่ไม่ได้เข้ารับการตรวจสุขภาพเป็นประจำตลอดชีวิต และบันทึกที่ไม่ระบุตัวตนของพวกเขาเข้าสู่กระแสข้อมูล AI อย่างเป็นระยะ ๆ มีแนวโน้มที่จะปรากฏในข้อมูลผู้ป่วยที่ไม่ระบุตัวตน เกือบทั้งหมดในช่วงที่พวกเขาต้องการการรักษา – ซึ่งจะทำให้โอกาสของการ ‘ฉาย’ สภาวะที่เคยหายไปนานแล้วไปยังผู้ป่วยเดียวกันในปัจจุบันเพิ่มขึ้น เนื่องจากบันทึกไม่มีการสมดุลด้วย ‘สุขภาพดี’

สิ่งนี้ได้รับการสนับสนุนจาก งานวิจัยก่อนหน้า เกี่ยวกับ ‘อคติการปรากฏตัวที่มีข้อมูล’ ในบันทึกสุขภาพอิเล็กทรอนิกส์ พบว่าชุดข้อมูลการแพทย์มีการแทนช่วงเวลาที่ผู้ป่วยป่วยและมีปฏิสัมพันธ์กับบริการสุขภาพอย่างไม่สมดุล

หนึ่งการศึกษา พบว่าผู้ป่วยที่อยู่ในภาวะวิกฤตมีจำนวนวันที่มีข้อมูลห้องปฏิบัติการมากกว่า 5.05 เท่าและจำนวนวันที่มีคำสั่งยามากกว่า 6.85 เท่าเมื่อเทียบกับผู้ป่วยที่สุขภาพดีที่สุด

ในปี 2022 ประมาณ 76% ของผู้ใหญ่ในสหรัฐอเมริกาที่ รายงาน ว่ามีการตรวจสุขภาพประจำปีในปีที่ผ่านมา ซึ่ง CDC นิยามว่าเป็นการตรวจร่างกายทั่วไป ไม่ใช่การรักษาโรคเฉพาะ; และในยุโรป การสำรวจหลายประเทศในปี 2023 ที่ พบ ว่า 58% เข้าร่วมการตรวจสุขภาพเชิงป้องกันบางส่วน; แต่เพียง 15% เท่านั้นที่เข้าร่วมการตรวจสุขภาพเชิงป้องกันทั้งหมดที่พิจารณาว่าเกี่ยวข้องกับตนเอง

ขอบเขตของผลกระทบ

การศึกษาได้ทดสอบผลกระทบในสี่ชุดข้อมูลทางการแพทย์ขนาดใหญ่ ซึ่งครอบคลุมการบันทึก ECG, ภาพเอ็กซเรย์ทรวงอก, และบันทึกสุขภาพอิเล็กทรอนิกส์; ได้แก่ ฐานข้อมูลภาพเอ็กซเรย์ทรวงอก MIMIC-CXR และบันทึกการดูแลฉุกเฉิน MIMIC-IV-ED, พร้อมกับ MIMIC-ECG และชุดข้อมูล ECG ขนาดใหญ่กว่าอย่างมาก HEEDB ชุดข้อมูลเหล่านี้มีขนาดตั้งแต่หลายหมื่นคนจนถึงมากกว่า 1.8 ล้านคน

ผู้เขียนระบุว่าผลกระทบที่คำนวณได้มีความแตกต่างอย่างมาก โดยการเปลี่ยนแปลงความน่าจะเป็นที่คาดการณ์เกิน 70 จุดเปอร์เซ็นต์ในบางกรณี:

ผลลัพธ์ที่แสดงว่าข้อมูลผู้ป่วยในอดีตเปลี่ยนการคาดการณ์ในภายหลัง แผงด้านบนเปรียบเทียบความถี่และขนาดของการเปลี่ยนแปลงเหล่านี้ในสี่ชุดข้อมูล; ส่วนแผงด้านล่างแสดงว่าผลกระทบเปลี่ยนแปลงอย่างไรตามระยะเวลาตั้งแต่บันทึกการฝึกสุดท้ายของผู้ป่วย. ผลกระทบที่สำคัญจะน้อยลงตามเวลา แต่ยังคงตรวจพบได้หลายทศวรรษต่อมา.

เป็นการควบคุม นักวิจัยได้แบ่งโมเดลเป็นกลุ่มแบบสุ่มและทำการเปรียบเทียบซ้ำ แม้ว่าจะไม่พบการเปลี่ยนแปลงที่สำคัญในการคาดการณ์ในอนาคต

ผลกระทบตามที่กระดาษระบุอาจคงอยู่ได้หลายทศวรรษ แม้ว่าจะโดยทั่วไปอ่อนลงและน้อยลงเมื่อช่วงเวลาระหว่างบันทึกเพิ่มขึ้น แต่ชุดข้อมูล HEEDB ซึ่งรวม ECG ที่เก็บตั้งแต่ทศวรรษ 1980 ถึง 2025 แสดงการเปลี่ยนแปลงที่สำคัญในการคาดการณ์ มากกว่า 25 ปี หลังจากบันทึกการฝึกล่าสุดของผู้ป่วย

อันตรายจากการวินิจฉัย

นักวิจัยของกระดาษใหม่ – ชื่อว่า Memorisation bias in medical AI – ได้จำลองว่าการจดจำอาจส่งผลต่อความแม่นยำของการวินิจฉัยอย่างไรเมื่อผู้ป่วยในภายหลังเจอโมเดลที่ฝึกด้วยบันทึกก่อนหน้า

กรณีในอนาคตถูกแบ่งตามว่าผู้ป่วยได้พัฒนาเงื่อนไขใหม่หรือไม่; ไม่ปรากฏในข้อมูลการฝึกในอดีต; หรือว่าผู้ป่วยกลับมาพร้อมกับสภาพสุขภาพที่แทบไม่เปลี่ยนแปลง

สำหรับเงื่อนไขใหม่ ผลกระทบแสดงให้เห็นเป็นลบอย่างต่อเนื่อง โดยโมเดลที่เคยเห็นบันทึกประวัติของผู้ป่วยจะมีความไวต่ำลงในหลายการวินิจฉัยที่ปรากฏในสี่ชุดข้อมูล ซึ่งรวมถึงการอุดตันและความผิดปกติของ ECG อื่น ๆ; ภาวะปอด; และผลลัพธ์สำคัญที่กว้างขวาง

ในแง่ปฏิบัติ โมเดลสร้างผลลบเท็จมากขึ้นเมื่อสุขภาพของผู้ป่วยเปลี่ยนแปลง; แต่เมื่อสุขภาพของผู้ป่วย ไม่ เปลี่ยนแปลง ความจำของโมเดลต่อบันทึกก่อนหน้าจะทำให้มีโอกาสให้การวินิจฉัยที่ถูกต้องมากขึ้น ทั้งความไวและความจำเพาะเพิ่มขึ้นเนื่องจากสภาพปัจจุบันของผู้ป่วย คล้ายกับสภาพที่มีอยู่แล้วในข้อมูลการฝึก

ผู้เขียนระบุว่าปรากฏการณ์นี้อาจทำให้ระบบดังกล่าวประเมินได้ยากอย่างแม่นยำ: หากผู้ป่วยที่กลับมามากส่วนใหญ่ยังคงมีเงื่อนไขเดิม โมเดลจะทำงานได้ดีขึ้นกับพวกเขา ซึ่งอาจทำให้ความไวที่ต่ำต่อผู้ป่วยที่พัฒนาเงื่อนไขใหม่ถูกซ่อนอยู่

วิธีแก้ไข

เป็นมาตรการป้องกันหนึ่ง นักวิจัยได้ทดสอบ ความเป็นส่วนตัวเชิงแตกต่าง (ซึ่งจำกัดปริมาณข้อมูลของตัวอย่างการฝึกแต่ละรายการที่โมเดลสามารถเก็บรักษาได้) ระหว่างการฝึก

แม้ว่าการปกป้องบันทึกบุคคลจะลดผลกระทบจากการจดจำลง แต่ไม่ได้ขจัดออกไปเลย แม้ในระดับการตั้งค่าที่เข้มข้นที่สุด การใช้การปกป้องระดับผู้ป่วย ครอบคลุมบันทึกทั้งหมดของบุคคลเดียวกัน มีประสิทธิภาพมากกว่าและเกือบจะขจัดผลกระทบได้ทั้งหมด

อย่างไรก็ตาม ควรสังเกตว่า หากชุดข้อมูลถูกทำให้เป็นนามแฝงอย่างถาวร ข้อมูลของผู้ป่วยไม่สามารถแยกออกเป็นวงแหวนเพื่อใช้วิธีดังกล่าวได้; และนักวิจัยสังเกตว่า หากชุดข้อมูลไม่ได้ฝึกด้วยความเป็นส่วนตัวเชิงแตกต่าง การโจมตีแบบสืบค้นสมาชิก จะกลายเป็นความเสี่ยง; หากเปิดใช้แล้ว ทรัพยากรที่จำเป็นสำหรับการฝึกจะเพิ่มขึ้นอย่างมีนัยสำคัญ

สรุป

ผู้เขียนสรุปโดยสังเกตว่า แม้ว่ากรณีที่น่ากังวลในปัจจุบันจะเกิดขึ้นในอัตราที่ค่อนข้างต่ำ แต่สิ่งนี้อาจเปลี่ยนแปลงในอนาคต*

‘มีเหตุผลที่จะคาดว่าจำนวนการวินิจฉัยที่พลาดซึ่งเกิดจากอคติการจดจำจะเพิ่มขึ้นในอนาคต แม้ว่าเราจะไม่ได้ทดสอบโดยตรง งานวิจัยก่อนหน้าแสดงให้เห็นว่าส่วนของข้อมูลการฝึกที่โมเดลจดจำได้เพิ่มขึ้นตามความจุของโมเดล [6, 7, 9, 10, 40].’

‘นี่เป็นเรื่องที่น่ากังวล เนื่องจากการพัฒนาโมเดล AI ในปัจจุบันได้รับแนวทางจาก “กฎการขยายขนาด” [41] ซึ่งกระตุ้นการเติบโตอย่างรวดเร็วของทั้งขนาดโมเดลและชุดข้อมูลเพื่อแสวงหาประสิทธิภาพที่ดีขึ้น.’

‘เมื่อโมเดล AI ขนาดใหญ่ขึ้นได้รับการฝึกด้วยข้อมูลประวัติศาสตร์ที่มาจากประชากรผู้ป่วยที่เพิ่มขึ้นอย่างต่อเนื่อง จำนวนผู้ที่ได้รับผลกระทบจากอคติการจดจำในเชิงสัมบูรณ์คาดว่าจะเพิ่มขึ้นอย่างมาก ซึ่งทำให้ความเสี่ยงที่เราระบุไว้ที่นี่รุนแรงขึ้น.’

* การแปลงการอ้างอิงในบรรทัดของผู้เขียนเป็นลิงก์โดยอัตโนมัติของฉัน พร้อมการตีความบางส่วนเมื่อการทำซ้ำอย่างแม่นยำเป็นไปไม่ได้หรือไม่เป็นประโยชน์.

เผยแพร่ครั้งแรกวันศุกร์ที่ 18 กันยายน 2026