ปัญญาประดิษฐ์ในด้านการดูแลสุขภาพอาจนำมาซึ่งความเสี่ยงพร้อมกับโอกาส

ปัญญาประดิษฐ์มีศักยภาพอย่างมากเมื่อพูดถึงด้านการดูแลสุขภาพ สามารถปรับปรุงการวินิจฉัยและค้นหายาใหม่ที่มีประสิทธิภาพมากขึ้น อย่างไรก็ตาม ตามบทความใน Scientific American ที่พูดถึงเมื่อเร็วๆ นี้ ความเร็วที่ปัญญาประดิษฐ์เข้ามาในด้านการดูแลสุขภาพก็เปิดโอกาสให้เกิดความท้าทายและความเสี่ยงใหม่ๆ อีกมากมาย

ในช่วง 5 ปีที่ผ่านมา องค์การอาหารและยาสหรัฐฯ ได้อนุมัติผลิตภัณฑ์ปัญญาประดิษฐ์มากกว่า 40 รายการ อย่างไรก็ตาม ตามรายงานของ Scientific American ไม่มีผลิตภัณฑ์ใดที่ได้รับการอนุมัติสำหรับการขายในสหรัฐฯ ที่มีการประเมินประสิทธิภาพในงานวิจัยแบบสุ่มและมีการควบคุมหลายรายการ อุปกรณ์ทางการแพทย์หลายชนิดที่ใช้ปัญญาประดิษฐ์ไม่ต้องการการอนุมัติจากองค์การอาหารและยาสหรัฐฯ

Evan Topol ผู้เขียนหนังสือ “Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again” กล่าวแก่ Scientific American ว่าผลิตภัณฑ์ปัญญาประดิษฐ์หลายรายการซึ่งอ้างว่ามีประสิทธิภาพในการวินิจฉัยโรคไม่ได้ผ่านการทดสอบอย่างเข้มงวด โดยการทดลองแบบสุ่มครั้งแรกสำหรับเครื่องมือตรวจจับและวินิจฉัยโรคด้วยปัญญาประดิษฐ์ถูกทำขึ้นเมื่อเดือนตุลาคมที่ผ่านมา นอกจากนี้ ไม่มีบริษัทสตาร์ทอัพหลายแห่งที่ตีพิมพ์งานวิจัยในวารสารที่มีการทบทวนโดยผู้ทรงคุณวุฒิ ซึ่งเป็นที่ที่งานของพวกเขาจะถูกวิเคราะห์โดยนักวิทยาศาสตร์

เมื่อได้รับการทดสอบและควบคุมอย่างเหมาะสม ระบบปัญญาประดิษฐ์สามารถเป็นเครื่องมือที่ทรงพลังที่ช่วยให้แพทย์สามารถตรวจจับอาการที่ไม่สังเกตเห็นได้ และปรับปรุงผลลัพธ์ด้านสุขภาพ

ตัวอย่างเช่น เครื่องมือปัญญาประดิษฐ์สำหรับการตรวจจับโรคตาเบาหวานถูกทดสอบในผู้ป่วยหลายร้อยคนและดูเหมือนจะพิสูจน์ความน่าเชื่อถือ บริษัทที่รับผิดชอบในการทดสอบทำงานร่วมกับองค์การอาหารและยาสหรัฐฯ มาเกือบ 8 ปีเพื่อปรับปรุงผลิตภัณฑ์ การทดสอบ IDx-DR กำลังจะเข้าสู่คลินิกการดูแลสุขภาพหลักๆ ซึ่งอาจช่วยตรวจจับอาการแรกของโรคเบาหวานที่มีผลต่อตา และส่งต่อผู้ป่วยไปยังผู้เชี่ยวชาญด้านตา หากพบอาการที่น่าสงสัย

หากไม่ได้รับการทดสอบอย่างระมัดระวัง ระบบปัญญาประดิษฐ์ที่แพทย์อาจใช้ในการช่วยวินิจฉัยและรักษาอาจก่อให้เกิดอันตรายแทนการหลีกเลี่ยงมัน

บทความใน Scientific American ระบุปัญหาหนึ่งที่อาจเกิดขึ้นเมื่อใช้ปัญญาประดิษฐ์ในการวินิจฉัยโรค โดยอ้างถึงตัวอย่างของปัญญาประดิษฐ์ที่ตั้งใจวิเคราะห์ภาพรังสีหน้าอกและตรวจจับผู้ป่วยที่อาจพัฒนาเป็นปอดบวม แม้ว่าระบบจะพิสูจน์ความแม่นยำเมื่อทดสอบที่โรงพยาบาล Mount Sinai ในนิวยอร์ก แต่ก็ล้มเหลวเมื่อทดสอบบนภาพที่ถ่ายจากโรงพยาบาลอื่น ผู้วิจัยพบว่าปัญญาประดิษฐ์สามารถแยกแยะระหว่างภาพที่สร้างโดยเครื่องรังสีแบบพกพาและเครื่องรังสีในห้องรังสีวิทยา แพทย์ใช้เครื่องรังสีหน้าอกแบบพกพากับผู้ป่วยที่มักจะป่วยมากจนไม่สามารถออกจากเตียงได้ และผู้ป่วยเหล่านี้มีความเสี่ยงต่อการเกิดปอดบวมมากกว่า

การเตือนภัยที่ผิดๆ ก็เป็นเรื่องที่น่ากังวลเช่นกัน DeepMind สร้างแอปพลิเคชันบนมือถือที่สามารถคาดการณ์การล้มเหลวของไตเฉียบพลันในผู้ป่วยที่รับการรักษาในโรงพยาบาลล่วงหน้า 48 ชั่วโมง อย่างไรก็ตาม ระบบ รายงาน ว่า มีการเตือนภัยที่ผิดๆ สองครั้ง สำหรับการล้มเหลวของไตที่คาดการณ์ได้สำเร็จ การเตือนภัยที่ผิดสามารถเป็นอันตรายได้ เนื่องจากอาจทำให้แพทย์ใช้เวลาและทรัพยากรที่ไม่จำเป็นในการสั่งการทดสอบเพิ่มเติมหรือเปลี่ยนแปลงการรักษาที่กำหนดไว้

ในอีกเหตุการณ์หนึ่ง ระบบปัญญาประดิษฐ์สรุปอย่างไม่ถูกต้องว่าผู้ป่วยที่มีโรคปอดบวมมีโอกาสรอดชีวิตมากกว่าหากพวกเขาเป็นโรคหอบหืด ซึ่งอาจทำให้แพทย์เปลี่ยนแปลงการรักษาในผู้ป่วยที่เป็นโรคหอบหืด

ระบบปัญญาประดิษฐ์ที่พัฒนาสำหรับโรงพยาบาลหนึ่งๆ มักจะทำงานไม่ดีเมื่อใช้ในโรงพยาบาลอื่น มีสาเหตุหลายประการสำหรับเรื่องนี้ ประการหนึ่ง ระบบปัญญาประดิษฐ์มักจะถูกฝึกอบรมโดยใช้บันทึกสุขภาพอิเล็กทรอนิกส์ แต่บันทึกสุขภาพอิเล็กทรอนิกส์หลายรายการมักจะไม่สมบูรณ์หรือไม่ถูกต้อง เนื่องจากวัตถุประสงค์หลักของพวกมันคือการเรียกเก็บเงิน ไม่ใช่การดูแลผู้ป่วย ตัวอย่างเช่น การสืบสวน ที่ดำเนินการโดย KHN พบว่าบางครั้งมีข้อผิดพลาดที่เป็นอันตรายต่อชีวิตในบันทึกทางการแพทย์ของผู้ป่วย เช่น รายการยาที่มียาไม่เหมาะสม นอกจากนี้ โรคมักจะซับซ้อน และระบบการดูแลสุขภาพมีความซับซ้อนที่ไม่สามารถคาดการณ์ได้โดยวิศวกรและนักวิทยาศาสตร์ปัญญาประดิษฐ์

เมื่อปัญญาประดิษฐ์กลายเป็นที่แพร่หลายมากขึ้น จะเป็นสิ่งสำคัญสำหรับนักพัฒนาปัญญาประดิษฐ์ที่จะต้องทำงานร่วมกับหน่วยงานด้านสุขภาพเพื่อให้แน่ใจว่าระบบปัญญาประดิษฐ์ของตนได้รับการทดสอบอย่างละเอียด และสำหรับหน่วยงานกำกับดูแลที่จะต้องกำหนดและบังคับใช้มาตรฐานสำหรับความน่าเชื่อถือของเครื่องมือวินิจฉัยปัญญาประดิษฐ์