ปัญญาประดิษฐ์ในด้านการแพทย์อาจนำมาซึ่งความเสี่ยงพร้อมกับโอกาส

ปัญญาประดิษฐ์มีศักยภาพอย่างมากในด้านการแพทย์ สามารถช่วยปรับปรุงการวินิจฉัยและค้นหายาใหม่ที่มีประสิทธิภาพมากขึ้น อย่างไรก็ตาม ตามบทความใน Scientific American ที่พูดถึงเรื่องนี้เมื่อเร็วๆ นี้ ความเร็วที่ปัญญาประดิษฐ์เข้ามาในด้านการแพทย์ cũngเปิดโอกาสให้เกิดความท้าทายและความเสี่ยงใหม่ๆ มากมาย

ในช่วง 5 ปีที่ผ่านมา องค์การอาหารและยาสหรัฐฯ ได้อนุมัติผลิตภัณฑ์ปัญญาประดิษฐ์มากกว่า 40 รายการ อย่างไรก็ตาม ตามรายงานของ Scientific American ไม่มีผลิตภัณฑ์ใดที่ได้รับการอนุมัติสำหรับการขายในสหรัฐฯ ที่มีการประเมินประสิทธิภาพในแบบทดลองทางคลินิกแบบสุ่มและควบคุมหลายครั้ง อุปกรณ์ทางการแพทย์หลายชนิดที่ใช้ปัญญาประดิษฐ์ไม่ต้องการการอนุมัติจากองค์การอาหารและยาสหรัฐฯ เลย

อีแวนตอปอล์ ผู้เขียนหนังสือ “Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again” กล่าวกับ Scientific American ว่าผลิตภัณฑ์ปัญญาประดิษฐ์หลายรายการที่อ้างว่าสามารถวินิจฉัยโรคได้อย่างมีประสิทธิภาพจริงๆ แล้วไม่ได้ผ่านการทดสอบอย่างเข้มงวด ในเดือนตุลาคมที่ผ่านมา มีการทดลองแบบสุ่มและควบคุมครั้งแรกสำหรับเครื่องมือปัญญาประดิษฐ์ในการตรวจจับและวินิจฉัย นอกจากนี้ ยังมีไม่กี่สตาร์ทอัพด้านเทคโนโลยีที่ตีพิมพ์ผลงานวิจัยใน जर널ที่มีการรีวิวโดยผู้ทรงคุณวุฒิ ซึ่งเป็นที่ที่งานวิจัยของพวกเขาจะถูกวิเคราะห์โดยนักวิทยาศาสตร์

เมื่อได้รับการทดสอบและควบคุมอย่างเหมาะสม ระบบปัญญาประดิษฐ์สามารถเป็นเครื่องมือที่ทรงพลังที่ช่วยให้แพทย์สามารถตรวจจับสัญญาณที่ไม่สังเกตเห็นได้ และปรับปรุงผลลัพธ์ด้านสุขภาพ

ตัวอย่างเช่น เครื่องมือปัญญาประดิษฐ์สำหรับการตรวจจับโรคตาด้วยเบต้าได้รับการทดสอบในผู้ป่วยหลายร้อยคนและดูเหมือนจะพิสูจน์ความน่าเชื่อถือได้ บริษัทที่รับผิดชอบในการทดสอบได้ทำงานร่วมกับองค์การอาหารและยาสหรัฐฯ มาเกือบ 8 ปีเพื่อปรับปรุงผลิตภัณฑ์ การทดสอบ IDx-DR กำลังจะถูกนำไปใช้ในคลินิกการแพทย์ปฐมภูมิ ซึ่งอาจช่วยตรวจจับอาการเริ่มแรกของโรคตาด้วยเบต้าและอ้างอิงผู้ป่วยไปยังผู้เชี่ยวชาญด้านตา หากพบอาการที่น่าสงสัย

หากไม่ได้รับการทดสอบอย่างระมัดระวัง ระบบปัญญาประดิษฐ์ที่แพทย์ใช้ในการช่วยเหลือการวินิจฉัยและรักษาอาจก่อให้เกิดอันตรายได้มากกว่าที่จะช่วยป้องกัน

บทความใน Scientific American ระบุปัญหาหนึ่งที่อาจเกิดขึ้นเมื่อใช้ปัญญาประดิษฐ์ในการวินิจฉัยโรค โดยอ้างถึงตัวอย่างของปัญญาประดิษฐ์ที่ออกแบบมาเพื่อวิเคราะห์ภาพรังสีหน้าอกและตรวจจับผู้ป่วยที่อาจมีโรคปอดบวม แม้ว่าระบบจะพิสูจน์ความแม่นยำเมื่อทดสอบที่โรงพยาบาล Mount Sinai ในนิวยอร์ก แต่ก็ล้มเหลวเมื่อทดสอบในโรงพยาบาลอื่นๆ นักวิจัยพบว่าปัญญาประดิษฐ์สามารถแยกแยะระหว่างภาพที่สร้างโดยเครื่องรังสีแบบพกพาและเครื่องรังสีในห้องรังสีวิทยาได้ แพทย์ใช้เครื่องรังสีแบบพกพากับผู้ป่วยที่ป่วยมากจนไม่สามารถออกจากเตียงได้ และผู้ป่วยเหล่านี้มีความเสี่ยงสูงในการเกิดโรคปอดบวม

การเตือนภัยที่ไม่ถูกต้องก็เป็นปัญหาเช่นกัน DeepMind สร้างแอปมือถือปัญญาประดิษฐ์ที่สามารถคาดการณ์การล้มเหลวของไตในผู้ป่วยในโรงพยาบาลล่วงหน้า 48 ชั่วโมง อย่างไรก็ตาม ระบบนี้รายงานว่าให้การเตือนภัยที่ไม่ถูกต้องสองครั้งสำหรับการล้มเหลวของไตที่คาดการณ์ได้สำเร็จ การเตือนภัยที่ไม่ถูกต้องอาจเป็นอันตรายได้ เนื่องจากอาจทำให้แพทย์ใช้เวลาและทรัพยากรที่ไม่จำเป็นในการสั่งการทดสอบเพิ่มเติมหรือเปลี่ยนแปลงการรักษาที่กำหนด

ในอีกเหตุการณ์หนึ่ง ระบบปัญญาประดิษฐ์หนึ่งสรุปว่าผู้ป่วยที่มีโรคปอดบวมมีโอกาสรอดชีวิตมากกว่าหากพวกเขาเป็นโรคหอบหืด ซึ่งอาจทำให้แพทย์เปลี่ยนแปลงการรักษาผู้ป่วยที่เป็นโรคหอบหืด

ระบบปัญญาประดิษฐ์ที่พัฒนาขึ้นสำหรับโรงพยาบาลหนึ่งๆ มักจะทำงานไม่ได้ดีในโรงพยาบาลอื่นๆ มีหลายสาเหตุสำหรับปัญหานี้ หนึ่งในนั้นคือระบบปัญญาประดิษฐ์มักจะถูกฝึกฝนจากบันทึกสุขภาพอิเล็กทรอนิกส์ แต่บันทึกเหล่านี้มักจะไม่สมบูรณ์หรือไม่ถูกต้อง เนื่องจากวัตถุประสงค์หลักของบันทึกเหล่านี้มักเป็นการเรียกเก็บเงินมากกว่าการดูแลผู้ป่วย ตัวอย่างเช่น การสืบสวนที่ดำเนินการโดย KHN พบว่ามีข้อผิดพลาดที่เป็นอันตรายต่อชีวิตในบันทึกทางการแพทย์ของผู้ป่วย เช่น รายการยาที่มียาไม่เหมาะสม นอกจากนี้ โรคมักจะซับซ้อนกว่าที่วิศวกรและนักวิทยาศาสตร์ปัญญาประดิษฐ์สามารถคาดการณ์ได้ และระบบสุขภาพก็ซับซ้อนกว่าที่คาดไว้

เมื่อปัญญาประดิษฐ์กลายเป็นสิ่งที่พบเห็นได้ทั่วไปมากขึ้น จะเป็นสิ่งสำคัญสำหรับนักพัฒนาปัญญาประดิษฐ์ที่จะทำงานร่วมกับหน่วยงานสาธารณสุขเพื่อให้แน่ใจว่าระบบปัญญาประดิษฐ์ของพวกเขาจะได้รับการทดสอบอย่างละเอียด และสำหรับหน่วยงานกำกับดูแลที่จะกำหนดและบังคับใช้มาตรฐานสำหรับความน่าเชื่อถือของเครื่องมือวินิจฉัยปัญญาประดิษฐ์