ทำไมโมเดล AI จึงไม่สามารถแก้ปัญหาหลักของการวินิจฉัยรังสีวิทยา

งานส่วนใหญ่ของ AI ในรังสีวิทยาในปัจจุบันมุ่งเน้นไปที่โมเดลการวินิจฉัย โดยมุ่งเน้นไปที่การปรับปรุงความแม่นยำโดยการฝึกอบรมบนข้อมูลมากขึ้นและปรับปรุงโมเดล การ 접근นี้มองว่ารังสีวิทยาเป็นหลักเป็นงานการรู้จำภาพ โดยที่การตรวจจับที่ดีขึ้นจะช่วยปรับปรุงระบบทั้งหมด เมื่อมองดูครั้งแรก นี่ดูเหมือนจะเป็นเรื่องที่สมเหตุสมผล แต่มันพลาดประเด็นหลักไป

ปัญหาหลักในรังสีวิทยาเป็นว่าการวินิจฉัยนั้นถูกสร้างขึ้นอย่างไร มันไม่ใช่ข้อจำกัดของการรู้จำรูปแบบ แต่เป็นวิธีการจัดองค์กรและตัดสินใจ และการปรับปรุงโมเดลไม่ได้แก้ปัญหานั้น ต่อไปนี้เราจะมาดูว่าทำไมจึงเกิดขึ้นและสิ่งที่ต้องเปลี่ยนแปลงมากกว่าความแม่นยำของโมเดล

ปัญหาเป็นโครงสร้าง

โมเดล CV ช่วยในการรู้จำรูปแบบในภาพ ในการศึกษาที่ควบคุมได้ พวกมันสามารถให้ผลการทำงานที่เทียบเท่ากับรังสีวิทยา โดยมีค่า AUC มากกว่า 0.90 และในบางกรณีการ筛查 สามารถให้ผลการทำงานที่เทียบเท่ากับหรือมากกว่าผู้เชี่ยวชาญ

ในขณะเดียวกัน พวกมันทำงานเฉพาะกับข้อมูลภาพเท่านั้น พวกมันเน้นย้ำถึงการค้นพบที่เป็นไปได้ แต่ไม่ได้เข้าร่วมในการวินิจฉัยด้วย พวกมันไม่ได้รวมข้อมูลที่แตกต่างกันเข้าด้วยกันในการวินิจฉัยหรือชี้นำวิธีการตัดสินใจ ในหลายๆ ด้าน การตรวจจับการค้นพบไม่ใช่ข้อจำกัดหลักอีกต่อไป พวกมันถูกออกแบบมาเพื่อรู้จำรูปแบบ ไม่ใช่เพื่อเข้าร่วมในการวินิจฉัยเป็นกระบวนการ

ในทางปฏิบัติ นี่หมายความว่าโครงสร้างไม่ได้เปลี่ยนแปลง รังสีวิทยา vẫnต้องตรวจสอบผลลัพธ์และตัดสินใจสุดท้าย และการออกผลของ AI มักต้องการการยืนยันเพิ่มเติม ความรับผิดชอบยังคงอยู่กับแพทย์ กระบวนการไม่ได้เปลี่ยนแปลง อุปสรรคยังคงอยู่ แต่ละการศึกษายังคงถูกกำหนดให้กับรังสีวิทยาเพียงคนเดียวที่คาดหวังว่าจะตรวจสอบ ตีความ ตรวจสอบ และรายงาน

โมเดลไม่สามารถกลับไปที่การตัดสินใจของมันเองได้ หากมันทำผิดพลาด ไม่มีทางที่จะพิจารณากรณีนั้นอีกครั้งด้วยบริบทเพิ่มเติม ผลลัพธ์ยังคงไม่เปลี่ยนแปลง ในขณะที่การวินิจฉัยจริงต้องการการปรับเปลี่ยนอย่างต่อเนื่อง การออกผลของโมเดลเป็นแบบคงที่ ในขณะที่การให้เหตุผลทางคลินิกเป็นกระบวนการที่ซับซ้อน

วิกฤตของความไว้วางใจ

AI ในรังสีวิยา也ทำให้เกิดปัญหาเรื่องความไว้วางใจ

รังสีวิทยาไม่เพียงแต่ซักถามการออกผลของโมเดลเท่านั้น แต่ยังซักถามระบบที่อยู่เบื้องหลัง โดยเฉพาะอย่างยิ่งเมื่อ AI ถูกนำเสนอเป็นตัวแทนแทนที่จะเป็นเครื่องมือที่พวกเขาสามารถควบคุมได้ ความไว้วางใจในโมเดลไม่มั่นคง แพทย์ที่มีประสบการณ์น้อยอาจพึ่งพามันมากเกินไปและพลาดข้อผิดพลาด แพทย์ที่มีประสบการณ์มากกว่า หลังจากที่เกิดข้อผิดพลาดเพียงครั้งเดียว อาจหยุดใช้มัน ทั้งสองรูปแบบ — การพึ่งพาและไม่สนใจ — ทั้งสองแบบนำมาซึ่งความเสี่ยงใหม่ๆ แทนที่จะลดความเสี่ยง

หลังจากที่เกิดข้อผิดพลาด โมเดลมักจะถูกตัดออกจากกระบวนการตัดสินใจ มันไม่ได้ถูกใช้เป็นเครื่องมืออีกต่อไป แต่เพียงแค่ถูกละเลย ซึ่งทำให้การทำงานไม่ต่อเนื่องและจำกัดคุณค่าทางปฏิบัติ ในทางปฏิบัติ นี่ทำให้เกิดการใช้งานที่ไม่สม่ำเสมอแทนที่จะรวมเข้ากับกระบวนการทำงาน

สิ่งนี้สะท้อนถึงความขัดแย้งทางลึกกับวิธีการทำงานของการแพทย์ รังสีวิทยาไม่สามารถส่งต่อความรับผิดชอบในการวินิจฉัยให้กับระบบได้ ความรับผิดชอบทางคลินิกและทางกฎหมายยังคงอยู่กับแพทย์ การรักษา AI เป็นตัวแทนแทนที่จะเป็นเครื่องมือที่พวกเขาสามารถควบคุมได้ขัดแย้งกับโครงสร้างของการปฏิบัติทางการแพทย์

ภาพลวงตาของประสิทธิภาพ

AI ไม่ได้ลดงานของรังสีวิทยา มันเพิ่มชั้นของการควบคุม แพทย์ยังคงต้องตีความการศึกษาและยืนยันการออกผลของโมเดลด้วย ซึ่งทำให้เกิดงานสองเท่าแทนการประหยัดเวลา

ระบบอาจดูเร็วขึ้น แต่ในทางปฏิบัติเวลาเปลี่ยนไปสู่การตรวจสอบเพิ่มเติมแทนการลดลง เมื่อเวลาผ่านไป การสะสมของเครื่องมือเพิ่มภาระการทำงานโดยไม่ปรับปรุงวิธีการวินิจฉัยอย่างมีนัยสำคัญ

AI ยังทำให้เกิดการกระจายตัว มีโมเดลส่วนใหญ่ถูกสร้างขึ้นสำหรับงานแคบๆ: ภูมิภาคกายวิภาคศาสตร์เดียว โมดาลิตี้เดียว หรือพยาธิวิทยาเดียว เพื่อให้ครอบคลุมความต้องการทางคลินิกจริงๆ คลินิกต้องใช้โมเดลหลายๆ โมเดล

แต่ละโมเดลมีインターフェซ การรวม และข้อกำหนดการบำรุงรักษาของตนเอง ซึ่งเพิ่มความซับซ้อนของระบบและเพิ่มจุดโต้ตอบ

ข้อจำกัดของการขยาย AI

ด้วยการอัปเดตโมเดลใหม่ๆ ความไว้วางใจต้องถูกสร้างขึ้นใหม่ กระบวนการทำงานเริ่มปรับให้เข้ากับโมเดลแทนการสนับสนุนแพทย์ ซึ่งทำให้โฟกัสห่างจากการจับปรับปรุงระบบไปสู่การปรับให้เข้ากับเครื่องมือแต่ละตัว

สิ่งนี้ยิ่งทำให้การทำงานยากขึ้นโดยโมเดลส่วนใหญ่มุ่งเน้นไปที่งานแคบๆ ในทางปฏิบัติ นี่หมายความว่าคลินิกต้องใช้หลายโมเดลพร้อมๆ กัน โดยแต่ละโมเดลมีข้อจำกัด การรวม และต้นทุนของตนเอง ระบบยิ่งทำงานยากขึ้น

สิ่งที่เกิดขึ้นในทางปฏิบัติ

ในเครือข่ายคลินิกของเรา โดยมีการศึกษามากกว่าหนึ่งล้านการศึกษา MRI และ CT ที่ทำทุกปีในคลินิกมากกว่า 40 แห่งในสามประเทศ เราได้ใช้โมเดล AI หลายๆ โมเดล รวมถึงโซลูชันที่ได้รับการอนุมัติจาก FDA การตั้งค่าเรียบง่าย: โมเดลวิเคราะห์การศึกษาทางภาพ สร้างรายงาน และรังสีวิทยาตรวจสอบและยืนยันผลลัพธ์

ในทางปฏิบัติ รังสีวิทยาที่มีประสบการณ์ยังคงต้องตีความการศึกษาทุกๆ การศึกษาเองก่อนที่จะดูการออกผลของโมเดล การทำงานกับข้อความที่สร้างโดยโมเดลมักจะใช้เวลาและความพยายามมากกว่าการเขียนรายงานจากศูนย์เอง เนื่องจากไม่ตรงกับรูปแบบการรายงานของพวกเขา กระบวนการไม่ได้เร็วขึ้น และในหลายกรณีกลับช้าลง

พฤติกรรมของผู้ใช้สร้างความเสี่ยง เมื่อโมเดลเกิดข้อผิดพลาด รังสีวิทยาที่มีประสบการณ์มักจะสูญเสียความไว้วางใจและหยุดใช้ โมเดลแพทย์ที่มีประสบการณ์น้อยกว่า มีแนวโน้มที่จะพึ่งพาโมเดลมากเกินไป ซึ่งเพิ่มโอกาสที่จะพลาดข้อผิดพลาดและความเสี่ยงทางคลินิกและทางกฎหมายที่เกี่ยวข้อง

สิ่งเหล่านี้ชี้ให้เห็นว่ามีปัญหาหลักที่ลึกซึ้งยิ่งขึ้น การปรับปรุงเครื่องมือแต่ละตัวไม่ได้เปลี่ยนแปลงวิธีการทำงานของระบบ อุปสรรคอยู่ในกระบวนการที่สร้างขึ้นโดยมีรังสีวิทยาคนเดียวจัดการการศึกษาจากเริ่มต้นจนจบ การจำกัดเหล่านี้ทำให้ยากที่จะปรับปรุงระบบโดยการเพิ่มเครื่องมือเพียงอย่างเดียว

การคิดใหม่เกี่ยวกับระบบการวินิจฉัย

รังสีวิทยาสมัยใหม่สร้างขึ้นบนสมมติฐานเดียว: หนึ่งศึกษา หนึ่งรังสีวิทยา ซึ่งสร้างอุปสรรค ความผันผวน และจำกัดความสามารถในการปรับขนาด ปัญหาหลักไม่ใช่ว่าโมเดลมีข้อผิดพลาด ระบบไม่ได้ถูกสร้างขึ้นเพื่อทำงานร่วมกับพวกมัน

เครื่องมือที่ไม่ใช่แบบวนซ้ำถูกนำไปใช้ในกระบวนการที่ต้องใช้การวนซ้ำ ในการปฏิบัติทางคลินิก รังสีวิทยาไม่ใช่การตัดสินใจแบบผ่านไปครั้งเดียว การศึกษาบางครั้งแสดงให้เห็นว่าความไม่เห็นด้วยระหว่างการตีความครั้งแรกและครั้งที่สองเกิดขึ้นประมาณ 30% ของกรณี และความไม่เห็นด้วยที่มีนัยสำคัญทางคลินิกสามารถส่งผลกระทบต่อการบริหารจัดการในประมาณ 18-20% ของกรณี

ในวงกว้างทั่วทั้งการแพทย์ การให้ความเห็นครั้งที่สองนำไปสู่การเปลี่ยนแปลงการวินิจฉัยใน 10-62% ของกรณี ขึ้นอยู่กับบริบท

การไม่สามารถทบทวน โคーデียต และประเมินใหม่ด้วยบริบท ทำให้การออกผลของโมเดลยังคงไม่เปลี่ยนแปลง ในขณะที่การวินิจฉัยจริงต้องการการปรับเปลี่ยนอย่างต่อเนื่อง

ขั้นตอนต่อไปไม่ใช่การสร้างโมเดลที่แม่นยำยิ่งขึ้น แต่เป็นการออกแบบระบบการวินิจฉัยใหม่

การเปลี่ยนแปลงคือจากการใช้ AI เป็นเครื่องมือแยกกันต่อการบริหารจัดการการวินิจฉัยในแบบที่เป็นเอกภาพ — โดยที่การวินิจฉัยไม่ใช่การตัดสินใจเดียว แต่เป็นกระบวนการที่ถูกกำหนดเส้นทางและตีความผ่านขั้นตอนต่างๆ ข้อจำกัดไม่ใช่การขาดโมเดลที่ฉลาด แต่เป็นการขาดระบบที่สามารถจัดการการทำงานการวินิจฉัยเป็นกระบวนการ