Matthew Crowson, MD, ผู้อำนวยการ AI/GenAI Product Management ที่ Wolters Kluwer Health – ซีรีส์สัมภาษณ์

Dr. Matt Crowson เป็นผู้นำด้านเทคโนโลยีสำหรับสุขภาพและศัลยแพทย์ที่มุ่งเน้นการนำ AI ไปใช้ในทางคลินิก เขาเป็นผู้อำนวยการ AI/Generative AI Product ที่ Wolters Kluwer (WKL.SW ) Health โดยที่เขานำโครงการเพื่อปรับปรุงการวิเคราะห์ข้อมูลและข้อมูลในโลกแห่งความเป็นจริงก่อนหน้านี้ เขาเป็นผู้นำทีม AI ของ Deloitte สำหรับผู้ให้บริการด้านสุขภาพ โดยพัฒนาโซลูชัน AI ที่สร้างขึ้นเพื่อปรับปรุงการบันทึกข้อมูล การจัดการรายได้ และการวิจัย นอกจากนี้เขายังเป็นอาจารย์ผู้ช่วยที่ Harvard Medical School และเขียนบทความวิจัยมากกว่า 90 บทความ

Wolters Kluwer เป็นผู้ให้บริการข้อมูลระดับมืออาชีพ ซอฟต์แวร์ และบริการที่สนับสนุนลูกค้าในสาขาสุขภาพ การภาษีและการบัญชี กฎหมายและกฎระเบียบ การปฏิบัติตามกฎระเบียบทางการเงิน และ ESG มีสำนักงานใหญ่อยู่ในเนเธอร์แลนด์ บริษัทใช้ความเชี่ยวชาญด้านอุตสาหกรรมและเทคโนโลยีที่ทันสมัยเพื่อนำเสนอเครื่องมือที่ทำให้กระบวนการทำงานราบรื่น รับประกันการปฏิบัติตามกฎระเบียบ และสนับสนุนการตัดสินใจที่สำคัญ การดำเนินงานครอบคลุมมากกว่า 180 ประเทศ โดยมีบริการที่จัดระเบียบตามส่วนต่างๆ เช่น สุขภาพ การภาษีและการบัญชี กฎหมายและกฎระเบียบ การปฏิบัติตามกฎระเบียบทางการเงิน และการปฏิบัติตามกฎระเบียบขององค์กร

เรามาเริ่มต้นด้วยคำถามส่วนตัวกัน—คุณสร้างสมดุลระหว่างบทบาทของคุณในฐานะศัลยแพทย์ปฏิบัติงานและผู้นำผลิตภัณฑ์ AI อย่างไร บทบาททางคลินิกของคุณได้กำหนดมุมมองของคุณเกี่ยวกับสิ่งที่ AI ควรหรือไม่ควรเป็นในสาขาสุขภาพหรือไม่?

จริงๆ แล้ว? มันเริ่มต้นด้วยการวางแผนเวลาอย่างเข้มงวดและเครื่องทำกาแฟที่มีประสิทธิภาพสูง เช้าวันคลินิกจะทำให้ความสามารถในการดูแลผู้ป่วยของฉันซื่อสัตย์ ในขณะที่ส่วนที่เหลือของวันจะใช้ในการเปลี่ยนความเจ็บปวดในแนวหน้าเป็นข้อกำหนดของผลิตภัณฑ์ บทบาททั้งสองนี้เสริมซึ่งกันและกัน การเห็นศัลยแพทย์คลิกผ่านหน้าจอ 10 หน้าเพื่อสั่ง Tylenol คือทุกสิ่งที่ฉันต้องการในการวิจัยตลาด

โครงการ AI ล้มเหลวเมื่อไม่มีใครในห้องรู้สึกถึงความเจ็บปวด ข้อมูลการสำรวจ Future Ready Healthcare ของเราชี้ให้เห็นว่า 80% ของผู้นำระบุว่า “การเพิ่มประสิทธิภาพกระบวนการทำงาน” เป็นลำดับความสำคัญอันดับต้นๆ อย่างไรก็ตาม มีเพียง 63% เท่านั้นที่คิดว่าตนเองพร้อมที่จะทำเช่นนั้นด้วย GenAI (Generative AI) นี่คือช่องว่างระหว่างยุทธศาสตร์และการดำเนินการที่ผู้เชี่ยวชาญด้านโดเมนสามารถปิดช่องว่างได้โดยการถาม “ทำไม” ในทางคลินิกก่อนเขียนโค้ดเพียงบรรทัดเดียว

เลนส์ทางคลินิกของฉันยังทำให้ภารกิจเป็นไปอย่างจริงยิ่งขึ้น พนักงานในแนวหน้าบอกเราว่าจุดมุ่งหมายหลักของพวกเขาคือการแก้ไขการขาดแคลนพนักงาน (82%) การลดภาระการบริหาร (77%) และการลดการเผาไหม้ (76%) หากอัลกอริทึมไม่ทำให้เข็มวัดใดๆ เคลื่อนไหว มันคือการแสดงให้เห็นเท่านั้น ผู้เชี่ยวชาญด้านคลินิกจะเพิกเฉยอย่างรวดเร็ว

เลนส์นั้นยังทำให้ฉันระมัดระวังเกี่ยวกับสถานที่ที่ AI ไม่ ควรไป ในความเป็นจริง 57% ของผู้เชี่ยวชาญกังวลว่าการพึ่งพา GenAI มากเกินไปอาจทำให้ความสามารถในการตัดสินใจทางคลินิกลดลง แต่มีเพียง 18% เท่านั้นที่ระบุว่าองค์กรของตนได้เผยแพร่การคุ้มครองแล้ว จนกว่าการกำกับดูแลจะตามทัน ภารกิจคือการชัดเจน: การautomate เอกสาร ไม่ใช่การคิด

ดังนั้น สำหรับฉันแล้ว การสร้างสมดุลไม่ใช่เรื่องของกาแฟเทียบกับปฏิทิน แต่เป็นการรักษาเท้าหนึ่งในคลินิก เพื่อที่ฉันจะไม่ลืมว่า AI ควรให้บริการใคร และเท้าอีกข้างในผลิตภัณฑ์ เพื่อให้ความรู้นั้นถูกส่งออกไป ทำเช่นนั้นได้ดี และกาแฟก็เป็นเพียงโบนัสที่ดี

รายงานการสำรวจ Future Ready Healthcare จาก Wolters Kluwer เน้นย้ำถึงช่องว่างที่แข็งแกร่งระหว่างความกระตือรือร้นของ GenAI และการดำเนินงาน คุณตกใจกับผลลัพธ์ใดๆ หรือไม่? สิ่งใดที่โดดเด่นที่สุดสำหรับคุณ?

ฉันไม่ตกใจเลย ฉันยังไม่พบผู้เชี่ยวชาญด้านคลินิกที่ไม่เห็นด้วยกับการautomate อะไรที่ชะลอการปล่อยออกสู่ตลาดไม่ใช่ความกลัวของ “Skynet ในเครื่องแบบ” แต่เป็นความเจ็บปวดในประจำวันของการดำเนินงานด้านสุขภาพ การสำรวจทำให้ความเป็นจริงนั้นชัดเจนขึ้น ผู้นำ 8 ใน 10 คนจัดลำดับความสำคัญของ “การเพิ่มประสิทธิภาพกระบวนการทำงาน” เป็นอันดับต้นๆ แต่มีเพียง 6 ใน 10 เท่านั้นที่ระบุว่าตนเองพร้อมที่จะปล่อยให้ GenAI จัดการกับมัน ช่องว่างนั้นคือสิ่งที่ฉันเห็น: อันตรายด้านความรับผิดชอบ, ข้อมูลที่ดูเหมือนลิ้นชักมากกว่าทะเลสาบข้อมูล และแรงจูงใจทางการเงินที่ยังคงรางวัลปริมาณมากกว่าประสิทธิภาพ มีอุปสรรคอื่นๆ เช่น การฝึกอบรมที่ไม่เพียงพอ, ความเหนื่อยหน่ายของ IT ที่ซ่อนอยู่ และความคลุมเครือของกฎระเบียบ

สิ่งที่น่าประหลาดใจที่สุดคืออุปสรรคเหล่านั้นมีความเป็นปกติธรรมดา การขาดแคลนพนักงาน, การลากจูงการบริหาร และการเผาไหม้ครอบงำรายการกังวล แต่มีเพียง 18% ขององค์กรที่มีนโยบาย GenAI อย่างเป็นทางการ หากคุณไม่รู้ว่าใครลงนามในแบบจำลองหรือวิธีการตรวจสอบผลลัพธ์ ความกระตือรือร้นจะหายไปในสำนักงานการปฏิบัติตามกฎระเบียบ นอกจากนี้ 68% ของผู้ตอบแบบสอบถามระบุว่าค่าใช้จ่ายด้านแรงงานเป็นแรงกดดันทางการเงินที่สำคัญที่สุด และไม่น่าแปลกใจที่ผู้บริหารต้องการหลักฐานการลงทุนก่อนที่จะลงนามในใบเรียกเก็บเงินซอฟต์แวร์อีกครั้ง หัวข้อข่าวไม่ใช่ “ความกลัว AI” แต่เป็น “ความคิดที่ดี—แสดงให้เห็นถึงกระบวนการทำงานและกรณีธุรกิจ”

มากกว่าครึ่งหนึ่งของผู้เชี่ยวชาญด้านสุขภาพที่สำรวจกังวลว่า GenAI อาจทำให้ความสามารถในการตัดสินใจทางคลินิกลดลง คุณคิดว่าความกลัวนั้นถูกต้องหรือไม่ หรือสะท้อนถึงความกังวลที่ลึกซึ้งยิ่งขึ้นเกี่ยวกับความไว้วางใจและความโปร่งใสในระบบ AI?

บางส่วนของความกังวลนั้นเป็นเรื่องจริง แต่มันเกี่ยวข้องกับความรับผิดชอบมากกว่าความกลัวของ “HAL-9000” ที่มี AI ที่ไม่ดี เมื่อเครื่องมือให้การวินิจฉัยที่แตกต่างกันในเวลาไม่กี่วินาที คุณต้องการความโปร่งใสที่ชัดเจน: คำแนะนำมาจากไหน ใครลงนาม และจะตรวจสอบอย่างไร? ปัจจุบัน มีเพียงกลุ่มคนเล็กๆ เท่านั้นที่มีการกำกับดูแล GenAI อย่างเป็นทางการ ดังนั้นผู้เชี่ยวชาญด้านคลินิกจึงใช้ความระมัดระวังเป็นหลัก นั่นปรากฏในข้อมูลของเราเป็น 57% ที่ระบุว่า “การพึ่งพามากเกินไปอาจทำให้ความสามารถในการตัดสินใจลดลง” สำหรับฉันแล้ว สิ่งนี้เป็นสัญญาณที่ว่าพวกเขาไม่ต้องการกล่องดำที่บุกรุกใบอนุญาตในการปฏิบัติงานของตน

ฉันเห็นปัญหาผ่านมุมมองทางประวัติศาสตร์ เมื่อโปรแกรมแก้สมการเข้ามาในแผนกการเงิน บางคนกังวลว่าความสามารถในการวิเคราะห์ของพวกเขาจะเสื่อมลง แต่โปรแกรมแก้สมการกลายเป็นมาตรฐานใหม่สำหรับความถูกต้อง สุขภาพก็ยังต้องการการกระโดดเช่นเดียวกัน เราสูญเสียผู้ป่วยไปมากเกินไปเนื่องจากความแปรผันของการดูแล การผิดพลาดทางการแพทย์ยังคงเป็นสาเหตุสำคัญของการบาดเจ็บและความตาย ความสามารถพิเศษของ GenAI คือการทำให้ข้อผิดพลาดเหล่านั้นแคบลงโดยการนำเสนอแนวทาง, เน้นย้ำถึงข้อห้าม และระบุผู้ที่ไม่เหมาะสมได้เร็วกว่าที่มนุษย์สามารถค้นหาในแผนภาพได้ แต่จะต้องยังคงเป็นผู้ช่วย ไม่ใช่ตัวตัดสินอัตโนมัติ โดยเฉพาะในช่วงสามถึงห้าปีถัดไป

ดังนั้น ความกลัวนั้นจึงถูกต้อง แต่ก็สามารถแก้ไขได้ ชุดข้อมูลที่โปร่งใส การติดตามการตรวจสอบ และการตรวจสอบโดยมนุษย์จะเปลี่ยน “การกัดกร่อน AI” เป็น “การเพิ่มประสิทธิภาพ AI” ให้ผู้เชี่ยวชาญด้านคลินิกมีคำแนะนำที่สามารถตรวจสอบได้ และมีการกำหนดความรับผิดชอบที่ชัดเจน และ 57% ที่กล่าวถึงจะหายไป มันไม่ใช่เรื่องของการแทนที่ความเชี่ยวชาญ แต่เป็นการเพิ่มประสิทธิภาพด้วยเครื่องมือที่ดีกว่า

เพียง 18% ของผู้ตอบแบบสอบถามระบุว่าตนเองตระหนักถึงนโยบาย GenAI ที่ชัดเจนในองค์กรของตน อะไรคือความเสี่ยงที่อาจเกิดขึ้นจากการนำ GenAI มาใช้โดยไม่มีการกำกับดูแล?

ลองนึกภาพการเปิดตัวยาที่ไม่มีฉลากยาสำหรับการใช้งาน Healthcare ข้อมูลมีความละเอียดอ่อนมาก และ GenAI กลายเป็นฉลาดขึ้นเมื่อมันซึมซับข้อมูลที่มี PHI (ข้อมูลสุขภาพที่ได้รับการคุ้มครอง) ที่อุดมสมบูรณ์ โดยไม่มีนโยบายการดูแลข้อมูลที่เข้มงวดเพื่อกำกับดูแลใครที่สามารถอัปโหลดข้อมูลได้, วิธีการบันทึกข้อมูล และที่อยู่ของข้อมูล องค์กรจะอยู่ห่างจากเหตุการณ์การละเมิดความเป็นส่วนตัวที่สามารถสร้างความตื่นตระหนกได้เพียงหนึ่งคลิปบอร์ด

ความรับผิดชอบเป็นเหมือนระเบิดที่ซ่อนอยู่ หากอัลกอริทึมให้คำแนะนำที่ขัดแย้งกัน ใครจะรับภาระค่าใช้จ่ายในการผิดพลาด? ปัจจุบัน มีเพียงไม่กี่ในห้าองค์กรที่มี “กฎของถนน” ที่เข้มงวดสำหรับ GenAI ในช่องว่างนั้น ทนายความมักจะหันไปหากระเป๋าที่ลึกที่สุด และความไม่แน่นอนนั้นเพียงพอแล้วที่จะหยุดยั้งนวัตกรรม

การกำกับดูแลยังป้องกันความเสี่ยงที่ซ่อนอยู่ เช่น การเปลี่ยนแปลงของแบบจำลองและการเอนเอียง การเปลี่ยนแปลงของแบบจำลองที่ไม่ได้รับการฝึกอบรมอาจทำให้การดูแลไม่อยู่บนรางที่มีหลักฐานเชิงประจักษ์ นโยบายที่กำหนดให้มีการควบคุมรุ่น การติดตามผลลัพธ์ และการกำหนดเวลาสิ้นสุดการใช้งานจะช่วยป้องกันไม่ให้อัลกอริทึมเก่ากลายเป็นอันตรายต่อความปลอดภัย

สุดท้าย ความไว้วางใจก็อยู่ในความเสี่ยงด้วย ผู้เชี่ยวชาญด้านคลินิกกังวลว่าการพึ่งพา GenAI มากเกินไปอาจทำให้ความสามารถในการตัดสินใจลดลง การปล่อยเครื่องมือที่ไม่โปร่งใสจะยืนยันความกลัวนั้น การกำกับดูแลที่ชัดเจน ความโปร่งใสของแหล่งที่มาของข้อมูล การตรวจสอบ และการตรวจสอบโดยมนุษย์จะเปลี่ยนความกังวล “กล่องดำ” ให้เป็นความมั่นใจที่ AI เป็นผู้ช่วย ไม่ใช่ผู้พักผ่อนอัตโนมัติ

อธิบายถึงกรณีการใช้งาน GenAI ที่เป็นจริงที่สุดในระยะเวลาอันใกล้ในการใช้งานด้านสุขภาพ โดยอิงจากงานของคุณที่ Wolters Kluwer และในห้องผ่าตัด

ลืมเรื่องศัลยแพทย์หุ่นยนต์ไปก่อน ในช่วงสามปีถัดไป โอกาสที่ดีที่สุดของ GenAI คือ การทำลายการบริหาร มีสองเส้นทางที่ได้รับการพิสูจน์แล้ว:

1. การบันทึกหมายเหตุในห้องรับ เครื่องมือการฟังแบบแอมเบียนต์สามารถสร้างหมายเหตุการบันทึกในขณะที่แพทย์กำลังพูดกับผู้ป่วย จากนั้นจึงใส่หมายเหตุลงในบันทึกสุขภาพอิเล็กทรอนิกส์ (EHR) การสำรวจของเราแสดงให้เห็นว่า 41% ของผู้ตอบแบบสอบถามต้องการคุณลักษณะ GenAI นี้ และเทคโนโลยีนี้มีการใช้งานแล้วในระบบสุขภาพที่เริ่มใช้ก่อนหน้านี้
2. การปกป้องรายได้ในสำนักงานหลัง โดมิโน่ถัดไปคือแพ็คเก็ตการอนุมัติล่วงหน้า จดหมายอุทธรณ์การปฏิเสธ และของเสียอื่นๆ ในการบริหารจัดการรายได้ สำหรับการอ้างอิง 67% ของผู้นำระบุว่าการอนุมัติล่วงหน้าเพียงอย่างเดียวก็สามารถขัดขวางประสิทธิภาพการทำงานได้ และ 62% ระบุว่าการลากจูง EHR เป็นอุปสรรคต่อการบริหารจัดการ

ทำไมถึงเป็นเช่นนั้น? สิ่งเหล่านี้ตีตรีสามประการ: ความเสี่ยงทางคลินิกต่ำ การบรรเทาแรงงานสูง และเหตุผลทางการเงินที่ชัดเจน ในตลาดที่ผู้บริหาร 68% ระบุว่าค่าใช้จ่ายด้านแรงงานเป็นแรงกดดันทางการเงินที่สำคัญที่สุด เครื่องมือที่ให้เวลาเหลือโดยไม่เปลี่ยนแผนการดูแลเป็น “ใช่” ที่ง่ายที่สุด การวินิจฉัยอัตโนมัติจะตามมาในภายหลัง; ตอนนี้ GenAI มีหน้าที่ในการทำให้คลิปบอร์ดหายไป

การสำรวจระบุว่าข้อมูลไม่ใช่ความเสี่ยงที่ถูกอ้างถึงอันดับต้นๆ โดยผู้ตอบแบบสอบถาม—ซึ่งเป็นเรื่องที่น่าประหลาดใจ เนื่องจากความเป็นส่วนตัวของข้อมูลมักเป็นหัวข้อข่าวหลัก คุณพบว่าผู้เชี่ยวชาญด้านคลินิกและผู้บริหารกังวลเกี่ยวกับความเสี่ยงที่สำคัญกว่าข้อมูลหรือไม่?

ฉันก็ประหลาดใจเช่นกัน หัวข้อข่าวจะทำให้เราเชื่อว่า HIPAA ขัดขวางการนอนหลับของทุกๆ CIO ในโรงพยาบาล แต่ข้อมูลของเราชี้ให้เห็นว่า เพียง 56% ของผู้เชี่ยวชาญอ้างถึงความเป็นส่วนตัวเป็นความเสี่ยง GenAI อันดับต้นๆ ในขณะที่ส่วนใหญ่ (57%!) กังวลเกี่ยวกับการ “ทำให้ความสามารถในการตัดสินใจลดลง” นั่นบอกฉันว่าความกลัวในแนวหน้าไม่ใช่ผู้บุกรุก แต่เป็นความรับผิดชอบ

สิ่งที่ผู้เชี่ยวชาญด้านคลินิกและผู้บริหารกังวลคือ:

• ล้อตายความรับผิดชอบ หากอัลกอริทึมบิดเบือนการดูแลออกจากหลักฐานเชิงประจักษ์ ใครจะรับภาระค่าใช้จ่ายในการผิดพลาด? การขาดกฎระเบียบและมาตรฐานที่ชัดเจนจัดอยู่ในอันดับต้นๆ ร่วมกับความโปร่งใสที่ไม่เพียงพอ โดยแสดงให้เห็นว่ามีความไม่แน่นอนจริงๆ เกี่ยวกับผลกระทบทางกฎหมาย
• การเปลี่ยนแปลงกฎระเบียบ 76% ของผู้นำรู้สึกถึงการเปลี่ยนแปลงอย่างรวดเร็วของกฎระเบียบ Medicare และ Medicaid การวาง GenAI ที่ไม่โปร่งใสบนฐานที่ไม่แน่นอนนี้จึงเป็นเรื่องที่ยากจนกว่าจะมีการคุ้มครอง
• การเปลี่ยนแปลงของแบบจำลองและการเอนเอียง 55% ของผู้ตอบแบบสอบถามระบุว่าการเอนเอียงจากแบบจำลองที่ไม่ได้รับการฝึกอบรมเป็นความเสี่ยงที่สำคัญ ซึ่งเป็นการเตือนให้ระลึกว่าข้อมูลที่เก่าแก่เกินไปอาจเป็นอันตรายเท่ากับข้อมูลที่หายไป

โดยสรุป องค์กรส่วนใหญ่ถือว่าไฟร์วอลล์ของตนเป็นที่น่าพอใจ; พวกเขา ไม่ มีห่วงโซ่ความรับผิดชอบที่ชัดเจนเมื่อผลลัพธ์ของแบบจำลองขนาดใหญ่ (LLM) ปรากฏในแผนการดูแล จนกว่ากรอบการกำกับดูแลจะกำหนดความเป็นเจ้าของ การติดตามการตรวจสอบ และการอัปเดต จะทำให้การปล่อย GenAI ยังคงหยุดชะงัก ไม่ว่าชุดความปลอดภัยจะแน่นหนาแค่ไหน

คุณคิดว่าเครื่องมือ GenAI จะเสริมหรือทำให้ความเป็นอิสระของผู้เชี่ยวชาญด้านคลินิกลดลงในระยะยาว? เราจะออกแบบระบบที่สนับสนุนการตัดสินใจโดยไม่ล้ำเส้นได้อย่างไร?

GenAI มีแนวโน้มที่จะ ขยาย ความเป็นอิสระของผู้เชี่ยวชาญด้านคลินิก ไม่ใช่การลดลง ปัจจุบัน ความเป็นอิสระส่วนใหญ่ถูกขัดขวางโดยการคัดแยกอีเมล การจัดการเอกสารก่อนการอนุมัติ และการยิมนาสติก EHR ไม่น่าแปลกใจที่พนักงานในแนวหน้าจัดลำดับความสำคัญของ “การเพิ่มประสิทธิภาพกระบวนการทำงาน” สำหรับ GenAI (80% เป็นลำดับความสำคัญ) แม้ว่าจะมีเพียง 63% เท่านั้นที่รู้สึกพร้อมที่จะดำเนินการนั้นได้ เภสัชกรและผู้เชี่ยวชาญด้านสุขภาพที่เกี่ยวข้องกำลังเดิมพันข้างที่ชนะ: 41% และ 47% คาดว่า GenAI จะตัดไขมันการบริหารออกเพื่อลดความต้องการพนักงานสนับสนุน การปล่อยให้ผู้เชี่ยวชาญด้านคลินิกออกจากงานเขียนข้อมูลหมายถึงการให้เวลาผู้ป่วยมากขึ้น นั่นคือความเป็นอิสระที่ทุกคนต้องการ

อย่างไรก็ตาม การสำรวจยังเตือนเราเกี่ยวกับอีกด้านหนึ่งของความเป็นอิสระที่เราได้กล่าวถึงก่อนหน้านี้: 57% ของผู้ตอบแบบสอบถามกังวลว่าการพึ่งพา GenAI มากเกินไปอาจทำให้ความสามารถในการตัดสินใจลดลง ยาแก้ปัญหาคือการออกแบบที่รอบคอบ ไม่ใช่การลดทอน ระบบต้องแสดงผลงานด้วยธง provenance, อ้างอิง และคะแนนความมั่นใจ เพื่อให้มนุษย์ยังคงเป็นตัวตัดสินสุดท้าย การควบคุมรุ่นและการติดตามหลังการปล่อยจะจับข้อผิดพลาดของแบบจำลองที่เงียบๆ ก่อนที่จะทำให้เส้นทางการดูแลเสียหาย ในขณะที่ปุ่ม “always-visible override” ทำให้ชัดเจนว่าอัลกอริทึมเป็นผู้ช่วย ไม่ใช่ผู้ดูแล

การกำกับดูแลคือไมล์สุดท้าย เพียง 18% ของผู้เชี่ยวชาญระบุว่าองค์กรของตนได้เผยแพร่นโยบาย GenAI ที่ชัดเจน โดยไม่มีห่วงโซ่ความรับผิดชอบที่โปร่งใส แม้ว่าประสบการณ์ของผู้ใช้จะดีที่สุด แต่ก็จะหยุดชะงักในความไม่แน่นอนทางกฎหมาย นโยบายที่เข้มงวดต้องกำหนดการดูแลข้อมูล การตรวจสอบ และการกำหนดบทบาทที่ได้รับการส่งเสริมทั่วทั้งแพทย์ พยาบาล และผู้ช่วยแพทย์ที่กดปุ่ม เมื่อเรารวมรั้วเหล่านั้นด้วยการออกแบบที่เป็นมิตรกับกระบวนการทำงาน GenAI จะหยุดรู้สึกเหมือนภัยคุกคามต่อความเป็นอิสระและเริ่มรู้สึกเหมือนเป็นผู้ช่วย

อะไรที่ขัดขวางการนำรับมากที่สุด—ข้อจำกัดด้านเทคโนโลยี ความไม่แน่นอนด้านกฎระเบียบ การเสียดสีของกระบวนการทำงาน หรือบางสิ่งที่ลึกซึ้งกว่านั้น เช่น การต่อต้านวัฒนธรรม?

มันเป็นความล้มเหลวในการดำเนินการที่ห่อหุ้มด้วยแรงจูงใจที่มีอยู่ ผู้นำส่วนใหญ่ของโรงพยาบาลสามารถอธิบายวิสัยทัศน์ GenAI ที่สวยงามได้ แต่กล้ามเนื้อในการดำเนินงานยังไม่ตามทัน การสำรวจของเราแสดงให้เห็นถึงความไม่สอดคล้องกันในบรรทัดเดียว: 80% ของผู้ตอบแบบสอบถามจัดลำดับความสำคัญของ “การเพิ่มประสิทธิภาพกระบวนการทำงาน” เป็นอันดับต้นๆ แต่มีเพียง 63% เท่านั้นที่เชื่อว่าตนเองพร้อมที่จะทำเช่นนั้นได้ วิสัยทัศน์ไม่มีค่า; ทีมวิศวกรด้านการบูรณาการ, บันทึกการเปลี่ยนแปลง, และงบประมาณ GPU ไม่มีค่า

การกำกับดูแลคือหลุมต่อไป เพียง 18% ของผู้เชี่ยวชาญระบุว่าตนเองตระหนักถึงนโยบาย GenAI ที่เผยแพร่ในโรงพยาบาลของตน โดยไม่มีกฎเกณฑ์ที่ชัดเจนเกี่ยวกับการใช้ข้อมูล การตรวจสอบ และความรับผิดชอบ โครงการที่มีแนวโน้มมีแนวโน้มที่จะกลายเป็นระเบิดด้านการปฏิบัติตามกฎระเบียบ ที่นั้น ความไม่แน่นอนทางกฎหมายจะเพิ่มขึ้นเมื่อมีการเปลี่ยนแปลงอย่างรวดเร็วของกฎระเบียบของรัฐและรัฐบาลกลาง

จากนั้นจึงตามด้วยความเสียดสีในสนามรบ: ผู้บริหารเกือบครึ่งหนึ่งอ้างถึงข้อมูลที่ไม่ดีและความยุ่งยากในการบูรณาการ EHR เป็นอุปสรรคหลัก และเพียง 42% เท่านั้นที่ระบุว่ามีกระบวนการในการเชื่อมต่อเครื่องมือ GenAI เข้ากับกระบวนการทำงานที่มีอยู่ หากแบบจำลองไม่สามารถมองเห็นแผนภาพหรือเพิ่มคลิก ผู้เชี่ยวชาญด้านคลินิกจะทิ้งมันไปก่อนอาหารกลางวัน

สุดท้าย มี “นรกของการทดลอง” การศึกษาออกสื่อนอกบ้านหลายครั้งระบุว่าความสำเร็จของ AI ที่สำเร็จในการทดลองและขยายไปสู่ระดับองค์กรอยู่ที่ประมาณหนึ่งในสิบ สภากรรมการฉลองการแสดง และออกข่าวประชาสัมพันธ์ จากนั้นจึงย้ายไป ในขณะที่ไม่มีใครให้ทุนสนับสนุนการทำงานที่ไม่น่าดึงดูดใจต่อๆ ไป GenAI จะยังคงเป็นคำสัญญาใน PowerPoint จนกว่าโรงพยาบาลจะจัดหาทีมผลิตภัณฑ์ที่เคยส่งซอฟต์แวร์ออกไปมาก่อน

ในทางกลับกัน เทคโนโลยีและวัฒนธรรมไม่ใช่สิ่งขัดขวางที่แยกจากกัน มันถูกเชื่อมโยงเข้าด้วยกัน แก้ปัญหาโดยการนำผู้นำที่มีความรับผิดชอบ มีงบประมาณในการบูรณาการที่แท้จริง มีกรอบการกำกับดูแลที่ชัดเจน และความต้องการที่จะสนับสนุน GenAI จะตรงกับคำพูดของมัน

คุณมีคำแนะนำอะไรสำหรับผู้นำด้านสุขภาพที่พยายามนำทางความตื่นเต้นและระบุการลงทุน AI ที่มีคุณค่า?

เริ่มต้นด้วยการวินิจฉัย ไม่ใช่การแสดงให้เห็น ก่อนที่จะปล่อยให้เครื่องมือที่สวยงามไปหาคลินิก คุณต้องระบุ “ตะปู” ก่อน: อัตราการใช้ห้องผ่าตัดลดลง 8% ในสองไตรมาสติดต่อกัน? การอุทธรณ์การปฏิเสธกำลังล่าช้าและทำให้สูญเสียรายได้? พยาบาลในหน่วยที่สามใช้เวลาสองชั่วโมงต่อการเปลี่ยนกะในการเขียน EHR (“เวลาในการเปลี่ยนหน้าจอและงาน”)? เมื่อความเจ็บปวดชัดเจน เครื่องมือที่ถูกต้องมักจะแนะนำตัวเองได้ เช่นเดียวกับที่เซอร์ วิลเลียม ออสเลอร์เตือนชุมชนแพทย์เมื่อหลายชั่วรุ่งก่อน “ฟังผู้ป่วย; [ผู้ป่วย] จะบอกคุณถึงการวินิจฉัย”

เมื่อปัญหาได้รับการแก้ไขแล้ว ให้สอบสวนกรณีธุรกิจเหมือน CFO ต้องการตัวเลขที่เข้มงวด: เมตริกฐาน, ดلت้า, และหน้าต่างการชำระเงินที่สามารถผ่านการทดสอบของห้องประชุมได้ หากผู้ขายไม่สามารถแสดงให้เห็นลูกค้าที่มีชีวิตที่ย้าย KPI ที่คุณสนใจได้ ให้เดินออกไป

ต่อไป ตัดสินใจว่าจะซื้อ สร้าง หรือร่วมมือ ซื้อสามารถเร่งเวลาในการให้ค่าได้ แต่ระวังว่าไม่ให้ซอฟต์แวร์หายไปในคำพูดที่น่าดึงดูด การสร้างให้คุณควบคุมได้ แต่เฉพาะถ้าคุณมีเจ้าของ P&L ที่มีประสิทธิภาพและเคยส่ง AI ไปใช้ในการผลิตมาก่อน การร่วมมือแบบไฮบริดมักจะสร้างสมดุล: ข้อมูลของคุณ, แบบจำลองของพวกเขา, ผลประโยชน์ที่แบ่งปัน, ความเสี่ยงที่แบ่งปัน

สุดท้าย จัดลำดับความสำคัญของทีมขนาดเล็กที่มีความรับผิดชอบที่ชัดเจน คิดถึงทีมสองพิซซ่าซึ่งรวมถึง CMO, CIO, หัวหน้าฝ่ายวิศวกรรมข้อมูล และผู้นำในแนวหน้า มากกว่าคณะกรรมการกำกับดูแลขนาดใหญ่ จัดแนวแรงจูงใจของพวกเขากับเป้าหมายผลลัพธ์หลายปี มากกว่าเมตริกระยะสั้น และให้พวกเขามีงบประมาณโครงสร้างพื้นฐานที่ทุ่มเท—GPU, วิศวกรรมข้อมูล, MLOps—เพื่อให้โครงการดำเนินต่อไปหลังขั้นตอนการนำร่อง

สุดท้าย เมื่อมองไปข้างหน้า: ระบบ GenAI ที่มีการบูรณาการอย่างเต็มที่และรับผิดชอบในโรงพยาบาลจะมีลักษณะอย่างไรในอีกห้าปี? มีหลักการสำคัญใดที่เราต้องบรรลุเพื่อให้ถึงที่นั่น?

ลองนึกภาพการเดินเข้าคลินิกที่แพทย์ไม่ต้องหันไปที่คีย์บอร์ด การสนทนากำลังไหล และตัวแทนการฟังแบบแอมเบียนต์ที่ซ่อนอยู่จับไดอะล็อกและสร้างหมายเหตุ, Cue คำสั่งตามแนวทาง, และสร้างแพ็คเก็ตการอนุมัติล่วงหน้า ก่อนที่แพทย์จะวางมือบนมือจับประตู การทดลองเริ่มต้นกำลังพิสูจน์แนวคิดนี้ และ 41% ของผู้เชี่ยวชาญด้านคลินิกในแบบสำรวจของเราบอกว่านี่คือคุณลักษณะ GenAI ที่พวกเขาต้องการต่อไป

สิ่งที่ทำให้ฉากนั้นเป็นไปได้ไม่ใช่หุ่นยนต์อย่าง Star Wars แต่เป็นอาร์กิเทคเจอร์ที่มองไม่เห็นซึ่งรวมข้อมูลที่สะอาดและเชื่อมต่อได้เข้ากับชั้นการกำกับดูแลแบบเรียลไทม์ และ “การกำกับดูแลแบบโค้ด” เรายังคงมีงานบ้านที่ต้องทำ เพื่อเติมช่องว่าง ให้คิดถึงการทำความสะอาดข้อมูลก่อน แล้วจึงฝังรั้ว (แทนที่จะยึดไว้) เพื่อเปลี่ยนความตื่นเต้นให้เป็นนิสัย

หลักการสำคัญจะตามมาโดยธรรมชาติเมื่อฐานรากถูกกำหนดไว้ ในปีแรก ฉันแนะนำให้โรงพยาบาลและระบบสุขภาพเชื่อมต่อ织ผ้าข้อมูล, เผยแพร่แนวทาง GenAI ระดับองค์กร, และสร้าง MLOps Pipeline ในปีที่สองของการนำไปใช้ จะเป็นสิ่งสำคัญที่จะต้องขยายการบันทึกหมายเหตุแบบแอมเบียนต์ไปทั่วคลินิกผู้ป่วยนอก และวัดเวลาในการบันทึกและการเปลี่ยนกะ “เวลาในการเปลี่ยนชุด” ในปีที่สาม ให้ GenAI สร้างการอุทธรณ์การปฏิเสธและการอนุมัติล่วงหน้า (67% ของผู้นำระบุว่าน้ำหนักนี้พร้อมที่จะถูกกำจัด) ในปีที่สี่และห้า ปี ให้พัฒนาไปสู่การสนับสนุนการตัดสินใจทางคลินิกแบบเรียลไทม์พร้อมกับ provenance และในที่สุดก็ไปสู่การวางแผนการดูแลแบบพูดซึ่งระบบจะดำเนินการคำสั่ง ณ เวลาที่พูด

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเรียนรู้เพิ่มเติมได้ที่ Wolters Kluwer หรืออ่าน รายงานการสำรวจ Future Ready Healthcare