โรงพยาบาลนำ AI มาใช้ก่อนที่จะเข้าใจว่าพวกเขาได้รับอะไร

โรงพยาบาลไม่ได้นำระบบปัญญาประดิษฐ์มาใช้ในครั้งเดียวด้วยความตั้งใจ มันเข้ามาเป็นชิ้นๆ: อัลกอริทึมการถ่ายภาพ, ผู้ช่วยการบันทึก, การคาดการณ์การจัดสรร, ผู้สร้างข้อความผู้ป่วย, โมเดลการคาดการณ์การปฏิเสธ, เครื่องมือการนัดหมาย แต่ละผลิตภัณฑ์เข้ามาผ่านแผนกที่แตกต่างกัน, ตอบสนองความต้องการที่แตกต่างกัน, และถูกประเมินตามงบประมาณที่แตกต่างกัน

เส้นทางที่กระจัดกระจายทำให้การนำร่องดูเป็นไปได้ แต่ก็ซ่อนเร้นสิ่งที่โรงพยาบาลแท้จริงแล้วได้รับ

ผลิตภัณฑ์ AI ไม่ใช่แค่ซอฟต์แวร์แบบเดิมๆ มันเป็นระบบที่อาจมีอิทธิพลต่อการตัดสินใจ, การกระจายงาน, การเปลี่ยนแปลงความรับผิดชอบ, การเรียนรู้จากข้อมูลที่เปลี่ยนแปลง, และการผลิตผลลัพธ์ที่ยากต่อการสร้างใหม่หลังจากที่เกิดขึ้นแล้ว โรงพยาบาลมักซื้อความสามารถก่อนที่จะสร้างภาษา, การกำกับดูแล, และวินัยการดำเนินงานที่จำเป็นในการเข้าใจผลกระทบเหล่านั้น

จากการทำงานอย่างใกล้ชิดกับองค์กรด้านสุขภาพ, ฉันเห็นว่าส่วนที่ยากที่สุดของการนำ AI มาใช้ไม่เริ่มต้นด้วยโมเดลตัวเอง แต่เริ่มต้นเมื่อเทคโนโลยีเข้ามาในกระบวนการทำงานที่ไม่ได้ออกแบบมาเพื่อใช้งาน, และเมื่อบุคคลต้องตัดสินใจว่าจะมอบความเชื่อมั่น, อำนาจ, และความรับผิดชอบให้กับผลลัพธ์ของมันมากน้อยเพียงใด

นี่ไม่ใช่การโต้แย้งกับการนำร่อง มันคือการโต้แย้งสำหรับการนำร่องที่มีความเข้าใจมากขึ้น – ที่เริ่มต้นหลังจากการซื้อไม่ใช่สิ้นสุดที่นั่น

AI เข้ามาผ่านประตูที่มีเครื่องหมาย “ประสิทธิภาพ”

กรณีแรกสำหรับ AI ในโรงพยาบาลเป็นเรื่องของความเป็นไปได้ การทำงานด้านการบริหารเพิ่มขึ้น, ความกดดันของแรงงานเพิ่มขึ้น, และแพทย์ใช้เวลามากเกินไปกับงานที่ไม่ต้องการการตัดสินใจทางคลินิก ความต้องการนี้เพิ่มขึ้นเท่านั้น ในปี 2026, สมาคมแพทย์อเมริกันรายงาน ว่า 81% ของแพทย์ที่สำรวจใช้ AI ในการปฏิบัติงาน, มากกว่าสองเท่าของอัตราในปี 2023

ความน่าสนใจเป็นเรื่องที่เข้าใจได้ โรงพยาบาลต้องเผชิญกับความกดดันในการปรับปรุงการเข้าถึง, ลดการเผาผลาญ, จัดการต้นทุน, และย้ายข้อมูลเร็วขึ้น เครื่องมือที่สร้างบันทึก, จัดลำดับความสำคัญของคิว, คาดการณ์การหน่วง, หรือสรุปแผนภูมิสามารถดูเหมือนเป็นการปรับปรุงการดำเนินงานที่แคบ

แต่ AI ไม่ค่อยยังคงอยู่ในระดับแคบๆ เมื่อเข้ามาในกระบวนการทำงาน ระบบการบันทึกเปลี่ยนแปลงสิ่งที่ถูกบันทึกในบันทึก โมเดลการจัดลำดับความสำคัญเปลี่ยนแปลงกรณีที่ถูกดูอันดับแรก เครื่องมือการคาดการณ์เปลี่ยนแปลงการตัดสินใจด้านการจัดสรร ผู้ช่วยการสื่อสารผู้ป่วยเปลี่ยนแปลงวิธีการแปลความตั้งใจทางคลินิกเป็นภาษา แม้ว่าจุดประสงค์เดิมจะเป็นการบริหาร, ผลกระทบการดำเนินงานสามารถไปถึงการให้บริการด้านการดูแลสุขภาพ

โรงพยาบาลดังนั้นจึงนำมากกว่าแค่ประสิทธิภาพมาใช้ พวกเขานำรูปแบบใหม่ของอิทธิพลต่อการตัดสินใจ, การจัดลำดับ, ความสนใจ, และความรับผิดชอบมาใช้

ความเข้าใจผิดครั้งแรก: การรักษา AI เป็นซอฟต์แวร์แบบเดิมๆ

ซอฟต์แวร์แบบเดิมๆ มักถูกตัดสินว่าเป็นไปตามฟังก์ชันที่กำหนดไว้อย่างน่าเชื่อถือ AI ต้องการชุดคำถามที่กว้างกว่านั้น สิ่งที่ข้อมูลที่หล่อหลอมโมเดล? ที่ไหนที่ประสิทธิภาพอ่อนลง? วิธีการที่ผลลัพธ์เปลี่ยนแปลงเมื่อกระบวนการทำงานท้องถิ่นแตกต่างจากสภาพแวดล้อมที่ระบบถูกทดสอบ? ใครที่ตรวจสอบผลลัพธ์? สิ่งที่เกิดขึ้นเมื่อโมเดลถูกอัปเดต? สิ่งที่หลักฐานที่ถูกเก็บไว้เมื่อตัดสินใจถูกท้าทายหลายเดือนต่อมา?

คำถามเหล่านี้เป็นส่วนหนึ่งของนโยบายเทคโนโลยีสุขภาพอย่างเป็นทางการ สำนักงานผู้ประสานงานแห่งชาติด้านเทคโนโลยีสุขภาพของ HTI-1 นำเสนอข้อกำหนดความโปร่งใสสำหรับอัลกอริทึมการคาดการณ์ในเทคโนโลยีสุขภาพที่ได้รับการรับรอง, รวมถึงข้อมูลที่ตั้งใจเพื่อช่วยให้ผู้ใช้ประเมินความยุติธรรม, ความเหมาะสม, ความถูกต้อง, ประสิทธิภาพ, และความปลอดภัย

โรงพยาบาลต้องทราบว่ามันทำงานที่นี่, สำหรับประชากรนี้, ในกระบวนการทำงานนี้, ภายใต้สภาพเหล่านี้, โดยมีคนเหล่านี้รับผิดชอบต่อการดำเนินการตามผลลัพธ์ของมัน

นี่คือคำถามการซื้อที่แตกต่าง มันไม่สามารถตอบได้ด้วยรายการคุณสมบัติหรือการนำเสนอของซัพพลายเออร์เท่านั้น

ความเข้าใจผิดครั้งที่สอง: การสันนิษฐานว่าการกำกับดูแลของมนุษย์แก้ปัญหาได้ทุกอย่าง

“มนุษย์ในวงจร” ได้กลายเป็นคำว่าให้ความมั่นใจใน AI ด้านสุขภาพ มันบอกเป็นนัยว่าบุคคลยังคงอยู่ในควบคุมและสามารถแก้ไขเครื่องจักรได้ ในทางปฏิบัติ, การกำกับดูแลของมนุษย์มีความหมายเฉพาะเมื่อบุคคลมีเวลา, อำนาจ, บริบท, และเหตุผลที่ชัดเจนในการท้าทายผลลัพธ์

แพทย์ที่ได้รับการแนะนำ AI จำนวนมากไม่ได้ตรวจสอบแต่ละข้อจากหลักการแรก แพทย์งานคิวที่มีปริมาณมากอาจยอมรับการจัดลำดับความสำคัญที่แนะนำเพราะอินเทอร์เฟซนำเสนอเป็นค่าเริ่มต้น ผู้ตรวจสอบอาจมีอำนาจในการ覆盖โมเดล แต่ขาดข้อมูลที่จำเป็นในการเข้าใจว่าทำไมโมเดลจึงสร้างผลลัพธ์ของมัน

องค์การอนามัยโลกคำแนะนำเกี่ยวกับ AI สำหรับสุขภาพ วางความเป็นอิสระ, ความรับผิดชอบ, ความโปร่งใส, ความปลอดภัย, และความเท่าเทียมกันไว้ที่ศูนย์กลางของการนำไปใช้ หลักการเหล่านี้ไม่ได้รับการตอบสนองเพียงเพราะมนุษย์คลิกปุ่มสุดท้าย

การกำกับดูแลของมนุษย์ต้องถูกออกแบบให้เป็นหน้าที่การดำเนินงาน โรงพยาบาลควรกำหนดผลลัพธ์ใดที่ต้องการการตรวจสอบ, หลักฐานที่ผู้ตรวจสอบเห็น, เมื่อการเพิ่มระดับเป็นข้อบังคับ, วิธีการที่ความไม่เห็นด้วยถูกบันทึก, และว่าบุคคลที่ตรวจสอบผลลัพธ์มีความสามารถที่จะแทรกแซงได้จริงหรือไม่

ความเข้าใจผิดครั้งที่สาม: ความเชื่อที่การตรวจสอบคือเหตุการณ์ครั้งเดียว

หลายองค์กรตรวจสอบ AI ก่อนการเปิดตัวและรักษาระบบให้เสถียร นี่คือแนวคิดการนำไปใช้ที่เป็นแบบเดิมๆ: ทดสอบ, อนุมัติ, นำไปใช้, ดูแล

ประสิทธิภาพของ AI สามารถเปลี่ยนแปลงได้เพราะสภาพแวดล้อมรอบๆ มันเปลี่ยนแปลง ประชากรผู้ป่วยเปลี่ยนแปลง การเข้ารหัสเปลี่ยนแปลง การจัดทำเอกสารทางคลินิกเปลี่ยนแปลง อุปกรณ์ใหม่ถูกนำเข้ามา พฤติกรรมของพนักงานปรับเปลี่ยนไปตามเครื่องมือ ซัพพลายเออร์อัปเดตโมเดล อินเทอร์เฟซข้อมูลเสียหายอย่างเงียบๆ ระบบที่ทำงานได้อย่างน่าพอใจในตอนเปิดตัวอาจกลายเป็นไม่น่าเชื่อถือโดยไม่มีการแสดงข้อความความล้มเหลวที่ชัดเจน

เฟรมเวิร์กการจัดการความเสี่ยง AI ของ NIST รักษาการจัดการความเสี่ยงเป็นกิจกรรมที่ต่อเนื่องตลอดวงจรชีวิตที่จัดระเบียบโดยรอบการกำกับดูแล, การทำแผนที่, การวัด, และการจัดการความเสี่ยง โรงพยาบาลควรนำหลักการเดียวกันนี้ไปใช้ในการดำเนินงาน

การตรวจสอบหลังการเปิดตัวไม่ควรจำกัดอยู่แค่การตรวจสอบความพร้อมใช้งาน มันควรรวมถึงประสิทธิภาพโดยกลุ่มผู้ป่วย, รูปแบบการยกเลิก, การกระจายผลลัพธ์ที่ไม่ปกติ, ความล่าช้าในการทำงาน, ข้อร้องเรียนของผู้ใช้, การแก้ไขที่ตามมา, และสัญญาณที่บ่งบอกว่าพนักงานพึ่งพาเครื่องมือในทางที่ไม่เคยตั้งใจไว้

ความเข้าใจผิดครั้งที่สี่: การสับสนระหว่างการอนุมัติจากหน่วยงานกำกับดูแลกับการเตรียมพร้อมของสถาบัน

องค์การอาหารและยาสหรัฐฯ รักษารายการของอุปกรณ์ทางการแพทย์ที่ใช้ AI ที่ผ่านข้อกำหนดก่อนการตลาดแล้ว นี่คือชั้นการรับรองสำคัญสำหรับผลิตภัณฑ์ที่ได้รับการควบคุม, แต่การอนุมัติจากหน่วยงานกำกับดูแลและการเตรียมพร้อมของโรงพยาบาลตอบคำถามที่แตกต่างกัน

หน่วยงานกำกับดูแลอาจพิจารณาว่าอุปกรณ์เป็นไปตามมาตรฐานความปลอดภัยและประสิทธิภาพที่ต้องการสำหรับการใช้งานที่ตั้งใจไว้ แต่โรงพยาบาลยังคงต้องพิจารณาว่าข้อมูล, พนักงาน, โครงสร้างพื้นฐาน, การฝึกอบรม, เส้นทางการเพิ่มระดับ, และประชากรผู้ป่วยของตนเองสนับสนุนการใช้งานที่รับผิดชอบหรือไม่

ความแตกต่างเดียวกันนี้ใช้กับ AI ที่ไม่ใช่อุปกรณ์ การทบทวนเรื่องความปลอดภัยไม่ได้สร้างความเหมาะสมทางคลินิก การทบทวนเรื่องความเป็นส่วนตัวไม่ได้สร้างความปลอดภัยของกระบวนการทำงาน การอนุมัติทางกฎหมายไม่ได้สร้างความสามารถของผู้ใช้ การทดลองที่ประสบความสำเร็จไม่ได้สร้างความพร้อมขององค์กร

โรงพยาบาลต้องการกระบวนการตัดสินใจที่รวมคำถามเหล่านี้เข้าด้วยกันแทนการปล่อยให้แต่ละแผนกอนุมัติส่วนหนึ่งของความเสี่ยง

สิ่งที่โรงพยาบาลนำมาใช้เมื่อนำ AI มาใช้

องค์กรที่มีความเข้าใจมากขึ้นควรตระหนักว่าการนำ AI มาใช้แต่ละครั้งนำสิ่งเหล่านี้มาอย่างน้อย 5 อย่างในครั้งเดียว:

• อิทธิพลต่อการตัดสินใจ: แม้ว่า AI ไม่ได้ตัดสินใจสุดท้าย, มันก็สร้างสิ่งที่คนสังเกต, จัดลำดับความสำคัญ, หรือเชื่อ
• การพึ่งพาข้อมูล: ระบบสืบทอดความแข็งแกร่ง, ช่องว่าง, ความเอนเอียง, และความไม่มั่นคงของข้อมูลรอบๆ มัน
• การออกแบบกระบวนการทำงานใหม่: งานถูกย้ายระหว่างคน, ระบบ, และแผนก, มักเปลี่ยนแปลงความรับผิดชอบในทางที่ไม่ชัดเจน
• การตรวจสอบ: ประสิทธิภาพต้องถูกสังเกตหลังการเปิดตัว, ไม่ใช่ถูกสันนิษฐานจากหลักฐานก่อนการเปิดตัว
• ความสัมพันธ์เชื่อถือ: ผู้ป่วยและพนักงานต้องเข้าใจว่า AI อยู่ที่ไหนและบทบาทของมันคืออะไร

คำจำกัดความที่กว้างขึ้นนี้อธิบายว่าทำไมโรงพยาบาลสามารถนำเครื่องมือ AI หลายสิบรายการมาใช้และยังคงรู้สึกไม่พร้อม องค์กรได้รับสมรรถนะโดยไม่จำเป็นต้องสร้างเนื้อเยื่อเชื่อมต่อที่จำเป็นในการกำกับดูแลมันในฐานะพอร์ตโฟลิโอ

จากคลัง AI ไปสู่ความรับผิดชอบของ AI

ขั้นตอนแรกที่เป็นไปได้คือไม่ใช่เอกสารกลยุทธ์อีกต่อไป มันเป็นคลังที่เชื่อถือได้

บางโรงพยาบาลยังคงไม่มีมุมมองที่สมบูรณ์ของที่ไหนที่ AI กำลังทำงานอยู่แล้ว เนื่องจากมันฝังอยู่ในแพลตฟอร์มที่ใหญ่กว่า, ถูกนำเข้ามาผ่านการซื้อของแผนก, หรืออธิบายด้วยคำศัพท์ที่อ่อนลง เช่น การอัตโนมัติ, การคาดการณ์, การเพิ่มประสิทธิภาพ, หรือการสนับสนุนการตัดสินใจ

คลังควรบันทึกวัตถุประสงค์ของระบบ, การตัดสินใจที่มันส่งผลกระทบ, ข้อมูลที่มันใช้, ประชากรที่มันส่งผลกระทบ, เวอร์ชันของซัพพลายเออร์และโมเดล, เจ้าของคน, กระบวนการตรวจสอบ, เส้นทางการเพิ่มระดับ, และหลักฐานที่ใช้ในการอนุมัติ

แต่คลังเพียงอย่างเดียวไม่ใช่การกำกับดูแล ความรับผิดชอบเริ่มต้นเมื่อระบบทุกระบบมีเจ้าของผู้บริหารและเจ้าของการดำเนินงานที่ได้รับการตั้งชื่อ เจ้าของผู้บริหารรับผิดชอบต่อว่ากรณีการใช้งานยังคงเหมาะสมหรือไม่ เจ้าของการดำเนินงานเข้าใจว่าระบบทำงานอย่างไรในงานประจำวันและสามารถระบุเมื่อความเป็นจริงแตกต่างจากนโยบาย

มาตรฐานใหม่: เข้าใจก่อนที่จะขยายขนาด

โรงพยาบาลไม่จำเป็นต้องหยุดการนำ AI มาใช้ทุกอย่างจนกว่าจะบรรลุความแน่นอนสมบูรณ์ ความแน่นอนสมบูรณ์ไม่มีอยู่ในสุขภาพหรือเทคโนโลยี พวกเขาต้องแทนที่การขยายขนาดที่นำโดยความกระตือรือร้นด้วยการขยายขนาดที่นำโดยหลักฐาน

หมายความว่าเริ่มต้นด้วยปัญหาเฉพาะ, นิยามบทบาทของ AI ที่ยอมรับได้, ทดสอบในสภาพแวดล้อมท้องถิ่น, บันทึกข้อจำกัด, วัดผลลัพธ์ที่แท้จริง, และขยายเพียงเมื่อองค์กรสามารถอธิบายทั้งประโยชน์และความเสี่ยง

คำถามที่สำคัญที่สุดไม่ใช่ “เครื่องมือนี้ใช้ AI หรือไม่” อีกต่อไป คำถามนั้นกว้างเกินไปที่จะถือว่ามีประโยชน์ คำถามที่ดีกว่าคือ: การตัดสินใจอะไรที่มันส่งผลกระทบ? สิ่งใดที่เกิดขึ้นเมื่อมันผิด? ใครสังเกตเห็น? ใครสามารถหยุดมันได้? หลักฐานอะไรที่จะให้เหตุผลในการขยายบทบาทของมัน?

โอกาสที่แท้จริงคือการเรียนรู้ของสถาบัน

โรงพยาบาลที่ได้รับประโยชน์มากที่สุดจาก AI จะไม่จำเป็นต้องเป็นโรงพยาบาลที่นำเครื่องมือ AI มาใช้มากที่สุด พวกเขาจะเป็นโรงพยาบาลที่เรียนรู้เร็วที่สุดจากทุกการนำไปใช้

พวกเขาจะรักษาการนำไปใช้เป็นแหล่งความรู้ของสถาบัน: ที่ไหนที่คุณภาพข้อมูลแตก, ที่ไหนที่กระบวนการทำงานต้านการอัตโนมัติ, ที่ไหนที่พนักงานต้องการขอบเขตที่ชัดเจนขึ้น, ที่ไหนที่ผู้ป่วยต้องการความโปร่งใสมากขึ้น, และที่ไหนที่การกำกับดูแลต้องเฉพาะเจาะจงมากขึ้น

การเรียนรู้นี้ไม่สามารถอยู่ในสำนักงานนวัตกรรมได้ มันต้องไปถึงการนำทางทางคลินิก, การดำเนินงาน, การปฏิบัติตามกฎระเบียบ, เทคโนโลยี, การเงิน, คุณภาพ, และคณะกรรมการ AI ไม่ใช่เครื่องมือที่กระจายไปทั่วเพื่อให้ถูกควบคุมโดยกลุ่มผู้เชี่ยวชาญเล็กๆ และไม่ใช่เรื่องที่เข้าใจได้เพียงแค่วิชาเทคนิคเท่านั้น

โรงพยาบาลนำ AI มาใช้ก่อนที่จะเข้าใจว่าพวกเขาได้รับอะไร นี่ไม่ใช่เรื่องไม่ปกติในยุคการเปลี่ยนแปลงทางเทคโนโลยีที่รวดเร็ว คำถามที่สำคัญกว่าคือสิ่งที่พวกเขาทำเมื่อช่องว่างนั้นกลายเป็นช่องว่างที่มองเห็นได้

การตอบสนองที่รับผิดชอบไม่ใช่การถอยหลัง มันคือการสร้างความสามารถในการเข้าใจ AI ตามที่มันทำงานจริงๆ: ในการตัดสินใจ, กระบวนการทำงาน, ความสัมพันธ์, และสถาบัน เมื่อนั้นการนำร่องจึงกลายเป็นการเตรียมพร้อม