ปัญหาการรับผิดชอบที่กระจายของ AI ในสาธารณสุข

ในด้านสาธารณสุข AI ถูกนำไปใช้ในทุกด้าน ตั้งแต่การตัดสินใจทางคลินิกไปจนถึงการบริหารและเงินฝาก แต่หลายองค์กรยังคงไม่มีการจัดการความเสี่ยงและการมอบหมายที่ชัดเจนเพื่อให้แน่ใจว่าเครื่องมือ AI ไม่ทำให้เกิดอันตราย การไม่มีการกำกับดูแลที่มีโครงสร้างทำให้การตัดสินใจที่เกี่ยวข้องกับ AI ถูกทำโดยไม่มีการรับผิดชอบที่ชัดเจน ทำให้องค์กรต่างๆ ตกอยู่ในความเสี่ยงของการละเมิดจริยธรรมและข้อบังคับ

เมื่อไม่มีใครรับผิดชอบต่อการตัดสินใจและการกระทำของ AI จุดบอดจะขยายตัวอย่างรวดเร็ว ผลที่ตามมาของระบบ AI ที่ตัดสินใจโดยไม่มีการกำกับดูแลมีมากมายและกว้างขวาง โดยเฉพาะอย่างยิ่งเมื่อชีวิตของผู้คนอยู่ในความเสี่ยง

ช่องว่างการกำกับดูแล AI ในปัจจุบันคล้ายกับจุดเปลี่ยนในอดีตที่ความก้าวหน้าทางเทคโนโลยีเพิ่มขึ้นเร็วกว่าที่องค์กรสามารถจัดการได้ เราได้ผ่านประสบการณ์นี้ไปแล้วกับการใช้คลาวด์คอมพิวติ้ง: ทีมงานใช้ SaaS, IaaS และ “shadow IT” เพื่อเพิ่มความเร็ว ในขณะที่การกำกับดูแลล้าหลังในเรื่องพื้นฐาน เช่น การจัดประเภทข้อมูล การจัดการตัวตนและการเข้าถึง การกำกับดูแลผู้ขาย การบันทึก/การตรวจสอบ และความชัดเจนของความรับผิดชอบ — ดังนั้นความรับผิดชอบจึงกระจายไปทั่วทีม IT ความมั่นคง การจัดซื้อ และธุรกิจ เรายังได้เห็นเช่นนี้กับการใช้ IT ที่รวดเร็วและการใช้โทรศัพท์มือถือ/BYOD โดยพนักงานนำอุปกรณ์และแอปพลิเคชันใหม่เข้ามาใน สภาพแวดล้อมที่มีการควบคุมก่อนที่องค์กรจะมีนโยบายที่เต็มที่สำหรับการเข้ารหัส การควบคุมจุดสิ้นสุด การตรวจสอบแอปพลิเคชัน และการค้นหาข้อมูล ในแต่ละกรณี การใช้งานนั้นมีเหตุผลและสร้างมูลค่า — แต่การไม่มีการกำหนดความเป็นเจ้าของที่ชัดเจน การควบคุมที่เป็นมาตรฐาน และการกำกับดูแลตลอดวงจรทำให้เกิดความล้มเหลวที่คาดการณ์ได้ บทเรียนสำหรับ AI คือ การกำกับดูแลไม่สามารถเป็นเรื่องรองจากนวัตกรรมได้; มันจะต้องถูกสร้างขึ้นเหมือนโครงสร้างพื้นฐานที่สำคัญ — โดยมีการตัดสินใจที่ชัดเจน การตรวจสอบอย่างต่อเนื่อง และการป้องกันที่บังคับใช้ได้

ปัญหาในการรับผิดชอบที่กระจาย

การนำ AI ไปใช้อย่างรวดเร็วได้ทำให้เกิดช่องว่างในการกำกับดูแลและมาตรฐานความรับผิดชอบ ซึ่งนำไปสู่ช่องว่าง “การรับผิดชอบที่กระจาย” โดยไม่มีหน่วยงานใดๆ ที่รับผิดชอบเมื่อ AI ล้มเหลว

ความรับผิดชอบเป็นปัญหาอยู่แล้วในสาธารณสุข และ AI ได้นำความท้าทายใหม่ๆ มาให้ เครื่องมือ AI ไม่มีเอกลักษณ์ทางกฎหมายที่รู้จัก ซึ่งหมายความว่าไม่สามารถฟ้องร้องหรือประกันภัยได้ และไม่สามารถจ่ายค่าชดเชยทางกฎหมายให้กับเหยื่อได้ ในกระบวนการทางกฎหมาย ความผิดจะต้องถูกโอนไปยังบุคคลหรือองค์กร ไม่ใช่เครื่องมือ

นักวิจัยใน The Lancet ซึ่งเป็นหนังสือวิจัยทางการแพทย์ที่มีชื่อเสียง ได้โต้แย้งว่า “โครงสร้างความรับผิดชอบของสถาบันต้องกระจายความรับผิดชอบจากผู้เชี่ยวชาญด้านสุขภาพไปยังองค์กรที่ออกแบบและใช้เครื่องมือ AI” มันชัดเจนว่าคำถามเกี่ยวกับความรับผิดชอบเหล่านี้จะยังคงอยู่ในอนาคต

สหภาพยุโรปกำลังพยายามแก้ไขปัญหานี้ในระดับภูมิภาค โดยการนำเสนองานทางกฎหมายสองชิ้นหลัก: การกระทำ AI ซึ่งควบคุมการใช้ AI ตามระดับความเสี่ยงและเน้นการรักษาการกำกับดูแลของมนุษย์; และ การกำหนดนี้ความรับผิดชอบ AI ซึ่งกำหนดกฎใหม่ที่ทำให้ผู้คนสามารถขอชดเชยสำหรับอันตรายที่เกิดจาก AI ได้ง่ายขึ้น

แต่การกำกับดูแลเพียงอย่างเดียวไม่สามารถแก้ปัญหาได้ โรงพยาบาลดำเนินงานในเครือข่ายที่ซับซ้อนของซัพพลายเออร์ ผู้เชี่ยวชาญด้านสุขภาพ ผู้บริหาร และทีม IT เมื่อระบบ AI สร้างผลลัพธ์ที่เป็นอันตรายหรือมีอคติ ความรับผิดชอบจะถูกส่งต่อไปยังผู้มีส่วนได้ส่วนเสีย: ซัพพลายเออร์อาจชี้ให้เห็นว่าการใช้งานที่ไม่เหมาะสม ผู้เชี่ยวชาญด้านสุขภาพอาจบอกว่าดีไซน์มีข้อบกพร่อง และผู้นำอาจกล่าวหาว่าข้อบังคับไม่ชัดเจน

สิ่งนี้ทำให้ความรับผิดชอบกระจายออกไป ทำให้โรงพยาบาลตกอยู่ในความเสี่ยงของการป้องกันทางกฎหมายครั้งใหญ่ ^[1]

ขั้นตอนปฏิบัติในการปิดช่องว่างการกำกับดูแล

ข่าวดีคือ แม้ว่าจะไม่มีการกำกับดูแลที่ครอบคลุม องค์กรสาธารณสุขสามารถปิดช่องว่างการกำกับดูแล AI ได้ด้วยตนเอง โดยเริ่มต้นจากรายงานขององค์การอนามัยโลก ” จริยธรรมและการกำกับดูแล AI สำหรับสุขภาพ” ซึ่งมีจุดมุ่งหมายเพื่อเพิ่มประสิทธิภาพของ AI ในขณะเดียวกันก็ลดความเสี่ยง

ขั้นตอนที่อธิบายไว้ในรายงานนี้มีจุดมุ่งหมายเพื่อปกป้องความเป็นอิสระ ส่งเสริมความเป็นอยู่ที่ดีและความปลอดภัยของสาธารณะ รับรองความโปร่งใสและความสามารถในการอธิบาย และส่งเสริมความรับผิดชอบและความรับผิดชอบ เพื่อแก้ไขช่องว่างการกำกับดูแล เรามุ่งเน้นไปที่สองข้อสุดท้าย

นำแนวทางที่เป็นเอกภาพในการกำกับดูแล AI โดยมีการกำกับดูแลจากบนลงล่างโดยคณะกรรมการหรือผู้เชี่ยวชาญ ปัจจุบันหลายองค์กรให้แต่ละฝ่ายใช้ AI ตามที่เห็นสมควร ทำให้ผู้นำไม่สามารถอธิบายได้ว่าองค์กรใช้เครื่องมือเหล่านี้อย่างไรและที่ไหน ความชัดเจนเป็นสิ่งสำคัญ ดังนั้นให้แน่ใจว่าคุณมีรายชื่อเครื่องมือที่ใช้อยู่ที่ไหนและเพื่ออะไร

การกำหนดเส้นความรับผิดชอบที่ชัดเจนในวงจรชีวิตของ AI ก็มีความสำคัญเช่นกัน ซึ่งหมายถึงการกำหนดให้บุคคลหรือฝ่ายใดรับผิดชอบตั้งแต่การซื้อ การตรวจสอบ การใช้งาน การติดตาม และการตอบสนองต่อเหตุการณ์ โรงพยาบาลต้องกำหนดให้ผู้ขายต้องปฏิบัติตามมาตรฐานความโปร่งใสและความสามารถในการตรวจสอบ และให้แน่ใจว่าทีมภายในได้รับการฝึกอบรมให้เข้าใจทั้งความสามารถและข้อจำกัดของระบบ AI

สุดท้าย การกำกับดูแลจะต้องถูกดำเนินการ ไม่ใช่แค่การบันทึกไว้ ให้ฝังการกำกับดูแลลงในกระบวนการทำงานโดยการรวมการประเมินความเสี่ยง AI ลงในกระบวนการซื้อ จัดทำการตรวจสอบการทำงานของ AI อย่างสม่ำเสมอ และสร้างกลไกสำหรับพนักงานแนวหน้าในการรายงานข้อกังวลโดยไม่ต้องมีข้อจำกัด

ในทางปฏิบัติ การปิดช่องว่างการกำกับดูแลไม่ใช่เรื่องของการนำหลักการใหม่ๆ มาใช้ แต่เป็นการบังคับใช้ระเบียบ: มาตรฐานวิธีการนำ AI เข้าสู่องค์กร ระบุว่าใครเป็นเจ้าของมันในแต่ละขั้นตอน และให้แน่ใจว่าประสิทธิภาพของมันถูกตรวจสอบอย่างต่อเนื่อง หากไม่มีระเบียบเหล่านี้ เครื่องมือ AI จะยังคงนำหน้าโครงสร้างที่ออกแบบมาเพื่อรักษาความปลอดภัย

ความเสี่ยงที่ซ่อนอยู่: คุณภาพของข้อมูล

แม้ว่าโครงสร้างความรับผิดชอบจะถูกสร้างขึ้น แต่ความเสี่ยงอีกอย่างที่มักถูกมองข้ามคือความสมบูรณ์ของข้อมูลที่ใช้ในการให้อาหารระบบ AI และวิธีการพัฒนาของระบบเหล่านั้น ระบบ AI ใดๆ ก็เช่นกันจะน่าเชื่อถือเท่ากับข้อมูลที่ใช้ในการฝึกอบรมและเรียนรู้อย่างต่อเนื่อง สภาพแวดล้อมข้อมูลของโรงพยาบาลมีชื่อเสียงในเรื่องการกระจาย การไม่สอดคล้องกัน และช่องว่าง

ระบบบันทึกสุขภาพอิเล็กทรอนิกส์ ระบบภาพ และแพลตฟอร์มการบริหารมักจะทำงานในซิลโล ทำให้เกิดความไม่สอดคล้องกันที่สามารถส่งผลกระทบโดยตรงต่อผลลัพธ์ของ AI ได้ โมเดลที่ฝึกอบรมด้วยชุดข้อมูลที่ไม่สมบูรณ์หรือมีอคติสามารถสร้างคำแนะนำที่มีข้อบกพร่องซึ่งอาจไม่ได้รับการสังเกตจนกว่าจะเกิดอันตรายแล้ว

สิ่งนี้ยังทำให้ “การเปลี่ยนแปลงของโมเดล” ซึ่งเป็นแนวโน้มของโมเดล AI ที่จะเบี่ยงเบนจากคำแนะนำและบริบทเมื่อมีข้อมูลเข้ามาในระบบมากขึ้น เมื่อประชากรผู้ป่วยเปลี่ยนแปลง โพรโทคอลการรักษาใหม่ถูกนำมาใช้ และปัจจัยภายนอกส่งผลกระทบต่อการดำเนินงาน สมมติฐานพื้นฐานของเครื่องมือ AI สามารถเปลี่ยนแปลงได้ หากไม่มีการตรวจสอบและปรับเทียบใหม่อย่างต่อเนื่อง ระบบ AI ที่ทำงานได้ดีในตอนแรกอาจเริ่มดำเนินการหรือแนะนำวิธีแก้ปัญหาที่ไม่สอดคล้องกับการฝึกอบรม

เพื่อแก้ไขปัญหาการเปลี่ยนแปลงของโมเดล โรงพยาบาลต้องรักษาเครื่องมือ AI เป็นทรัพย์สินแบบไดนามิกและมีความเสี่ยงสูง ซึ่งหมายถึงการนำการตรวจสอบประสิทธิภาพอย่างต่อเนื่อง การกำหนดเกณฑ์มาตรฐานสำหรับความถูกต้องที่ยอมรับได้ และการกำหนดความเป็นเจ้าของสำหรับการฝึกอบรมและตรวจสอบใหม่ การกำกับดูแลข้อมูลจะต้องได้รับการเสริมสร้างด้วยการปฏิบัติที่เป็นมาตรฐานสำหรับคุณภาพข้อมูล ความสามารถในการแลกเปลี่ยนข้อมูล และการตรวจจับอคติ

หากไม่เผชิญหน้ากับความเสี่ยงที่เกี่ยวข้องกับคุณภาพข้อมูลและความเสี่ยงของโมเดล แม้กระทั่งโครงสร้างการกำกับดูแล AI ที่ดีที่สุดก็จะไม่เพียงพอ สำหรับระบบ AI ในสาธารณสุข ซึ่งเป็นเพียงเท่ากับข้อมูลที่รองรับ การเพิกเฉยต่อความเสี่ยงในระดับนี้จะทำให้เกิดความล้มเหลวของระบบในไม่ช้า ^[1]

ทำสิ่งที่ถูกต้องก่อนที่จะเริ่ม

AI มีศักยภาพในการเปลี่ยนแปลงสาธารณสุขโดยการปรับปรุงประสิทธิภาพ ความถูกต้อง และผลลัพธ์ของผู้ป่วย แต่หากไม่มีการกำหนดความเสี่ยงที่ชัดเจน ศักยภาพนั้นสามารถกลายเป็นความเสี่ยงได้อย่างรวดเร็ว

โรงพยาบาลไม่สามารถรักษาการกำกับดูแล AI เป็นการออกกำลังกายเพื่อความเป็นไปตามข้อบังคับได้ มันจะต้องถูกมองว่าเป็นลำดับความสำคัญในการดำเนินงาน: ระบุความเป็นเจ้าของ ระบุรูปแบบการกำกับดูแล และประเมินอย่างต่อเนื่อง เนื่องจากในสาธารณสุข เมื่อมีอะไรผิดปกติ ผลที่ตามมาจะแย่กว่าใครที่ผิด