ราจัน โคห์ลี ซีอีโอของ CitiusTech – สัมภาษณ์ซีรีส์: การสนทนาใหม่

ราจัน โคห์ลี เป็นประธานเจ้าหน้าที่บริหารของ CitiusTech และรับผิดชอบในการวางกลยุทธ์ระดับโลก การเติบโต และภารกิจของบริษัทในการเร่งนวัตกรรมในด้านการดูแลสุขภาพและชีวิตวิทยาศาสตร์ ในฐานะผู้บริหารด้านเทคโนโลยีที่มีประสบการณ์มากกว่าสามทศวรรษ ราจัน ได้นำการเปลี่ยนแปลงดิจิทัลขนาดใหญ่ในด้านการดูแลสุขภาพ วิศวกรรม การปรับปรุงระบบคลาวด์ แพลตฟอร์มข้อมูล และปัญญาประดิษฐ์ ตั้งแต่ที่เข้าร่วม CitiusTech เขาได้มุ่งเน้นไปที่การช่วยเหลือองค์กรด้านการดูแลสุขภาพในการย้ายจากการเปลี่ยนแปลงดิจิทัลไปสู่การดำเนินงานที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ โดยใช้การทำงานร่วมกันขั้นสูงและวิเคราะห์ขั้นสูง

CitiusTech เป็นผู้ให้บริการชั้นนำด้านเทคโนโลยีการดูแลสุขภาพ การให้คำปรึกษาด้านการดูแลสุขภาพ และโซลูชันดิจิทัลสำหรับผู้ให้บริการด้านการดูแลสุขภาพ ผู้จ่ายเงิน บริษัท MedTech และองค์กรด้านชีวิตวิทยาศาสตร์ทั่วโลก บริษัทมีความเชี่ยวชาญด้านแพลตฟอร์มข้อมูลด้านการดูแลสุขภาพ การทำงานร่วมกัน การปรับปรุงระบบคลาวด์ วิศวกรรมดิจิทัล วิเคราะห์ข้อมูล และปัญญาประดิษฐ์ เมื่อองค์กรด้านการดูแลสุขภาพพยายามที่จะนำปัญญาประดิษฐ์มาใช้ในระดับใหญ่ CitiusTech ได้ขยายการมุ่งเน้นไปที่การสร้างระบบการดูแลสุขภาพที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ ซึ่งรวมถึงรากฐานข้อมูลที่เชื่อถือได้ การกำกับดูแล การทำงานร่วมกัน และการประมวลผลที่ตระหนักถึงการทำงาน

สัมภาษณ์นี้เป็น การสัมภาษณ์ต่อเนื่องกับราจัน โคห์ลี ซึ่งเราได้สำรวจถึงบทบาทที่เพิ่มขึ้นของปัญญาประดิษฐ์แบบสร้างสรรค์ การทำงานร่วมกัน การปรับปรุงข้อมูลด้านการดูแลสุขภาพ และการเปลี่ยนแปลงดิจิทัลทั่วทั้งระบบนิเวศด้านการดูแลสุขภาพ ตั้งแต่นั้นมา อุตสาหกรรมได้พัฒนาอย่างรวดเร็วจากการทดลองกับปัญญาประดิษฐ์ไปสู่การนำไปใช้ในสภาพแวดล้อมการผลิต ซึ่งสร้างความท้าทายใหม่ ๆ เกี่ยวกับการกำกับดูแล ความน่าเชื่อถือ ความสามารถในการอธิบาย และการขยายขนาด ในการอภิปรายครั้งล่าสุดนี้ ราจัน ได้แบ่งปันว่าองค์กรด้านการดูแลสุขภาพสามารถย้ายจากการทดลองปัญญาประดิษฐ์ที่แยกจากกันไปสู่การดูแลที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ ได้อย่างไร ทำไมวิศวกรรมบริบทจึงกลายเป็นพื้นฐานที่สำคัญสำหรับปัญญาประดิษฐ์ด้านการดูแลสุขภาพ และอะไรที่จะช่วยให้สร้างระบบที่เชื่อถือได้และขยายขนาดได้เพื่อสนับสนุนการดูแลผู้ป่วยในอนาคต

คุณมีประสบการณ์หลายทศวรรษในการนำการเปลี่ยนแปลงดิจิทัลขนาดใหญ่มาใช้ การเดินทางนี้ได้กำหนดมุมมองของคุณเกี่ยวกับความซับซ้อนของการเปลี่ยนแปลงด้านการดูแลสุขภาพอย่างไร

การเปลี่ยนแปลงด้านการดูแลสุขภาพมีความซับซ้อนเนื่องจากไม่มีนิยามความสำเร็จที่ชัดเจน ผลลัพธ์ทางคลินิก การเรียกเก็บเงินและชำระเงินที่แม่นยำ การเข้าถึง ต้นทุน และประสบการณ์มักจะดึงดูดในหลายทิศทาง ไม่เหมือนกับภาคอื่น ๆ การดูแลสุขภาพถูกจำกัดโดยความเสี่ยงทางคลินิก การตรวจสอบด้านกฎระเบียบ และความรับผิดชอบทางจริยธรรม รูปแบบความล้มเหลววัดจากผลลัพธ์ของผู้ป่วย ไม่ใช่การรั่วไหลของรายได้

สิ่งนี้ทำให้วิศวกรรมบริบทเป็นพื้นฐาน: วินัยในการสร้างสภาพแวดล้อมข้อมูลที่ปัญญาประดิษฐ์ทำงาน โดยให้ผลลัพธ์ที่แม่นยำทางคลินิก ตระหนักถึงการทำงาน และพร้อมสำหรับการปฏิบัติตามกฎระเบียบตั้งแต่เริ่มต้น การขยายขนาดต้องใช้การคิดแบบระบบทั่วทั้งช่องทางคุณค่า ไม่ใช่การแปลงฟังก์ชันแบบแยกส่วน การดูแลสุขภาพต้องการการทำให้บริบทของการทำงานลึกซึ้ง รวมถึงความหมายของข้อมูลทางคลินิก การอ้างอิงด้านการเรียกเก็บเงิน และอุปกรณ์ ตลอดจนเส้นทางการปฏิบัติตามกฎระเบียบที่ซับซ้อน แพลตฟอร์มอย่าง Knewron ถูกสร้างขึ้นบนหลักการนี้ โดยพัฒนาจากปัญญาประดิษฐ์แบบทั่วไปไปสู่การฝังบริบทเฉพาะโดเมนไว้ในระดับโครงสร้าง

ความซับซ้อนนี้ถูกขยายโดยระบบนิเวศที่กระจัดกระจาย ซึ่งเกี่ยวข้องกับผู้ให้บริการ ผู้จ่ายเงิน MedTech และองค์กรด้านชีวิตวิทยาศาสตร์ แต่ละผู้เล่นเหล่านี้ดำเนินงานบนระบบที่แตกต่างกัน ระบบจูงใจ และมาตรฐานข้อมูล สิ่งที่ดูเหมือนเป็นปัญหาด้านเทคโนโลยีบนพื้นผิวจริงๆ แล้วเป็นปัญหาบริบทและความสอดคล้อง

สุดท้าย ความสำเร็จของการเปลี่ยนแปลงขึ้นอยู่ไม่เพียงแต่การปรับปรุงเทคโนโลยีเท่านั้น แต่ยังรวมถึงการสร้างวิศวกรรมความน่าเชื่อถืออีกด้วย เราต้องสร้างชั้นความน่าเชื่อถือเข้าไปในระบบปัญญาประดิษฐ์ด้านการดูแลสุขภาพระดับโลก โดยออกแบบระบบที่นักคลินิกและผู้กำกับดูแลสามารถไว้วางใจได้อย่างไม่คำนึงถึงในสถานการณ์การดูแลจริง วิศวกรรมบริบทเป็นกลไกที่ทำให้ความน่าเชื่อถือเป็นไปได้ เมื่อปัญญาประดิษฐ์เข้าใจบริบททางคลินิกและปฏิบัติการที่สมบูรณ์ของการตัดสินใจ มันจะได้รับความน่าเชื่อถืออย่างเป็นระบบ ไม่ใช่โดยบังเอิญ

คุณได้อธิบายว่าการดูแลสุขภาพกำลังเข้าสู่จุดเปลี่ยน คุณบ่งชี้ว่ากำลังขับเคลื่อนการเปลี่ยนแปลงนี้อยู่

จุดเปลี่ยนที่เรากำลังเผชิญอยู่ในขณะนี้ถูกขับเคลื่อนโดยความเครียดในการดำเนินงาน ไม่ใช่ความใหม่ของเทคโนโลยี ความกดดันด้านต้นทุน การเบื่อหน่ายของแพทย์ และการขาดแคลนแรงงานอย่างรุนแรง กำลังบังคับให้ระบบสุขภาพต้องคิดใหม่เกี่ยวกับแบบจำลองการดำเนินงานทั้งหมด ไม่ใช่แค่การแปลงแบบจำลองดิจิทัลเท่านั้น

การดึงปัญญาประดิษฐ์เข้าสู่สภาพแวดล้อมการผลิตเป็นเพียงครึ่งหนึ่งของสมการ อีกครึ่งหนึ่งคือการรับรองว่าปัญญาประดิษฐ์ทำงานด้วยบริบทที่ถูกต้อง โดยไม่มีวิศวกรรมบริบท ปัญญาประดิษฐ์ในกระบวนการทำงานทางคลินิกและปฏิบัติการมีความเสี่ยงที่จะสร้างผลลัพธ์ที่ถูกต้องทางเทคนิค แต่ไม่สอดคล้องกับบริบททางคลินิกหรือการบริหารจัดการ

ในขณะเดียวกัน กฎระเบียบด้านการกำกับดูแล เช่น กฎการทำงานร่วมกันของ CMS ความโปร่งใสของราคาค่าบริการ และมาตรการคุณภาพดิจิทัล กำลังบังคับให้มีการไหลเวียนของข้อมูลและการปรับปรุงในระดับสมัยใหม่ การใช้คลาวด์ข้ามขอบเขตของความต่อเนื่อง ทำให้การปรับปรุงระดับองค์กรและการใช้งานปัญญาประดิษฐ์ที่พร้อมสำหรับการปฏิบัติตามกฎระเบียบเป็นไปได้ ปัญญาประดิษฐ์ขณะนี้สอดคล้องกับความพร้อมของการดูแลสุขภาพ เนื่องจากเรามีกระบวนการทำงานดิจิทัล สินทรัพย์ข้อมูลที่มีคุณภาพ และโครงสร้างความรับผิดชอบที่ชัดเจนกว่าในคลื่นเทคโนโลยีก่อนหน้า

สิ่งที่ขาดไปจนถึงตอนนี้คือเนื้อเยื่อเชื่อมระหว่างสินทรัพย์ข้อมูลดิบกับการกระทำของปัญญาประดิษฐ์ที่มีความหมาย และเนื้อเยื่อนั้นคือบริบท เรากำลังเห็นความต้องการตลาดที่ชัดเจนสำหรับโซลูชันที่ออกแบบมาเพื่อช่วยให้องค์กรด้านการดูแลสุขภาพเปลี่ยนความเครียดในการดำเนินงานให้เป็นประสิทธิภาพที่วัดได้

การดูแลสุขภาพมักจะล้าหลังในการแปลงดิจิทัลเมื่อเทียบกับอุตสาหกรรมอื่น ๆ สิ่งใดที่เปลี่ยนแปลงไปเพื่อให้การนำปัญญาประดิษฐ์มาใช้ขนาดใหญ่ในปัจจุบันเป็นไปได้

ปัญญาประดิษฐ์สามารถขยายขนาดได้ เนื่องจากองค์กรด้านการดูแลสุขภาพกำลังเรียนรู้ที่จะเข้ารหัสนโยบาย แนวทางทางคลินิก และตรรกะการดำเนินงาน แทนที่จะดูดซับข้อมูลดิบจำนวนมาก การเปลี่ยนแปลงพื้นฐานคือการย้ายจากแบบจำลองที่ตีความข้อมูลดิบไปสู่ระบบที่ดำเนินการความรู้ที่เข้ารหัสไว้โดยมีการกำกับดูแลอย่างเข้มงวด ซึ่งเป็นสิ่งที่วิศวกรรมบริบททำให้เป็นไปได้ โดยการย้ายปัญญาประดิษฐ์จากการตีความแบบไม่โต้ตอบไปสู่การดำเนินการแบบมีการกำกับดูแลโดยการสร้างสภาพแวดล้อมความรู้ที่แบบจำลองทำงาน

ความเสี่ยงพื้นฐานได้ลดลงอย่างมากจากการนำมาตรฐาน FHIR, HL7, แพลตฟอร์มข้อมูลคลาวด์แบบเนทีฟ และสถาปัตยกรรมที่ขับเคลื่อนด้วยเหตุการณ์ องค์กรด้านการดูแลสุขภาพตระหนักมากขึ้นว่าปัญญาประดิษฐ์ต้องถูกฝังอยู่ในกระบวนการทำงาน ไม่ใช่การแสดงผลแบบแยกส่วน เครื่องมืออย่าง MLOps, DevSecOps และการทำให้การปฏิบัติตามกฎระเบียบเป็นอัตโนมัติได้ทำให้สามารถตรวจสอบอย่างต่อเนื่อง ติดตาม และฝึกอบรมใหม่อย่างควบคุมได้ เรากำลังเห็นการเปลี่ยนแปลงที่ชัดเจนจากการทดลองไปสู่กรณีการใช้งานที่เชื่อมโยงกับคุณค่า เช่น ช่องว่างในการดูแล การอนุมัติล่วงหน้า ความสมบูรณ์ของการเรียกเก็บเงิน การถ่ายภาพ และการสนับสนุนการตัดสินใจทางคลินิก

อุตสาหกรรมกำลังเพิ่มงานทุกเดือน และสิ่งนี้ช่วยได้เพราะปัญญาประดิษฐ์ไม่ถูกมองว่าเป็นการเอางานไป ปัญญาประดิษฐ์ที่ขยายขนาดกำลังช่วยให้การลงทุนมุ่งสู่ผลลัพธ์ที่ดีกว่าสำหรับผู้ป่วยและแพทย์

หลายองค์กรยังคงติดอยู่ในระยะทดลอง อะไรคืออุปสรรคหลักที่ป้องกันไม่ให้ปัญญาประดิษฐ์เข้าสู่การใช้งานจริงในด้านการดูแลสุขภาพ

ปัญญาประดิษฐ์ประสบความยากลำบากในการขยายขนาดในด้านการดูแลสุขภาพ เนื่องจากความเป็นจริงเชิงโครงสร้างหลายอย่างปรากฏขึ้นพร้อมกัน กระบวนการด้านการดูแลสุขภาพมักไม่ทำงานเพื่อวัตถุประสงค์เดียว ผลลัพธ์ทางคลินิก ต้นทุน การเข้าถึง ประสบการณ์ของผู้ป่วย ความแม่นยำในการชำระเงิน และความเสี่ยงระยะยาวมักจะแข่งขันกัน โดยเกี่ยวข้องกับผู้ให้บริการ ผู้จ่ายเงิน ผู้กำกับดูแล และผู้ป่วย การกำหนดความสำเร็จเป็นเรื่องซับซ้อน แต่จำเป็น การทดลองหลายครั้งล้มเหลวเพราะไม่ได้เชื่อมโยงกับมาตรการผลลัพธ์ที่ชัดเจนและแบ่งปัน

อุปสรรคอีกประการหนึ่งคือต้นทุนและความพยายามในการทำเครื่องหมายและตรวจสอบ การขยายขนาดต้องมีการมีส่วนร่วมอย่างต่อเนื่องจากแพทย์และผู้เชี่ยวชาญด้านการเรียกเก็บเงิน ซึ่งเวลาของพวกเขามีจำกัดและแพง และมักถูกมองข้ามในช่วงการทดลอง

อุปสรรคที่สามคือช่องว่างในการกำกับดูแลและการผสานรวม การทดลองบ่อยครั้งไม่มีการตรวจสอบ การควบคุมนโยบาย และการกำกับดูแลของมนุษย์ที่จำเป็นสำหรับกระบวนการทำงานที่มีความเสี่ยงสูงซึ่งเกี่ยวข้องกับข้อมูลส่วนบุคคล (PHI) ข้อผิดพลาดปรากฏขึ้นในช่วงปลายในสภาพแวดล้อมจริง โดยเฉพาะในเรื่องการเรียกเก็บเงินและการชำระเงิน ซึ่งผลลัพธ์ไม่ผ่านกฎของผู้จ่ายเงินหรือความคาดหวังในการทำงานร่วมกัน ระบบนิเวศเทคโนโลยีที่กระจัดกระจาย รวมถึงระบบเก่า แพลตฟอร์มที่เป็นเจ้าของ และการนำมาตรฐาน HL7/FHIR ที่ไม่สม่ำเสมอ ทำให้การผสานรวมเปราะบางและยากสำหรับโซลูชันปัญญาประดิษฐ์ทั่วไป

การขยายขนาดสำเร็จเฉพาะเมื่อปัญญาประดิษฐ์ตรงกับวัตถุประสงค์ในการดำเนินงานที่แท้จริง ได้รับการสนับสนุนจากรากฐานข้อมูลที่แข็งแกร่ง และได้รับการออกแบบสำหรับกระบวนการทำงานที่ซับซ้อน การเปลี่ยนแปลงกำลังเกิดขึ้นไปสู่การสร้างกรณีการใช้งาน MVP ที่มุ่งเน้นไปที่กรณีการใช้งานที่มีคุณค่าทางธุรกิจที่ชัดเจนและมีการสนับสนุนจากผู้บริหาร ซึ่งย้ายการอภิปรายจากการทดลองปัญญาประดิษฐ์ไปสู่การเปลี่ยนแปลงกระบวนการทำงานที่วัดได้

จากมุมมองของระบบ ระบบการดูแลสุขภาพที่พร้อมปัญญาประดิษฐ์แบบสมัยใหม่จะมีลักษณะอย่างไร โดยเฉพาะในแง่ของการประมวลผลข้อมูล การทำงานร่วมกัน และโครงสร้างคลาวด์

ระบบที่พร้อมปัญญาประดิษฐ์คือระบบที่การบังคับใช้นโยบาย การตรวจสอบ และการยกเลิกถูกฝังอยู่ในกระบวนการทำงาน ไม่ใช่จัดการภายนอกเป็นเรื่องรองจากนั้น ต้องมีแพลตฟอร์มข้อมูลคลาวด์แบบเนที่ฟที่รวมข้อมูลการเรียกเก็บเงิน บันทึกสุขภาพอิเล็กทรอนิกส์ การถ่ายภาพ อุปกรณ์ และข้อมูลการดำเนินงานเข้าด้วยกันในระดับที่มีการกำกับดูแลสูง

เราต้องจัดลำดับความสำคัญของการทำงานร่วมกันโดยใช้มาตรฐาน FHIR, HL7, SMART on FHIR และ DICOM โดยได้รับการสนับสนุนจากเครื่องมือตรวจสอบที่เฉพาะเจาะจง ต้องมีการแยกความกังวลอย่างชัดเจนระหว่างการรับ การประมวลผล การวิเคราะห์ บริการปัญญาประดิษฐ์ และระดับการกำกับดูแล วิศวกรรมบริบทอยู่ที่จุดตัดของชั้นเหล่านี้ เป็นวินัยที่เชื่อมข้อมูลดิบที่รับเข้ามาเข้ากับข้อมูลเข้าปัญญาประดิษฐ์ที่มีการกำกับดูแลและเพิ่มคุณค่าทางสัมบูรณ์

การรักษาความปลอดภัยที่มีมาตรฐานคือสิ่งจำเป็น โดยครอบคลุมการควบคุมการเข้าถึงตามบทบาท การเข้ารหัส ข้อมูลการจัดการความยินยอม ตรวจสอบประวัติ และการตรวจสอบความถูกต้อง ความสำเร็จของระบบวัดจากความล้มเหลวที่ปลอดภัย ไม่ใช่ความซับซ้อนของส่วนประกอบ โดยการเข้ารหัสกรอบการทำงานเช่น HIPAA และ GDPR ตรงเข้าสู่ชั้นการดำเนินงาน เราสร้างชั้นการกำกับดูแลที่จำเป็นสำหรับการใช้งานทั่วโลก

องค์กรจัดการประมวลผลข้อมูลแบบเรียลไทม์และการผสานรวมข้ามบันทึกสุขภาพอิเล็กทรอนิกส์ อุปกรณ์ทางการแพทย์ และแพลตฟอร์มผู้จ่ายเงินเพื่อสนับสนุนการตัดสินใจโดยปัญญาประดิษฐ์อย่างไร

การประมวลผลแบบเรียลไทม์มีความสำคัญเฉพาะเมื่อข้อมูลเชิงลึกปรากฏขึ้นภายในกระบวนการทำงานของแพทย์และผู้ปฏิบัติงาน ไม่ใช่ในแดชบอร์ดที่อยู่ห่างออกไป ความท้าทายหลักคือการจัดการความแปรผันและข้อยกเว้น มากกว่าการเน้นไปที่การไหลเวียนของข้อมูล องค์กรกำลังจัดการกับสิ่งนี้ผ่านซอฟต์แวร์ระดับกลางที่ทำให้ข้อมูลเป็นมาตรฐานและเพิ่มคุณค่าให้กับข้อมูลก่อนที่จะถูกปัญญาประดิษฐ์บริโภค

สิ่งนี้ทำให้วิศวกรรมบริบทมีบทบาทสำคัญ ระบบต้องสร้างข้อมูลที่เข้ามาจากบันทึกสุขภาพอิเล็กทรอนิกส์ อุปกรณ์ทางการแพทย์ และแพลตฟอร์มผู้จ่ายเงินให้เป็นพื้นฐานบริบทที่สอดคล้องกัน เพื่อให้ปัญญาประดิษฐ์สามารถให้ข้อมูลเข้าได้ซึ่งถูกต้องตามบริบททางคลินิกหรือการดำเนินงานที่เฉพาะเจาะจง นี่ทำให้การผสานรวมมีความหมายมากกว่าการเชื่อมต่อทางเทคนิค โดยให้ผลลัพธ์ที่ไม่เพียงแต่ขึ้นอยู่กับข้อมูลเท่านั้น แต่ยังรวมถึงแนวทางทางคลินิก กฎของผู้จ่ายเงิน และข้อจำกัดของกระบวนการทำงานที่เกี่ยวข้องกับผู้ป่วยและกรณีเฉพาะ

ความท้าทายทางเทคนิคที่ยิ่งใหญ่ที่สุดในการใช้ปัญญาประดิษฐ์ในสภาพแวดล้อมทางคลินิกคืออะไร โดยเฉพาะอย่างยิ่งเกี่ยวกับการตรวจสอบแบบจำลอง การติดตาม และการบริหารจัดการการเปลี่ยนแปลง

ความท้าทายที่ยากที่สุดไม่ใช่การเสื่อมสภาพของความแม่นยำเท่านั้น แต่เป็นการแพร่กระจายข้อผิดพลาดที่ไม่ได้รับการตรวจจับข้ามกระบวนการทำงานที่เชื่อมต่อกัน วิศวกรรมบริบททำหน้าที่เป็นแนวป้องกันแรกโดยการสร้างสภาพแวดล้อมความรู้ที่แบบจำลองทำงาน ระบบต้องตรวจสอบข้อมูลเข้าสำหรับความร่วมมือทางคลินิกและปฏิบัติการก่อนที่การให้เหตุผลของปัญญาประดิษฐ์จะเริ่มต้น ลดข้อผิดพลาดที่ต้นกำเนิด

การตรวจสอบต้องเกินกว่าเมตริกอัตโนมัติและรวมถึงการวิเคราะห์ใหม่ของมนุษย์ เพื่อให้แน่ใจว่าผลลัพธ์สะท้อนถึงความเกี่ยวข้องทางคลินิกจริงมากกว่าความสามารถทางสถิติเพียงอย่างเดียว การเปลี่ยนแปลงแบบจำลองต้องได้รับการจัดการอย่างแข็งขัน โดยการตรวจสอบที่เชื่อมโยงกับวงจรป้อนกลับจากโลกแห่งความเป็นจริง โดยมีจุดตรวจสอบที่ฝังอยู่เพื่อตรวจจับการเปลี่ยนแปลงในแง่ของความเกี่ยวข้องทางคลินิก การจัดตำแหน่งกฎของผู้จ่ายเงิน และความสอดคล้องของกระบวนการทำงาน

สุดท้าย ความสำเร็จขึ้นอยู่กับการสร้างสมดุลระหว่างความสามารถในการปรับตัวกับความคาดหวังด้านกฎระเบียบที่เข้มงวด การใช้ปัญญาประดิษฐ์ในสภาพแวดล้อมทางคลินิกและสภาพแวดล้อมของซอฟต์แวร์ทางการแพทย์ (SaMD) ต้องการชั้นการกำกับดูแลที่เข้มงวด ชั้นนี้บังคับใช้การป้องกัน การกระตุ้นการตรวจสอบของมนุษย์ และการฝึกอบรมใหม่แบบควบคุมก่อนที่จะมีผลกระทบต่อการดูแลผู้ป่วย

คุณเข้าใกล้การสร้างความสามารถในการอธิบายและความสามารถในการตรวจสอบในระบบปัญญาประดิษฐ์ที่ใช้ในด้านการดูแลสุขภาพที่มีการควบคุมอย่างไร

ความสามารถในการอธิบายมีอยู่เพื่อให้มนุษย์สามารถท้าทาย ยกเลิก และเรียนรู้จากผลลัพธ์ของปัญญาประดิษฐ์ ไม่ใช่แค่เข้าใจเท่านั้น วิศวกรรมบริบททำให้ความสามารถในการท้าทายนี้เป็นโครงสร้างมากกว่าการเพิ่มส่วนประกอบ โดยการเข้ารหัสแนวทางทางคลินิก กฎนโยบาย และตรรกะการดำเนินงานเข้าไปในระบบปัญญาประดิษฐ์ ดังนั้น ผลลัพธ์ทุกอย่างสามารถสืบย้อนกลับไปถึงบริบทที่กำหนดได้ ไม่ใช่การย้อนกลับหลังจากที่เกิดขึ้น

ความสามารถในการตรวจสอบก็มีความจำเป็นเช่นกัน โดยสร้างความทรงจำของสถาบันมากกว่าการปฏิบัติตามกฎระเบียบหลังจากเกิดเหตุ โดยใช้นโยบายเป็นรหัสเพื่อฝังกฎระเบียบและกฎขององค์กรเข้าไปในกระบวนการทำงาน โดยใช้กรอบการทำงานเช่น HIPAA และ CMS เป็นข้อมูลนำเข้าในการกำกับดูแลตั้งแต่เริ่มต้น ไม่ใช่การตรวจสอบภายนอกที่ใช้ภายหลัง

นอกจากนี้ บันทึกที่ไม่สามารถเปลี่ยนแปลงและประวัติการตรวจสอบเป็นสิ่งจำเป็นเพื่อสนับสนุนการกำกับดูแลด้านกฎระเบียบและการเชื่อถือทางคลินิก ระบบควรบันทึกไม่เพียงแต่การตัดสินใจที่ทำเท่านั้น แต่ยังรวมถึงบริบททั้งหมด รวมถึงข้อมูล ข้อจำกัด และสถานะของกระบวนการทำงานที่แจ้งให้ทราบด้วย

ทั่วทั้งกระบวนการนี้ การกำกับดูแลของมนุษย์ยังคงเป็นข้อกำหนดที่จำเป็นสำหรับการตัดสินใจทางคลินิกที่มีความเสี่ยงสูงหรือไม่สามารถย้อนกลับได้ การสร้างชั้นการเชื่อถือที่โปร่งใสนี้รับประกันว่าเมื่อผู้กำกับดูแลหรือแพทย์ถามว่าทำไมระบบปัญญาประดิษฐ์จึงแนะนำการตัดสินใจเฉพาะ คำตอบนั้นสามารถเข้าถึงได้ทันทีและสามารถป้องกันได้

เมื่อระบบอัตโนมัติและระบบอิสระกำลังเพิ่มขึ้น อะไรคือการป้องกันที่จำเป็นในการรับรองความน่าเชื่อถือและป้องกันผลลัพธ์ที่ไม่ได้ตั้งใจในกระบวนการทำงานทางคลินิก

ในด้านการดูแลสุขภาพ ระบบอัตโนมัติมีคุณค่าเฉพาะเมื่อขอบเขตของการทำงานอัตโนมัติเป็นแบบชัดเจนและย้อนกลับได้ วิศวกรรมบริบทช่วยกำหนดขอบเขตเหล่านี้โดยการสร้างขอบเขตการดำเนินงาน ข้อจำกัดทางคลินิก และตรรกะการยกเลิกเข้าไปในระบบ ทำให้การทำงานอัตโนมัติทำงานภายในโครงสร้างที่มีการกำกับดูแล ไม่ใช่การให้แบบจำลองควบคุมตนเอง

สิ่งนี้ต้องการการทำงานอัตโนมัติที่มีความรับผิดชอบ รวมถึงการกำหนดบทบาทที่ชัดเจน เส้นทางการยกเลิก และจุดตรวจสอบเชิงตัวเลขที่ฝังอยู่ในพฤติกรรมของตัวแทน ระบบต้องรับรองว่าตัวแทนปฏิบัติงานภายในขอบเขตทางคลินิกและปฏิบัติการที่ได้รับการอนุมัติและบังคับใช้ทางสถาปัตยกรรม ไม่ใช่แค่กำหนดโดยนโยบาย

นอกจากนี้ยังต้องการการตรวจสอบอย่างต่อเนื่องเกี่ยวกับพฤติกรรมของตัวแทน คุณภาพการตัดสินใจ และการโต้ตอบที่ไม่ได้ตั้งใจ เราใช้การจำกัดนโยบายที่ป้องกันตัวแทนจากการกระทำนอกขอบเขตทางคลินิกหรือการดำเนินการที่ได้รับการอนุมัติ สำหรับกระบวนการทำงานทางคลินิก การกำกับดูแลของมนุษย์เป็นหลักการออกแบบพื้นฐาน ไม่ใช่กลไกการป้องกัน

เมื่อเราย้ายไปสู่การประสานงานระหว่างตัวแทนแบบขั้นสูง ตัวแทนเหล่านี้ต้องทำงานอย่างเข้มงวดภายในโครงสร้างที่มีการกำกับดูแลและเข้ารหัสไว้เพื่อให้มั่นใจในความน่าเชื่อถือ

เมื่อมองไปข้างหน้า การดูแลที่ขับเคลื่อนด้วยปัญญาประดิษฐ์จะมีลักษณะอย่างไรสำหรับผู้ป่วยในช่วงสิบปีข้างหน้า

ในช่วงสิบปีข้างหน้า ปัญญาประดิษฐ์จะลดความซับซ้อนก่อนที่จะเปลี่ยนแปลงการดูแล โดยเริ่มต้นด้วยการบริหารจัดการ การประสานงาน และการสนับสนุนการตัดสินใจ การดูแลที่ขับเคลื่อนด้วยปัญญาประดิษฐ์จะสำเร็จเมื่อแพทย์เชื่อถือค่าเริ่มต้นแต่ยังคงรักษาอำนาจในการตัดสินใจ ปัญญาประดิษฐ์จะกลายเป็นผู้จัดการทั่วทั้งกระบวนการดูแล โดยคาดการณ์ความต้องการมากกว่าการตอบสนองต่อเหตุการณ์

วิศวกรรมบริบททำให้การเปลี่ยนแปลงนี้เป็นไปได้โดยการสร้างข้อมูลทางคลินิก การเรียกเก็บเงิน และข้อมูลการดำเนินงานที่มีประวัติยาวนาน เพื่อให้ปัญญาประดิษฐ์สามารถให้เหตุผลทั่วทั้งกระบวนการดูแลสุขภาพด้วยความลึกที่จำเป็นสำหรับการดำเนินการเชิงรุก ไม่ใช่แค่การคาดการณ์เท่านั้น

คำว่า “ตระหนักถึงบริบท” เป็นคำที่สำคัญ และไม่ใช่เรื่องบังเอิญ การส่งมอบเส้นทางการดูแลสุขภาพที่เป็นส่วนตัวและปรับให้เหมาะสมในระดับใหญ่ต้องอาศัยปัญญาประดิษฐ์ที่มีความรู้เชิงลึกเกี่ยวกับประวัติทางคลินิก สภาพแวดล้อมของผู้จ่ายเงิน และสภาพแวดล้อมการดูแลของแต่ละผู้ป่วย แพทย์จะได้รับการสนับสนุนจากผู้ช่วยและระบบการสนับสนุนการตัดสินใจ ซึ่งจะลดภาระการทำงานทางปัญญาและการบริหารจัดการของพวกเขาอย่างมาก

เมื่อเวลาผ่านไป ระบบการดูแลสุขภาพจะพัฒนาเป็นระบบการเรียนรู้ โดยปรับปรุงอย่างต่อเนื่องเมื่อข้อมูล แบบจำลอง และการป้อนกลับจากโลกแห่งความเป็นจริงสะสมกัน โดยการสร้างชั้นการเชื่อถือที่แข็งแกร่งในวันนี้ เรากำหนดรากฐานการดำเนินงานสำหรับอนาคตที่ไร้ความเสี่ยงนี้

ขอขอบคุณสำหรับคำตอบที่มีรายละเอียด ผู้อ่านสามารถเยี่ยมชม CitiusTech เพื่อเรียนรู้เพิ่มเติม