การใช้ LLM ที่ไม่ได้รับการตรวจสอบและปัญหาการปฏิบัติตามกฎระเบียบด้านการดูแลสุขภาพ

ทั่วทั้งอุตสาหกรรม AI ที่สร้างขึ้น (GenAI) ได้ทำการผ่านพัฒนาการที่รวดเร็วในระยะเวลาอันสั้น การพัฒนานี้ได้รับแรงผลักดันจากโมเดลพื้นฐาน ซึ่ง รายงานของแคลิฟอร์เนียเกี่ยวกับนโยบาย AI นิยามว่าเป็น “ชั้นของเทคโนโลยีที่มีจุดประสงค์ทั่วไปซึ่งต้องใช้ทรัพยากรจำนวนมากในการผลิต โดยต้องใช้ข้อมูลและคอมพิวเตอร์จำนวนมากเพื่อให้ได้ความสามารถที่สามารถใช้ในการใช้งาน AI ลง游

โมเดลภาษาขนาดใหญ่ (LLM) ที่มีจุดประสงค์ทั่วไป เช่น Gemini และ ChatGPT ได้แสดงให้เห็นถึงความสามารถที่เพิ่มขึ้นในการจำลองและเกินความสามารถในการรับรู้ของมนุษย์ในด้านต่างๆ เช่น การวิเคราะห์ข้อมูล การเขียน และการให้เหตุผล ในด้านการดูแลสุขภาพโดยเฉพาะ การใช้ GenAI กำลังเพิ่มขึ้น เนื่องจากผู้เชี่ยวชาญด้านการดูแลสุขภาพและผู้เชี่ยวชาญด้านสุขภาพอื่นๆ มองหาการใช้เทคโนโลยีนี้เพื่อลดภาระการบริหาร จัดการการดำเนินงาน และแม้แต่การสนับสนุนการตัดสินใจทางคลินิก

อย่างไรก็ตาม แม้ว่าเทคโนโลยีนี้จะมีศักยภาพที่ยิ่งใหญ่ แต่การนำ GenAI มาใช้ในด้านการดูแลสุขภาพก็ทำให้เกิดความเสี่ยงด้านการปฏิบัติตามกฎระเบียบ หากไม่ได้รับการนำไปใช้หรือดำเนินการอย่างรับผิดชอบ โดยเฉพาะอย่างยิ่ง การใช้ LLM ที่มีจุดประสงค์ทั่วไปมีความเสี่ยงด้านการปฏิบัติตามกฎระเบียบเฉพาะที่องค์กรด้านการดูแลสุขภาพต้องเข้าใจอย่างเต็มที่เพื่อป้องกันการรั่วไหลของข้อมูลหรือการละเมิดความปลอดภัย

เพื่อรักษาความเป็นส่วนตัวของข้อมูลผู้ป่วย ตรวจสอบให้แน่ใจว่าปฏิบัติตามกฎระเบียบที่เปลี่ยนแปลงไป และลดความเสี่ยงด้านต้นทุน ผู้นำด้านการดูแลสุขภาพต้องใช้แนวทางที่เด็ดขาดในการลดความเสี่ยงด้านการปฏิบัติตามกฎระเบียบ “ระเบิดเวลา” ของการใช้ LLM ที่ไม่ได้รับการตรวจสอบ

สถานะปัจจุบันของการใช้ LLM ที่มีจุดประสงค์ทั่วไปในด้านการดูแลสุขภาพ

ทั่วทั้งด้านการดูแลสุขภาพ พนักงานกำลังใช้ LLM เพิ่มขึ้นเพื่อสนับสนุนงานประจำต่างๆ ตั้งแต่งานบริหารจนถึงการสื่อสารผู้ป่วย LLM ที่มีหลายรูปแบบ ยังขยายการนำไปใช้เหล่านี้ด้วยความสามารถในการประมวลผลข้อความ รูปภาพ และเสียงได้อย่างง่ายดาย นอกเหนือจากการส่งเสริมการบริหารแล้ว เรายังเห็นการเพิ่มขึ้นของผู้ให้บริการที่หันมาใช้เทคโนโลยีนี้เพื่อสนับสนุนงานมากกว่าเพียงงานบริหาร แต่ยังรวมถึงงานทางคลินิกด้วย

โมเดลเหล่านี้ได้แสดงผลลัพธ์ที่น่าประทับใจแล้ว โดยมีหลายการศึกษาที่แสดงให้เห็นว่าผลการทำงานของ LLM เทียบเท่าหรือเกินความสามารถของมนุษย์ในด้านต่างๆ ตัวอย่างเช่น โมเดล GPT-4 ผ่านการสอบใบอนุญาตแพทย์ของสหรัฐอเมริกาด้วยคะแนน 86.7%

AI แบบผสมผสาน เป็นแนวทางที่เกิดขึ้นใหม่ในการใช้ GenAI ในด้านการดูแลสุขภาพโดยการผสมผสานการเรียนรู้ของเครื่อง (ML) และ LLM เพื่อจัดการการวิเคราะห์ที่ซับซ้อนและแปลผลลัพธ์เป็นภาษาที่เข้าใจได้ง่าย โดยการรวมทั้งสองโมเดล แนวทางนี้มุ่งหวังที่จะเอาชนะข้อบกพร่องของ LLM รวมถึงการสร้างเรื่องราวที่ไม่ถูกต้องและความลำเอียง ในขณะที่เล่นให้ถึงจุดแข็ง AI ที่มีเจตนา ก็เพิ่มขึ้นในการนำไปใช้เนื่องจากความสามารถในการทำงานอัตโนมัติโดยไม่ต้องมีการเข้าแทรกแซงจากมนุษย์ เช่น การตอบข้อความผู้ป่วยหรือการนัดหมาย

อย่างไรก็ตาม ศักยภาพของ AI ยังเน้นย้ำถึงความจำเป็นในการกำกับดูแลที่มีประสิทธิภาพมากขึ้น เมื่อเครื่องมือเหล่านี้ถูกฝังอยู่ในกระบวนการด้านการดูแลสุขภาพมากขึ้น ความเสี่ยงก็จะสูงขึ้นในการรับรองความถูกต้อง ความปลอดภัย และการปฏิบัติตามกฎระเบียบ

ความเสี่ยงด้านการปฏิบัติตามกฎระเบียบของ LLM ที่มีจุดประสงค์ทั่วไปในด้านการดูแลสุขภาพ

แม้ว่าการนำเทคโนโลยีดิจิทัลมาใช้ในด้านการดูแลสุขภาพจะปลดปล่อยโอกาสใหม่ๆ มากมาย แต่ก็ได้ทำให้ความอ่อนไหวที่สำคัญถูกเปิดเผยด้วย ระหว่างวันที่ 1 พฤศจิกายน 2023 ถึง 31 ตุลาคม 2024 ตัวอย่างเช่น อุตสาหกรรมด้านการดูแลสุขภาพได้ประสบ เหตุการณ์ด้านความปลอดภัย 1,710 ครั้ง โดย 1,542 เหตุการณ์เกี่ยวข้องกับการเปิดเผยข้อมูลที่ได้รับการยืนยัน

ยุค AI เพิ่มความซับซ้อนให้กับข้อมูลส่วนบุคคลและความปลอดภัยมากขึ้น โดยเฉพาะอย่างยิ่ง การใช้ LLM ที่มีจุดประสงค์ทั่วไปในด้านการดูแลสุขภาพทำให้เกิดความเสี่ยงด้านการปฏิบัติตามกฎระเบียบหลายประการ

ความเสี่ยง #1: การพัฒนาที่ไม่โปร่งใสทำให้ไม่สามารถตรวจสอบหรือยืนยันความปลอดภัยได้อย่างต่อเนื่อง

โมเดลที่ปิดไม่ได้ให้ความโปร่งใสเกี่ยวกับกระบวนการในการพัฒนา เช่น ข้อมูลที่ใช้ในการฝึกอบรมหรือวิธีการอัปเดต ทำให้ไม่สามารถตรวจสอบหรือยืนยันความปลอดภัยได้อย่างต่อเนื่อง

ความเสี่ยง #2: การรั่วไหลของข้อมูลผู้ป่วย

LLM อาจไม่ได้ใช้ข้อมูลผู้ป่วยที่ไม่สามารถระบุได้เสมอไป การส่งคำถามหรือการโต้ตอบที่เฉพาะเจาะจงอาจทำให้ข้อมูลสุขภาพที่สามารถระบุได้ถูกเปิดเผยโดยไม่ตั้งใจ ซึ่งอาจทำให้เกิดการละเมิด HIPAA

ความเสี่ยง #3: การเผยแพร่ความลำเอียงและข้อมูลที่ไม่ถูกต้อง

ใน การทดลองหนึ่ง นักวิจัยได้ใส่ข้อเท็จจริงที่ไม่ถูกต้องลงในฐานความรู้ของโมเดลทางชีวการแพทย์ และพบว่าข้อมูลที่ไม่ถูกต้องถูกเผยแพร่ไปทั่วผลลัพธ์ของโมเดล ซึ่งแสดงให้เห็นถึงความอ่อนไหวของ LLM ต่อการโจมตีโดยการให้ข้อมูลที่ไม่ถูกต้อง

ข้อบกพร่องที่พบในโมเดลพื้นฐานจะถูกส่งต่อให้กับโมเดลที่นำมาใช้และแอปพลิเคชันที่เกิดจากโมเดลพื้นฐาน ความแตกต่างในผลลัพธ์อาจทำให้ความไม่เท่าเทียมกันด้านสุขภาพแย่ลง เช่น การให้คำแนะนำที่ไม่ถูกต้องสำหรับกลุ่มที่ไม่ได้ถูกแทนที่

ความเสี่ยง #4: การไม่สอดคล้องกับกฎระเบียบ

การใช้ LLM ที่มีจุดประสงค์ทั่วไปอาจไม่สอดคล้องกับ HIPAA, GDPR หรือกฎระเบียบ AI ที่กำลังพัฒนาขึ้น โดยเฉพาะอย่างยิ่งหากผู้ขายไม่สามารถตรวจสอบข้อมูลที่ใช้ในการฝึกอบรมได้ ความเสี่ยงเหล่านี้ถูกขยายใหญ่ขึ้นเมื่อพนักงานขององค์กรด้านการดูแลสุขภาพใช้เครื่องมือ AI ที่ไม่ได้รับการอนุมัติหรือไม่ได้รับการตรวจสอบ หรือใช้ AI ในร่ม

แนวปฏิบัติที่ดีที่สุด: แนวทางและข้อพิจารณาในการใช้ LLM

เพื่อนำ GenAI มาใช้อย่างรับผิดชอบ ผู้นำด้านการดูแลสุขภาพต้องกำหนดแนวทางที่ชัดเจนเพื่อปกป้องผู้ป่วยและองค์กรด้วยกัน แนวปฏิบัติที่ดีที่สุดต่อไปนี้สามารถช่วยให้องค์กรด้านการดูแลสุขภาพสร้างรากฐานสำหรับการใช้ AI ที่มีความรับผิดชอบและเป็นไปตามกฎระเบียบ

แนวปฏิบัติที่ดีที่สุด #1: เลือกเทคโนโลยี AI อย่างชาญฉลาด

ต้องการความชัดเจนจากผู้ขายเกี่ยวกับวิธีการพัฒนาเทคโนโลยี AI และข้อมูลที่ใช้ในการพัฒนาให้มากที่สุด ให้ความสำคัญกับเครื่องมือที่ใช้เนื้อหาทางการแพทย์ที่ได้รับการตรวจสอบโดยผู้เชี่ยวชาญ มีกระบวนการตัดสินใจที่โปร่งใส และหลีกเลี่ยงการฝึกอบรมโมเดลโดยใช้ข้อมูลสุขภาพของผู้ป่วย

แนวปฏิบัติที่ดีที่สุด #2: สร้างการป้องกันโดยมีมนุษย์อยู่ในวงจร

รับรองว่าผู้เชี่ยวชาญด้านการแพทย์จะตรวจสอบผลลัพธ์ที่สร้างโดย AI ที่อาจส่งผลต่อการตัดสินใจในการดูแล AI สามารถเป็นเครื่องมือที่ทรงพลัง แต่ในอุตสาหกรรมที่มีผลกระทบโดยตรงต่อชีวิตผู้ป่วย การกำกับดูแลโดยผู้เชี่ยวชาญด้านการแพทย์เป็นกุญแจสำคัญในการรับรองการใช้งานที่มีความรับผิดชอบและความถูกต้องของข้อมูลที่ได้รับการสนับสนุนจาก AI

แนวปฏิบัติที่ดีที่สุด #3: การฝึกอบรมและการเตรียมพร้อมของพนักงาน

ให้การศึกษาแก่ผู้เชี่ยวชาญด้านการแพทย์และพนักงานเกี่ยวกับประโยชน์และความเสี่ยงของการใช้ AI เพื่อลดการนำ AI มาใช้โดยไม่ได้รับการอนุมัติ พนักงานด้านการดูแลสุขภาพกำลังเผชิญกับงานที่ซับซ้อนและความเหนื่อยหน่ายสูง การทำให้กระบวนการเรียนรู้ AI ง่ายขึ้นจะช่วยให้แน่ใจว่ามีการปฏิบัติตามกฎระเบียบโดยไม่เพิ่มภาระให้กับงานของพวกเขา

แนวปฏิบัติที่ดีที่สุด #4: สร้างวัฒนธรรมการกำกับดูแล

รวมการประเมินจากภายนอกของโซลูชัน AI เพื่อยืนยันความปลอดภัย ความน่าเชื่อถือ และการปฏิบัติตามกฎระเบียบ ในขณะเดียวกันก็ใช้โครงสร้างพื้นฐานสำหรับการกำกับดูแล AI ทั่วทั้งองค์กรที่กำหนดการอนุมัติ การใช้งาน และการตรวจสอบเพื่อเพิ่มความไว้วางใจในเทคโนโลยีและป้องกันไม่ให้พนักงานหันไปใช้เครื่องมือที่ไม่ได้รับการอนุมัติ

แนวปฏิบัติที่ดีที่สุด #5: จัดตำแหน่งผู้นำด้านการดูแล AI

ร่วมมือกับผู้นำเพื่ออยู่เหนือการเปลี่ยนแปลงกฎระเบียบและคำแนะนำจาก FDA และ ONC ความพยายามด้านกฎระเบียบกำลังเกิดขึ้นที่ระดับรัฐ ตัวอย่างเช่น แคลิฟอร์เนียได้บังคับใช้ กฎหมายความโปร่งใสด้าน AI ซึ่งเน้นย้ำถึงการเปิดเผยความเสี่ยง ความโปร่งใส และการบรรเทา โดยเฉพาะอย่างยิ่งในบริบทด้านการดูแลสุขภาพ และยังมี กฎหมาย AI ของโคโลราโด (CAIA) ซึ่งออกแบบมาเพื่อป้องกันการเลือกปฏิบัติด้านอัลกอริทึม

แนวปฏิบัติที่ดีที่สุด #6: การตรวจสอบอย่างต่อเนื่องและการวนกลับของข้อมูล

การใช้ AI ในบริบทด้านการดูแลสุขภาพไม่ควรใช้แนวทาง “ตั้งค่าและลืม” การตั้งค่าโครงสร้างสำหรับการตรวจสอบอย่างต่อเนื่องสามารถช่วยรับรองความถูกต้องของเครื่องมือ AI เพิ่มความรับผิดชอบ และรักษาความสอดคล้องกับกฎระเบียบตลอดเวลา

แนวปฏิบัติที่ดีที่สุด #7: พัฒนาความร่วมมือเพื่อเพิ่มการกำกับดูแลและการวิจัย

องค์กรด้านการดูแลสุขภาพควรใช้ประโยชน์จากความสัมพันธ์กับหน่วยงานกำกับดูแลและภาครัฐเพื่อเพิ่มการกำกับดูแล ส่งเสริมมุมมองของอุตสาหกรรมต่อมาตรฐานความปลอดภัย และรวมทรัพยากรผู้เชี่ยวชาญ

การสร้างความไว้วางใจผ่านการนำกฎระเบียบ

การแยกแยะโซลูชัน AI ในด้านการดูแลสุขภาพจะขึ้นอยู่กับคุณภาพของเนื้อหาที่มีจริยธรรม ความสมบูรณ์ของกระบวนการประเมิน และการรวมเข้ากับกระบวนการทางคลินิกอย่างมีความรับผิดชอบ ช่วงต่อไปของการนำ AI มาใช้จะขึ้นอยู่น้อยลงกับโค้ดและมากขึ้นกับการนำกฎระเบียบ

ความไว้วางใจมีความสำคัญเท่ากับการปฏิบัติตามกฎระเบียบเอง เพื่อให้เทคโนโลยีมีประสิทธิภาพจริงๆ ผู้ป่วยและผู้ให้บริการต้องเชื่อว่า AI นั้นปลอดภัยและสอดคล้องกับการดูแลที่มีคุณภาพและจริยธรรม การนำกฎระเบียบเป็นข้อได้เปรียบเชิงกลยุทธ์ ไม่ใช่แค่การป้องกันเท่านั้น องค์กรที่มีวิสัยทัศน์ระยะยาวที่กำหนดขอบเขตการกำกับดูแลในระยะแรก ก่อนที่จะเกิดเหตุการณ์ที่เป็นอันตราย จะแตกต่างจากตัวเองในอนาคตของการดูแลสุขภาพที่ขับเคลื่อนด้วย AI