ระบบ AI ที่พูดได้ไม่มากนัก แต่ระบบที่น่าเชื่อถือมีไม่มาก

ความต้องการตัวแทน AI ในสุขภาพเป็นเรื่องด่วนในอุตสาหกรรมนี้ ทีมงานที่ทำงานหนักเกินไปต้องทำภารกิจที่ใช้เวลานานซึ่งทำให้การดูแลผู้ป่วยล่าช้า ผู้เชี่ยวชาญด้านสุขภาพถูกยืดถึงขีดสุด ศูนย์บริการลูกค้าของผู้จ่ายเงินถูกท่วมท้น และผู้ป่วยถูกทิ้งไว้โดยไม่มีคำตอบสำหรับข้อกังวลทันที

ตัวแทน AI สามารถช่วยได้โดยการเติมช่องว่างที่ลึกซึ้ง การขยายความครอบคลุมและความพร้อมของพนักงานทางคลินิกและผู้บริหาร และการลดความเหนื่อยหน่ายของพนักงานสุขภาพและผู้ป่วย ในการทำเช่นนั้น เราต้องมีพื้นฐานที่แข็งแกร่งในการสร้างความไว้วางใจในตัวแทน AI ความไว้วางใจนั้นไม่ได้มาจากน้ำเสียงที่อบอุ่นหรือความชำนาญในการสนทนา แต่มาจากวิศวกรรม

แม้ว่าความสนใจในตัวแทน AI จะพุ่งสูงขึ้นและหัวข้อข่าวประกาศถึงความหวังของ AI ที่มีหน่วยงาน แต่ผู้นำด้านสุขภาพที่รับผิดชอบต่อผู้ป่วยและชุมชนของตนยังคงลังเลที่จะใช้เทคโนโลยีนี้ในระดับใหญ่ บริษัทสตาร์ทอัพกำลังโฆษณาความสามารถของตัวแทน AI ที่สามารถทำภารกิจต่างๆ ได้ ตั้งแต่การนัดหมายไปจนถึงการสื่อสารและดูแลผู้ป่วยอย่างใกล้ชิด แต่ยังไม่มีหลักฐานที่ชัดเจนว่าการติดต่อเหล่านี้ปลอดภัย

ความเป็นจริงคือ ใครๆ ก็สามารถสร้างตัวแทนเสียงที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM) ได้ โดยให้มีน้ำเสียงที่เข้าใจและเขียนสคริปต์สำหรับการสนทนาให้ดูเหมือนจริง มีหลายแพลตฟอร์มที่ทำเช่นนี้ในอุตสาหกรรมต่างๆ ตัวแทนของพวกเขาอาจดูและเสียงต่างกัน แต่ทั้งหมดมีพฤติกรรมเหมือนกัน ซึ่งก็คือ มีแนวโน้มที่จะเกิดการหลอกลวง ไม่สามารถยืนยันข้อเท็จจริงที่สำคัญ และไม่มีกลไกที่รับประกันความรับผิดชอบ

วิธีการนี้ – การสร้างชั้นหุ้มบางๆ รอบๆ โมเดล LLM – อาจใช้ได้ในอุตสาหกรรมอื่นๆ เช่น零售หรือการบริการ แต่จะล้มเหลวในสุขภาพ โมเดลพื้นฐานเป็นเครื่องมือพิเศษ แต่โดยทั่วไปแล้วไม่ได้ถูกฝึกฝนมาเพื่อใช้เฉพาะกับโพรโทคอลทางคลินิก นโยบายของผู้จ่ายเงิน หรือมาตรฐานด้านกฎระเบียบ ตัวแทน AI ที่มีน้ำเสียงที่ดีที่สุดซึ่งสร้างขึ้นจากโมเดลเหล่านี้อาจหลุดเข้าสู่ดินแดนของการหลอกลวง โดยตอบคำถามที่ไม่ควรตอบ คิดค้นข้อเท็จจริง หรือล้มเหลวในการตระหนักถึงเมื่อคนต้องถูกนำเข้ามาในวงจร

ผลที่ตามมาของพฤติกรรมเหล่านี้ไม่ใช่เรื่องสมมุติ แต่สามารถทำให้ผู้ป่วยสับสน ขัดขวางการดูแล และส่งผลให้เกิดการทำงานของมนุษย์ที่มีค่าใช้จ่ายสูง นี่ไม่ใช่ปัญหาด้านความฉลาด แต่เป็นปัญหาด้านโครงสร้างพื้นฐาน

เพื่อให้สามารถทำงานได้อย่างปลอดภัย มีประสิทธิภาพ และเชื่อถือได้ในสุขภาพ ตัวแทน AI ต้องมากกว่าเสียงอัตโนมัติที่อยู่ปลายสายโทรศัพท์ พวกเขาต้องถูกควบคุมโดยระบบที่ถูกออกแบบมาโดยเฉพาะสำหรับการควบคุม บริบท และความรับผิดชอบ จากประสบการณ์ของฉันในการสร้างระบบเหล่านี้ นี่คือสิ่งที่ดูเหมือนในทางปฏิบัติ

การควบคุมการตอบสนองสามารถทำให้การหลอกลวงไม่มีอยู่

ตัวแทน AI ในสุขภาพไม่สามารถสร้างคำตอบที่น่าเชื่อถือได้ พวกเขาต้องส่งมอบคำตอบที่ถูกต้องทุกครั้ง ซึ่งต้องการ “พื้นที่การกระทำ” ที่สามารถควบคุมได้ – กลไกที่ทำให้ AI เข้าใจและอำนวยความสะดวกในการสนทนา แต่รับประกันว่าทุกการตอบสนองที่เป็นไปได้ถูกจำกัดโดยตรรกะที่ได้รับการอนุมัติและกำหนดไว้ล่วงหน้า

ด้วยการควบคุมการตอบสนองที่มีพารามิเตอร์แบบกำหนดไว้ล่วงหน้า ตัวแทนสามารถอ้างอิงโปรโตคอลที่ได้รับการยืนยัน ขั้นตอนการดำเนินการที่กำหนดไว้ล่วงหน้า และมาตรฐานด้านกฎระเบียบได้ ความสร้างสรรค์ของโมเดลถูกใช้เพื่อชี้นำการโต้ตอบมากกว่าการคิดค้นข้อเท็จจริง นี่คือวิธีที่ผู้นำด้านสุขภาพสามารถรับประกันว่าความเสี่ยงของการหลอกลวงจะถูกกำจัดออกไปโดยสิ้นเชิง – ไม่ใช่โดยการทดสอบในโครงการนำร่องหรือกลุ่มโฟกัส แต่โดยการออกแบบความเสี่ยงออกไปตั้งแต่เริ่มต้น

กราฟความรู้ที่มีความเชี่ยวชาญสามารถรับประกันการแลกเปลี่ยนที่เชื่อถือได้

บริบทของการสนทนาเกี่ยวกับสุขภาพแต่ละครั้งเป็นส่วนตัวมากๆ บุคคลสองคนอาจมีโรคเบาหวานชนิดที่ 2 อาศัยอยู่ในละแวกเดียวกันและมีโปรไฟล์ความเสี่ยงที่เหมือนกัน แต่ความเหมาะสมของพวกเขาในการรับยาที่เฉพาะเจาะจงจะแตกต่างกันไปตามประวัติสุขภาพของพวกเขา แนวทางการรักษาของแพทย์ แผนประกันภัย และกฎเกณฑ์ของแบบฟอร์ม

ตัวแทน AI ไม่เพียงแต่ต้องการการเข้าถึงบริบทนี้ แต่ยังต้องสามารถให้เหตุผลกับมันในเวลาจริงด้วย กราฟความรู้ที่มีความเชี่ยวชาญสามารถให้ความสามารถนี้ได้ เป็นวิธีการแสดงข้อมูลจากแหล่งที่เชื่อถือได้หลายแห่งที่ช่วยให้ตัวแทนสามารถตรวจสอบสิ่งที่พวกเขาได้ยินและรับประกันว่าข้อมูลที่พวกเขาคืนมานั้นถูกต้องและเป็นส่วนตัว ตัวแทน AI ที่ไม่มีชั้นนี้อาจดูเหมือนมีข้อมูล แต่จริงๆ แล้วพวกเขากำลังปฏิบัติตาม 워์กโฟลว์ที่เข้มงวดและเติมช่องว่าง

ระบบการตรวจสอบที่มีความแข็งแกร่งสามารถประเมินความถูกต้อง

ผู้ป่วยอาจวางสายโทรศัพท์กับตัวแทน AI และรู้สึกพอใจ แต่งานของตัวแทน AI ยังไม่เสร็จสิ้น องค์กรด้านสุขภาพต้องการการรับประกันว่าตัวแทนไม่เพียงแต่สร้างข้อมูลที่ถูกต้อง แต่ยังเข้าใจและบันทึกการโต้ตอบด้วย นี่คือที่ที่ระบบการประมวลผลอัตโนมัติหลังการโต้ตอบมาเกี่ยวข้อง

ระบบการตรวจสอบที่มีความแข็งแกร่งควรประเมินการสนทนาแต่ละครั้งด้วยความเข้มงวดในระดับเดียวกับที่ผู้กำกับดูแลมนุษย์ที่มีเวลาทั้งหมดจะทำได้ ระบบควรสามารถระบุได้ว่าการตอบสนองนั้นถูกต้องหรือไม่ รับประกันว่าข้อมูลที่ถูกต้องถูกจับได้ และกำหนดว่าต้องมีการติดตามหรือไม่ หากมีอะไรไม่ถูกต้อง ตัวแทนควรจะสามารถยกเลิกไปยังมนุษย์ได้ แต่ถ้าทุกอย่างดูถูกต้อง ภารกิจสามารถถูกทำเครื่องหมายว่าเสร็จสิ้นด้วยความมั่นใจ

นอกเหนือจากสามองค์ประกอบพื้นฐานที่จำเป็นในการสร้างความไว้วางใจแล้ว โครงสร้างพื้นฐาน AI ที่มีหน่วยงานต้องมีกรอบการทำงานด้านความปลอดภัยและความเป็นไปตามกฎระเบียบที่เข้มแข็งที่ปกป้องข้อมูลผู้ป่วยและรับประกันว่าตัวแทน AI ทำงานภายในขอบเขตที่ได้รับการควบคุม กรอบการทำงานนี้ควรรวมถึงการปฏิบัติตามมาตรฐานอุตสาหกรรมทั่วไป เช่น SOC 2 และ HIPAA แต่ยังรวมถึงกระบวนการที่สร้างขึ้นสำหรับการทดสอบความลำเอียง การลบข้อมูลสุขภาพที่ได้รับการคุ้มครอง และการเก็บรักษาข้อมูล

มาตรการรักษาความปลอดภัยเหล่านี้ไม่เพียงแต่ตรวจสอบกล่องความเป็นไปตามข้อกำหนดเท่านั้น แต่ยังสร้างเป็นโครงกระดูกของระบบที่เชื่อถือได้ซึ่งสามารถรับประกันว่าการโต้ตอบทุกครั้งจะถูกจัดการในระดับที่ผู้ป่วยและผู้ให้บริการคาดหวัง

อุตสาหกรรมสุขภาพไม่ต้องการการโฆษณา AI มากกว่านี้ แต่ต้องการโครงสร้างพื้นฐาน AI ที่เชื่อถือได้ ในกรณีของ AI ที่มีหน่วยงาน ความไว้วางใจจะถูกสร้างขึ้นไม่มากนัก แต่จะถูกออกแบบมา