เอไอเอเจนต์ใดๆ ก็สามารถพูดได้ แต่มีเพียงไม่กี่ตัวที่น่าเชื่อถือ

ความต้องการเอไอเอเจนต์ในด้านการดูแลสุขภาพมีความเร่งด่วน ในทั่วทั้งอุตสาหกรรม ทีมงานที่ทำงานหนักมีภาระงานที่ต้องใช้เวลาอย่างมากซึ่งทำให้การดูแลผู้ป่วยชะงักงัน ผู้เชี่ยวชาญด้านการดูแลสุขภาพถูกยืดถึงขีดสุด ศูนย์บริการของบริษัทประกันภัยถูกท่วมท้น และผู้ป่วยถูกปล่อยให้รอคำตอบสำหรับข้อกังวลทันที

เอไอเอเจนต์ สามารถช่วยได้โดยการเติมช่องว่างที่ลึกซึ้ง โดยการขยายขอบเขตและความพร้อมของพนักงานด้านการดูแลสุขภาพและการบริหาร และลดความเหนื่อยหน่ายของพนักงานด้านสุขภาพและผู้ป่วยด้วย แต่ก่อนที่เราจะทำเช่นนั้น เราต้องการพื้นฐานที่แข็งแกร่งสำหรับการสร้างความไว้วางใจในเอไอเอเจนต์ ความไว้วางใจนั้นจะไม่มาจากน้ำเสียงที่อบอุ่นหรือความชำนาญในการสนทนา มันมาจากวิศวกรรม

แม้ว่าความสนใจในเอไอเอเจนต์จะพุ่งสูงขึ้นและหัวข้อข่าวจะประกาศถึงความหวังของเอไอเอเจนต์ แต่ผู้นำด้านการดูแลสุขภาพซึ่งรับผิดชอบต่อผู้ป่วยและชุมชนของตนยังคงลังเลที่จะใช้เทคโนโลยีนี้ในระดับใหญ่ สตาร์ทอัพหลายแห่งกำลังโฆษณาความสามารถของเอไอเอเจนต์ ซึ่งรวมถึงการทำให้งานที่ซ้ำซากๆ เช่น การนัดหมายและการสื่อสารและการดูแลผู้ป่วย แต่ส่วนใหญ่ยังไม่ได้พิสูจน์ว่าการมีส่วนร่วมเหล่านี้ปลอดภัย

หลายคนไม่เคยทำเช่นนั้น

ความเป็นจริงคือ ใครก็ตามสามารถสร้าง เอเย่นต์เสียง ที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM) ให้มีน้ำเสียงที่มีใจและเขียนสคริปต์สำหรับการสนทนาให้ดูเหมือนจริง มีแพลตฟอร์มมากมายที่ทำเช่นนี้ในอุตสาหกรรมทุกประเภท เอเย่นต์ของพวกเขาอาจดูและเสียงแตกต่างกัน แต่ทั้งหมดนี้มีพฤติกรรมเหมือนกัน – มีแนวโน้มที่จะเกิดการเห็นภาพหลอกลวง ไม่สามารถยืนยันข้อเท็จจริงที่สำคัญ และไม่มีกลไกที่รับประกันความรับผิดชอบ

วิธีการนี้ – การสร้างชั้นหุ้มที่บางมาก xung quanh LLM พื้นฐาน – อาจทำงานในอุตสาหกรรมเช่น零售หรือการบริการ แต่จะล้มเหลวในด้านการดูแลสุขภาพ โมเดลพื้นฐานเป็นเครื่องมือที่พิเศษ แต่โดยทั่วไปแล้วมันไม่ได้รับการฝึกฝนโดยเฉพาะสำหรับโปรโตคอลทางคลินิก นโยบายผู้จ่ายเงิน หรือมาตรฐานด้านกฎระเบียบ แม้แต่เอเย่นต์ที่มีเสียงที่ดีที่สุดที่สร้างขึ้นจากโมเดลเหล่านี้ก็สามารถหลุดเข้าสู่ดินแดนของการเห็นภาพหลอกลวงได้ โดยตอบคำถามที่ไม่ควรตอบ คิดค้นข้อเท็จจริง หรือไม่สามารถรับรู้เมื่อใดที่ต้องมีการนำคนเข้ามาในวงจร

ผลที่ตามมาของพฤติกรรมเหล่านี้ไม่ใช่เรื่องสมมติเท่านั้น มันสามารถทำให้ผู้ป่วยสับสน ขัดขวางการดูแล และส่งผลให้เกิดการทำงานซ้ำของมนุษย์ที่มีค่าใช้จ่ายสูง นี่ไม่ใช่ปัญหาด้านความฉลาด มันเป็นปัญหาด้านโครงสร้างพื้นฐาน

เพื่อให้ทำงานได้อย่างปลอดภัย มีประสิทธิภาพ และเชื่อถือได้ในด้านการดูแลสุขภาพ เอไอเอเจนต์ต้องมากกว่าเสียงอัตโนมัติที่ปลายสายโทรศัพท์ พวกเขาต้องได้รับการดำเนินการโดยระบบที่ได้รับการออกแบบโดยเฉพาะสำหรับการควบคุม บริบท และความรับผิดชอบ จากประสบการณ์ของฉันในการสร้างระบบเหล่านี้ นี่คือสิ่งที่ดูเหมือนในทางปฏิบัติ

การควบคุมการตอบสนองสามารถทำให้การเห็นภาพหลอกลวงไม่มีอยู่

เอไอเอเจนต์ในด้านการดูแลสุขภาพไม่สามารถสร้างคำตอบที่น่าเชื่อถือได้ พวกเขาต้องส่งมอบคำตอบที่ถูกต้องทุกครั้ง สิ่งนี้ต้องการ “พื้นที่การกระทำ” ที่สามารถควบคุมได้ – กลไกที่ช่วยให้เอไอเข้าใจและอำนวยความสะดวกในการสนทนา แต่รับประกันว่าทุกการตอบสนองที่เป็นไปได้ถูกกำหนดโดยตรรกะที่ได้รับการอนุมัติและกำหนดไว้ล่วงหน้า

ด้วยพารามิเตอร์การควบคุมการตอบสนองที่สร้างขึ้น เอเย่นต์สามารถอ้างอิงโปรโตคอลที่ได้รับการยืนยัน ขั้นตอนการดำเนินงานที่กำหนดไว้ล่วงหน้า และมาตรฐานด้านกฎระเบียบได้ ความคิดสร้างสรรค์ของโมเดลถูกใช้เพื่อชี้นำการสนทนาแทนการคิดค้นข้อเท็จจริง นี่คือวิธีที่ผู้นำด้านการดูแลสุขภาพสามารถรับรองได้ว่าความเสี่ยงของ การเห็นภาพหลอกลวง ถูกกำจัดทิ้งโดยสิ้นเชิง – ไม่ใช่โดยการทดสอบในโครงการนำร่องหรือกลุ่มโฟกัสเดียว แต่โดยการออกแบบความเสี่ยงออกไปตั้งแต่พื้นฐาน

กราฟความรู้ที่เชี่ยวชาญสามารถรับรองการแลกเปลี่ยนที่เชื่อถือได้

บริบทของการสนทนาเกี่ยวกับการดูแลสุขภาพทุกครั้งมีความเป็นส่วนตัวสูง ผู้ป่วยสองคนมีโรคเบาหวานชนิดที่ 2 อาจอาศัยอยู่ในละแวกเดียวกันและเข้าข่ายโปรไฟล์ความเสี่ยงเดียวกัน แต่ความเหมาะสมของพวกเขาในการใช้ยาเฉพาะจะแตกต่างกันไปตามประวัติสุขภาพของพวกเขา แนวทางการรักษาของแพทย์ แผนการประกันภัยของพวกเขา และกฎเกณฑ์ของรูปแบบ

เอไอเอเจนต์ต้องการการเข้าถึงบริบทนี้ และต้องสามารถให้เหตุผลกับมันในเวลาจริง กราฟความรู้ที่เชี่ยวชาญให้ความสามารถนี้ มันเป็นวิธีการแสดงข้อมูลจากแหล่งที่เชื่อถือได้หลายแห่งที่ช่วยให้เอเย่นต์สามารถตรวจสอบสิ่งที่พวกเขาได้ยินและรับรองว่าข้อมูลที่พวกเขาคืนมานั้นถูกต้องและเป็นส่วนตัว เอเย่นต์ที่ไม่มีชั้น nàyอาจดูเหมือนมีข้อมูล แต่จริงๆ แล้วพวกเขากำลังปฏิบัติตาม 워์กโฟลว์ที่เข้มงวดและเติมช่องว่าง

ระบบการตรวจสอบที่มั่นคงสามารถประเมินความแม่นยำ

ผู้ป่วยอาจวางสายโทรศัพท์กับเอไอเอเจนต์และรู้สึกพึงพอใจ แต่งานสำหรับเอเย่นต์ยังไม่สิ้นสุด องค์กรด้านการดูแลสุขภาพต้องการการรับรองว่าเอเย่นต์ไม่เพียงแต่ผลิตข้อมูลที่ถูกต้อง แต่ยังเข้าใจและบันทึกการโต้ตอบด้วย นั่นคือที่ที่ระบบการประมวลผลแบบอัตโนมัติหลังการโต้ตอบเข้ามา

ระบบการตรวจสอบที่มั่นคงควรประเมินการสนทนาแต่ละครั้งด้วยความเข้มงวดเช่นเดียวกับที่ผู้กำกับดูแลมนุษย์ที่มีเวลาทั้งหมดจะนำมาใช้ มันควรจะสามารถระบุได้ว่าการตอบสนองนั้นถูกต้อง รับรองว่าข้อมูลที่ถูกต้องถูกจับได้ และกำหนดว่าต้องมีการติดตามหรือไม่ หากมีอะไรไม่ถูกต้อง เอเย่นต์ควรจะสามารถยกเลิกไปยังมนุษย์ได้ แต่ถ้าทุกอย่างดูถูกต้อง งานสามารถทำเครื่องหมายออกจากรายการได้ด้วยความมั่นใจ

นอกเหนือจากสามองค์ประกอบพื้นฐานที่จำเป็นในการสร้างความไว้วางใจ โครงสร้างพื้นฐานของเอไอเอเจนต์ทุกตัวต้องมีกรอบการทำงานด้านความปลอดภัยและความเป็นไปตามกฎระเบียบที่มั่นคงซึ่งปกป้องข้อมูลผู้ป่วยและรับรองว่าเอเย่นต์ทำงานภายในขอบเขตที่ได้รับการควบคุม กรอบการทำงานนี้ควรรวมถึงการปฏิบัติตามมาตรฐานอุตสาหกรรมทั่วไป เช่น SOC 2 และ HIPAA แต่ยังรวมถึงกระบวนการที่สร้างขึ้นสำหรับการทดสอบความลำเอียง การลบข้อมูลสุขภาพที่ได้รับการคุ้มครอง และการเก็บรักษาข้อมูล

การป้องกันด้านความปลอดภัยเหล่านี้ไม่เพียงแต่ตรวจสอบกล่องความเป็นไปตามข้อกำหนดเท่านั้น แต่ยังสร้างกระดูกสันหลังของระบบที่น่าเชื่อถือซึ่งสามารถรับรองได้ว่าทุกการโต้ตอบจะถูกจัดการในระดับที่ผู้ป่วยและผู้ให้บริการคาดหวัง

อุตสาหกรรมด้านการดูแลสุขภาพไม่ต้องการการโฆษณาเอไอเพิ่มเติม มันต้องการโครงสร้างพื้นฐานของเอไอที่เชื่อถือได้ ในกรณีของเอไอเอเจนต์ ความไว้วางใจจะไม่ได้รับจากการโฆษณา แต่จะถูกสร้างขึ้น