คู่มือปฏิบัติสำหรับเอาท์พุต LLM ที่สามารถป้องกันได้

มีความสมมติอยู่เบื้องหลังการนำ GenAI ไปใช้ในองค์กรส่วนใหญ่ คือ ถ้าเอาท์พุตดูถูกต้อง ก็ถือว่าถูกต้อง ในสภาพแวดล้อมที่มีความเสี่ยงต่ำ การใช้การประเมินแบบนี้เป็นวิธีการที่สมเหตุสมผล แต่ในอุตสาหกรรมที่มีการควบคุม เช่น สุขภาพ การเงิน ยา และการรับรองคุณภาพ การใช้การประเมินแบบนี้เป็นความเสี่ยงต่อการเกิดปัญหา

เมื่อเอาท์พุตของ LLM มีอิทธิพลต่อการตัดสินใจทางคลินิก บันทึกทางการเงิน หรือเอกสารที่เกี่ยวข้องกับการปฏิบัติตามกฎระเบียบ การที่เอาท์พุตมีลักษณะที่ดูเหมือนจริงไม่เพียงพอแล้ว เมื่อผู้ตรวจสอบ ผู้กำกับดูแล หรือทีมกฎหมายถามถึงข้อมูลที่ใช้ กฎที่ใช้ และใครที่อนุมัติ “โมเดลบอกว่า” ไม่ใช่คำตอบที่ใครสามารถอนุมัติได้

นี่คือช่องว่างความรับผิดชอบที่ทีม GenAI ส่วนใหญ่ไม่ได้ออกแบบมาเพื่อแก้ไขปัญหา นี่คือวิธีการแก้ไขปัญหา

ทำไม “ดูถูกต้อง” จึงเป็นมาตรฐานที่ไม่ถูกต้อง

การประเมิน AI แบบดั้งเดิมมุ่งเน้นไปที่ความแม่นยำ ความล่าช้า และต้นทุน สิ่งเหล่านี้มีความสำคัญ แต่สภาพแวดล้อมที่มีการควบคุมนำมาตรฐานใหม่มาใช้ ซึ่งไม่สามารถแทนที่ได้ด้วยมาตรฐานอื่น ๆ คือ ความสามารถในการตรวจสอบ

EU AI Act ซึ่งมีผลบังคับใช้แล้ว ต้องการให้ระบบ AI ที่มีความเสี่ยงสูงเก็บเอกสารทางเทคนิค บันทึกการตรวจสอบ และหลักฐานการกำกับดูแลของมนุษย์ทั้งหมดตลอดวงจรชีวิต ระบบเหล่านี้ไม่ได้ให้คะแนนจากความสามารถในการอ่าน แต่ต้องการระบบที่สามารถสร้างใหม่ ตรวจสอบ และป้องกันได้

เอาท์พุตของ LLM ที่สามารถป้องกันได้คือเอาท์พุตที่สามารถย้อนกลับไปสู่ช่องว่างของหลักฐานที่ตรวจสอบได้: ข้อมูลที่ใช้ ข้อจำกัดที่กำหนด ใครที่ตรวจสอบ และอะไรที่เก็บไว้สำหรับการตรวจสอบในอนาคต หากไม่มีช่องว่างนี้ แม้เอาท์พุตที่ถูกต้องก็ไม่สามารถป้องกันได้

สิ่งนี้ทำให้เราต้องมองเห็นความหมายของ “พร้อมสำหรับการผลิต” ใน AI สำหรับสภาพแวดล้อมที่มีการควบคุมใหม่

สี่เสาหลักของ GenAI ที่พร้อมสำหรับการตรวจสอบ

การสร้างระบบ LLM ที่สามารถป้องกันได้มาจากการออกแบบสี่ประการ ซึ่งไม่ใช่หลักการ抽象 แต่เป็นตัวเลือกด้านโครงสร้างที่กำหนดว่าระบบของคุณสามารถผ่านการตรวจสอบได้หรือไม่

1. Provenance: ควบคุมที่มาของข้อมูล

รูปแบบการล้มเหลวที่พบบ่อยที่สุดใน AI สำหรับองค์กรคือการไม่มีขอบเขตความรู้ที่กำหนดไว้ เมื่อไม่มีขอบเขตความรู้ที่ควบคุมได้ เอาท์พุตไม่สามารถย้อนกลับไปสู่แหล่งที่มาได้ และการสร้างใหม่ไม่สามารถทำได้

วิธีการแก้ไขปัญหาที่เป็นไปได้คือการกำหนดขอบเขตความรู้ที่ได้รับอนุมัติ: เอกสารและชุดข้อมูลที่มีเวอร์ชันและเจ้าของที่ระบบได้รับอนุญาตให้ใช้ แต่ละคำตอบควรจะมีแพ็คเกจหลักฐานขั้นต่ำ: ตัวระบุแหล่งที่มาพร้อมเวอร์ชันและวันที่มีผลบังคับใช้ บันทึกการค้นหาและเลือก และการอ้างอิงในบรรทัด การใช้กฎการทำงานที่มีประโยชน์: ไม่มีการอ้างอิง ไม่มีการอ้างสิทธิ์

สิ่งนี้เปลี่ยนระบบจากการตั้งค่าความจำไปสู่การให้เหตุผลโดยอาศัยหลักฐาน เมื่อมีคนต้องการสร้างเอาท์พุตใหม่หลังจากผ่านไปหลายสัปดาห์หรือหลายเดือน การสร้างใหม่นี้มีความสำคัญ

2. ข้อจำกัด: แทนที่การแสดงออกที่ไม่มีการควบคุมด้วยพฤติกรรมที่มีการควบคุม

LLM ถูกสร้างขึ้นเพื่อให้สามารถพูดได้เชื่อถือได้ หากไม่มีข้อจำกัด ระบบจะปรับให้เหมาะสมกับการสร้างข้อความที่น่าเชื่อถือ และความน่าเชื่อถือในบริบทที่มีการควบคุมคือที่ที่ความเสี่ยงอาศัยอยู่

ข้อจำกัดคือกลไกที่เปลี่ยนตัวสร้างข้อความแบบสุ่มเป็นส่วนประกอบการดำเนินการที่มีขอบเขต ในการปฏิบัติ หมายถึง:

• การสร้างข้อความที่มีแหล่งที่มา: ทุกคำตอบต้องมีแหล่งที่มาแบบอนุมัติและเวอร์ชัน ไม่มีแหล่งที่มาไม่มีคำตอบ — เพียงการปฏิเสธหรือการยกเลิก
• โครงสร้างเอาท์พุตที่กำหนดไว้: การตอบสนองต้องอยู่ในรูปแบบที่เครื่องจักรและผู้ตรวจสอบสามารถตรวจสอบได้ ไม่ใช่แค่อ่านได้
• การบังคับใช้ขอบเขตความไว้วางใจ: เนื้อหาที่ดึงมาถือเป็นข้อมูลเข้า และจัดการโดยตรงเพื่อแก้ไขความเสี่ยงในการฉีดข้อมูลที่อาจทำลายความปลอดภัยและความสามารถในการตรวจสอบ
• การเข้าถึงแบบมีสิทธิ์น้อยที่สุด: โมเดลโต้ตอบกับข้อมูลและเครื่องมือที่จำเป็นเท่านั้น ทำให้บันทึกการตรวจสอบสะอาด

ข้อจำกัดไม่ใช่กล่องที่ต้องตรวจสอบเพื่อความเป็นไปตามกฎระเบียบ แต่เป็นตัวเลือกด้านโครงสร้างที่กำหนดว่าระบบของคุณสามารถตรวจสอบได้หรือไม่

3. การตรวจสอบ: ทำให้การกำกับดูแลของมนุษย์เป็นชั้นการควบคุมอย่างเป็นทางการ

ใน AI ที่มีการควบคุม การตรวจสอบของมนุษย์ไม่สามารถทำได้โดยไม่มีการวางแผนล่วงหน้า ต้องมีการจัดลำดับความสำคัญของความเสี่ยง (เอาท์พุตที่มีความเสี่ยงสูงจะทำให้เกิดการตรวจสอบอย่างเข้มงวดมากขึ้น) และขึ้นอยู่กับเหตุการณ์ (การตรวจสอบจะทำงานเมื่อความมั่นใจของโมเดลต่ำ แหล่งที่มาไม่มี หรือพบความผิดปกติ)

EU AI Act กำหนดให้ระบบ AI ต้องสามารถตีความ การข้าม และหยุดการตัดสินใจโดย AI ในกรณีการใช้งานที่มีความเสี่ยงสูงได้ การตอบสนองนี้ต้องมีการบันทึกการตรวจสอบที่มีรายละเอียดว่าใครอนุมัติเอาท์พุตภายใต้เงื่อนไขใด และด้วยระดับการตรวจสอบใด “มีคนตรวจสอบแล้ว” ไม่ใช่การควบคุม การบันทึกการตรวจสอบที่มีการอ้างอิงและวันที่เป็นตัวควบคุม

สิ่งนี้ทำให้การตรวจสอบเปลี่ยนจากการทดสอบคุณภาพแบบแมนนวลไปสู่ชั้นการกำกับดูแลอย่างเป็นทางการ ซึ่งเป็นactly วิธีที่ผู้กำกับดูแลเริ่มปฏิบัติต่อการตรวจสอบแล้ว

4. การเก็บรักษา: ทำให้ความรับผิดชอบมีความทนทาน

หากไม่มีการบันทึกการตรวจสอบ ก็ไม่มีหลักฐานการตรวจสอบ หากไม่มีหลักฐานการตรวจสอบ ความรับผิดชอบก็เป็นเพียงทฤษฎี

ในขณะเดียวกัน การเก็บรักษาทุกอย่างก็สร้างความเสี่ยงของตนเอง โดยเฉพาะอย่างยิ่งเมื่อข้อมูลที่มีความไวต่อการรักษาความลับ เช่น ข้อมูลสุขภาพหรือข้อมูลทางการเงิน ต้องมีการลดข้อมูลให้เหลือน้อยที่สุดตามกรอบการทำงาน เช่น GDPR หรือ HIPAA

วิธีการที่เป็นไปได้คือการใช้แบบจำลองหลายระดับ เก็บรักษาเมตาดาต้าของโมเดลและเวอร์ชัน อัตลักษณ์แหล่งที่มา การตัดสินใจนโยบาย และวันที่เสมอ เก็บรักษาเนื้อหาการโต้ตอบ (คำถาม คำตอบ และการตรวจสอบทั้งหมด) โดยเลือกตามการจำแนกความเสี่ยง โดยมีการลบข้อมูลที่ไม่จำเป็นและควบคุมการเข้าถึง วัตถุประสงค์คือการทำให้สามารถสร้างเอาท์พุตใหม่ได้โดยไม่ต้องเก็บรักษาข้อมูลที่ทำให้เกิดความเสี่ยงในอนาคต

สิ่งนี้ดูเหมือนอย่างไรในทางปฏิบัติ

พิจารณาว่าสิ่งนี้ใช้ได้กับวิทยาศาสตร์ชีวิต เช่น CFR 21 Part 11 ซึ่งต้องการให้บันทึกอิเล็กทรอนิกส์มีคุณสมบัติที่สามารถระบุได้ อ่านได้ สอดคล้องกัน เดิม และถูกต้อง LLM ที่สร้างเอกสารที่เกี่ยวข้องกับการกำกับดูแลต้องตอบสนองเกณฑ์ทั้งห้าเกณฑ์ — ไม่ใช่แค่สร้างข้อความที่อ่านได้

ในบริบทนี้ สี่เสาหลักไม่ใช่สิ่งที่เพิ่มเข้ามาได้ แต่เป็นมาตรฐานขั้นต่ำสำหรับระบบที่เป็นไปตามกฎระเบียบ Provenance รับประกันว่าเอาท์พุตสามารถระบุได้และเดิม Constraints รับประกันว่าเอาท์พุตอยู่ในขอบเขตที่กำหนดไว้ Review รับประกันว่าเอาท์พุตมีการกำกับดูแลของมนุษย์ Retention รับประกันว่าเอาท์พุตสามารถอ่านและตรวจสอบได้

ตรรกะเดียวกันนี้ใช้ได้กับบริการทางการเงิน ซึ่ง MiFID II ต้องการบันทึกการตัดสินใจและเหตุผลที่อยู่เบื้องหลัง และในด้านสุขภาพ ซึ่งระบบการสนับสนุนการตัดสินใจทางคลินิกต้องเผชิญกับการตรวจสอบที่เพิ่มขึ้นเกี่ยวกับการอธิบายและความลำเอียง

การเปลี่ยนแปลงที่ใหญ่กว่า

GenAI กำลังเปลี่ยนจากการทดลองไปสู่โครงสร้างพื้นฐานการดำเนินงาน การเปลี่ยนแปลงนี้ทำให้มาตรฐานสำหรับระบบที่ยอมรับได้สูงขึ้น

เอาท์พุตที่มีประโยชน์ไม่เพียงพอแล้ว องค์กรต้องการเอาท์พุตที่สามารถอธิบายได้ ย้อนกลับได้ และป้องกันได้ภายใต้การตรวจสอบ เนื่องจาก AI ถูกขอให้ทำสิ่งที่มีผลกระทบจริง

ทีมที่ออกแบบระบบให้มีความสามารถในการป้องกันตั้งแต่แรกจะพร้อมที่จะขยาย AI ได้อย่างปลอดภัยและรักษาความไว้วางใจในการกำกับดูแล องค์กรที่ไม่ทำเช่นนั้นจะเผชิญกับช่วงเวลาเดียวกัน: การตรวจสอบ คำถามโดยตรงเกี่ยวกับเอาท์พุตเฉพาะ และไม่มีอะไรที่จะแสดงให้เห็น

การสร้าง AI ที่พร้อมสำหรับการตรวจสอบไม่ใช่เรื่องของการชะลอการทำงาน แต่เป็นการสร้างสิ่งที่สามารถทนทานได้