จะประเมินเอเจนต์ AI ได้อย่างไร? งาน เส้นทางการทำงาน ความน่าเชื่อถือ และต้นทุน

การประเมินเอเจนต์ AI หมายถึงการทดสอบว่าเอเจนต์ทำงานที่เป็นตัวแทนของงานจริงได้อย่างน่าเชื่อถือหรือไม่ ดำเนินการตามแนวทางที่ยอมรับได้ เคารพขอบเขตของตน และมอบคุณค่าที่คุ้มกับต้นทุนหรือไม่ การพิจารณาเฉพาะคำตอบสุดท้ายยังไม่เพียงพอ เพราะเอเจนต์อาจได้ผลลัพธ์ที่ดูสมเหตุสมผลจากการกระทำที่ไม่ปลอดภัย การกล่าวอ้างที่ไม่มีหลักฐานรองรับ การลองซ้ำมากเกินไป หรือโชคช่วย

การประเมินเอเจนต์เป็นเรื่องยาก เพราะระบบทำงานต่อเนื่องเป็นระยะเวลาหนึ่ง โมเดลเลือกใช้เครื่องมือ สังเกตสภาพแวดล้อมที่เปลี่ยนแปลง และอาจใช้เส้นทางที่แตกต่างกันในแต่ละครั้งที่ทำงาน ดังนั้น การประเมินที่มีประสิทธิภาพจึงวัดทั้งผลลัพธ์และเส้นทางการทำงานจากการทดสอบซ้ำหลายครั้ง

คำศัพท์ที่ใช้ในการประเมินเอเจนต์

คู่มือของ Anthropic เรื่องการทำความเข้าใจการประเมินเอเจนต์ให้ชัดเจนนำเสนอชุดคำศัพท์ที่เป็นประโยชน์ ดังนี้

• งานทดสอบ: กรณีทดสอบหนึ่งกรณีที่ระบุวัตถุประสงค์ สภาพแวดล้อม ข้อมูลนำเข้า และเกณฑ์ความสำเร็จ
• การทดลอง: ความพยายามหนึ่งครั้งที่เอเจนต์ใช้ทำงานให้สำเร็จ
• บันทึกการโต้ตอบหรือเส้นทางการทำงาน: ลำดับข้อความ การตัดสินใจ การเรียกใช้เครื่องมือ สิ่งที่สังเกตพบ และการกระทำระหว่างการทดลอง
• ผู้ประเมิน: กฎ โปรแกรม โมเดล หรือบุคคลที่ให้คะแนนประสิทธิภาพบางส่วน
• ระบบรองรับการประเมิน: ระบบที่เตรียมสภาพแวดล้อม เรียกใช้การทดลอง รวบรวมบันทึกการทำงาน เรียกใช้ผู้ประเมิน และรายงานผล

การแยกแนวคิดเหล่านี้ออกจากกันช่วยป้องกันข้อผิดพลาดที่พบบ่อย นั่นคือการมองว่าการสาธิตที่สำเร็จเพียงครั้งเดียวเป็นหลักฐานว่าเอเจนต์จะทำงานได้อย่างน่าเชื่อถือ

เริ่มต้นด้วยข้อกำหนดของงานที่ชัดเจน

คำอธิบายงานที่ใช้ประเมินได้ดีจะระบุสถานะเริ่มต้น เครื่องมือที่ใช้ได้ ข้อจำกัด ผลลัพธ์ที่คาดหวัง และพฤติกรรมสำคัญที่ห้ามทำ การทดสอบควรใกล้เคียงกับงานจริง โดยไม่เปิดเผยเส้นทางที่กำหนดไว้เพียงเส้นทางเดียว

สำหรับเอเจนต์ฝ่ายสนับสนุน คำสั่งว่า “จัดการเรื่องร้องเรียนให้เรียบร้อย” ยังคลุมเครือเกินไป ข้อกำหนดของงานที่ชัดเจนกว่าควรระบุข้อมูลลูกค้า นโยบายที่เกี่ยวข้อง วิธีแก้ไขที่อนุญาต การสื่อสารที่ต้องดำเนินการ และรายการเปลี่ยนแปลงที่ต้องปรากฏในระบบบันทึกข้อมูลหลัก จากนั้นจึงประเมินผลได้อย่างเป็นรูปธรรม

การประเมินเอเจนต์ 4 ด้าน

ควรรายงานผลการประเมินแต่ละด้านแยกจากกัน การนำทั้งหมดมารวมเป็นค่าเฉลี่ยเดียวอาจบดบังพฤติกรรมที่ยอมรับไม่ได้ เช่น คะแนนความสำเร็จของงานที่สูง ทั้งที่มีการพยายามใช้เครื่องมือโดยไม่ได้รับอนุญาตบ่อยครั้ง ทีมสามารถกำหนดเกณฑ์ความปลอดภัยที่ต้องผ่านอย่างเด็ดขาดก่อน แล้วจึงเปรียบเทียบคุณภาพผลลัพธ์และประสิทธิภาพของการทำงานที่ผ่านเกณฑ์เหล่านั้น

1. คุณภาพของผลลัพธ์

เอเจนต์ทำเป้าหมายสำเร็จหรือไม่ ผู้ประเมินผลลัพธ์สามารถตรวจสอบการเปลี่ยนแปลงสถานะที่เจาะจง ช่องข้อมูลที่ต้องกรอก ผลการทดสอบ ความถูกต้องของข้อเท็จจริง การรองรับของแหล่งอ้างอิง หรือคุณภาพตามเกณฑ์การให้คะแนน

หากทำได้ ให้ใช้สถานะสุดท้ายของสภาพแวดล้อมแทนคำกล่าวอ้างของเอเจนต์เอง เอเจนต์เขียนโค้ดยังไม่ถือว่าทำงานสำเร็จเพียงเพราะบอกว่าแก้ข้อบกพร่องแล้ว การทดสอบและการทำงานที่เกี่ยวข้องต้องยืนยันผลดังกล่าว

2. คุณภาพของเส้นทางการทำงาน

เอเจนต์ใช้เส้นทางที่เหมาะสมหรือไม่ การประเมินเส้นทางการทำงานสามารถตรวจพบการเข้าถึงข้อมูลที่ไม่จำเป็น การใช้เครื่องมือที่ไม่ได้รับอนุญาต ความล้มเหลวซ้ำ ๆ การข้ามขั้นตอนตรวจสอบ การแต่งสิ่งที่สังเกตพบขึ้นเอง หรือการละเมิดข้อกำหนดในการขออนุมัติ

การเบี่ยงเบนจากเส้นทางอ้างอิงไม่ได้หมายความว่าเป็นข้อผิดพลาดเสมอไป เอเจนต์อาจพบวิธีแก้ปัญหาที่ถูกต้อง ซึ่งผู้ประเมินคาดไม่ถึง ผู้ประเมินควรบังคับใช้ข้อกำหนดที่จำเป็นจริง ๆ พร้อมเปิดโอกาสให้ใช้แนวทางอื่นที่มีประสิทธิภาพ

3. ความปลอดภัยและการปฏิบัติตามนโยบาย

เอเจนต์ทำงานอยู่ภายในขอบเขตอำนาจของตนหรือไม่ การทดสอบควรครอบคลุมการแทรกคำสั่ง การขัดแย้งกันของคำสั่ง ข้อมูลละเอียดอ่อน เจตนาของผู้ใช้ที่คลุมเครือ และคำขอที่ต้องปฏิเสธหรือส่งต่อให้ผู้รับผิดชอบ

การประเมินความปลอดภัยต้องจำลองผลกระทบที่สมจริงในสภาพแวดล้อมแซนด์บ็อกซ์ การใช้ถ้อยคำที่สอดคล้องกับนโยบายยังไม่เพียงพอ หากเอเจนต์ส่งข้อความ เปลี่ยนแปลงข้อมูล หรือเปิดเผยข้อมูลไปแล้ว

4. ประสิทธิภาพในการปฏิบัติงาน

การทำงานให้สำเร็จต้องใช้เวลาและเงินเท่าใด ติดตามจำนวนโทเคนของโมเดล การเรียกใช้เครื่องมือ เวลาแฝงตามเวลาจริง จำนวนครั้งที่ลองซ้ำ การแทรกแซงของมนุษย์ และค่าใช้จ่ายของบริการภายนอก เอเจนต์ที่ทำงานสำเร็จหลังจากดำเนินการโดยไม่จำเป็น 100 ครั้ง อาจมีประโยชน์น้อยกว่าเวิร์กโฟลว์ที่เรียบง่ายกว่า

ใช้ผู้ประเมินหลายประเภท

ตัวประเมินแบบกำหนดผลแน่นอนจะตรวจสอบคุณสมบัติที่ระบุไว้อย่างชัดเจน เช่น การทดสอบผ่านหรือไม่ ไฟล์เปลี่ยนแปลงถูกต้องหรือไม่ ฟิลด์ในฐานข้อมูลมีค่าตามที่กำหนดหรือไม่ หรือมีการเรียกใช้ปลายทางที่ห้ามไว้หรือไม่ วิธีนี้รวดเร็วและให้ผลสม่ำเสมอ แต่ครอบคลุมได้เฉพาะสิ่งที่นักพัฒนากำหนดไว้ในระบบ

ตัวประเมินที่ใช้โมเดลประเมินคุณภาพต่าง ๆ เช่น ความชัดเจน ความครบถ้วน ความเกี่ยวข้อง และการทำตามเกณฑ์ที่มีรายละเอียดซับซ้อน วิธีนี้ขยายการประเมินได้ดีกว่าการตรวจสอบโดยมนุษย์ แต่ต้องตรวจสอบความถูกต้องของตัวประเมินเองด้วย เพราะอาจมีอคติหรือให้ผลไม่สม่ำเสมอ

ผู้ประเมินที่เป็นมนุษย์มีความสำคัญต่อการใช้วิจารณญาณของผู้เชี่ยวชาญ การพิจารณากรณีที่กำกวม และการตรวจสอบตัวประเมินอัตโนมัติ เนื่องจากการประเมินโดยมนุษย์ใช้เวลานานกว่าและมีค่าใช้จ่ายสูงกว่า ทีมจึงมักใช้วิธีนี้กับกลุ่มตัวอย่าง กรณีที่ผลประเมินไม่ตรงกัน และงานที่มีผลกระทบสูง

ชุดการประเมินที่มีประสิทธิภาพสูงสุดผสานแนวทางเหล่านี้เข้าด้วยกัน เช่นเดียวกัน แพลตฟอร์ม Evals ของ OpenAI มองการประเมินเป็นกระบวนการที่มีโครงสร้างสำหรับกำหนดการทดสอบ ตัวประเมิน และการทดลองซ้ำ แทนที่จะเป็นการตรวจสอบอย่างไม่เป็นทางการ

ความน่าเชื่อถือต้องอาศัยการทดสอบซ้ำหลายครั้ง

ทดสอบแต่ละงานซ้ำให้มากพอที่จะเห็นความแปรปรวนจากการสุ่มตัวอย่าง การเปลี่ยนเครื่องมือ และสถานะของสภาพแวดล้อม รายงานทั้งประสิทธิภาพเฉลี่ยและความถี่ของความล้มเหลวร้ายแรง สำหรับเวิร์กโฟลว์ที่ประกอบด้วยหลายขั้นตอนซึ่งต้องพึ่งพากัน ความแม่นยำในแต่ละขั้นอาจดูสูง แต่ความน่าเชื่อถือโดยรวมตั้งแต่ต้นจนจบยังต่ำได้ เพราะความล้มเหลวเพียงครั้งเดียวก็เพียงพอที่จะทำให้งานทั้งหมดล้มเหลว

พฤติกรรมของเอเจนต์เป็นแบบเชิงความน่าจะเป็น งานเดียวกันอาจให้แผน การเรียกใช้เครื่องมือ และผลลัพธ์ที่แตกต่างกันได้ ให้ทดสอบงานสำคัญแต่ละงานหลายครั้ง และรายงานอัตราการผ่านหรือการกระจายของคะแนน ไม่ใช่เพียงตัวอย่างที่ดีที่สุด

ตัวชี้วัดความน่าเชื่อถือสองแบบนี้ใช้ตอบคำถามคนละข้อ:

• Pass@k: ความน่าจะเป็นที่การลองอย่างน้อยหนึ่งครั้งจากทั้งหมด k ครั้งจะสำเร็จ เหมาะกับกรณีที่ยอมให้ลองหลายครั้งได้
• Pass^k: ความน่าจะเป็นที่การลองทั้ง k ครั้งจะสำเร็จ สะท้อนความสม่ำเสมอในกรณีที่ทุกครั้งต้องทำงานได้

ระบบอาจมีค่า pass@k ที่น่าพอใจ แต่ก็ยังไม่เหมาะกับการทำงานอัตโนมัติ เพราะการทำงานแต่ละครั้งไม่น่าเชื่อถือ

สร้างชุดงานที่เป็นตัวแทนของงานจริง

เริ่มจากกรณีที่ล้มเหลวจริงและคำขอที่พบบ่อยในการใช้งานจริง โดยให้ครอบคลุมทั้งงานทั่วไป กรณีขอบที่ยาก อินพุตกำกวม ข้อผิดพลาดของเครื่องมือ ข้อมูลล้าสมัย ข้อมูลที่ขาดหาย และเนื้อหาที่มุ่งโจมตีระบบ

แยกผลลัพธ์ตามประเภทงานและระดับความเสี่ยง ค่าเฉลี่ยโดยรวมอาจบดบังจุดอ่อนร้ายแรงในงานด้านการเงิน งานที่ต้องทำต่อเนื่องเป็นเวลานาน หรือแอปพลิเคชันบางตัว ควรเก็บชุดข้อมูลที่กันไว้สำหรับทดสอบโดยเฉพาะ เพื่อไม่ให้การปรับพรอมป์ตซ้ำ ๆ ทำให้ชุดการประเมินกลายเป็นชุดฝึก

ประเมินสภาพแวดล้อม ไม่ใช่แค่โมเดล

ประสิทธิภาพของเอเจนต์ขึ้นอยู่กับคำจำกัดความของเครื่องมือ สิทธิ์การใช้งาน หน่วยความจำ การจัดการบริบท ส่วนติดต่อผู้ใช้ การทำงานของเครือข่าย และการประสานงาน โมเดลรุ่นใหม่อาจลดข้อผิดพลาดอย่างหนึ่ง แต่ทำให้อีกข้อผิดพลาดปรากฏชัดขึ้น

กำหนดเวอร์ชันของระบบทั้งหมดที่ใช้ในการทำงานแต่ละครั้ง พร้อมบันทึกโมเดล พรอมป์ต เครื่องมือ ชุดข้อมูล ณ เวลานั้น สภาพแวดล้อม ขีดจำกัดการใช้ทรัพยากร และเวอร์ชันของตัวประเมิน มิฉะนั้นจะไม่สามารถระบุได้ว่าคะแนนที่เปลี่ยนไปเกิดจากสาเหตุสำคัญใด

ข้อผิดพลาดที่พบบ่อยในการประเมิน

การรั่วไหลของข้อมูลเป็นอีกหนึ่งความเสี่ยง หากงานทดสอบ คำตอบที่คาดหวัง หรือรูปแบบการให้คะแนน ปรากฏอยู่ในข้อมูลฝึกของโมเดลหรือบริบทของพรอมป์ต์ คะแนนที่ได้อาจสะท้อนเพียงการจดจำ แทนที่จะวัดความสามารถในการนำความรู้ไปใช้กับกรณีใหม่ ควรเก็บชุดงานทดสอบที่เป็นความลับไว้อีกชุด ปรับปรุงกรณีทดสอบเมื่อระบบเปลี่ยนแปลง และบันทึกโมเดล พรอมป์ต์ เวอร์ชันของเครื่องมือ และสภาพแวดล้อมที่ใช้ในการทดสอบแต่ละครั้งให้ตรงตามจริง

• การประเมินที่ยึดเดโมเป็นหลัก: เลือกงานหลังจากเห็นแล้วว่าเอเจนต์ทำอะไรได้ดี
• การให้คะแนนจากคำตอบสุดท้ายเพียงอย่างเดียว: มองข้ามเส้นทางการทำงานที่ไม่ปลอดภัยหรือสิ้นเปลือง
• ข้อสรุปจากการทดสอบครั้งเดียว: มองว่าความสำเร็จจากโชคเป็นความสามารถที่เชื่อถือได้
• ชุดทดสอบที่มีข้อมูลรั่วไหล: ใส่คำตอบหรือเส้นทางการทำงานอ้างอิงไว้ในบริบทของเอเจนต์
• โมเดลผู้ให้คะแนนที่ยังไม่ผ่านการตรวจสอบ: เชื่อว่าผู้ตัดสินอัตโนมัติให้ผลถูกต้อง โดยไม่ตรวจสอบว่าผลสอดคล้องกับความเห็นของผู้เชี่ยวชาญหรือไม่
• สภาพแวดล้อมแบบตายตัว: ทดสอบด้วยอินเทอร์เฟซ สถานะบัญชี หรือการจัดเรียงข้อมูลเพียงรูปแบบเดียว
• ไม่มีการทดสอบกรณีเชิงลบ: วัดการทำงานจนเสร็จโดยไม่ตรวจสอบว่าเอเจนต์ปฏิเสธหรือส่งต่อให้ผู้เกี่ยวข้องได้อย่างเหมาะสมหรือไม่
• มองข้ามเรื่องต้นทุน: มุ่งเพิ่มอัตราความสำเร็จจนต้นทุนและเวลาในการตอบสนองสูงเกินกว่าจะใช้งานได้

จากการประเมินแบบออฟไลน์สู่การติดตามระบบจริง

การประเมินแบบออฟไลน์อยู่ภายใต้การควบคุมและทำซ้ำได้ จึงเหมาะอย่างยิ่งสำหรับเปรียบเทียบพรอมป์ต์ โมเดล เครื่องมือ และนโยบายก่อนนำออกใช้งาน ส่วนการติดตามระบบจริงช่วยให้เห็นพฤติกรรมของผู้ใช้และการเปลี่ยนแปลงของสภาพแวดล้อมที่หลากหลายและคาดเดาได้ยาก

โปรแกรมที่พัฒนาเต็มที่แล้วจะเชื่อมโยงการประเมินทั้งสองแบบเข้าด้วยกัน เหตุการณ์ผิดปกติและบันทึกการทำงานจากระบบจริงที่มีความเชื่อมั่นต่ำจะกลายเป็นงานออฟไลน์ชุดใหม่ การเปลี่ยนแปลงที่อยู่ระหว่างพิจารณาต้องผ่านชุดทดสอบการถดถอย หลังนำระบบไปใช้งาน ทีมงานจะติดตามอัตราความสำเร็จของงาน อัตราการแทรกแซง เหตุการณ์ด้านนโยบาย ข้อผิดพลาดของเครื่องมือ ต้นทุน เวลาในการตอบสนอง และความคิดเห็นจากผู้ใช้

ตารางประเมินเอเจนต์ที่ใช้งานได้จริง

ตารางประเมินควรแยกเกณฑ์บังคับผ่านออกจากตัวชี้วัดเพื่อการปรับปรุง การปฏิบัติตามนโยบาย การได้รับอนุญาต และหลักฐานที่จำเป็นอาจกำหนดเป็นเกณฑ์ผ่านหรือไม่ผ่าน ส่วนความแม่นยำ เวลาในการตอบสนอง ต้นทุน และภาระงานของผู้ตรวจทานจึงค่อยนำมาเปรียบเทียบระหว่างการทำงานที่ผ่านเกณฑ์ วิธีนี้ช่วยป้องกันไม่ให้ทีมแลกความปลอดภัยที่ถดถอยกับประสิทธิภาพที่เพิ่มขึ้นเพียงเล็กน้อย ซึ่งคะแนนเฉลี่ยอาจบดบังไว้

ตารางประเมินที่มีประโยชน์อาจประกอบด้วย:

• อัตราความสำเร็จของงานและคะแนนคุณภาพ;
• ความสม่ำเสมอในการทดสอบซ้ำหลายครั้ง;
• อัตราการละเมิดนโยบายร้ายแรง;
• ความแม่นยำในการเลือกเครื่องมือและระบุอาร์กิวเมนต์;
• อัตราการกู้คืนการทำงานหลังเกิดข้อผิดพลาดของเครื่องมือหรือสภาพแวดล้อม;
• อัตราการส่งต่อให้มนุษย์และการแทรกแซงเพื่อยกเลิกการทำงาน;
• ค่ามัธยฐานและช่วงปลายของเวลาในการตอบสนอง;
• ต้นทุนของโมเดล เครื่องมือ และแรงงานมนุษย์ต่องานที่สำเร็จหนึ่งงาน;
• ประสิทธิภาพของเส้นทางการทำงานเมื่อเทียบกับเกณฑ์มาตรฐานที่สมเหตุสมผล

รายงานต้นทุนต่องานที่สำเร็จ ไม่ใช่เพียงต้นทุนต่อการทำงานหนึ่งครั้ง เอเจนต์ราคาถูกที่ล้มเหลวซ้ำแล้วซ้ำเล่าอาจมีต้นทุนสูงกว่าโมเดลที่มีความสามารถมากกว่าและทำงานสำเร็จในครั้งเดียว

ข้อควรจำเกี่ยวกับการประเมินเอเจนต์ AI

การประเมินเอเจนต์คือการทดสอบระบบที่ทำงานโดยมุ่งสู่เป้าหมายอย่างครบวงจรภายใต้เงื่อนไขที่สมจริง โดยวัดว่างานถูกต้องหรือไม่ เส้นทางการทำงานเป็นที่ยอมรับหรือไม่ พฤติกรรมทำซ้ำได้หรือไม่ และต้นทุนสมเหตุสมผลหรือไม่

เริ่มจากงานสำคัญจำนวนไม่มาก ทดสอบหลายครั้ง ใช้ผู้ประเมินหลายชั้น และตรวจสอบเส้นทางการทำงานอย่างครบถ้วน จากนั้นเปลี่ยนทุกความล้มเหลวสำคัญที่เกิดขึ้นในระบบจริงให้เป็นการทดสอบการถดถอย ความสามารถของเอเจนต์เปลี่ยนแปลงอย่างรวดเร็ว ระบบประเมินที่ยั่งยืนจึงช่วยให้ทีมแยกแยะความก้าวหน้าที่แท้จริงออกจากเดโมที่ชวนให้เชื่อได้