AI แบบเอเจนท์คืออะไร? ระบบวางแผน ใช้เครื่องมือ และทำงานให้สำเร็จอย่างไร

Agentic AI คือปัญญาประดิษฐ์ที่สามารถไล่ตามเป้าหมายโดยตัดสินใจว่าจะทำอะไรต่อไป ใช้เครื่องมือ สังเกตผลลัพธ์ และปรับวิธีการของตน แทนที่จะให้คำตอบเดียวแล้วหยุดลง ตัวเอเจนท์ทำงานผ่านลูปการควบคุมจนกว่าจะทำงานสำเร็จ ถึงขีดจำกัด หรือส่งงานกลับให้คน

ความแตกต่างนี้สำคัญเพราะระบบ AI ที่มีผลกระทบสูงที่สุดกำลังก้าวข้ามการสนทนาไปแล้ว พวกมันสามารถค้นหาข้อมูลจากหลายแหล่ง ถามฐานข้อมูล รันโค้ด ทำงานซอฟต์แวร์ อัปเดตระบบธุรกิจ และประสานงานกับเอเจนท์อื่น ๆ ความเป็นอิสระที่มากขึ้นอาจเปิดโอกาสให้ทำงานที่มีประโยชน์มากขึ้น แต่ก็ทำให้ความน่าเชื่อถือ สิทธิ์การเข้าถึง การตรวจสอบ และการควบคุมโดยมนุษย์มีความสำคัญมากยิ่งขึ้น

อะไรทำให้ระบบ AI มีคุณสมบัติเป็นเอเจนท์?

ไม่มีเกณฑ์เดียวที่ทำให้โมเดลกลายเป็นเอเจนท์ ความเป็นเอเจนท์อยู่บนสเปกตรัม ด้านหนึ่งโมเดลภาษาตอบคำสั่ง ด้านอีกด้านหนึ่งระบบรับเป้าหมายกว้าง ๆ แบ่งเป็นขั้นตอน เลือกเครื่องมือ ตอบสนองต่อข้อมูลใหม่ และดำเนินต่อไปเป็นระยะเวลานาน

ความเป็นอิสระยังมีหลายมิติ เอเจนท์หนึ่งอาจเลือกคำค้นวิจัยของตนเองแต่ไม่สามารถเผยแพร่สิ่งใดได้ อีกเอเจนท์หนึ่งอาจทำตามแผนคงที่แต่มีสิทธิ์เปลี่ยนระบบการผลิต การประเมิน “ระดับเอเจนท์” ของระบบจึงต้องพิจารณาแยกกันระหว่างอิสระในการวางแผน การเข้าถึงเครื่องมือ ระยะเวลาการทำงาน ความสามารถย้อนกลับได้ และผลกระทบของข้อผิดพลาด

การทดสอบที่เป็นประโยชน์คือการถามว่าใครเป็นผู้กำหนดเส้นทาง ในกระบวนการทำงานแบบดั้งเดิม นักพัฒนากำหนดลำดับขั้นตอนล่วงหน้า: ทำขั้นตอน A แล้ว B แล้ว C ในระบบเอเจนท์ โมเดลจะมีดุลยพินิจบางส่วนว่าต้องทำขั้นตอนใดบ้างและทำในลำดับใด คู่มือของ Anthropic เกี่ยวกับการสร้างเอเจนท์ที่มีประสิทธิภาพ แยกแยะระหว่างเวิร์กโฟลว์ที่มีเส้นทางโค้ดกำหนดไว้ล่วงหน้ากับเอเจนท์ที่กำหนดกระบวนการและการใช้เครื่องมือของตนเองแบบไดนามิก

เอเจนท์การผลิตส่วนใหญ่ประกอบด้วยห้าส่วน:

• โมเดล: เครื่องยนต์การให้เหตุผลและภาษาที่ตีความเป้าหมายและเลือกการกระทำ
• คำสั่ง: กฎของระบบ คำอธิบายงาน นโยบาย และคำนิยามของความสำเร็จ
• เครื่องมือ: ฟังก์ชันที่ให้เอเจนท์ค้นหา คำนวณ ดึงข้อมูล เขียนไฟล์ เรียก API หรือควบคุมอินเทอร์เฟซ
• สถานะหรือหน่วยความจำ: ข้อมูลที่พาไปจากขั้นตอนหนึ่งสู่ขั้นตอนต่อไป และบางครั้งข้ามเซสชัน
• ลูปการควบคุม: เวลารันที่ส่งผลลัพธ์กลับไปยังโมเดลและตัดสินใจว่าจะดำเนินต่อ ตรวจสอบใหม่ ขอความช่วยเหลือ หรือหยุด

ลูปของเอเจนท์: วางแผน, ดำเนินการ, สังเกต, และปรับตัว

แม้ว่าการนำไปใช้จะแตกต่างกัน แต่เอเจนท์มักทำตามรูปแบบสี่ขั้นตอนที่วนซ้ำ

1. แปลความหมายของเป้าหมาย

เอเจนท์ระบุผลลัพธ์ที่ต้องการ ข้อจำกัดที่เกี่ยวข้อง และข้อมูลที่ขาดหาย การกำหนดงานที่ชัดเจนควรระบุไม่เพียงแค่สิ่งที่ต้องทำ แต่ยังต้องระบุว่าอะไรถือว่าเสร็จสมบูรณ์ “วิจัยบริษัทนี้” ยังคลุมเครือ; “สร้างการเปรียบเทียบที่อ้างอิงจากรายงานประจำปีสามฉบับล่าสุดและระบุการเปลี่ยนแปลงสำคัญ” เป็นเป้าหมายที่ตรวจสอบได้

2. เลือกการกระทำ

โมเดลอาจตอบโดยตรง สร้างแผน เรียกเครื่องมือ มอบหมายงานย่อย หรือขอคำชี้แจง การกระทำมักถูกแสดงในรูปแบบโครงสร้างเพื่อให้ซอฟต์แวร์ตรวจสอบก่อนดำเนินการ นี่คือขั้นตอนที่การออกแบบเอเจนท์แปลงผลลัพธ์แบบความน่าจะเป็นของโมเดลให้เป็นการดำเนินการของระบบที่ควบคุมได้

3. สังเกตผลลัพธ์

เวลารันส่งคืนผลลัพธ์จากเครื่องมือ ข้อผิดพลาด การเปลี่ยนแปลงอินเทอร์เฟซ หรือฟีดแบ็กจากสภาพแวดล้อมอื่น ๆ เอเจนท์เพิ่มการสังเกตนี้ลงในบริบทการทำงานของตน หากการค้นหานำมาซึ่งหลักฐานอ่อนหรือ API ปฏิเสธอาร์กิวเมนต์ การตัดสินใจครั้งต่อไปควรสะท้อนสถานะใหม่นี้

4. ปรับหรือหยุด

เอเจนท์ประเมินความก้าวหน้าและเลือกการกระทำต่อไป อาจแก้ไขแผน ทดลองเครื่องมืออื่น ตรวจสอบผลลัพธ์ หรือสรุปว่าเป้าหมายสำเร็จแล้ว OpenAI อธิบายการโต้ตอบรูปแบบนี้เป็นลูประหว่างโมเดล เครื่องมือ และสภาพแวดล้อมในบทความเกี่ยวกับการย้าย จากโมเดลสู่เอเจนท์

รูปแบบนี้เกี่ยวข้องกับแนวทาง ReAct ที่สลับการให้เหตุผลและการกระทำเพื่อให้การสังเกตภายนอกอัปเดตการให้เหตุผลต่อไป บทความ ReAct ดั้งเดิม ช่วยกำหนดการออกแบบนี้เป็นทางเลือกแทนการสร้างแผนครบถ้วนโดยไม่มีฟีดแบ็กจากสภาพแวดล้อม

AI แบบเอเจนท์ vs. AI เชิงสร้างสรรค์

AI เชิงสร้างสรรค์หมายถึงระบบที่สร้างเนื้อหาใหม่ เช่น ข้อความ ภาพ เสียง วิดีโอ หรือโค้ด ส่วน AI แบบเอเจนท์อธิบายวิธีที่ระบบไล่ตามวัตถุประสงค์ ทั้งสองประเภทอาจทับซ้อนกันแต่ไม่สามารถแทนที่กันได้

โมเดลเชิงสร้างสรรค์อาจร่างอีเมลโดยไม่เป็นเอเจนท์ ส่วนเอเจนท์อาจใช้โมเดลเชิงสร้างสรรค์ร่างอีเมล ค้นหาผู้รับที่ถูกต้อง ตรวจสอบนโยบาย สร้างไฟล์แนบ และนำข้อความไปยังคิวตรวจสอบ โมเดลให้ความฉลาด ส่วนระบบเอเจนท์รอบข้างให้เครื่องมือ สถานะ การประสานงาน และการควบคุม

ระบบเอเจนท์มีประโยชน์ที่ไหน

เอเจนท์มีคุณค่าสูงสุดเมื่อเส้นทางสู่เป้าหมายไม่สามารถกำหนดได้ล่วงหน้าอย่างครบถ้วน แต่ความก้าวหน้ายังสามารถสังเกตและตรวจสอบได้ ตัวอย่างทั่วไปได้แก่:

• การวิจัย: ค้นหาหลายแหล่ง เติมเต็มช่องว่าง เปรียบเทียบหลักฐาน และจัดทำรายงานอ้างอิง
• วิศวกรรมซอฟต์แวร์: นำทางในรีโพซิทอรี แก้ไขโค้ด รันเทสต์ แปลความล้มเหลว และทำซ้ำ
• การดำเนินงานลูกค้า: รวบรวมข้อมูลบัญชี ใช้นโยบาย เสนอวิธีแก้ไข และยกระดับข้อยกเว้น
• การวิเคราะห์ข้อมูล: เลือกชุดข้อมูล เขียนคิวรี ตรวจสอบความผิดปกติ สร้างภาพและอธิบายผลลัพธ์
• การดำเนินงานไอที: ตรวจสอบการแจ้งเตือน รวบรวมข้อมูลวินิจฉัย แนะนำการแก้ไข และดำเนินการตามรันบุ๊คที่ได้รับอนุมัติ
• งานด้านบริหาร: ประสานปฏิทิน เอกสาร แบบฟอร์ม การอนุมัติ และอัปเดตข้อมูลข้ามระบบ

เวิร์กโฟลว์คงที่มักจะดีกว่าเมื่อกระบวนการเสถียรและทุกขั้นตอนเป็นที่รู้จัก การเพิ่มเอเจนท์ในที่ที่การทำอัตโนมัติทั่วไปเพียงพออาจเพิ่มค่าใช้จ่ายและความแปรปรวนโดยไม่มีคุณค่าเพิ่มจริง

เมื่อใดควรใช้เอเจนท์แทนการทำงานอัตโนมัติ?

สถาปัตยกรรมที่ดีที่สุดขึ้นกับสองคำถาม: เส้นทางมีความคาดเดาได้แค่ไหน และผลของการกระทำที่ผิดพลาดมีค่าใช้จ่ายเท่าใด ระบบไม่ใช่จะก้าวหน้าขึ้นเพียงเพราะให้โมเดลมีอิสระมากขึ้น ในหลายสถานการณ์ที่มีความเสี่ยงสูง การออกแบบที่แข็งแกร่งมักผสานซอฟต์แวร์เชิงกำหนดกับส่วนเอเจนท์แคบ ๆ

การประนีประนอมที่เป็นประโยชน์คือ เอเจนท์ที่มีขอบเขตจำกัด เอเจนท์สามารถตัดสินใจว่าจะรวบรวมข้อมูลอย่างไร เครื่องมือใดที่ได้รับอนุมัติ หรือจะปรับร่างเอกสารอย่างไร ในขณะที่โค้ดเชิงกำหนดบังคับสคีม่า กฎการเข้าถึง งบประมาณ และการอนุมัติขั้นสุดท้าย สิ่งนี้ทำให้ระบบยังคงปรับตัวได้โดยไม่ต้องให้โมเดลความน่าจะเป็นควบคุมอำนาจของตนเอง

ทำไม AI แบบเอเจนท์จึงยาก

เอเจนท์อาจตัดสินใจที่ดูสมเหตุสมผลในระดับท้องถิ่นแต่พาโครงการโดยรวมไปในทิศทางที่ผิด ข้อผิดพลาดเล็ก ๆ สามารถสะสมต่อเนื่องในเส้นทางยาว ๆ ในขณะที่คำตอบสุดท้ายที่ดูน่าเชื่อถืออาจซ่อนกระบวนการที่ไม่ถูกต้องหรือไม่ปลอดภัย

ผลของการสะสมนี้เป็นเหตุผลหนึ่งที่การประเมินเอเจนท์แตกต่างจากการประเมินคำตอบทั่วไป งานที่ล้มเหลวอาจเริ่มจากแผนของโมเดล ผลลัพธ์เครื่องมือที่ทำให้เข้าใจผิด การอัปเดตสถานะที่ไม่ถูกต้อง การตัดสินใจหยุดก่อนเวลา หรือขอบเขตสิทธิ์ที่ไม่ปลอดภัย ในทางกลับกัน คำตอบสุดท้ายที่ถูกต้องอาจเป็นผลมาจากเส้นทางที่เปราะบางซึ่งอาจล้มเหลวในการรันครั้งต่อไป ทีมต้องใช้ทั้งเมตริกผลลัพธ์และหลักฐานระดับเส้นทาง

ความท้าทายหลักได้แก่:

• ความน่าเชื่อถือ: งานเดียวกันอาจให้เส้นทางและผลลัพธ์ที่แตกต่างกันในแต่ละครั้งที่ทำซ้ำ
• การยึดพื้นฐาน: โมเดลอาจเข้าใจผลลัพธ์ของเครื่องมือ สถานะอินเทอร์เฟซ หรือเจตนาที่แท้จริงของผู้ใช้ผิด
• สิทธิ์การเข้าถึง: เอเจนท์ที่มีประโยชน์อาจต้องการการเข้าถึงที่สำคัญ แต่การเข้าถึงกว้างทำให้ผลของข้อผิดพลาดเพิ่มขึ้น
• การฉีดคำสั่ง: เนื้อหาที่ไม่เชื่อถือได้อาจมีคำสั่งที่ออกแบบมาเพื่อเปลี่ยนเส้นทางของเอเจนท์หรือเปิดเผยข้อมูล
• ค่าใช้จ่ายและความหน่วง: การเรียกโมเดลเพิ่มเติม การใช้เครื่องมือ การตรวจสอบ หรือการใช้ซับเอเจนท์เพิ่มทรัพยากรและเวลา
• การประเมิน: การตัดสินใจเฉพาะผลลัพธ์สุดท้ายอาจพลาดการให้เหตุผลที่เปราะบาง การละเมิดนโยบาย หรือความสำเร็จที่เกิดจากโชคดี

วิธีทำให้เอเจนท์ AI อยู่ภายใต้การควบคุม

อิสระที่ปลอดภัยต้องออกแบบ ไม่ใช่สมมติ เอเจนท์ควรได้รับเครื่องมือและข้อมูลขั้นต่ำที่จำเป็นสำหรับงาน การกระทำที่มีผลกระทบสูง เช่น ส่งข้อความ ย้ายเงิน ลบข้อมูล หรือเปลี่ยนระบบการผลิต ควรต้องการการอนุมัติอย่างชัดเจนหรือมีนโยบายที่จำกัดอย่างเข้มงวด

ระบบที่แข็งแกร่งยังแยกการวางแผนออกจากการดำเนินการ สามารถตรวจสอบอาร์กิวเมนต์ของเครื่องมือตามสคีม่า การกระทำทำงานใน sandbox การดำเนินการที่อ่อนไหวสามารถทำให้เป็น allowlist และผลลัพธ์ต้องตรวจสอบก่อนนำเข้าเป็นอินพุตของระบบอื่น ๆ งบประมาณเวลา โทเคน และการกระทำช่วยป้องกันเอเจนท์ที่สับสนจากการวนลูปไม่สิ้นสุด

การมองเห็นเป็นสิ่งสำคัญเช่นกัน ทีมต้องมีบันทึกของคำสั่ง การเรียกเครื่องมือ การสังเกตระหว่างขั้นตอน การอนุมัติ ข้อผิดพลาด และผลลัพธ์สุดท้าย เส้นทางนี้ทำให้การดีบักและการประเมินเป็นไปได้ งานของ Anthropic เกี่ยวกับ เอเจนท์ที่เชื่อถือได้ในทางปฏิบัติ เน้นขอบเขตอำนาจที่ชัดเจนและการควบคุมของมนุษย์เป็นข้อกำหนดการออกแบบหลัก

การย้อนกลับควรกำหนดการควบคุมเหล่านี้ การอ่านหน้าเว็บสาธารณะง่ายต่อการย้อนกลับเพราะไม่ได้เปลี่ยนแปลงอะไร การคืนเงิน การส่งอีเมลให้ลูกค้า หรือการลบทรัพยากรคลาวด์ไม่ง่าย การจัดระบบเอเจนท์ที่พัฒนาขึ้นควรจำแนกการกระทำตามผลกระทบ ต้องการการอนุมัติที่เข้มงวดยิ่งขึ้นสำหรับการดำเนินการที่ยากต่อการย้อนกลับ และให้เวลารัน—ไม่ใช่โมเดล—เป็นผู้ตัดสินใจขั้นสุดท้ายว่าการดำเนินการจะได้รับอนุญาตหรือไม่

AI แบบเอเจนท์ไม่ได้หมายความว่า

“เอเจนท์”ไม่ได้หมายถึงมีสติ มีการรับรู้ตนเอง หรือมีแรงจูงใจอิสระ ความริเริ่มที่เห็นได้ของระบบมาจากโมเดลที่ทำงานภายในซอฟต์แวร์ซึ่งถูกสั่งให้เลือกขั้นตอนต่อไป เป้าหมาย เครื่องมือ สิทธิ์ การหยุดทำงาน และสภาพแวดล้อมทั้งหมดถูกออกแบบโดยมนุษย์

มันยังไม่ได้รับประกันว่ามีความฉลาดทั่วไป เอเจนท์อาจทำได้ดีมากในสภาพแวดล้อมแคบ ๆ แต่เมื่ออินเทอร์เฟซ ข้อมูล หรือภารกิจเปลี่ยนแปลง ระบบอาจอ่อนแอ ดังนั้นอิสระควรปรับตามประสิทธิภาพที่พิสูจน์ได้ ไม่ใช่ตามความคล่องแคล่วของโมเดล

สรุป

AI แบบเอเจนท์ทำให้โมเดลจากเครื่องสร้างคำตอบกลายเป็นส่วนหนึ่งของระบบที่มุ่งหมายบรรลุเป้าหมาย คุณลักษณะสำคัญไม่ใช่โมเดลหรือโปรโตคอลใดโดยเฉพาะ แต่เป็นลูปปิดที่ระบบเลือกการกระทำ ใช้เครื่องมือ สังเกตสิ่งที่เกิดขึ้น และปรับตัว

เอเจนท์ที่มีประสิทธิภาพที่สุดจะจับคู่ความยืดหยุ่นนั้นกับขอบเขตที่แคบ การเข้าถึงแบบน้อยที่สุด เส้นทางที่มองเห็นได้ การประเมินที่เข้มงวด และการควบคุมโดยมนุษย์ที่สำคัญ คำถามหลักจึงไม่ได้เป็นเพียง “โมเดลสามารถให้คำตอบที่ถูกต้องได้หรือไม่?” แต่ยังเป็น “ระบบทั้งหมดสามารถบรรลุผลลัพธ์ที่ถูกต้องผ่านกระบวนการที่เราวางใจได้หรือไม่?”