วิธีการทำงานของเอเจนต์ AI: โมเดล, เครื่องมือ, หน่วยความจำ, และลูปควบคุม

เอเจนต์ AI ทำงานโดยการรวมโมเดลกับคำสั่ง, เครื่องมือ, หน่วยความจำ, และลูปควบคุมที่ตัดสินใจว่าจะทำอะไรต่อไปอย่างต่อเนื่อง โมเดลให้ความสามารถในการตัดสินใจและภาษา, ขณะที่ซอฟต์แวร์รอบข้างแปลงความสามารถเหล่านั้นให้เป็นกระบวนการที่มีสถานะซึ่งสามารถทำงาน, ตรวจสอบผลลัพธ์, ฟื้นฟูจากข้อผิดพลาด, และหยุดได้.

การทำความเข้าใจสถาปัตยกรรมนี้มีประโยชน์มากกว่าการมองเอเจนต์เป็นวัตถุอัจฉริยะเดียว. ความสำเร็จและความล้มเหลวส่วนใหญ่เกิดจากวิธีที่ส่วนประกอบทำงานร่วมกัน: โมเดลที่ยอดเยี่ยมอาจถูกทำลายโดยเครื่องมือที่คลุมเครือ, หน่วยความจำที่ล้าสมัย, สิทธิ์ที่มากเกินไป, หรือ ลูปควบคุมที่ไม่มีการกำหนดการเสร็จสิ้นที่เชื่อถือได้.

ห้าส่วนสำคัญของเอเจนต์ AI

1. โมเดล

โมเดลตีความเป้าหมาย, วิเคราะห์บริบทที่มีอยู่, และเลือกการกระทำ. ในเอเจนต์หลาย ๆ ตัวในปัจจุบัน, โมเดลนี้คือโมเดลภาษาใหญ่ที่สามารถทำตามคำสั่งและสร้างการเรียกใช้เครื่องมือในรูปแบบโครงสร้างได้พร้อมกับภาษาธรรมชาติ.

โมเดลที่มีความสามารถสูงสุดไม่ได้หมายความว่าจะเป็นตัวเลือกที่ดีที่สุดสำหรับทุกขั้นตอน. ระบบอาจส่งการวางแผนที่ซับซ้อนไปยังโมเดลที่แข็งแกร่งกว่า, ใช้โมเดลที่เร็วกว่าเพื่อการจำแนก, และพึ่งพาโค้ดที่กำหนดผลลัพธ์เพื่อการตรวจสอบ. การผสมผสานนี้สามารถเพิ่มความเร็ว, ลดค่าใช้จ่าย, และเพิ่มความน่าเชื่อถือ.

2. คำสั่ง

คำสั่งกำหนดบทบาท, ขอบเขต, ความสำคัญ, และข้อกำหนดของผลลัพธ์ของเอเจนต์. คำสั่งอาจรวมถึงพรอมต์ระบบ, บริบทเฉพาะงาน, นโยบาย, ตัวอย่าง, คำอธิบายเครื่องมือ, และเกณฑ์การหยุด.

คำสั่งที่ดีเป็นเชิงปฏิบัติ. พวกมันบอกเอเจนต์ว่าต้องการหลักฐานอะไร, เมื่อใดควรขออนุมัติ, แหล่งข้อมูลใดที่ยอมรับได้, และวิธีการรับรู้ว่าการทำงานเสร็จสมบูรณ์. กฎที่คลุมเครือหรือขัดแย้งทำให้โมเดลต้องเดา, ส่งผลให้เกิดความไม่สอดคล้องในงานที่คล้ายกัน.

3. เครื่องมือ

เครื่องมือเชื่อมต่อโมเดลกับความสามารถที่อยู่นอกบริบทปัจจุบันของมัน. เครื่องมืออาจทำการค้นหาเว็บ, ดึงข้อมูลลูกค้า, รันโค้ด, คำถามฐานข้อมูล, ควบคุมเบราว์เซอร์, หรือสร้างเหตุการณ์ในปฏิทิน.

โมเดลโดยปกติจะไม่ดำเนินฟังก์ชันด้วยตนเอง. มันเลือกเครื่องมือที่มีชื่อและเสนออาร์กิวเมนต์ในรูปแบบโครงสร้าง. ระบบรันไทม์ของเอเจนต์ตรวจสอบความถูกต้องของคำขอ, ตรวจสอบสิทธิ์, ดำเนินการ, และส่งผลลัพธ์กลับ. การแยกนี้เป็นสิ่งสำคัญ: มันให้ซอฟต์แวร์มีโอกาสปฏิเสธการกระทำที่ผิดรูปหรือไม่ปลอดภัยก่อนที่มันจะส่งผลต่อโลกภายนอก.

4. สถานะและหน่วยความจำ

สถานะคือข้อมูลที่เอเจนต์ต้องการระหว่างการทำงานปัจจุบัน: เป้าหมาย, การสนทนา, แผน, การสังเกต, ผลลัพธ์จากเครื่องมือ, และขั้นตอนที่เสร็จสมบูรณ์. หน่วยความจำขยายแนวคิดนี้โดยเก็บข้อมูลที่มีประโยชน์นอกบริบททันที, เช่น ความชอบก่อนหน้า, ข้อเท็จจริงที่เกิดซ้ำ, หรือบทเรียนจากงานก่อนหน้า.

หน่วยความจำที่มากกว่าไม่จำเป็นต้องดีกว่าเสมอ. บันทึกที่ไม่เกี่ยวข้องจะใช้บริบทและอาจทำให้โมเดลพุ่งไปสู่สมมติฐานที่ล้าสมัย. ระบบหน่วยความจำที่มีประสิทธิภาพจะตัดสินใจว่าอะไรควรเก็บ, จัดระเบียบอย่างไร, ควรดึงคืนเมื่อไหร่, และจัดการกับข้อมูลที่ขัดแย้งหรือหมดอายุอย่างไร.

5. ลูปควบคุม

ลูปควบคุมเป็นชั้นการประสานงานที่ทำให้กระบวนการดำเนินต่อไป. มันส่งสถานะปัจจุบันไปยังโมเดล, รับการกระทำที่เสนอ, รันเครื่องมือที่ได้รับการอนุมัติ, บันทึกการสังเกต, และเรียกโมเดลอีกครั้ง.

Anthropic describes an agent as an augmented language model operating in a loop with capabilities such as retrieval, tools, and memory in its guide to การสร้างเอเจนต์ที่มีประสิทธิภาพ. OpenAI similarly frames agent execution as an ongoing interaction among the model, its tools, and an environment in จากโมเดลสู่เอเจนต์.

อินเทอร์เฟซสำคัญเท่ากับส่วนประกอบ

แผนภาพสถาปัตยกรรมอาจทำให้แต่ละส่วนดูแยกจากกันอย่างชัดเจน, แต่ความน่าเชื่อถือจริงขึ้นอยู่กับสัญญาระหว่างส่วนเหล่านั้น. โมเดลต้องการคำอธิบายเครื่องมือที่แยกความสามารถที่คล้ายกัน. ระบบรันไทม์ต้องการอาร์กิวเมนต์ที่กำหนดประเภทและสถานะข้อผิดพลาดที่ชัดเจน. การดึงข้อมูลจากหน่วยความจำต้องการข้อมูลแหล่งที่มาและความสดใหม่. ตัวตรวจสอบการเสร็จสิ้นต้องการเกณฑ์ที่สามารถทดสอบได้ ไม่ใช่ความรู้สึกคลุมเครือว่าคำตอบเพียงพอ.

ลองพิจารณาเครื่องมือค้นหาที่คืนรายการว่าง. ผลลัพธ์นั้นอาจหมายถึงไม่มีบันทึกที่เกี่ยวข้อง, คำค้นหาผิดรูปแบบ, ผู้ใช้ไม่มีสิทธิ์, หรือบริการหมดเวลา. หากเครื่องมือรวมสี่เงื่อนไขนี้เป็นผลลัพธ์เดียว, โมเดลจะไม่สามารถวิเคราะห์เหตุการณ์ได้อย่างน่าเชื่อถือ. อินเทอร์เฟซที่ออกแบบดีจะคืนหลักฐานในรูปแบบโครงสร้าง: สถานะ, แหล่งที่มา, เวลา, คำค้น, จำนวนผลลัพธ์, และข้อผิดพลาดที่เครื่องอ่านได้เมื่อเหมาะสม.

หลักการเดียวกันนี้ใช้กับบริบท. คำสั่ง, บันทึกที่มีอำนาจ, ส่วนที่ดึงมา, โน้ตที่โมเดลสร้าง, และเนื้อหาภายนอกที่ไม่เชื่อถือได้ไม่ควรถูกมองว่าเป็นข้อความเท่ากัน. การระบุแหล่งที่มาและอำนาจช่วยให้ระบบรันไทม์บังคับใช้นโยบายและช่วยให้โมเดลประเมินหลักฐานได้อย่างถูกต้อง. นี่คือรูปแบบปฏิบัติของการออกแบบบริบท: การตัดสินใจไม่เพียงแต่ว่าโมเดลจะเห็นข้อมูลอะไร, แต่ข้อมูลนั้นจัดระเบียบอย่างไรและระบบอนุญาตให้ควบคุมอะไร.

ตัวอย่างขั้นตอนต่อขั้นตอน

ลองนึกภาพเอเจนต์ที่ถูกขอให้เปรียบเทียบผู้จัดจำหน่ายสามรายที่เป็นไปได้และจัดทำคำแนะนำ.

1. รับเป้าหมาย: เอเจนต์อ่านเกณฑ์การตัดสินใจ, กำหนดเวลา, งบประมาณ, และผลลัพธ์ที่ต้องการ.
2. ตรวจสอบบริบทที่มีอยู่: มันตรวจว่าชื่อผู้จัดจำหน่าย, ความต้องการภายใน, และเอกสารต้นทางมีหรือไม่.
3. สร้างแผน: มันตัดสินใจรวบรวมข้อมูลราคา, ความปลอดภัย, เงื่อนไขการให้บริการ, และหลักฐานจากลูกค้าสำหรับแต่ละผู้จัดจำหน่าย.
4. เลือกเครื่องมือ: มันค้นหาที่เก็บเอกสารที่ได้รับการอนุมัติหรือเรียกเครื่องมือวิจัยภายนอก.
5. สังเกต: ระบบรันไทม์ส่งผลลัพธ์กลับ, รวมถึงข้อผิดพลาดหรือฟิลด์ที่หายไป.
6. อัปเดตสถานะ: เอเจนต์บันทึกสิ่งที่เรียนรู้และทำเครื่องหมายคำถามที่ยังไม่ได้แก้ไข.
7. ปรับตัว: มันเปลี่ยนคำค้น, ปรึกษาแหล่งข้อมูลอื่น, หรือขอให้บุคคลให้เอกสารที่ไม่มีอยู่.
8. ตรวจสอบ: มันตรวจให้แน่ใจว่าคำแนะนำทุกข้อได้รับการสนับสนุนและการเปรียบเทียบใช้เกณฑ์เดียวกัน.
9. หยุดหรือขออนุมัติ: มันสร้างร่างคำแนะนำ, แต่ปล่อยการตัดสินใจซื้อให้กับผู้ที่ได้รับอนุญาต.

ประเด็นสำคัญคือลำดับขั้นตอนไม่ได้ถูกเขียนโค้ดตายตัวทั้งหมด. ระบบเลือกขั้นตอนตามสิ่งที่พบ, แต่ยังทำงานภายในขอบเขตที่ออกแบบไว้.

การวางแผนไม่จำเป็นต้องเป็นขั้นตอนแยก

เอเจนต์บางตัวสร้างแผนเต็มก่อนดำเนินการ. อื่น ๆ ตัดสินใจทีละขั้นตอน. หลาย ๆ ตัวใช้แบบผสม: สร้างแผนคร่าว ๆ, ดำเนินการต่อไป, และปรับแผนที่เหลือเมื่อได้รับการสังเกต.

แผนที่ยาวและแข็งกรากอาจล้าสมัยหลังจากผลลัพธ์ที่ไม่คาดคิดครั้งแรก. เอเจนต์ที่ทำงานแบบตอบสนองอย่างเดียวอาจหลงทางหรือทำงานซ้ำ. การออกแบบเชิงปฏิบัติควรรักษาการวางแผนให้พอเพื่อคงทิศทางพร้อมให้มีการวางแผนใหม่เมื่อสภาพแวดล้อมเปลี่ยนแปลง.

กรอบงาน ReAct เป็นตัวอย่างพื้นฐานของการสลับการให้เหตุผลกับการกระทำและการสังเกต. ข้อสังเกตสำคัญคือผลลัพธ์ภายนอกสามารถแก้ไข, ปรับปรุง, หรือเปลี่ยนทิศทางของขั้นตอนการให้เหตุผลต่อไป.

เอเจนต์รู้ว่าเมื่อไหร่ควรหยุด

การหยุดเป็นปัญหาการออกแบบระบบ. โมเดลอาจประกาศความสำเร็จเร็วเกินไป, ดำเนินการปรับปรุงต่อเมื่อบรรลุเป้าหมาย, หรือวนลูปเมื่อเครื่องมือล้มเหลวซ้ำ ๆ.

เอเจนต์ที่น่าเชื่อถือรวมกลไกการหยุดหลายแบบ:

• เกณฑ์การเสร็จสิ้น: เงื่อนไขชัดเจนเช่นฟิลด์ที่จำเป็น, การทดสอบที่ผ่าน, หรืออ้างอิงที่ตรวจสอบแล้ว.
• งบประมาณ: ขีดจำกัดของขั้นตอน, เวลา, โทเคนโมเดล, การเรียกเครื่องมือ, หรือค่าใช้จ่าย.
• เกณฑ์ข้อผิดพลาด: การยกระดับหลังจากความล้มเหลวซ้ำหรือการสังเกตที่ความมั่นใจต่ำ.
• ประตูอนุมัติ: การหยุดชั่วคราวก่อนการกระทำที่มีผลกระทบสูงหรือไม่สามารถย้อนกลับได้.
• ตัวตรวจสอบภายนอก: การตรวจสอบที่กำหนดผลลัพธ์หรือโมเดลแยกที่ประเมินว่าผลลัพธ์ตรงตามงานหรือไม่.

สถาปัตยกรรมเอเจนต์ทั่วไป

ลูปเอเจนต์เดี่ยว เป็นการออกแบบที่ง่ายที่สุด: โมเดลเดียวใช้เครื่องมือซ้ำ ๆ จนเสร็จ. ง่ายต่อการดีบักและมักเพียงพอ.

เราเตอร์ จำแนกคำขอและส่งไปยังพรอมต์, ชุดเครื่องมือ, หรือโมเดลที่เชี่ยวชาญ. การกำหนดเส้นทางลดตัวเลือกที่ไม่เกี่ยวข้องและสามารถใช้แนวนโยบายที่แตกต่างกันกับงานที่ต่างกัน.

สถาปัตยกรรมผู้จัดระเบียบ-ผู้ทำงาน ให้เอเจนต์หลักสร้างงานย่อยและมอบหมายให้ผู้ทำงาน, จากนั้นสังเคราะห์ผลลัพธ์ของพวกเขา. สิ่งนี้มีประโยชน์เมื่องานสามารถทำพร้อมกันหรือต้องการความเชี่ยวชาญที่แตกต่าง, แต่จะเพิ่มการใช้โทเคนและโหมดความล้มเหลวของการประสานงาน.

ลูปผู้ประเมิน-ผู้เพิ่มประสิทธิภาพ แยกการสร้างจากการวิจารณ์. ส่วนหนึ่งสร้างคำตอบ; อีกส่วนหนึ่งตรวจสอบตามเกณฑ์ที่กำหนด; ส่วนแรกปรับปรุงคำตอบ. วิธีนี้ทำงานดีเมื่อคุณภาพวัดได้และการปรับปรุงผ่านการทำซ้ำคุ้มค่ากับค่าใช้จ่ายเพิ่มเติม.

สิ่งที่มักเกิดผิดพลาด

• คำอธิบายเครื่องมือที่ไม่ดี: โมเดลเลือกความสามารถผิดหรือให้อาร์กิวเมนต์ที่ไม่ถูกต้อง.
• บริบทไม่มีขอบเขต: รายงานยาวเต็มไปด้วยรายละเอียดที่ไม่เกี่ยวข้องและซ่อนข้อมูลสำคัญ.
• ข้อผิดพลาดของเครื่องมือที่เงียบ: ผลลัพธ์ว่างหรือบางส่วนถูกเข้าใจว่าเป็นการสังเกตที่ถูกต้อง.
• การอ้างอิงอ่อนแอ: เอเจนต์ทำงานบนสมมติฐานแทนการตรวจสอบระบบบันทึก.
• อิสระมากเกินไป: เอเจนต์สามารถทำการกระทำที่มีผลสำคัญโดยไม่มีขอบเขตการตรวจสอบที่เหมาะสม.
• ไม่มีการประเมินเส้นทาง: ทีมประเมินคำตอบสุดท้ายแต่ไม่ตรวจสอบว่เอเจนต์มาถึงอย่างไร.

หลักการออกแบบสำหรับเอเจนต์ที่เชื่อถือได้

เริ่มด้วยสถาปัตยกรรมที่เล็กที่สุดที่สามารถแก้งานได้. กระบวนการทำงานที่กำหนดผลลัพธ์ควรจัดการขั้นตอนที่รู้จัก; เก็บการตัดสินใจของโมเดลไว้สำหรับการตัดสินใจที่ต้องการการตีความจริง ๆ. ให้แต่ละเครื่องมือมีวัตถุประสงค์แคบ, อินพุตที่กำหนดประเภท, สถานะข้อผิดพลาดชัดเจน, และการเข้าถึงด้วยสิทธิ์น้อยที่สุด.

ทำให้สถานะมองเห็นได้. บันทึกการเรียกเครื่องมือทุกครั้ง, ผลลัพธ์, การลองใหม่, การอนุมัติ, และการตัดสินใจของโมเดลที่จำเป็นสำหรับการวินิจฉัย. บีบอัดบริบทเก่าแทนการต่อเติมอย่างไม่มีที่สิ้นสุด, และเก็บข้อมูลที่มีอำนาจแยกจากสรุปที่โมเดลสร้าง.

ออกแบบรันไทม์ให้ความล้มเหลวเป็นที่ชัดเจน. เครื่องมือควรแยก “ไม่พบบันทึก” จาก “การร้องขอล้มเหลว”, และที่เก็บสถานะควรแยกข้อเท็จจริงที่ตรวจสอบแล้วจากสรุปที่โมเดลสร้าง. มิฉะนั้น, โมเดลอาจถือการไม่มีข้อมูลที่เกิดจากการหมดเวลาเป็นหลักฐานว่าบางอย่างไม่มีอยู่.

สุดท้าย, ประเมินระบบทั้งหมด. ทำงานเดียวกันหลายครั้ง, วัดความสำเร็จและการใช้ทรัพยากร, และตรวจสอบเส้นทางสำหรับการละเมิดนโยบายหรือทางลัดที่เปราะบาง. คู่มือของ Anthropic เกี่ยวกับ การประเมินเอเจนต์ เน้นว่าเอเจนต์ต้องการงาน, การทดลองที่ทำซ้ำได้, รายงาน, และผู้ตรวจสอบ ไม่ใช่แค่การสาธิตที่น่าประทับใจไม่กี่ตัว.

สิ่งที่ควรจำเกี่ยวกับวิธีการทำงานของเอเจนต์ AI

เอเจนต์ AI คือลูปที่ออกแบบมา, ไม่ใช่แค่โมเดลอัจฉริยะ. โมเดลตัดสินใจ; เครื่องมือทำงาน; หน่วยความจำเก็บสถานะ; สภาพแวดล้อมส่งหลักฐาน; และลูปควบคุมกำหนดว่าจะเกิดอะไรต่อไป.

เมื่อส่วนเหล่านั้นมีอินเทอร์เฟซและขอบเขตที่ชัดเจน, เอเจนต์สามารถจัดการงานที่เปิดกว้างที่ระบบอัตโนมัติแบบดั้งเดิมไม่คาดคิด. เมื่อไม่มี, ความอิสระเพิ่มความคลุมเครือ. ดังนั้นคุณภาพของเอเจนต์ขึ้นอยู่กับการออกแบบระบบ, สิทธิ์, และการประเมินเท่ากับโมเดลพื้นฐาน.