พวกเขาให้คำมั่นสัญญาว่าจะได้รับเอเย่นต์ แต่ที่เราได้รับคือเพียงแค่ช่องทางที่คงที่

ในฤดูใบไม้ผลิของปี 2023 โลกได้ตื่นเต้นกับการเกิดขึ้นของเอเย่นต์ AI ที่ใช้ LLM เป็นพื้นฐาน การแสดงตัวอย่างที่มีพลังอย่าง AutoGPT และ BabyAGI ได้แสดงให้เห็นถึงศักยภาพของ LLM ที่ทำงานในลูป โดยเลือกการกระทำต่อไป การสังเกตผลลัพธ์ และเลือกการกระทำต่อไปอีกครั้ง (ซึ่งรู้จักกันในชื่อ ReACT framework) วิธีการใหม่นี้คาดว่าจะเป็นพลังงานให้กับเอเย่นต์ที่สามารถทำงานหลายขั้นตอนได้อย่างอิสระและทั่วไป ให้คำสั่งและชุดเครื่องมือแก่พวกมัน และพวกมันจะจัดการที่เหลือเอง โดยสิ้นปี 2024 ภูมิทัศน์จะเต็มไปด้วยเอเย่นต์ AI และเฟรมเวิร์กในการสร้างเอเย่นต์ AI แต่พวกเขาจัดการกับคำมั่นสัญญาได้ดีเพียงใด?

สามารถพูดได้อย่างปลอดภัยว่าเอเย่นต์ที่ได้รับการสนับสนุนจาก ReACT framework แบบง่ายๆ มีข้อจำกัดอย่างรุนแรง ให้พวกมันงานที่ต้องการมากกว่าไม่กี่ขั้นตอน โดยใช้มากกว่าไม่กี่เครื่องมือ และพวกมันจะล้มเหลวอย่างน่าสมเพช นอกเหนือจากปัญหาหน่วงเวลาอย่างเห็นได้ชัด พวกมันจะสูญเสียการตาม dõi ไม่ปฏิบัติตามคำสั่ง หยุดเร็วเกินไปหรือหยุดช้าเกินไป และผลิตผลลัพธ์ที่แตกต่างกันอย่างมากในแต่ละครั้ง และไม่น่าประหลาดใจ เพราะเฟรมเวิร์ก ReACT ใช้ข้อจำกัดของ LLM ที่ไม่คาดเดาได้และเพิ่มขึ้นตามจำนวนขั้นตอน อย่างไรก็ตาม ผู้สร้างเอเย่นต์ที่ต้องการแก้ไขกรณีการใช้งานจริง โดยเฉพาะในองค์กร ไม่สามารถทำได้ด้วยระดับการทำงานนั้น พวกเขาต้องการผลลัพธ์ที่น่าเชื่อถือและสามารถอธิบายได้สำหรับワークフローหลายขั้นตอนที่ซับซ้อน และพวกเขาต้องการระบบ AI ที่ช่วยลด ไม่ใช่เพิ่ม ลักษณะที่ไม่คาดเดาได้ของ LLM

ดังนั้น เอเย่นต์ถูกสร้างขึ้นในองค์กรอย่างไรในปัจจุบัน สำหรับกรณีการใช้งานที่ต้องการมากกว่าไม่กี่เครื่องมือและไม่กี่ขั้นตอน (เช่น RAG การสนทนา) ผู้สร้างเอเย่นต์ในปัจจุบันส่วนใหญ่ได้ทิ้งคำมั่นสัญญาที่มีพลังและอิสระของ ReACT ไว้เบื้องหลังแล้ว สำหรับวิธีการที่พึ่งพาช่องทางที่คงที่อย่างหนัก – การสร้างช่องทางที่กำหนดไว้ล่วงหน้าเพื่อแก้ไขกรณีการใช้งานเฉพาะ วิธีการนี้คล้ายกับการพัฒนาซอฟต์แวร์แบบดั้งเดิม และอยู่ห่างไกลจากคำมั่นสัญญาของ ReACT มันบรรลุระดับการควบคุมและความน่าเชื่อถือที่สูงขึ้น แต่ขาดความอิสระและความยืดหยุ่น ดังนั้นโซลูชันจึงต้องใช้การพัฒนาอย่างเข้มข้น มีการใช้งานที่แคบ และยืดหยุ่นน้อยเกินไปในการจัดการกับการเปลี่ยนแปลงในพื้นที่อินพุตและในสภาพแวดล้อม

เพื่อให้แน่ใจว่า การสร้างช่องทางที่คงที่สามารถแตกต่างกันไปในเรื่องของ “ความคงที่” ของพวกมัน บางช่องทางใช้ LLM เพียงเพื่อการกระทำระดับอะตอม (เช่น การดึงข้อมูล การสรุปข้อความ หรือการสร้างข้อความ) ในขณะที่ช่องทางอื่นๆ ใช้ LLM ในการทำการตัดสินใจแบบไดนามิกในขณะรันไทม์ (เช่น LLM ที่กำหนดเส้นทางระหว่างการไหลทางเลือกในช่องทาง หรือ LLM ที่ตรวจสอบผลลัพธ์ของขั้นตอนเพื่อกำหนดว่าจะต้องรันซ้ำหรือไม่) ในทุกกรณี ตราบเท่าที่ LLM มีหน้าที่ในการตัดสินใจแบบไดนามิกในโซลูชัน – เราจะติดอยู่ในสถานการณ์ที่ต้องแลกเปลี่ยนระหว่างความน่าเชื่อถือและความอิสระ ช่องทางที่มีความคงที่มากขึ้นจะน่าเชื่อถือและคาดเดาได้มากขึ้น แต่ก็ขาดความอิสระและความยืดหยุ่น และมีการใช้งานที่แคบกว่า ช่องทางที่มีความอิสระและไดนามิกมากขึ้นจะมีการใช้งานที่กว้างขึ้นและง่ายต่อการสร้าง แต่ก็ขาดความน่าเชื่อถือและคาดเดาได้น้อยกว่า

การแลกเปลี่ยนนี้สามารถแสดงได้ด้วยกราฟิกต่อไปนี้:

ซึ่งทำให้เกิดคำถามว่าทำไมเรายังไม่เห็นเฟรมเวิร์กเอเย่นต์ที่สามารถอยู่ในจตุภาคด้านบนขวาได้ เราจะต้องแลกเปลี่ยนความน่าเชื่อถือกับความอิสระตลอดไปหรือไม่ เราจะไม่สามารถมีเฟรมเวิร์กที่ให้インターフェซแบบง่ายๆ ของเอเย่นต์ ReACT (รับวัตถุประสงค์และชุดเครื่องมือและจัดการที่เหลือเอง) โดยไม่ต้องสูญเสียความน่าเชื่อถือหรือไม่

คำตอบคือ – เราสามารถและเราจะทำได้ แต่เพื่อทำเช่นนั้น เราต้องตระหนักว่าเราทำมันผิดทั้งหมด เฟรมเวิร์กการสร้างเอเย่นต์ทั้งหมดที่มีอยู่ในปัจจุบันมีข้อบกพร่องร่วมกัน – พวกมันพึ่งพา LLM ในฐานะส่วนประกอบที่มีความอิสระและไดนามิก อย่างไรก็ตาม สิ่งที่เราขาดคือเทคโนโลยีการวางแผน และ LLM ไม่ใช่ผู้วางแผนผู้ยิ่งใหญ่

แต่ก่อนอื่น “การวางแผน” คืออะไร โดย “การวางแผน” เราหมายถึงความสามารถในการสร้างแบบจำลองการกระทำที่แตกต่างกันซึ่งนำไปสู่ผลลัพธ์ที่ต้องการ และการสำรวจและใช้ประโยชน์จากทางเลือกเหล่านี้ภายใต้ข้อจำกัดของงบประมาณ การวางแผนควรทำทั้งในระดับมาโครและไมโคร แผนการระดับมาโครจะแบ่งงานออกเป็นขั้นตอนที่ขึ้นอยู่กันและไม่ขึ้นอยู่กันซึ่งจะต้องดำเนินการเพื่อให้บรรลุผลลัพธ์ที่ต้องการ ซึ่งมักถูกมองข้ามคือความจำเป็นในการวางแผนระดับไมโครเพื่อให้แน่ใจว่าผลลัพธ์ที่ต้องการที่ระดับขั้นตอน มีกลยุทธ์มากมายในการเพิ่มความน่าเชื่อถือและบรรลุผลลัพธ์ที่ต้องการที่ระดับขั้นตอนเดียวโดยใช้การประมวลผลในขณะรันไทม์มากขึ้น ตัวอย่างเช่น คุณสามารถแปลคำถามการค้นหาสมantic ได้หลายครั้ง คุณสามารถดึงข้อมูลเพิ่มเติมสำหรับคำถามที่กำหนด คุณสามารถใช้โมเดลที่ใหญ่ขึ้น และคุณสามารถรับผลลัพธ์มากขึ้นจาก LLM – ทั้งหมดนี้จะนำไปสู่ผลลัพธ์ที่ตรงตามข้อกำหนดมากขึ้น ซึ่งคุณสามารถเลือกผลลัพธ์ที่ดีที่สุดได้ ผู้วางแผนระดับไมโครที่ดีสามารถใช้การประมวลผลในขณะรันไทม์ได้อย่างมีประสิทธิภาพเพื่อให้ได้ผลลัพธ์ที่ดีที่สุดภายใต้งบประมาณการประมวลผลและความหน่วงเวลาที่กำหนด เพื่อปรับขนาดการลงทุนในทรัพยากรตามที่จำเป็นสำหรับงานที่กำหนด ผู้วางแผน AI ที่มีแผนการสามารถบรรเทาลักษณะที่ไม่คาดเดาได้ของ LLM เพื่อให้ได้ผลลัพธ์ที่รับประกันไว้ที่ระดับขั้นตอน โดยไม่มีการรับประกันเหล่านี้ เราจะกลับไปสู่ปัญหาในการสะสมข้อผิดพลาดที่จะบ่อนทำลายแม้แต่แผนการระดับมาโครที่ดีที่สุด

แต่ทำไม LLM ไม่สามารถทำหน้าที่เป็นผู้วางแผนได้ หลังจากที่พวกมันสามารถแปลคำสั่งระดับสูงให้เป็นช่องทางความคิดหรือแผนการระดับภาษาธรรมชาติหรือโค้ดที่สมเหตุสมผลได้แล้ว สาเหตุก็คือการวางแผนจำเป็นต้องมีมากกว่านั้น การวางแผนจำเป็นต้องมีความสามารถในการสร้างแบบจำลองการกระทำที่แตกต่างกันซึ่งอาจนำไปสู่ผลลัพธ์ที่ต้องการได้ และการให้เหตุผลเกี่ยวกับผลประโยชน์และต้นทุนที่คาดหวัง (ในแง่ของการประมวลผลหรือความหน่วงเวลา) ของแต่ละทางเลือก ในขณะที่ LLM อาจสร้างการแสดงผลของช่องทางที่มีอยู่ได้ พวกมันไม่สามารถคาดการณ์ผลประโยชน์และต้นทุนที่คาดหวังได้ ตัวอย่างเช่น ผลประโยชน์และต้นทุนที่คาดหวังของการใช้โมเดล X เทียบกับโมเดล Y ในการสร้างคำตอบสำหรับบริบทเฉพาะคืออะไร ผลประโยชน์ที่คาดหวังของการค้นหาข้อมูลเฉพาะในคอร์ปัสเอกสารที่ดัชนีเทียบกับการเรียก API ไปยัง CRM คืออะไร LLM ของคุณไม่มีทางรู้ และมีเหตุผลที่ดี – ลักษณะที่ไม่คาดเดาได้เหล่านี้มักไม่พบในธรรมชาติและไม่ได้รวมอยู่ในข้อมูลการฝึกอบรม LLM พวกมัน также มักจะเฉพาะเจาะจงสำหรับสภาพแวดล้อมเครื่องมือและข้อมูลที่ระบบ AI จะทำงาน ไม่เหมือนกับความรู้ทั่วไปที่ LLM สามารถได้รับมา และแม้ว่า LLM จะสามารถคาดการณ์ผลประโยชน์และต้นทุนที่คาดหวังได้ การให้เหตุผลเกี่ยวกับพวกมันเพื่อเลือกช่องทางที่มีประสิทธิภาพมากที่สุดเป็นการอนุมานเชิงตรรกะที่ไม่สามารถทำได้อย่างน่าเชื่อถือโดยการคาดการณ์ตัวต่อไปของ LLM

ดังนั้น ส่วนผสมที่ขาดหายไปสำหรับเทคโนโลยีการวางแผน AI คืออะไร เราต้องการโมเดลผู้วางแผนซึ่งสามารถเรียนรู้จากประสบการณ์และการจำลองเพื่อสร้างแบบจำลองการกระทำที่แตกต่างกันและความน่าจะเป็นของผลประโยชน์และต้นทุนสำหรับงานที่เฉพาะเจาะจงและสภาพแวดล้อมเครื่องมือและข้อมูลที่เฉพาะเจาะจง เราต้องการภาษาการกำหนดแผน (PDL) ที่สามารถใช้ในการแสดงและให้เหตุผลเกี่ยวกับการกระทำที่แตกต่างกันและความน่าจะเป็นเหล่านี้ เราต้องการเครื่องมือการดำเนินการที่สามารถดำเนินการแผนการได้อย่างแน่นอนและมีประสิทธิภาพตามที่กำหนดไว้ใน PDL

บางคนกำลังทำงานอย่างหนักเพื่อส่งมอบสิ่งเหล่านี้ แต่จนกว่าจะถึงวันนั้น ให้สร้างช่องทางที่คงที่ต่อไป แต่โปรดอย่าเรียกพวกมันว่า “เอเย่นต์”