การพัฒนาล่าสุดได้แสดงให้เห็นว่าเอเย่นต์ภาษา โดยเฉพาะสิ่งที่สร้างขึ้นจากโมเดลภาษาขนาดใหญ่ (LLMs) มีศักยภาพในการทำงานที่ซับซ้อนในหลายสภาพแวดล้อมโดยใช้ภาษาที่เป็นธรรมชาติ อย่างไรก็ตาม โฟกัสหลักของเฟรมเวิร์กเอเย่นต์ภาษาส่วนใหญ่ในปัจจุบันคือการอำนวยความสะดวกในการสร้างเอเย่นต์ภาษาที่เป็นข้อพิสูจน์แนวคิด ซึ่งมักจะมีการออกแบบระดับแอปพลิเคชันและความเข้าถึงของเอเย่นต์เหล่านี้สำหรับผู้ใช้ที่ไม่ใช่นักพัฒนามีน้อยหรือไม่มีเลย

เพื่อแก้ไขข้อจำกัดเหล่านี้ นักพัฒนาจึงสร้างเฟรมเวิร์ก OpenAgents ซึ่งเป็นแพลตฟอร์มโอเพ่นสำหรับการโฮสต์และใช้งานเอเย่นต์ภาษาในโลกแห่งความเป็นจริงและในงานประจำวันหลายอย่าง เฟรมเวิร์ก OpenAgents ถูกสร้างขึ้นโดยมีสามเอเย่นต์ภายใน

• เอเย่นต์ข้อมูล : ช่วยในการวิเคราะห์ข้อมูลโดยใช้เครื่องมือข้อมูลและภาษาควอรี่เช่น SQL หรือภาษาโปรแกรมมิ่งเช่น Python

• เอเย่นต์ปลั๊กอิน : ช่วยโดยการให้เข้าถึงเครื่องมือ API มากกว่า 200 รายการสำหรับงานประจำวัน

• เอเย่นต์เว็บ : ช่วยในการท่องเว็บโดยรักษาความเป็นส่วนตัวของคุณ

เฟรมเวิร์ก OpenAgents ใช้อินเทอร์เฟซผู้ใช้เว็บที่ได้รับการปรับให้เหมาะสมสำหรับการตอบสนองอย่างรวดเร็วและความล้มเหลวทั่วไป เพื่อให้ผู้ใช้ทั่วไปสามารถโต้ตอบกับฟังก์ชันการทำงานของเอเย่นต์ได้ ในขณะเดียวกันก็ให้นักวิจัยและนักพัฒนามีประสบการณ์การใช้งานที่ราบรื่นบนเซตอัพของตนเอง

ในบทความนี้ เราจะพูดถึงเฟรมเวิร์ก OpenAgents และพูดถึงเฟรมเวิร์กในรายละเอียดมากขึ้น เราจะพูดถึงการทำงานและสถาปัตยกรรมของเฟรมเวิร์ก รวมถึงความท้าทายที่พบและผลลัพธ์ ดังนั้น มาเริ่มต้นกัน

OpenAgents และเอเย่นต์ภาษา : การแนะนำ

เอเย่นต์ภาษาในหลักการแล้วมาจากเอเย่นต์ฉลาด ซึ่งถูกออกแบบมาเพื่อมีความสามารถในการแก้ปัญหาโดยอิสระ รวมถึงความสามารถในการรับรู้สภาพแวดล้อม ตัดสินใจ และกระทำการตามนั้น ด้วยความก้าวหน้าในโมเดลภาษาขนาดใหญ่ ชุมชนพัฒนาทั่วโลกได้ใช้แนวคิดของเอเย่นต์ฉลาดและ LLMs เพื่อสร้างเอเย่นต์ภาษา เหล่านี้ใช้การเขียนโปรแกรมภาษาที่เป็นธรรมชาติ (NLP) เพื่อทำงานที่ซับซ้อนในหลายสภาพแวดล้อม และได้แสดงศักยภาพที่น่าประทับใจเมื่อเร็วๆ นี้

เฟรมเวิร์กเอเย่นต์ภาษาปัจจุบัน เช่น Gravitas และ Chase ส่วนใหญ่ให้อินเทอร์เฟซคอนโซลที่ออกแบบสำหรับนักพัฒนา พร้อมกับการนำไปใช้ในการพิสูจน์แนวคิด อย่างไรก็ตาม สิ่งเหล่านี้มักจะจำกัดการเข้าถึงสำหรับผู้ใช้ที่กว้างขึ้น โดยเฉพาะผู้ที่ไม่เชี่ยวชาญในการเขียนโค้ด นอกจากนี้ เกณฑ์ทดสอบเอเจนต์ปัจจุบันยังถูกสร้างขึ้นโดยนักพัฒนาด้วยข้อกำหนดเฉพาะสำหรับการประเมินแบบกำหนดแน่นอน ซึ่งเฉพาะในสถานการณ์ที่ต้องการการท่องเว็บ การเขียนโค้ด การใช้เครื่องมือ หรือการผสมผสานของสิ่งเหล่านั้น

ในการพัฒนาเอเย่นต์ภาษาที่มีพลังและฉลาดจาก LLMs สำหรับผู้ใช้ที่กว้างขึ้น ผู้เล่นหลักๆ เช่น OpenAI และ Microsoft (MSFT ) ได้นำเสนอผลิตภัณฑ์ที่ได้รับการออกแบบอย่างดี รวมถึงการวิเคราะห์ข้อมูลขั้นสูง ซึ่งรู้จักกันในชื่อ Code Interpreter และปลั๊กอินเบราว์เซอร์ แม้ว่าเอเย่นต์เหล่านี้จะมีประสิทธิภาพในการทำงานของตน แต่ก็มีประโยชน์น้อยมากต่อชุมชนพัฒนา สิ่งนี้เกิดขึ้นเนื่องจากโค้ดลอจิกธุรกิจและโค้ดการนำไปใช้ไม่ได้ถูกเปิดเผย ซึ่งจำกัดโอกาสสำหรับนักพัฒนาและนักวิจัยในการศึกษาเพิ่มเติม และจำกัดการเข้าถึงฟรีสำหรับผู้ใช้

เพื่อแก้ไขปัญหานี้ นักพัฒนาจึงสร้าง OpenAgents ซึ่งเป็นแพลตฟอร์มโอเพ่นสำหรับการโฮสต์และใช้งานเอเย่นต์ และปัจจุบันถูกสร้างขึ้นบนพื้นฐานของสามเอเย่นต์ภายใน

• เอเย่นต์ข้อมูล : ช่วยในการวิเคราะห์ข้อมูลโดยใช้เครื่องมือข้อมูลและภาษาควอรี่เช่น SQL หรือภาษาโปรแกรมมิ่งเช่น Python

• เอเย่นต์ปลั๊กอิน : ช่วยโดยการให้เข้าถึงเครื่องมือ API มากกว่า 200 รายการสำหรับงานประจำวัน

• เอเย่นต์เว็บ : ช่วยในการท่องเว็บโดยรักษาความเป็นส่วนตัวของคุณ

รูปต่อไปนี้แสดงแพลตฟอร์ม OpenAgents สำหรับผู้ใช้ทั่วไป นักพัฒนา และนักวิจัย

1. แทนที่จะใช้แพ็คเกจหรือคอนโซลที่มุ่งเน้นไปที่นักพัฒนา ผู้ใช้ทั่วไปสามารถโต้ตอบกับเอเย่นต์ทั้งสามในเฟรมเวิร์ก OpenAgents โดยใช้อินเทอร์เฟซเว็บออนไลน์
2. นักพัฒนาสามารถใช้โค้ดลอจิกธุรกิจและโค้ดการวิจัยที่ให้มาโดยเฟรมเวิร์ก OpenAgents เพื่อนำไปใช้เบื้องหลังและเบื้องหน้าสำหรับการพัฒนาต่อ
3. นักวิจัยมีความยืดหยุ่นในการสร้างเอเย่นต์ภาษาใหม่จากศูนย์หรือใช้โค้ดที่เกี่ยวข้องกับเอเย่นต์โดยใช้ส่วนประกอบและตัวอย่างที่ใช้ร่วมกัน และประเมินประสิทธิภาพโดยใช้อินเทอร์เฟซเว็บ

โดยสรุป เฟรมเวิร์ก OpenAgents ถูกออกแบบมาเพื่อเป็นแพลตฟอร์มที่ครอบคลุมและเป็นจริงสำหรับการประเมินเอเย่นต์ภาษาที่มีคนอยู่ในวงจร ซึ่งช่วยให้ผู้ใช้สามารถโต้ตอบกับเอเย่นต์เหล่านี้เพื่อทำงานที่หลากหลาย และการโต้ตอบระหว่างมนุษย์และเอเย่นต์เหล่านี้พร้อมกับการให้ข้อมูลย้อนกลับของผู้ใช้ถูกเก็บและวิเคราะห์สำหรับการพัฒนาต่อ

สำหรับผู้ที่ไม่ทราบ การกระตุ้น LLM เป็นกระบวนการที่ช่วยให้นักพัฒนาสามารถสร้างคำแนะนำที่ป้องกันการป้อนข้อมูลที่ไม่ถูกต้องหรือไม่เหมาะสม และปรับปรุงความสวยงามของเอาต์พุต และตอบสนองตรงกับตรรกะเบื้องหลัง ในระหว่างการพัฒนา นักพัฒนาที่ทำงานในเฟรมเวิร์ก OpenAgents ใช้เทคนิคการกระตุ้น LLM เพื่อเน้นย้ำถึงความสำคัญของการระบุความต้องการแอปพลิเคชันอย่างมีประสิทธิภาพ

อย่างไรก็ตาม การสะสมคำสั่งจำนวนมากอาจกระทบความสามารถในการจัดการบริบทและข้อจำกัดจำนวนโทเคน การใช้งานจริงไม่ได้ต้องการแค่ประสิทธิภาพสูง แต่ต้องรับมือกับสถานการณ์โต้ตอบหลายแบบแบบเรียลไทม์ด้วย เฟรมเวิร์กเอเจนต์ที่มีอยู่ มักมองข้ามเงื่อนไขเหล่านี้ และต้องแลกความเร็วในการตอบกับความแม่นยำ ภาพต่อไปเปรียบเทียบ OpenAgents กับงานเดิมด้านแนวคิดเอเจนต์ ต้นแบบ และเกณฑ์ทดสอบ

OpenAgents: การออกแบบและการพัฒนาแพลตฟอร์ม

สถาปัตยกรรมมีสองส่วนหลัก ได้แก่ อินเทอร์เฟซผู้ใช้ซึ่งรวมแบ็กเอนด์และฟรอนต์เอนด์ และเอเจนต์ภาษาซึ่งประกอบด้วยเครื่องมือ โมเดลภาษา และสภาพแวดล้อม เมื่อได้รับอินพุตจากผู้ใช้ เอเจนต์ใช้เครื่องมือที่มีเพื่อวางแผนและดำเนินการที่จำเป็นภายในสภาพแวดล้อม

อินเทอร์เฟซผู้ใช้

นักพัฒนาจัดระบบเอเจนต์ที่โฮสต์และตรรกะทางธุรกิจที่นำกลับมาใช้ได้ เพื่อสร้าง UI ที่มีประสิทธิภาพและใช้ง่าย รองรับการจัดการข้อผิดพลาด การทำงานของเซิร์ฟเวอร์แบ็กเอนด์ การสตรีมข้อมูล และงานทางเทคนิคอื่นๆ โดยมุ่งให้ทั้งเป็นมิตรต่อผู้ใช้และใช้งานได้จริง

เอเจนต์ภาษา

องค์ประกอบสำคัญคืออินเทอร์เฟซเครื่องมือ โมเดลภาษา และสภาพแวดล้อม พรอมป์ต์กำหนดลำดับ สังเกต→พิจารณา→ลงมือทำ และให้ LLM สร้างข้อความที่แยกวิเคราะห์ได้อย่างมีประสิทธิภาพ ตัวแยกวิเคราะห์ในอินเทอร์เฟซจะแปลงข้อความเป็นการกระทำที่ทำงานได้ เช่น การเรียก API หรือสร้างโค้ด แล้วระบบดำเนินการภายในขอบเขตสภาพแวดล้อมที่เกี่ยวข้อง

เอเจนต์ของ OpenAgents

เอเจนต์ทั้งสามมีความเชี่ยวชาญเฉพาะด้านคล้ายปลั๊กอิน ChatGPT แต่การพัฒนา OpenAgents อาศัย API ของโมเดลภาษาที่เปิดให้ใช้

เอเจนต์ข้อมูล

รองรับงานข้อมูลประจำวัน รวมถึงการสร้างและรันโค้ด SQL กับ Python เครื่องมือ Data Profiling ให้ข้อมูลพื้นฐานของชุดข้อมูล Kaggle Data Search ค้นหาชุดข้อมูล และ ECharts Tool สร้างแผนภูมิโต้ตอบ ระบบสั่งให้เอเจนต์ใช้เครื่องมือเชิงรุกเพื่อตอบคำขออย่างมีประสิทธิภาพ

เพราะความต้องการเขียนโค้ดมีมาก จึงฝังโมเดลภาษาไว้ในเครื่องมือ โดยเครื่องมือ Python, ECharts และ SQL เป็นผู้สร้างโค้ดแทนตัวเอเจนต์หลัก วิธีนี้ใช้ความสามารถเขียนโปรแกรมของโมเดลได้เต็มที่และลดภาระเอเจนต์ จึงทำได้มากกว่าการสร้างข้อความหรือโค้ด เช่น แสดงผลข้อมูล ปรับเปลี่ยนข้อมูล และประมวลผลคำสั่งค้นหา

เอเจนต์ปลั๊กอิน

ปลั๊กอินมากกว่า 200 รายการรองรับการค้นหาอินเทอร์เน็ต ซื้อสินค้า อ่านข่าว และสร้างเว็บไซต์หรือแอป โดยให้ความสำคัญกับอินเทอร์เฟซเรียกฟังก์ชัน การสื่อสาร API และความยาวคำตอบ ตัวอย่างคือ Google Search, Wolfram Alpha, Zapier, Klarna, Coursera, Show Me, Speak, AskYourPDF, BizTok และ Klook

ผู้ใช้เลือกจำนวนปลั๊กอินที่ต้องการใช้ได้ตามงาน

หากไม่แน่ใจว่าควรเลือกอะไร ระบบมีฟังก์ชันเลือกปลั๊กอินที่เกี่ยวข้องกับคำสั่งมากที่สุดโดยอัตโนมัติ

เอเจนต์เว็บ

เป็นเครื่องมือเฉพาะทางเพื่อเพิ่มประสิทธิภาพและความสามารถของเอเจนต์แชต อินเทอร์เฟซหลักยังอยู่กับเอเจนต์แชต ซึ่งเชื่อมเอเจนต์เว็บเมื่อจำเป็น แล้วเอเจนต์เว็บส่งคำตอบสุดท้ายให้ผู้ใช้

เอเจนต์แชตประมวลผลพารามิเตอร์สำคัญและเตรียม URL อย่างเป็นระบบก่อนส่งต่อ จึงทำให้ผลลัพธ์ตรงกับความต้องการและสื่อสารชัดเจนขึ้น การนำทางเว็บหลายรอบแบบปรับเปลี่ยนได้ทำงานร่วมกับบทสนทนาเพื่อรองรับคำถามหลายชั้นและความต้องการที่เปลี่ยนไป การแยกบทบาทแชตกับการท่องเว็บทำให้พัฒนาแต่ละโมดูลได้อย่างอิสระ

การใช้งานจริงและการนำไปใช้ในโลกจริง

ระหว่างเปลี่ยนจากแนวคิดสู่การใช้งาน นักพัฒนาพบทั้งความท้าทายและความซับซ้อนในการประเมิน

ใช้พรอมป์ต์เปลี่ยน LLM ให้เป็นแอปจริง

คำสั่งบางส่วนกำหนดรูปแบบเอาต์พุตให้แบ็กเอนด์ประมวลผลได้ บางส่วนปรับปรุงการนำเสนอ และส่วนอื่นป้องกันการโจมตีที่เป็นอันตราย แอปสำหรับผู้ใช้ปลายทางต้องระบุข้อกำหนดเหล่านี้ให้ชัดเจน

ปัจจัยในโลกจริงที่ควบคุมไม่ได้

โครงสร้างพื้นฐานอินเทอร์เน็ต ผู้ใช้ และตรรกะทางธุรกิจทำให้ต้องประเมินและปรับสมมติฐานจากงานวิจัยเดิมใหม่ ปัจจัยเหล่านี้อาจทำให้ผู้ใช้ไม่พอใจกับคำตอบที่ระบบสร้าง

ความซับซ้อนในการประเมิน

เอเจนต์ที่มุ่งใช้งานโดยตรงขยายขอบเขตการใช้และช่วยให้ประเมินได้สมจริงขึ้น แต่เพิ่มความซับซ้อนของการพัฒนาแอปและการวิเคราะห์ประสิทธิภาพ ความไม่เสถียรและห่วงโซ่การประมวลผลของระบบ LLM ก็เพิ่มขึ้น ทำให้ปรับเข้ากับองค์ประกอบต่างๆ ยากขึ้น จึงควรปรับการออกแบบและตรรกะการทำงานเพื่อลดขั้นตอนและให้ผลลัพธ์ที่มีประสิทธิภาพ

สรุป

OpenAgents รวมเอเจนต์ข้อมูล เอเจนต์ปลั๊กอินที่เข้าถึง API มากกว่า 200 รายการ และเอเจนต์เว็บไว้ในแพลตฟอร์มเปิดสำหรับงานประจำวัน เว็บ UI คำนึงถึงข้อผิดพลาดทั่วไปและการตอบรวดเร็ว พร้อมให้นักวิจัยกับนักพัฒนานำไปใช้ในเครื่องของตนเองได้ ระบบที่โปร่งใส ครอบคลุม และพร้อมติดตั้งนี้มุ่งเปิดโอกาสให้ผู้ใช้ที่มีความรู้ทางเทคนิคจำกัดเข้าถึงศักยภาพของ LLM