การถอดรหัสโอกาสและความท้าทายสำหรับเอเย่นต์ LLM ใน Generative AI

เรากำลังเห็นความก้าวหน้าของ Generative AI ที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM) ตั้งแต่คำสั่งไปยังการสร้างแบบเสริม (RAG) และตัวแทน Agents ถูกพูดถึงอย่างมากในอุตสาหกรรมและวงการวิจัย โดยเฉพาะอย่างยิ่งสำหรับพลังที่เทคโนโลยีนี้ให้ในการเปลี่ยนแปลงแอปพลิเคชันระดับองค์กรและให้ประสบการณ์ลูกค้าที่เหนือกว่า มีรูปแบบทั่วไปสำหรับการสร้างตัวแทนซึ่งช่วยให้เราสามารถสร้างตัวแทนได้โดยอัตโนมัติและสามารถแก้ปัญหาได้โดยอัตโนมัติ

ในบทความก่อนหน้าของฉัน บทความ เราได้เห็นบันไดของความฉลาดของโมเดลภาษาขนาดใหญ่ (LLM) สำหรับการสร้างแอปพลิเคชัน โดยเริ่มต้นด้วยคำสั่งที่จับปัญหาและใช้หน่วยความจำภายในของ LLM เพื่อสร้างผลลัพธ์ ด้วย RAG เราเพิ่มคำสั่งด้วยความรู้ภายนอกที่ค้นหาจากฐานข้อมูลเวกเตอร์เพื่อควบคุมผลลัพธ์ ต่อไปโดยการเชื่อมต่อ LLM เราสามารถสร้างการทำงานที่ซับซ้อนเพื่อสร้างแอปพลิเคชัน ตัวแทน Agents นำสิ่งนี้ไปสู่ระดับที่สูงกว่าโดยการกำหนดวิธีการสร้างการทำงานเหล่านี้โดยอัตโนมัติ

ตัวแทน – ภายใต้ฝากระโปรง

รูปแบบหลักของตัวแทนคือการใช้พลังการเข้าใจภาษาของ LLM เพื่อสร้างแผนการแก้ปัญหา ตัวแทนไม่ใช่ระบบสนับสนุนที่จะให้คำแนะนำแก่คุณและปล่อยให้คุณดำเนินการตามคำแนะนำนั้น แต่ตัวแทนได้รับอำนาจในการดำเนินการตามแผนการนั้นเอง

ถ้าเราถามตัวแทนคำถามพื้นฐาน เช่น

มนุษย์: บริษัทใดที่นักประดิษฐ์โทรศัพท์เริ่มต้น?

ต่อไปนี้คือตัวอย่างของกระบวนการคิดของตัวแทน

ตัวแทน (คิด)

• คิด: ฉันต้องค้นหานักประดิษฐ์โทรศัพท์
• การดำเนินการ: ค้นหา [นักประดิษฐ์โทรศัพท์]
• การสังเกต: อเล็กซานเดอร์ เกรแฮม เบลล์
• คิด: ฉันต้องค้นหบริษัทที่ก่อตั้งโดยอเล็กซานเดอร์ เกรแฮม เบลล์
• การดำเนินการ: ค้นหา [บริษัทที่ก่อตั้งโดยอเล็กซานเดอร์ เกรแฮม เบลล์]
• การสังเกต: อเล็กซานเดอร์ เกรแฮม เบลล์ก่อตั้งบริษัทโทรศัพท์และโทรเลขอเมริกัน (AT&T) ในปี 1885
• คิด: ฉันพบคำตอบแล้ว ฉันจะตอบกลับ

ตัวแทน (ตอบกลับ) อเล็กซานเดอร์ เกรแฮม เบลล์ก่อตั้ง AT&T ในปี 1885

คุณสามารถเห็นว่าตัวแทนปฏิบัติตามวิธีการที่เป็นระบบในการแบ่งปัญหาออกเป็นปัญหาย่อยที่สามารถแก้ไขได้โดยการดำเนินการเฉพาะ ตัวแทนสามารถเชื่อมต่อกับเครื่องมือต่างๆ เพื่อดำเนินการตามแผนการนั้นได้

ภายใต้ฝากระโปรง ตัวแทนใช้การเข้าใจภาษาของ LLM เพื่อสร้างแผนการดำเนินการ ตัวแทนสามารถเชื่อมต่อกับเครื่องมือต่างๆ เพื่อดำเนินการตามแผนการนั้นได้

ข้อจำกัดและความจำเป็นของ AI ที่รับผิดชอบ

ตอนนี้ถ้าเรามีเครื่องมือที่เรียกใช้ธุรกรรมการซื้อขายหุ้นโดยใช้ API ที่ได้รับอนุญาต เราสามารถสร้างแอปพลิเคชันที่ตัวแทนศึกษาการเปลี่ยนแปลงของหุ้น (โดยใช้เครื่องมือ) และตัดสินใจซื้อหรือขายหุ้นแทนเรา แต่ถ้าตัวแทนขายหุ้นที่ไม่ถูกต้องเพราะมันสับสนและตัดสินใจผิดพลาด?

ตัวแทนสามารถเป็นเครื่องมือที่น่าสนใจ แต่ก็สามารถเป็นอันตรายได้หากไม่มีการควบคุมที่เหมาะสม ดังนั้น AI ที่รับผิดชอบจึงมีความสำคัญในการสร้างตัวแทนเหล่านี้

ความคิดสุดท้าย

ความสามารถของตัวแทนในการสร้างแผนการดำเนินการโดยอัตโนมัติทำให้พวกมันใกล้เคียงกับการให้เหตุผลของมนุษย์ การให้อำนาจแก่พวกมันด้วยเครื่องมือที่ทรงพลังสามารถทำให้พวกมันมีพลังมากขึ้น รูปแบบต่างๆ เช่น ReAct พยายามเลียนแบบวิธีการแก้ปัญหา củaมนุษย์ และเราจะเห็นตัวแทนรูปแบบใหม่ที่เหมาะสมกับบริบทและโดเมนต่างๆ (การธนาคาร, การประกันภัย, การดูแลสุขภาพ, อุตสาหกรรม, ฯลฯ) อนาคตอยู่ที่นี่และเทคโนโลยีเบื้องหลังตัวแทนพร้อมสำหรับเราในการใช้งาน ในขณะเดียวกัน เราต้องให้ความสนใจอย่างใกล้ชิดกับ AI ที่รับผิดชอบเพื่อให้แน่ใจว่าเราจะไม่สร้าง Skynet!