ผู้นำทางความคิด

การถอดรหัสโอกาสและความท้าทายสำหรับเอเย่นต์ LLM ใน Generative AI

Dattaraj Rao
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญเอเจนต์ใช้ LLM ในการวางแผนและดำเนินการผ่านเครื่องมือต่าง ๆ ได้ด้วยตนเอง…
ดูเพิ่มเติม
  • เอเจนต์ใช้ LLM ในการวางแผนและดำเนินการผ่านเครื่องมือต่าง ๆ ได้ด้วยตนเอง ก้าวข้ามการถามตอบแบบง่ายไปสู่การแก้ปัญหาที่ซับซ้อน
  • รูปแบบเอเจนต์ ReAct แสดงให้เห็นถึงการใช้เหตุผลที่เป็นระบบ ด้วยการแบ่งปัญหาออกเป็นขั้นตอนที่สามารถค้นหาได้ เลียนแบบกระบวนการคิดของมนุษย์
  • มาตรการป้องกัน AI ที่มีความรับผิดชอบเป็นสิ่งสำคัญ เนื่องจากการกระทำของเอเจนต์อาจก่อให้เกิดความเสียหายในโลกจริงได้ ผ่านการหลอนประสาท (hallucinations) หรือข้อผิดพลาดต่าง ๆ

เรากำลังเห็นความก้าวหน้าของ Generative AI ที่ขับเคลื่อนด้วยโมเดลภาษาขนาดใหญ่ (LLM) ตั้งแต่คำสั่งไปยังการสร้างแบบเสริม (RAG) และตัวแทน Agents ถูกพูดถึงอย่างมากในอุตสาหกรรมและวงการวิจัย โดยเฉพาะอย่างยิ่งสำหรับพลังที่เทคโนโลยีนี้ให้ในการเปลี่ยนแปลงแอปพลิเคชันระดับองค์กรและให้ประสบการณ์ลูกค้าที่เหนือกว่า มีรูปแบบทั่วไปสำหรับการสร้างตัวแทนซึ่งช่วยให้เราสามารถสร้างตัวแทนได้โดยอัตโนมัติและสามารถแก้ปัญหาได้โดยอัตโนมัติ

ในบทความก่อนหน้าของฉัน บทความ เราได้เห็นบันไดของความฉลาดของโมเดลภาษาขนาดใหญ่ (LLM) สำหรับการสร้างแอปพลิเคชัน โดยเริ่มต้นด้วยคำสั่งที่จับปัญหาและใช้หน่วยความจำภายในของ LLM เพื่อสร้างผลลัพธ์ ด้วย RAG เราเพิ่มคำสั่งด้วยความรู้ภายนอกที่ค้นหาจากฐานข้อมูลเวกเตอร์เพื่อควบคุมผลลัพธ์ ต่อไปโดยการเชื่อมต่อ LLM เราสามารถสร้างการทำงานที่ซับซ้อนเพื่อสร้างแอปพลิเคชัน ตัวแทน Agents นำสิ่งนี้ไปสู่ระดับที่สูงกว่าโดยการกำหนดวิธีการสร้างการทำงานเหล่านี้โดยอัตโนมัติ

ตัวแทน – ภายใต้ฝากระโปรง

รูปแบบหลักของตัวแทนคือการใช้พลังการเข้าใจภาษาของ LLM เพื่อสร้างแผนการแก้ปัญหา ตัวแทนไม่ใช่ระบบสนับสนุนที่จะให้คำแนะนำแก่คุณและปล่อยให้คุณดำเนินการตามคำแนะนำนั้น แต่ตัวแทนได้รับอำนาจในการดำเนินการตามแผนการนั้นเอง

ถ้าเราถามตัวแทนคำถามพื้นฐาน เช่น

มนุษย์: บริษัทใดที่นักประดิษฐ์โทรศัพท์เริ่มต้น?

ต่อไปนี้คือตัวอย่างของกระบวนการคิดของตัวแทน

ตัวแทน (คิด)

  • คิด: ฉันต้องค้นหานักประดิษฐ์โทรศัพท์
  • การดำเนินการ: ค้นหา [นักประดิษฐ์โทรศัพท์]
  • การสังเกต: อเล็กซานเดอร์ เกรแฮม เบลล์
  • คิด: ฉันต้องค้นหบริษัทที่ก่อตั้งโดยอเล็กซานเดอร์ เกรแฮม เบลล์
  • การดำเนินการ: ค้นหา [บริษัทที่ก่อตั้งโดยอเล็กซานเดอร์ เกรแฮม เบลล์]
  • การสังเกต: อเล็กซานเดอร์ เกรแฮม เบลล์ก่อตั้งบริษัทโทรศัพท์และโทรเลขอเมริกัน (AT&T) ในปี 1885
  • คิด: ฉันพบคำตอบแล้ว ฉันจะตอบกลับ

ตัวแทน (ตอบกลับ) อเล็กซานเดอร์ เกรแฮม เบลล์ก่อตั้ง AT&T (T ) ในปี 1885

คุณสามารถเห็นว่าตัวแทนปฏิบัติตามวิธีการที่เป็นระบบในการแบ่งปัญหาออกเป็นปัญหาย่อยที่สามารถแก้ไขได้โดยการดำเนินการเฉพาะ ตัวแทนสามารถเชื่อมต่อกับเครื่องมือต่างๆ เพื่อดำเนินการตามแผนการนั้นได้

ภายใต้ฝากระโปรง ตัวแทนใช้การเข้าใจภาษาของ LLM เพื่อสร้างแผนการดำเนินการ ตัวแทนสามารถเชื่อมต่อกับเครื่องมือต่างๆ เพื่อดำเนินการตามแผนการนั้นได้

ข้อจำกัดและความจำเป็นของ AI ที่รับผิดชอบ

ตอนนี้ถ้าเรามีเครื่องมือที่เรียกใช้ธุรกรรมการซื้อขายหุ้นโดยใช้ API ที่ได้รับอนุญาต เราสามารถสร้างแอปพลิเคชันที่ตัวแทนศึกษาการเปลี่ยนแปลงของหุ้น (โดยใช้เครื่องมือ) และตัดสินใจซื้อหรือขายหุ้นแทนเรา แต่ถ้าตัวแทนขายหุ้นที่ไม่ถูกต้องเพราะมันสับสนและตัดสินใจผิดพลาด?

ตัวแทนสามารถเป็นเครื่องมือที่น่าสนใจ แต่ก็สามารถเป็นอันตรายได้หากไม่มีการควบคุมที่เหมาะสม ดังนั้น AI ที่รับผิดชอบจึงมีความสำคัญในการสร้างตัวแทนเหล่านี้

ความคิดสุดท้าย

ความสามารถของตัวแทนในการสร้างแผนการดำเนินการโดยอัตโนมัติทำให้พวกมันใกล้เคียงกับการให้เหตุผลของมนุษย์ การให้อำนาจแก่พวกมันด้วยเครื่องมือที่ทรงพลังสามารถทำให้พวกมันมีพลังมากขึ้น รูปแบบต่างๆ เช่น ReAct พยายามเลียนแบบวิธีการแก้ปัญหา củaมนุษย์ และเราจะเห็นตัวแทนรูปแบบใหม่ที่เหมาะสมกับบริบทและโดเมนต่างๆ (การธนาคาร, การประกันภัย, การดูแลสุขภาพ, อุตสาหกรรม, ฯลฯ) อนาคตอยู่ที่นี่และเทคโนโลยีเบื้องหลังตัวแทนพร้อมสำหรับเราในการใช้งาน ในขณะเดียวกัน เราต้องให้ความสนใจอย่างใกล้ชิดกับ AI ที่รับผิดชอบเพื่อให้แน่ใจว่าเราจะไม่สร้าง Skynet!

ดัตตาราจ ราว เป็น หัวหน้านักวิทยาศาสตร์ข้อมูล ที่ Persistent Systems และเป็นผู้เขียนหนังสือ “Keras to Kubernetes: The Journey of a Machine Learning Model to Production” ที่ Persistent Systems ดัตตาราจ เป็นผู้นำ ห้องปฏิบัติการวิจัย AI ซึ่งสำรวจอัลกอริทึมที่ทันสมัยในด้าน คอมพิวเตอร์วิทัศน์, การทำความเข้าใจภาษาธรรมชาติ, การเขียนโปรแกรมเชิงความน่าจะเป็น, การเรียนรู้แบบเสริมกำลัง, AI ที่อธิบายได้ และอื่นๆ และแสดงให้เห็นถึงความสามารถในการใช้งานในด้าน การดูแลสุขภาพ การธนาคาร และอุตสาหกรรม ดัตตาราจ มี 11 สิทธิบัตรในด้านการเรียนรู้ของเครื่อง และ คอมพิวเตอร์วิทัศน์