เอเย่นต์อัตโนมัติต้องการมากกว่าการสังเกตการณ์ AI

เมื่อบริษัทต่างๆ ใช้เอเย่นต์ AI เพื่อคิด ทำงาน และเริ่มต้นการทำงานแบบอัตโนมัติ จึงจำเป็นต้องมีแผนในการติดตามและจัดการพวกมัน

เมื่อองค์ประกอบต่างๆ ของระบบ AI เริ่มต้นการตัดสินใจด้วยตนเอง การสังเกตการณ์อย่างเดียวไม่เพียงพอในการรับประกันว่าการทำงานจะยังคงเสถียร ปลอดภัย หรือเชื่อถือได้

เพื่อจัดการเอเย่นต์ AI อย่างมีประสิทธิภาพในองค์กร บริษัทต่างๆ ต้องสร้างสะพานเชื่อมระหว่างการระบุปัญหาและการดำเนินการ นั่นหมายถึงการไปไกลกว่าการเพียงสังเกตปัญหา บริษัทต่างๆ ต้องป้องกันไม่ให้ปัญหาเกิดขึ้น

การเกิดขึ้นของเอเย่นต์อัตโนมัติ

คลื่นแรกของ AI ในองค์กรคือระบบที่ใช้คำถามเป็นหลัก ผู้ใช้ถามคำถาม และโมเดลตอบกลับ แล้วการแลกเปลี่ยนก็จบลงที่นั่น เทคโนโลยีเหล่านี้ในยุคแรกๆ เป็นแบบตอบสนอง และมีประโยชน์สำหรับการค้นหา คู่มือ การสร้างเนื้อหา และการสรุป

คลื่นต่อมาแตกต่างออกไป เอเย่นต์ AI อัตโนมัติไม่เพียงแต่ตอบสนองเท่านั้น แต่ยังใช้เหตุผลข้ามวัตถุประสงค์ เลือกเครื่องมือ ข้อมูล และดำเนินการเริ่มต้นการทำงาน พวกมันทำงานร่วมกับเอเย่นต์อื่นๆ หรือระบบ และมีบทบาทมากขึ้นในฐานะผู้เล่นการดำเนินงานภายในบริษัท มากกว่าเพียงชั้นสำหรับคำสั่งจากมนุษย์

การเปลี่ยนแปลงนี้มีความสำคัญเพราะมันส่งผลต่อลักษณะการทำงานของ AI ทีมงานไม่ได้เพียงดูผลลัพธ์ของโมเดลเท่านั้น แต่ยังจัดการระบบที่มีการเปลี่ยนแปลงอย่างรวดเร็วซึ่งสามารถส่งผลกระทบต่อลูกค้า พนักงาน โครงสร้างพื้นฐาน กระบวนการทางธุรกิจ และแอปพลิเคชันอื่นๆ

ความสามารถของเอเย่นต์ในปัจจุบัน

ความสามารถของเอเย่นต์จะพัฒนาไปพร้อมกับพวกมัน เอเย่นต์สามารถเลือกสิ่งที่จะทำต่อไป หยุดการทำงานเป็นขั้นตอน และดำเนินกิจกรรมที่มีระดับต่างๆ ได้ โดยการเชื่อมต่อ API การค้นหาฐานข้อมูล การค้นหาในระบบภายใน การอัปเดตบันทึก และการเริ่มต้นการดำเนินการที่ตามมา พวกมันสามารถประสานงานการทำงานได้ โดยการรวมคำสั่ง ความจำ กฎธุรกิจ ข้อมูลที่ได้รับ และสัญญาณการดำเนินการที่ได้รับใน thời gianจริง เอเย่นต์สามารถตัดสินใจโดยพิจารณาจากบริบทได้

เอเย่นต์ที่ซับซ้อนมากขึ้นสามารถระบุได้ว่าการทำงานล้มเหลว ลองใหม่ ย้ายปัญหาไปยังผู้ตรวจสอบของมนุษย์ หรือส่งงานไปยังผู้ตรวจสอบของมนุษย์ ใน CRM ระบบตั๋ว ระบบโครงสร้างพื้นฐานคลาวด์ ฐานความรู้ภายใน ระบบสังเกตการณ์ และแอปพลิเคชันทางธุรกิจ เอเย่นต์สามารถทำงานอิสระได้ เราคาดว่าความสามารถเหล่านี้จะขยายตัวอย่างรวดเร็ว

วิธีการที่ธุรกิจรวมเอเย่นต์ AI อัตโนมัติ

เอเย่นต์ถูกนำมาใช้ในกระบวนการดำเนินงานขององค์กรที่เพิ่มขึ้น และพวกมันเข้าใกล้กระบวนการดำเนินการที่ความเร็ว ความแม่นยำ ความปลอดภัย และการกำกับดูแลมีความสำคัญ นี่รวมถึงการบริการลูกค้าและการจัดการกรณี การตอบสนองต่อเหตุการณ์และการดำเนินงาน IT การทำงานสำหรับ DevOps และความน่าเชื่อถือของไซต์ การแก้ไขโค้ดและการพัฒนาซอฟต์แวร์ การวางแผนการดำเนินงานและการจัดหาสินค้า และอื่นๆ

การคุกคามการดำเนินการที่เกิดขึ้นใหม่

อย่างไรก็ตาม เมื่อเอเย่นต์กลายเป็นอิสระมากขึ้น บริษัทต่างๆ ต้องจัดการกับความเสี่ยงการดำเนินการที่ไม่เหมือนใคร

• การตัดสินใจที่ไม่ดีไม่ได้เพียงแนะนำเท่านั้น แต่ยังดำเนินการตามคำแนะนำนั้น
• ข้อผิดพลาดเล็กๆ น้อยๆ สามารถแพร่กระจายไปยังระบบที่เชื่อมต่ออื่นๆ ได้อย่างรวดเร็ว
• การกระทำในโลกแห่งความเป็นจริงสามารถถูกกระตุ้นโดยการเห็นภาพหลอกลวง
• เอเย่นต์อาจห่างเหินจากเจตนา ธุรกิจ นโยบาย หรือการปฏิบัติตามกฎระเบียบ
• การโต้ตอบระหว่างส่วนประกอบหลายอย่างสามารถส่งผลให้เกิดความล้มเหลว
• การตัดสินใจโดยอัตโนมัติสามารถตัดสินใจได้เร็วกว่าการประเมินของมนุษย์

ในขณะที่ทีมอาจสังเกตเห็นสัญญาณของปัญหา พวกเขาต้องสามารถเข้าใจสาเหตุของพฤติกรรมของระบบได้ AI ในองค์กรมีความต้องการการควบคุมความน่าเชื่อถือ นอกเหนือจากความสามารถในการมองเห็น

ความซับซ้อนของระบบ AI

ระบบ AI ที่ขับเคลื่อนด้วยปัจจุบันไม่ใช่โมเดลเดียว พวกมันเป็นระบบที่กระจายและชั้นซ้อน ประกอบด้วยส่วนประกอบที่โต้ตอบกันหลายอย่าง ซึ่งรวมถึง:

• โมเดลพื้นฐาน (LLM)
• โมเดลภาษาขนาดเล็กที่ปรับให้เหมาะสมหรือเฉพาะสำหรับงาน (SLM)
• โมเดลการฝังตัว
• ฐานข้อมูลเวกเตอร์
• การค้นหาและองค์ประกอบ RAG
• เทมเพลตคำสั่งและชั้นการกำกับคำสั่ง
• ชุดข้อมูลสำหรับการฝึกอบรมและการประเมิน
• รั้วและชั้นการกำกับดูแล
• เอเย่นต์และการทำงาน
• ระบบการเรียกใช้เครื่องมือ
• การวัดผล (หรือที่เรียกว่าบันทึก เมตริก และสัญญาณ)
• จุดตรวจสอบการอนุมัติของมนุษย์

ความเสี่ยงของพวกเขา

ทุกส่วนประกอบเพิ่มโหมดการล้มเหลวที่แตกต่างกัน และวิธีที่พวกมันโต้ตอบกันจะเพิ่มความซับซ้อนมากขึ้น แม้ว่าระบบจะดูแข็งแกร