การเพิ่มขึ้นของ LLMOps ในยุค AI

ในภูมิทัศน์ IT ที่เปลี่ยนแปลงอย่างรวดเร็ว MLOps—ย่อจาก Machine Learning Operations—ได้กลายเป็นอาวุธลับสำหรับองค์กรที่มุ่งหวังจะเปลี่ยนข้อมูลที่ซับซ้อนให้เป็นข้อมูลเชิงลึกที่มีพลังและสามารถนำไปใช้ได้ MLOps คือชุดแนวปฏิบัติที่ออกแบบมาเพื่อทำให้กระบวนการเรียนรู้ของเครื่องจักร (ML) มีประสิทธิภาพ—ช่วยให้นักวิทยาศาสตร์ข้อมูล ทีม IT ผู้มีส่วนได้ส่วนเสียทางธุรกิจ และผู้เชี่ยวชาญด้านโดเมนสามารถทำงานร่วมกันเพื่อสร้าง นำไปใช้ และจัดการแบบจำลอง ML อย่างต่อเนื่องและเชื่อถือได้ มันเกิดขึ้นเพื่อแก้ไขความท้าทายที่ไม่เหมือนใครของ ML เช่น การรับรองคุณภาพของข้อมูลและหลีกเลี่ยงความเอนเอียง และได้กลายเป็นแนวทางมาตรฐานสำหรับการจัดการแบบจำลอง ML ทั่วฟังก์ชันทางธุรกิจ

ด้วยการเพิ่มขึ้นของโมเดลภาษาขนาดใหญ่ (LLMs) อย่างไรก็ตาม ความท้าทายใหม่ๆ ได้ปรากฏขึ้น LLMs ต้องการพลังการประมวลผลที่มาก ขั้นตอนพื้นฐานที่ทันสมัย และเทคนิค เช่น การออกแบบคำสั่งให้ทำงานได้อย่างมีประสิทธิภาพ ความซับซ้อนที่ทำให้เกิดการเปลี่ยนแปลงของ MLOps ที่เรียกว่า LLMOps (Large Language Model Operations)

LLMOps มุ่งเน้นไปที่การเพิ่มประสิทธิภาพของวงจรชีวิตของ LLMs ตั้งแต่การฝึกอบรมและการปรับให้เหมาะสมไปจนถึงการนำไปใช้ การขยายขนาด การติดตาม และการบำรุงรักษาแบบจำลอง มันพยายามที่จะแก้ไขความต้องการเฉพาะของ LLMs ในขณะเดียวกันก็รับรองว่าพวกมันทำงานได้อย่างมีประสิทธิภาพในสภาพแวดล้อมการผลิต ซึ่งรวมถึงการจัดการต้นทุนการคำนวณที่สูง การขยายโครงสร้างพื้นฐานเพื่อสนับสนุนแบบจำลองขนาดใหญ่ และการทำให้กระบวนการต่างๆ เช่น การออกแบบคำสั่งและการปรับให้เหมาะสมเป็นกระบวนการราบรื่น

ด้วยการเปลี่ยนแปลงนี้ไปสู่ LLMOps จึงเป็นสิ่งสำคัญสำหรับผู้นำธุรกิจและ IT ที่จะเข้าใจถึงประโยชน์หลักของ LLMOps และกำหนดกระบวนการใดที่เหมาะสมที่สุดในการใช้และเมื่อใด

ประโยชน์หลักของ LLMOps

LLMOps สร้างขึ้นจากพื้นฐานของ MLOps โดยมีความสามารถที่เพิ่มขึ้นในหลายๆ ด้าน วิธีที่ LLMOps ส่งมอบประโยชน์ที่มากกว่าให้กับองค์กรคือ:

• การทำให้ AI เข้าถึงได้ – LLMOps ทำให้การพัฒนาและนำ LLMs ไปใช้สามารถเข้าถึงได้โดยผู้มีส่วนได้ส่วนเสียที่ไม่ใช่ทางเทคนิค ในกระบวนการทำงาน ML แบบดั้งเดิม นักวิทยาศาสตร์ข้อมูลมักจะจัดการกับการสร้างแบบจำลอง ในขณะที่วิศวกรมุ่งเน้นไปที่การขนส่งและดำเนินการ LLMOps เปลี่ยนรูปแบบนี้โดยใช้แบบจำลองโอเพ่นซอร์ส บริการที่เป็นเจ้าของ และเครื่องมือ low-code/no-code ช่วยให้กระบวนการสร้างแบบจำลองและการฝึกอบรมง่ายขึ้น ทำให้ทีมธุรกิจ ผู้จัดการผลิตภัณฑ์ และวิศวกรสามารถทำงานร่วมกันได้อย่างมีประสิทธิภาพมากขึ้น ผู้ใช้ที่ไม่ใช่ทางเทคนิคสามารถทดลองและนำ LLMs ไปใช้โดยใช้อินเทอร์เฟซที่直观 ลดความยากในการเข้าถึง AI
• การนำแบบจำลองไปใช้อย่างรวดเร็ว: LLMOps ทำให้การรวม LLMs เข้ากับแอปพลิเคชันทางธุรกิจเป็นไปอย่างราบรื่น ทำให้ทีมสามารถนำโซลูชันที่มีพลังงาน AI ไปใช้ได้อย่างรวดเร็วและปรับตัวให้เข้ากับความต้องการของตลาดที่เปลี่ยนแปลงอย่างรวดเร็ว ตัวอย่างเช่น ด้วย LLMOps องค์กรสามารถปรับแบบจำลองได้อย่างรวดเร็วเพื่อสะท้อนถึงข้อเสนอแนะของลูกค้าหรือการอัปเดตด้านกฎระเบียบโดยไม่ต้องมีการพัฒนาซ้ำอย่างกว้างขวาง ความคล่องตัวนี้ทำให้องค์กรสามารถอยู่ในระดับแนวหน้าของแนวโน้มตลาดและรักษาความได้เปรียบในการแข่งขัน
• การเกิดขึ้นของ RAGs – การใช้งาน LLMs ในองค์กรหลายกรณีเกี่ยวข้องกับการดึงข้อมูลที่เกี่ยวข้องจากแหล่งภายนอกมากกว่าการพึ่งพาแบบจำลองที่ได้รับการฝึกอบรมล่วงหน้า LLMOps นำเสนอนิพจน์ Retrieval-Augmented Generation (RAG) ซึ่งรวมแบบจำลองการดึงข้อมูลเพื่อดึงข้อมูลจากฐานความรู้เข้ากับ LLMs ที่จัดอันดับและสรุปข้อมูล วิธีนี้ช่วยลดการหลอกลวงและให้วิธีการที่คุ้มค่าในการใช้ข้อมูลขององค์กร ไม่เหมือนกับกระบวนการทำงาน ML แบบดั้งเดิม ซึ่งการฝึกอบรมแบบจำลองเป็นจุดสนใจหลัก LLMOps เปลี่ยนความสนใจไปที่การสร้างและจัดการ RAG pipelines เป็นฟังก์ชันหลักในวงจรชีวิตของการพัฒนา

ความสำคัญของการทำความเข้าใจกรณีการใช้งาน LLMOps

ด้วยประโยชน์ทั่วไปของ LLMOps รวมถึงการทำให้เครื่องมือ AI เข้าถึงได้ทั่วทั้งองค์กร จึงเป็นสิ่งสำคัญที่จะดูกรณีการใช้งานเฉพาะที่ LLMOps สามารถนำมาใช้เพื่อช่วยให้ผู้นำธุรกิจและทีม IT ใช้ LLMs ได้อย่างมีประสิทธิภาพมากขึ้น:

• การนำแบบจำลองไปใช้อย่างปลอดภัย– บริษัทหลายแห่งเริ่มต้นการพัฒนา LLMs ด้วยกรณีการใช้งานภายใน รวมถึงการสนับสนุนลูกค้าแบบอัตโนมัติหรือการสร้างและตรวจสอบโค้ดเพื่อให้ได้ความมั่นใจในประสิทธิภาพของ LLMs ก่อนที่จะขยายไปสู่แอปพลิเคชันที่เผชิญหน้ากับลูกค้า LLMOps ช่วยให้ทีมสามารถทำให้กระบวนการนำไปใช้เหล่านี้เป็นกระบวนการที่มีประสิทธิภาพโดย 1) การทำให้กระบวนการนำไปใช้แบบอัตโนมัติซึ่งแยกสภาพแวดล้อมภายในออกจากสภาพแวดล้อมที่เผชิญหน้ากับลูกค้า 2) ทำให้ทดสอบและติดตามผลใน环境ที่ถูกปิดล้อมเพื่อระบุและแก้ไขรูปแบบการล้มเหลว และ 3) การสนับสนุนการควบคุมเวอร์ชันและการกลับไปยังเวอร์ชันก่อนหน้าเพื่อให้ทีมสามารถปรับปรุงการนำไปใช้ภายในก่อนที่จะเผยแพร่สู่สาธารณะ
• การบริหารความเสี่ยงของแบบจำลอง – LLMs เพียงอย่างเดียวทำให้เกิดความกังวลเกี่ยวกับการบริหารความเสี่ยงของแบบจำลอง ซึ่งเป็นจุดสนใจที่สำคัญของ MLOps มาโดยตลอด ความโปร่งใสในการทราบข้อมูลที่ LLMs ได้รับการฝึกอบรมมักจะไม่ชัดเจน ทำให้เกิดความกังวลเกี่ยวกับความเป็นส่วนตัว ลิขสิทธิ์ และความเอนเอียง การหลอกลวงของข้อมูลเป็นปัญหาที่ทำให้เกิดความเจ็บปวดในการพัฒนาแบบจำลอง อย่างไรก็ตาม ด้วย LLMOps ความท้าทายนี้ได้รับการแก้ไข LLMOps สามารถติดตามพฤติกรรมของแบบจำลองในเวลาจริง ทำให้ทีมสามารถ 1) ตรวจจับและลงทะเบียนการหลอกลวงโดยใช้ทางลัดที่กำหนดไว้ล่วงหน้า 2) นำระบบป้อนกลับมาใช้เพื่อปรับปรุงแบบจำลองอย่างต่อเนื่องโดยการอัปเดตคำสั่งหรือการฝึกอบรมใหม่ด้วยเอาต์พุตที่ถูกต้อง และ 3) ใช้เมตริกเพื่อทำความเข้าใจและแก้ไขความไม่แน่นอนในการสร้างข้อมูล
• การประเมินและติดตามแบบจำลอง – การประเมินและติดตาม LLMs แยกจากกันซึ่งซับซ้อนกว่าการประเมินแบบจำลอง ML แยกจากกัน แบบจำลอง LLMs มักจะขึ้นอยู่กับบริบท ซึ่งต้องการข้อมูลจากผู้เชี่ยวชาญด้านเนื้อหาสำหรับการประเมินที่มีประสิทธิภาพ เพื่อแก้ไขความซับซ้อนนี้ แพลตฟอร์มการประเมินอัตโนมัติได้ปรากฏขึ้น โดยที่ LLMs หนึ่งอันจะใช้ในการประเมินอีกอัน แพลตฟอร์มเหล่านี้สร้างกระบวนการประเมินอย่างต่อเนื่อง โดยรวมการทดสอบอัตโนมัติหรือมาตรฐานที่จัดการโดยระบบ LLMOps วิธีนี้ติดตามประสิทธิภาพของแบบจำลอง ระบุความผิดปกติ และปรับปรุงเกณฑ์การประเมิน ทำให้กระบวนการประเมินคุณภาพและความน่าเชื่อถือของเอาต์พุตที่สร้างขึ้นเป็นกระบวนการที่ง่ายขึ้น

LLMOps ให้โครงร่างการดำเนินการที่จะจัดการความซับซ้อนที่เพิ่มขึ้นของ LLMs ซึ่ง MLOps ไม่สามารถจัดการได้โดยลำพัง LLMOps รับรองว่าองค์กรสามารถจัดการกับจุดเจ็บปวด เช่น ความไม่แน่นอนของเอาต์พุตที่สร้างขึ้นและการเกิดขึ้นของกรอบการประเมินใหม่ ในขณะเดียวกันก็ทำให้การนำไปใช้และติดตั้งแบบจำลองเป็นไปอย่างปลอดภัยและมีประสิทธิภาพ ด้วยเหตุนี้ จึงเป็นสิ่งสำคัญที่องค์กรจะต้องเข้าใจการเปลี่ยนแปลงนี้จาก MLOps ไปเป็น LLMOps เพื่อแก้ไขความท้าทายเฉพาะของ LLMs ภายในองค์กรของตนเองและนำการดำเนินการที่ถูกต้องไปใช้เพื่อให้ประสบความสำเร็จในโครงการ AI

มองไปข้างหน้า: การยอมรับ AgentOps

ตอนนี้ที่เราพูดถึง LLMOps มันสำคัญที่จะต้องพิจารณาสิ่งที่อยู่ข้างหน้าสำหรับกรอบการดำเนินการ AI ที่กำลังพัฒนาอย่างต่อเนื่อง ในขณะนี้ AI ที่มีเหตุผลซับซ้อนหรือ AI ตัวแทน – ซึ่งเป็นโปรแกรมอัตโนมัติที่มีความสามารถในการให้เหตุผลและหน่วยความจำซึ่งใช้ LLMs ในการแก้ปัญหา สร้างแผนการแก้ปัญหา และดำเนินการตามแผน Deloitte คาดการณ์ว่า 25% ขององค์กรที่ใช้ AI ที่สร้างขึ้นจะนำ AI ตัวแทนไปใช้ในปี 2025 และเพิ่มขึ้นเป็น 50% ภายในปี 2027 ข้อมูลนี้แสดงให้เห็นถึงการเปลี่ยนแปลงที่ชัดเจนไปสู่ AI ตัวแทนในอนาคต – การเปลี่ยนแปลงที่ได้เริ่มต้นขึ้นแล้ว เนื่องจากหลายองค์กรได้เริ่มนำเทคโนโลยีนี้ไปใช้และพัฒนาแล้ว

ด้วยเหตุนี้ AgentOps จึงเป็นคลื่นต่อไปของการดำเนินการ AI ที่องค์กรควรเตรียมตัว

AgentOps รวมองค์ประกอบของ AI การอัตโนมัติและการดำเนินงานเข้าด้วยกัน โดยมีเป้าหมายในการปรับปรุงวิธีการที่ทีมจัดการและขยายกระบวนการทางธุรกิจ มันเน้นไปที่การใช้ตัวแทนอัจฉริยะเพื่อปรับปรุงกระบวนการดำเนินงาน ให้ข้อมูลเชิงลึกแบบเรียลไทม์ และสนับสนุนการตัดสินใจในอุตสาหกรรมต่างๆ การนำ AgentOps ไปใช้จะเพิ่มความสม่ำเสมอของพฤติกรรมและการตอบสนองของ AI ตัวแทนในสถานการณ์ที่ไม่คาดคิด ลดเวลาที่ไม่ทำงานและความล้มเหลว สิ่งนี้จะกลายเป็นสิ่งจำเป็นเมื่อองค์กรหลายแห่งเริ่มนำ AI ตัวแทนไปใช้และรวมเข้ากับกระบวนการทำงานของตน

AgentOps เป็นส่วนประกอบที่จำเป็นสำหรับการจัดการระบบ AI รุ่นต่อไป องค์กรจะต้องมุ่งเน้นไปที่การรับรองความสามารถในการสังเกตเห็น ความสามารถในการติดตาม และการตรวจสอบที่ดีขึ้น เพื่อพัฒนาตัวแทน AI ที่มีความคิดสร้างสรรค์และมองไปข้างหน้า เมื่อการอัตโนมัติได้รับการปรับปรุงและความรับผิดชอบของ AI เพิ่มขึ้น การบูรณาการ AgentOps ที่มีประสิทธิผลจะจำเป็นต่อองค์กรในการรักษาความไว้วางใจใน AI และขยายการดำเนินการที่ซับซ้อนและเฉพาะเจาะจง

อย่างไรก็ตาม ก่อนที่องค์กรจะเริ่มทำงานกับ AgentOps พวกเขาจะต้องมีความเข้าใจที่ชัดเจนเกี่ยวกับ LLMOps —ที่อธิบายไว้ข้างต้น— และวิธีการทำงานร่วมกันระหว่างทั้งสอง องค์กรจะไม่สามารถสร้างบนกรอบการทำงานที่มีอยู่ได้อย่างมีประสิทธิภาพเมื่อทำงานเพื่อการนำ AgentOps ไปใช้หากไม่มีการศึกษา LLMOps ที่เหมาะสม