Lemma ระดมทุนพรีซีด 2.3 ล้านดอลลาร์ แก้ความผิดพลาดของเอเจนต์ AI ในระบบจริงที่เกิดโดยไม่มีสัญญาณเตือน

สตาร์ทอัพด้านความน่าเชื่อถือของเอเจนต์ AI Lemma ระดมทุนระยะพรีซีด 2.3 ล้านดอลลาร์ เพื่อสร้างโครงสร้างพื้นฐานการติดตามที่ออกแบบมาเพื่อตรวจจับปัญหาประเภทที่ตรวจพบได้ยากเป็นพิเศษ นั่นคือเอเจนต์ AI ที่ดูเหมือนทำงานสำเร็จ แต่กลับสร้างผลลัพธ์ที่ผิดโดยไม่มีสัญญาณเตือน

ผู้ร่วมลงทุนในรอบนี้ประกอบด้วย Matrix, Y Combinator, Liquid 2 Ventures, Vermilion Cliffs Ventures, Irregular Expressions, Cervin Ventures, Comma Capital, Position Ventures และ Eight Capital พร้อมด้วยนักลงทุนอิสระและผู้บริหารหรือผู้ปฏิบัติงานจาก OpenAI, xAI, Meta และ DoorDash

Lemma ก่อตั้งโดย Jerry Zhang และ Cole Gawin เป็นส่วนหนึ่งของโครงการ Y Combinator รุ่นฤดูใบไม้ร่วงปี 2025 และมุ่งเน้นการติดตามเอเจนต์ AI ในระบบใช้งานจริง บริษัทระบุว่าแพลตฟอร์มประมวลผลบันทึกเส้นทางการทำงานของเอเจนต์แล้วมากกว่าหนึ่งล้านรายการ ขณะที่ทีมวิศวกรต้องการทำความเข้าใจมากขึ้นว่าระบบอัตโนมัติทำงานอย่างไรหลังนำไปใช้งาน

ปัญหาที่เพิ่มขึ้นของเอเจนต์ AI ซึ่งผิดพลาดโดยไม่มีสัญญาณเตือน

ระบบติดตามซอฟต์แวร์แบบดั้งเดิมส่วนใหญ่ออกแบบมาเพื่อจับสัญญาณความล้มเหลวที่ชัดเจน เช่น แอปหยุดทำงาน คำขอส่งรหัสข้อผิดพลาดกลับมา ความหน่วงพุ่งสูง หรือส่วนหนึ่งของโครงสร้างพื้นฐานไม่พร้อมใช้งาน

เอเจนต์ AI ทำให้เกิดปัญหาอีกแบบหนึ่ง

เอเจนต์อาจดำเนินการทุกขั้นตอนทางเทคนิคของเวิร์กโฟลว์สำเร็จ แต่ยังเข้าใจความต้องการของผู้ใช้ผิด เรียกใช้เครื่องมือผิด ใช้ข้อมูลไม่ถูกต้อง วนทำงานที่ไม่เกิดประโยชน์ หรือส่งคำตอบที่ดูน่าเชื่อถือแต่ผิด จากมุมมองของระบบติดตามแบบเดิม คำขอนั้นอาจดูปกติดีทุกอย่าง

Lemma เรียกสิ่งเหล่านี้ว่าความผิดพลาดด้านความหมาย ตัวอย่างเช่น เอเจนต์บริการลูกค้าอ้างนโยบายคืนเงินผิด เอเจนต์ตรวจสอบจัดทำรายงานที่ล้าสมัย หรือเอเจนต์เรียกใช้ระบบภายนอกด้วยข้อมูลที่ตนแต่งขึ้นเอง ทั้งหมดนี้เป็น จุดผิดพลาดที่พบบ่อยของเอเจนต์ AI

ความแตกต่างนี้สำคัญขึ้นเรื่อย ๆ เมื่อเอเจนต์ก้าวพ้นหน้าจอสนทนาไปทำงานหลายขั้นตอนที่ยาวขึ้น ซึ่งโมเดลภาษาโต้ตอบกับฐานข้อมูล อินเทอร์เฟซโปรแกรมประยุกต์หรือ API ระบบค้นคืนข้อมูล และเครื่องมือซอฟต์แวร์อื่น ๆ

ความผิดพลาด ณ จุดใดจุดหนึ่งในห่วงโซ่นั้นอาจไม่ทำให้ระบบแจ้งข้อยกเว้น เอเจนต์อาจเดินหน้าทำงานต่อไปเฉย ๆ

Lemma ติดตามเอเจนต์ AI ในระบบใช้งานจริงอย่างไร

Lemma กำลังสร้างชั้นเครื่องมือสังเกตและวิเคราะห์การทำงานของระบบ โดยเน้นเส้นทางการทำงานของเอเจนต์เหล่านี้โดยเฉพาะ

ระบบติดตามของบริษัทแปลงการทำงานแต่ละครั้งเป็นบันทึกที่มีโครงสร้าง ครอบคลุมการเรียกโมเดลภาษาขนาดใหญ่ การเรียกเครื่องมือ อินพุต เอาต์พุต ข้อมูลเวลา ขั้นตอนค้นคืนข้อมูล และข้อผิดพลาดตลอดเวิร์กโฟลว์ ทีมวิศวกรจึงตรวจดูแผนผังการทำงานทั้งหมดได้ แทนการดูเพียงคำตอบสุดท้ายของเอเจนต์

แต่การบันทึกเส้นทางเป็นเพียงส่วนหนึ่งของแนวทางนี้

Lemma วิเคราะห์บันทึกจากระบบใช้งานจริงเทียบกับคำสั่งของเอเจนต์ แล้วรวมปัญหาที่เกิดซ้ำเป็นประเด็น ช่วยให้ทีมมองเห็นรูปแบบความผิดพลาดที่อาจซ่อนอยู่ในปฏิสัมพันธ์นับพันครั้ง แพลตฟอร์มยังจัดลำดับความสำคัญของปัญหาและส่งการแจ้งเตือนผ่าน Slack เมื่อตรวจพบสิ่งที่อาจมีนัยสำคัญได้

เป้าหมายคือการตอบคำถามที่ยากกว่าซอฟต์แวร์ทำงานสำเร็จหรือไม่ นั่นคือเอเจนต์บรรลุสิ่งที่ควรทำจริงหรือไม่

นี่เป็นการเปลี่ยนแปลงสำคัญต่อวิธีที่เครื่องมือสังเกตระบบอาจต้องทำงานสำหรับซอฟต์แวร์แบบเอเจนต์

เปลี่ยนความผิดพลาดในการใช้งานจริงให้เป็นการปรับปรุงเอเจนต์

Lemma ยังพยายามลดระยะห่างระหว่างการพบปัญหากับการแก้ไข

เมื่อแพลตฟอร์มระบุความผิดพลาดที่เกิดซ้ำได้ จะวิเคราะห์บันทึกและบริบทโดยรอบเพื่อหาสาเหตุรากที่เป็นไปได้ จากนั้นเสนอการเปลี่ยนแปลงพรอมป์ต์ ตรรกะของแอป หรือเวิร์กโฟลว์เอเจนต์ แทนการให้วิศวกรย้อนสร้างเหตุการณ์ที่มีปัญหาขึ้นใหม่ทีละครั้งด้วยตนเอง

บริษัทขยายเวิร์กโฟลว์นี้ไปยังสภาพแวดล้อมพัฒนาผ่านเซิร์ฟเวอร์ Model Context Protocol หรือ MCP นักพัฒนาสืบค้นบันทึกของ Lemma จากเครื่องมืออย่าง Cursor, Claude Desktop และ Claude Code ได้ ทำให้การแก้จุดบกพร่องเกิดขึ้นใกล้กับสภาพแวดล้อมที่ใช้พัฒนาเอเจนต์มากขึ้น

หลังนำวิธีแก้ไปใช้งาน Lemma สามารถเปลี่ยนความผิดพลาดที่พบจริงให้เป็นการประเมินออนไลน์ และติดตามว่าปัญหากลับมาอีกหรือไม่ เกิดวงจรป้อนกลับที่เปลี่ยนความผิดพลาดจากสถานการณ์จริงซึ่งไม่เคยพบมาก่อนให้เป็นการทดสอบในอนาคต แทนการปล่อยให้เป็นเพียงเหตุการณ์แยกกัน

แนวทางนี้ทำให้ Lemma ก้าวไปไกลกว่าเครื่องมือสังเกตระบบทั่วไป เป้าหมายระยะยาวคือโครงสร้างพื้นฐานที่ช่วยให้เอเจนต์เรียนรู้จากความผิดพลาดในการใช้งานจริงอย่างเป็นระบบ แทนการพึ่งวิศวกรทั้งหมดในการค้นพบ จำลอง และแก้กรณีขอบทุกกรณีด้วยตนเอง

ปัญหาที่ผู้ก่อตั้งพบด้วยตนเอง

Zhang และ Gawin พบกันตอนเป็นนักศึกษาปีหนึ่งที่มหาวิทยาลัยเซาเทิร์นแคลิฟอร์เนีย และต่อมาต่างไปทำงานด้านระบบ AI ในสตาร์ทอัพที่มี AI เป็นแกนหลักคนละแห่ง ก่อนก่อตั้ง Lemma พวกเขาทำงานที่ Tandem ซึ่งประยุกต์ AI กับการดูแลสุขภาพ และ ChipStack ซึ่งพัฒนาเอเจนต์ AI สำหรับออกแบบชิป

ประสบการณ์เหล่านี้ทำให้ทั้งคู่เห็นความยากในการนำเอเจนต์จากสภาพแวดล้อมพัฒนาที่ควบคุมได้ไปสู่ระบบใช้งานจริง

“Cole กับผมเริ่ม Lemma เพราะเราเจอความยากในการสร้างเอเจนต์ AI ด้วยตัวเอง” Zhang กล่าว “เราพบปัญหาเดิมซ้ำ ๆ คือเอเจนต์ดูเหมือนทำงานได้ แต่ผลลัพธ์ยังไม่น่าเชื่อถือพอสำหรับการใช้งานจริง”

ผู้ก่อตั้งเห็นว่าการปรับปรุงโมเดลพื้นฐานเพียงอย่างเดียวจะไม่ทำให้ปัญหานี้หมดไป พฤติกรรมของเอเจนต์ในโลกจริงยังขึ้นกับพรอมป์ต์ ตรรกะของแอป เครื่องมือ การเชื่อมต่อระบบ ระบบค้นคืนข้อมูล พฤติกรรมผู้ใช้ และห่วงโซ่การเชื่อมโยงที่ซับซ้อนขึ้นเรื่อย ๆ

แนวคิดทางวิศวกรรมของ Lemma คือการประเมินออฟไลน์จำลองสภาพที่คาดเดาไม่ได้หลังนำเอเจนต์ไปใช้งานได้ยาก ข้อมูลจากระบบจริงจึงเป็นแหล่งสำคัญในการทำความเข้าใจว่าระบบผิดพลาดตรงไหนจริง ๆ

ความท้าทายที่กว้างขึ้นในการติดตามเอเจนต์ AI ในระบบจริง

เงินทุนใหม่จะสนับสนุนการพัฒนาเครื่องมือติดตามและตรวจจับความผิดพลาดของ Lemma ต่อไป โดยเริ่มจากสตาร์ทอัพที่ใช้งานเอเจนต์ AI ในระบบจริงอยู่แล้ว

บริษัทดำเนินงานในด้านที่สำคัญขึ้นเมื่อระบบ AI ก้าวจากการสาธิตเฉพาะกรณีไปสู่เวิร์กโฟลว์จริง เครื่องมือสังเกตระบบแบบเดิมมักตรวจพบปัญหาทางเทคนิค เช่น ระบบล่ม ความหน่วง หรือคำขอล้มเหลวได้ดี แต่ระบบเอเจนต์เพิ่มความซับซ้อนอีกชั้นหนึ่ง แอปอาจยังทำงานได้ขณะที่เอเจนต์เข้าใจงานผิด เลือกเครื่องมือผิด หรือสร้างผลลัพธ์ที่ไม่ถูกต้อง

ความแตกต่างนี้น่าจะมีนัยสำคัญมากขึ้นเมื่อใช้เอเจนต์ในบริการลูกค้า การวิเคราะห์ทางการเงิน งานบริหารด้านสุขภาพ การพัฒนาซอฟต์แวร์ และการวิจัย ในบริบทเหล่านี้ การวัดว่าเอเจนต์ทำเวิร์กโฟลว์เสร็จหรือไม่อาจสำคัญน้อยกว่าการตรวจว่าทำได้ถูกต้องหรือไม่

โอกาสของ Lemma จึงขึ้นอยู่กับว่าการติดตามความผิดพลาดด้านความหมายจะกลายเป็นมาตรฐานของการใช้เอเจนต์ AI ในระบบจริงหรือไม่ การระดมทุนพรีซีด 2.3 ล้านดอลลาร์เพิ่มเงินให้บริษัททดสอบแนวคิดนี้ ขณะที่องค์กรนำเอเจนต์ไปใช้กับเวิร์กโฟลว์ที่ซับซ้อนขึ้น

การติดตามเอเจนต์ที่ดีขึ้นอาจมีความหมายอย่างไรต่อ AI

เมื่อเอเจนต์ AI รับงานที่ซับซ้อนและเป็นอิสระมากขึ้น การติดตามแบบเดิมอาจไม่เพียงพอ ระบบในอนาคตจะต้องประเมินไม่ใช่แค่ว่าเอเจนต์ทำงานเสร็จหรือไม่ แต่รวมถึงเข้าใจเป้าหมาย ใช้เครื่องมือเหมาะสม และสร้างผลลัพธ์ถูกต้องหรือไม่

เครื่องมืออย่าง Lemma ยังอาจสร้างวงจรป้อนกลับที่เชื่อมการใช้งานจริงกับการพัฒนาได้แน่นแฟ้นขึ้น เปลี่ยนความผิดพลาดในโลกจริงให้เป็นการทดสอบและการปรับปรุงใหม่ ๆ เมื่อเวลาผ่านไป สิ่งนี้อาจทำให้การสังเกตและวิเคราะห์เอเจนต์กลายเป็นส่วนมาตรฐานของชุดโครงสร้างพื้นฐาน AI โดยเฉพาะในงานที่ผลกระทบสูงและให้ความสำคัญอย่างยิ่งกับความน่าเชื่อถือและความรับผิดชอบ