Lemma Nâng Cấp 2,3 Triệu Đô La Để Xử Lý Sự Cố Im Lặng Của Trợ Lý Ảo Trí Tuệ Trong Sản Xuất

Startup về độ tin cậy của trợ lý ảo trí tuệ Lemma đã huy động được 2,3 triệu đô la trong vòng tài trợ trước hạt giống để xây dựng cơ sở hạ tầng giám sát được thiết kế để bắt một lớp vấn đề đặc biệt khó khăn: các trợ lý ảo trí tuệ dường như đã hoàn thành một nhiệm vụ thành công trong khi im lặng tạo ra kết quả sai.

Vòng tài trợ này bao gồm sự tham gia của Matrix, Y Combinator, Liquid 2 Ventures, Vermilion Cliffs Ventures, Irregular Expressions, Cervin Ventures, Comma Capital, Position Ventures, và Eight Capital, cùng với các nhà đầu tư thiên thần và nhà điều hành từ OpenAI, xAI, Meta, và DoorDash.

Được thành lập bởi Jerry Zhang và Cole Gawin, Lemma là một phần của lô Fall 2025 của Y Combinator và tập trung vào việc giám sát sản xuất cho các trợ lý ảo trí tuệ. Công ty cho biết nền tảng của họ đã xử lý hơn một triệu dấu vết của trợ lý ảo trí tuệ khi các đội ngũ kỹ sư ngày càng tìm cách hiểu cách các hệ thống tự động hóa hoạt động sau khi triển khai.

Vấn Đề Tăng Của Trợ Lý Ảo Trí Tuệ Im Lặng Thất Bại

Giám sát phần mềm truyền thống chủ yếu được thiết kế xung quanh các tín hiệu thất bại rõ ràng. Một ứng dụng bị崩潰, một yêu cầu trả về mã lỗi, độ trễ tăng vọt, hoặc một thành phần cơ sở hạ tầng trở nên không khả dụng.

Trợ lý ảo trí tuệ giới thiệu một vấn đề khác.

Một trợ lý ảo trí tuệ có thể thực hiện thành công mọi bước kỹ thuật trong một quy trình làm việc và vẫn không hiểu rõ ràng những gì người dùng muốn, gọi sai công cụ, sử dụng thông tin không chính xác, bị kẹt trong một vòng lặp không sản xuất, hoặc trả về một câu trả lời hợp lý nhưng không chính xác. Từ góc độ của cơ sở hạ tầng giám sát truyền thống, yêu cầu có thể trông hoàn toàn khỏe mạnh.

Lemma mô tả những trường hợp này là thất bại ngữ nghĩa. Ví dụ bao gồm một trợ lý ảo trí tuệ dịch vụ khách hàng trích dẫn chính sách hoàn trả sai, một trợ lý ảo trí tuệ kiểm toán tạo ra một báo cáo lỗi thời, hoặc một trợ lý ảo trí tuệ gọi một hệ thống bên ngoài bằng thông tin nó tạo ra. Đây là những điểm thất bại phổ biến của trợ lý ảo trí tuệ.

Sự khác biệt đó trở nên quan trọng hơn khi các trợ lý ảo trí tuệ vượt ra ngoài giao diện đối话 và bắt đầu thực hiện các quy trình làm việc dài hơn, nhiều bước, nơi các mô hình ngôn ngữ tương tác với cơ sở dữ liệu, giao diện lập trình ứng dụng (API), hệ thống thu hồi, và các công cụ phần mềm khác.

Một thất bại ở đâu đó trong chuỗi đó có thể không tạo ra một ngoại lệ. Trợ lý ảo trí tuệ có thể đơn giản tiếp tục.

Làm Thế Nào Lemma Giám Sát Trợ Lý Ảo Trí Tuệ Trong Sản Xuất

Lemma đang xây dựng một lớp quan sát cụ thể xung quanh các đường dẫn thực hiện của trợ lý ảo trí tuệ.

Hệ thống theo dõi của nó biến mỗi thực hiện của trợ lý ảo trí tuệ thành một dấu vết có cấu trúc chứa các cuộc gọi mô hình ngôn ngữ lớn cơ bản, các cuộc gọi công cụ, đầu vào, đầu ra, dữ liệu thời gian, các bước thu hồi, và lỗi được tạo ra trong suốt quy trình làm việc. Các đội ngũ kỹ sư có thể kiểm tra toàn bộ cây thực hiện thay vì chỉ nhìn vào phản hồi cuối cùng của trợ lý ảo trí tuệ.

Nhưng theo dõi chỉ là một phần của phương pháp.

Lemma phân tích dấu vết sản xuất so với các hướng dẫn của trợ lý ảo trí tuệ và nhóm các vấn đề lặp lại thành các vấn đề, giúp các đội ngũ xác định các mẫu thất bại có thể còn ẩn sau hàng nghìn tương tác cá nhân. Nền tảng cũng có thể ưu tiên các vấn đề và gửi cảnh báo qua Slack khi các vấn đề có thể quan trọng xuất hiện.

Mục tiêu là trả lời một câu hỏi khó hơn về việc liệu phần mềm đã chạy thành công: Trợ lý ảo trí tuệ có thực sự hoàn thành những gì nó được yêu cầu không?

Đây là một sự thay đổi đáng kể trong cách quan sát có thể cần hoạt động cho phần mềm tự động hóa.

Chuyển Thất Bại Sản Xuất Thành Cải Tiến Trợ Lý Ảo Trí Tuệ

Lemma cũng đang cố gắng rút ngắn khoảng cách giữa việc tìm ra một vấn đề và sửa chữa nó.

Khi nền tảng xác định một thất bại lặp lại, nó phân tích các dấu vết và ngữ cảnh xung quanh để xác định nguyên nhân gốc rễ có thể. Từ đó, nó có thể đề xuất thay đổi đối với các lời nhắc, logic ứng dụng, hoặc quy trình làm việc của trợ lý ảo trí tuệ thay vì yêu cầu các kỹ sư phải tự xây dựng lại mọi tương tác có vấn đề.

Công ty đang mở rộng quy trình làm việc này vào các môi trường phát triển thông qua một máy chủ giao thức ngữ cảnh mô hình (MCP). Các nhà phát triển có thể truy vấn dấu vết của Lemma từ các công cụ bao gồm Cursor, Claude Desktop, và Claude Code, cho phép quá trình gỡ lỗi xảy ra gần hơn với nơi trợ lý ảo trí tuệ đang được phát triển.

Sau khi một bản vá được triển khai, Lemma có thể chuyển thất bại sản xuất thành một đánh giá trực tuyến và theo dõi sự tái phát của nó. Điều này tạo ra một vòng phản hồi trong đó các thất bại thực tế trước đây trở thành các thử nghiệm trong tương lai thay vì chỉ là các sự kiện bị cô lập.

Cách tiếp cận này đẩy Lemma vượt ra ngoài khả năng quan sát truyền thống. Mục tiêu dài hạn là cơ sở hạ tầng giúp các trợ lý ảo trí tuệ học hỏi một cách có hệ thống từ các thất bại sản xuất thay vì chỉ dựa vào các kỹ sư để khám phá, tái tạo và vá từng trường hợp ngoại lệ.

Một Vấn Đề Các Nhà Sáng Lập Đã Gặp Phải Trực Tiếp

Zhang và Gawin gặp nhau khi còn là sinh viên năm nhất tại Đại học Nam California và sau đó làm việc trên các hệ thống trí tuệ nhân tạo tại các công ty khởi nghiệp bản địa trí tuệ nhân tạo riêng biệt. Trước khi thành lập Lemma, họ làm việc tại Tandem, nơi áp dụng trí tuệ nhân tạo trong lĩnh vực chăm sóc sức khỏe, và ChipStack, nơi phát triển các trợ lý ảo trí tuệ cho thiết kế chip.

Những kinh nghiệm đó đã giúp họ tiếp xúc với khó khăn khi đưa các trợ lý ảo trí tuệ từ môi trường phát triển được kiểm soát vào sản xuất.

“Cole và tôi bắt đầu Lemma vì chúng tôi đã trải qua nỗi đau của việc xây dựng các trợ lý ảo trí tuệ trực tiếp,” Zhang nói. “Chúng tôi liên tục gặp phải cùng một vấn đề: các trợ lý ảo trí tuệ dường như hoạt động, nhưng kết quả không đủ tin cậy trong sản xuất.”

Các nhà sáng lập cho rằng việc cải thiện các mô hình cơ sở cơ bản sẽ không loại bỏ vấn đề này. Hành vi thực tế của trợ lý ảo trí tuệ cũng phụ thuộc vào các lời nhắc, logic ứng dụng, công cụ, tích hợp, hệ thống thu hồi, hành vi người dùng, và các chuỗi ngày càng phức tạp kết nối chúng.

Luận điểm kỹ thuật của Lemma là các đánh giá ngoại tuyến gặp khó khăn trong việc tái tạo các điều kiện không thể đoán trước mà các trợ lý ảo trí tuệ gặp phải sau khi triển khai, khiến dữ liệu sản xuất trở thành một nguồn quan trọng để hiểu nơi các hệ thống thực sự bị hỏng hóc.

Thử Thách Rộng Lớn Hơn Của Việc Giám Sát Trợ Lý Ảo Trí Tuệ Trong Sản Xuất

Vòng tài trợ mới sẽ hỗ trợ việc phát triển thêm các công cụ giám sát và phát hiện thất bại của Lemma, với trọng tâm ban đầu là các công ty khởi nghiệp đã chạy các trợ lý ảo trí tuệ trong sản xuất.

Công ty đang hoạt động trong một lĩnh vực đang trở nên quan trọng hơn khi các hệ thống trí tuệ nhân tạo chuyển từ các bản demo bị cô lập sang các quy trình làm việc thực tế. Các công cụ quan sát truyền thống thường tốt trong việc phát hiện các vấn đề kỹ thuật như thời gian ngừng hoạt động, độ trễ, hoặc yêu cầu thất bại, nhưng các hệ thống tự động hóa giới thiệu một lớp phức tạp khác: một ứng dụng có thể vẫn hoạt động trong khi trợ lý ảo trí tuệ hiểu lầm một nhiệm vụ, chọn sai công cụ, hoặc tạo ra một kết quả không chính xác.

Sự khác biệt đó có khả năng trở nên quan trọng hơn khi các trợ lý ảo trí tuệ được sử dụng trên các lĩnh vực hỗ trợ khách hàng, phân tích tài chính, quản lý chăm sóc sức khỏe, phát triển phần mềm, và nghiên cứu. Trong những môi trường này, việc đo lường liệu một trợ lý ảo trí tuệ đã hoàn thành một quy trình làm việc có thể ít quan trọng hơn việc xác định liệu nó đã hoàn thành quy trình làm việc một cách chính xác.

Đối với Lemma, cơ hội do đó phụ thuộc vào việc liệu giám sát các thất bại ngữ nghĩa có trở thành một phần tiêu chuẩn của việc vận hành các trợ lý ảo trí tuệ trong sản xuất hay không. Vòng tài trợ trước hạt giống 2,3 triệu đô la cho công ty thêm vốn để kiểm tra luận điểm này khi các tổ chức triển khai các trợ lý ảo trí tuệ trên các quy trình làm việc phức tạp hơn.

Giám Sát Trợ Lý Ảo Trí Tuệ Tốt Hơn Có Thể Có Nghĩa Là Gì Cho Trí Tuệ Nhân Tạo

Khi các trợ lý ảo trí tuệ thực hiện công việc tự động hóa và phức tạp hơn, việc giám sát truyền thống có thể không còn đủ. Các hệ thống tương lai sẽ cần đánh giá không chỉ liệu một trợ lý ảo trí tuệ đã hoàn thành một nhiệm vụ, mà còn liệu nó đã hiểu rõ mục tiêu, sử dụng đúng công cụ, và tạo ra kết quả chính xác.

Các công cụ như Lemma cũng có thể tạo ra các vòng phản hồi chặt chẽ hơn giữa sản xuất và phát triển, chuyển các thất bại thực tế thành các cải tiến và thử nghiệm mới. Theo thời gian, điều này có thể làm cho khả năng quan sát của trợ lý ảo trí tuệ trở thành một phần tiêu chuẩn của ngăn xếp cơ sở hạ tầng trí tuệ nhân tạo, đặc biệt là trong các môi trường có rủi ro cao nơi tin cậy và trách nhiệm giải trình là quan trọng nhất.