groundcover huy động 100 triệu đô la Series C để mở rộng nền tảng quan sát kỷ nguyên AI

Cloud observability company groundcover đã huy động được $100 triệu đô la trong vòng tài trợ Series C khi họ tìm cách mở rộng một nền tảng được thiết kế để giúp các nhóm kỹ sư và các tác nhân AI hiểu rõ hơn về các môi trường sản xuất ngày càng phức tạp.

Vòng tài trợ này được dẫn đầu bởi One Peak, với sự tham gia của Morgan Stanley Expansion Capital (MS ) và các nhà đầu tư hiện tại Zeev Ventures, Angular Ventures, Heavybit và Jibe. Điều này mang lại tổng số vốn tài trợ cho groundcover lên đến $160 triệu.

Việc tài trợ này diễn ra sau một năm trong đó công ty cho biết họ đã tăng gấp ba doanh thu hàng năm, tăng gấp đôi lực lượng lao động toàn cầu và vượt qua 250 khách hàng trả tiền. Cơ sở khách hàng của họ hiện bao gồm từ các công ty khởi nghiệp giai đoạn đầu đến các doanh nghiệp Fortune 5, trong khi công ty cũng báo cáo đã ký kết nhiều hợp đồng bảy chữ số trong 12 tháng qua.

Khả năng quan sát gặp phải vấn đề dữ liệu do AI thúc đẩy

Các nền tảng quan sát thu thập và phân tích các tín hiệu như nhật ký, số liệu và dấu vết để giúp các nhóm kỹ sư hiểu rõ cách các ứng dụng và cơ sở hạ tầng hoạt động trong sản xuất.

Nhiệm vụ này đang trở nên khó khăn hơn khi các hệ thống gốc đám mây mở rộng và các công ty giới thiệu các mô hình ngôn ngữ lớn, các tác nhân tự động và các ngăn xếp ứng dụng ngày càng liên kết. Các ứng dụng AI có thể tạo ra telemetry trên các lời nhắc, phản hồi mô hình, cuộc gọi công cụ, cơ sở dữ liệu, API và cơ sở hạ tầng hỗ trợ mỗi tương tác.

Khả năng hiển thị cao hơn có thể giúp các kỹ sư xác định các ảo giác, sự suy giảm hiệu suất, các cuộc gọi công cụ thất bại và các rủi ro bảo mật. Tuy nhiên, việc thu thập bối cảnh này cũng có thể làm tăng đáng kể khối lượng và độ nhạy của dữ liệu chảy vào các hệ thống quan sát.

Các nền tảng truyền thống thường quản lý các chi phí này bằng cách lấy mẫu hoặc lọc telemetry. Điều này có thể làm cho dữ liệu cơ bản trở nên dễ quản lý hơn, nhưng nó cũng có thể loại bỏ thông tin chính xác cần thiết để tái tạo một sự cố. Giới hạn này trở nên đặc biệt quan trọng khi các tác nhân AI được kỳ vọng sẽ điều tra các vấn đề hoặc đề xuất các bước khắc phục mà không cần hướng dẫn liên tục của con người.

groundcover đang định vị kiến trúc của mình như một giải pháp thay thế cho mô hình này, kết hợp thu thập dữ liệu cấp hạt nhân với lưu trữ bên trong môi trường đám mây của khách hàng.

BYOC Architecture của groundcover hoạt động như thế nào

Ở trung tâm của nền tảng là kiến trúc mang lại của riêng bạn (BYOC). Thay vì chuyển tất cả dữ liệu quan sát vào môi trường dịch vụ phần mềm do nhà cung cấp vận hành, groundcover triển khai mặt phẳng dữ liệu của mình trong một tài khoản bị cô lập trong đám mây của khách hàng.

Các nhật ký, số liệu cơ sở hạ tầng, số liệu tùy chỉnh, dấu vết và sự kiện Kubernetes có thể ở lại trong cơ sở hạ tầng của khách hàng. Một mặt phẳng điều khiển riêng biệt quản lý nền tảng nhưng bị cô lập với các khối lượng công việc sản xuất và telemetry ở cấp mạng, theo tài liệu kiến trúc của groundcover.

Thiết kế này nhằm mục đích cung cấp cho khách hàng trải nghiệm phần mềm được quản lý trong khi vẫn giữ quyền kiểm soát tốt hơn đối với việc cư trú dữ liệu, quyền riêng tư và bảo mật. Điều này có thể đặc biệt liên quan đến các khối lượng công việc AI, nơi các bản ghi quan sát có thể bao gồm các lời nhắc, đầu ra mô hình, các cuộc gọi công cụ, thông tin người dùng hoặc các yếu tố của quá trình suy luận của tác nhân.

Công ty cũng hỗ trợ triển khai trên cơ sở và không khí cho các tổ chức có yêu cầu cách ly nghiêm ngặt hơn.

Kết hợp eBPF và OpenTelemetry

groundcover thu thập hầu hết telemetry của mình thông qua Bộ lọc gói Berkeley mở rộng, thường được gọi là eBPF. Công nghệ này cho phép các chương trình quan sát hoạt động trong hạt nhân Linux, cung cấp cho các hệ thống giám sát khả năng hiển thị vào giao tiếp mạng, các quy trình ứng dụng và sử dụng tài nguyên mà không cần các nhà phát triển phải tự động hóa từng dịch vụ.

Công ty cho biết cảm biến eBPF thích ứng của họ có thể được triển khai mà không cần thay đổi mã và được sử dụng để thu thập telemetry ứng dụng và cơ sở hạ tầng trên các môi trường Kubernetes.

Điều đó không có nghĩa là groundcover đang thay thế các tiêu chuẩn thiết bị hiện có. Nền tảng cũng tích hợp với OpenTelemetry, một khuôn khổ mã nguồn mở cung cấp các API, bộ công cụ phát triển phần mềm và công cụ để tạo, xử lý và xuất telemetry.

Sự kết hợp này cung cấp cho các tổ chức hai nguồn thông tin bổ sung. eBPF có thể tự động thu thập hoạt động ở các lớp cơ sở hạ tầng và mạng, trong khi OpenTelemetry có thể cung cấp bối cảnh ứng dụng cụ thể được thêm vào bởi các nhà phát triển.

groundcover hợp nhất dấu vết, số liệu, nhật ký và sự kiện Kubernetes vào một giao diện thống nhất. Danh mục sản phẩm của công ty cũng bao gồm Giám sát hiệu suất ứng dụng, giám sát cơ sở hạ tầng, quản lý nhật ký, giám sát người dùng thực và khả năng quan sát cho các ứng dụng mô hình ngôn ngữ lớn.

Mở rộng khả năng quan sát cho các tác nhân AI

Các tham vọng của công ty mở rộng ra ngoài việc cung cấp các bảng điều khiển cho các vận hành viên. Chế độ tác nhân của nó được thiết kế để giúp các kỹ sư điều tra các sự cố, thực hiện phân tích nguyên nhân gốc rễ và xác định các bước khắc phục có thể bằng cách sử dụng telemetry có sẵn trong nền tảng.

Thay vì đặt một trình trò chuyện chung trên một tập hợp các nhật ký, groundcover cho biết họ đã xây dựng lại các API nội bộ của mình xung quanh một ngôn ngữ truy vấn thống nhất gọi là GCQL. Các hành động được thực hiện bởi tác nhân có thể được kiểm tra và kết quả có thể được chuyển đổi thành các tài sản groundcover bản địa để các kỹ sư sử dụng độc lập.

Công ty cũng đã giới thiệu hỗ trợ giao thức ngữ cảnh mô hình, cho phép các nhà phát triển đưa telemetry sản xuất vào các tác nhân AI và môi trường phát triển tương thích. Các công cụ quan sát AI của họ được thiết kế để thu thập bối cảnh thực hiện rộng hơn của các yêu cầu mô hình, bao gồm lời nhắc, phản hồi, sử dụng công cụ và lịch sử phiên.

Điều này có thể giúp các nhóm xác định liệu một vấn đề có nguồn gốc từ mô hình bản thân, một API bên ngoài, một hệ thống thu hồi, một nút thắt cổ chai cơ sở hạ tầng hoặc trình tự hành động được thực hiện bởi một tác nhân. groundcover cho biết cách tiếp cận dựa trên eBPF của họ cũng có thể kiểm tra nội dung yêu cầu và phản hồi API, giúp các nhóm phát hiện các bất thường hoặc thông tin nhạy cảm được truyền đến các nhà cung cấp mô hình bên ngoài.

“Chúng tôi là nền tảng duy nhất khai thác tiềm năng của eBPF với sức mạnh vô tận của BYOC cho khả năng quan sát,” Shahar Azulay, Giám đốc điều hành và đồng sáng lập của groundcover cho biết. “Trên kiến trúc độc đáo đó, groundcover đã xây dựng Chế độ tác nhân, trải nghiệm tác nhân của chúng tôi giúp các kỹ sư đưa ra bề mặt, xử lý và khắc phục các vấn đề trong sản xuất.”

Azulay cho biết số vốn mới sẽ hỗ trợ nỗ lực của công ty trong việc thay đổi cách các kỹ sư và tác nhân hợp tác trong các hoạt động sản xuất.

Đây là một phần thay thế trung lập hơn:

Các ý nghĩa trong tương lai

Sự phát triển của các tác nhân AI có thể thay đổi những gì các tổ chức mong đợi từ các nền tảng quan sát. Các công cụ giám sát truyền thống đã giúp các kỹ sư điều tra các sự cố sau khi mọi thứ đi sai, nhưng các hệ thống tự động có thể yêu cầu quyền truy cập liên tục vào dữ liệu sản xuất chi tiết để chúng có thể xác định các vấn đề, theo dõi các依赖 và đề xuất các hành động khắc phục trong thời gian thực.

Điều này tạo ra sự căng thẳng giữa khả năng hiển thị, chi phí và kiểm soát. Các ứng dụng AI có thể tạo ra lượng lớn nhật ký, dấu vết và số liệu, trong khi telemetry của chúng cũng có thể chứa các lời nhắc nhạy cảm, đầu ra mô hình và thông tin khách hàng. Các kiến trúc giữ dữ liệu trong môi trường đám mây của riêng công ty có thể trở nên hấp dẫn hơn, đặc biệt là trong các ngành được quản lý hoặc các tổ chức có yêu cầu về cư trú dữ liệu nghiêm ngặt.

Câu hỏi rộng lớn hơn là liệu các tác nhân AI có thể được tin cậy để hành động trên dữ liệu quan sát thay vì chỉ tóm tắt nó. Telemetry không đầy đủ, sự tương quan sai lầm hoặc các quyền được xác định kém có thể dẫn đến một hệ thống tự động chẩn đoán sai một sự cố hoặc thực hiện một thay đổi không cần thiết. Sự giám sát của con người, các bản ghi kiểm toán và các giới hạn rõ ràng về các hành động tự động sẽ vẫn quan trọng khi các khả năng này trưởng thành.

groundcover’s tài trợ phản ánh sự quan tâm ngày càng tăng đến cơ sở hạ tầng cần thiết để vận hành các hệ thống AI ở quy mô lớn. Ý nghĩa lâu dài sẽ phụ thuộc ít hơn vào việc liệu các nền tảng quan sát có thể thêm các giao diện trò chuyện và nhiều hơn vào việc liệu chúng có thể cung cấp dữ liệu đầy đủ, bảo mật và đáng tin cậy cho con người và các tác nhân tự động để đưa ra quyết định sáng suốt trong các môi trường sản xuất.