Zenity huy động 125 triệu đô la khi các doanh nghiệp đối mặt với rủi ro bảo mật từ các tác nhân AI tự động

Zenity đã huy động được $125 triệu đô la trong vòng tài trợ Series C khi các doanh nghiệp chuyển các tác nhân trí tuệ nhân tạo từ các thí nghiệm được kiểm soát sang các hệ thống có khả năng truy cập dữ liệu, gọi các công cụ phần mềm và hoàn thành các nhiệm vụ vận hành.

Norwest đã dẫn đầu vòng này, với Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures và LG Technology Ventures tham gia như các nhà đầu tư mới. Các nhà đầu tư hiện tại Vertex Ventures, Third Point Ventures, DTCP và Intel Capital cũng đã tham gia. Công ty không tiết lộ giá trị của mình.

Vòng tài trợ này diễn ra sau vòng tài trợ Series B trị giá 38 triệu đô la của Zenity vào tháng 10 năm 2024 và đưa tổng số tiền tài trợ công khai của công ty lên ít nhất 180 triệu đô la.

Từ các thí nghiệm AI đến các hệ thống tự động

Quy mô của vòng này phản ánh một sự thay đổi rộng lớn hơn trong cách các doanh nghiệp áp dụng AI. Làn sóng đầu tiên của AI tạo ra chủ yếu liên quan đến nhân viên tương tác với các rô-bốt trò chuyện để tạo văn bản, tóm tắt tài liệu hoặc lấy thông tin.

Các tác nhân AI giới thiệu một mức độ rủi ro khác vì chúng có thể thực hiện hành động. Tùy thuộc vào các quyền của chúng, các tác nhân có thể truy cập cơ sở dữ liệu nội bộ, gọi các giao diện lập trình ứng dụng, cập nhật hồ sơ, thực hiện mã, gửi tin nhắn hoặc khởi động các quy trình làm việc trên nhiều hệ thống doanh nghiệp.

Điều này chuyển vấn đề bảo mật vượt ra ngoài việc liệu một mô hình tạo ra một phản hồi không phù hợp. Các tổ chức cũng phải hiểu rõ các tác nhân nào đã được triển khai, ai kiểm soát chúng, thông tin nào chúng có thể truy cập và hành động nào chúng được ủy quyền thực hiện.

Một tác nhân có thể hoạt động chính xác như được thiết kế mà vẫn tạo ra một sự cố bảo mật nếu nó có các quyền quá mức, gặp phải thông tin bị thao túng hoặc giải thích các lệnh của kẻ tấn công như một phần của nhiệm vụ hợp pháp.

Zenity mô tả đây là một vấn đề “tầng tác nhân”. Nền tảng của công ty được thiết kế để kiểm tra cấu hình, quyền, công cụ kết nối, bộ nhớ và hành động thời gian chạy của một tác nhân thay vì chỉ xem xét các lệnh nhập vào mô hình hoặc phản hồi mà nó tạo ra.

Cách Zenity bảo mật các tác nhân AI

Zenity chia nền tảng của mình thành ba khu vực chính: khả năng quan sát, quản lý tư thế bảo mật và phát hiện và phản ứng.

Thành phần khả năng quan sát khám phá và lập danh mục các tác nhân hoạt động trên toàn tổ chức. Điều này bao gồm các tác nhân nhúng trong các nền tảng dịch vụ phần mềm, các tác nhân được phát triển nội bộ chạy trong môi trường đám mây và các công cụ cục bộ được cài đặt trên thiết bị của nhân viên.

Mục tiêu là cung cấp cho các đội bảo mật một hình ảnh liên tục được cập nhật về chủ sở hữu, cấu hình, quyền, tích hợp và hành vi thời gian chạy của từng tác nhân. Điều này đang trở nên ngày càng quan trọng khi các bộ phận và nhân viên riêng lẻ có được khả năng tạo tác nhân mà không cần phải trải qua quá trình phát triển hoặc xem xét bảo mật thông thường.

Lớp quản trị của Zenity đánh giá cấu hình và quyền trước khi một tác nhân được đưa vào sản xuất. Các chính sách có thể được sử dụng để xác định quyền truy cập quá mức, tích hợp không an toàn hoặc các công cụ có thể cho phép một tác nhân hoạt động ngoài vai trò dự kiến của nó. Nền tảng có thể tiếp tục kiểm tra các kiểm soát đó khi các tác nhân được sửa đổi theo thời gian.

Trong thời gian chạy, Zenity phân tích đường thực hiện của một tác nhân, bao gồm các cuộc gọi công cụ, truy cập bộ nhớ, sử dụng dữ liệu và tương tác với các hệ thống khác. Công ty cho biết họ có thể sử dụng ngữ cảnh này để cho phép, sửa đổi hoặc chặn một hành động trước khi nó xảy ra.

Cách tiếp cận này nhằm phân biệt giữa một yêu cầu bình thường và một yêu cầu rõ ràng bình thường đã bị ảnh hưởng bởi nội dung độc hại. Nó cũng giải quyết một hạn chế quan trọng của việc lọc lệnh: một kết quả nguy hiểm có thể xuất hiện từ một chuỗi các hành động riêng lẻ vô hại.

Covering SaaS, Cloud và Thiết bị của Nhân viên

Zenity đang cố gắng cung cấp một lớp bảo mật chung trên một hệ sinh thái tác nhân phân mảnh.

Đối với môi trường dịch vụ phần mềm, nó hỗ trợ các tác nhân liên quan đến các nền tảng như Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise và Salesforce (CRM ) Agentforce. Các hệ thống này có thể cung cấp cho các tác nhân quyền truy cập vào tài liệu kinh doanh, hồ sơ khách hàng, liên lạc và quy trình làm việc mà doanh nghiệp không hoàn toàn lưu trữ hoặc kiểm soát.

Nền tảng cũng bao gồm các tác nhân tùy chỉnh được xây dựng bằng các dịch vụ như AWS Bedrock, Azure AI Foundry và Google Vertex AI. Zenity theo dõi các công cụ và dịch vụ đám mây mà các tác nhân này gọi trong khi áp dụng các chính sách trong quá trình phát triển và thực hiện.

Một lĩnh vực thứ ba liên quan đến các tác nhân dựa trên thiết bị như các trợ lý mã hóa, ứng dụng máy tính để bàn và trình duyệt agentic. Các công cụ này có thể hoạt động trong môi trường được xác thực của nhân viên, có khả năng kế thừa quyền truy cập vào tệp, phiên trình duyệt và dịch vụ kết nối.

Việc đưa các môi trường này vào một hệ thống có thể đơn giản hóa quản trị, nhưng nó cũng tạo ra một thách thức kỹ thuật đáng kể. Kiến trúc, quyền và telemetry có sẵn từ một đồng nghiệp dịch vụ phần mềm có thể khác đáng kể so với các tác nhân tùy chỉnh đám mây hoặc công cụ cục bộ được cài đặt.

Nghiên cứu Bảo mật Highlight the Emerging Threat Model

Zenity đã hỗ trợ sự phát triển sản phẩm của mình với nghiên cứu được thực hiện thông qua Zenity Labs, điều tra cách các hệ thống tự động có thể bị thao túng thông qua nội dung không đáng tin cậy.

Nghiên cứu AgentFlayer của họ đã kiểm tra các chuỗi tấn công zero-click và one-click liên quan đến các nền tảng AI doanh nghiệp được sử dụng rộng rãi. Các bản demo bao gồm các kịch bản trong đó các lệnh độc hại được gửi qua email, tài liệu, trường hợp hỗ trợ hoặc công cụ cộng tác gây ra các tác nhân để lộ thông tin, lạm dụng các công cụ kết nối hoặc thay đổi phản hồi của chúng.

Nghiên cứu gần đây hơn đã kiểm tra trình duyệt agentic Comet của Perplexity. Các nhà nghiên cứu của Zenity đã chứng minh cách các lệnh ẩn trong một lời mời lịch có thể ảnh hưởng đến trình duyệt trong khi nó đang thực hiện một nhiệm vụ thường xuyên. Trong một kịch bản, tác nhân bị xâm phạm đã điều hướng một kho tiền 1Password web không khóa và truyền các thông tin xác thực qua các yêu cầu web thông thường.

Nghiên cứu này cho rằng vấn đề này là do sự tách biệt không đủ giữa ý định của người dùng và nội dung của bên thứ ba mà tác nhân gặp phải. Vì tác nhân đã hoạt động trong một phiên trình duyệt được xác thực, nó có thể sử dụng quyền truy cập mà người dùng đã cấp một cách hợp pháp.

Các bản demo này minh họa tại sao bảo mật tác nhân không thể dựa hoàn toàn vào việc phát hiện các lệnh rõ ràng độc hại. Các lệnh có thể được chôn trong dữ liệu mà một tác nhân được dự kiến sẽ đọc, trong khi các hành động kết quả có thể giống như hoạt động duyệt web, lấy tài liệu hoặc hoạt động ứng dụng bình thường.

Chúng cũng nhấn mạnh tầm quan trọng của các ranh giới vẫn có thể thực thi được ngay cả khi lý lẽ của một tác nhân đã bị thao túng.

Tài trợ Mở rộng Toàn cầu và Phát triển Sản phẩm

Zenity cho biết doanh thu của công ty đã tăng gấp ba lần trong hai năm qua và đang trên đà tăng gấp ba lần nữa trong năm nay. Công ty cho biết nhiều khách hàng của mình là các tổ chức Fortune 500 và Global 2000 hoạt động trong các ngành được quản lý như dịch vụ tài chính, chăm sóc sức khỏe, dược phẩm, sản xuất và năng lượng.

Nó hiện có hơn 230 nhân viên, với nghiên cứu và phát triển tập trung tại Tel Aviv và các chức năng tiếp thị và vận hành được lãnh đạo từ New York.

Vòng tài trợ Series C sẽ được sử dụng để tăng tốc phát triển sản phẩm, mở rộng Zenity Labs và tăng cường sự hiện diện của công ty ở châu Âu và khu vực châu Á – Thái Bình Dương. Nó cũng sẽ cung cấp cho Zenity thêm nguồn lực để hỗ trợ ngày càng nhiều khuôn khổ tác nhân khi cơ sở hạ tầng AI doanh nghiệp trở nên đa dạng hơn.

Sự mở rộng này diễn ra chưa đầy hai năm sau vòng tài trợ thể chế trước đó của công ty, khi Zenity vẫn nhấn mạnh nguồn gốc của mình trong bảo mật ứng dụng mã thấp và không mã. Vị trí hiện tại của công ty phản ánh cách những lo ngại trước đó đã phát triển: nhân viên từng có thể xây dựng các ứng dụng kinh doanh đơn giản hiện có thể tạo ra các tác nhân có thể đưa ra quyết định và vận hành các hệ thống kết nối.

Bảo mật Tác nhân AI Đang Trở thành Một Thể loại Riêng

Vòng tài trợ của Zenity cho thấy sự tự tin của nhà đầu tư rằng bảo mật tác nhân AI có thể phát triển thành một thể loại bảo mật mạng đáng kể thay vì chỉ là một tính năng trong các sản phẩm đám mây, danh tính hoặc điểm cuối hiện có.

Luận điểm cho một thể loại chuyên dụng là các công cụ thông thường chỉ nhìn thấy một phần hoạt động của một tác nhân. Các nền tảng bảo mật đám mây có thể kiểm tra cơ sở hạ tầng, các hệ thống danh tính có thể quản lý quyền và các sản phẩm điểm cuối có thể phát hiện các mối đe dọa ở cấp độ hệ điều hành. Chúng không nhất thiết phải hiểu vai trò dự kiến của một tác nhân hoặc cách một chuỗi các cuộc gọi công cụ liên quan đến mục tiêu ban đầu của người dùng.

Zenity vẫn cần phải chứng minh rằng các kiểm soát dựa trên ý định của công ty có thể hoạt động trên các khuôn khổ thay đổi nhanh chóng mà không tạo ra các cảnh báo quá mức, chặn công việc hợp pháp hoặc thêm độ trễ không thể chấp nhận được. Nó cũng phải chứng minh rằng các doanh nghiệp sẽ mua một nền tảng bảo mật tác nhân riêng biệt thay vì dựa vào các kiểm soát được thêm bởi các nhà cung cấp đám mây và phần mềm lớn.

Cơ hội thị trường ngay lập tức tuy nhiên đang trở nên rõ ràng hơn. Khi các tác nhân có được quyền truy cập vào dữ liệu nhạy cảm và bắt đầu kiểm soát các quy trình kinh doanh quan trọng, các tổ chức sẽ cần nhiều hơn một bản ghi về những gì đã xảy ra sau một sự cố. Họ sẽ cần các cơ chế có khả năng xác định các tác nhân nào tồn tại, hạn chế những gì chúng có thể làm và can thiệp trước khi một hành động không mong muốn trở thành một sự cố.

Zenity’s $125 triệu vòng tài trợ Series C mang lại cho công ty nguồn lực đáng kể để theo đuổi vai trò đó khi các đội bảo mật chuẩn bị cho một môi trường doanh nghiệp ngày càng được các phần mềm tự động hóa.