Anaconda Kết Hợp Đàn Tác Nhân AI Với Kiểm Thử Bảo Mật Tự Động

Cung cấp cho một tác nhân AI nhiều công cụ hơn có thể làm cho nó hữu ích hơn. Việc cung cấp đồng thời các công cụ đó cho nhiều tác nhân tạo ra một câu hỏi khó hơn: doanh nghiệp làm thế nào để theo dõi những gì mỗi tác nhân đang làm, và ngăn chặn hành động xấu trước khi nó tới hệ thống thực tế?

Mở rộng nền tảng ngày 6 tháng 10 của Anaconda giải quyết vấn đề đó bằng cách kết hợp phát triển AI có phối hợp với kiểm thử bảo mật tự động. Nó tập hợp công nghệ từ Kilo Code, Enkrypt AI và Outerbounds trên các không gian làm việc phát triển, các kiểm soát bảo mật và điều phối sản xuất.

Ý tưởng chiến lược là kết nối các nơi mà các tác nhân xây dựng phần mềm, nơi hành vi của chúng bị thách thức, và nơi các quy trình làm việc kết quả được chạy. Anaconda gọi đây là AI Dev Factory. Đối với doanh nghiệp, câu hỏi thực tiễn là liệu những kết nối này có làm cho việc mở rộng tính tự chủ của các tác nhân dễ dàng kiểm tra và quản lý hơn hay không.

Cách Các Tác Nhân Của Kilo Phối Hợp Công Việc

Một đàn tác nhân phân phối các nhiệm vụ liên quan trên nhiều tác nhân AI. Một người có thể nghiên cứu thiết kế xác thực trong khi người khác viết các bài kiểm thử hoặc triển khai một thành phần riêng biệt. Lợi thế tiềm năng là tiến độ song song, với điều kiện các tác nhân có thể chia sẻ khám phá và tránh làm việc ngược nhau.

Mô tả kỹ thuật Swarm của Kilo giải thích cơ chế phối hợp: một phiên chính và các tác nhân con của nó chia sẻ một bảng tin nhắn. Các tác nhân có thể đăng các phát hiện và đọc bảng tin nhắn trong khi công việc tiếp tục, thay vì chờ mọi công việc phụ hoàn thành trước khi trao đổi kết quả.

Sự phân biệt đó rất quan trọng. Một tác nhân kiểm thử có thể tìm hiểu về quyết định xác thực trước khi viết một bộ kiểm thử giả định điều gì đó khác. Kilo cho biết các đánh giá nội bộ ban đầu cho thấy giảm công việc trùng lặp có thể giảm chi tiêu token, nhưng họ chưa công bố kết quả số cho tuyên bố này.

Tài liệu tương tự cũng xác định một ranh giới đáng lưu ý: các tin nhắn trên bảng không đánh thức, tiếp tục hoặc chấp thuận các tác nhân, và các tin nhắn giữ hoặc phủ quyết tư vấn không tự động dừng chúng. Mọi người tham gia đều có thể đọc toàn bộ lịch sử bảng. Do đó, việc phối hợp cần được phân biệt với các quyền thực thi và kiểm soát thực thi.

Anaconda’s trang ra mắt đặt các quy trình làm việc này trong VS Code và mô tả công việc song song trên các worktree. Nó cũng giới thiệu Kilo Desktop ở giai đoạn beta, kết hợp kỹ thuật, khoa học dữ liệu và quản lý môi trường Python với quyền truy cập vào hơn 500 mô hình và suy luận cục bộ.

Kiểm Thử Bảo Mật Thay Đổi Chiến Thuật

Enkrypt AI cung cấp phần kiểm thử đối kháng của nền tảng. Anaconda cho biết các tính năng bảo mật mở rộng kiểm tra các mô hình, tác nhân và tích hợp MCP trên hơn 300 danh mục tấn công, cùng với bảo vệ thời gian chạy.

In its giải thích kỹ thuật về red teaming tự động, Anaconda mô tả việc bắt đầu với các mẫu tấn công đã biết và sau đó sử dụng các tác nhân để điều chỉnh cách tiếp cận dựa trên phản hồi của mục tiêu. Một tác nhân hình thành giả thuyết về một điểm yếu, kiểm tra nó, xem xét kết quả và quyết định bước tiếp theo.

Ví dụ, một sự từ chối có thể kích hoạt việc thay đổi chiến lược thay vì diễn giải lại cùng một yêu cầu. Hệ thống sử dụng bộ nhớ phiên để tránh lặp lại các cách tiếp cận thất bại và khám phá song song để đồng thời điều tra các rủi ro khác nhau. Anaconda cho biết việc kiểm thử này chạy trong môi trường của khách hàng và được điều chỉnh theo mô hình mối đe dọa của triển khai.

Cách tiếp cận này liên quan đến các tác nhân tiêu thụ thông tin từ công cụ và nguồn bên ngoài. Rủi ro không chỉ giới hạn ở câu trả lời không an toàn: một hướng dẫn ẩn trong tài liệu được truy xuất có thể hướng dẫn một lời gọi công cụ sau này. Việc kiểm thử cần xem xét chuỗi hành vi, bao gồm thông tin mà tác nhân tin tưởng và các hành động tiếp theo.

Rào Cản Thời Gian Chạy Giải Quyết Vấn Đề Khác

Việc tìm ra một điểm yếu trong quá trình kiểm thử và ngăn chặn hành động không an toàn trong quá trình vận hành là những nhiệm vụ riêng biệt. sản phẩm Guardrails của Enkrypt AI được thiết kế để phê duyệt, sửa đổi hoặc chặn hành vi rủi ro trên các tác nhân, công cụ, tạo nội dung tăng cường truy xuất và các kết nối Model Context Protocol.

Công ty xác định các rủi ro như tiêm lệnh, hành động công cụ không an toàn, vi phạm ranh giới quyền hạn và rò rỉ dữ liệu nhạy cảm trong danh sách các mối nguy mà họ nhắm tới. Nhấn mạnh vào các quyết định có thể kiểm toán khiến lớp kiểm soát này có liên quan đến việc điều tra sự cố cũng như phòng ngừa.

Bản ra mắt của Anaconda cũng bao gồm các điểm rủi ro mô hình trong Kilo và một Đăng ký Sự cố Tác nhân chứa các báo cáo sự cố công khai có nguồn gốc. Những thông tin này có thể cung cấp dữ liệu cho việc lựa chọn mô hình và ưu tiên kiểm thử. Chúng nên được xem như là đầu vào cho quy trình bảo mật, chứ không phải bằng chứng cho thấy một triển khai cụ thể là an toàn.

Các con số quy mô cũng cần được xem xét cẩn thận tương tự. Anaconda báo cáo rằng 63% người trả lời khảo sát các nhà xây dựng AI-native đang tiến tới việc sử dụng đàn ở một dạng nào đó. Thông báo của họ cũng trích dẫn nghiên cứu của Enkrypt cho thấy có lỗ hổng ở 73% trong số 25.264 máy chủ MCP được quét trong vòng bốn tháng. Đây là các phát hiện do nhà cung cấp báo cáo về những người trả lời và hệ thống được khảo sát, không phải là một phép đo cho mọi triển khai tác nhân doanh nghiệp.

Tại Sao Môi Trường Sản Xuất Thuộc Vào Câu Chuyện

Nền tảng nền tảng AI Orchestration, trước đây là Outerbounds của Anaconda, giải quyết những gì xảy ra sau khi phát triển. Trang web của nó mô tả các lần chạy quy trình có thể tái tạo, theo dõi artefact và nguồn gốc, với khả năng tính toán có sẵn trên nhiều đám mây và quản trị được áp dụng cho các gói và mô hình.

Điều đó cung cấp một cách để kết nối đầu ra với môi trường và các phụ thuộc đã tạo ra nó. Khi một quy trình làm việc thay đổi, các nhóm cần biết mô hình, gói hoặc chính sách nào đã thay đổi cùng với nó. Tính tái tạo làm cho việc điều tra và so sánh trở nên thực tế hơn.

Bản ra tháng Mười thêm quyền truy cập gốc vào các artefact được quản trị trong các quy trình điều phối. Trang phát hành rộng hơn của nó cũng mô tả Fast Bakery, công cụ xây dựng hình ảnh container từ các phụ thuộc conda và PyPI, bao gồm các thư viện gốc, và một danh mục mở rộng với hơn 19.000 gói được tuyển chọn và 77 mô hình mã nguồn mở đã được kiểm định.

Sự mở rộng này mang lại cho Anaconda một vai trò rộng hơn so với việc chỉ cung cấp các thành phần Python. Đề xuất của họ hiện bao phủ phát triển hỗ trợ bởi agent, đánh giá đối kháng, kiểm soát thời gian chạy và triển khai có thể lặp lại. Bài kiểm tra có ý nghĩa sẽ là liệu những yếu tố này có cung cấp cho các nhóm một bản ghi đáng tin cậy về những gì các agent đã xây dựng, những gì đã được kiểm tra và những gì họ được phép thực hiện khi phần mềm bắt đầu vận hành.