Anaconda, AI 에이전트 스웜을 자율 보안 테스트와 결합

AI 에이전트에 더 많은 도구를 제공하면 유용성이 높아질 수 있습니다. 여러 에이전트에게 동시에 이러한 도구를 제공하면 더 어려운 질문이 생깁니다: 기업이 각 에이전트가 무엇을 하고 있는지 추적하고, 나쁜 행동이 실제 시스템에 도달하기 전에 어떻게 차단할 수 있을까요?

Anaconda의 10월 6일 플랫폼 확장은 조정된 AI 개발과 자율 보안 테스트를 결합함으로써 그 문제를 해결합니다. Kilo Code, Enkrypt AI 및 Outerbounds의 기술을 개발 작업 공간, 보안 제어 및 프로덕션 오케스트레이션 전반에 걸쳐 통합합니다.

전략적 아이디어는 에이전트가 소프트웨어를 구축하는 장소, 그 행동이 검증되는 장소, 그리고 결과 워크플로가 실행되는 장소를 연결하는 것입니다. Anaconda는 이를 AI Dev Factory라고 부릅니다. 기업에게 실질적인 질문은 이러한 연결이 에이전트 자율성을 확대하는 것을 보다 쉽게 검사하고 관리할 수 있게 하는가 입니다.

Kilo의 에이전트가 작업을 조정하는 방법

에이전트 스웜은 관련 작업을 여러 AI 에이전트에 분산합니다. 한 에이전트가 인증 설계를 조사하는 동안 다른 에이전트는 테스트를 작성하거나 별도의 구성 요소를 구현할 수 있습니다. 잠재적인 장점은 에이전트가 발견을 공유하고 상충되는 작업을 피할 경우 병렬 진행이 가능하다는 점입니다.

Kilo의 Swarm에 대한 기술 설명은 조정 메커니즘을 설명합니다: 메인 세션과 그 하위 에이전트가 메시지 보드를 공유합니다. 에이전트는 작업이 진행되는 동안 발견을 게시하고 보드를 읽을 수 있으며, 모든 하위 작업이 완료될 때까지 결과 교환을 기다릴 필요가 없습니다.

그 구분은 중요합니다. 테스트 에이전트는 다른 가정을 전제로 하는 스위트를 작성하기 전에 인증 결정에 대해 배울 수 있습니다. Kilo는 초기 내부 평가에서 중복 작업이 줄어들면 토큰 사용량을 감소시킬 수 있다고 제시했지만, 해당 주장에 대한 수치 결과는 공개하지 않았습니다.

같은 문서에서는 이해할 가치가 있는 경계도 정의합니다: 보드 메시지는 에이전트를 깨우거나 재개하거나 승인하지 않으며, 자문 보류 또는 거부 메시지는 에이전트를 자동으로 중지시키지 않습니다. 모든 참여자는 전체 보드 기록을 열람할 수 있습니다. 따라서 조정은 실행 가능한 권한 및 실행 제어와 구별되어야 합니다.

Anaconda의 런치 페이지는 이러한 워크플로를 VS Code에 배치하고 워크트리 전반에 걸친 병렬 작업을 설명합니다. 또한 베타 버전인 Kilo Desktop을 소개하며, 엔지니어링, 데이터 과학 및 Python 환경 관리를 500개 이상의 모델과 로컬 추론 접근과 결합합니다.

전술을 바꾸는 보안 테스트

Enkrypt AI는 플랫폼의 적대적 테스트 부분을 제공합니다. Anaconda에 따르면 확장된 보안 제공은 300개 이상의 공격 카테고리에 걸쳐 모델, 에이전트 및 MCP 통합을 테스트하며, 런타임 보호도 포함합니다.

자율 레드 팀링에 대한 기술 설명에서 Anaconda는 알려진 공격 패턴으로 시작한 뒤 에이전트를 사용해 목표의 응답에 맞게 접근 방식을 조정한다고 설명합니다. 에이전트는 취약점에 대한 가설을 세우고, 이를 테스트한 뒤 결과를 검토하고 다음 시도를 결정합니다.

예를 들어, 거부는 동일한 요청을 또다시 바꾸어 말하는 대신 전략 변경을 촉구할 수 있습니다. 시스템은 세션 메모리를 사용해 실패한 접근을 반복하지 않으며, 병렬 탐색을 통해 다양한 위험을 동시에 조사합니다. Anaconda에 따르면 이 테스트는 고객 환경 내에서 실행되며 배포의 위협 모델에 맞게 조정됩니다.

이 접근 방식은 도구와 외부 소스에서 정보를 소비하는 에이전트와 관련이 있습니다. 위험은 안전하지 않은 답변에만 국한되지 않습니다: 검색된 자료에 숨겨진 지시가 이후 도구 호출을 유도할 수 있습니다. 테스트는 에이전트가 신뢰하는 정보와 그에 따른 행동을 포함한 행동 체인을 조사해야 합니다.

런타임 가드레일은 다른 문제를 해결합니다

테스트 중 취약점을 찾는 것과 운영 중 안전하지 않은 행동을 방지하는 것은 별개의 작업입니다. Enkrypt AI의 Guardrails 제품은 에이전트, 도구, 검색 기반 생성 및 Model Context Protocol 연결 전반에 걸쳐 위험한 행동을 승인, 수정 또는 차단하도록 설계되었습니다.

회사는 목표로 하는 위험 중에 프롬프트 인젝션, 안전하지 않은 도구 행동, 권한 경계 위반 및 민감 데이터 유출을 식별합니다. 감사 가능한 결정에 중점을 두어 제어 레이어가 사고 조사뿐만 아니라 예방에도 관련이 있습니다.

Anaconda의 출시에는 Kilo 내 모델 위험 점수와 소스 기반 공개 사고 보고서를 포함한 에이전트 사고 레지스트리도 포함됩니다. 이는 모델 선택 및 테스트 우선순위에 대한 정보를 제공할 수 있습니다. 이는 특정 배포가 안전하다는 증명이라기보다 보안 프로세스에 대한 입력으로 다루어져야 합니다.

규모 수치에도 동일한 주의가 필요합니다. Anaconda는 AI 기반 구축자를 대상으로 한 설문 조사에서 63%의 응답자가 어떤 형태로든 스웜으로 이동하고 있다고 보고했습니다. 또한 발표에서는 4개월에 걸쳐 스캔한 25,264개의 MCP 서버 중 73%에서 취약점이 발견되었다는 Enkrypt 연구 결과를 인용했습니다. 이는 응답자와 조사된 시스템에 대한 공급업체 보고이며, 모든 기업 에이전트 배포에 대한 측정이 아닙니다.

왜 프로덕션 환경이 이야기의 일부가 되는가

Anaconda의 AI 오케스트레이션 플랫폼, 이전 Outerbounds는 개발 이후에 발생하는 일을 다룹니다. 웹사이트에서는 재현 가능한 워크플로 실행, 아티팩트 추적 및 계보, 여러 클라우드에 걸친 컴퓨팅 제공 및 패키지와 모델에 적용되는 거버넌스를 설명합니다.

이는 출력물을 생성한 환경 및 종속성과 연결하는 방법을 제공합니다. 워크플로가 변경될 때, 팀은 어떤 모델, 패키지 또는 정책이 함께 변경되었는지 알아야 합니다. 재현성은 조사와 비교를 보다 실용적으로 만듭니다.

10월 출시에서는 오케스트레이션 워크플로 내에서 관리되는 아티팩트에 대한 네이티브 액세스가 추가되었습니다. 또한 확장된 릴리스 페이지에서는 Fast Bakery에 대해 설명하고 있습니다. Fast Bakery는 conda 및 PyPI 종속성(네이티브 라이브러리 포함)으로부터 컨테이너 이미지를 구축하며, 19,000개가 넘는 선별된 패키지와 77개의 검증된 오픈소스 모델을 포함하는 확대된 카탈로그를 제공합니다.

이번 확장은 Anaconda에게 파이썬 구성 요소 제공을 넘어서는 더 넓은 역할을 부여합니다. 이제 그 제안은 에이전트 지원 개발, 적대적 평가, 런타임 제어 및 반복 가능한 배포까지 포괄합니다. 의미 있는 시험은 이러한 요소들이 팀에게 에이전트가 만든 것, 테스트된 것, 그리고 소프트웨어가 운영을 시작했을 때 허용된 행동에 대한 신뢰할 수 있는 기록을 제공하는지 여부가 될 것입니다.