Anaconda combina enjambres de agentes de IA con pruebas de seguridad autónomas

Proporcionar más herramientas a un agente de IA puede hacerlo más útil. Proporcionar esas herramientas a varios agentes a la vez plantea una cuestión más difícil: ¿cómo puede una empresa hacer seguimiento de lo que cada uno está haciendo y detener una acción nociva antes de que llegue a un sistema real?

expansión de la plataforma de Anaconda del 6 de octubre aborda ese problema al combinar el desarrollo de IA coordinado con pruebas de seguridad autónomas. Reúne tecnología de Kilo Code, Enkrypt AI y Outerbounds a través de espacios de trabajo de desarrollo, controles de seguridad y orquestación de producción.

La idea estratégica es conectar los lugares donde los agentes crean software, donde se pone a prueba su comportamiento y donde se ejecutan los flujos de trabajo resultantes. Anaconda llama a esto una AI Dev Factory. Para las empresas, la cuestión práctica es si esas conexiones facilitan la inspección y gobernanza de la creciente autonomía de los agentes.

Cómo los agentes de Kilo coordinan su trabajo

Un enjambre de agentes distribuye tareas relacionadas entre varios agentes de IA. Uno podría investigar un diseño de autenticación mientras otro escribe pruebas o implementa un componente separado. La ventaja potencial es el progreso paralelo, siempre que los agentes puedan compartir descubrimientos y evitar trabajar en direcciones opuestas.

descripción técnica de Swarm de Kilo explica el mecanismo de coordinación: una sesión principal y sus agentes descendientes comparten un tablero de mensajes. Los agentes pueden publicar hallazgos y leer el tablero mientras el trabajo continúa, en lugar de esperar a que cada subtarea termine antes de intercambiar resultados.

Esa distinción es importante. Un agente de pruebas puede conocer una decisión de autenticación antes de escribir una suite que asuma algo diferente. Kilo afirma que las evaluaciones internas tempranas sugieren que menos trabajo duplicado puede reducir el consumo de tokens, pero no ha publicado resultados numéricos que respalden esa afirmación.

La misma documentación también define un límite que vale la pena comprender: los mensajes del tablero no despiertan, reanudan ni aprueban a los agentes, y los mensajes de retención o veto consultivo no los detienen automáticamente. Todos los participantes pueden leer el historial completo del tablero. Por lo tanto, la coordinación debe distinguirse de los permisos ejecutables y los controles de ejecución.

La página de lanzamiento de Anaconda incorpora estos flujos de trabajo en VS Code y describe el trabajo paralelo en diferentes árboles de trabajo. También presenta Kilo Desktop en versión beta, combinando ingeniería, ciencia de datos y gestión de entornos Python con acceso a más de 500 modelos y a inferencia local.

Pruebas de seguridad que cambian de táctica

Enkrypt AI proporciona la parte de pruebas adversariales de la plataforma. Anaconda indica que la oferta de seguridad ampliada evalúa modelos, agentes e integraciones MCP en más de 300 categorías de ataque, junto con protección en tiempo de ejecución.

En su explicación técnica del red teaming autónomo, Anaconda describe comenzar con patrones de ataque conocidos y luego usar agentes para adaptar su enfoque a las respuestas del objetivo. Un agente formula una hipótesis sobre una vulnerabilidad, la prueba, examina el resultado y decide qué intentar a continuación.

Una negativa, por ejemplo, puede provocar un cambio de estrategia en lugar de otra paráfrasis de la misma solicitud. El sistema utiliza memoria de sesión para evitar repetir enfoques fallidos y exploración paralela para investigar diferentes riesgos simultáneamente. Anaconda afirma que estas pruebas se ejecutan dentro del entorno del cliente y están ajustadas al modelo de amenaza del despliegue.

Este enfoque es relevante para los agentes que consumen información de herramientas y fuentes externas. El riesgo no se limita a una respuesta insegura: una instrucción oculta en el material recuperado podría orientar una llamada posterior a una herramienta. Las pruebas deben examinar cadenas de comportamiento, incluido qué información confía el agente y qué acciones siguen.

Las barreras de ejecución abordan un problema diferente

Detectar una vulnerabilidad durante las pruebas y prevenir una acción insegura durante la operación son tareas separadas. producto Guardrails de Enkrypt AI está diseñado para aprobar, modificar o bloquear comportamientos de riesgo entre agentes, herramientas, generación aumentada por recuperación y conexiones del Protocolo de Contexto de Modelo.

La empresa identifica inyección de indicaciones, acciones inseguras de herramientas, violaciones de límites de privilegios y exfiltración de datos sensibles entre los riesgos que aborda. Su énfasis en decisiones auditables hace que la capa de control sea relevante tanto para la investigación de incidentes como para la prevención.

El lanzamiento de Anaconda también incluye puntuaciones de riesgo de modelos dentro de Kilo y un Registro de Incidentes de Agentes que contiene informes de incidentes públicos respaldados por fuentes. Estos pueden orientar la selección de modelos y las prioridades de prueba. Deben considerarse como insumos en un proceso de seguridad, más que como prueba de que un despliegue particular es seguro.

Las cifras de escala requieren un cuidado similar. Anaconda informa que el 63 % de los encuestados en su estudio de constructores nativos de IA estaban avanzando hacia enjambres de alguna forma. Su anuncio también cita una investigación de Enkrypt que encontró vulnerabilidades en el 73 % de los 25 264 servidores MCP escaneados durante cuatro meses. Estos son hallazgos reportados por el proveedor sobre los encuestados y los sistemas examinados, no una medición de todas las implementaciones de agentes empresariales.

Por qué el entorno de producción forma parte de la historia

La plataforma de Anaconda plataforma de Orquestación de IA, anteriormente Outerbounds, aborda lo que ocurre después del desarrollo. Su sitio web describe ejecuciones reproducibles de flujos de trabajo, seguimiento de artefactos y linaje, con capacidad de cómputo disponible en múltiples nubes y gobernanza aplicada a paquetes y modelos.

Eso proporciona una forma de conectar una salida con el entorno y las dependencias que la generaron. Cuando un flujo de trabajo cambia, los equipos necesitan saber qué modelo, paquete o política cambió con él. La reproducibilidad hace que la investigación y la comparación sean más prácticas.

El lanzamiento de octubre añade acceso nativo a artefactos gobernados dentro de los flujos de orquestación. Su página de lanzamiento ampliada también describe Fast Bakery, que crea imágenes de contenedores a partir de dependencias de conda y PyPI, incluidas bibliotecas nativas, y un catálogo ampliado de más de 19 000 paquetes curados y 77 modelos de código abierto verificados.

La expansión otorga a Anaconda un papel más amplio que el de suministrar componentes de Python. Su propuesta ahora abarca desarrollo asistido por agentes, evaluación adversarial, controles en tiempo de ejecución y entrega repetible. La prueba significativa será si esas piezas proporcionan a los equipos un registro fiable de lo que los agentes construyeron, lo que se probó y lo que se les permitió hacer cuando el software comenzó a operar.