Anaconda accoppia gli sciami di agenti IA a test di sicurezza autonomi

Fornire a un agente IA più strumenti può renderlo più utile. Fornire a più agenti quegli strumenti contemporaneamente solleva una questione più complessa: come può un’impresa tenere traccia di ciò che ciascuno sta facendo e impedire un’azione dannosa prima che raggiunga un sistema reale?

l’espansione della piattaforma di Anaconda del 6 ottobre affronta questo problema accoppiando lo sviluppo IA coordinato con i test di sicurezza autonomi. Riunisce la tecnologia di Kilo Code, Enkrypt AI e Outerbounds tra spazi di lavoro di sviluppo, controlli di sicurezza e orchestrazione della produzione.

L’idea strategica è collegare i luoghi in cui gli agenti creano software, dove il loro comportamento viene messo alla prova e dove i flussi di lavoro risultanti vengono eseguiti. Anaconda chiama questo un AI Dev Factory. Per le imprese, la domanda pratica è se tali connessioni rendono più facile ispezionare e governare l’autonomia crescente degli agenti.

Come gli agenti di Kilo coordinano il loro lavoro

Uno sciame di agenti distribuisce i compiti correlati tra più agenti IA. Uno può indagare su un progetto di autenticazione mentre un altro scrive test o implementa un componente separato. Il vantaggio potenziale è un progresso parallelo, a condizione che gli agenti possano condividere le scoperte e evitare di lavorare in contrasto.

la descrizione tecnica di Kilo di Swarm spiega il meccanismo di coordinazione: una sessione principale e i suoi agenti discendenti condividono una bacheca di messaggi. Gli agenti possono pubblicare i risultati e leggere la bacheca mentre il lavoro prosegue, invece di attendere che ogni sotto‑compito termini prima di scambiare i risultati.

Questa distinzione è importante. Un agente di test può apprendere una decisione di autenticazione prima di scrivere una suite che presuppone qualcosa di diverso. Kilo afferma che le prime valutazioni interne suggeriscono che meno lavoro duplicato può ridurre il consumo di token, ma non ha pubblicato risultati numerici a supporto di tale affermazione.

La stessa documentazione definisce anche un confine da comprendere: i messaggi sulla bacheca non svegliano, riprendono o approvano gli agenti, e i messaggi di sospensione o veto consultivi non li fermano automaticamente. Tutti i partecipanti possono leggere l’intera cronologia della bacheca. Pertanto la coordinazione deve essere distinta da permessi esecutivi e controlli di esecuzione applicabili.

La pagina di lancio di Anaconda inserisce questi flussi di lavoro in VS Code e descrive il lavoro parallelo tra i worktree. Introduce anche Kilo Desktop in versione beta, combinando ingegneria, data science e gestione dell’ambiente Python con accesso a oltre 500 modelli e inferenza locale.

Test di sicurezza che cambiano tattica

Enkrypt AI fornisce la parte di test avversari della piattaforma. Anaconda afferma che l’offerta di sicurezza ampliata testa modelli, agenti e integrazioni MCP in più di 300 categorie di attacco, insieme alla protezione in fase di esecuzione.

Nella sua spiegazione tecnica del red teaming autonomo, Anaconda descrive l’avvio con pattern di attacco noti e poi l’uso di agenti per adattare il loro approccio alle risposte del bersaglio. Un agente formula un’ipotesi su una vulnerabilità, la testa, ne esamina il risultato e decide cosa provare successivamente.

Un rifiuto, ad esempio, può indurre un cambiamento di strategia anziché un’altra parafrasi della stessa richiesta. Il sistema utilizza la memoria di sessione per evitare di ripetere approcci falliti e l’esplorazione parallela per investigare diversi rischi contemporaneamente. Anaconda afferma che questi test vengono eseguiti all’interno dell’ambiente del cliente e sono adattati al modello di minaccia del deployment.

Questo approccio è rilevante per gli agenti che consumano informazioni da strumenti e fonti esterne. Il rischio non si limita a una risposta non sicura: un’istruzione nascosta nel materiale recuperato potrebbe indirizzare una successiva chiamata a uno strumento. I test devono esaminare le catene di comportamento, inclusi le informazioni di cui l’agente si fida e le azioni successive.

Le guardrail di runtime affrontano un problema diverso

Individuare una vulnerabilità durante i test e prevenire un’azione non sicura durante l’operazione sono compiti separati. Il prodotto Guardrails di Enkrypt AI è progettato per approvare, modificare o bloccare comportamenti rischiosi tra agenti, strumenti, generazione aumentata dal recupero e connessioni Model Context Protocol.

L’azienda individua l’iniezione di prompt, azioni di strumenti non sicure, violazioni dei confini di privilegio e l’esfiltrazione di dati sensibili tra i rischi che mira a mitigare. La sua enfasi su decisioni auditabili rende lo strato di controllo rilevante sia per l’indagine di incidenti sia per la prevenzione.

Il lancio di Anaconda include anche punteggi di rischio del modello all’interno di Kilo e un Registro di Incidenti degli Agenti contenente report di incidenti pubblici con fonti. Questi possono informare la selezione del modello e le priorità di test. Dovrebbero essere trattati come input per un processo di sicurezza, piuttosto che come prova che un determinato deployment sia sicuro.

Anche le cifre di scala richiedono la stessa attenzione. Anaconda segnala che il 63 % degli intervistati nel suo sondaggio sui costruttori nativi IA stava passando a sciami in qualche forma. L’annuncio cita inoltre la ricerca di Enkrypt che ha rilevato vulnerabilità nel 73 % di 25.264 server MCP analizzati in quattro mesi. Si tratta di risultati segnalati dal fornitore relativi agli intervistati e ai sistemi esaminati, non di una misurazione di tutte le implementazioni di agenti aziendali.

Perché l’ambiente di produzione fa parte della storia

Anaconda’s piattaforma di orchestrazione AI, precedentemente Outerbounds, affronta ciò che accade dopo lo sviluppo. Il suo sito descrive esecuzioni di workflow riproducibili, tracciamento degli artefatti e lineage, con capacità di calcolo disponibili su più cloud e governance applicata a pacchetti e modelli.

Ciò fornisce un modo per collegare un output all’ambiente e alle dipendenze che lo hanno prodotto. Quando un workflow cambia, i team devono sapere quale modello, pacchetto o policy è cambiato insieme ad esso. La riproducibilità rende più pratiche indagini e confronti.

Il lancio di ottobre aggiunge l’accesso nativo a artefatti governati all’interno dei workflow di orchestrazione. La sua pagina di rilascio più ampia descrive anche Fast Bakery, che crea immagini container da dipendenze conda e PyPI, incluse librerie native, e un catalogo ampliato di oltre 19.000 pacchetti curati e 77 modelli open source convalidati.

L’espansione conferisce ad Anaconda un ruolo più ampio rispetto alla semplice fornitura di componenti Python. La sua proposta ora comprende sviluppo assistito da agenti, valutazione avversaria, controlli di runtime e consegna ripetibile. Il test significativo sarà se questi elementi forniranno ai team un registro affidabile di ciò che gli agenti hanno costruito, di ciò che è stato testato e di ciò che è stato loro consentito fare quando il software ha iniziato a operare.