Anaconda kobler AI-agent-svermer med autonom sikkerhetstesting

Å gi en AI-agent flere verktøy kan gjøre den mer nyttig. Å gi flere agenter disse verktøyene samtidig skaper et vanskeligere spørsmål: hvordan kan en bedrift holde oversikt over hva hver enkelt gjør, og stoppe en skadelig handling før den når et ekte system?

Anacondas plattformutvidelse 6. oktober løser dette problemet ved å kombinere koordinert AI-utvikling med autonom sikkerhetstesting. Den samler teknologi fra Kilo Code, Enkrypt AI og Outerbounds på tvers av utviklingsarbeidsområder, sikkerhetskontroller og produksjonsorkestrering.

Den strategiske idéen er å koble sammen stedene hvor agenter bygger programvare, hvor deres oppførsel utfordres, og hvor de resulterende arbeidsflytene kjører. Anaconda kaller dette en AI Dev Factory. For bedrifter er det praktiske spørsmålet om disse koblingene gjør det enklere å inspisere og styre økende agentautonomi.

Hvordan Kilos agenter koordinerer arbeidet sitt

En agent-sverm distribuerer relaterte oppgaver på tvers av flere AI-agenter. En kan undersøke et autentiseringsdesign mens en annen skriver tester eller implementerer en separat komponent. Den potensielle fordelen er parallell fremdrift, forutsatt at agentene kan dele funn og unngå å jobbe mot hverandre.

Kilos tekniske beskrivelse av Swarm forklarer koordineringsmekanismen: en hovedsesjon og dens etterkommere deler et meldingsbord. Agenter kan legge inn funn og lese tavlen mens arbeidet fortsetter, i stedet for å vente på at hver deloppgave skal fullføres før resultater utveksles.

Den distinksjonen er viktig. En testagent kan lære om en autentiseringsbeslutning før den skriver en testpakke som forutsetter noe annet. Kilo sier at tidlige interne evalueringer antyder at mindre duplisert arbeid kan redusere tokenforbruk, men de har ikke publisert tallbaserte resultater for dette påstanden.

Den samme dokumentasjonen definerer også en grense som er verdt å forstå: meldinger på tavlen vekker ikke, gjenopptar eller godkjenner agenter, og rådgivende hold- eller veto-meldinger stopper dem ikke automatisk. Alle deltakere kan lese hele tavlehistorikken. Koordinering må derfor skilles fra håndhevbare tillatelser og utførelseskontroller.

Anacondas lanseringsside plasserer disse arbeidsflytene i VS Code og beskriver parallelt arbeid på tvers av arbeidstrær. Den introduserer også Kilo Desktop i beta, som kombinerer ingeniørarbeid, datavitenskap og Python-miljøadministrasjon med tilgang til mer enn 500 modeller og lokal inferens.

Sikkerhetstesting som endrer taktikk

Enkrypt AI leverer den adversarielle testdelen av plattformen. Anaconda sier at det utvidede sikkerhetstilbudet tester modeller, agenter og MCP-integrasjoner på tvers av mer enn 300 angrepskategorier, i tillegg til kjøretidsbeskyttelse.

I sin teknisk forklaring av autonomt red teaming beskriver Anaconda å starte med kjente angrepsmønstre og deretter bruke agenter til å tilpasse tilnærmingen til målets svar. En agent danner en hypotese om en svakhet, tester den, undersøker resultatet og bestemmer hva den skal prøve neste.

Et avslag, for eksempel, kan utløse en endring av strategi i stedet for en ny omskriving av samme forespørsel. Systemet bruker øktminne for å unngå å gjenta mislykkede tilnærminger og parallell utforskning for å undersøke ulike risikoer samtidig. Anaconda sier at denne testingen kjører inne i kundens miljø og er tilpasset distribusjonens trusselmodell.

Denne tilnærmingen er relevant for agenter som konsumerer informasjon fra verktøy og eksterne kilder. Risikoen er ikke begrenset til et usikkert svar: en instruksjon skjult i hentet materiale kan påvirke et senere verktøykall. Testing må undersøke atferdskjeder, inkludert hvilken informasjon agenten stoler på og hvilke handlinger som følger.

Kjøretidsbeskyttelser adresserer et annet problem

Å finne en svakhet under testing og forhindre en usikker handling under drift er separate oppgaver. Enkrypt AI’s Guardrails-produkt er designet for å godkjenne, endre eller blokkere risikabel atferd på tvers av agenter, verktøy, gjenfinning-augmented generering og Model Context Protocol-tilkoblinger.

Selskapet identifiserer promptinjeksjon, usikre verktøyhandlinger, privilegium-grensebrudd og eksfiltrering av sensitiv data blant risikoene de retter seg mot. Vektleggingen av etterprøvbare beslutninger gjør kontrolllaget relevant både for hendelsesundersøkelser og forebygging.

Anacondas lansering inkluderer også modellrisikoscorer i Kilo og et Agent Incident Registry som inneholder kildebaserte offentlige hendelsesrapporter. Disse kan informere modellvalg og testprioriteringer. De bør behandles som innspill i en sikkerhetsprosess, snarere enn som bevis på at en bestemt distribusjon er sikker.

Skala-tallene krever liknende forsiktighet. Anaconda rapporterer at 63 % av respondentene i deres undersøkelse av AI-native byggherrer beveger seg mot svermer i en eller annen form. Kunngjøringen deres refererer også til Enkrypt-forskning som fant sårbarheter i 73 % av 25 264 MCP-servere som ble skannet over fire måneder. Dette er leverandørrapporterte funn om respondentene og systemene som ble undersøkt, ikke en måling av hver enkelt bedrifts agentdistribusjon.

Hvorfor produksjonsmiljøet hører til i historien

Anacondas AI-orchestreringsplattform, tidligere Outerbounds, tar for seg hva som skjer etter utvikling. Nettstedet beskriver reproduserbare arbeidsflyter, sporing av artefakter og opprinnelse, med beregning tilgjengelig på tvers av flere skyer og styring anvendt på pakker og modeller.

Dette gir en måte å koble et resultat til miljøet og avhengighetene som produserte det. Når en arbeidsflyt endres, må teamene vite hvilken modell, pakke eller policy som endret seg sammen med den. Reproduserbarhet gjør undersøkelser og sammenligninger mer praktiske.

Oktoberlanseringen legger til native tilgang til styrte artefakter innenfor orkestreringsarbeidsflyter. Den bredere lanseringssiden beskriver også Fast Bakery, som bygger containerbilder fra conda- og PyPI-avhengigheter, inkludert native biblioteker, samt et utvidet katalog med over 19 000 kuraterte pakker og 77 verifiserte open‑source‑modeller.

Utvidelsen gir Anaconda en bredere rolle enn kun å levere Python‑komponenter. Tilbudet deres omfatter nå agentassistert utvikling, adversarial evaluering, kjøretidskontroller og repeterbar levering. Den reelle testen blir om disse delene gir teamene en pålitelig oversikt over hva agenter har bygget, hva som er testet og hva de fikk lov til å gjøre da programvaren begynte å kjøre.