Anaconda yhdistää AI-agenttihajonnat autonomiseen turvallisuustestaukseen

AI-agentille enemmän työkaluja antaminen voi tehdä siitä hyödyllisemmän. Useille agenteille näiden työkalujen antaminen samanaikaisesti luo vaikeamman kysymyksen: miten yritys pitää kirjaa siitä, mitä kukin tekee, ja estää haitallisen toiminnon ennen kuin se saavuttaa todellisen järjestelmän?

Anacondan 6. lokakuuta tapahtuva alustan laajennus ratkaisee tämän ongelman yhdistämällä koordinoidun AI-kehityksen autonomiseen turvallisuustestaukseen. Se tuo yhteen teknologian Kilo Code:sta, Enkrypt AI:sta ja Outerboundsista kehitystyötilojen, turvallisuusvalvonnan ja tuotannon orkestroinnin välillä.

Strateginen ajatus on yhdistää ne paikat, joissa agentit rakentavat ohjelmistoja, joissa niiden käyttäytymistä testataan, ja joissa syntyvät työnkulut ajetaan. Anaconda kutsuu tätä AI Dev Factoryksi. Yrityksille käytännön kysymys on, tekevätkö nämä yhteydet agenttien autonomian kasvattamisesta helpommin tarkastettavaa ja hallittavaa.

Miten Kilon agentit koordinoivat työnsä

Agenttihajonta jakaa toisiinsa liittyvät tehtävät useiden AI-agenttien kesken. Yksi voi tutkia todennusmallia, kun toinen kirjoittaa testejä tai toteuttaa erillisen komponentin. Mahdollinen etu on rinnakkainen edistyminen, edellyttäen että agentit voivat jakaa löydökset ja välttää ristiriitaista työskentelyä.

Kilon tekninen kuvaus Swarmista selittää koordinaatiomekanismin: pääistunto ja sen jälkeläisagentit jakavat viestitaulun. Agentit voivat julkaista havaintoja ja lukea taulua työn jatkessa sen sijaan, että odottaisivat jokaisen alitehtävän valmistumista ennen tulosten vaihtamista.

Tämä ero on merkittävä. Testaava agentti voi oppia todennuspäätöksestä ennen kuin kirjoittaa testisarjan, joka olettaa jotain muuta. Kilon mukaan varhaiset sisäiset arvioinnit viittaavat siihen, että vähemmän päällekkäistä työtä voi vähentää token-kulutusta, mutta se ei ole julkaissut numeerisia tuloksia tätä väitettä varten.

Sama dokumentaatio määrittelee myös ymmärtämisen arvoisen rajan: viestitaulun viestit eivät herätä, jatka tai hyväksy agenteja, eikä neuvova pidätys- tai veto-viestit automaattisesti pysäytä niitä. Kaikki osallistujat voivat lukea koko viestitaulun historian. Koordinaatio on siis erotettava toteutettavissa olevista oikeuksista ja suorituksen hallinnasta.

Anacondan lanseeraussivu sijoittaa nämä työnkulut VS Codeen ja kuvaa rinnakkaista työtä työpuissa. Se esittelee myös Kilo Desktopin betaversiossa, joka yhdistää insinööri-, datatieteen- ja Python-ympäristön hallinnan pääsyn yli 500 malliin ja paikalliseen inferenssiin.

Turvallisuustestaus, joka muuttaa taktiikoita

Enkrypt AI tarjoaa alustan vastustavaa testausosaa. Anacondan mukaan laajennettu turvallisuustarjonta testaa malleja, agentteja ja MCP-integraatioita yli 300 hyökkäyskategorian läpi, sekä runtime-suojauksen.

Sen autonomisen red teamingin tekninen selitysssä Anaconda kuvaa aloittamista tunnetuilla hyökkäyskuvioilla ja sen jälkeen agenttien käyttämistä mukauttamaan lähestymistapaa kohteen reaktioiden perusteella. Agentti muodostaa hypoteesin heikkoudesta, testaa sen, tarkastelee tulosta ja päättää, mitä kokeilla seuraavaksi.

Esimerkiksi kieltäytyminen voi aiheuttaa strategian muutoksen sen sijaan, että toistettaisiin samaa pyyntöä uudelleen. Järjestelmä käyttää istuntomuistia välttääkseen epäonnistuneiden lähestymistapojen toistamista ja rinnakkaista tutkimusta tutkiakseen eri riskejä samanaikaisesti. Anacondan mukaan tämä testaus suoritetaan asiakkaan ympäristössä ja se on sovitettu käyttöönoton uhkamalliin.

Tämä lähestymistapa on merkityksellinen agenteille, jotka kuluttavat tietoa työkaluista ja ulkoisista lähteistä. Riski ei rajoitu pelkästään epävarmaan vastaukseen: haetussa materiaalissa piilevä ohje voi ohjata myöhempää työkalukutsua. Testauksen on tarkasteltava käyttäytymisketjuja, mukaan lukien mitä tietoa agentti luottaa ja mitä toimenpiteitä sen jälkeen tapahtuu.

Suoritusaikaiset turvavälit käsittelevät erilaista ongelmaa

Enkrypt AI:n Guardrails-tuote on suunniteltu hyväksymään, muokkaamaan tai estämään riskialtista käyttäytymistä agenttien, työkalujen, haun tukemien generointien ja Model Context Protocol -yhteyksien välillä.

Yritys tunnistaa kohteekseen prompt-injektion, epävarmat työkalutoiminnot, käyttöoikeusrajan rikkomukset ja arkaluontoisen tiedon vuotamisen riskeinä. Sen korostus auditoitavissa oleviin päätöksiin tekee ohjauskerroksesta merkityksellisen myös tapahtumien tutkintaan sekä ennaltaehkäisyyn.

Anacondan lanseeraus sisältää myös malliriskipisteet Kilon sisällä sekä Agent Incident Registry -rekisterin, jossa on lähdeperustaisia julkisia incident-raportteja. Näitä voidaan käyttää mallivalinnan ja testausprioriteettien ohjaamiseen. Niitä tulisi käsitellä turvallisuusprosessin syötteinä, eikä todisteina siitä, että tietty käyttöönotto on turvallinen.

Määräluvut vaativat samanlaista tarkkuutta. Anaconda raportoi, että 63 % sen AI‑natiivirakentajien kyselyn vastaajista siirtyi jollain tavalla hajontaan (swarmeihin). Sen ilmoitus viittaa myös Enkryptin tutkimukseen, jonka mukaan 73 % 25 264:stä neljän kuukauden aikana skannatusta MCP‑palvelimesta sisälsi haavoittuvuuksia. Nämä ovat toimittajan raportoimia havaintoja vastaajista ja tarkastelluista järjestelmistä, eivät mittausta kaikista yritysagenttien käyttöönotosta.

Miksi tuotantoympäristö kuuluu tarinaan

Anacondan AI Orchestrointi-alusta, aiemmin Outerbounds käsittelee sitä, mitä kehityksen jälkeen tapahtuu. Sen verkkosivusto kuvaa toistettavia työnkulkuja, artefaktien seurantaa ja perimää, laskentatehoa, joka on saatavilla useissa pilvipalveluissa, sekä hallintaa, jota sovelletaan paketteihin ja malleihin.

Tämä tarjoaa tavan yhdistää tulos ympäristöön ja riippuvuuksiin, jotka sen loivat. Kun työnkulku muuttuu, tiimien on tiedettävä, mikä malli, paketti tai käytäntö muuttui sen mukana. Toistettavuus tekee tutkimuksesta ja vertailusta käytännöllisempää.

Lokakuun julkaisu lisää natiivin pääsyn hallittuihin artefakteihin orkestrointityönkuluissa. Sen laajempi julkaisusivu kuvaa myös Fast Bakery, joka rakentaa konttikuvia conda- ja PyPI-riippuvuuksista, mukaan lukien natiivit kirjastot, sekä laajentunutta luetteloa, jossa on yli 19 000 kuratoitua pakettia ja 77 tarkistettua avoimen lähdekoodin mallia.

Laajennus antaa Anacondalle laajemman roolin kuin pelkkä Python-komponenttien toimittaminen. Sen tarjonta kattaa nyt agenttiavusteisen kehityksen, vastustajan arvioinnin, ajonaikaiset ohjaimet ja toistettavan toimituksen. Merkittävä koe on, tarjoavatko nämä osat tiimeille luotettavan kirjanpidon siitä, mitä agentit rakensivat, mitä testattiin ja mitä niille sallittiin tehdä, kun ohjelmisto alkoi toimia.