Anaconda asociază roiuri de agenți AI cu testarea de securitate autonomă

Furnizarea mai multor instrumente unui agent AI îl poate face mai util. A oferi aceleași instrumente mai multor agenți simultan creează o întrebare mai dificilă: cum poate o întreprindere să urmărească ce face fiecare agent și să oprească o acțiune nocivă înainte ca aceasta să ajungă la un sistem real?

extinderea platformei Anaconda din 6 octombrie abordează această problemă prin asocierea dezvoltării AI coordonate cu testarea de securitate autonomă. Aceasta reunește tehnologia de la Kilo Code, Enkrypt AI și Outerbounds în spații de lucru de dezvoltare, controale de securitate și orchestrare în producție.

Ideea strategică este de a conecta locurile în care agenții construiesc software, unde comportamentul lor este pus la încercare și unde rulează fluxurile de lucru rezultate. Anaconda numește acest concept AI Dev Factory. Pentru întreprinderi, întrebarea practică este dacă aceste conexiuni fac ca creșterea autonomiei agenților să fie mai ușor de inspectat și de guvernat.

Cum își coordonează agenții Kilo munca

Un roi de agenți distribuie sarcini conexe între mai mulți agenți AI. Unul poate investiga un design de autentificare în timp ce altul scrie teste sau implementează o componentă separată. Avantajul potențial este progresul paralel, cu condiția ca agenții să poată împărtăși descoperirile și să evite lucrul în contradicție.

descrierea tehnică a Swarm de la Kilo explică mecanismul de coordonare: o sesiune principală și agenții săi descendenți partajează un panou de mesaje. Agenții pot posta descoperiri și pot citi panoul în timp ce munca continuă, în loc să aștepte finalizarea fiecărei sub-sarcini înainte de a schimba rezultate.

Această distincție contează. Un agent de testare poate afla despre o decizie de autentificare înainte de a scrie o suită care presupune altceva. Kilo afirmă că evaluările interne timpurii sugerează că reducerea muncii duplicate poate diminua consumul de tokenuri, dar nu a publicat rezultate numerice pentru această afirmație.

Aceeași documentație definește, de asemenea, o limită ce merită înțeleasă: mesajele de pe panou nu trezesc, nu reiau sau nu aprobă agenții, iar mesajele de tip hold sau veto nu îi opresc automat. Toți participanții pot citi istoricul complet al panoului. Prin urmare, coordonarea trebuie diferențiată de permisiunile aplicabile și de controalele de execuție.

Pagina de lansare a Anaconda pagina de lansare plasează aceste fluxuri de lucru în VS Code și descrie munca paralelă pe worktree-uri. De asemenea, introduce Kilo Desktop în versiune beta, combinând ingineria, știința datelor și gestionarea mediului Python cu acces la peste 500 de modele și inferență locală.

Testarea de securitate care schimbă tacticile

Enkrypt AI furnizează partea de testare adversarială a platformei. Anaconda afirmă că oferta extinsă de securitate testează modele, agenți și integrări MCP în peste 300 de categorii de atac, alături de protecție în timpul execuției.

În explicație tehnică a red teaming autonom, Anaconda descrie începerea cu tipare de atac cunoscute și apoi utilizarea agenților pentru a-și adapta abordarea la răspunsurile țintei. Un agent formulează o ipoteză despre o vulnerabilitate, o testează, examinează rezultatul și decide ce să încerce în continuare.

O refuzare, de exemplu, poate declanșa o schimbare de strategie în loc de o altă parafrazare a aceleiași cereri. Sistemul folosește memoria de sesiune pentru a evita repetarea abordărilor eșuate și explorarea paralelă pentru a investiga simultan diferite riscuri. Anaconda afirmă că acest testare rulează în mediul clientului și este adaptată modelului de amenințare al implementării.

Această abordare este relevantă pentru agenții care consumă informații din instrumente și surse externe. Riscul nu se limitează la un răspuns nesigur: o instrucțiune ascunsă în materialul recuperat ar putea direcționa un apel ulterior al unui instrument. Testarea trebuie să examineze lanțurile de comportament, inclusiv informațiile în care agentul are încredere și acțiunile care urmează.

Barieră de protecție în timpul execuției abordează o problemă diferită

Identificarea unei vulnerabilități în timpul testării și prevenirea unei acțiuni nesigure în timpul funcționării sunt sarcini separate. produsul Guardrails de la Enkrypt AI este conceput pentru a aproba, modifica sau bloca comportamente riscante în rândul agenților, instrumentelor, generării augmentate prin recuperare și conexiunilor Model Context Protocol.

Compania identifică injecția de prompt, acțiuni nesigure ale instrumentelor, încălcări ale limitelor de privilegii și exfiltrarea de date sensibile printre riscurile vizate. Accentul pus pe decizii auditabile face ca stratul de control să fie relevant atât pentru investigarea incidentelor, cât și pentru prevenție.

Lansarea Anaconda include, de asemenea, scoruri de risc pentru modele în cadrul Kilo și un Registru de incidente ale agenților care conține rapoarte publice de incidente susținute de surse. Acestea pot informa selecția modelelor și prioritățile de testare. Ele ar trebui tratate ca intrări într-un proces de securitate, nu ca dovadă că o anumită implementare este sigură.

Cifrele de scară necesită aceeași atenție. Anaconda raportează că 63% dintre respondenții la sondajul său privind dezvoltatorii AI-native se îndreptau spre roiuri într-o formă oarecare. Anunțul său citează, de asemenea, cercetarea Enkrypt care a identificat vulnerabilități în 73% din cele 25.264 de servere MCP scanate pe parcursul a patru luni. Acestea sunt constatări raportate de furnizor referitoare la respondenți și la sistemele examinate, nu o măsurare a fiecărei implementări de agenți în întreprindere.

De ce mediul de producție aparține poveștii

Platforma de orchestrare AI a Anaconda, platformă de orchestrare AI, anterior Outerbounds, abordează ce se întâmplă după dezvoltare. Site‑ul său descrie execuții reproducibile ale fluxurilor de lucru, urmărirea artefactelor și a liniei de moștenire, cu calcul disponibil pe mai multe cloud‑uri și guvernanță aplicată pachetelor și modelelor.

Aceasta oferă o modalitate de a conecta un rezultat la mediul și dependențele care l‑au generat. Când un flux de lucru se modifică, echipele trebuie să știe ce model, pachet sau politică s‑a schimbat odată cu acesta. Reproducibilitatea face investigația și compararea mai practice.

Lansarea din octombrie adaugă acces nativ la artefacte guvernate în cadrul fluxurilor de lucru de orchestrare. Pagina sa de lansare extinsă descrie, de asemenea, Fast Bakery, care construiește imagini de container din dependențe conda și PyPI, inclusiv biblioteci native, și un catalog extins de peste 19.000 de pachete curate și 77 de modele open‑source verificate.

Extinderea oferă Anaconda un rol mai larg decât furnizarea de componente Python. Propunerea sa acoperă acum dezvoltarea asistată de agenți, evaluarea adversarială, controalele la rulare și livrarea repetabilă. Testul semnificativ va fi dacă aceste elemente oferă echipelor o evidență fiabilă a ceea ce au construit agenții, ce a fost testat și ce li s‑a permis să facă când software‑ul a început să funcționeze.