Anaconda łączy roje agentów AI z autonomicznym testowaniem bezpieczeństwa

Dostarczenie agentowi AI większej liczby narzędzi może zwiększyć jego użyteczność. Udostępnienie tych narzędzi kilku agentom jednocześnie rodzi trudniejsze pytanie: jak przedsiębiorstwo może śledzić, co każdy z nich robi, i powstrzymać szkodliwą akcję, zanim dotrze ona do rzeczywistego systemu?

Rozszerzenie platformy Anaconda z 6 października rozwiązuje ten problem, łącząc skoordynowany rozwój AI z autonomicznym testowaniem bezpieczeństwa. Łączy technologię od Kilo Code, Enkrypt AI i Outerbounds w przestrzeniach roboczych rozwoju, kontrolach bezpieczeństwa i orkiestracji produkcji.

Strategiczna koncepcja polega na połączeniu miejsc, w których agenci tworzą oprogramowanie, gdzie ich zachowanie jest testowane, oraz gdzie uruchamiane są powstałe przepływy pracy. Anaconda nazywa to AI Dev Factory. Dla przedsiębiorstw praktyczne pytanie brzmi, czy te połączenia ułatwiają kontrolę i zarządzanie rosnącą autonomią agentów.

Jak agenci Kilo koordynują swoją pracę

Rój agentów rozdziela powiązane zadania pomiędzy wieloma agentami AI. Jeden może badać projekt uwierzytelniania, podczas gdy inny pisze testy lub implementuje oddzielny komponent. Potencjalną zaletą jest równoległy postęp, pod warunkiem że agenci mogą dzielić się odkryciami i unikać pracy sprzecznej ze sobą.

Techniczny opis Swarm firmy Kilo wyjaśnia mechanizm koordynacji: główna sesja i jej potomne agenty współdzielą tablicę wiadomości. Agenci mogą publikować wyniki i czytać tablicę w trakcie pracy, zamiast czekać, aż każde podzadanie zakończy się przed wymianą rezultatów.

To rozróżnienie ma znaczenie. Agent testujący może dowiedzieć się o decyzji uwierzytelniania, zanim stworzy zestaw zakładający coś innego. Kilo twierdzi, że wstępne wewnętrzne oceny sugerują, że mniejsze powielanie pracy może zmniejszyć zużycie tokenów, jednak nie opublikowano liczbowych wyników potwierdzających to twierdzenie.

Ta sama dokumentacja definiuje również granicę, którą warto zrozumieć: wiadomości na tablicy nie budzą, nie wznawiają ani nie zatwierdzają agentów, a komunikaty o wstrzymaniu lub weto nie zatrzymują ich automatycznie. Każdy uczestnik może przeczytać pełną historię tablicy. Dlatego koordynację należy odróżnić od wymagalnych uprawnień i kontroli wykonania.

Anaconda’s strona startowa umieszcza te przepływy pracy w VS Code i opisuje równoległą pracę w różnych drzewach roboczych. Wprowadza także Kilo Desktop w wersji beta, łącząc inżynierię, naukę o danych i zarządzanie środowiskami Python z dostępem do ponad 500 modeli i lokalnym wnioskowaniem.

Testowanie bezpieczeństwa, które zmienia taktyki

Enkrypt AI dostarcza część platformy odpowiedzialną za testy adwersarialne. Anaconda twierdzi, że rozszerzona oferta bezpieczeństwa testuje modele, agentów i integracje MCP w ponad 300 kategoriach ataków, wraz z ochroną w czasie wykonywania.

techniczne wyjaśnienie autonomicznego red teamingu, Anaconda opisuje rozpoczęcie od znanych wzorców ataków, a następnie użycie agentów do dostosowania podejścia do reakcji celu. Agent formułuje hipotezę o słabości, testuje ją, analizuje wynik i decyduje, co spróbować dalej.

Odmowa, na przykład, może wywołać zmianę strategii zamiast kolejnego sparafrazowania tego samego żądania. System wykorzystuje pamięć sesji, aby nie powtarzać nieudanych podejść, oraz równoległe badanie, aby jednocześnie analizować różne ryzyka. Anaconda twierdzi, że te testy odbywają się w środowisku klienta i są dostosowane do modelu zagrożeń wdrożenia.

To podejście ma znaczenie dla agentów, które pobierają informacje z narzędzi i źródeł zewnętrznych. Ryzyko nie ogranicza się jedynie do niebezpiecznej odpowiedzi: instrukcja ukryta w pobranym materiale może skierować późniejsze wywołanie narzędzia. Testowanie musi analizować łańcuchy zachowań, w tym jakie informacje agent uznaje za wiarygodne i jakie działania podejmuje.

Środki ochronne w czasie wykonywania rozwiązują inny problem

Wykrycie słabości podczas testów i zapobieganie niebezpiecznej akcji w trakcie działania to odrębne zadania. produkt Guardrails firmy Enkrypt AI został zaprojektowany, aby zatwierdzać, modyfikować lub blokować ryzykowne zachowania wśród agentów, narzędzi, generacji wspomaganej pobieraniem oraz połączeń Model Context Protocol.

Firma wymienia wstrzyknięcie promptów, niebezpieczne działania narzędzi, naruszenia granic przywilejów oraz wyciek danych wrażliwych jako ryzyka, na które się koncentruje. Nacisk na audytowalne decyzje sprawia, że warstwa kontrolna jest istotna zarówno dla dochodzeń w sprawie incydentów, jak i zapobiegania im.

Premiera Anacondy zawiera również oceny ryzyka modeli w Kilo oraz Rejestr Incydentów Agentów zawierający publiczne raporty incydentów poparte źródłami. Mogą one informować o wyborze modeli i priorytetach testowania. Należy je traktować jako dane wejściowe do procesu bezpieczeństwa, a nie jako dowód, że konkretne wdrożenie jest bezpieczne.

Wartość liczbowa wymaga podobnej uwagi. Anaconda podaje, że 63 % respondentów w jej ankiecie wśród twórców AI‑native zmierza w pewnej formie w kierunku rojów. Ogłoszenie cytuje także badania Enkrypt, które wykazały podatności w 73 % z 25 264 serwerów MCP zeskanowanych w ciągu czterech miesięcy. Są to wyniki zgłoszone przez dostawcę dotyczące respondentów i badanych systemów, a nie pomiar wszystkich wdrożeń agentów w przedsiębiorstwach.

Dlaczego środowisko produkcyjne ma miejsce w tej opowieści

Anaconda platforma AI Orchestration, wcześniej Outerbounds, zajmuje się tym, co dzieje się po rozwoju. Jej strona opisuje powtarzalne uruchomienia przepływów pracy, śledzenie artefaktów i pochodzenie, z możliwością obliczeń dostępnych w wielu chmurach oraz zarządzaniem stosowanym do pakietów i modeli.

Zapewnia to sposób na powiązanie wyniku ze środowiskiem i zależnościami, które go wygenerowały. Gdy przepływ pracy ulega zmianie, zespoły muszą wiedzieć, który model, pakiet lub polityka zmieniły się wraz z nim. Powtarzalność sprawia, że badanie i porównywanie jest bardziej praktyczne.

Październikowe uruchomienie dodaje natywny dostęp do zarządzanych artefaktów w ramach przepływów orkiestracji. Szersza strona wydania opisuje także Fast Bakery, które tworzy obrazy kontenerów z zależnościami conda i PyPI, w tym natywne biblioteki, oraz rozszerzony katalog ponad 19 000 starannie wyselekcjonowanych pakietów i 77 zweryfikowanych modeli open‑source.

Rozszerzenie daje firmie Anaconda szerszą rolę niż jedynie dostarczanie komponentów Pythona. Jej oferta obejmuje teraz rozwój wspomagany przez agenty, ocenę adwersarialną, kontrolę w czasie wykonywania oraz powtarzalną dystrybucję. Kluczowym testem będzie to, czy te elementy zapewnią zespołom wiarygodny zapis tego, co agenci zbudowali, co zostało przetestowane i co było im dozwolone zrobić, gdy oprogramowanie zaczęło działać.