Anaconda kombiniert KI-Agentenschwärme mit autonomem Sicherheitstesting

Einem KI‑Agenten mehr Werkzeuge zu geben, kann ihn nützlicher machen. Mehreren Agenten diese Werkzeuge gleichzeitig zur Verfügung zu stellen, wirft eine schwierigere Frage auf: Wie kann ein Unternehmen nachverfolgen, was jeder einzelne tut, und eine schädliche Aktion verhindern, bevor sie ein echtes System erreicht?

Anacondas Plattform‑Erweiterung vom 6. Oktober geht dieses Problem an, indem koordinierte KI‑Entwicklung mit autonomem Sicherheitstesting kombiniert wird. Sie vereint Technologie von Kilo Code, Enkrypt AI und Outerbounds über Entwicklungsarbeitsbereiche, Sicherheitskontrollen und Produktionsorchestrierung.

Die strategische Idee besteht darin, die Orte zu verbinden, an denen Agenten Software erstellen, wo ihr Verhalten herausgefordert wird und wo die daraus resultierenden Workflows ausgeführt werden. Anaconda nennt dies eine KI‑Entwicklungsfabrik. Für Unternehmen lautet die praktische Frage, ob diese Verbindungen das Wachsen der Agenten‑Autonomie leichter zu prüfen und zu steuern machen.

Wie Kilo‑Agenten ihre Arbeit koordinieren

Ein Agentenschwarm verteilt verwandte Aufgaben auf mehrere KI‑Agenten. Ein Agent könnte ein Authentifizierungsdesign untersuchen, während ein anderer Tests schreibt oder eine separate Komponente implementiert. Der potenzielle Vorteil ist paralleler Fortschritt, vorausgesetzt, die Agenten können Erkenntnisse teilen und verhindern, dass sie gegensätzlich arbeiten.

Kilos technische Beschreibung von Swarm erklärt den Koordinationsmechanismus: Eine Hauptsitzung und ihre abgeleiteten Agenten teilen ein Nachrichtenboard. Agenten können Erkenntnisse posten und das Board lesen, während die Arbeit weiterläuft, anstatt darauf zu warten, dass jede Teilaufgabe abgeschlossen ist, bevor Ergebnisse ausgetauscht werden.

Diese Unterscheidung ist wichtig. Ein Test‑Agent kann über eine Authentifizierungsentscheidung lernen, bevor er eine Suite schreibt, die etwas anderes annimmt. Kilo sagt, frühe interne Bewertungen deuten darauf hin, dass weniger doppelte Arbeit den Token‑Verbrauch senken kann, aber das Unternehmen hat keine numerischen Ergebnisse zu dieser Behauptung veröffentlicht.

Die gleiche Dokumentation definiert zudem eine zu verstehende Grenze: Board‑Nachrichten wecken, setzen nicht fort und genehmigen Agenten nicht, und beratende Halte‑ oder Vetomeldungen stoppen sie nicht automatisch. Jeder Teilnehmende kann die vollständige Board‑Historie einsehen. Koordination muss daher von durchsetzbaren Berechtigungen und Ausführungskontrollen unterschieden werden.

Anacondas Startseite stellt diese Workflows in VS Code bereit und beschreibt parallele Arbeit über Worktrees hinweg. Sie führt zudem Kilo Desktop in der Beta ein, das Engineering, Data Science und das Management von Python‑Umgebungen kombiniert und Zugriff auf mehr als 500 Modelle sowie lokale Inferenz bietet.

Sicherheitstests, die die Taktik ändern

Enkrypt AI liefert die adversarische Testkomponente der Plattform. Anaconda sagt, das erweiterte Sicherheitsangebot testet Modelle, Agenten und MCP‑Integrationen über mehr als 300 Angriffskategorien hinweg, zusätzlich zum Laufzeitschutz.

technische Erklärung des autonomen Red‑Teamings beschreibt, dass man mit bekannten Angriffsmustern beginnt und anschließend Agenten einsetzt, um ihr Vorgehen an die Reaktionen des Ziels anzupassen. Ein Agent bildet eine Hypothese über eine Schwachstelle, testet sie, prüft das Ergebnis und entscheidet, was als Nächstes versucht werden soll.

Eine Ablehnung kann beispielsweise eine Strategiewechsel auslösen, anstatt eine weitere Paraphrase derselben Anforderung zu erzeugen. Das System nutzt Sitzungs‑Gedächtnis, um das Wiederholen gescheiterter Ansätze zu vermeiden, und parallele Exploration, um gleichzeitig verschiedene Risiken zu untersuchen. Anaconda sagt, dass diese Tests innerhalb der Umgebung des Kunden ausgeführt werden und auf das Bedrohungsmodell der Bereitstellung abgestimmt sind.

Dieser Ansatz ist relevant für Agenten, die Informationen aus Werkzeugen und externen Quellen konsumieren. Das Risiko beschränkt sich nicht auf eine unsichere Antwort: Eine in abgerufenen Materialien versteckte Anweisung könnte einen späteren Werkzeugaufruf steuern. Tests müssen Verhaltensketten untersuchen, einschließlich welcher Informationen der Agent vertraut und welche Aktionen daraus folgen.

Laufzeit‑Guardrails adressieren ein anderes Problem

Das Finden einer Schwachstelle während des Tests und das Verhindern einer unsicheren Aktion während des Betriebs sind separate Aufgaben. Enkrypt AI’s Guardrails-Produkt ist darauf ausgelegt, riskantes Verhalten bei Agenten, Werkzeugen, Retrieval‑erweiterter Generierung und Model‑Context‑Protocol‑Verbindungen zu genehmigen, zu ändern oder zu blockieren.

Das Unternehmen identifiziert Prompt‑Injection, unsichere Werkzeugaktionen, Verstöße gegen Privileg‑Grenzen und die Exfiltration sensibler Daten zu den Risiken, die es adressiert. Der Fokus auf prüfbare Entscheidungen macht die Kontrollschicht sowohl für die Vorfalluntersuchung als auch für die Prävention relevant.

Anacondas Einführung beinhaltet außerdem Model‑Risikoscores innerhalb von Kilo sowie ein Agent‑Incident‑Register mit quellgestützten öffentlichen Vorfallberichten. Diese können die Modellauswahl und Testprioritäten informieren. Sie sollten als Eingaben in einen Sicherheitsprozess behandelt werden, nicht als Nachweis dafür, dass eine bestimmte Bereitstellung sicher ist.

Die Skalierungszahlen erfordern ähnliche Sorgfalt. Anaconda berichtet, dass 63 % der Befragten seiner Umfrage unter KI‑nativen Entwicklern in irgendeiner Form zu Schwärmen übergehen. In der Ankündigung wird zudem die Forschung von Enkrypt zitiert, die in 73 % von 25 264 über vier Monate gescannten MCP‑Servern Schwachstellen fand. Dabei handelt es sich um vom Anbieter gemeldete Ergebnisse zu den Befragten und untersuchten Systemen, nicht um eine Messung aller Unternehmens‑Agenten‑Bereitstellungen.

Warum die Produktionsumgebung zur Geschichte gehört

Anacondas KI‑Orchestrierungsplattform, früher Outerbounds befasst sich mit dem, was nach der Entwicklung geschieht. Auf seiner Website werden reproduzierbare Workflow‑Durchläufe, Artefakt‑Tracking und -Herkunft beschrieben, wobei Rechenleistung über mehrere Clouds hinweg verfügbar ist und Governance auf Pakete und Modelle angewendet wird.

Damit wird eine Möglichkeit geschaffen, ein Ergebnis mit der Umgebung und den Abhängigkeiten zu verknüpfen, die es erzeugt haben. Ändert sich ein Workflow, müssen Teams wissen, welches Modell, Paket oder welche Richtlinie sich dabei geändert hat. Reproduzierbarkeit macht Untersuchung und Vergleich praktikabler.

Der Oktober‑Start fügt nativen Zugriff auf verwaltete Artefakte innerhalb von Orchestrierungs‑Workflows hinzu. Auf der umfassenderen Release‑Seite wird außerdem Fast Bakery beschrieben, das Container‑Images aus conda‑ und PyPI‑Abhängigkeiten, einschließlich nativer Bibliotheken, erstellt, sowie ein erweiterter Katalog von über 19 000 kuratierten Paketen und 77 geprüften Open‑Source‑Modellen.

Die Erweiterung verleiht Anaconda eine breitere Rolle als nur die Bereitstellung von Python‑Komponenten. Das Angebot umfasst nun agentenunterstützte Entwicklung, adversarielle Bewertung, Laufzeit‑Steuerungen und wiederholbare Bereitstellung. Der entscheidende Test wird sein, ob diese Bausteine den Teams ein verlässliches Protokoll darüber liefern, was Agenten gebaut haben, was getestet wurde und was ihnen erlaubt war, als die Software in Betrieb genommen wurde.