Η Anaconda συνδυάζει σμήνη πρακτόρων AI με αυτόματο έλεγχο ασφαλείας

Η παροχή περισσότερων εργαλείων σε έναν πρακτόρα AI μπορεί να τον κάνει πιο χρήσιμο. Η ταυτόχρονη παροχή αυτών των εργαλείων σε πολλούς πρακτόρους δημιουργεί ένα πιο δύσκολο ερώτημα: πώς μπορεί μια επιχείρηση να παρακολουθεί τι κάνει ο καθένας και να εμποδίζει μια κακή ενέργεια πριν φτάσει σε πραγματικό σύστημα;

Η επέκταση της πλατφόρμας Anaconda στις 6 Οκτωβρίου αντιμετωπίζει αυτό το πρόβλημα συνδυάζοντας τον συντονισμένο AI development με αυτόματο έλεγχο ασφαλείας. Συγκεντρώνει τεχνολογία από τις Kilo Code, Enkrypt AI και Outerbounds σε χώρους ανάπτυξης, ελέγχους ασφαλείας και ορχήστρα παραγωγής.

Η στρατηγική ιδέα είναι να συνδεθούν οι τοποθεσίες όπου οι πρακτόροι δημιουργούν λογισμικό, όπου η συμπεριφορά τους αμφισβητείται και όπου εκτελούνται οι προκύπτουσες ροές εργασίας. Η Anaconda το αποκαλεί AI Dev Factory. Για τις επιχειρήσεις, το πρακτικό ερώτημα είναι εάν αυτές οι συνδέσεις καθιστούν την αυξανόμενη αυτονομία των πρακτόρων πιο εύκολη στην επιθεώρηση και διακυβέρνηση.

Πώς οι πρακτόροι της Kilo συντονίζουν την εργασία τους

Ένα σμήνος πρακτόρων διανέμει σχετικές εργασίες σε πολλούς πρακτόρους AI. Ένας μπορεί να διερευνήσει ένα σχέδιο πιστοποίησης ενώ ένας άλλος γράφει δοκιμές ή υλοποιεί ένα ξεχωριστό στοιχείο. Το πιθανό πλεονέκτημα είναι η παράλληλη πρόοδος, εφόσον οι πρακτόροι μπορούν να μοιράζονται τα ευρήματα και να αποφεύγουν αντιφατικές ενέργειες.

Η τεχνική περιγραφή του Swarm από την Kilo εξηγεί τον μηχανισμό συντονισμού: μια κύρια συνεδρία και οι παράγωγοί της πρακτόροι μοιράζονται έναν πίνακα μηνυμάτων. Οι πρακτόροι μπορούν να δημοσιεύουν ευρήματα και να διαβάζουν τον πίνακα ενώ η εργασία συνεχίζεται, αντί να περιμένουν να ολοκληρωθεί κάθε υποεργασία πριν ανταλλάξουν αποτελέσματα.

Αυτή η διάκριση έχει σημασία. Ένας πρακτόρας δοκιμών μπορεί να μάθει για μια απόφαση πιστοποίησης πριν γράψει ένα σύνολο δοκιμών που υποθέτει κάτι διαφορετικό. Η Kilo δηλώνει ότι οι πρώιμες εσωτερικές αξιολογήσεις υποδεικνύουν ότι η μείωση της διπλοεγγραφής εργασίας μπορεί να μειώσει την κατανάλωση token, αλλά δεν έχει δημοσιεύσει αριθμητικά αποτελέσματα για αυτή τη δήλωση.

Η ίδια τεκμηρίωση ορίζει επίσης ένα όριο που αξίζει να κατανοηθεί: τα μηνύματα του πίνακα δεν ξυπνούν, επανεκκινούν ή εγκρίνουν τους πρακτόρους, και τα συμβουλευτικά μηνύματα αναστολής ή βέτο δεν τους σταματούν αυτόματα. Όλοι οι συμμετέχοντες μπορούν να διαβάσουν το πλήρες ιστορικό του πίνακα. Συνεπώς, ο συντονισμός πρέπει να διαχωρίζεται από τις επιβλητικές άδειες και τους ελέγχους εκτέλεσης.

Η σελίδα έναρξης της Anaconda τοποθετεί αυτές τις ροές εργασίας στο VS Code και περιγράφει την παράλληλη εργασία σε worktrees. Επίσης παρουσιάζει το Kilo Desktop σε beta, συνδυάζοντας μηχανική, επιστήμη δεδομένων και διαχείριση περιβάλλοντος Python με πρόσβαση σε περισσότερα από 500 μοντέλα και τοπική εκτέλεση.

Δοκιμές ασφαλείας που αλλάζουν τακτικές

Η Enkrypt AI παρέχει την πλευρά του αντιπαραθετικού ελέγχου της πλατφόρμας. Η Anaconda αναφέρει ότι η επεκταμένη προσφορά ασφαλείας δοκιμάζει μοντέλα, πρακτόρους και ενσωματώσεις MCP σε περισσότερες από 300 κατηγορίες επιθέσεων, μαζί με προστασία κατά την εκτέλεση.

Στην τεχνική εξήγηση του αυτόνομου red teaming, η Anaconda περιγράφει ότι ξεκινά με γνωστά πρότυπα επίθεσης και στη συνέχεια χρησιμοποιεί πρακτόρους για να προσαρμόσουν την προσέγγισή τους στις αντιδράσεις του στόχου. Ένας πρακτόρας διαμορφώνει μια υπόθεση για μια αδυναμία, τη δοκιμάζει, εξετάζει το αποτέλεσμα και αποφασίζει τι θα δοκιμάσει στη συνέχεια.

Μια άρνηση, για παράδειγμα, μπορεί να προκαλέσει αλλαγή στρατηγικής αντί για άλλη παραφραστική επανάληψη του ίδιου αιτήματος. Το σύστημα χρησιμοποιεί μνήμη συνεδρίας για να αποφεύγει την επανάληψη αποτυχημένων προσεγγίσεων και παράλληλη εξερεύνηση για να διερευνά διαφορετικούς κινδύνους ταυτόχρονα. Η Anaconda αναφέρει ότι αυτή η δοκιμή εκτελείται μέσα στο περιβάλλον του πελάτη και είναι προσαρμοσμένη στο μοντέλο απειλών της ανάπτυξης.

Αυτή η προσέγγιση είναι σχετική με πρακτόρους που καταναλώνουν πληροφορίες από εργαλεία και εξωτερικές πηγές. Ο κίνδυνος δεν περιορίζεται σε μια μη ασφαλή απάντηση: μια εντολή κρυμμένη σε ανακτημένο υλικό μπορεί να κατευθύνει μια μετέπειτα κλήση εργαλείου. Οι δοκιμές πρέπει να εξετάζουν αλυσίδες συμπεριφοράς, συμπεριλαμβανομένου του τι πληροφορίες εμπιστεύεται ο πρακτόρας και ποιες ενέργειες ακολουθούν.

Τα Runtime guardrails αντιμετωπίζουν διαφορετικό πρόβλημα

Η εύρεση μιας αδυναμίας κατά τη διάρκεια των δοκιμών και η πρόληψη μιας μη ασφαλούς ενέργειας κατά τη λειτουργία είναι ξεχωριστά καθήκοντα. Το προϊόν Guardrails της Enkrypt AI έχει σχεδιαστεί για να εγκρίνει, τροποποιεί ή εμποδίζει επικίνδυνη συμπεριφορά σε όλο το φάσμα των πρακτόρων, εργαλείων, παραγωγής με ενίσχυση ανάκτησης και συνδέσεων Model Context Protocol.

Η εταιρεία εντοπίζει την ένεση προτροπών, μη ασφαλείς ενέργειες εργαλείων, παραβιάσεις ορίων προνομίων και εξαγωγή ευαίσθητων δεδομένων μεταξύ των κινδύνων που στοχεύει. Η έμφαση της σε αποφάσεις που μπορούν να ελεγχθούν καθιστά το επίπεδο ελέγχου σχετικό τόσο με την έρευνα περιστατικών όσο και με την πρόληψη.

Η κυκλοφορία της Anaconda περιλαμβάνει επίσης βαθμολογίες κινδύνου μοντέλων στο Kilo και ένα Κατάλογο Περιστατικών Πρακτόρων που περιέχει δημόσιες αναφορές περιστατικών με πηγαία τεκμηρίωση. Αυτά μπορούν να ενημερώσουν την επιλογή μοντέλων και τις προτεραιότητες δοκιμών. Πρέπει να θεωρούνται είσοδοι σε μια διαδικασία ασφαλείας, όχι απόδειξη ότι μια συγκεκριμένη υλοποίηση είναι ασφαλής.

Τα στοιχεία κλίμακας απαιτούν παρόμοια προσοχή. Η Anaconda αναφέρει ότι το 63 % των ερωτηθέντων στην έρευνά της για δημιουργούς AI-native προχωρούσαν προς σμήνη με κάποια μορφή. Η ανακοίνωσή της επίσης αναφέρει την έρευνα της Enkrypt που βρήκε ευπάθειες στο 73 % των 25 264 διακομιστών MCP που ελέγχθηκαν σε τέσσερις μήνες. Αυτά είναι ευρήματα που ανέφερε ο προμηθευτής σχετικά με τους ερωτηθέντες και τα συστήματα που εξετάστηκαν, όχι μέτρηση κάθε εγκατάστασης πρακτόρων σε επιχειρήσεις.

Γιατί το περιβάλλον παραγωγής ανήκει στην ιστορία

Η πλατφόρμα AI Orchestration, πρώην Outerbounds της Anaconda αντιμετωπίζει το τι συμβαίνει μετά την ανάπτυξη. Η ιστοσελίδα της περιγράφει επαναλήψιμες εκτελέσεις ροής εργασίας, παρακολούθηση τεχνουργημάτων και γενεαλογικό δέντρο, με υπολογιστική ισχύ διαθέσιμη σε πολλαπλά σύννεφα και διακυβέρνηση που εφαρμόζεται σε πακέτα και μοντέλα.

Αυτό παρέχει έναν τρόπο σύνδεσης μιας εξόδου με το περιβάλλον και τις εξαρτήσεις που την παρήγαγαν. Όταν μια ροή εργασίας αλλάζει, οι ομάδες πρέπει να γνωρίζουν ποιο μοντέλο, πακέτο ή πολιτική άλλαξε μαζί της. Η επαναληψιμότητα καθιστά την έρευνα και τη σύγκριση πιο πρακτικές.

Η κυκλοφορία του Οκτωβρίου προσθέτει εγγενή πρόσβαση σε διακυβερνημένα τεχνουργήματα μέσα στις ροές εργασίας ορχήστρωσης. Η ευρύτερη σελίδα κυκλοφορίας περιγράφει επίσης το Fast Bakery, το οποίο δημιουργεί εικόνες κοντέινερ από εξαρτήσεις conda και PyPI, συμπεριλαμβανομένων εγγενών βιβλιοθηκών, καθώς και έναν επεκταμένο κατάλογο με πάνω από 19.000 επιλεγμένα πακέτα και 77 ελεγμένα ανοιχτού κώδικα μοντέλα.

Η επέκταση δίνει στην Anaconda έναν ευρύτερο ρόλο από την προμήθεια στοιχείων Python. Η πρότασή της τώρα περιλαμβάνει ανάπτυξη με υποβοήθηση πρακτόρων, αντιπαραθετική αξιολόγηση, ελέγχους χρόνου εκτέλεσης και επαναλήψιμη παράδοση. Η ουσιώδης δοκιμή θα είναι αν αυτά τα στοιχεία παρέχουν στις ομάδες αξιόπιστο αρχείο του τι δημιούργησαν οι πράκτορες, τι δοκιμάστηκε και τι τους επιτράπηκε να κάνουν όταν το λογισμικό άρχισε να λειτουργεί.