Η Sysdig λανσάρει το AI Defense για τη διακυβέρνηση των ενεργειών των πρακτόρων, από το τερματικό έως το νέφος

Η Sysdig κυκλοφόρησε το AI Defense, ένα προϊόν ασφάλειας και διακυβέρνησης κατά τον χρόνο εκτέλεσης, σχεδιασμένο να ελέγχει τι κάνουν οι πράκτορες ΤΝ και να παρεμβαίνει όταν οι ενέργειές τους υπερβαίνουν τις πολιτικές ενός οργανισμού. Η ανακοίνωση της 4ης Νοεμβρίου καθιστά το προϊόν γενικά διαθέσιμο για macOS και Windows, με δυνατότητα ορατότητας που αποσκοπεί στη συσχέτιση της δραστηριότητας στους σταθμούς εργασίας των εργαζομένων με τους πόρους νέφους στους οποίους παρέχουν πρόσβαση τα διαπιστευτήριά τους.

Το προϊόν ανταποκρίνεται στη μετάβαση από την ΤΝ που παράγει απαντήσεις στην ΤΝ που χειρίζεται λογισμικό. Ένας πράκτορας προγραμματισμού μπορεί να διαβάζει αρχεία, να καλεί εργαλεία, να εκκινεί διεργασίες και να τροποποιεί υποδομές. Για την ασφάλεια αυτής της ροής εργασιών απαιτείται κατανόηση τόσο της εργασίας που πιστεύει ο πράκτορας ότι εκτελεί όσο και των ενεργειών που πραγματοποιούνται στην πραγματικότητα στο παρασκήνιο.

Συσχέτιση της πρόθεσης του πράκτορα με τα στοιχεία του λειτουργικού συστήματος

Η Sysdig αναφέρει ότι το AI Defense συνδυάζει την καταγραφή δεδομένων μέσα στο περιβάλλον εκτέλεσης ενός πράκτορα —το πλαίσιο που τον εκτελεί— με τηλεμετρία του λειτουργικού συστήματος. Η καταγραφή στο περιβάλλον εκτέλεσης αποτυπώνει κλήσεις προς εργαλεία, διακομιστές του Model Context Protocol, δεξιότητες και πρόσθετα, μαζί με τα ορίσματα και τους στόχους τους. Η παρακολούθηση σε επίπεδο συστήματος παρέχει ξεχωριστή καταγραφή των διεργασιών και της δραστηριότητας που προκαλούν αυτές οι κλήσεις.

Η διάκριση έχει σημασία όταν η περιγραφή του πράκτορα είναι ελλιπής ή έχει παραβιαστεί. Μια αναφερόμενη ενέργεια μέσω εργαλείου μπορεί να εκκινήσει πολλές διεργασίες, ενώ μια σύνδεση ή δεξιότητα που προστίθεται κατά τη διάρκεια μιας συνεδρίας μπορεί να αλλάξει τις δυνατότητες του πράκτορα. Η Sysdig αναφέρει ότι σε μια αρχική παρατήρηση εντόπισε περίπου επτά υποκείμενες διεργασίες για κάθε ενέργεια που καταγράφεται στα αρχεία καταγραφής των πρακτόρων· πρόκειται για εύρημα της εταιρείας και όχι για καθολική αναλογία που ισχύει για όλους τους πράκτορες.

Το σύστημα λαμβάνει επίσης υπόψη τα δικαιώματα πρόσβασης: η ίδια ενέργεια ανάγνωσης αρχείου μπορεί να έχει διαφορετικές συνέπειες, ανάλογα με το αν το σχετικό διαπιστευτήριο παρέχει πρόσβαση σε περιβάλλον δοκιμών ή δικαιώματα διαχείρισης του περιβάλλοντος παραγωγής. Ένα γράφημα ενεργειών προορίζεται να συσχετίζει τη σειρά των συμβάντων, το υπεύθυνο πρόσωπο, τη δραστηριότητα που δηλώνει ο πράκτορας και τους πόρους στους οποίους έχει πρόσβαση.

Πολιτικές που επιτρέπουν, αναστέλλουν ή αποκλείουν μια ενέργεια

Οι οργανισμοί μπορούν αρχικά να θέσουν τις πολιτικές σε λειτουργία ειδοποίησης, προτού ενεργοποιήσουν την επιβολή τους. Όταν επιβληθούν, οι πολιτικές αυτές μπορούν, σύμφωνα με τη Sysdig, να αποκλείουν μη εγκεκριμένα εργαλεία και συνδέσεις, να εμποδίζουν επικίνδυνη πρόσβαση μέσω διαπιστευτηρίων ή να αναστέλλουν μια ενέργεια μέχρι να εγκριθεί από άνθρωπο. Η ανακοίνωση περιγράφει επίσης τον τερματισμό μιας διεργασίας, εάν μια ενέργεια παρακάμψει έναν προηγούμενο έλεγχο.

Οι μηχανισμοί αυτοί εφαρμόζονται σε διαφορετικά σημεία της ακολουθίας εκτέλεσης. Η αποτροπή ολοκλήρωσης μιας λειτουργίας διαφέρει από τον εντοπισμό δραστηριότητας και τον μετέπειτα τερματισμό μιας διεργασίας. Η ανακοίνωση δεν παρέχει δημόσιο πίνακα που να δείχνει ποιοι έλεγχοι είναι προληπτικοί σε κάθε υποστηριζόμενο λειτουργικό σύστημα, περιβάλλον εκτέλεσης και διαχειριζόμενη πλατφόρμα.

Τα πρότυπα πολιτικών περιλαμβάνουν αντιστοιχίσεις με το OWASP Top 10 για εφαρμογές LLM, καθώς και διαδρομές εξαίρεσης για προγραμματιστές. Η Sysdig περιγράφει επίσης αρχεία καταγραφής συνεδριών που δείχνουν ποια πολιτική εφαρμόστηκε, τι επιτράπηκε ή αποκλείστηκε και ποιος ενέκρινε μια εξαίρεση. Τα αρχεία αυτά μπορούν να υποστηρίξουν τη διερεύνηση και τον έλεγχο, χωρίς οι ομάδες να χρειάζεται να ανασυνθέσουν μια συνεδρία μετά από περιστατικό.

Τι προσθέτει το Falco Foundation

Η Sysdig συνδέει το προϊόν με την ιστορία της στην ασφάλεια περιβαλλόντων νέφους κατά τον χρόνο εκτέλεσης και με το Falco, το έργο ανοικτού κώδικα που δημιούργησε αρχικά. Η τεκμηρίωση του Falco περιγράφει την παρακολούθηση συμβάντων του πυρήνα Linux και πηγών συμβάντων που παρέχονται από πρόσθετα, τον εμπλουτισμό των συμβάντων με πληροφορίες για κοντέινερ και το Kubernetes, καθώς και την εφαρμογή κανόνων για την παραγωγή ειδοποιήσεων.

Αυτό το υπόβαθρο εξηγεί γιατί η Sysdig δίνει έμφαση στην παρατηρούμενη εκτέλεση, αντί να βασίζεται αποκλειστικά στην περιγραφή ενός συστήματος ΤΝ. Δεν σημαίνει ότι το έργο ανοικτού κώδικα Falco παρέχει από μόνο του όλες τις δυνατότητες διακυβέρνησης ή αποκλεισμού πρακτόρων που περιγράφονται για το AI Defense. Η τεκμηριωμένη αρχιτεκτονική ανίχνευσης του Falco και το εμπορικό προϊόν της Sysdig πρέπει να εξετάζονται ξεχωριστά.

Η ανακοίνωση κατονομάζει τα Claude Code, Codex, GitHub Copilot και Cursor μεταξύ των περιβαλλόντων πρακτόρων που σκοπεύει να καταγράψει και να συσχετίσει με έναν υπεύθυνο άνθρωπο. Η δήλωση διαθεσιμότητας για macOS και Windows είναι πιο συγκεκριμένη από την ευρύτερη περιγραφή της κάλυψης, η οποία επεκτείνεται σε Linux, Kubernetes και διαχειριζόμενες πλατφόρμες πρακτόρων· οι οργανισμοί θα πρέπει να προσδιορίσουν την κατάλληλη ενσωμάτωση για κάθε περιβάλλον.

Η διακυβέρνηση κατά τον χρόνο εκτέλεσης συμπληρώνει τις δοκιμές μοντέλων

Η τεχνική συζήτηση της Sysdig για την κοινή ευθύνη παρουσιάζει τους ελέγχους κατά τον χρόνο εκτέλεσης ως ένα επίπεδο προστασίας γύρω από τις εργασίες που εκτελεί ένας πράκτορας. Η πρακτική διαφορά είναι ανάμεσα στο να ζητά κανείς από ένα μοντέλο να τηρεί ένα όριο και στο να επιβάλλει αυτό το όριο όταν το λογισμικό επιχειρεί μια ενέργεια.

Το AI Defense παρουσιάζεται ως συμπληρωματικό των υφιστάμενων λύσεων προστασίας τερματικών συσκευών, των δοκιμών μοντέλων και των ασκήσεων προσομοίωσης επιθέσεων. Οι δοκιμές εξετάζουν τη συμπεριφορά ενός μοντέλου ή μιας ροής εργασιών υπό επιλεγμένες συνθήκες· η διακυβέρνηση κατά τον χρόνο εκτέλεσης αφορά τις ενέργειες που γίνονται κατά τη διάρκεια μιας πραγματικής συνεδρίας. Καμία από τις δύο περιγραφές δεν τεκμηριώνει ότι μια εγκατάσταση είναι απρόσβλητη από παραβίαση, ενώ η αποτελεσματικότητα εξαρτάται από τη διαμόρφωση των πολιτικών και την κάλυψη της διαδρομής εκτέλεσης.

Συσχέτιση της δραστηριότητας των πρακτόρων και των δαπανών για ΤΝ με τους υπευθύνους

Πέρα από την ασφάλεια, η Sysdig αναφέρει ότι το AI Defense συσχετίζει τις κλήσεις προς μοντέλα με τον υπεύθυνο πράκτορα, την ομάδα και το άτομο, συμπεριλαμβανομένης δραστηριότητας που δεν διέρχεται από κεντρική πύλη τεχνητής νοημοσύνης. Αυτό θα μπορούσε να βοηθήσει τους οργανισμούς να διακρίνουν την ακριβή χρήση μοντέλων για εργασίες ρουτίνας από τη δραστηριότητα που δικαιολογεί τη χρήση ενός πιο ικανού μοντέλου.

Η ευρύτερη πρόταση είναι η δημιουργία ενός κοινού επιπέδου τεκμηρίωσης για την ασφάλεια, τη διακυβέρνηση και τη διαχείριση του κόστους. Καθώς οι πράκτορες αποκτούν περισσότερα εργαλεία και λειτουργούν με πραγματικά διαπιστευτήρια εργαζομένων, ο αντίκτυπός τους καθορίζεται από όσα μπορούν να εκτελέσουν. Το AI Defense της Sysdig στοχεύει να καθιστά αυτή την εξουσία ορατή και επιβλητή τη στιγμή της ενέργειας.