DeepKeep προσθέτει μέτρα ασφαλείας χρόνου εκτέλεσης για τους πράκτορες AI κωδικοποίησης με AI Lens for Developers

DeepKeep παρουσίασε το AI Lens for Developers, ένα επίπεδο ασφαλείας σχεδιασμένο να παρέχει στους CISO ορατότητα και έλεγχο πολιτικών πάνω στους πράκτορες AI κωδικοποίησης που λειτουργούν σε μηχανές προγραμματιστών. Το προϊόν επεκτείνει τις υπάρχουσες δυνατότητες ελέγχου χρήσης AI και προστασίας χρόνου εκτέλεσης της DeepKeep σε εργαλεία όπως το Cursor και το Claude Code, με υποστήριξη για το GitHub Copilot, το OpenAI Codex, το Lovable, το Windsurf και επιπλέον προγραμματιστικούς πράκτορες που προγραμματίζονται.

Η κυκλοφορία αντιμετωπίζει ένα πρόβλημα ασφαλείας που δημιουργείται από την αυξανόμενη αυτονομία των εργαλείων προγραμματιστών. Οι σύγχρονοι πράκτορες κωδικοποίησης μπορούν να επιθεωρούν και να τροποποιούν τοπικά αρχεία, να εκτελούν εντολές κελύφους και να καλούν εξωτερικές υπηρεσίες μέσω του Model Context Protocol (MCP). Αυτά τα δικαιώματα κάνουν τα εργαλεία χρήσιμα, αλλά επίσης επιτρέπουν σε έναν πράκτορα να εκθέτει διαπιστευτήρια, να αλλάζει ευαίσθητο κώδικα ή να αλληλεπιδρά με συστήματα εκτός των ελέγχων που οι ομάδες ασφαλείας παραδοσιακά εφαρμόζουν σε εφαρμογές cloud.

Το αποτέλεσμα είναι ένα αυξανόμενο χάσμα ορατότητας. Μια εταιρεία μπορεί να εγκρίνει έναν βοηθό κωδικοποίησης ως προϊόν, ενώ διαθέτει ελάχιστα αποδεικτικά στοιχεία για το τι έκανε ένας μεμονωμένος πράκτορας κατά τη διάρκεια μιας συγκεκριμένης συνεδρίας. Όπως διερεύνησε πρόσφατα η Unite.AI, οι ομάδες ασφαλείας χρειάζονται όλο και περισσότερο να εντοπίζουν κλήσεις εργαλείων πράκτορα, εκτέλεση εντολών και γεγονότα αλλαγής συστήματος, όχι απλώς να διατηρούν μια λίστα εγκεκριμένων υπηρεσιών AI.

Επιθεώρηση ενεργειών πράκτορα πριν και μετά την εκτέλεση

Το AI Lens for Developers έχει δημιουργηθεί ως ελαφρύ πρόσθετο αντί για πλήρη πράκτορα άκρου. Η DeepKeep δηλώνει ότι ενσωματώνεται στη ροή εργασίας του πράκτορα κωδικοποίησης για να επιθεωρεί προτροπές, ανάγνωση αρχείων, εντολές κελύφους και κλήσεις εργαλείων MCP πριν και μετά την εκτέλεσή τους. Κάθε δραστηριότητα μπορεί να δρομολογείται μέσω του συστήματος πολιτικών της εταιρείας για απόφαση έγκρισης, απόρριψης ή ελέγχου.

Η διάκριση μεταξύ παρα‑εκτελεστικής και μετα‑εκτελεστικής παρακολούθησης είναι σημαντική. Ένα αρχείο ελέγχου μπορεί να εξηγήσει γιατί συνέβη ένα περιστατικό, αλλά δεν μπορεί να αποτρέψει μια καταστροφική εντολή ή να εμποδίσει τη διαρροή ενός μυστικού από το περιβάλλον του προγραμματιστή. Η DeepKeep τοποθετεί το AI Lens τόσο ως προληπτικό μέτρο όσο και ως πηγή αποδείξεων για την ανταπόκριση σε περιστατικά και τη συμμόρφωση.

Το προϊόν μπορεί να επισημαίνει διαπιστευτήρια, διακριτικά πρόσβασης και κωδικούς πρόσβασης που περιλαμβάνονται σε προτροπές ή συνημμένα αρχεία. Επίσης εξετάζει τον κώδικα που παράγεται από τον πράκτορα για μη ασφαλή πρότυπα, όπως συναρτήσεις που παραλείπουν την αυθεντικοποίηση. Εντολές που κριθούν καταστροφικές μπορούν να κρατηθούν για ανθρώπινη έγκριση, ενώ οι διαχειριστές μπορούν να δημιουργήσουν προσαρμοσμένους κανόνες φράσεων‑κλειδιών για την αναγνώριση αναφορών σε ευαίσθητα αποθετήρια, τμήματα κώδικα ή εσωτερικά έργα.

Η DeepKeep δηλώνει ότι κάθε συνεδρία δημιουργεί ένα λεπτομερές αρχείο ελέγχου που μπορεί να περιλαμβάνει το αναγνωριστικό συσκευής, το περιεχόμενο της προτροπής και το αναγνωριστικό χρήστη. Αυτό παρέχει στις ομάδες ασφαλείας έναν τρόπο να ανασυνθέσουν τη δραστηριότητα ενός πράκτορα ακόμη και αν ένας προγραμματιστής τροποποιήσει ένα αποκλεισμένο αίτημα και το δοκιμάσει ξανά.

Κεντρική πολιτική για AI που απευθύνεται σε προγραμματιστές

Οι διαχειριστές διαχειρίζονται τους κανόνες μέσω του Policy Hub της DeepKeep. Οι πολιτικές μπορούν να εφαρμοστούν ανά ρόλο ή σε ολόκληρο τον οργανισμό και μπορούν να καλύψουν κατηγορίες όπως προσωπικά αναγνωρίσιμα στοιχεία, διαπιστευτήρια και καταστροφικές εντολές. Η προσέγγιση αποσκοπεί στο να επιτρέπει στις εταιρείες να θέτουν μια συνεπή στάση ασφαλείας, ενώ επιτρέπει στις ομάδες μηχανικών να συνεχίζουν να χρησιμοποιούν ροές εργασίας ανάπτυξης με πράκτορες.

Η εστίαση του προϊόντος στο MCP είναι ιδιαίτερα επίκαιρη. Το πρωτόκολλο παρέχει στις εφαρμογές AI έναν τυποποιημένο τρόπο σύνδεσης με εργαλεία και επιχειρηματικά δεδομένα, αλλά κάθε διακομιστής και εκτελέσιμη ενέργεια μπορεί να επεκτείνει την επιτιθέμενη επιφάνεια που μπορεί να προσεγγίσει ένας πράκτορας. Η Unite.AI’s οδηγός για το Model Context Protocol σημειώνει ότι οι κεντρικοί υπολογιστές και διακομιστές MCP δημιουργούν διακριτά όρια ασφαλείας, συμπεριλαμβανομένης της έκθεσης σε ενσωμάτωση προτροπών και μη αξιόπιστη έξοδο εργαλείου. Η παρακολούθηση μόνο του μοντέλου είναι επομένως ανεπαρκής όταν το μοντέλο μπορεί να ενεργήσει μέσω άλλων συστημάτων.

Ofer Rotberg, αντιπρόεδρος προϊόντος της DeepKeep, υποστηρίζει ότι οι πράκτορες κωδικοποίησης κληρονομούν ασυνήθιστα ισχυρή πρόσβαση προγραμματιστών ενώ λειτουργούν με αυξανόμενη αυτονομία. Από την οπτική του, οι CISO χρειάζονται συνεχή ορατότητα στη συμπεριφορά των πρακτόρων και τη δυνατότητα να σταματούν επιβλαβείς ενέργειες σε πραγματικό χρόνο, αντί να περιμένουν για να ερευνήσουν το επόμενο περιστατικό.

Μέρος μιας ευρύτερης πλατφόρμας ασφαλείας AI

Το AI Lens for Developers εντάσσεται στην ευρύτερη πλατφόρμα ασφαλείας AI της DeepKeep. Η εταιρεία προσφέρει επίσης AI Firewall, αυτοματοποιημένο και ανθρώπινα καθοδηγούμενο AI red teaming, ελέγχους χρήσης AI, σάρωση πρακτόρων και σάρωση μοντέλων. Η DeepKeep δηλώνει ότι οι έλεγχοι της μπορούν να εφαρμοστούν σε όλο τον κύκλο ζωής του AI, από την ανάπτυξη και δοκιμή έως τη χρήση παραγωγής εφαρμογών και πρακτόρων.

Η εταιρεία ιδρύθηκε το 2021 και περιγράφει την πλατφόρμα της ως ανεξάρτητη από μοντέλα, με υποστήριξη για ανάπτυξη σε περιβάλλοντα SaaS, ιδιωτικό cloud, on‑premises και air‑gapped. Η ευρύτερη προσέγγισή της είναι ότι οι επιχειρήσεις χρειάζονται μια κοινή γλώσσα πολιτικής για μοντέλα, εφαρμογές, υπαλλήλους και αυτόνομους πράκτορες, αντί για ξεχωριστούς ελέγχους για κάθε εργαλείο AI.

Για τους CISO, οι πράκτορες που απευθύνονται σε προγραμματιστές γίνονται ένα επείγον τεστ αυτής της ιδέας. Η παραδοσιακή ασφάλεια εφαρμογών εστιάζει κυρίως στον κώδικα που φθάνει στην παραγωγή. Οι πράκτορες κωδικοποίησης προσθέτουν ένα επιπλέον επίπεδο κινδύνου: η διαδικασία που διαβάζει το αποθετήριο, δημιουργεί τον κώδικα και εκτελεί εντολές μπορεί να είναι αυτόνομη. Προϊόντα όπως το AI Lens προσπαθούν να κάνουν αυτή τη διαδικασία παρατηρήσιμη και επιβλητική χωρίς να αφαιρούν τα οφέλη ταχύτητας που οδήγησαν τους προγραμματιστές να υιοθετήσουν πράκτορες αρχικά.