Λιάτ Χαγιούν, Αντιπρόεδρος Produkt Management & Έρευνας στην Tenable – Σειρά Συνεντεύξεων

Λιάτ Χαγιούν είναι ο Αντιπρόεδρος Produkt και Έρευνας στην Tenable Cloud Security. Πριν ενταχθεί στην Tenable, η Λιάτ ήταν συνιδρύτρια και Διευθύντρια της Eureka Security, μια εταιρείας ασφαλείας δεδομένων που αποκτήθηκε από την Tenable. Πριν ιδρύσει την Eureka Security, η Λιάτ πέρασε πάνω από μια δεκαετία ηγώντας τις προσπάθειες κυβερνοασφάλειας στο Ισραηλινό Κυβερνοекомάντο και στην Palo Alto Networks (PANW ). Ως Αντιπρόεδρος Produkt Management στην Palo Alto Networks, η Λιάτ ηγήθηκε της ανάπτυξης του Cortex XDR και της υπηρεσίας managed threat hunting της εταιρείας.

Tenable είναι μια αμερικανική εταιρεία κυβερνοασφάλειας που επικεντρώνεται στην βοήθεια των οργανισμών να ανακαλύψουν, να κατανοήσουν, να προτεραιοποιήσουν και να επιλύσουν τις ευπάθειες ασφαλείας σε όλη την ψηφιακή επιφάνεια επίθεσης. Είναι πιο γνωστή για την πλατφόρμα διαχείρισης εκθέσεων και εργαλεία όπως ο ανιχνευτής ευπαθειών Nessus, που επιτρέπουν στις επιχειρήσεις να αποκτήσουν ορατότητα στις απειλές που εκτείνονται στην υποδομή ΤΙ, cloud, OT / IoT και συστήματα ταυτοποίησης και να λάβουν αποφασιστικές ενέργειες για να μειώσουν τον κίνδυνο που επηρεάζει τις επιχειρήσεις. Οι λύσεις της Tenable παρέχουν συνεχής ανακάλυψη, προτεραιοποίηση και έρευνα απειλών για να υποστηρίξουν την προληπτική διαχείριση κυβερνοκινδύνου για δεκάδες χιλιάδες πελάτες σε όλο τον κόσμο.

Τι είναι αυτό που καθιστά τους αυτόνομους πράκτορες AI πιο επικίνδυνους από τα παραδοσιακά μοντέλα AI που απαντούν μόνο σε προτροπές χρηστών και όχι σε ανεξάρτητες ενέργειες;

Οι αυτόνομοι πράκτορες AI αλλάζουν τη φύση του κινδύνου επειδή μπορούν να ξεκινήσουν εργασίες, να αποκτήσουν πρόσβαση σε συστήματα, να λάβουν αποφάσεις και να αλληλεπιδράσουν με άλλες υπηρεσίες χωρίς εποπτεία ανθρώπων.

Αυτή η ανεξαρτησία επεκτείνει τόσο την ταχύτητα όσο και την κλίμακα του πιθανού αντίκτυπου, αυξάνοντας τη πιθανότητα έκθεσης δεδομένων, διακοπής λειτουργίας και οικονομικής ζημιάς. Ένας πράκτορας AI μπορεί να αναζητήσει αποθήκες δεδομένων, να ενεργοποιήσει ροές εργασιών, να καλέσει API ή να τροποποιήσει υποδομή σε πραγματικό χρόνο. Αν είναι λανθασμένα ρυθμισμένοι ή υποκλοπευμένοι, μπορεί να κινηθεί οριζόντια σε συστήματα χρησιμοποιώντας τις άδειες που έχει λάβει, συχνά πιο γρήγορα από ό,τι θα μπορούσε να ανιχνεύσει ή να παρέμβει ένας άνθρωπος.

Σύμφωνα με την έκθεση κινδύνου AI και cloud της Tenable για το 2026, το 52% των οργανισμών έχουν μη ανθρώπινες ταυτότητες με υπερβολικές άδειες, και σχεδόν το μισό από αυτές είναι ανενεργές, δημιουργώντας ευρεία ανεξέλεγκτη πρόσβαση σε περιβάλλοντα παραγωγής. Αυτό σημαίνει ότι πολλοί αυτοματοποιημένοι διαδικασίες έχουν ήδη πρόσβαση που δεν χρησιμοποιούν ενεργά, αλλά οι επιτιθέμενοι μπορούν.

Οι επιτιθέμενοι εκμεταλλεύονται όλο και περισσότερο το που προβλήματος του Confused Deputy. Δεν χρειάζεται να υποκλοπευτεί ο ίδιος ο πράκτορας. Αντίθετα, πείθουν έναν εξουσιοδοτημένο πράκτορα να εκτελέσει ενέργειες για λογαριασμό τους, συχνά μέσω έμμεσης ένεσης προτροπής ή χειρισμένων εισροών. Ο πράκτορας εκτελεί την αίτηση χρησιμοποιώντας τις hợp法ικές άδειες, εκτελώντας ουσιαστικά το έργο του επιτιθέμενου. Όταν αυτόνομες συστήματα κληρονομούν ευρείες άδειες ή αναλαμβάνουν υπερεξουσιοδοτημένα ρόλους, ο χρόνος μεταξύ λανθασμένης ρύθμισης και εκμετάλλευσης εξαφανίζεται ουσιαστικά, δημιουργώντας einen μηδενικό περιθώριο κενό έκθεσης AI.

Ποια είναι τα πρώτα συγκεκριμένα βήματα που πρέπει να κάνουν οι ομάδες ασφαλείας για να αξιολογήσουν εάν οι πράκτορες AI λειτουργούν ήδη μέσα στο περιβάλλον τους;

Η κλείσιμο του κενού έκθεσης AI ξεκινά με την ανακάλυψη που επεκτείνεται πέρα από τις παραδοσιακές αποθέτες περιουσιακών στοιχείων. Η φάση πειραματισμού είναι συχνά η πιο επικίνδυνη επειδή οι οργανισμοί δεν γνωρίζουν πλήρως τι AI χρησιμοποιείται, πώς είναι ρυθμισμένο ή ποια άδεια έχει λάβει.

Οι πράκτορες AI σπάνια ζουν σε ένα μόνο, σαφώς επισημασμένο σύστημα. Πολλοί λειτουργούν έξω από формική διακυβέρνηση. Εμφανίζονται σε εργαλεία προγραμματιστών, ολοκληρώσεις SaaS, αυτοματοποιημένες ροές εργασιών, επεκτάσεις προγράμματος περιήγησης και υπηρεσίες cloud, που δημιουργούν μια κατανεμημένη ανάπτυξη που αυξάνει τα τυφλά σημεία και περιορίζει τον κεντρικό έλεγχο. Αυτό είναι ήδη ευρεία, поскольку πάνω από το 70% των οργανισμών έχουν ολοκληρώσει τουλάχιστον ένα πακέτο AI ή μοντέλου τρίτου μέρους, συχνά ενσωματώνοντας AI βαθιά σε εφαρμογές και υποδομή με περιορισμένη κεντρική εποπτεία.

Πρόσφατη έρευνα για το Clawdbot δείχνει ότι οι πειραματικές αναπτύξεις πρακτόρων μπορούν να δημιουργήσουν σοβαρά рисκ όταν οι ικανότητες αναπτύσσονται πριν από τα μέτρα ασφαλείας ή τους προτύπους ρύθμισης. Ακόμη και μετά το τέλος του πειραματισμού και την απόφαση των οργανισμών ποια εφαρμογές AI να υιοθετήσουν, χρειάζονται ακόμη ισχυρή διακυβέρνηση για το πώς αυτά τα συστήματα χρησιμοποιούνται, ποια άδεια έχουν και πώς αλληλεπιδρούν με κρίσιμα περιουσιακά στοιχεία.

Η φάση ανακάλυψης πρέπει να ξεκινήσει με την καθιέρωση eines ενοποιημένου καταλόγου όπου υπάρχει AI σε τελικούς σταθμούς, υποδομή cloud και εξωτερικές επιφάνειες επίθεσης. Αυτό περιλαμβάνει την αναγνώριση βιβλιοθηκών AI, πρακτόρων, API, υπηρεσιών μοντέλων και ολοκληρώσεων τρίτου μέρους, όχι μόνο εσωτερικά αναπτυγμένα συστήματα, αλλά ο,τιδήποτε εξωτερικά προσβάσιμο.

Επόμενο, οι ομάδες πρέπει να χαρτογραφήσουν πώς αυτοί οι πράκτορες συνδέονται και ποια δεδομένα έχουν πρόσβαση, ποια ταυτότητες χρησιμοποιούν, ποια άδεια έχουν και ποια συστήματα μπορούν να φτάσουν. Η ορατότητα απαιτεί контекστό καθώς ο κίνδυνος προκύπτει από σχέσεις.

Τέλος, μετά το πείραμα, οι οργανισμοί πρέπει να αναγνωρίσουν ποια από αυτές τις συνδέσεις δημιουργούν προσβάσιμους δρόμους σε κρίσιμα περιουσιακά στοιχεία και να κλείσουν το κενό έκθεσης AI.

Πώς συγκρίνονται οι κίνδυνοι όπως οι εκτεθειμένες επιφάνειες ελέγχου ή οι μη ελεγμένες ικανότητες τρίτων με πιο οικείες απειλές όπως οι επιθέσεις αλυσίδας εφοδιασμού ή η άνοδος προνομίων;

Οι μη ελεγμένες ικανότητες τρίτων και οι εκτεθειμένες επιφάνειες ελέγχου επεκτείνουν παρόμοιους κινδύνους με την υποκλοπή αλυσίδας εφοδιασμού και την άνοδο προνομίων, αλλά με ενισχυμένη ταχύτητα, κλίμακα και συνδεσιμότητα.

Οι ικανότητες πρακτόρων τρίτων μέρους λειτουργούν πολύ σαν εξαρτήσεις αλυσίδας εφοδιασμού λογισμικού, και η επιφάνεια έκθεσης ήδη φέρει σημαντικό βάρος. Ογδόντα έξι τοις εκατό των οργανισμών φιλοξενούν πακέτα κώδικα τρίτων με κρίσιμες ευπάθειες. Όταν αυτά τα στοιχεία λειτουργούν μέσα σε αυτόνομους πράκτορες AI, η εκτέλεση γίνεται συνεχής και αυτοματοποιημένη, εξαλείφοντας τον χρόνο μεταξύ υποκλοπής και αντίκτυπου.

Οι εκτεθειμένες επιφάνειες ελέγχου επεκτείνουν το στρώμα ταυτότητας και πρόσβασης του κινδύνου, δημιουργώντας νέες λειτουργικές διεπαφές που φέρουν υψηλές άδειες. Δέκα οκτώ τοις εκατό των οργανισμών ήδη επιτρέπουν στις υπηρεσίες AI να αναλαμβάνουν υπερεξουσιοδοτημένα ρόλους, δίνοντας αυτοματοποιημένα συστήματα ευρεία εμβέλεια σε περιβάλλοντα. Οι πράκτορες AI συνδέουν αυτές τις εκθέσεις σε μια seule λειτουργική αλυσίδα. Μια ευάλωτη εξάρτηση, υπερβολικές άδειες και εκτεθειμένες διεπαφές συνδυάζονται σε einen προσβάσιμο δρόμο επίθεσης. Οι οργανισμοί λειτουργούν σε ένα περιβάλλον χωρίς περιθώριο λάθους, όπου η έκθεση και η εκμετάλλευση ευθυγραμμίζονται σχεδόν άμεσα.

Από άποψη άμυνας, τι σημαίνει “καλή υγιεινή” για τους οργανισμούς που αναπτύσσουν πράκτορες AI με πρόσβαση σε εσωτερικά συστήματα ή ευαίσθητα δεδομένα;

Η καλή υγιεινή ξεκινά με την αντιμετώπιση των πρακτόρων AI ως εξουσιοδοτημένων ψηφιακών ηγετών με πραγματική εξουσία σε συστήματα και δεδομένα. Οι οργανισμοί χρειάζονται συνεχής ορατότητα σε κάθε πράκτορα, τι κάνει και τι μπορεί να φτάσει. Οι ομάδες πρέπει να επιβάλλουν την ελάχιστη άδεια για μηχανές και ταυτότητες υπηρεσιών, να αφαιρέσουν την ανενεργή πρόσβαση και να περιορίσουν στενά τις άδειες. Κάθε πράκτορας πρέπει να είναι αφιερωμένος σε einen συγκεκριμένο τύπο εργασίας, με άδειες και πρόσβαση περιορισμένες αυστηρά σε αυτή τη λειτουργία.

Αυτό έχει σημασία επειδή η ανενεργός πρόσβαση είναι ευρεία. Σχεδόν το μισό των ταυτοτήτων με κρίσιμες υπερβολικές άδειες είναι ανενεργές, και πάνω από το 70% των προεπιλεγμένων ρόλων εκτέλεσης AI παραμένουν ανενεργά. Αυτές οι συνθήκες δημιουργούν έτοιμους δρόμους ανόδου που φέρουν κίνδυνο χωρίς να προσφέρουν αξία.

Οι ομάδες ασφαλείας πρέπει επίσης να κατανοήσουν τις σχέσεις σε υποδομή, αποθήκες δεδομένων, API και εφαρμογές. Η χαρτογράφηση αυτών των συνδέσεων αποκαλύπτει τοξικές συνδυασμούς έκθεσης, όπως ευάλωτες εργασίες που είναι προσβάσιμες μέσω υπερεξουσιοδοτημένων πρακτόρων με πρόσβαση σε ευαίσθητα δεδομένα.

Η ισχυρή υγιεινή απαιτεί επίσης συνεχή διακυβέρνηση. Οι οργανισμοί πρέπει να παρακολουθούν τη συμπεριφορά των πρακτόρων, να ελέγχουν τις ολοκληρώσεις, να επιβάλλουν φραγμούς δεδομένων και να επικυρώνουν τακτικά τις άδειες. Αυτές οι πρακτικές κλείνουν το κενό έκθεσης AI και αφαιρούν τους προσβάσιμους δρόμους επίθεσης.

Τι συνιστάτε οι οργανισμοί να κάνουν για να προστατεύσουν τις επιφάνειες επίθεσης AI γρήγορα χωρίς να επιβραδύνουν την καινοτομία;

Οι οργανισμοί μπορούν να προστατεύσουν τις επιφάνειες επίθεσης AI μειώνοντας την έκθεση με ταχύτητα και ακρίβεια.

Για να το κάνουν αυτό, η πρώτη προτεραιότητα είναι να αναγνωρίσουν ποια συστήματα AI δημιουργούν προσβάσιμους δρόμους σε κρίσιμα περιουσιακά στοιχεία. Πάνω από το 80% των οργανισμών τρέχουν εργασίες με ευπάθειες που έχουν ήδη εκμεταλλευτεί στο άγριο. Ο κίνδυνος ήδη υπάρχει μέσα στα περισσότερα περιβάλλοντα. Οι ομάδες ασφαλείας πρέπει να επικεντρωθούν στις συνδέσεις που δημιουργούν πραγματικό αντίκτυπο.

Στη συνέχεια, να συνειδητοποιήσουν ότι η αυτοματοποίηση ενεργοποιεί την κλίμακα. Η συνεχής ανακάλυψη, η контекστοποιημένη προτεραιοποίηση και η καθοδηγούμενη επιδιόρθωση επιτρέπουν στις ομάδες να μειώσουν τον κίνδυνο διατηρώντας την ταχύτητα ανάπτυξης.

Ενώ οι πολιτικές φραγμοί προστατεύουν την υιοθέτηση, η πρόσβαση just-in-time, οι παρακολουθούμενες ροές δεδομένων και οι ελεγχόμενες ολοκληρώσεις βοηθούν τους οργανισμούς να διαχειρίζονται την δραστηριότητα AI διατηρώντας την καινοτομία.

Μαζί, αυτά τα βήματα μειώνουν το κενό έκθεσης AI αφαιρώντας τις υψηλού κινδύνου άδειες και τις ασφαλείς συνδέσεις. Η ταχεία μείωση της έκθεσης προστατεύει τα συστήματα ενώ επιτρέπει την υιοθέτηση AI να προχωρήσει.

Πώς πρέπει οι CISO να σκέφτονται την ταυτότητα, τις άδειες και το πεδίο όταν χορηγούν στους πράκτορες AI πρόσβαση σε συστήματα παραγωγής;

Οι CISO πρέπει να αντιμετωπίζουν τους πράκτορες AI ως υψηλής ταχύτητας μη ανθρώπινες ταυτότητες με λειτουργική εξουσία σε συστήματα και δεδομένα.

Οι αποφάσεις πρόσβασης πρέπει να επικεντρωθούν στην ακρίβεια. Οι άδειες πρέπει να συσχετιστούν με συγκεκριμένες εργασίες, να παραμείνουν χρονικά περιορισμένες και να υποβληθούν σε συνεχή ανασκόπηση. Η υπερβολική άδεια επεκτείνει την εμβέλεια και αυξάνει τον αντίκτυπο όταν τα συστήματα αλληλεπιδρούν με ταχύτητα μηχανής.

Οι ηγέτες ασφαλείας χρειάζονται επίσης σαφή έμπνευση στην αποτελεσματική εμβέλεια. Οι άδειες, σε συνδυασμό με δρόμους δικτύου, πρόσβαση δεδομένων και ολοκληρώσεις υπηρεσιών, ορίζουν τι μπορεί πραγματικά να κάνει ένας πράκτορας. Η κατανόηση αυτών των σχέσεων αποκαλύπτει πιθανή έκθεση πριν γίνει αντίκτυπος.

Η ταυτότητα συνδέει την υποδομή, τα δεδομένα και τις εφαρμογές σε όλο το κενό έκθεσης AI. Η στενή σχεδίαση άδειας περιορίζει την εμβέλεια και διατηρεί τον έλεγχο. Όταν ο χρόνος από την ανακάλυψη της έκθεσης στην εκμετάλλευση είναι σχεδόν μηδέν, η διακυβέρνηση ταυτότητας καθορίζει πώς ασφαλής λειτουργεί το AI σε περιβάλλοντα παραγωγής.

Περιμένετε οι πράκτορες AI να αναγκάσουν μια επανεξέταση των υφιστάμενων πλαισίων ασφαλείας ή μπορούν τα σημερινά μοντέλα να προσαρμοστούν για να αντιμετωπίσουν αυτούς τους νέους κινδύνους;

Οι αρχές ασφαλείας παραμένουν συνεπείς, αλλά τα μοντέλα λειτουργίας εξελίσσονται. Οι πράκτορες AI συνδέουν συστήματα, ταυτότητες και δεδομένα σε δυναμικά περιβάλλοντα που αλλάζουν συνεχώς και λειτουργούν με ταχύτητα μηχανής. Σε αντίθεση με τους ανθρώπινους χειριστές, οι πράκτορες δεν εφαρμόζουν κρίση στις ενέργειές τους ή δεν διακρίνουν μεταξύ κατάλληλων και ακατάλληλων αιτημάτων. Εκτελούν με βάση οδηγίες και άδειες, αυξάνοντας τη σημασία της αυστηρής ελέγχου και διακυβέρνησης.

Ο κίνδυνος προκύπτει από σχέσεις σε υποδομή, αλυσίδες εφοδιασμού λογισμικού και στρώματα ταυτότητας. Οι οργανισμοί κληρονομούν έκθεση γρηγορότερα από ό,τι μπορούν να跟πουν οι κύκλοι επιδιόρθωσης. Η αυτοματοποιημένη ανάπτυξη και η αυτοματοποιημένη εκμετάλλευση συμπιέζουν τον χρόνο αντίδρασης και αυξάνουν την πίεση λειτουργίας.

Τα πλαισία ασφαλείας χρειάζεται να επικεντρωθούν στην ορατότητα και μείωση της έκθεσης. Οι ομάδες απαιτούν συνεχή έμπνευση σε ότι υπάρχει, πώς τα συστήματα συνδέονται και ποιοί δρόμοι οδηγούν σε κρίσιμα περιουσιακά στοιχεία.

Η μεγαλύτερη πρόκληση είναι η διαχείριση του διασυνδεμένου κινδύνου σε όλο το κενό έκθεσης AI. Τα προγράμματα ασφαλείας επιτυγχάνουν με τη συνεχή μείωση της προσβάσιμης έκθεσης και τη διατήρηση του ελέγχου σε σύνθετα περιβάλλοντα.

Προβλέποντας, ποια πεδία έρευνας ασφαλείας πρακτόρων AI αξίζει να λάβουν περισσότερη προσοχή καθώς αυτά τα εργαλεία μετακινούνται από πειραματικά σε κρίσιμα;

Πολλά πεδία έρευνας θα διαμορφώσουν το μέλλον της ασφαλείας πρακτόρων AI.

Πρώτα, η ανάπτυξη των οικοσυστημάτων μη ανθρώπινων ταυτοτήτων απαιτεί βαθύτερη ανάλυση. Οι οργανισμοί επεκτείνουν γρήγορα τις μηχανικές ταυτότητες που λειτουργούν σε υποδομή, δεδομένα και υπηρεσίες. Η κατανόηση των προτύπων άδειας, συμπεριφοράς και διαχείρισης κύκλου ζωής θα είναι απαραίτητη.

Δεύτερον, η έρευνα πρέπει να προχωρήσει στη μοντελοποίηση δρομών επίθεσης πολλαπλών βημάτων. Τα συστήματα AI συνδέουν αλυσίδες εφοδιασμού λογισμικού, υποδομή cloud και στρώματα ταυτότητας. Η χαρτογράφηση του πώς αυτά τα στοιχεία αλληλεπιδρούν θα βελτιώσει την πρόβλεψη και προτεραιοποίηση κινδύνου.

Τρίτον, η διακυβέρνηση της αυτόνομης λήψης αποφάσεων απαιτεί μεγαλύτερη προσοχή. Οι ομάδες ασφαλείας χρειάζονται ορατότητα σε πώς οι πράκτορες αποκτήσουν, επεξεργαστούν και μεταφέρουν ευαίσθητα δεδομένα με την πάροδο του χρόνου.

Τέλος, η ταχύτητα εκμετάλλευσης συνεχίζει να αυξάνεται. Η μελέτη του πώς οι επιτιθέμενοι και οι αμυνόμενοι λειτουργούν με ταχύτητα μηχανής θα διαμορφώσει τις στρατηγικές αντίδρασης.

Το μέλλον της ασφαλείας εξαρτάται από την κατανόηση και μείωση του κενού έκθεσης AI. Η έρευνα πρέπει να επικεντρωθεί στον έλεγχο της διασυνδεμένης έκθεσης σε όλη την επιφάνεια επίθεσης.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα μπορούν να επισκεφθούν την Tenable.