Craig Riddell, Παγκόσμιος CISO Πεδίου στην Wallarm – Σειρά Συνεντεύξεων

Craig Riddell, Παγκόσμιος Διευθυντής Ασφαλείας στο Wallarm, είναι ένας έμπειρος εκτελεστικός της κυβερνοασφάλειας που επικεντρώνεται στην βοήθεια των επιχειρήσεων να διαχειριστούν τους αυξανόμενους κινδύνους που συνδέονται με τις API και τα συστήματα που驱ώνται από την τεχνητή νοημοσύνη. Στο ρόλο του, συνεργάζεται στενά με τους CISOs, CIOs και τους ηγέτες της μηχανικής για να μετατρέψει τα πραγματικά μοτίβα επιθέσεων και σενάρια κακοποίησης σε ενεργητικές στρατηγικές ασφαλείας, με έμφαση στην παρατηρησιμότητα – κατανοώντας πώς οι API και τα συστήματα της τεχνητής νοημοσύνης συμπεριφέρονται στην παραγωγή σε χρήστες, εφαρμογές και ενσωματώσεις. Η καριέρα του περιλαμβάνει ηγετικά ρόλους σε θέματα ταυτότητας και διαχείρισης πρόσβασης, αρχιτεκτονική zero trust και επιχειρηματική ασφάλεια σε οργανισμούς όπως η Netwrix, η Kron και η HP, όπου οδήγησε μεγάλης κλίμακας μετασχηματισμούς διαχείρισης ταυτότητας και μετέβαλε τα πλαίσια ασφαλείας. Η εμπειρογνωσία του Riddell επικεντρώνεται σε νέες απειλές όπως επιθέσεις λογικής επιχειρήσεων, κακοποίηση API, ολίσθηση συστήματος τεχνητής νοημοσύνης και απάτη, με συνεχή έμφαση στην γέφυρα μεταξύ της υψηλού επιπέδου στρατηγικής ασφαλείας και της λειτουργικής εκτέλεσης.

Wallarm είναι μια εταιρεία κυβερνοασφάλειας που ειδικεύεται στην προστασία των API, εφαρμογών και συστημάτων που驱ώνται από την τεχνητή νοημοσύνη σε σύγχρονα cloud περιβάλλοντα. Η πλατφόρμα της παρέχει συνεχής ανακάλυψη, δοκιμή και προστασία σε πραγματικό χρόνο ενάντια σε απειλές όπως κακοποίηση API, επιθέσεις λογικής επιχειρήσεων και αυτοματοποιημένες εκμεταλλεύσεις, ενώ προσφέρει βαθιά ορατότητα σε πώς τα συστήματα συμπεριφέρονται σε σύνθετα υποδομή. Σχεδιασμένη για multi-cloud και cloud-γενικές αρχιτεκτονικές, η Wallarm ενσωματώνεται στις υπάρχουσες ροές DevOps και ασφαλείας, επιτρέποντας στις οργανώσεις να ανιχνεύουν και να μπλοκάρουν τις επιθέσεις καθώς συμβαίνουν αντί να τις αντιμετωπίζουν μετά το γεγονός. Συνδυάζοντας τον αποθέμα API, την ανίχνευση απειλών που驱ώνεται από την τεχνητή νοημοσύνη και τις αυτοματοποιημένες ικανότητες απόκρισης, η πλατφόρμα αντιμετωπίζει μια αυξανόμενη πραγματικότητα όπου οι API και τα συστήματα της τεχνητής νοημοσύνης έχουν γίνει η πρωταρχική επιφάνεια επιθέσεων για τις σύγχρονες ψηφιακές επιχειρήσεις.

Ξεκινήσατε την καριέρα σας εργαζόμενος trực tiếp με συστήματα και υποδομή και από τότε μεταπηδάτε σε ηγετικά ρόλους που επικεντρώνονται στην ταυτότητα, την πρόσβαση, την API και την ασφάλεια της τεχνητής νοημοσύνης. Ποια είναι τα βασικά στάδια κατά μήκος αυτής της διαδρομής που σας οδήγησαν στο συμπέρασμα ότι ο πραγματικός κίνδυνος έχει μετακινηθεί μακριά από το περιθώριο και στις API και τα μηχανικά συστήματα;

Στις αρχές της καριέρας μου, ο ενδιαφέρον ήταν στην προστασία του περιθωρίου. Τείχη προστασίας, διαχωρισμός, σκληροποίηση υποδομής. Αυτό το μοντέλο λειτουργούσε όταν τα συστήματα ήταν πιο στατικά και τα όρια εμπιστοσύνης ήταν πιο εύκολα να οριστούν.

Αυτό που άλλαξε είναι πώς οι εφαρμογές κατασκευάζονται και πώς τα συστήματα αλληλεπιδρούν. Οι API έγιναν το συνδετικό ιστό του παντός, και η τεχνητή νοημοσύνη επιτάχυνε αυτό το φαινόμενο. Τώρα τα συστήματα λαμβάνουν αποφάσεις, καλούν άλλα συστήματα και εκτελούν ενέργειες σε μια κλίμακα και ταχύτητα που δεν περιλαμβάνει ανθρώπους στη διαδικασία.

Σε εκείνο το σημείο, το περιθώριο γίνεται λιγότερο σχετικό. Ο πραγματικός κίνδυνος μετακινείται όπου λαμβάνονται αποφάσεις και εκτελούνται ενέργειες, μέσα στις API και τις μηχανικές ροές εργασιών.

Εάν δεν έχετε ορατότητα και έλεγχο εκεί, εμπιστεύεστε μια συμπεριφορά που δεν μπορείτε να δείτε πλήρως. Εκεί είναι που εμφανίζεται ο επιχειρηματικός κίνδυνος, από την οικονομική έκθεση στις μη προβλεπόμενες επιπτώσεις και τη διακοπή λειτουργίας.

Έχετε περιγράψει το κυβερνοχέρι ως σπασμένο, αναφερόμενος στο πώς τα συστήματα καθιερώνουν εμπιστοσύνη και ανταλλάσσουν ενέργειες σε αυξανόμενες αλυσίδες API και αυτοματοποιημένων διαδικασιών. Πώς φαίνεται αυτή η διάρρηξη σε ένα πραγματικό περιβάλλον επιχείρησης σήμερα;

Στις περισσότερες περιπτώσεις, τα συστήματα εμπιστεύονται το ένα το άλλο με βάση την ταυτότητα και την αυθεντικοποίηση. Ένας κωδικός είναι έγκυρος, μια αίτηση είναι καλά διαμορφωμένη και η αλληλεπίδραση επιτρέπεται.

Το πρόβλημα είναι ότι αυτό υποθέτει ότι έγκυρος ισοδυναμεί με ασφαλής. Αυτό δεν είναι πλέον αλήθεια.

Αυθεντικοποιούμε την ταυτότητα, αλλά δεν επικυρούμε την πρόθεση. Επιβεβαιώνουμε την πρόσβαση, αλλά όχι τη συμπεριφορά σε όλη την αλυσίδα.

Μια υπηρεσία μπορεί να εξουσιοδοτηθεί να καλέσει μια άλλη υπηρεσία, η οποία προκαλεί κατωτέρω ενέργειες σε πολλαπλά API. Κάθε βήμα φαίνεται νόμιμο από μόνο του, αλλά σε ολόκληρη την αλυσίδα, αρχίζεις να βλέπεις μη προβλεπόμενη συμπεριφορά ή κακοποίηση της λογικής.

Σε περιβάλλοντα που οδηγούνται από την τεχνητή νοημοσύνη, αυτό ενισχύεται. Οι πράκτορες μπορούν να αλυσίδουν ενέργειες και να εκτελούν ροές εργασιών χωρίς ανθρώπινη επανεξέταση.

Το χειροκρότημα vẫn συμβαίνει, αλλά κανείς δεν ρωτάει αν η συμπεριφορά έχει νόημα στο контέκστ. Η εμπιστοσύνη καθιερώνεται αλλά δεν επικυρώνεται συνεχώς.

Γιατί ο κίνδυνος της τεχνητής νοημοσύνης και του API συχνά πέφτει μεταξύ οργανικών ορίων αντί να ανήκει σαφώς;

Επειδή τα συστήματα δεν ευθυγραμμίζονται με τον τρόπο που οι οργανισμοί είναι δομημένοι.

Η DevOps κατέχει την παράδοση. Η ασφάλεια κατέχει την πολιτική. Οι επιχειρηματικές ομάδες κατέχουν τα αποτελέσματα. Οι ομάδες δεδομένων κατέχουν τα μοντέλα. Κάθε ομάδα κατέχει ένα κομμάτι, αλλά κανείς δεν κατέχει το σύστημα όπως συμπεριφέρεται στην παραγωγή.

Τα API εκτελούν επιχειρηματική λογική σε διάφορα συστήματα. Η τεχνητή νοημοσύνη εισάγει μη детερμινιστική λήψη αποφάσεων επάνω σε αυτό. Μαζί, διασχίζουν κάθε όριο.

Κατασκευάζονται από μια ομάδα, ασφαλίζονται από μια άλλη και καταναλώνονται από μια τρίτη, με ασυνεπή παρακολούθηση σε όλα αυτά.

Τα κενά που δημιουργούνται δεν είναι αποτυχίες των ομάδων. Είναι αποτυχίες του λειτουργικού μοντέλου να αντανακλούν τον τρόπο με τον οποίο λειτουργούν τα σύγχρονα συστήματα.

Στην εμπειρία σας, ποιες ομάδες συνήθως υποθέτουν ότι κατέχουν τον κίνδυνο της τεχνητής νοημοσύνης και όπου υπάρχουν τα μεγαλύτερα τυφλά σημεία μεταξύ ασφάλειας, DevOps και επιχειρηματικών μονάδων;

Οι ομάδες ασφάλειας τείνουν να κατέχουν τον κίνδυνο της τεχνητής νοημοσύνης από την κυβέρνηση και την συμμόρφωση. Η DevOps κατέχει την ανάπτυξη και την αξιοπιστία. Οι επιχειρηματικές μονάδες εστιάζουν στα αποτελέσματα.

Τα τυφλά σημεία εμφανίζονται μεταξύ αυτών των περιοχών.

Η ασφάλεια ορίζει τι πρέπει να συμβεί. Η DevOps διασφαλίζει ότι το σύστημα εκτελείται. Η επιχείρηση εστιάζει στα αποτελέσματα. Αλλά πολύ λίγες ομάδες κοιτάζουν συνεχώς τι κάνει το σύστημα στην πραγματικότητα.

Αυτό το κενό είναι όπου ζει ο κίνδυνος, ιδιαίτερα όταν η συμπεριφορά είναι τεχνικά έγκυρη αλλά περιεκτικά λάθος.

Πολλοί σύγχρονοι επιθέσεις εμφανίζονται ως έγκυρες και πιστοποιημένες ενέργειες αντί για προφανείς εισβολές. Πώς πρέπει οι οργανισμοί να ξανασκέφτονται την ανίχνευση σε αυτή τη νέα πραγματικότητα;

Πρέπει να προχωρήσουμε πέρα από την αναγνώριση “κακών” αιτημάτων.

Σε πολλές περιπτώσεις, το αίτημα είναι έγκυρο. Τα διαπιστευτήρια είναι γνήσια. Η κλήση API είναι αναμενόμενη. Αυτό που δεν είναι αναμενόμενο είναι η ακολουθία ενεργειών, ο όγκος ή το αποτέλεσμα.

Η ανίχνευση πρέπει να γίνει συμπεριφορική και περιεκτική. Είναι λιγότερο για το μπλοκάρισμα ενός đơnικού αιτήματος και περισσότερο για την κατανόηση του πώς αλληλεπιδρούν τα συστήματα με την πάροδο του χρόνου.

Οι προσεγγίσεις που στην πραγματικότητα διαρκούν σε κλίμακα προχωρούν πέρα από την αντιστοίχιση προτύπων. Αναλύουν τα αιτήματα δομικά, αντιμετωπίζοντας κάθε αλληλεπίδραση ως ένα σύνολο συμπεριφορικών token αντί να προσπαθούν να αντιστοιχίσουν με γνωστά-κακά πρότυπα.

Αυτό σας επιτρέπει να κατανοήσετε πώς εξελίσσεται η συμπεριφορά και όπου αποκλίνει, ακόμη και όταν όλα φαίνονται έγκυρα στην επιφάνεια.

Εάν βασίζεστε σε στατικά κανόνες ή υπογραφές, θα χάσετε το μεγαλύτερο μέρος του τι έχει σημασία.

Έχετε τονίσει τη σημασία της παρατηρησιμότητας στις πραγματικές συμπεριφορές. Τι μοιάζει με μια σημαντική παρατηρησιμότητα για τα API και τα συστήματα τεχνητής νοημοσύνης στην παραγωγή;

Μια σημαντική παρατηρησιμότητα δεν είναι μόνο καταγραφές και μετρήσεις. Είναι η κατανόηση της συμπεριφοράς στο контέκστ.

Για τα API, αυτό σημαίνει πλήρη ορατότητα αιτημάτων και απαντήσεων, πώς χρησιμοποιούνται τα τελικά σημεία και πώς εξελίσσονται οι αλληλεπιδράσεις με την πάροδο του χρόνου.

Για τα συστήματα τεχνητής νοημοσύνης, σημαίνει κατανόηση εισόδων, αποφάσεων και αποτελεσμάτων ενεργειών.

Πιο σημαντικά, σημαίνει σύνδεση αυτών των στοιχείων σε πλήρη ροές εργασιών, όχι απομονωμένα γεγονότα.

Χωρίς αυτό, λειτουργείτε με βάση υποθέσεις για τη συμπεριφορά του συστήματος αντί για την πραγματικότητα.

Γιατί τα παραδοσιακά μοντέλα ανθρώπινης επανεξέτασης και έγκρισης γίνονται λιγότερο αποτελεσματικά σε περιβάλλοντα που οδηγούνται από μηχανές;

Επειδή η ταχύτητα και η κλίμακα έχουν αλλάξει.

Τα συστήματα πραγματοποιούν χιλιάδες ή εκατομμύρια κλήσεις ανά λεπτό, και οι επιθέσεις ή η μη προβλεπόμενη συμπεριφορά μπορούν να αναπτυχθούν σε λίγα λεπτά ή δευτερόλεπτα. Δεν είναι πραγματιστικό να τοποθετήσετε έναν άνθρωπο στο βρόχο για κάθε απόφαση χωρίς να σπάσει η απόδοση.

Τα συστήματα AI δεν είναι πάντα детερμινιστικά, γεγονός που καθιστά λιγότερο αποτελεσματικά τα μοντέλα προέλεγξης.

Η εποπτεία του ανθρώπου εξακολουθεί να έχει σημασία, αλλά πρέπει να μετατοπιστεί από την έγκριση ατομικών ενεργειών στην ορισμό φραγμών και την παρακολούθηση των αποτελεσμάτων.

Ποια είναι τα πιο συνηθισμένα λειτουργικά κενά που βλέπετε όταν οι εταιρείες προσπαθούν να ασφαλίσουν τα συστήματα AI χρησιμοποιώντας πλαισιαία ασφάλειας κληρονομιάς;

Το μεγαλύτερο κενό είναι η υπερέκθεση στα ελέγχους σχεδιασμού.

Οι οργανισμοί εστιάζουν στην ασφάλεια των μοντέλων, την ανασκόπηση του κώδικα και τον ορισμό των πολιτικών πριν από την ανάπτυξη. Αυτό είναι σημαντικό, αλλά υποθέτει ότι τα συστήματα θα συμπεριφερθούν όπως αναμενόταν μια φορά που είναι ζωντανα.

Στην πραγματικότητα, τα συστήματα εξελίσσονται. Οι API αλλάζουν. Τα μοντέλα AI αλληλεπιδρούν με νέα δεδομένα και ροές εργασίας. Η συμπεριφορά αλλάζει με την πάροδο του χρόνου.

Χωρίς συνεχής επαλήθευση της συμπεριφοράς στην παραγωγή, οι οργανισμοί είναι αποτελεσματικά τυφλοί μετά την ανάπτυξη.

Τι μοιάζει ένα πρακτικό μοντέλο λειτουργίας όταν πολλοί ενδιαφερόμενοι μοιράζονται την ευθύνη για τον κίνδυνο AI και API;

Ξεκινά με την αναγνώριση ότι καμία seule ομάδα δεν μπορεί να κατέχει αυτό το άκρο με άκρο.

Ένα πρακτικό μοντέλο ορίζει την κοινή ευθύνη, με άγκυρα γύρω από μια κοινή πηγή αλήθειας: τη συμπεριφορά εκτέλεσης.

Η ασφάλεια ορίζει τον κίνδυνο και την πολιτική. Η μηχανική κατασκευάζει και λειτουργεί συστήματα. Η επιχείρηση ορίζει αποδεκτά αποτελέσματα.

Οι ομάδες που προηγούνται σε αυτό λειτουργούν σε einem κλειστό βρόχο. Συνεχής ανακάλυψη, επιβολή και βελτίωση που οδηγούνται από αυτά που τα συστήματα κάνουν στην παραγωγή, όχι από αυτά που υποθέτονταν στην ώρα σχεδιασμού.

Όλοι οι ενδιαφερόμενοι χρειάζονται ορατότητα σε πώς λειτουργούν τα συστήματα στην παραγωγή. Από εκεί, οι ομάδες μπορούν να ευθυγραμμίσουν σε τι “καλό” μοιάζει, να ανιχνεύσουν αποκλίσεις και να ανταποκριθούν.

Η μετατόπιση είναι από την ιδιοκτησία θόλων στην συντονισμένη ευθύνη, με γειωμένο στην ορατότητα εκτέλεσης.

Κοιτάζοντας μπροστά, περιμένετε η ευθύνη ασφάλειας να γίνει πιο κεντρική ξανά, ή θα συνεχίσει να σπάει καθώς τα συστήματα γίνονται πιο αυτόνομα;

Η ευθύνη θα παραμείνει κατανεμημένη επειδή αυτό αντανακλά πώς κατασκευάζονται τα συστήματα.

Τι θα αλλάξει είναι πώς αυτή η ευθύνη συντονίζεται.

Θα δούμε περισσότερα ενοποιημένα μοντέλα διακυβέρνησης όπου οι ομάδες κατέχουν τις περιοχές τους αλλά λειτουργούν με κοινή ορατότητα και контекст.

Οι οργανισμοί που θα επιτύχουν δεν θα είναι εκείνοι που θα προσπαθήσουν να κεντρώσουν τα πάντα. Θα είναι εκείνοι που θα ευθυγραμμίσουν τους ενδιαφερόμενους γύρω από πώς τα συστήματα συμπεριφέρονται στην πραγματική ζωή.

Επειδή αν κανείς δεν καταλαβαίνει τη συμπεριφορά εκτέλεσης, κανείς δεν κατέχει πραγματικά τον κίνδυνο.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Wallarm.