Στηβ Γουίλσον, Chief AI και Product Officer στην Exabeam – Σειρά Συνεντεύξεων

Ο Στηβ Γουίλσον είναι ο Chief AI και Product Officer στην Exabeam, όπου η ομάδα του εφαρμόζει τεχνολογίες AI στην τακτική για να αντιμετωπίσουν πραγματικές προκλήσεις κυβερνοασφάλειας. Ιδρύθηκε και συνδιευθύνει το OWASP Gen AI Security Project, το οποίο είναι πίσω από τον βιομηχανικό πρότυπο OWASP Top 10 για Large Language Model Security.

Το βραβευμένο βιβλίο του, «The Developer’s Playbook for Large Language Model Security» (O’Reilly Media), επιλέχθηκε ως το καλύτερο Cutting Edge Cybersecurity Book από το Cyber Defense Magazine.

Exabeam είναι ηγέτης σε νοημοσύνη και αυτοματοποίηση που ενδυναμώνει τις επιχειρήσεις ασφαλείας για τις πιο έξυπνες εταιρείες του κόσμου. Συνδυάζοντας την κλίμακα και τη δύναμη του AI με τη δύναμη της βιομηχανικής μας ανάλυσης συμπεριφοράς και αυτοματοποίησης, οι οργανισμοί αποκτούν μια πιο ολιστική άποψη για τις απειλές ασφαλείας, ανακαλύπτουν ανωμαλίες που χάνουν άλλα εργαλεία και επιτύχουν γρηγορότερες, ακριβέστερες και επαναλαμβανόμενες απαντήσεις. Exabeam ενδυναμώνει τις παγκόσμιες ομάδες ασφαλείας για να καταπολεμήσουν τις κυβερνοαπειλές, να μειώσουν τον κίνδυνο και να ρυθμίσουν τις επιχειρήσεις.

Η νέα σας θέση είναι Chief AI και Product Officer στην Exabeam. Πώς αντανακλάται η εξελισσόμενη σημασία του AI στην κυβερνοασφάλεια;

Η κυβερνοασφάλεια ήταν μεταξύ των πρώτων τομέων που αποδέχθηκαν πραγματικά τη μηχανική μάθηση – στην Exabeam, έχουμε χρησιμοποιήσει ML ως πυρήνα του μηχανισμού ανίχνευσης μας για πάνω από μια δεκαετία για να αναγνωρίσουμε ανωμαλή συμπεριφορά που οι άνθρωποι μόνοι τους μπορεί να χάσουν. Με την άφιξη νέων τεχνολογιών AI, όπως οι έξυπνοι πράκτορες, το AI έχει μεγαλώσει από σημαντικό σε απολύτως κεντρικό.

Ο συνδυασμένος ρόλος μου ως Chief AI και Product Officer στην Exabeam αντανακλά ακριβώς αυτή την εξέλιξη. Σε μια εταιρεία που είναι βαθιά αφοσιωμένη στην ενσωμάτωση του AI σε όλα τα προϊόντα της και σε ένα τομέα όπως η κυβερνοασφάλεια όπου ο ρόλος του AI γίνεται ολοένα και πιο κρίσιμος, είχε νόημα να ενωθεί η στρατηγική του AI και η στρατηγική του προϊόντος υπό einen ρόλο. Αυτή η ενοποίηση εξασφαλίζει ότι είμαστε στρατηγικά ευθυγραμμισμένοι για να παρέχουμε μετασχηματιστικές λύσεις που οδηγούνται από το AI σε ομάδες ασφαλείας και λειτουργιών που εξαρτώνται από εμάς περισσότερο.

Η Exabeam πρωτοπορεί στον “agentic AI” στις επιχειρήσεις ασφαλείας. Μπορείτε να εξηγήσετε τι σημαίνει αυτό στην πράξη και πώς διαφέρει από τις παραδοσιακές προσεγγίσεις AI;

Ο agentic AI αντιπροσωπεύει μια σημαντική εξέλιξη από τις παραδοσιακές προσεγγίσεις AI. Είναι προσανατολισμένος στην δράση – προκαταρκτικά ξεκινά διαδικασίες, αναλύει πληροφορίες και παρέχει εποπτικές trước από τους αναλυτές να ζητήσουν. Πέρα από την απλή ανάλυση δεδομένων, ο agentic AI λειτουργεί ως σύμβουλος, προσφέροντας στρατηγικές συστάσεις σε όλο το SOC, οδηγώντας τους χρήστες προς τις ευκολότερες νίκες και παρέχοντας βήμα προς βήμα οδηγίες για να βελτιώσουν τη θέση ασφαλείας τους. Επιπλέον, οι πράκτορες λειτουργούν ως εξειδικευμένα πακέτα, όχι ως ένας ακαδημαϊκός chatbot, каждый από τους οποίους έχει ειδικές προσωπικότητες και συνόλους δεδομένων που ενσωματώνονται άψογα στο workflow των αναλυτών, μηχανικών και διευθυντών για να παρέχουν στόχευση και επίδραση.

Με την Exabeam Nova που ενσωματώνει πολλαπλούς πράκτορες AI σε όλο το workflow του SOC, τι είναι το μέλλον του ρόλου του αναλυτή ασφαλείας; Είναι εξελισσόμενος, συρρικνούμενος ή γίνεται πιο εξειδικευμένος;

Ο ρόλος του αναλυτή ασφαλείας εξελίσσεται σίγουρα. Οι αναλυτές, οι μηχανικοί ασφαλείας και οι διευθυντές του SOC είναι υπερφορτωμένοι με δεδομένα, ειδοποιήσεις και περιπτώσεις. Η πραγματική μελλοντική μετατόπιση δεν είναι μόνο για να σώσει χρόνο σε руτινιάδες εργασίες – αν και οι πράκτορες σίγουρα βοηθούν εκεί – αλλά για να υψώσουν τον ρόλο όλων σε εκείνον του αρχηγού ομάδας. Οι αναλυτές θα χρειαστούν ακόμα ισχυρές τεχνικές δεξιότητες, αλλά τώρα θα ηγούνται μιας ομάδας πρακτόρων που είναι έτοιμοι να επιταχύνουν τις εργασίες τους, να ενισχύσουν τις αποφάσεις τους και να οδηγήσουν πραγματικές βελτιώσεις στην κατάσταση ασφαλείας. Αυτή η μεταμόρφωση θέτει τους αναλυτές σε θέση να γίνουν στρατηγικοί συντονιστές αντί για τακτικούς ανταποκριτές.

Πρόσφατα δεδομένα δείχνουν μια απόσταση μεταξύ των εκτελεστών και των αναλυτών σχετικά με το αντίκτυπο της παραγωγικότητας του AI. Γιατί νομίζετε ότι υπάρχει αυτή η κενή μεταξύ της αντίληψης;

Πρόσφατα δεδομένα δείχνουν μια σαφή απόσταση: 71% των εκτελεστών πιστεύουν ότι το AI αυξάνει σημαντικά την παραγωγικότητα, αλλά μόνο το 22% των αναλυτών πρώτης γραμμής, των καθημερινών χρηστών, συμφωνούν. Στην Exabeam, abbiamo δει αυτή την κενή να μεγαλώνει μαζί με το πρόσφατο φρενίτι των υποσχέσεων του AI στην κυβερνοασφάλεια. Δεν έχει υπάρξει ποτέ πιο εύκολο να δημιουργηθούν εντυπωσιακές επίδειξεις AI, και οι προμηθευτές είναι γρήγοροι να ισχυρίζονται ότι έχουν λύσει κάθε πρόβλημα του SOC. Ενώ αυτές οι επίδειξεις εντυπωσιάζουν τους εκτελεστές αρχικά, πολλές από αυτές αποτυγχάνουν εκεί όπου μετράει – στα χέρια των αναλυτών. Το δυναμικό υπάρχει, και υπάρχουν τσέπες πραγματικής απόδοσης, αλλά vẫn υπάρχει πολύ θόρυβος και πολύ λίγες σημαντικές βελτιώσεις. Για να γεφυρώσουμε αυτή την κενή της αντίληψης, οι εκτελεστές πρέπει να προτεραιοποιήσουν εργαλεία AI που εμπower τους αναλυτές, όχι μόνο να εντυπωσιάζουν σε μια επίδειξη. Όταν το AI πραγματικά ενισχύει την αποτελεσματικότητα των αναλυτών, η εμπιστοσύνη και οι πραγματικές βελτιώσεις της παραγωγικότητας θα ακολουθήσουν.

Το AI επιταχύνει την ανίχνευση και την απάντηση στις απειλές, αλλά πώς διατηρείτε την ισορροπία μεταξύ αυτοματοποίησης και ανθρώπινης κρίσης σε υψηλού κινδύνου περιπτώσεις κυβερνοασφάλειας;

Οι ικανότητες του AI προοδεύουν γρήγορα, αλλά σήμερα οι θεμελιώδεις “γλωσσικοί μοντέλοι” που υποστηρίζουν τους έξυπνους πράκτορες αρχικά σχεδιάστηκαν για εργασίες όπως η μετάφραση γλώσσας – όχι για την περίπλοκη λήψη αποφάσεων, τη θεωρία παιγνίων ή τη διαχείριση複雑ων ανθρώπινων παραγόντων. Αυτό κάνει την ανθρώπινη κρίση πιο απαραίτητη από ποτέ στην κυβερνοασφάλεια. Ο ρόλος του αναλυτή δεν μειώνεται από το AI – είναι υψωμένος. Οι αναλυτές είναι τώρα αρχηγοί ομάδας, χρησιμοποιώντας την εμπειρία και την ενημέρωση τους για να οδηγήσουν και να κατευθύνουν πολλαπλούς πράκτορες, εξασφαλίζοντας ότι οι αποφάσεις παραμένουν ενημερωμένες από το контέκστ και τη νюανς. Τελικά, η ισορροπία μεταξύ αυτοματοποίησης και ανθρώπινης κρίσης είναι για να δημιουργηθεί μια συμβιωτική σχέση όπου το AI ενισχύει την ανθρώπινη εμπειρία, όχι την αντικαθιστά.

Πώς εξελίσσεται η στρατηγική του προϊόντος όταν το AI γίνεται ένα βασικό αρχικό σχέδιο αντί για ένα πρόσθετο;

Στην Exabeam, η στρατηγική του προϊόντος μας είναι θεμελιωδώς διαμορφωμένη από το AI ως ένα βασικό αρχικό σχέδιο, όχι ως ένα επιφανειακό πρόσθετο. Χτίστηκε η Exabeam από την αρχή για να υποστηρίξει τη μηχανική μάθηση – από την κατάρηση, την ανάλυση, την εμπλουτισμένη και την τυποποίηση των δεδομένων – για να πληρώσει ένα ροβούστα Common Information Model που είναι ειδικά βελτιστοποιημένο για να τροφοδοτήσει συστήματα ML. Τα υψηλής ποιότητας, δομημένα δεδομένα δεν είναι μόνο σημαντικά για τα συστήματα AI – είναι η ζωή τους. Σήμερα, ενσωματώνουμε τους έξυπνους πράκτορες μας直接 στα κρίσιμα workflow, αποφεύγοντας γενικά, ακαδημαϊκά chatbots. Αντίθετα, στοχεύουμε με ακρίβεια σε κρίσιμες περιπτώσεις που παρέχουν πραγματικές, ουσιαστικές ωφέλειες στους χρήστες μας.

Με την Exabeam Nova, στοχεύετε να “μετακινηθείτε από τη βοήθεια στην αυτονομία”. Ποια είναι τα βασικά ορόσημα για να φτάσετε σε πλήρως αυτονομικές επιχειρήσεις ασφαλείας;

Η ιδέα των πλήρως αυτονομικών επιχειρήσεων ασφαλείας είναι ελκυστική αλλά πρόωρη. Πλήρως αυτονομικοί πράκτορες, σε οποιοδήποτε τομέα, απλά δεν είναι ακόμα αποτελεσματικοί ή ασφαλείς. Ενώ η λήψη αποφάσεων στο AI βελτιώνεται, δεν έχει φτάσει ακόμα στο επίπεδο της ανθρώπινης αξιοπιστίας και δεν θα φτάσει για κάποιο χρόνο. Στην Exabeam, η προσέγγισή μας δεν είναι η καταδίωξη της πλήρους αυτονομίας, η οποία η ομάδα μου στο OWASP αναγνωρίζει ως μια βασική ευπάθεια γνωστή ως Υπερβολική Πρακτορικότητα. Δίνοντας στους πράκτορες περισσότερη αυτονομία από ότι μπορεί να είναι αξιόπιστα ελεγχθεί και επικυρωθεί, θέτει τις επιχειρήσεις σε επικίνδυνους όρους. Αντίθετα, ο στόχος μας είναι ομάδες έξυπνων πρακτόρων, ικανοί αλλά προσεκτικά καθοδηγούμενοι, που εργάζονται υπό την εποπτεία ανθρώπινων εμπειρογνωμόνων στο SOC. Αυτή η συνδυασμένη προσέγγιση ανθρώπινης εποπτείας και στοχευμένης βοήθειας είναι ο ρεαλιστικός, επηρεασμένος δρόμος προς τα εμπρός.

Ποια είναι οι μεγαλύτερες προκλήσεις που αντιμετωπίζετε στην ενσωμάτωση του GenAI και της μηχανικής μάθησης στην κλίμακα που απαιτείται για πραγματικό χρόνο κυβερνοασφάλειας;

Μια από τις μεγαλύτερες προκλήσεις στην ενσωμάτωση του GenAI και της μηχανικής μάθησης στην κλίμακα που απαιτείται για πραγματικό χρόνο κυβερνοασφάλειας είναι η ισορροπία μεταξύ ταχύτητας και ακρίβειας. Το GenAI μόνο δεν μπορεί να αντικαταστήσει την κλίμακα του ML κινητήρα μας – που επεξεργάζεται τεράμπιαδες δεδομένων συνεχώς. Ακόμη και οι πιο προηγμένοι έξυπνοι πράκτορες έχουν ένα “παράθυρο контέκστ” που είναι απίστευτα ανεπαρκές. Αντίθετα, η συνταγή μας περιλαμβάνει τη χρήση ML για να απομακρύνει τα τεράμπιαδα δεδομένων σε ενεργές εποπτικές, τις οποίες οι έξυπνοι πράκτορες μας μεταφράζουν και λειτουργούν αποτελεσματικά.

Είστε συνιδρυτής του OWASP Top 10 για LLM Applications. Τι σας ενέπνευσε αυτό, και πώς βλέπετε ότι θα διαμορφώσει τις besten πρακτικές ασφαλείας AI;

Όταν ξεκίνησα το OWASP Top 10 για LLM Applications στις αρχές του 2023, η δομημένη πληροφορία για την ασφάλεια LLM και GenAI ήταν σπάνια, αλλά το ενδιαφέρον ήταν απίστευτα υψηλό. Μέσα σε quelques ημέρες, πάνω από 200 εθελοντές εντάχθηκαν στη πρωτοβουλία, φέρνοντας διαφορετικές απόψεις και εμπειρογνωμοσύνη για να διαμορφώσουν την αρχική λίστα. Από τότε, έχει διαβαστεί πάνω από 100.000 φορές και έχει γίνει θεμελιώδες για διεθνείς βιομηχανικούς προτύπους. Σήμερα, η προσπάθεια έχει επεκταθεί στο OWASP Gen AI Security Project, καλύπτοντας περιοχές όπως η AI Red Teaming, η ασφάλεια συστημάτων πρακτόρων και η αντιμετώπιση των επιθετικών χρήσεων του Gen AI στην κυβερνοασφάλεια. Η ομάδα μας πρόσφατα ξεπέρασε τους 10.000 μέλη και συνεχίζει να προωθεί τις besten πρακτικές ασφαλείας AI παγκοσμίως.

Το βιβλίο σας, ‘The Developer’s Playbook for LLM Security‘, κέρδισε ένα κορυφαίο βραβείο. Ποια είναι η πιο σημαντική λήψη ή αρχή από το βιβλίο που κάθε 개발τής AI πρέπει να κατανοήσει όταν κατασκευάζει ασφαλείς εφαρμογές;

Η πιο σημαντική λήψη από το βιβλίο μου, “The Developer’s Playbook for LLM Security”, είναι απλή: “με μεγάλη δύναμη έρχεται μεγάλη ευθύνη”. Ενώ η κατανόηση των παραδοσιακών εννοιών ασφαλείας παραμένει απαραίτητη, οι dévelopπεurs αντιμετωπίζουν τώρα ένα εντελώς νέο σύνολο προκλήσεων που είναι μοναδικές για τα LLM. Αυτή η ισχυρή τεχνολογία δεν είναι μια ελεύθερη διαβατήρια – απαιτεί προσεκτικές, σκέφτητες πρακτικές ασφαλείας. Οι dévelopπεurs πρέπει να επεκτείνουν την προοπτική τους, αναγνωρίζοντας και αντιμετωπίζοντας αυτές τις νέες ευπάθειες από την αρχή, ενσωματώνοντας την ασφάλεια σε κάθε βήμα του κύκλου ζωής της εφαρμογής AI.

Πώς βλέπετε την εξέλιξη της εργατικής δύναμης κυβερνοασφάλειας τα επόμενα 5 χρόνια καθώς ο agentic AI γίνεται πιο κυρίαρχος;

Βρισκόμαστε σε einen AI αγώνα. Οι αντιπάλες είναι επιθετικά να αναπτύσσουν AI για να προωθήσουν τους κακόβουλους στόχους τους, καθιστώντας τους επαγγελματίες κυβερνοασφάλειας πιο κρίσιμους από ποτέ. Τα επόμενα 5 χρόνια δεν θα μειώσουν την εργατική δύναμη κυβερνοασφάλειας – θα την υψώσουν. Οι επαγγελματίες πρέπει να ενσωματώσουν το AI στις ομάδες και τα workflow τους. Οι ρόλοι ασφαλείας θα μετατοπιστούν προς τη στρατηγική διοίκηση – λιγότερο για ατομική προσπάθεια και περισσότερο για την ορchestration μιας αποτελεσματικής απάντησης με μια ομάδα πρακτόρων που οδηγούνται από το AI. Αυτή η μεταμόρφωση ενδυναμώνει τους επαγγελματίες κυβερνοασφάλειας να ηγούνται αποφασιστικά και με εμπιστοσύνη στην μάχη ενάντια στις εξελισσόμενες απειλές.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα πρέπει να επισκεφθούν Exabeam.