J. Paul Haynes, CEO της Cinchy – Σειρά Συνεντεύξεων

J. Paul Haynes, CEO της Cinchy, είναι एक εκτελεστικός της κυβερνοασφάλειας και της τεχνολογίας με δεκαετίες εμπειρίας στην κατασκευή και την κλιμάκωση εταιρειών ασφαλείας. Είναι πιο γνωστός για την ηγεσία του στην eSentire, όπου βοήθησε στην ανάπτυξη της εταιρείας σε einen σημαντικό παρόχο Διαχείρισης Ανίχνευσης και Απάντησης, και φέρνει μια ισχυρή βάση στην μηχανική, την κυβερνοασφάλεια, την ιδιωτική ιδιοκτησία και τον κίνδυνο της επιχείρησης στην Cinchy, καθώς η εταιρεία επικεντρώνεται στην αξιοπιστία της υιοθέτησης και της διακυβέρνησης του AI.

Cinchy είναι μια εταιρεία διακυβέρνησης AI και συνεργασίας δεδομένων που επικεντρώνεται στην βοήθεια των οργανισμών να συνδέσουν ασφαλώς το AI, τα συστήματα και τα δεδομένα. Η πλατφόρμα PeriMind της λειτουργεί ως έλεγχος για τις ενέργειες του AI, δίνοντας στις επιχειρήσεις ορατότητα, επιβολή πολιτικής, ασφάλεια και ελέγχου για το πώς οι πράκτορες του AI αλληλεπιδρούν με τα επιχειρηματικά συστήματα, ενώ η Πλατφόρμα Συνεργασίας Δεδομένων βοηθά τις ομάδες να διαχειρίζονται και να μοιράζονται δεδομένα που διέπονται από την οργάνωση χωρίς να βασίζονται σε σύνθετες ενσωματώσεις ή διπλωτικές θήκες δεδομένων.

Πέρασα περισσότερα από 15 χρόνια βοηθώντας στην κατασκευή και την κλιμάκωση της eSentire σε μια από τις πιο αναγνωρισμένες εταιρείες της βιομηχανίας της κυβερνοασφάλειας. Ποια μαθήματα από αυτό το ταξίδι φέρνετε στην νέα σας θέση ως CEO της Cinchy, και γιατί πιστεύετε ότι τώρα είναι η σωστή στιγμή για να επικεντρωθείτε στην διακυβέρνηση του AI και την αξιοπιστία της υιοθέτησης;

Ένα από τα μεγαλύτερα μαθήματα που έμαθα στην eSentire είναι ότι οι οργανισμοί δεν πλήττονται επειδή λείπουν τεχνολογία. Πλήττονται επειδή οι αναδυόμενες τεχνολογίες δημιουργούν λειτουργική复雑性 γρηγορότερα από ό,τι οι περισσότερες εταιρείες μπορούν να διαχειριστούν μόνοι τους. Βλέπω το AI να ακολουθεί ένα παρόμοιο μονοπάτι.

Το πρόβλημα σήμερα δεν είναι να πείσουν τους υπαλλήλους να πειραματιστούν με το AI. Οι περισσότερες οργανώσεις ήδη το κάνουν. Η πραγματική πρόκληση είναι να μεταφέρουν το AI στην παραγωγή, όπου οι αποφάσεις επηρεάζουν τους πελάτες, τα οικονομικά αποτελέσματα, την συμμόρφωση με τους κανονισμούς και τις επιχειρηματικές λειτουργίες.

Οι υψηλά ρυθμιζόμενες βιομηχανίες όπως οι χρηματοοικονομικές υπηρεσίες εικονογραφούν αυτό απόλυτα. Δεν κινούνται αργά επειδή δεν κατανοούν το AI. Κινούνται προσεκτικά επειδή δεν μπορούν ακόμη να εμπιστευτούν το AI με αποστολές κρίσιμης αποστολής. Πριν από μια απόφαση του AI, οι οργανισμοί χρειάζονται απαντήσεις σε θεμελιώδεις ερωτήσεις:

Αυτά τα ερωτήματα με θυμίζουν το πού βρισκόταν η κυβερνοασφάλεια πριν από δεκαπέντε χρόνια. Η ασφάλεια εξελίχθηκε από ένα τεχνολογικό πρόβλημα σε μια λειτουργική πειθαρχία. Πιστεύω ότι η διακυβέρνηση του AI βρίσκεται στην ίδια τροχιά.

Γι’ αυτό εντάχθηκα στην Cinchy. Πιστεύουμε ότι η αξιοπιστία της υιοθέτησης του AI (όχι πειραματισμός με το AI) θα ορίσει την επόμενη δεκαετία, και βλέπουμε τη διακυβέρνηση του AI να γίνεται τόσο σημαντική όσο και η διαχείριση της ασφάλειας.

Πολυάριθμες επιχειρήσεις έχουν πειραματιστεί με το γεννητικό AI τα τελευταία δύο χρόνια, ωστόσο σχετικά λίγες έχουν επιτύχει την επιτυχή ανάπτυξη του AI σε κρίσιμες ροές εργασιών. Ποια είναι τα μεγαλύτερα εμπόδια που εμποδίζουν τις οργανώσεις από το να μεταφέρουν το AI από πιλότους σε παραγωγή;

Δεν πιστεύω ότι οι εταιρείες πλήττονται επειδή η τεχνολογία δεν είναι αρκετά καλή. Πιστεύω ότι πλήττονται επειδή οι στοίχοι γίνονται πολύ υψηλότεροι μια φορά το AI μεταφέρεται πέρα από τον πειραματισμό.

Ένας πιλότος είναι κάτι. Η τοποθέτηση του AI στην παραγωγή είναι κάτι άλλο. Τώρα πρόκειται για πρόσβαση σε δεδομένα επιχείρησης, αλληλεπίδραση με επιχειρηματικά συστήματα, vielleicht ακόμη και λήψη αποφάσεων για λογαριασμό των υπαλλήλων. Αυτό είναι όταν η ηγεσία σωστά αρχίζει να ρωτάει, “Πώς να ελέγξουμε αυτό; Πώς να το παρακολουθήσουμε; Και πώς να γνωρίζουμε όταν πρέπει ένας άνθρωπος να εμπλακεί;”

Αυτά δεν είναι λόγοι να επιβραδύνουν την υιοθέτηση του AI. Είναι τα πράγματα που κάνουν την υιοθέτηση του AI δυνατή από την αρχή. Αν μπορείτε να απαντήσετε σε αυτά τα ερωτήματα με εμπιστοσύνη, οι οργανισμοί κινούνται πολύ γρηγορότερα.

Έχετε περάσει μεγάλο μέρος της καριέρας σας ασφαλίζοντας επιχειρηματικά περιβάλλοντα ενάντια σε κυβερνοαπειλές. Πώς διαφέρει η ασφάλεια μιας οργάνωσης που βασίζεται στο AI από την ασφάλεια ενός παραδοσιακού περιβάλλοντος IT;

Η παραδοσιακή κυβερνοασφάλεια επικεντρώνεται στην προστασία των τελικών σημείων, ταυτοτήτων, δικτύων και περιβαλλόντων cloud. Το AI προσθέτει μια άλλη μόνιμη επιφάνεια απειλής της επιχείρησης. Κάθε σύστημα AI εισάγει νέους κινδύνους. Πρόσβαση μοντέλου, ένεση προτύπων, υπερβολική άδεια, ολίσθηση μοντέλου, αυτόνομη λήψη αποφάσεων και εντελώς νέες διαδρομές επίθεσης που δεν υπήρχαν πριν.

Το σημαντικό σημείο είναι ότι η ασφάλεια του AI δεν είναι ξεχωριστή από την κυβερνοασφάλεια. Εκτείνεται την κυβερνοασφάλεια. Οι οργανισμοί vẫn χρειάζονται κάθε υπάρχουσα έλεγχο ασφαλείας, αλλά τώρα χρειάζονται επίσης ασφάλεια που σχεδιάζεται ειδικά για συστήματα AI που λειτουργούν στην παραγωγή.

Η σκιά IT έχει υπάρξει μια ανησυχία για τις ομάδες ασφαλείας, αλλά τώρα βλέπουμε την άνοδο της σκιάς AI. Πόσο σημαντική είναι αυτή η πρόκληση και ποιοι κίνδυνοι υποτιμούνται από τις οργανώσεις;

Σκιά AI γίνεται μια από τις ταχύτερα αυξανόμενες επιχειρηματικές απειλές επειδή οι εκτελεστικές ομάδες ενθαρρύνουν την ταχεία υιοθέτηση του AI χωρίς να θέτουν πάντα την διακυβέρνηση πρώτα. Οι περισσότεροι υπάλληλοι δεν ενεργούν με κακόβουλη πρόθεση. Προσπαθούν να είναι πιο παραγωγικοί. Το πρόβλημα είναι ότι τα συστήματα AI κληρονομούν όποια άδεια έχουν ήδη οι χρήστες.

Ένας εκτελεστικός που πειραματίζεται με ένα δημόσιο μοντέλο AI μπορεί να εκθέσει ακούσια εμπιστευτικά οικονομικά δεδομένα, πληροφορίες πελάτη ή πνευματική ιδιοκτησία απλώς ζητώντας από το AI να τα αναλύσει.

Γι’ αυτό οι οργανισμοί χρειάζονται ορατότητα, έλεγχο πολιτικής και διακυβέρνηση, όχι για να επιβραδύνουν την υιοθέτηση του AI, αλλά για να την κάνουν αρκετά ασφαλή για να την κλιμακώσουν.

Οι πράκτορες του AI λαμβάνουν ολοένα και περισσότερο πρόσβαση σε επιχειρηματικά συστήματα, δεδομένα και διαδικασίες λήψης αποφάσεων. Ποια νέα προκλήματα ευθύνης και διακυβέρνησης προκύπτουν όταν τα συστήματα του AI μπορούν να ενεργούν αυτόνομα αντί να παράγουν απλώς περιεχόμενο;

Οι πράκτορες του AI αλλάζουν θεμελιωδώς τη συζήτηση για τη διακυβέρνηση επειδή δεν παράγουν πλέον περιεχόμενο. Λαμβάνουν ενέργειες. Όταν ένα αυτόνομο σύστημα μπορεί να εγκρίνει συναλλαγές, να έχει πρόσβαση σε επιχειρηματικά συστήματα ή να λαμβάνει επιχειρηματικές αποφάσεις, οι οργανισμοί χρειάζονται πλήρη ευθύνη.

Κάθε ενέργεια πρέπει να απαντήσει σε απλά ερωτήματα:

• Τι συνέβη;
• Γιατί συνέβη;
• Ποιος πράκτορας του AI έλαβε την απόφαση;
• Ποιος την εξουσιοδότησε;
• Πότε πρέπει ένας άνθρωπος να επέμβει;

Αυτά τα принципια δεν είναι καινούρια. Οι βιομηχανίες έχουν ζήσει με απαιτήσεις ευθύνης για δεκαετίες υπό κανονισμούς όπως ο Sarbanes-Oxley. Το AI απλώς επεκτείνει τις ίδιες προσδοκίες σε αυτόνομους ψηφιακούς εργαζόμενους.

Πολυάριθμες οργανώσεις τρέχουν για να αναπτύξουν το AI λόγω πίεσης ανταγωνισμού. Πώς μπορούν οι ηγέτες των επιχειρήσεων να ισορροπήσουν την ανάγκη για ταχύτητα με την ανάγκη για διακυβέρνηση, συμμόρφωση και διαχείριση κινδύνου;

Η διακυβέρνηση δεν πρέπει να επιβραδύνει την υιοθέτηση του AI. Πρέπει να την επιταχύνει. Οι οργανισμοί κινούνται γρηγορότερα όταν η ηγεσία εμπιστεύεται το περιβάλλον που κατασκευάζουν. Αυτό σημαίνει να καθιερωθεί μια ασφαλής, παρακολουθήσιμη αρχιτεκτονική AI, να αξιολογηθούν συνεχώς τα μοντέλα για ολίσθηση και απόδοση, να διαχειριστούν την πρόσβαση σε επιχειρηματικά συστήματα και να έχουν σαφείς ελεγκτές λειτουργίας πριν το AI φτάσει στην παραγωγή.

Ακριβώς όπως οι οργανισμοί υιοθέτησαν διαχείριση ανίχνευσης και απάντησης για να απλοποιήσουν την κυβερνοασφάλεια, πιστεύω ότι πολλοί θα υιοθετήσουν τη διακυβέρνηση του AI για να κερδίσουν εμπειρογνωσία χωρίς να χρειάζεται να κατασκευάσουν μεγάλες ειδικευμένες ομάδες εσωτερικά.

Οι διοικητικοί συμβούλιο γίνονται ολοένα και περισσότερο εμπλεκόμενοι στην εποπτεία του AI. Ποια ερωτήματα πρέπει να ζητήσουν οι μέλη του διοικητικού συμβουλίου στις ομάδες διαχείρισης για την στρατηγική του AI, τη διακυβέρνηση και την ευθύνη;

Τα διοικητικά συμβούλια πρέπει να ζητήσουν ένα θεμελιώδες ερώτημα: μπορεί η διαχείριση να αποδείξει ότι το AI λειτουργεί υπό το ίδιο επίπεδο διακυβέρνησης όπως κάθε άλλο κρίσιμο επιχειρηματικό σύστημα;

Αυτό σημαίνει να κατανοήσουν πού χρησιμοποιείται το AI, ποιος το ιδιοκτησία, πώς παρακολουθούνται οι αποφάσεις, πώς διαχειρίζονται ο κίνδυνος και πώς η οργάνωση θα συνεχίσει να λειτουργεί αν μια υπηρεσία AI γίνει μη διαθέσιμη. Οι οργανισμοί που θα επιτύχουν δεν θα είναι απαραίτητα αυτοί που υιοθετούν το AI ταχύτερα. Θα είναι αυτοί που κατασκευάζουν την λειτουργική πειθαρχία για να εμπιστευτούν το AI σε κλίμακα.

Η βιομηχανία της κυβερνοασφάλειας έχει περάσει δεκαετίες αναπτύσσοντας πλαισια, ελέγχους και besten πρακτικές. Υπάρχουν μαθήματα από την κυβερνοασφάλεια που μπορούν να εφαρμοστούν trực tiếp στην διακυβέρνηση του AI, ή το AI απαιτεί μια εντελώς νέα προσέγγιση;

Η κυβερνοασφάλεια προσφέρει ένα εξαιρετικό σχέδιο για τη διακυβέρνηση του AI. Διαχείριση ταυτότητας, ελάχιστη άδεια, συνεχής παρακολούθηση, ελεγχοι, ανταπόκριση σε περιστατικά και ανθεκτικότητα παραμένουν απαραίτητα. Τι είναι νέο είναι ότι το AI εισάγει προκλήματα που τα παραδοσιακά συστήματα δεν είχαν, συμπεριλαμβανομένης της ολίσθησης μοντέλου, των οραμάτων, της χειραγώγησης προτύπων και της εξάρτησης από μοντέλα θεμελιώδους ιδρύματος. Έτσι, το AI δεν αντικαθιστά την κυβερνοασφάλεια. Κτίζει πάνω της με ένα επιπλέον στρώμα διακυβέρνησης.

Τι είναι η “αξιοπιστία της υιοθέτησης του AI” στην πράξη; Υπάρχουν συγκεκριμένα αρχές διακυβέρνησης ή λειτουργικοί φραγμοί που κάθε επιχείρηση πρέπει να έχει στη θέση τους πριν από την κλιμάκωση των πρωτοβουλιών του AI;

Είμαι склон να σκέφτομαι γι’ αυτό με τον ίδιο τρόπο που σκεφτόμουν την ασφάλεια χρόνια πριν. Κανείς δεν ρωτούσε αν η ασφάλεια δημιουργούσε αξία. Το ερώτημα ήταν αν εμπιστευόμαστε το περιβάλλον μας αρκετά για να διατηρήσουμε την επιχείρηση σε λειτουργία.

Το AI πηγαίνει ακριβώς την ίδια κατεύθυνση. Αν δεν μπορείτε να δείτε τι κάνει, να ελέγξετε τι έχει πρόσβαση ή να κατανοήσετε γιατί λαμβάνει ορισμένες αποφάσεις, πιθανότατα δεν θα το αφήσετε να χειριστεί τίποτα σημαντικό.

Μόλις έχετε αυτή την εμπιστοσύνη, η υιοθέτηση συμβαίνει φυσικά. Οι οργανισμοί σταματούν να αντιμετωπίζουν το AI σαν ένα ενδιαφέρον πείραμα και αρχίζουν να το αντιμετωπίζουν σαν ένα άλλο τμήμα της επιχείρησης.

Κοιτάζοντας μπροστά τρία έως πέντε χρόνια, πώς βλέπετε τη σχέση μεταξύ της διακυβέρνησης του AI και του ανταγωνιστικού πλεονεκτήματος να εξελίσσεται; Θα γίνει η ισχυρή διακυβέρνηση ένας διαφοροποιητής, ή απλώς μια απαιτούμενη για την επιχείρηση;

Τις επόμενες τρεις έως πέντε χρόνια, η ισχυρή διακυβέρνηση του AI δεν θα είναι ένας διαφοροποιητής. Θα γίνει μια επιχειρηματική απαιτούμενη. Οι οργανισμοί που καθιερώνουν τη διακυβέρνηση πρώιμα θα υιοθετήσουν το AI ταχύτερα επειδή θα έχουν την εμπιστοσύνη να μεταφέρουν κρίσιμες εργασίες στην παραγωγή. Αυτοί που δεν θα παραμείνουν σταματημένοι στο πείραμα ενώ οι ανταγωνιστές θα συνειδητοποιήσουν μετρήσιμους κέρδους στην παραγωγικότητα, την καινοτομία και την εμπειρία του πελάτη. Τελικά, η διακυβέρνηση δεν θα επιβραδύνει την υιοθέτηση του AI. Θα είναι ο λόγος που οι οργανισμοί θα εμπιστευτούν το AI αρκετά για να το υιοθετήσουν πλήρως.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν την Cinchy.