Αναπροσδιορίζοντας την Εξουσία στη Διοίκηση C‑Suite: Τι Απαιτεί Πραγματικά η Καλλιέργεια Σχέσης με την ΤΝ

Έχω περάσει 25 χρόνια στην πλευρά του αγοραστή των λειτουργιών ασφαλείας, και ποτέ δεν έχω χάσει ύπνο εξαιτίας ενός κανόνα firewall. Ωστόσο, έχω χάσει ύπνο εξαιτίας της ΤΝ. Η παραδοσιακή αυτοματοποίηση, ό,τι και πολύπλοκη και αν είναι, ακολουθεί λογική που μπορείτε να εντοπίσετε. Αντίθετα, σε αυτήν την πρωτοφανή κλίμακα της πράκτορας ΤΝ, τα συστήματα εμπιστεύονται να κάνουν κρίσιμες αποφάσεις που οι μηχανικοί δεν μπορούν πάντα να εξηγήσουν πλήρως – αυτή η έλλειψη διαφάνειας είναι ακριβώς ο λόγος που πολλοί CISO είναι αδιέξοδοι.

97% των ηγετών ασφαλείας είναι σίγουροι ότι η ΤΝ μπορεί να διαχειριστεί την τριτζ, όμως μόνο το 35% τη χρησιμοποιεί στην πράξη. Αυτό το σημείο καμπής είναι πρόβλημα εμπιστοσύνης, και η εμπιστοσύνη μπορεί να λυθεί μόνο όπως πάντα, μέσω δομής, αποδείξεων και χρόνου.

Μπορείτε να Δείτε την Αυτοματοποίηση, αλλά Μπορείτε να Εμπιστευτείτε την ΤΝ;

Με την παραδοσιακή αυτοματοποίηση, οι επαγγελματίες μπορούν να γνωρίζουν με βεβαιότητα τι θα συμβεί πριν συμβεί. Αυτή η διαφάνεια είναι ο λόγος που οι ομάδες SOC έχουν περάσει μια δεκαετία χτίζοντας εμπιστοσύνη σε αυτοματοποιημένες ροές εργασίας χωρίς πολλές εσωτερικές συζητήσεις, ωστόσο η πράκτορας ΤΝ έχει σπάσει το μοτίβο εισάγοντας ένα επίπεδο μάθησης κρίσης – ένα σύστημα που ζυγίζει το πλαίσιο, κάνει προβλεπτικές κλήσεις και φθάνει σε συμπεράσματα μέσω μιας διαδικασίας που δεν είναι πάντα πλήρως αναγνώσιμη, ακόμη και για τους ανθρώπους που το δημιούργησαν.

Μόνο 21% των οργανισμών λένε ότι διαθέτουν ένα ώριμο μοντέλο διακυβέρνησης για την πράκτορας ΤΝ, παρόλο που το 74% αναμένει να χρησιμοποιεί πράκτορες ΤΝ τουλάχιστον “μέτρια” μέχρι το 2027. Όταν οι επαγγελματίες ασφαλείας δεν μπορούν να εξηγήσουν διαφανώς αυτό το είδος του “black box AI”, είναι ένδειξη της δυσκολίας διακυβέρνησης των εργαλείων ΤΝ. Δεν οφείλεται στο ότι τα εργαλεία δεν ασφαλίζονται σωστά, αλλά στο ότι η εσωτερική λειτουργία του εργαλείου ΤΝ βασίζεται σε κρίση αντί για ένα διάγραμμα ροής.

Στις συνεδριάσεις του διοικητικού συμβουλίου, οι ηγέτες αξιολογούν την ΤΝ όπως θα αξιολογούσαν την αυτοματοποίηση, ρωτώντας “μπορώ να δω τη λογική”, αντί να ρωτούν, “πώς κερδίζω εμπιστοσύνη σε έναν λήπτη αποφάσεων της οποίας η λογική εξελίσσεται;” Οι περισσότεροι CISO πιθανότατα ήδη γνωρίζουν την απάντηση, αλλά η πρόκληση είναι η εφαρμογή της στην πράξη.

Σχέση της ΤΝ σαν μια προσλήψη υψηλού κινδύνου

Σκεφτείτε την ένταξη ενός νέου ανώτερου αναλυτή. Ένας CISO δεν θα έδινε σε έναν ολοκαίνουργιο αναλυτή τα κλειδιά της παραγωγής από την πρώτη μέρα, όσο και αν το βιογραφικό του ήταν εντυπωσιακό. Θα τον έδινε σε χαμηλού κινδύνου εργασίες, θα παρακολουθούσε πώς διαχειρίζεται την αβεβαιότητα και θα επεκτείνει την εξουσία του καθώς την κερδίζει. Η ΤΝ αξίζει την ίδια ενσωμάτωση, ενισχυμένη με εμπειρική εμπιστοσύνη που χτίζεται με τον χρόνο.

Έχουμε ήδη δει τις επιπτώσεις σε δράση όταν ένας αυτόνομος πράκτορας Meta AI προκάλεσε ένα εταιρικό περιστατικό ασφαλείας μετά από ενέργεια χωρίς ανθρώπινη έγκριση, εκθέτοντας ευαίσθητα δεδομένα εταιρείας και χρηστών σε μη εξουσιοδοτημένους υπαλλήλους για περίπου δύο ώρες μέχρι να περιοριστεί το ζήτημα. Η ρίζα του προβλήματος ήταν η έλλειψη ανθρώπινου ελέγχου στο σημείο λήψης απόφασης όπου έπρεπε να απαιτείται ρητή έγκριση. Αυτός είναι ο ακριβής τρόπος αποτυχίας που οι αυστηρές φραγμές έχουν σχεδιαστεί να αποτρέπουν, και αποτελεί υπενθύμιση ότι η πειθαρχία του πεδίου είναι πιο σημαντική από την πολυπλοκότητα του μοντέλου.

Η ΤΝ αξίζει την ίδια προσοχή, και μπορούμε να τη σκεφτούμε ως μια βάση αποδείξεων:

• Κατανοήστε τη λογική απόφασης πριν την αναπτύξετε. Δεν χρειάζεται να δείτε κάθε βάρος του μοντέλου, αλλά πρέπει να ξέρετε σε ποια δεδομένα βασίζεται, ποια αποτελέσματα βελτιστοποιεί και πού πιθανότατα βρίσκονται τα τυφλά σημεία.
• Θέστε αυστηρές φραγμές από την πρώτη μέρα. Ορίστε ακριβώς τι μπορεί το σύστημα να ενεργεί αυτόνομα και τι απαιτεί ανθρώπινη παρέμβαση. Η στενή εμβέλεια είναι το θεμέλιο πάνω στο οποίο χτίζεται η εμπιστοσύνη.
• Διευρύνετε τα όρια μόνο καθώς συσσωρεύονται αποδείξεις. Κάθε σωστή απόφαση είναι ένα σημείο δεδομένων, και κάθε λάθος επίσης. Διευρύνετε το εύρος ανάλογα με το ιστορικό, όχι με το ενθουσιασμό του προμηθευτή ή τους κύκλους προϋπολογισμού.

Ακολουθώντας αυτά ως πρωτόκολλο θα βοηθήσει στην προστασία από τους φόβους των CISO, συμπεριλαμβανομένου του εμποδισμού ενός αυτόνομου συστήματος που λειτουργεί πέρα από το σημείο όπου κάποιος το είχε επαληθεύσει ότι αξίζει εμπιστοσύνης.

Το Μοντέλο Τριών Στρωμάτων: Πού Η ΤΝ Αποκτά τη Θέση της

SANS’ Secure AI Blueprint περιγράφει μια δομή διακυβέρνησης βασισμένη σε τρία μονοπάτια, προστασία της ΤΝ, χρήση της ΤΝ, διακυβέρνηση της ΤΝ, καλύπτοντας έξι κατηγορίες ελέγχου συμπεριλαμβανομένης της πρόσβασης, των δεδομένων, της ανάπτυξης, της εκτίμησης, της παρακολούθησης και της ασφάλειας του μοντέλου. Αυτό αποτελεί ένα χρήσιμο σημείο εκκίνησης, και για να πάμε ένα βήμα παραπέρα, είναι χρήσιμο να δομήσουμε αυτή τη σχέση χωρίζοντας το SOC σε τρία στρώματα για να επιλύσουμε το πρόβλημα εμπιστοσύνης στην ΤΝ.

1. Αποτέλεσμα. Αυτό είναι το στρώμα όπου ζει ο επιχειρηματικός κίνδυνος. Τι θεωρεί ο οργανισμός αποδεκτό αποτέλεσμα; Ποια είναι η ανοχή για ψευδείς αρνητικές έναντι ψευδών θετικών; Αυτό είναι ανθρώπινη απόφαση, τελείως. Κανένα μοντέλο δεν έχει ψήφο για το τι είναι διατεθειμένος να ρισκάρει ο οργανισμός.
2. Κρίση. Εδώ θέτονται οι προτεραιότητες και γίνονται οι συμβιβασμοί υπό αβεβαιότητα. Πρέπει αυτή η ειδοποίηση να κλιμακωθεί τώρα ή να περιμένει για περισσότερο πλαίσιο; Αξίζει αυτή η ανωμαλία να διακόψει τη νύχτα κάποιου; Η κρίση μπορεί να ενημερωθεί από την ΤΝ, και όλο και περισσότερο θα πρέπει, αλλά η τελική εξουσία παραμένει ανθρώπινη. Αυτό είναι το στρώμα που οι περισσότερες οργανώσεις προσπαθούν να παραδώσουν πολύ νωρίς, και είναι αυτό που θα τους καίει αν το κάνουν.
3. Εκτέλεση. Εδώ η ΤΝ πρέπει να κάνει το βαρύ έργο, και να το κάνει με ταχύτητα που καμία ανθρώπινη ομάδα δεν μπορεί να ταιριάξει. Εμπλουτίζοντας μια ειδοποίηση, συσχετίζοντας σήματα σε δεκάδες εργαλεία, συντάσσοντας ενέργεια περιορισμού, εκτελώντας το σενάριο μόλις ένας άνθρωπος ή ένα αξιόπιστο στρώμα κρίσης έχει εγκρτήσει τη διαδρομή. Ταχύτητα μηχανής, ντετερμινιστική μόλις ενεργοποιηθεί, χωρίς εγωισμό.

Ωρίμανση της Συνεργασίας, Όχι Μόνο Διαχείριση του Εργαλείου

Όταν η σχέση της ΤΝ μέσα στο SOC χτίζεται ως συνεργασία αντί για επίβλεψη ενός εργαλείου, οι CISO μπορούν να αρχίσουν να θεωρούν την ΤΝ ως έναν αναπτυσσόμενο συνάδελφο, κάτι που οδηγεί σε θεμελιώδη αλλαγή στον τρόπο που ο CISO ξοδεύει τον χρόνο του.

Τα SOC που μπορούν να εξισορροπήσουν αυτή τη σχέση είναι αυτά με τη πιο πειθαρχημένη διαδικασία οικοδόμησης εμπιστοσύνης. Αυτή η πειθαρχία είναι αυτή που επιτρέπει σε μια λειτουργία ασφαλείας να κλιμακωθεί με ταχύτητα μηχανής στο στρώμα εκτέλεσης χωρίς να χάνει την ανθρώπινη κρίση που απαιτούν ακόμη και οι αποφάσεις σε επίπεδο αποτελέσματος, και πάντα θα απαιτούν.

Έχουμε περάσει τη στιγμή που η ΤΝ θεωρείται το λαμπερό νέο εργαλείο για να εντυπωσιάσει τα διοικητικά συμβούλια. Οι δυνατότητες και το δυναμικό της ΤΝ έχουν κερδίσει την εξουσία να αντιμετωπίζεται όπως όλοι στο SOC πάντα αντιμετωπίζουν την προηγμένη τεχνολογία, μια επαληθευμένη απόφαση τη φορά.