Αναθεώρηση της Ανθεκτικότητας της AI: Γιατί ήρθε η ώρα να εγκαταλείψουμε το μοντέλο «Ρύθμισε το και ξέχασε το»

Μια πρόσφατη δημοσκόπηση Gallup δείχνει μια τάση αυξανόμενης υιοθέτησης της AI, καθώς περισσότερο από το ήμισυ των εργαζόμενων ενήλικων δηλώνουν ότι χρησιμοποιούν την τεχνολογία τουλάχιστον λίγες φορές το χρόνο. Αυτά τα δεδομένα είναι μόνο μια ένδειξη της ταχείας υιοθέτησης της AI που συμβαίνει σε επιχειρησιακά περιβάλλοντα. Παρόλο που πολλοί ηγέτες επιχειρήσεων έχουν αρχίσει να αμφισβητούν την απόδοση επένδυσης (ROI) της AI, αυτό δεν έχει σταματήσει τις οργανώσεις από το να βασίζονται στην τεχνολογία για να βελτιστοποιούν τις χειροκίνητες εργασίες και να μεγιστοποιούν την παραγωγικότητα.

Καθώς αυτή η υιοθέτηση συνεχίζεται, οι οργανισμοί μπορεί να παρασυρθούν να αγνοήσουν επιβλαβή λάθη στα αυτοματοποιημένα ροές εργασίας. Θεωρούν την AI ως μια λύση «κλειδί-παράδοση», απαιτώντας από τις ομάδες IT μόνο να ρυθμίσουν την τεχνολογία, να την αφήσουν να λειτουργήσει και να «την ξεχάσουν». Ορισμένες ομάδες ασφαλείας προσπαθούν να αντιμετωπίσουν αυτή τη σκέψη, δημιουργώντας βιβλία οδηγιών αυτοματοποίησης που προωθούν ασφαλή και ασφαλή χρήση της AI. Ωστόσο, ακόμη και οι καλύτερες ομάδες IT και ασφαλείας αφήνουν πολύ λίγο περιθώριο προσαρμογής σε αυτά τα βιβλία. Συνεπώς, οι επιχειρήσεις δεν μπορούν να εξελιχθούν με ασφάλεια μαζί με την AI, καθώς η ίδια η τεχνολογία εξελίσσεται με τον ίδιο τρόπο.

Καθώς οι επιχειρήσεις παρέχουν στην AI μεγαλύτερη εξουσία σε κρίσιμες επιχειρησιακές ροές εργασίας, η επιχειρησιακή ευελιξία πρέπει να γίνει η νέα εντολή για τις σύγχρονες οργανώσεις. Για να γίνει αυτή η πρακτική καθολική, οι ηγέτες ασφαλείας των επιχειρήσεων πρέπει να εγκαταλείψουν τη νοοτροπία «ρυθμίζεις και ξεχνάς» και να σχεδιάσουν για ανθεκτικότητα.

Κατανόηση του Παράδοξου της Αυτοματοποίησης

Η αυτοματοποίηση με βάση την AI προσφέρει τεράστιες κερδές παραγωγικότητας σε πολλαπλές λειτουργίες των επιχειρήσεων. Ας χρησιμοποιήσουμε την κυβερνοασφάλεια ως παράδειγμα. Τα εργαλεία AI επιτρέπουν στους αναλυτές να κάνουν επιπλέον βήματα που δεν είχαν ποτέ χρόνο να εκτελέσουν σε υπερφορτωμένα και καταπονημένα κέντρα λειτουργίας ασφαλείας. Αυτό περιλαμβάνει εργασίες όπως η προτεραιοποίηση ειδοποιήσεων, η αξιολόγηση συμβάντων, η ανίχνευση απειλών, η επαλήθευση διασταυρούμενων δεδομένων και η λήψη δεύτερης γνώμης. Σε αντίθεση με ορισμένους ηγέτες του ανώτερου διοικητικού επιπέδου, οι CISO παραμένουν γενικά αισιόδοξοι για την αξία που θα προσφέρει η AI στο μέλλον. Σύμφωνα με δεδομένα από το “The CISO Report: From Risk to Resilience in the AI Era”, το 83% των CISO πιστεύουν ότι η αυτοματοποίηση είναι η επένδυση που είναι πιο πιθανό να ξεπεράσει τις προσδοκίες.

Παρά τα οφέλη αυτά, παραμένει ένα παράδοξο. Η ίδια αναφορά υπογραμμίζει την σκεπτικιστική στάση των CISO απέναντι στην AI, φοβούμενοι τις συνέπειες των αυτόνομων σφαλμάτων. Το 83% των CISO θεωρούν τις επιπτώσεις από «αλητοπλασίες», όπως χαμένες ειδοποιήσεις ή ψευδώς θετικά, ως τη μεγαλύτερη ανησυχία τους σχετικά με την αυτόνομη AI. Υπάρχουν επαρκή στοιχεία που υποστηρίζουν αυτές τις ανησυχίες για τις αλητοπλασίες. Μια μεγάλη εμπορική αεροπορική εταιρεία κατηγορήθηκε νομικά και διατάχθηκε να πληρώσει αποζημιώσεις μετά από το γεγονός ότι το chatbot εξυπηρέτησης πελατών της παρήγαγε αλητοπλασία σχετικά με πολιτική επιστροφής χρέωσης για πένθος. Μια εταιρεία ευφυούς πληροφοριών απειλών αντιμετωπίζει νομικά ζητήματα επειδή, όπως ισχυρίζεται, δημοσίευσε αναφορά που συνέδεε μια startup με χάκερς ξένης δύναμης. Όταν η AI κάνει λάθη, οι συνέπειες μπορούν να επεκταθούν πέρα από τα εσωτερικά συστήματα, επηρεάζοντας τόσο το κεφάλαιο όσο και τη φήμη.

Το Πρόβλημα των Παλαιών Βιβλίων Οδηγιών

Τα βιβλία οδηγιών ασφαλείας προσανατολισμένα στην AI αποτελούν το βασικό σημείο εκκίνησης για επιτυχημένη και ασφαλή υιοθέτηση της AI. Ωστόσο, προκύπτουν προβλήματα όταν αυτά τα βιβλία δεν αλλάζουν ποτέ. Οι απειλές, η υποδομή IT και τα επιχειρηματικά περιβάλλοντα εξελίσσονται συνεχώς. Η AI επιτρέπει στους δράστες απειλών να κλιμακώνουν τις επιθέσεις, ενώ η διεύρυνση και η αυξανόμενη πολυπλοκότητα των περιβαλλόντων IT δυσκολεύει την ανίχνευση. Ταυτόχρονα, καθώς οι επιχειρήσεις δίνουν στην AI μεγαλύτερη ευθύνη, οι συνέπειες των σφαλμάτων γίνονται πιο σημαντικές.

Αν όλοι αυτοί οι παράγοντες συνεχίσουν να εξελίσσονται, τότε η λογική αυτοματοποίησης πρέπει να εξελίσσεται μαζί τους. Τα «παγωμένα» βιβλία οδηγιών αυτοματοποίησης εμποδίζουν αυτό το γεγονός. Αφήνουν τις ομάδες ασφαλείας να αντιμετωπίζουν τρέχοντα προβλήματα με παρωχημένη λογική. Σε ορισμένες περιπτώσεις, αυτό το σενάριο μπορεί να καταλήξει χειρότερα από το να μην υπάρχει καθόλου βιβλίο οδηγιών.

Για να μετατραπούν τα βιβλία οδηγιών σε ζωντανά όργανα κατάλληλα για την τρέχουσα υλοποίηση της AI, προωθώντας έτσι την εσωτερική ανθεκτικότητα, πρέπει να είναι:

• Συνεχώς δοκιμασμένα ενάντια σε φρέσκο πληροφοριακό υλικό απειλών
• Ενημερωμένα μετά από πραγματικά συμβάντα
• Αποσύρεται όταν δεν είναι πλέον αποτελεσματικά ή δεν προσφέρουν αξία

Αυτή η νοοτροπία ευθυγραμμίζεται με τις οδηγίες του Cybersecurity and Infrastructure Security Agency (CISA) και άλλων παγκόσμιων οργανισμών κυβερνοασφάλειας, οι οποίοι προωθούν τη συνεχόμενη παρακολούθηση των συστημάτων AI και τη συνεχή ανθρώπινη παρέμβαση.

Εφαρμογή του Τύπου Ανθεκτικότητας

Η εποχή της AI απαιτεί από τις επιχειρήσεις να ξεπεράσουν τη νοοτροπία που βλέπει την AI ως μια λύση σημείου ή απλώς προσθέτει αυτοματοποίηση σε υπάρχουσες περιπτώσεις χρήσης. Οι οργανισμοί πρέπει αντίθετα να δημιουργήσουν μια κουλτούρα ανθεκτικότητας που επιτρέπει τόσο στο προσωπικό IT όσο και στα συστήματα να ενισχύσουν τα σημεία όπου η AI λειτουργεί σωστά — και να ανταποκριθούν αποτελεσματικά όταν η τεχνολογία κάνει κάποιο λάθος.

Μια πρακτική φόρμουλα τριών στοιχείων μπορεί να βοηθήσει στην ενσωμάτωση αυτής της ανθεκτικότητας στις αυτοματοποιημένες ενέργειες.

• Εμπιστοσύνη: Για κάθε αυτοματοποιημένη ροή εργασίας, οι ομάδες πρέπει να ρωτούν τον εαυτό τους: Πόσο σίγουροι είμαστε για το σκανδάλη που ενεργοποίησε την αυτοματοποιημένη απόκριση;
• Αναστρεψιμότητα: Είναι η ενέργεια αναστρέψιμη; Αν ναι, πόσο γρήγορα και με ασφάλεια μπορούμε να το κάνουμε;
• Ακτίνα Έκρηξης: Πόσο εκτεταμένες είναι οι συνέπειες αν εξαπλωθεί ένα σφάλμα, και πόσο κρίσιμη για την επιχείρηση είναι η επηρεαζόμενη περιουσία;

Τα κατάλληλα εργαλεία παρατηρησιμότητας και παρακολούθησης είναι ζωτικής σημασίας για την απάντηση σε αυτές τις ερωτήσεις. Οι ομάδες πρέπει να αξιοποιούν μια ενοποιημένη πλατφόρμα παρατηρησιμότητας και διαχείρισης δεδομένων ώστε να κατανοούν πλήρως πού σε ένα περιβάλλον IT μπορεί να συμβεί μια αυτοματοποιημένη απόκριση, ποιες άλλες περιουσίες επηρεάζει και ποιες είναι οι επιχειρηματικές συνέπειες. Η τακτική εκτέλεση αυτής της άσκησης θα επιτρέψει στις ομάδες ασφαλείας να διατηρούν ενημερωμένα τα βιβλία οδηγιών AI. Επιπλέον, θα διευκολύνει τις σωστές πρακτικές ανθρώπου‑στο‑βρόχο, καθώς οι ομάδες IT θα γνωρίζουν πού και πώς να παρεμβαίνουν για να αποτρέψουν ακατάλληλες αυτοματοποιημένες ενέργειες από το να έχουν εκτεταμένες και δαπανηρές επιπτώσεις.

Τέλος στο «Ρύθμισε το και Ξέχασε το»

Είναι σημαντικό για τους σύγχρονους CISO και ηγέτες IT να συνειδητοποιήσουν ότι η ευθύνη καταλήγει σε αυτούς όταν πρόκειται για τη συμπεριφορά της AI. Όσο περισσότερο η AI επηρεάζει κρίσιμες εργασίες της επιχείρησης, τόσο μεγαλύτερο βάρος επιβαρύνει τους αρχηγούς κυβερνοασφάλειας. Ένας καλός κανόνας που πρέπει να θυμόμαστε είναι: «Η αυτοματοποίηση αλλάζει ποιος πατάει το κουμπί. Δεν αλλάζει ποιος είναι υπεύθυνος για το ότι το κουμπί πατήθηκε».

Τα συμφέροντα και η ευθύνη των σημερινών CISO είναι τόσο υψηλά που δεν μπορεί να διατηρηθεί η προσέγγιση «ρυθμίζεις και ξεχνάς» στα βιβλία οδηγιών. Αντίθετα, η ανθεκτικότητα πρέπει να είναι τόσο πρακτική όσο και κουλτούρα που διαπερνά την επιχείρηση και της επιτρέπει να ανακάμψει μετά από ένα λάθος της AI. Όταν οι ομάδες ενσωματώνουν τη συνεχόμενη παρακολούθηση, την αναστρεψιμότητα, τον περιορισμό και την ανθρώπινη κυριότητα στο βιβλίο οδηγιών αυτοματοποίησης, οι επιχειρήσεις μπορούν να αποτρέψουν μια αυτοματοποιημένη απόφαση από το να γίνει πρόβλημα σε όλη την επιχείρηση.