Η σκιώδης AI ήταν το εύκολο πρόβλημα: ο πραγματικός κίνδυνος είναι οι κρυφοί πράκτορες στο εγκεκριμένο λογισμικό

Πριν από δύο χρόνια, η σκιώδης AI σήμαινε ότι οι εργαζόμενοι επικολλούσαν δεδομένα πελατών στο ChatGPT. Η αντιμετώπιση ήταν, σε γενικές γραμμές, διαχειρίσιμη: εντοπισμός των εργαλείων, έγκριση των κατάλληλων, αποκλεισμός των ακατάλληλων και εκπαίδευση του προσωπικού. Οι περισσότεροι οργανισμοί βρίσκονται σε κάποιο στάδιο εφαρμογής αυτής της προσέγγισης· το 61% έχει ήδη συναντήσει σκιώδη AI στο περιβάλλον του, και η προσέγγιση λειτουργεί σε μεγάλο βαθμό.

Ωστόσο, αυτή η περιγραφή δεν αποτυπώνει πλέον το πρόβλημα. Η σκιώδης AI έχει μετατραπεί από ζήτημα συμπεριφοράς σε ζήτημα αρχιτεκτονικής. Η παραδοσιακή διακυβέρνηση δεν μπορεί να συμβαδίσει με τη σημερινή πραγματικότητα: πράκτορες AI ενσωματωμένοι από προμηθευτές ή συνδεδεμένοι από τους ίδιους τους εργαζομένους λειτουργούν μέσα σε εγκεκριμένα συστήματα με διαπιστευτήρια που έχουν κληρονομήσει. Έτσι, η ταυτότητα γίνεται το μοναδικό πραγματικό σημείο ελέγχου.

Οι δύο σκιές που δεν παρακολουθείτε

Το ενδιαφέρον ερώτημα το 2026 δεν είναι ποιο εργαλείο AI άνοιξε ένας εργαζόμενος. Είναι ποιον πράκτορα AI παρέδωσε διακριτικά ο εγκεκριμένος προμηθευτής σας με την ενημέρωση προϊόντος του προηγούμενου τριμήνου και ποια δικαιώματα κληρονόμησε ο πράκτορας από τον άνθρωπο που τον εγκατέστησε.

Η σκιώδης AI ήταν κάποτε ζήτημα συμπεριφοράς. Μπορούσατε να την εντοπίσετε, να την ονομάσετε και να θεσπίσετε μια πολιτική γι’ αυτήν. Η μορφή που εξαπλώνεται τώρα είναι δομική. Φτάνει μέσω λογισμικού που έχετε ήδη εγκρίνει, χρησιμοποιεί διαπιστευτήρια που έχετε ήδη εκδώσει και λειτουργεί σε ροές εργασίας που έχετε ήδη ελέγξει. Η σκιά δεν αφορά πλέον τη συμπεριφορά, αλλά την αρχιτεκτονική. Οι εργαζόμενοι εξακολουθούν να συμμετέχουν, όμως έχουν περάσει από τη χρήση της AI στην εγκατάσταση και θέση της σε λειτουργία: συνδέουν πράκτορες με συστήματα στα οποία έχουν ήδη πρόσβαση, μέσω διεπαφών σχεδιασμένων ώστε να το κάνουν εύκολο. Οι πολιτικές για την πρώτη συμπεριφορά δεν καλύπτουν τη δεύτερη.

Γι’ αυτό το «να την απαγορεύσουμε» δεν ήταν ποτέ η ουσία της συζήτησης. Οι επικεφαλής ασφάλειας πληροφοριών που πρόλαβαν τη σκιώδη AI, εγκρίνοντας εταιρικά εργαλεία και στρέφοντας τους εργαζομένους προς ελεγχόμενες εναλλακτικές, κέρδισαν εκείνον τον γύρο. Ανακάλυψαν όμως ότι ο επόμενος είχε ήδη αρχίσει και είχε δύο διαδρομές, όχι μία. Η πρώτη αφορά όσα προσθέτουν οι εγκεκριμένοι προμηθευτές σε προϊόντα που λειτουργούν ήδη σε παραγωγή: ενσωματωμένα μοντέλα, λειτουργίες πρακτόρων και νέες διασυνδέσεις που εμφανίστηκαν σε σημειώσεις έκδοσης τις οποίες κανείς δεν διάβασε. Η δεύτερη αφορά όσα συνδέουν μόνοι τους οι εργαζόμενοι: ένα LLM συνδεδεμένο με το CRM μέσω αυτοματοποίησης χωρίς κώδικα, ένα Custom GPT που έλαβε κλειδί API για την αποθήκη δεδομένων ή μια σύνδεση MCP από έναν βοηθό επιφάνειας εργασίας σε σύστημα παραγωγής. Και οι δύο οδηγούν στο ίδιο αποτέλεσμα: πράκτορες χρησιμοποιούν εγκεκριμένα διαπιστευτήρια σε εγκεκριμένα συστήματα, αλλά μέσα σε ροές εργασίας που δεν πέρασαν ποτέ από έλεγχο σχεδιασμένο για να τους εντοπίσει. Το τμήμα προμηθειών μπορεί να δει την πρώτη διαδρομή και να χάσει εντελώς τη δεύτερη.

Αξίζει να παραδεχτούμε ειλικρινά πόσο άνισα ήταν στην πράξη τα αποτελέσματα του πρώτου γύρου. Εννέα στους δέκα οργανισμούς σχεδιάζουν αυξήσεις στους προϋπολογισμούς πληροφορικής που σχετίζονται με την AI, και πολλοί σχεδιάζουν ευρύτερη επέκταση στις λειτουργίες πληροφορικής τους επόμενους 6–24 μήνες. Οι δαπάνες κατευθύνονται σε έξυπνες δυνατότητες. Οι μηχανισμοί ελέγχου καλύπτουν την απόσταση πολύ αργά. Αυτή η ανισορροπία είναι το ίδιο το πρόβλημα, όχι μια παρενέργειά του.

Η περίμετρος αφορούσε πάντα την ανθρώπινη δράση

Το νοητικό μοντέλο που λειτούργησε στο πρώτο κύμα δεν λειτουργεί σε αυτό. Η σκιώδης AI ως συμπεριφορά εργαζομένου προϋπέθετε έναν άνθρωπο μέσα στη διαδικασία, που έκανε μια επιλογή την οποία μπορούσε να επηρεάσει η ομάδα ασφάλειας. Η σκιώδης AI ως αρχιτεκτονική προμηθευτή αφαιρεί αυτή την επιλογή. Το μοντέλο που συνέταξε το προσχέδιο του email, ο πράκτορας που προγραμμάτισε τη συνάντηση, ο βοηθός που συνόψισε το έγγραφο και το προώθησε: κανένα δεν απαιτούσε από τον εργαζόμενο τίποτε περισσότερο από το να συνεχίσει να χρησιμοποιεί το λογισμικό που του είχαν πει να χρησιμοποιεί.

Η ειλικρινής απάντηση είναι ότι η περίμετρος που υπερασπίζονται ακόμη τα περισσότερα προγράμματα ασφάλειας περιέβαλλε την ανθρώπινη δράση. Εργαζόμενοι άνοιγαν εργαλεία, παραχωρούσαν πρόσβαση και έπαιρναν αποφάσεις που η ομάδα ασφάλειας μπορούσε να παρατηρήσει και να επηρεάσει. Αυτή η περίμετρος διαλύεται από δύο κατευθύνσεις ταυτόχρονα. Από πάνω, οι προμηθευτές προσθέτουν πράκτορες σε εγκεκριμένα προϊόντα ταχύτερα απ’ όσο μπορεί να ακολουθήσει οποιαδήποτε διαδικασία ελέγχου. Από κάτω, οι εργαζόμενοι εγκαταλείπουν τον ρόλο του χρήστη και γίνονται δημιουργοί διασυνδέσεων, συνδέοντας πράκτορες με συστήματα μέσω διεπαφών αυτοεξυπηρέτησης που δεν εξοπλίστηκαν ποτέ με μηχανισμούς παρακολούθησης για τη διακυβέρνηση. Η νέα περίμετρος βασίζεται στο τι κάνουν οι ταυτότητες, ανεξάρτητα από το αν είναι άνθρωποι και από το ποιος τις έθεσε σε λειτουργία. Απαιτεί μια συνεκτική υποδομή ελέγχου που οι περισσότεροι οργανισμοί δεν διαθέτουν ακόμη.

Το μοναδικό σημείο που απομένει για να δείτε τι συμβαίνει

Η ταυτότητα είναι το σωστό σημείο ελέγχου, αλλά η οπτική πρέπει να αλλάξει. Η συμβατική διατύπωση λέει ότι «η ταυτότητα είναι η νέα περίμετρος», επειδή οι χρήστες, οι συσκευές και το SaaS βρίσκονται παντού. Αυτό ίσχυε πριν από μια δεκαετία και σήμερα αποτελεί βασική προϋπόθεση. Το νόημα που μετρά το 2026 είναι διαφορετικό: η ταυτότητα είναι το μοναδικό σημείο που απομένει για να δείτε τι κάνει πραγματικά η AI, γιατί όταν αρχίζει να δρα, το όριο του εργαλείου έχει ήδη ξεπεραστεί. Ο πράκτορας χρησιμοποιεί τα διαπιστευτήρια κάποιου. Σε ποιον ανήκουν, ποιο είναι το εύρος των δικαιωμάτων, ποια δεδομένα αφορούν οι ενέργειες και ποιος τις εξουσιοδότησε; Μόνο αυτά τα ερωτήματα παράγουν χρήσιμη διαδρομή ελέγχου. Η διακυβέρνηση σε επίπεδο εργαλείου δεν μπορεί να απαντήσει, γιατί το εργαλείο δεν είναι πλέον η μονάδα ανάλυσης.

Σχεδόν το 90% των επικεφαλής πληροφορικής αναγνωρίζει ήδη ότι η ενοποίηση επηρεάζει άμεσα την ικανότητά τους να εφαρμόζουν AI και να επεκτείνουν τη χρήση της με ασφάλεια. Το δυσκολότερο ερώτημα είναι τι σημαίνει πραγματικά η ενοποίηση στο επίπεδο ελέγχου. Δεν μπορεί να σημαίνει απλώς λιγότερους πίνακες ελέγχου. Σημαίνει ενιαία υποδομή ταυτότητας, όπου κάθε οντότητα —άνθρωπος, λογαριασμός υπηρεσίας, πράκτορας ή ενσωματωμένο μοντέλο— αποκτά πρόσβαση και οριοθετημένα δικαιώματα, παρακολουθείται και αποσύρεται με τους ίδιους μηχανισμούς. Οτιδήποτε λιγότερο δημιουργεί την εντύπωση ενοποιημένης διακυβέρνησης, ενώ η επιβολή των κανόνων παραμένει κατακερματισμένη.

Η αξιολόγηση του προμηθευτή σας έχει ημερομηνία λήξης

Δυστυχώς, η αξιολόγηση ενός προμηθευτή παραμένει έγκυρη μόνο για περιορισμένο χρόνο. Αυτό έχει άβολες συνέπειες για τη δομή των προγραμμάτων ασφάλειας. Οι περισσότερες επιτροπές διακυβέρνησης AI οργανώνονται γύρω από τον έλεγχο εργαλείων: οι προμηθευτές αξιολογούνται και εγκρίνονται ή απορρίπτονται προκειμένου να προστεθούν στο μητρώο. Η διαδικασία υποθέτει ότι το εργαλείο συμπεριφέρεται στην παραγωγή όπως κατά την έγκρισή του. Στο λογισμικό με ενσωματωμένη AI, αυτή η υπόθεση καταρρέει πριν στεγνώσει το μελάνι. Ο προμηθευτής θα διαθέσει νέο μοντέλο, νέο τρόπο λειτουργίας πράκτορα ή νέα διασύνδεση, και η αξιολόγηση διακυβέρνησης που εγκρίθηκε πριν από έξι μήνες περιγράφει πλέον ένα προϊόν που δεν υπάρχει.

Από το εργαλείο στην ταυτότητα

Τα προγράμματα που θα αντέξουν μεταφέρουν τη διακυβέρνηση από το εργαλείο στην ταυτότητα. Κάθε ενέργεια στα δεδομένα σας, από οποιονδήποτε, μπορεί να ιχνηλατηθεί σε ταυτότητα με γνωστό ιδιοκτήτη, οριοθετημένο σύνολο δικαιωμάτων και καθορισμένη διάρκεια ζωής. Είτε πρόκειται για άνθρωπο είτε για μη ανθρώπινη οντότητα, εργαζόμενο ή πράκτορα, εγκεκριμένο εργαλείο ή ενσωματωμένη λειτουργία, το ερώτημα είναι ίδιο: ποιος ή τι είναι, τι επιτρέπεται να κάνει και πώς γνωρίζουμε πότε πρέπει να πάψουν να ισχύουν αυτά τα δικαιώματα; Τα προγράμματα που απαντούν δεν χρειάζεται να κερδίσουν τον αγώνα εγκρίσεων εργαλείων. Όσα δεν μπορούν θα προσπαθούν να προλάβουν προμηθευτές και εργαζομένους που διαθέτουν λύσεις ταχύτερα απ’ όσο μπορεί να κινηθεί οποιαδήποτε διαδικασία ελέγχου.

Η σκιώδης AI ως κατηγορία δεν θα εξαφανιστεί. Ιδίως στη νέα εποχή εργασίας με πράκτορες, το 72% των οργανισμών διαθέτει ήδη πράκτορες AI σε παραγωγή. Αντί γι’ αυτό, η σκιώδης AI γίνεται μικρότερο μέρος ενός μεγαλύτερου προβλήματος. Οι οργανισμοί που αφιερώνουν τον επόμενο κύκλο προϋπολογισμού στην ανακάλυψη εργαλείων και στις πολιτικές έγκρισής τους λύνουν το πρόβλημα του 2024 με χρονοδιάγραμμα του 2026. Όσοι επενδύουν σε μετρήσεις και παρακολούθηση στο επίπεδο ταυτότητας για ανθρώπους, πράκτορες και το περίπλοκο συνεχές ανάμεσά τους λύνουν το πρόβλημα που πραγματικά θα αντιμετωπίσουν.

Το πρώτο κύμα σκιώδους AI δίδαξε στις ομάδες ασφάλειας ότι δεν μπορούν να προλάβουν την περιέργεια των εργαζομένων. Το δεύτερο θα τις διδάξει ότι δεν μπορούν να προλάβουν ούτε την ταχύτητα των προμηθευτών ούτε την εφευρετικότητα των εργαζομένων. Και τα δύο μαθήματα οδηγούν στο ίδιο συμπέρασμα: η μονάδα διακυβέρνησης δεν επρόκειτο ποτέ να είναι το εργαλείο. Θα ήταν πάντα η ταυτότητα που δρα μέσω αυτού.