Βάζοντας φως στο Shadow AI

Σε όλους τους κλάδους, οι εργαζόμενοι χρησιμοποιούν ολοένα και περισσότερο εργαλεία τεχνητής νοημοσύνης (AI) για να μεταμορφώσουν τις καθημερινές λειτουργίες. Αν πρόκειται για chuyênικούς μάρκετινγκ που χρησιμοποιούν το ChatGPT για να δημιουργήσουν εκστρατείες ή για μηχανικούς λογισμικού που γράφουν κώδικα με γεννητικά εργαλεία, η AI ενσωματώνεται σιγά σιγά σε σχεδόν κάθε аспект της επιχείρησης. Στην πραγματικότητα, το Projekt NANDA του MIT βρήκε ότι σε περισσότερο από το 90% των οργανισμών, οι εργαζόμενοι χρησιμοποιούν προσωπικούς λογαριασμούς chatbot για να υποστηρίξουν την καθημερινή εργασία τους, συχνά χωρίς την εποπτεία της IT, ωστόσο, μόνο το 40% των εταιρειών έχει επίσημες συνδρομές σε εργαλεία μεγάλου γλωσσικού μοντέλου (LLM). Αυτή η αποσύνδεση μεταξύ της εγκεκριμένης και της μυστικής χρήσης AI έχει ανοίξει einen νέο κενό ασφαλείας: το shadow AI. 

Χωρίς εποπτεία, ευαίσθητα δεδομένα μπορούν να μοιραστούν με εξωτερικά μοντέλα, τα αποτελέσματα μπορούν να είναι ανακριβή ή μεροληπτικά και οι ομάδες συμμόρφωσης χάνουν την ορατότητα σε σχέση με το πού και πώς επεξεργάζονται οι πληροφορίες. Όσο οι εργαζόμενοι συνεχίζουν να πειραματίζονται με εργαλεία εκτός των εγκεκριμένων καναλιών, οι οργανισμοί πρέπει να ξανασκέφτονται την στρατηγική τους για τη διαχείριση της AI, ή αυτοί οι κίνδυνοι θα συνεχίσουν να αναδύονται στην επιφάνεια. Για τους CIO, η απαγόρευση των εργαλείων AI δεν είναι η λύση, καθώς θα μπορούσε να επηρεάσει την ανταγωνιστική ικανότητα. Αντίθετα, η εστίαση πρέπει να είναι στις προσαρμόσιμες φραγμούς που ισορροπούν την καινοτομία με την υπεύθυνη διαχείριση κινδύνων.

Για να παραμείνουν ένα βήμα μπροστά από τους κινδύνους της AI, οι οργανισμοί πρέπει να καθιερώσουν πολιτικές AI που προάγουν την υπεύθυνη υιοθέτηση. Αυτές οι οδηγίες πρέπει να ενθαρρύνουν τους εργαζομένους να χρησιμοποιούν την AI εντός του λογικού, και κάθε πολιτική που καθορίζεται πρέπει να είναι ευθυγραμμισμένη με τις αξίες και την όρεξη κινδύνου της εταιρείας. Για να επιτύχουν ένα επιτυχημένο πρόγραμμα, οι οργανισμοί πρέπει να ξεπεράσουν τα παλιά μοντέλα διακυβέρνησης και τα παλιά εργαλεία που δεν ανιχνεύουν ή δεν παρακολουθούν την χρήση της AI σε όλη την επιχείρησή τους.

Ενώ η καθιέρωση μιας πολιτικής AI είναι ένα σημαντικό βήμα, το πραγματικό κλειδί είναι να διασφαλιστεί ότι σχεδιάζονται για να είναι πρακτικές, εφαρμόσιμες και ευθυγραμμισμένες με την καινοτομική όραση και τις ανάγκες συμμόρφωσης κάθε επιχείρησης, χωρίς να εμποδίζουν την πρόοδό τους.

Υπάρχουν τέσσερις βήματα που οι οργανισμοί μπορούν να ακολουθήσουν:

1. Καθορίστε το καλύτερο πλαίσιο

Οι επιχειρήσεις δεν πρέπει να αρχίσουν από το μηδέν. Πολλές ηγετικές ιδρύματα έχουν ήδη αναπτύξει πλαισια που προσφέρουν πολύτιμες αναφορές. Πόροι από τον Οργανισμό Οικονομικής Συνεργασίας και Ανάπτυξης (OECD), το Εθνικό Ινστιτούτο Προτύπων (NIST), και ISO/IEC, μπορούν να παρέχουν οδηγίες για τη διαχείριση της AI με ασφάλεια και αποτελεσματικά. Επιπλέον, οι κυβερνητικές αρχές αρχίζουν να παρεμβαίνουν. Νέα κανονιστικά μέτρα από την Ευρωπαϊκή Ένωση (ΕΕ) ορίζουν προσδοκίες γύρω από τη διαφάνεια, την ευθύνη και τη διακυβέρνηση. Μαζί, αυτοί οι πόροι θα βοηθήσουν να παρέχουν μια ισχυρή βάση για τις επιχειρήσεις να χτίσουν και να βελτιώσουν τα δικά τους πλαισια για να οδηγήσουν την υπεύθυνη υιοθέτηση της AI.

2. Αυξήστε την ορατότητα της AI

Όσο οι οργανισμοί χαρτογραφούν το δρόμο τους προς την αποτελεσματική διαχείριση κινδύνων της AI, είναι απαραίτητο ότι οι ηγέτες ασφαλείας να αναπτύξουν μια στερεή κατανόηση του πώς η AI χρησιμοποιείται στην πραγματικότητα σε όλη την επιχείρησή τους. Θα πρέπει να επενδύσουν σε εργαλεία που βοηθούν να παρέχουν ορατότητα στις δραστηριότητες σε όλες τις λειτουργίες. Αυτά τα εργαλεία μπορούν να παρακολουθούν και να έχουν πρόσβαση στη συμπεριφορά του χρήστη και δεν θα αφήσουν κανένα λίθο ανεπιτυχή όταν πρόκειται για την ανίχνευση της χρήσης της γεννητικής AI. Αυτή η εικόνα είναι ζωτικής σημασίας όταν πρόκειται για τον εντοπισμό της χρήσης shadow AI και τη βοήθεια των ηγετών να αξιολογήσουν τους κινδύνους και να τους αντιμετωπίσουν.

3. Δημιουργήστε einen Συμβούλιο AI

Μόλις καθιερωθεί η ορατότητα, οι ηγέτες ασφαλείας μπορούν να τη χρησιμοποιήσουν για να ενημερώσουν νέες πολιτικές.既然 η χρήση της AI επηρεάζει όλη την επιχείρηση, δεν πρέπει να θωρακίσουν τη διαδικασία λήψης αποφάσεων. Οι CISO θα πρέπει να σκεφτούν να δημιουργήσουν einen Συμβούλιο AI που φέρνει μαζί τους βασικούς ενδιαφερόμενους από την ασφάλεια, το νομικό, την IT και την C-suite. Στην πραγματικότητα, Gartner αναφέρει ότι το 55% των οργανισμών έχουν ήδη καθιερώσει einen Συμβούλιο AI, ενώ το 54% έχουν διορίσει einen αρχηγό της AI ή έναν αφιερωμένο ηγέτη για να επιβλέπει τη στρατηγική και την εφαρμογή.

Αυτές οι διαλειτουργικές ομάδες μπορούν να αξιολογήσουν τόσο τους κινδύνους όσο και τις ευκαιρίες που παρουσιάζονται από τα εργαλεία AI, είτε εγκεκριμένα είτε όχι, που αρχίζουν να διεισδύουν στο επιχειρηματικό περιβάλλον. Στη συνέχεια, μπορούν να διαμορφώσουν νέες πολιτικές μαζί που αντιμετωπίζουν τις ανάγκες της επιχείρησής τους και ισορροπούν τον κίνδυνο.

Για παράδειγμα, αν το Συμβούλιο αναγνωρίσει ένα δημοφιλές εργαλείο AI που χρησιμοποιείται χωρίς έγκριση που προκαλεί προβλήματα ασφαλείας, μπορεί να συνιστά την απαγόρευση αυτής της εφαρμογής ενώ εγκρίνει μια ασφαλέστερη εναλλακτική. Αυτές οι πολιτικές πρέπει να ενισχυθούν με επενδύσεις σε ελέγχους ασφαλείας και εγκεκριμένα πλάτη AI που ανταποκρίνονται στα πρότυπα συμμόρφωσης. Όσο νέες προόδους έρχονται στην αγορά, το Συμβούλιο μπορεί επίσης να εισαγάγει μια формική διαδικασία για τους εργαζομένους να προτείνουν εργαλεία για αξιολόγηση, βοηθώντας την οργάνωση να παραμείνει προσαρμόσιμη και συμμορφωμένη με τη στρατηγική της AI.

4. Ενδυναμώστε την εκπαίδευση AI

Η εκπαίδευση και η εμπλοκή των εργαζομένων γύρω από την AI θα είναι ένα άλλο σημαντικό μέρος για την εξασφάλιση της οργανωσιακής συμφωνίας και την αποσβέση της χρήσης shadow AI. Ακόμη και με τις σωστές μοντέλα διακυβέρνησης στη θέση τους, η επιτυχία εξαρτάται από το πώς καλά οι εργαζόμενοι κατανοούν και ενστερνίζονται.

Σε μια ερεύνα του Pew Research, μεταξύ των εργαζομένων που είχαν λάβει εκπαίδευση στο χώρο εργασίας (51%), μόνο το ένα τέταρτο (24%) είπε ότι ήταν σχετικά με τη χρήση της AI. Οι οργανισμοί πρέπει να διασφαλίσουν ότι έχουν προγράμματα εκπαίδευσης AI στη θέση τους, καθώς μπορούν να βοηθήσουν τους εργαζομένους να κατανοήσουν τις ευκαιρίες και τις λειτουργίες που διατίθενται σε αυτούς. Η αύξηση των δεξιοτήτων μπορεί επίσης να τους βοηθήσει να μεγαλώσουν στην καριέρα τους και να νιώσουν πιο ικανοποιημένοι στη θέση τους.

Τα προγράμματα εκπαίδευσης AI πρέπει να έχουν εστίαση πέρα από τη βασική χρήση και τη συμμόρφωση για να βοηθήσουν τις ομάδες να κατανοήσουν το ευρύτερο πλαίσιο της AI και πώς λειτουργεί στο οικοσύστημα της επιχείρησής τους. Θέματα που πρέπει να καλύψουν περιλαμβάνουν το γιατί η υπεύθυνη χρήση της AI έχει σημασία, ποίες πολιτικές υπάρχουν για να προστατεύσουν και την επιχείρηση και τους πελάτες, και πώς να αναγνωρίσουν πιθανές κινδύνους χειρισμού δεδομένων ή προβλήματα ιδιωτικότητας. Όταν οι εργαζόμενοι είναι εξοπλισμένοι με τις σωστές γνώσεις, είναι ενδυναμωμένοι να γίνουν ενεργοί συνεργάτες στην καινοτομία με ασφάλεια.

Διαμορφώνοντας το μέλλον της υπεύθυνης AI 

Το shadow AI δεν εξαφανίζεται τόσο γρήγορα. Όσο οι γεννητικές τεχνολογίες ενσωματώνονται περισσότερο στις καθημερινές εργασίες, οι προκλήσεις για τις οργανώσεις θα ενταθούν. Οι ηγέτες αντιμετωπίζουν την επιλογή να αντιμετωπίσουν το shadow AI ως một ακαταμάχητο κίνδυνο ή να το αναγνωρίσουν ως μια ευκαιρία να μεγιστοποιήσουν την αποτελεσματικότητα και την παραγωγικότητα, όταν διαχειρίζονται σωστά.

Η ανάπτυξη μιας πολιτικής AI ή Συμβουλίου δεν είναι μια μονομερής πράξη. Όπως και η AI εξελίσσεται γρήγορα, così και η στρατηγική της οργάνωσης πρέπει να εξελίσσεται. Η AI μπορεί να οδηγήσει σε έξυπνες αποφάσεις, να επιταχύνει την καινοτομία και να βελτιώσει την παραγωγικότητα σε όλες τις λειτουργίες. Αλλά για να διατηρήσουν αυτά τα κέρδη, οι εργαζόμενοι πρέπει να κατανοήσουν ποια εργαλεία διατίθενται σε αυτούς και πώς να τα χρησιμοποιήσουν υπεύθυνα. Αυτοί που θα επιτύχουν θα παραμείνουν ευέλικτοι, προβαίνοντας σε προεργασίες για να παραμείνουν μπροστά από την αλλαγή, όχι να την καταδιώκουν.