Όταν η κακοποίηση του AI προκαλεί μια εταιρική κρίση

Οι περισσότερες εταιρείες δεν έχουν πολιτικές για να αποτρέψουν τις καταστροφές της φήμης από εργαλεία τεχνητής νοημοσύνης

Πρόσφατες ερευνες αποκαλύπτουν ότι μόνο το 30% των εταιρειών έχουν καθορίσει πολιτικές για το AI. Εν τω μεταξύ, το 77% των εργαζομένων μοιράζονται εταιρικά μυστικά στο ChatGPT, σύμφωνα με την Εταιρική Αναφορά Ασφάλειας Δεδομένων AI και SaaS της LayerX. Αυτό το συνδυασμό δημιουργεί ιδανικές συνθήκες για κρίσεις φήμης.

Οι περισσότερες πολιτικές AI που υπάρχουν σήμερα εστιάζουν στους τεχνικούς και τους κινδύνους συμμόρφωσης. Καθορίζουν πρωτόκολλα ασφάλειας δεδομένων, αξιολογήσεις προμηθευτών και απαιτήσεις κανονισμών. Όμως, αυτές οι πολιτικές συχνά παραλείπουν μια δημόσια κρίση που μπορεί να ξεσπάσει μέσα σε quelques ώρες λόγω κακοποίησης του AI. Στο Red Banyan, συμβουλεύουμε έναν αυξανόμενο αριθμό οργανισμών μέσω κρίσεων που σχετίζονται με το AI, και αρχίζουμε να βλέπουμε ένα κοινό μοτίβο. Η τεχνική παραβίαση συνήθως περιορίζεται γρήγορα, αλλά η ζημιά στη φήμη, τις σχέσεις πελατών και την εμπιστοσύνη μετόχων μπορεί να διαρκέσει για μήνες ή ακόμη και χρόνια.

Το Πρόβλημα του Shadow AI

Η μεγαλύτερη απειλή προέρχεται από το που οι chuyênικοί ασφαλείας ονομάζουν “Shadow AI.” Αυτό είναι όπου οι εργαζόμενοι χρησιμοποιούν μη εγκεκριμένα, προσωπικά λογαριασμούς AI για εργασίες, παρακάμπτοντας εταιρικούς ελέγχους ασφαλείας. Οι περισσότερες φορές, το κάνουν αυτό χωρίς να συνειδητοποιούν πλήρως τους κινδύνους.

Σύμφωνα με την ερευνα της Cyberhaven, το 11% των δεδομένων που οι εργαζόμενοι εισάγουν στο ChatGPT είναι εμπιστευτικά. Αυτό το ποσοστό πρέπει να προκαλέσει ανησυχία σε κάθε CIO και ηγέτη επικοινωνιών. Μιλάμε για πηγαίο κώδικα, συμβάσεις πελατών, μη δημοσιευμένα σχέδια προϊόντων, προβλέψεις finanziών και αρχεία εργαζομένων που ρέουν σε συστήματα που οι οργανισμοί δεν ελέγχουν.

Πώς Συμβαίνει η Έκθεση Δεδομένων

Οι μηχανικοί λογισμικού μπορούν να χρησιμοποιήσουν εργαλεία AI όπως το Claude ή το ChatGPT για να διορθώσουν ή να βελτιώσουν κομμάτια κώδικα. Το 2023, μηχανικοί λογισμικού της Samsung έκαναν ακριβώς αυτό – ανέβασαν εσωτερικό πηγαίο κώδικα στο ChatGPT ενώ προσπαθούσαν να διορθώσουν προβλήματα. Η διαρροή του εμπιστευτικού κώδικα ανάγκασε τη Samsung να εφαρμόσει綜合적인 περιορισμούς στη χρήση του AI σε όλα τα τμήματα μηχανικής.

Οι chuyênικοί μάρκετινγκ και οι εργαζόμενοι του τμήματος ανθρώπινου δυναμικού συχνά χρησιμοποιούν το AI για να βελτιώσουν τη γραπτή τους. Ανεβάζουν προσχέδια προτάσεων, εσωτερικά έγγραφα πολιτικής και μερικές φορές ακόμη και συμφωνίες πελατών, ζητώντας από το AI να βελτιώσει τη σαφήνεια ή να διορθώσει γραμματικές λάθη. Αυτά τα έγγραφα συχνά περιέχουν προβλέψεις finanziών, νομικούς όρους ή στρατηγικά σχέδια που οι ανταγωνιστές θα βρουν πολύτιμα.

Οι ομάδες εξυπηρέτησης πελατών που πειραματίζονται με εργαλεία αποδοτικότητας AI μπορεί να εισάγουν πραγματικές συνομιλίες πελατών και εισερχόμενες ενέργειες. Θέλουν το AI να συνοψίσει τις αλληλεπιδράσεις ή να προτείνει καλύτερες απαντήσεις. Όταν αυτές οι εισαγωγές περιλαμβάνουν ονόματα πελατών, στοιχεία επικοινωνίας, λεπτομέρειες λογαριασμών ή ιστορικό αγορών, η εταιρεία έχει πιθανώς παραβιάσει κανονισμούς προστασίας προσωπικών δεδομένων όπως το GDPR ή το CCPA.

Οι ομάδες ανάπτυξης προϊόντων που επινοούν новые χαρακτηριστικά μπορεί να περιγράψουν μη ανακοινωμένες ικανότητες στο ChatGPT, ελπίζοντας ότι το AI θα βοηθήσει να βελτιώσει τις ιδέες τους ή να αναγνωρίσει πιθανά προβλήματα. Αυτές οι περιγραφές μπορούν να αποκαλύψουν ανταγωνιστικά πλεονεκτήματα, τεχνολογικές καινοτομίες ή στρατηγικές αγοράς που η εταιρεία ήθελε να κρατήσει εμπιστευτικές μέχρι την κυκλοφορία.

Όλα αυτά τα στοιχεία θα μπορούσαν να διατηρηθούν από μεγάλες γλώσσες μοντέλα και να ενημερώσουν τις απαντήσεις του AI σε άλλους χρήστες στο μέλλον.

Για παράδειγμα, μετά την περιγραφή του επερχόμενου προϊόντος στο ChatGPT, ένας ανταγωνιστής ή δημοσιογράφος θα μπορούσε να ζητήσει από το εργαλείο AI να μιλήσει για τις επερχόμενες κυκλοφορίες της εταιρείας. Το ChatGPT θα μπορούσε να αναφερθεί στις εμπιστευτικές πληροφορίες που μοιράστηκαν και να αποκαλύψει ένα νέο προϊόν ή τεχνολογία που η εταιρεία δαπάνησε σημαντικά για την ανάπτυξή του.

Πώς Αυτό Γίνεται Μια Κρίση Δημοσίων Σχέσεων

Όταν αυτά τα περιστατικά επιφανθούν, σπάνια παραμένουν περιορίζονται ως προβλήματα IT. Αυτό είναι που συνήθως συμβαίνει:

Η παραβίαση ανακαλύπτεται, συχνά από τύχη ή μέσω μιας τρίτης ειδοποίησης. Η IT αρχίζει να ερευνά ενώ προσπαθεί να αξιολογήσει το εύρος. Εν τω μεταξύ, αν το περιστατικό εμπλέκει δεδομένα πελατών ή ρυθμιζόμενη πληροφορία, οι νομικές υποχρεώσεις απαιτούν αποκάλυψη. Μόλις αποκαλυφθεί, η κάλυψη των μέσων μαζικής ενημέρωσης αρχίζει. Τα κοινωνικά μέσα ενημέρωσης ενισχύουν την ιστορία. Οι πελάτες αρχίζουν να καλούν με ανησυχίες. Οι εργαζόμενοι ανησυχούν για την ασφάλεια της δουλειάς τους και την ευθύνη τους.

Εντός 24 έως 48 ωρών, αυτό που ξεκίνησε ως τεχνικό περιστατικό έχει γίνει μια πλήρη κρίση φήμης. Η εταιρεία πρέπει να εξηγήσει σε πολλαπλά κοινά πώς συνέβη αυτό, γιατί οι έλεγχοι απέτυχαν και τι γίνεται για να αποτρέψει την επανάληψη. Αν η εταιρεία δεν έχει προετοιμαστεί για αυτό το σενάριο, η απάντηση είναι συχνά αργή, ασυνεπής ή αμυντική. Κάθε λάθος επεκτείνει την κρίση και βαθαίνει τη ζημιά.

Κατασκευή Πλαισίου Απάντησης σε Κρίσεις για Περιστατικά AI

Οι CIOs πρέπει να συνεργαστούν με τις ομάδες επικοινωνιών και νομικών για να κατασκευάσουν πρωτόκολλα απάντησης σε κρίσεις ειδικά για περιστατικά AI. Οι τεχνικοί έλεγχοι και οι πολιτικές έχουν σημασία, αλλά είναι ανεπαρκείς χωρίς einen σχέδιο για τη διαχείριση της πτώσης των μέσων μαζικής ενημέρωσης όταν κάτι πάει λάθος.
Εδώ είναι έξι ενεργά βήματα για να ξεκινήσετε αυτή τη διαδικασία:

1. Καθορίστε σαφείς διαδρομές αναβάθμισης. Όταν ανακαλυφθεί μια έκθεση δεδομένων που σχετίζεται με το AI, ποιος ειδοποιείται αμέσως; Η IT, η Νομική, η Επικοινωνία και η διοίκηση πρέπει όλες να ειδοποιηθούν γρήγορα. Δημιουργήστε ένα δέντρο αποφάσεων που καθορίζει πότε να ενεργοποιήσετε πρωτόκολλα κρίσεων με βάση τον τύπο και την ευαισθησία των εκτεθειμένων δεδομένων.
2. Αναπτύξτε προτυπωμένες απαντήσεις. Προ-δημιουργήστε δηλώσεις και έγγραφα ερωτήσεων και απαντήσεων για κοινά σενάρια κακοποίησης του AI. Αυτά πρέπει να αντιμετωπίσουν την κακοποίηση από εργαζομένους, ζητήματα ασφάλειας προμηθευτών και ακούσια έκθεση δεδομένων. Η διαθεσιμότητα προτύπων σας επιτρέπει να απαντήσετε ταχύτερα και πιο συνεπώς όταν ο χρόνος είναι κρίσιμος.
3. Εκπαιδεύστε τους ομιλητές. Οι εκτελεστές και το προσωπικό επικοινωνιών χρειάζονται εκπαίδευση στα μέσα ενημέρωσης που εστιάζει ειδικά σε πώς να συζητήσουν περιστατικά AI. Η τεχνολογία είναι σύνθετη και γεμάτη με ιδιωματισμούς, που θα μπορούσε να είναι δύσκολο να διαπραγματευτεί όταν απαντάτε σε ερωτήσεις από μετόχους.
4. Παρακολουθήστε για πρώιμα σημάδια. Η παρακολούθηση των κοινωνικών μέσων πρέπει να περιλαμβάνει λέξεις-κλειδιά που σχετίζονται με την οργάνωση σας και εργαλεία AI. Μερικές φορές η πρώτη ένδειξη ενός προβλήματος έρχεται από έναν εργαζόμενο που δημοσιεύει στο LinkedIn ή έναν πελάτη που καταθέτει μια καταγγελία στο Twitter για μια απάντηση που δημιουργήθηκε από το AI.
5. Διεξαγάγετε.simulations κρίσεων. Ασκήσεις που περνούν από ένα σενάριο έκθεσης δεδομένων AI βοηθούν τις ομάδες να κατανοήσουν τους ρόλους τους και να αναγνωρίσουν κενά στο σχέδιο απάντησης. Αυτές οι ασκήσεις πρέπει να περιλαμβάνουν την IT, τη Νομική, την Επικοινωνία, την Ανθρώπινη Πόρωση και την ηγετική διοίκηση.
6. Κατασκευάστε σχέσεις πριν τις χρειαστείτε. Δημιουργήστε συνδέσεις με εταιρείες κρίσεων επικοινωνιών, εμπειρογνώμονες κυβερνοασφάλειας που μπορούν να παρέχουν τρίτη επαλήθευση και νομική συμβουλή με εμπειρία σε ζητήματα AI. Όταν μια κρίση χτυπήσει, θέλετε αξιόπιστους συμβούλους που μπορούν να κινητοποιηθούν αμέσως.

Ο Δρόμος προς τα Εμπρός

Ο χάσμα μεταξύ υιοθέτησης AI και διακυβέρνησης AI συνεχίζει να αυξάνεται. Οι εργαζόμενοι έχουν εύκολη πρόσβαση σε ισχυρά εργαλεία που μπορούν να δημιουργήσουν σημαντικούς κινδύνους φήμης. Οι CIOs παραδοσιακά εστιάζουν στην τεχνική πλευρά της διαχείρισης κινδύνων AI. Ωστόσο, η πλευρά φήμης των περιστατικών AI απαιτεί ισότιμη προσοχή και προετοιμασία.

Το ερώτημα δεν είναι αν η οργάνωση σας θα αντιμετωπίσει μια κρίση που σχετίζεται με το AI. Με τις τρέχουσες ταχύτητες υιοθέτησης και την επικράτηση του Shadow AI, το ερώτημα είναι πότε. Οι εταιρείες που προετοιμάζονται τώρα, με πολιτικές που αντιμετωπίζουν τόσο τους τεχνικούς όσο και τους κινδύνους φήμης, θα αντιμετωπίσουν αυτά τα περιστατικά πολύ καλύτερα από εκείνες που πιάνονται ανοργανωμένες.