Ο Αγώνας των Κρατικών Επικοινωνιών της Κρίσης του AI: Όταν το Chatbot σας Γίνεται Ανεπιθύμητο, Ποιο είναι το Νέο Βιβλίο;

Με το διαδίκτυο όπως υπάρχει τώρα, οι μάρκες αγωνίζονται για να ενσωματώσουν chatbot που βασίζονται στο AI για να ροηματοποιήσουν την αλληλεπίδραση του πελάτη και την επιχείρηση. Αλλά με υψηλότερη νοημοσύνη έρχεται απρόσμενη Gefahr. Όταν ένα chatbot του AI αποτυγχάνει, δημοσιεύοντας ακατάλληλο, παραπλανητικό ή δυσφήμιση υλικό, η ζημιά μπορεί να γίνει γρήγορα και εγωιστικά. Το ζήτημα είναι: Πώς αντιδρούν οι μάρκες όταν το AI τους πάει λάθος;

Η Νέα Επίπεδη της Κινδύνου της Μάρκας

Πρόσφατα γεγονότα δείχνουν αυτή τη δυνητική απειλή. Τον Φεβρουάριο του 2024, η Air Canada (AC.TO ) αντιμετώπισε νομικές επιπτώσεις όταν το chatbot του AI που βασίζεται στο AI παρείχε σε έναν πελάτη λανθασμένες πληροφορίες σχετικά με την πολιτική τιμών πένθους της αεροπορικής εταιρείας. Το chatbot έδωσε λανθασμένες πληροφορίες στον πελάτη ότι μπορούσε να ζητήσει μια έκπτωση πένθους αναδρομικά, το οποίο ήταν αντίθετο με την πραγματική πολιτική της αεροπορικής εταιρείας. Όταν ο πελάτης ζήτησε την έκπτωση μετά το ταξίδι, η Air Canada αρνήθηκε το αίτημα, οδηγώντας σε μια διαμάχη. Το Δικαστήριο Πολιτικής Επίλυσης της Βρετανικής Κολομβίας ruled υπέρ του πελάτη, διατάζοντας την Air Canada να αποζημιώσει τον πελάτη και να τηρήσει την έκπτωση. Αυτό το περιστατικό υπογραμμίζει τις δυνητικές ευθύνες που αντιμετωπίζουν οι εταιρείες όταν τα συστήματα του AI διακινούν ανακριβείς πληροφορίες, τονίζοντας την ανάγκη για ισχυρά μηχανισμοί εποπτείας και ευθύνης.

Ομοίως, η Meta αντιμετωπίζει κριτική για τους ψηφιακούς συνοδούς του AI. Μια έρευνα από το The Wall Street Journal βρήκε ότι κάποια από τα chatbot του AI είχαν σεξουαλικές συζητήσεις με χρήστες που παρουσιάζονταν ως παιδιά. Αυτή η αποκάλυψη είχε ως αποτέλεσμα σοβαρά ζητήματα φήμης για την εταιρεία, αναβάλλοντας ηθικά ερωτήματα και την ανάγκη για φραγμούς σχετικά με το AI.

Το ChatGPT της OpenAI δεν ήταν χωρίς διαμάχη. Μια πρόσφατη ενημέρωση έκανε το chatbot υπερβολικά φιλικό, ακόμη και επιβεβαιώνοντας επιζήμιες ή παραπλανητικές σκέψεις που εξέφραζαν οι χρήστες. Αυτή η υπερβολική συμφωνία, που προορίζεται να αυξήσει την αλληλεπίδραση, ανέβασε ηθικά ζητήματα σχετικά με το AI που επηρεάζει τη συμπεριφορά του χρήστη και την эмоциональную επικύρωση. Η OpenAI έλαβε υπόψη το ζήτημα και ανέστρεψε την ενημέρωση, αλλά το περιστατικό υπογραμμίζει το λεπτό όριο μεταξύ αλληλεπίδρασης του χρήστη και ηθικής συμπεριφοράς του AI.

Ευθύνη στην Εποχή του AI

Αυτά τα γεγονότα θέτουν βασικά ερωτήματα σχετικά με την ευθύνη. Όταν ένας ανθρώπινος πρέσβης κάνει ένα λάθος, ο δρόμος προς την αποκατάσταση είναι απλός: ζητήστε συγγνώμη, ζητήστε συγγνώμη και ξεχάστε. Ωστόσο, όταν ένα σύστημα του AI είναι υπεύθυνο, τα πράγματα γίνονται σύγχυση. Ποιος είναι ο ένοχος, οι δημιουργοί, η οργάνωση που χρησιμοποιεί το AI ή το AIเอง;

Οι μάρκες πρέπει να είναι προσεκτικές και να αναγνωρίσουν ότι η εφαρμογή του AI δεν τις απαλλάσσει από την ευθύνη. Οι καταναλωτές ταυτίζουν τη φωνή του chatbot με τη φωνή της μάρκας. Ως εκ τούτου, οποιοδήποτε μικρό λάθος από το AI αντανακλάται στην φήμη της μάρκας. Είναι σημαντικό για τις εταιρείες να έχουν αυστηρές οδηγίες για την παρακολούθηση του AI και να είναι έτοιμες να λάβουν γρήγορες ενέργειες όταν η κατάσταση γίνει αρνητική.

Οι προσδοκίες διαφάνειας που περιβάλλουν το AI εξελίσσονται γρήγορα. Οι καταναλωτές, οι ρυθμιστές και οι δημοσιογράφοι απαιτούν σαφήνεια σχετικά με τον τρόπο με τον οποίο τα αυτόματα συστήματα εκπαιδεύονται, αναπτύσσονται και κυβερνώνται. Σε αυτό το περιβάλλον, η σιωπή ή η απόκλιση δεν είναι μια επιλογή. Οι μάρκες πρέπει να επικοινωνούν προ proactively τις πρακτικές διακυβέρνησης του AI και να είναι έτοιμες να παρέχουν μια ανθρώπινη απάντηση όταν συμβεί ένα λάθος του AI. Τα πρωτόκολλα κρίσης πρέπει τώρα να περιλαμβάνουν συγκεκριμένες περιπτώσεις σχετικά με το AI, όπως την καθοδήγηση σαφών γραμμών ιδιοκτησίας για τα αποτελέσματα του AI και την εγγύηση ότι η ανθρώπινη εποπτεία είναι πάντα μέρος της διαδικασίας. Απλά η εύρεση “του αλγορίθμου” δεν είναι μια στρατηγική, είναι μια δικαιολογία που υπονόμευε την εμπιστοσύνη.

Επιπλέον, οι εταιρείες πρέπει να αναγνωρίσουν ότι τα λάθη του AI συχνά εξαπλώνονται γρηγορότερα από τα παραδοσιακά, τροφοδοτούμενα από την εύρημη κοινωνική επέκταση και το δημόσιο ενδιαφέρον για τις τεχνολογικές αποτυχίες. Μια seule λήψη οθόνης μιας αλληλεπίδρασης chatbot μπορεί να φτάσει εκατομμύρια μέσα σε quelques ώρες. Αυτό αυξάνει την ανάγκη για συνεχή παρακολούθηση του AI και ταχεία διαδρομή. Οι ομάδες επικοινωνιών πρέπει να διεξάγουν σχεδιασμό σενάριου συγκεκριμένα για τα λάθη του AI, να αναπτύσσουν προτυποποιημένες απαντήσεις και να ευθυγραμμίζουν τις νομικές, συμμόρφωση και μηχανικής ομάδες γύρω από μια κοινή κατανόηση της ευθύνης. Σε αυτό το νέο τοπίο, η ανθεκτικότητα της φήμης εξαρτάται όχι μόνο από το πώς μια μάρκα απαντά στις κρίσεις του AI, αλλά και από το πώς προετοιμάζεται για αυτές με διαφάνεια από την αρχή.

Προληπτικά Βήματα για τη Διαχείριση της Κρίσης του AI

Για να ευημερήσουν σε ένα σύνθετο σενάριο του AI, οι μάρκες μπορούν να εφαρμόσουν τα ακόλουθα βήματα:

• Εφαρμόστε Ισχυρά Συστήματα Παρακολούθησης: Κανονικά ελέγξτε την έξοδο του AI για να αναγνωρίσετε και να διορθώσετε ακατάλληλο περιεχόμενο εγκαίρως. Για παράδειγμα, η SeekOut, μια πλατφόρμα ταλέντου, διεξάγει τακτικές ελέγχους των συστημάτων του AI για να διασφαλίσει δίκαιες και αμερόληπτες αποτελέσματα. Σε απάντηση των εξελισσόμενων κανονισμών και ως μέρος της δέσμευσής της για υπεύθυνο AI, η SeekOut συνεργάστηκε με τον τρίτο ελεγκτή Credo AI για να αξιολογήσει τους αλγόριθμους της. Η αξιολόγηση αξιολόγησε την απόδοση των χαρακτηριστικών του AI σε διάφορες δημογραφικές ομάδες, επιβεβαιώνοντας ότι τα αποτελέσματα αναζήτησης για τίτλους εργασίας ήταν αντιπροσωπευτικά και ισότιμα. Αυτή η προληπτική προσέγγιση επιτρέπει στην SeekOut να αναγνωρίσει και να διορθώσει δυνητικά προκαταλήψεις εγκαίρως, διατηρώντας την ακεραιότητα και την ισότητα των υπηρεσιών του AI.
• Δημιουργήστε Σαφείς Πλαίσια Ευθύνης: Καθορίστε ποιος στην οργάνωση θα χειρίζεται την παρακολούθηση του AI και τη διαχείριση της κρίσης. Για παράδειγμα, το Γραφείο Λογιστικής της Κυβέρνησης των ΗΠΑ εξέδωσε ένα πλαίσιο ευθύνης του AI που τονίζει τη διακυβέρνηση, τα δεδομένα, την απόδοση και την παρακολούθηση. Παρέχει πρακτικές για τις ομοσπονδιακές υπηρεσίες για να διασφαλίσουν την υπεύθυνη χρήση του AI, συμπεριλαμβανομένης της θέσπισης σαφών στόχων και της συμμετοχής διαφόρων ενδιαφερόμενων.
• Δημιουργήστε Προγράμματα Απάντησης Κρίσεων του AI: Τα γενικά σχέδια διαχείρισης κρίσεων μπορεί να μην είναι επαρκή. Προσαρμόστε τα σχέδια για να απαντήσετε σε κρίσεις του AI, όπως η διακοπή των συστημάτων του AI όταν χρειάζεται. Το Προγράμματα Ανάπτυξης των Ηνωμένων Εθνών χρησιμοποιούν πίνακες κινδύνου κρίσεων που βασίζονται στο AI για να παρακολουθούν και να προβλέπουν πιθανές κρίσεις, όπως μίσος και βία. Αυτοί οι πίνακες επιτρέπουν προληπτικές απαντήσεις αναλύοντας δεδομένα σε πραγματικό χρόνο και προβλέποντας κινδύνους.
• Ασκήστε Ειλικρινή Επικοινωνία: Όταν συμβεί ένα λάθος του AI, ασκήστε ειλικρινή επικοινωνία με τους ενδιαφερόμενους σχετικά με το λάθος, τις ενέργειες που λήφθηκαν για να διορθωθεί το λάθος και τις διαδικασίες που τέθηκαν σε ισχύ για να αποφευχθούν επαναλαμβανόμενα περιστατικά. Για παράδειγμα, το 2018, η Amazon (AMZN ) διέκοψε το εργαλείο भरσης θέσεων του AI μετά την ανακάλυψη ότι ήταν προκατειλημμένο κατά των γυναικών. Η εταιρεία αναγνώρισε το ζήτημα και σταμάτησε να χρησιμοποιεί το εργαλείο, επιδεικνύοντας διαφάνεια στην αντιμετώπιση των ελαττωμάτων του AI.
• Δαπανήστε για την Ηθική Εκπαίδευση του AI: Βεβαιωθείτε ότι τα μοντέλα του AI εκπαιδεύονται με ποικίλες και περιεκτικές συνόλους δεδομένων για να καταστείλει τις προκαταλήψεις και την ακατάλληλη συμπεριφορά. Σε αυτή τη γραμμή, ερευνητές στο Πανεπιστήμιο του Ουάσινγκτον και το Ινστιτούτο Allen για το AI ανέπτυξαν Delphi, ένα σύστημα του AI που σχεδιάστηκε για να κάνει ηθικές κρίσεις. Αν και δείχνει υποσχόμενο, το Delphi αντανακλά đôi και πάλι τις κοινωνικές προκαταλήψεις, υπογραμμίζοντας τις προκλήσεις στην εκπαίδευση του AI με ποικίλες και περιεκτικές συνόλους δεδομένων.

Όσο το AI γίνεται ολοένα και πιο ενσωματωμένο στις επικοινωνίες της μάρκας, ο κίνδυνος των λάθων αυξάνεται. Όσο το AI προσφέρει πολύτιμες αποδοτικότητες, εισάγει επίσης μοναδικές προκλήσεις που οι μάρκες πρέπει να είναι προετοιμασμένες να διαχειριστούν. Με την προληπτική εφαρμογή μέτρων ελέγχου και προγραμματισμένων σχεδίων απάντησης κρίσεων, οι οργανισμοί μπορούν να προστατεύσουν τη φήμη τους και να διατηρήσουν την εμπιστοσύνη των καταναλωτών σε αυτό το εξελισσόμενο ψηφιακό τοπίο.