Το κενό συγκατάθεσης που κρύβεται μέσα στην επιχειρησιακή AI

Οι συζητήσεις για την Επιχειρησιακή AI τείνουν να ξεκινούν με δεδομένα. Διαθέτει η εταιρεία αρκετές πληροφορίες πελατών για να εκπαιδεύσει ένα μοντέλο, να εξατομικεύσει μια εμπειρία ή να υποστηρίξει μια αυτοματοποιημένη απόφαση;

Η ερώτηση που παραβλέπεται είναι εάν η εταιρεία πραγματικά έχει άδεια να χρησιμοποιήσει αυτά τα δεδομένα για τον συγκεκριμένο σκοπό που έχει στο νου της.

Τα δεδομένα πελατών μπορούν να είναι ακριβή, προσβάσιμα και πολύτιμα, ενώ εξακολουθούν να υπόκεινται σε περιορισμούς. Κάποιος μπορεί να συμφωνήσει να λαμβάνει εξατομικευμένες προτάσεις χωρίς να συμφωνεί να χρησιμοποιηθούν οι πληροφορίες του για την εκπαίδευση ενός μοντέλου AI. Ένας άλλος μπορεί να θέλει ενημερώσεις μέσω email μία φορά το μήνα, αλλά να απορρίψει καθημερινά μηνύματα κειμένου.

Γι’ αυτό άρχισα να περιγράφω τη διαχείριση συγκατάθεσης και προτιμήσεων ως διακυβέρνηση αδειών. Απαντά σε μια απλή ερώτηση: Ποιος, ή τι, έχει άδεια πρόσβασης σε αυτά τα δεδομένα και χρήσης τους για συγκεκριμένο σκοπό;

Καθώς η AI συνδέεται με περισσότερες εμπειρίες πελατών, οι εταιρείες πρέπει να απαντούν σε αυτή την ερώτηση πριν ενεργήσει το σύστημα. Τα καταγεγραμμένα περιστατικά AI αυξήθηκαναπό 233 το 2024 σε 362 το 2025 — μια άνοδο 55 % σε ένα μόνο έτος, και ένα σημάδι του πόσο είναι σημαντικό να το κάνουμε σωστά.

Τα διαθέσιμα δεδομένα δεν είναι εξουσιοδοτημένα δεδομένα

Οι περισσότερες μεγάλες οργανώσεις διαθέτουν ήδη τεχνολογία για τη συλλογή, αποθήκευση και μεταφορά πληροφοριών πελατών. Μπορεί να γνωρίζουν πού βρίσκονται τα δεδομένα, σε ποιον πελάτη ανήκουν και πώς να τα κάνουν διαθέσιμα σε άλλη εφαρμογή.

Η διακυβέρνηση αδειών απαντά σε ένα διαφορετικό σύνολο ερωτήσεων:

• Γιατί συλλέχθηκαν οι πληροφορίες;
• Σε τι συμφώνησε ο πελάτης;
• Ποιες χρήσεις καλύπτει αυτή η συμφωνία;
• Έχει αλλάξει γνώμη ο πελάτης;
• Ποια συστήματα πρέπει να λάβουν αυτήν την ενημέρωση;

Αυτές οι ερωτήσεις γίνονται ιδιαίτερα σημαντικές όταν τα δεδομένα που συλλέχθηκαν για έναν σκοπό εισάγονται σε μια νέα περίπτωση χρήσης AI. Οι πληροφορίες που βρίσκονται σε ένα CRM ή προφίλ πελάτη δεν είναι αυτόματα κατάλληλες για κάθε μοντέλο, εκστρατεία ή αυτοματοποιημένη απόφαση.

Η συγκατάθεση είναι μία νόμιμη βάση για την επεξεργασία προσωπικών δεδομένων, αλλά δεν είναι η μόνη. Οι απαιτήσεις εξαρτώνται από τη δικαιοδοσία, τα δεδομένα και τη χρήση. Το ευρύτερο σημείο είναι ότι η διαθεσιμότητα από μόνη της δεν αποδεικνύει εξουσιοδότηση.Οι ρυθμιστές ήδη εξετάζουν τι συμβαίνει όταν μοντέλα AI αναπτύσσονται χρησιμοποιώντας παράνομα επεξεργασμένα προσωπικά δεδομένα. Οι ερωτήσεις σχετικά με το πώς αποκτήθηκαν οι πληροφορίες δεν εξαφανίζονται μόλις αυτές οι πληροφορίες ενσωματωθούν σε ένα μοντέλο.

Η AI χρειάζεται κάτι παραπάνω από το “Opt In” ή το “Opt Out”

Τα παραδοσιακά συστήματα συγκατάθεσης συχνά περιορίζουν την απόφαση του πελάτη σε δύο επιλογές: opt in ή opt out. Αυτό δεν αντανακλά τον τρόπο με τον οποίο οι άνθρωποι πραγματικά θέλουν να αλληλεπιδρούν με τις εταιρείες.

Ένας πελάτης μπορεί να θέλει προτάσεις προϊόντων αλλά να απορρίψει άσχετη διαφήμιση. Μπορεί να αποδεχτεί την εξατομίκευση ενώ απορρίπτει τη χρήση των πληροφοριών του για την εκπαίδευση μοντέλου. Μπορεί ακόμη να του αρέσουν τα email μιας μάρκας, αλλά να θέλει να τα λαμβάνει μία φορά το μήνα αντί για καθημερινά.

Μια επισκόπηση 22 συστημάτων AI που απευθύνονται σε καταναλωτές βρήκε μεγάλη διαφοροποίηση στον τρόπο που τα προϊόντα ζητούν άδεια και διαχειρίζονται την εξατομίκευση, χωρίς σταθερό πρότυπο μεταξύ των εξετασμένων συστημάτων.

Η παροχή στους πελάτες της δυνατότητας opt down μπορεί να είναι μια τεράστια απελευθέρωση. Χωρίς αυτήν την επιλογή, κάποιος που απογοητεύεται από τα πολλά μηνύματα μπορεί να διαγράψει την εγγραφή του εντελώς. Η εταιρεία χάνει έναν πρόθυμο πελάτη επειδή δεν του έδωσε ποτέ μια πιο λογική επιλογή.

Η εμπειρία γίνεται παρεμβατική τη στιγμή που η ανταλλαγή διακόπτεται — όταν ο πελάτης δεν θυμάται ότι το ζήτησε ή δεν μπορεί να καταλάβει γιατί η εταιρεία ενεργεί με βάση ορισμένες πληροφορίες. Οι επιχειρήσεις μπορούν να αποφύγουν μεγάλο μέρος αυτής της σύγχυσης είμαι άμεσες: Εδώ είναι οι πληροφορίες που θέλουμε να συλλέξουμε, εδώ είναι πώς θέλουμε να τις χρησιμοποιήσουμε και εδώ είναι τι θα λάβετε ως ανταπόδοση.

Η Επιλογή ενός Πελάτη Πρέπει να Φτάσει σε Όλα τα Συστήματα

Η καταγραφή μιας προτίμησης σε έναν ιστότοπο είναι μόνο η αρχή. Η επιλογή αυτή πρέπει να φτάσει σε κάθε σύστημα που χρησιμοποιεί τις πληροφορίες του πελάτη. Ένας πελάτης μπορεί να ενημερώσει μια προτίμηση ενώ μια πλατφόρμα email, μια εφαρμογή υπηρεσίας ή ένα περιβάλλον AI συνεχίζουν να ενεργούν βάσει μιας παλαιότερης απάντησης, και διαφορετικές επιχειρησιακές μονάδες μπορεί να καταλήξουν να διατηρούν αντικρουόμενα αρχεία ως αποτέλεσμα. Ένας πελάτης μπορεί επίσης να μεταβεί από ανώνυμη περιήγηση σε πιστοποιημένο λογαριασμό χωρίς η εταιρεία ποτέ να συνδέσει τις προηγούμενες επιλογές του με το νέο προφίλ.

Εδώ η συγκατάθεση δεν μπορεί πλέον να παραμένει σε ένα «σιλό» ιδιωτικότητας που το υπόλοιπο της επιχείρησης σχεδόν δεν γνωρίζει ότι υπάρχει. Πρέπει να συνδέεται με το μάρκετινγκ, την εμπειρία πελατών, τη διακυβέρνηση δεδομένων και τα συστήματα που αναπτύσσουν AI. Ένα λειτουργικό επίπεδο αδειών θα πρέπει να διατηρεί το πιο πρόσφατο αρχείο, να συνδέει τις επιλογές μεταξύ προφίλ πελατών, να συσχετίζει κάθε άδεια με συγκεκριμένο σκοπό και να αποστέλλει τις αλλαγές σε κάθε σχετικό σύστημα.

Αν το κεντρικό αρχείο δείχνει ότι ένας πελάτης απέσυρε την άδεια αλλά τα κατώτερα συστήματα συνεχίζουν να χρησιμοποιούν τα δεδομένα, η καταγραφή της επιλογής δεν την έχει πραγματικά σεβαστεί. Το πρόβλημα αυτό γίνεται πολύ μεγαλύτερο με την ΤΝ. Μια παλιά άδεια μπορεί να επηρεάσει χιλιάδες συστάσεις, μηνύματα ή αυτοματοποιημένες ενέργειες πριν το παρατηρήσει κανείς.

Η ιδιωτικότητα δεν μπορεί να επιτρέψει να γίνει το «Γραφείο του Όχι»

Τίποτα από αυτά δεν λειτουργεί αν η ιδιωτικότητα εμπλέκεται μόνο μετά το γεγονός. Οι ομάδες ιδιωτικότητας έχουν κερδίσει φήμη σε ορισμένες εταιρείες ως το γραφείο του όχι, και σε πολλές περιπτώσεις αυτό συμβαίνει επειδή η ιδιωτικότητα εισάγεται σε ένα έργο αφού οι σημαντικές αποφάσεις έχουν ήδη ληφθεί.

Μια ομάδα μάρκετινγκ αναπτύσσει μια εκστρατεία, μια ομάδα δεδομένων δημιουργεί ένα νέο μοντέλο ή η ηγεσία αποφασίζει ότι πρέπει να κινηθεί γρήγορα στην ΤΝ. Η ιδιωτικότητα λαμβάνει το σχέδιο κοντά στο τέλος και εντοπίζει ένα πρόβλημα. Σε εκείνη τη φάση, η μόνη ρεαλιστική απάντηση μπορεί να είναι το όχι.

Η ενσωμάτωση της ιδιωτικότητας στη διαδικασία νωρίτερα αλλάζει τη συζήτηση. Η ομάδα μπορεί να βοηθήσει την επιχείρηση να προχωρά ενώ τσεκάρει τα σωστά κουτάκια καθ’ όλη τη διάρκεια. Ιδιωτικότητα από το σχεδιασμό είναι πολύ πιο εύκολο από το να προσπαθεί κανείς να ξετυλίξει ένα σύστημα αφού τα δεδομένα του πελάτη έχουν ήδη περάσει από αυτό.

Αυτό είναι σημαντικό επειδή οι ομάδες ιδιωτικότητας είναι συχνά μικρές, ακόμη και μέσα στις μεγαλύτερες εταιρείες του κόσμου. Αυτές οι μικρές αλλά ισχυρές ομάδες δεν μπορούν να παρακολουθούν χειροκίνητα κάθε επιλογή πελάτη σε κάθε εφαρμογή. Χρειάζονται συστήματα που είναι ευέλικτα, εύχρηστα και ικανά να μεταφέρουν τις άδειες σε όλη την επιχείρηση.

Οι επαγγελματίες ιδιωτικότητας χρειάζονται επίσης την αυτοπεποίθηση να εξηγούν το έργο τους με επιχειρηματικούς όρους. Καθίζουν ανάμεσα στην εταιρεία και τον πελάτη και μπορούν να βοηθήσουν και τις δύο πλευρές να εξάγουν περισσότερη αξία από τη σχέση.

Το ίχνος ελέγχου πρέπει να φτάσει στην απόφαση της ΤΝ

Όταν αμφισβητείται μια απόφαση που προέρχεται από ΤΝ, η εταιρεία πρέπει να μπορεί να ανασυνθέσει τι συνέβη. Αυτό περιλαμβάνει την ταυτοποίηση των δεδομένων πελάτη που χρησιμοποιήθηκαν, τι είχε συμφωνήσει ο πελάτης, ποια ειδοποίηση έλαβε και αν η τελευταία επιλογή είχε φτάσει στο σύστημα πριν ενεργήσει. Καθιερωμένες οδηγίες ΤΝτονίζουν την τεκμηρίωση των δεδομένων, των απαιτήσεων συστήματος και των αποφάσεων καθ’ όλη τη διάρκεια του κύκλου ζωής της ΤΝ.

Αυτά τα αποδεικτικά στοιχεία υποστηρίζουν τις ρυθμιστικές έρευνες, αλλά έχουν επίσης πρακτική αξία. Οι ομάδες ιδιωτικότητας, μάρκετινγκ, εμπειρίας πελατών και δεδομένων χρειάζεται να κατανοήσουν γιατί κάτι πήγε στραβά, να εντοπίσουν ποια συστήματα έλειψαν συγχρονισμό και να διορθώσουν τη διαδικασία.

Η καταγραφή της συγκατάθεσης δεν είναι το ίδιο με την απόδειξη της αργότερα. Ένα αρχείο γίνεται πολύ πιο δύσκολο να ανασυντεθεί μετά την κίνηση των δεδομένων μέσω πολλαπλών συστημάτων και την επιρροή τους σε μια αυτοματοποιημένη ενέργεια.

Η εμπιστοσύνη χτίζεται ή σπάζει ανά αλληλεπίδραση

Η εμπιστοσύνη μπορεί να ακούγεται ως ακαδημαϊκό ρητό, αλλά είναι το θεμέλιο κάθε σχέσης με τον πελάτη. Κάθε αλληλεπίδραση κάνει αυτή τη σχέση λίγο καλύτερη ή λίγο χειρότερη, είτε η εταιρεία το συνειδητοποιεί είτε όχι.

Καθώς η υιοθέτηση αυξάνεται, οι εταιρείες έχουν περισσότερες ευκαιρίες να δημιουργήσουν αξία, αλλά και περισσότερες ευκαιρίες για μικρά κενά διακυβέρνησης να επηρεάσουν τους πελάτες. Πριν κλιμακώσουν μια εφαρμογή ΤΝ που απευθύνεται σε πελάτες, οι ηγέτες πρέπει να κατανοήσουν ποια δεδομένα θα χρησιμοποιήσει, ποιες άδειες ισχύουν και πόσο γρήγορα η ενημερωμένη επιλογή του πελάτη θα φτάσει στο σύστημα.

Μια σύσταση δεν πρέπει να βασίζεται σε πληροφορίες που ο πελάτης δεν περίμενε να χρησιμοποιηθούν. Ένα μήνυμα δεν πρέπει να φτάνει μέσω καναλιού που ο πελάτης απέρριψε. Ένα αυτοματοποιημένο σύστημα δεν πρέπει να ενεργεί απλώς επειδή τα δεδομένα είναι διαθέσιμα.

Οι πελάτες ήδη λένε στις οργανώσεις τι θέλουν. Το επόμενο βήμα είναι να διασφαλιστεί ότι τα συστήματα ΤΝ που ενεργούν με τα δεδομένα τους είναι ικανά να ακούσουν.