Το AI που θυμάται χωρίς υπερ-μυστικότητα: Αρχιτεκτονική προστασίας προσωπικών δεδομένων για την επόμενη γενιά προσωπικών υπηρεσιών

Οι περισσότερες επιχειρήσεις δεν έχουν ακόμη συνειδητοποιήσει ότι οι προσωπικοί βοηθοί AI έχουν φτάσει σε ένα εντελώς νέο επίπεδο. Τώρα δεν απαντούν μόνο σε ερωτήσεις, αλλά εκτελούν ενέργειες για λογαριασμό πραγματικών υπαλλήλων: κάνουν και παρακολουθούν κρατήσεις, αλληλοδιαβάζουν, και λαμβάνουν αποφάσεις σχετικά με финάνσεις, προγράμματα, ταξίδια, και συναντήσεις.

Τα δεδομένα που λειτουργούν τα AI έχουν επίσης αλλάξει: από “τί ποιο είδος μουσικής σας αρέσει” σε “πού είστε, με ποιους είστε, τι έχετε συμφωνήσει, και πόσο πληρώνετε για αυτό”. Αυτό είναι ένα ποιοτικά διαφορετικό επίπεδο ευαλωτότητας, και χρειαζόμαστε μια νέα αρχιτεκτονική. Το ονομάζω “αποδείξεις προστασίας προσωπικών δεδομένων” – ψηφιακές αποδείξεις που επιτρέπουν στους χρήστες να δουν ανά πάσα στιγμή τι ακριβώς ο βοηθός γνωρίζει για αυτούς, από πού προέρχεται, και γιατί χρησιμοποιείται. Αυτή είναι η ίδια προσδοκία που έχουμε σήμερα για τις τραπεζικές εκθέσεις: διαφανείς, ελέγξιμες, διαθέσιμες κατόπιν αιτήματος.

Γιατί η ασφαλής AI έχει γίνει κριτικά σημαντική τώρα

Μέχρι πρόσφατα, οι βοηθοί AI ήταν κυρίως πληροφοριακοί: αναζήτηση, περίληψη εγγράφων, υποδείξεις κώδικα. Σπάνια μπορούσαν να ενεργήσουν χωρίς τη συμμετοχή ενός ατόμου που ελέγχει τη διαδικασία.

Σήμερα, βλέπουμε μια διαφορετική εικόνα. Οι βοηθοί έχουν ενσωματωθεί σε email, ημερολόγια, messengers, τραπεζικές και ταξιδιωτικές υπηρεσίες. Μπορούν να στείλουν ανεξάρτητα μια επιστολή σε einen συνεργάτη, να πληρώσουν για μια κράτηση, ή να αλλάξουν μια πτήση, βασισμένοι σε контекστ που το άτομο που είναι υπεύθυνο μπορεί να μην είναι ενήμερο.

Ταυτόχρονα, οι πρώτοι και πιο ενεργοί χρήστες τέτοιων βοηθών είναι άτομα για τα οποία το κόστος των λαθών είναι εξαιρετικά υψηλό: ανώτατοι διευθυντές και CEOs, πελάτες υψηλού επιπέδου, επαγγελματίες του χρηματοοικονομικού τομέα και διαχείρισης κεφαλαίων. Για αυτούς, η απώλεια προστασίας προσωπικών δεδομένων είναι ένα σοβαρό ρisko για τη φήμη, το δίκαιο, και την άμεση οικονομική απώλεια.

Όταν πρόκειται για AI, τα ζητήματα προστασίας προσωπικών δεδομένων δεν μπορούν πλέον να αντιμετωπιστούν ως μια απλή formalidad.

Ελάχιστα δεδομένα, περισσότερη αξία

Τα περισσότερα προϊόντα AI συλλέγουν πολύ περισσότερα δεδομένα από αυτά που χρειάζονται για να είναι πραγματικά χρήσιμα. Στην πρακτική μας, βρήκαμε ότι η πλειοψηφία των δεδομένων που συλλέγονται από τους τυπικούς βοηθούς AI δεν χρησιμοποιούνται ποτέ για να παρέχουν υπηρεσίες. Αν λάβουμε την περίπτωση των concierge επιχειρήσεων, τρία πράγματα είναι αρκετά για einen βοηθό να παρέχει υψηλής ποιότητας προσωπική υπηρεσία. Πρώτον, προτιμήσεις σχετικές με την εργασία: πώς ταξιδεύετε, πώς επικοινωνείτε, ποίες είναι οι περιορισμοί σας σε όρους βίζας, προϋπολογισμού, και οικογενειακών υποχρεώσεων.

Δεύτερον, ο контекστ της τρέχουσας αίτησης: πού, πότε, με ποιους, για ποιους σκοπούς, προθεσμίες, και κινδύνους.

Τέλος, θυμάται τις προηγούμενες αλληλεπιδράσεις εντός των εργασιών: ώστε να μην ζητά τις ίδιες ερωτήσεις, να θυμάται τις επιλεγμένες λύσεις, και να μην επαναλαμβάνει λάθη.

Αυτό είναι αρκετό για το προϊόν να λειτουργήσει στο επίπεδο ενός καλού προσωπικού βοηθού. Δεν χρειάζεται μια πλήρη αρχειοθήκη αλληλογραφίας, συνεχής παρακολούθηση τοποθεσίας, ή χρηματοοικονομικές συναλλαγές.

Βοηθοί AI και αποδεκτά όρια

Υπάρχουν τύποι δεδομένων που απλά δεν έχουν θέση σε einen προσωπικό βοηθό. Για παράδειγμα, παθητικά δεδομένα συμπεριφοράς: συνεχής ακρόαση, συνεχής γεωτοποθεσία χωρίς αίτηση, παρακολούθηση οθόνης ή εισαγωγής. Αν το σύστημα συλλέγει πληροφορίες όχι για αυτό που ζητήσατε, αλλά για αυτό που κάνετε γενικά, παύει να είναι ένας βοηθός και γίνεται επιτήρηση.

Επίσης, δεδομένα για τρίτους που δεν έχουν ποτέ αλληλεπιδράσει με το σύστημα δεν χρειάζονται. Για παράδειγμα, μια αίτηση όπως “βοηθήστε να οργανώσετε μια συνάντηση” δεν πρέπει να γίνει δικαίωμα να κατασκευάσετε προφίλ των επισκεπτών, των διαδρομών τους, και των συνηθειών τους.

Τρίτον, το πλήρες περιεχόμενο των επικοινωνιών σας δεν πρέπει να αποθηκεύεται σε μακροχρόνια μνήμη από προεπιλογή. Ο βοηθός μπορεί να επεξεργαστεί ένα συγκεκριμένο email αν σας ζητηθεί ρητά, αλλά αυτό δεν σημαίνει ότι τώρα έχει το δικαίωμα να διαβάσει το email σας.

Χρήσιμο σημαίνει εισβάλλον: η παγίδα των προϊόντων AI

Επιπλέον контекστ πραγματικά κάνει το προϊόν πιο βολικό, γιατί όσο περισσότερα γνωρίζει το σύστημα, τόσο πιο ακριβείς οι προτάσεις, τόσο πιο γρήγορες οι απαντήσεις, και τόσο μεγαλύτερο το effet από τη χρήση του.

Εδώ είναι όπου προκύπτει η φυσική ανάγκη να συνδεθούν ημερολόγια, email, chats, CRM, και γεωδεδομένα, ώστε η υπηρεσία να μπορεί να προβλέψει τις ανάγκες του χρήστη. Κάθε σύνδεσμος χρήστη φαίνεται λογικός και δικαιολογημένος.

Στην βιομηχανία concierge, η σύνδεση του ημερολογίου και της ιστορίας ταξιδιών του πελάτη βελτιώνει σημαντικά τις προτάσεις – το σύστημα μπορεί να προβλέψει τις ανάγκες ακόμη και πριν ο πελάτης τις εκφράσει. Ταυτόχρονα, ορισμένες υπηρεσίες δεν αποθηκεύουν το περιεχόμενο των επικοινωνιών εκτός από τις ενεργές εργασίες και δεν κατασκευάζουν προφίλ συμπεριφοράς με βάση παθητικά δεδομένα.

Το πρόβλημα είναι ότι η λογική της βελτίωσης της UX οδηγεί τη αρχιτεκτονική προς μεγαλύτερη συλλογή δεδομένων, μακρύτερη αποθήκευση, και ευρύτερη πρόσβαση σε αυτά. Και σε κάποιο σημείο, η γραμμή απλά εξαφανίζεται.

Το δεύτερο πρόβλημα αφορά την πρόσβαση για την υποστήριξη πελατών. Μπορείτε να κατασκευάσετε ισχυρή κρυπτογράφηση, και στη συνέχεια να δώσετε στον оперάτορα υποστήριξης πλήρη πρόσβαση στην ιστορία του πελάτη για χάρη, π.χ., της αγοράς ενός seul εισιτηρίου. Στην πραγματικότητα, τα περιστατικά συχνά συμβαίνουν λόγω ανελεγχόμενης εσωτερικής πρόσβασης και ανθρώπινου λάθους, παρά εξωτερικών επιθέσεων.

Το τρίτο ρίσκο αφορά τις αρχιτεκτονικές πολλαπλών agent. Όταν οι agent передávají контекστ μεταξύ τους, τα δεδομένα αρχίζουν να ρέουν μεταξύ των компонентів με τρόπους που δεν σχεδιάστηκαν ρητά. Αν ένας agent έχει πολύ ευρείες άδειες, αυτός ο контекστ συλλαμβάνεται από την αλυσίδα παρακάτω.

Αποδείξεις προστασίας προσωπικών δεδομένων: ο επόμενος стандарт για AI

Είναι ένα λάθος να κοιτάξετε την προστασία προσωπικών δεδομένων ως μια λειτουργία συμμόρφωσης. Η πραγματική προστασία προσωπικών δεδομένων εξαρτάται από αυτό που αποθηκεύουμε και πώς το μοιραζόμαστε για τον προορισμό του, πόσο καιρό και υπό ποιες συνθήκες το επεκτείνουμε, ποιος έχει πρόσβαση και υπό ποιες συνθήκες, συμπεριλαμβανομένων των ανθρώπων και των agent AI, και πώς οι χρήστες το ελέγχουν.

Δυστυχώς, οι περισσότερες υπηρεσίες δεν έχουν μια απλή απάντηση στις ερωτήσεις των χρηστών: τι ακριβώς γνωρίζει το σύστημα για αυτούς, μπορεί να διορθωθεί ή να διαγραφεί εντελώς, μπορεί η χρήση ενός συγκεκριμένου τμήματος δεδομένων να απαγορευτεί;

Επομένως, είναι σημαντικό να εισαχθούν αποδείξεις προστασίας προσωπικών δεδομένων όταν ένας χρήστης μπορεί να ζητήσει από τον βοηθό AI του τι ακριβώς γνωρίζει για αυτούς, γιατί το γνωρίζει, και από πού προέρχεται αυτή η πληροφορία, και να λάβει αμέσως μια σαφή, ελέγξιμη απάντηση. Όπως περιμένουμε τις τραπεζικές εκθέσεις, θα περιμένουμε σύντομα διαφάνεια από τα συστήματα που διαχειρίζονται τον χρόνο μας, τις συνδέσεις μας, και το κεφάλαιο μας.

Η τεχνική βάση της ασφαλούς μνήμης

Οι αποδείξεις προστασίας προσωπικών δεδομένων είναι αδύνατες χωρίς μια στερεή τεχνική βάση. Τουλάχιστον τρία στρώματα είναι κρίσιμα: πρώτον, προστασία δεδομένων στο επίπεδο υποδομής. Η κρυπτογράφηση πρέπει να είναι ένα βασικό αρχή, όχι μια formalidad. Τα δεδομένα πρέπει να αποθηκεύονται με client-ειδικές κλειδιά, όχι με ένα ενιαίο master κλειδί για όλα, η μετάδοση πρέπει να γίνεται μέσω σύγχρονων πρωτοκόλλων, και οι ευαίσθητες ιδιότητες πρέπει να χωρίζονται λογικά από τα μεταδεδομένα της υπηρεσίας.

Επιπλέον, κάθε υπηρεσία, agent, και оперάτορας πρέπει να έχει πρόσβαση μόνο στα δεδομένα που είναι απαραίτητα για την εκτέλεση μιας συγκεκριμένης εργασίας.

Τέλος, τα αποδείξεις πρόσβασης που δεν μπορούν να τροποποιηθούν, η ελέγχου κάθε πρόσβασης, και ο τεχνικός έλεγχος της γεωγραφίας αποθήκευσης και επεξεργασίας είναι σημαντικοί. Η τακτική δοκιμή των σεναρίων πολλαπλών agent πρέπει να θεωρείται μια ξεχωριστή κατηγορία ρίσκου.

Μόνο με αυτή την αρχιτεκτονική γίνονται δυνατές οι αποδείξεις προστασίας προσωπικών δεδομένων: με αυτόν τον τρόπο, το σύστημα πραγματικά γνωρίζει τι γνωρίζει και μπορεί να το αποδείξει.

Ποιος θα χάσει, και ποιος θα γίνει ο chuẩn;

Οι υπηρεσίες και τα προϊόντα που αντιλαμβάνονται τη μνήμη ως μια μονοκατευθυντή συσσώρευση θα χάσουν: λιγότερη διαφάνεια για τον χρήστη, αλλά περισσότερες πηγές, περισσότερος контекστ, και μακρύτερη αποθήκευση.

Αυτό το μοντέλο φαίνεται να είναι πλεονεκτικό στο βραχυπρόθεσμο, αλλά χωρίς περιορισμούς και σαφείς κανόνες, αυτή η λογική μετατρέπεται σε ανεξέλεγκτη επέκταση, καθώς τα δεδομένα συνδέονται γρηγορότερα από ό,τι τα μηχανισμοί εξήγησης και ελέγχου μπορούν να τοποθετηθούν.

Οι σκανδάλες που αφορούν διαρροές δεδομένων, κακοποίηση των βοηθών AI, ή λανθασμένη αποκάλυψη ευαίσθητων πληροφοριών θα επηρεάσουν όλα τα προϊόντα σε αυτήν την κατηγορία. Οι χρήστες θα απαιτήσουν περισσότερες πληροφορίες για τη διαφάνεια, και μόνο οι εταιρείες που έχουν κατασκευάσει εξηγήσιμη, ελέγξιμη, και έλεγχο χρηστών στην αρχιτεκτονική τους από πριν θα μπορέσουν να διατηρήσουν την εμπιστοσύνη.

Τα προϊόντα που σχεδιάζουν το σύστημα γύρω από μια στιγμιαία και ελέγξιμη εικόνα του τι γνωρίζει το AI και γιατί θα γίνουν ο chuẩn. Η προστασία προσωπικών δεδομένων πρέπει να είναι μέρος του συστήματος από την αρχή – ειδικά όταν επηρεάζει τις ζωές των ανθρώπων.