Όταν τα δεδομένα AI σας γίνονται απόδειξη

Οι περισσότερες οργανώσεις μπορούν να εντοπίσουν τα εργαλεία AI που χρησιμοποιούν. Η πιο δύσκολη ερώτηση είναι αν μπορούν να παράγουν αξιόπιστο αρχείο του τι εταιρικά δεδομένα πρόσβαση είχαν αυτά τα συστήματα, ποιες οδηγίες έλαβαν, τι επέστρεψαν και ποιες πολιτικές διέπραξαν την αλληλεπίδραση.

Αυτό το κενό μπορεί να παραμείνει κρυφό κατά τη διάρκεια ενός πιλοτικού προγράμματος. Γίνεται προφανές όταν ένας ρυθμιστής θέτει ερωτήματα, ένας πελάτης αμφισβητεί μια απόφαση ή η δικαστική διαδικασία θέτει το σύστημα υπό έλεγχο. Μέχρι τότε, το ίχνος ελέγχου είτε υπάρχει είτε δεν υπάρχει.

Οι Ηνωμένες Πολιτείες δεν διαθέτουν μία ενιαία ολοκληρωμένη ομοσπονδιακή νομοθεσία AI, αλλά οι υπάρχουσες απαιτήσεις ιδιωτικότητας, χρηματοοικονομικών, κατά του διαχωρισμού, διατήρησης αρχείων και ανακάλυψης μπορούν ακόμη να επηρεάσουν τα δεδομένα AI. Νέοι νόμοι ειδικά για AI προσθέτουν ένα ακόμη επίπεδο. Η αναμονή για την ολοκλήρωση κάθε κανόνα παρερμηνεύει τον κίνδυνο.

Ο νόμος δεν περιμένει την τεχνολογία

Τα δικαστήρια έχουν αντιμετωπίσει αυτό το πρόβλημα στο παρελθόν. Το email έγινε αποδεκτό αποδεικτικό μέσω του καθιερωμένου νόμου για τη διατήρηση αρχείων και την ανακάλυψη, όχι ένα εντελώς νέο νομικό πλαίσιο.Zubulake διαδίκησητο δικαστήριο επέβαλε καθήκοντα διατήρησης και ανακάλυψης στον τρόπο που οι οργανισμοί αποθήκευαν και διαχειρίζονταν ηλεκτρονικά μηνύματα. Αυτές οι αποφάσεις βοήθησαν να καθοριστούν οι σύγχρονες προσδοκίες για τα ψηφιακά αρχεία.

Τα δεδομένα AI είναι πιθανό να ακολουθήσουν παρόμοιο μονοπάτι. Μια προτροπή μπορεί να περιέχει ευαίσθητες πληροφορίες. Μια έξοδος μπορεί να επηρεάσει μια απόφαση πρόσληψης, την επικοινωνία με πελάτες ή μια σύμβαση. Ένας πράκτορας μπορεί να ανακτήσει αρχεία από διάφορα συστήματα πριν προτείνει μια ενέργεια. Εάν αυτή η δραστηριότητα αμφισβητηθεί, οι νομικοί και οι ρυθμιστές θα ρωτήσουν τι μπορούσε να προσπελάσει το σύστημα, τι χρησιμοποίησε και ποιο αρχείο διατήρησε η οργάνωση.

Το Securities and Exchange Commission έχει χρησιμοποιήσει υπάρχον νόμο για τις αξίεςεναντίον εταιρειών που έκαναν παραπλανητικές δηλώσεις σχετικά με τη χρήση AI. Οι κρατικοί εισαγγελείς μπορούν να βασιστούν στις αρχές προστασίας καταναλωτών και ιδιωτικότητας, ενώ τα δικαστήρια μπορούν να εφαρμόσουν καθιερωμένους κανόνες ανακάλυψης και αποδεικτικών στοιχείων.

Οι απαιτήσεις ειδικές για AI ενισχύουν αυτή την κατεύθυνση.EU AI Act εισάγει υποχρεώσεις σε φάσεις, ενώ Colorado και Texas έχουν θέσει σε ισχύ προϋποθέσεις τεκμηρίωσης, διαφάνειας και επιβολής. Οι λεπτομέρειες διαφέρουν, αλλά η προσδοκία είναι συνεπής: οι οργανισμοί πρέπει να κατανοούν πώς το AI χρησιμοποιεί δεδομένα και να αποδείξουν ότι τα κατάλληλα έλεγχοι ήταν σε ισχύ.

Η καταγραφή ξεκινά πριν από το αποτέλεσμα

Η αντιμετώπιση της εξόδου AI ως ολόκληρου αρχείου είναι λάθος. Μια έξοδος δεν εξηγεί πώς ελήφθη ένα συμπέρασμα. Ένα αμυντικό αρχείο χρειάζεται επίσης την προτροπή ή την οδηγία, τις πηγές που προσπελάστηκαν, τα δικαιώματα του χρήστη ή του πράκτορα και την πολιτική που ίσχυε τη συγκεκριμένη στιγμή.

Τα δεδομένα εκπαίδευσης και τα λειτουργικά δεδομένα απαιτούν επίσης διαφορετικούς ελέγχους. Μια οργάνωση που εκπαιδεύει ή βελτιστοποιεί ένα μοντέλο πρέπει να κατανοεί την προέλευση και τη νόμιμη χρήση αυτών των συνόλων δεδομένων. Όταν ένας υπάλληλος ή πράκτορας χρησιμοποιεί μοντέλο τρίτου, η άμεση ερώτηση είναι ποια εταιρικά δεδομένα υποβλήθηκαν ή ανακτήθηκαν. Οι οργανισμοί ενδέχεται να μην μπορούν να εντοπίσουν κάθε λέξη μέσω του συνόλου εκπαίδευσης ενός βασικού μοντέλου, αλλά πρέπει να λογαριάζουν τα δεδομένα και τις διαδικασίες που ελέγχουν.

Τα εταιρικά δεδομένα σπάνια βρίσκονται σε μία καθαρή αποθήκη. Διανέμονται σε λειτουργικές πλατφόρμες, επικοινωνίες, κοινόχρηστο περιεχόμενο και παλαιές εφαρμογές. Η AI ενισχύει τις συνέπειες αυτής της κατακερματισμένης δομής. Ένας πράκτορας μπορεί να ανακτήσει πληροφορίες γρηγορότερα από ένα άτομο, αλλά κληρονομεί επίσης ασυνεπή δικαιώματα πρόσβασης, πολιτικές διατήρησης και ταξινομήσεις δεδομένων.

Οι αλληλεπιδράσεις AI πρέπει να διαχειρίζονται ως αρχεία

Οι οργανισμοί ήδη καταγράφουν email, συνομιλίες και άλλες ρυθμιζόμενες επικοινωνίες. Η επιχειρηματική χρήση της γενετικής AI απαιτεί την ίδια πειθαρχία. Οι προτροπές και οι έξοδοι πρέπει να καταγράφονται κατά τη δημιουργία τους και να εντάσσονται στην πολιτική για τη διατήρηση, την ασφάλεια, την νομική κράτηση, την ανακάλυψη και την αμυντική διάθεση.

Το αρχείο χρειάζεται επίσης συμφραζόμενα: ποιος ή τι ξεκίνησε την αλληλεπίδραση, ποιο μοντέλο χρησιμοποιήθηκε, ποιες πηγές που διέπουν πρόσβαση είχε, ποια ενέργεια ακολούθησε και ποιες πολιτικές εφαρμόστηκαν. Χωρίς αυτά τα συμφραζόμενα, ένα αρχείο προτροπών και απαντήσεων μπορεί ακόμη να αποτύχει να εξηγήσει τι συνέβη.

Αυτοί οι έλεγχοι ξεκινούν με τα ίδια τα δεδομένα. Η ταξινόμηση, η διατήρηση, η νομική κράτηση, τα δικαιώματα πρόσβασης, η προέλευση και η καταγραφή ελέγχου πρέπει να εφαρμόζονται καθώς οι πληροφορίες εισέρχονται στο διακυβευμένο περιβάλλον. Τα συστήματα AI θα πρέπει να λειτουργούν με δεδομένα που ελέγχονται από πολιτικές, αντί να λαμβάνουν ευρεία πρόσβαση σε ό,τι είναι διαθέσιμο.

Η διακυβέρνηση δεν μπορεί να προστεθεί κατά τη διάρκεια της ανακάλυψης

Μόλις ληφθεί μια κλήση, ρυθμιστική έρευνα ή καταγγελία, μια οργάνωση δεν μπορεί να ξαναδημιουργήσει τα ακριβή δικαιώματα, τις εκδόσεις δεδομένων και τις αλληλεπιδράσεις AI που υπήρχαν μήνες νωρίτερα. Οι νομικές και συμμορφωτικές ομάδες μπορούν να συλλέξουν θραύσματα από μεμονωμένα συστήματα, αλλά τα θραύσματα δεν αποτελούν πλήρες και αμυντικό αρχείο.

Τα προγράμματα AI δεν χρειάζεται να περιμένουν μέχρι να λυθεί κάθε ερώτημα διακυβέρνησης. Η βάση πρέπει να χτιστεί παράλληλα με την υλοποίηση. Τα ταξινομημένα, ελεγχόμενα με πρόσβαση δεδομένα μπορούν να χρησιμοποιηθούν χωρίς δημιουργία ανεπίβλεπτων αντιγράφων. Η συνεπής καταγραφή επιτρέπει στις νομικές και συμμορφωτικές ομάδες να εξετάζουν τη δραστηριότητα AI χωρίς να την αναδημιουργούν από στιγμιότυπα οθόνης, ιστορικά προγραμμάτων περιήγησης ή μεμονωμένους λογαριασμούς.

Αυτή η βάση υποστηρίζει επίσης το επιχειρηματικό επιχείρημα. Οι ηγέτες δεν μπορούν να κλιμακώσουν συστήματα που δεν μπορούν να εξηγήσουν ή να εμπιστευτούν. Τα ελεγχόμενα δεδομένα εισόδου ενισχύουν την εμπιστοσύνη, οι καταγεγραμμένες αλληλεπιδράσεις καθιστούν τα αποτελέσματα επανεξετάσιμα, και οι γραμμές ελέγχου δημιουργούν λογοδοσία για τις αποφάσεις.

Μια αγωγή δεν πρέπει να αναγκάσει έναν οργανισμό να καταγράψει για πρώτη φορά τη δραστηριότητά του AI. Καταγράψτε το αρχείο ενώ η αρχιτεκτονική και οι πολιτικές είναι ακόμη υπό τον έλεγχό σας. Όταν τα δεδομένα AI γίνουν αποδεικτικά στοιχεία, θα πρέπει ήδη να γνωρίζετε από πού προέρχονται, ποιος μπορεί να έχει πρόσβαση, τι έκανε το σύστημα με αυτά και πώς διαχειρίστηκε.