Ηγέτες σκέψης

Όταν τα δεδομένα AI σας γίνονται απόδειξη

Jerry Caviston
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟι αλληλεπιδράσεις με την τεχνητή νοημοσύνη πρέπει να καταγράφονται ως διακυβερνώμενα…
Δείτε περισσότερα
  • Οι αλληλεπιδράσεις με την τεχνητή νοημοσύνη πρέπει να καταγράφονται ως διακυβερνώμενα αρχεία πριν προκύψουν διαφορές.
  • Μια έξοδος τεχνητής νοημοσύνης από μόνη της δεν μπορεί να εξηγήσει πώς καταλήχθηκε σε ένα συμπέρασμα.
  • Η διακυβέρνηση πρέπει να οικοδομείται παράλληλα με την ανάπτυξη και όχι να προστίθεται κατά τη φάση της ανακάλυψης.

Οι περισσότερες οργανώσεις μπορούν να εντοπίσουν τα εργαλεία AI που χρησιμοποιούν. Η πιο δύσκολη ερώτηση είναι αν μπορούν να παράγουν αξιόπιστο αρχείο για τα εταιρικά δεδομένα στα οποία είχαν πρόσβαση αυτά τα συστήματα, ποιες οδηγίες έλαβαν, τι επέστρεψαν και ποιες πολιτικές διείπαν την αλληλεπίδραση.

Αυτό το κενό μπορεί να παραμείνει κρυφό κατά τη διάρκεια ενός πιλοτικού προγράμματος. Γίνεται προφανές όταν ένας ρυθμιστής θέτει ερωτήματα, ένας πελάτης αμφισβητεί μια απόφαση ή η δικαστική διαδικασία θέτει το σύστημα υπό έλεγχο. Μέχρι τότε, το ίχνος ελέγχου είτε υπάρχει είτε δεν υπάρχει.

Οι Ηνωμένες Πολιτείες δεν διαθέτουν μία ενιαία ολοκληρωμένη ομοσπονδιακή νομοθεσία AI, αλλά οι υπάρχουσες απαιτήσεις ιδιωτικότητας, κινητών αξιών, κατά των διακρίσεων, διατήρησης αρχείων και αποκάλυψης αποδεικτικών στοιχείων μπορούν ακόμη να επηρεάσουν τα δεδομένα AI. Νέοι νόμοι ειδικά για AI προσθέτουν ένα ακόμη επίπεδο. Η αναμονή για την ολοκλήρωση κάθε κανόνα παρερμηνεύει τον κίνδυνο.

Ο νόμος δεν περιμένει την τεχνολογία

Τα δικαστήρια έχουν αντιμετωπίσει αυτό το πρόβλημα στο παρελθόν. Το email έγινε αποδεικτικό υλικό υποκείμενο σε κανόνες μέσω της καθιερωμένης νομοθεσίας για τη διατήρηση αρχείων και την αποκάλυψη αποδεικτικών στοιχείων, και όχι μέσω ενός εντελώς νέου νομικού πλαισίου. Στη δικαστική υπόθεση Zubulake το δικαστήριο εφάρμοσε καθήκοντα διατήρησης και αποκάλυψης αποδεικτικών στοιχείων στον τρόπο που οι οργανισμοί αποθήκευαν και διαχειρίζονταν ηλεκτρονικά μηνύματα. Αυτές οι αποφάσεις βοήθησαν να καθοριστούν οι σύγχρονες προσδοκίες για τα ψηφιακά αρχεία.

Τα δεδομένα AI είναι πιθανό να ακολουθήσουν παρόμοιο μονοπάτι. Μια προτροπή μπορεί να περιέχει ευαίσθητες πληροφορίες. Μια έξοδος μπορεί να επηρεάσει μια απόφαση σχετική με την απασχόληση, την επικοινωνία με πελάτες ή μια σύμβαση. Ένας πράκτορας μπορεί να ανακτήσει αρχεία από διάφορα συστήματα πριν προτείνει μια ενέργεια. Εάν αυτή η δραστηριότητα αμφισβητηθεί, οι νομικοί και οι ρυθμιστές θα ρωτήσουν τι μπορούσε να προσπελάσει το σύστημα, τι χρησιμοποίησε και ποιο αρχείο διατήρησε η οργάνωση.

Η Securities and Exchange Commission έχει χρησιμοποιήσει υπάρχουσα νομοθεσία για τις κινητές αξίες εναντίον εταιρειών που έκαναν παραπλανητικές δηλώσεις σχετικά με τη χρήση AI. Οι γενικοί εισαγγελείς των πολιτειών μπορούν να βασιστούν στις αρχές προστασίας καταναλωτών και ιδιωτικότητας, ενώ τα δικαστήρια μπορούν να εφαρμόσουν καθιερωμένους κανόνες γνωστοποίησης αποδεικτικών στοιχείων και αποδεικτικής διαδικασίας.

Οι απαιτήσεις ειδικές για AI ενισχύουν αυτή την κατεύθυνση. Ο EU AI Act εισάγει υποχρεώσεις σε φάσεις, ενώ Colorado και Texas έχουν θέσει σε ισχύ προϋποθέσεις τεκμηρίωσης, διαφάνειας και επιβολής. Οι λεπτομέρειες διαφέρουν, αλλά η προσδοκία είναι συνεπής: οι οργανισμοί πρέπει να κατανοούν πώς το AI χρησιμοποιεί δεδομένα και να αποδείξουν ότι οι κατάλληλοι έλεγχοι ήταν σε ισχύ.

Η καταγραφή ξεκινά πριν από το αποτέλεσμα

Η αντιμετώπιση της εξόδου AI ως ολόκληρου αρχείου είναι λάθος. Μια έξοδος δεν εξηγεί πώς ελήφθη ένα συμπέρασμα. Ένα νομικά υποστηρίξιμο αρχείο χρειάζεται επίσης την προτροπή ή την οδηγία, τις πηγές που προσπελάστηκαν, τα δικαιώματα του χρήστη ή του πράκτορα και την πολιτική που ίσχυε τη συγκεκριμένη στιγμή.

Τα δεδομένα εκπαίδευσης και τα λειτουργικά δεδομένα απαιτούν επίσης διαφορετικούς ελέγχους. Μια οργάνωση που εκπαιδεύει ή προσαρμόζει με fine-tuning ένα μοντέλο πρέπει να κατανοεί την προέλευση και την επιτρεπόμενη χρήση αυτών των συνόλων δεδομένων. Όταν ένας υπάλληλος ή πράκτορας χρησιμοποιεί μοντέλο τρίτου, η άμεση ερώτηση είναι ποια εταιρικά δεδομένα υποβλήθηκαν ή ανακτήθηκαν. Οι οργανισμοί ενδέχεται να μην μπορούν να εντοπίσουν κάθε λέξη μέσω του συνόλου εκπαίδευσης ενός βασικού μοντέλου, αλλά πρέπει να μπορούν να δώσουν λογαριασμό για τα δεδομένα και τις διαδικασίες που ελέγχουν.

Τα εταιρικά δεδομένα σπάνια βρίσκονται σε μία καθαρή αποθήκη. Διανέμονται σε λειτουργικές πλατφόρμες, επικοινωνίες, κοινόχρηστο περιεχόμενο και παλαιές εφαρμογές. Η AI ενισχύει τις συνέπειες αυτής της κατακερματισμένης δομής. Ένας πράκτορας μπορεί να ανακτήσει πληροφορίες γρηγορότερα από ένα άτομο, αλλά κληρονομεί επίσης ασυνεπή δικαιώματα πρόσβασης, πολιτικές διατήρησης και ταξινομήσεις δεδομένων.

Οι αλληλεπιδράσεις AI πρέπει να διαχειρίζονται ως αρχεία

Οι οργανισμοί ήδη καταγράφουν email, συνομιλίες και άλλες ρυθμιζόμενες επικοινωνίες. Η επιχειρηματική χρήση της παραγωγικής AI απαιτεί την ίδια πειθαρχία. Οι προτροπές και οι έξοδοι πρέπει να καταγράφονται κατά τη δημιουργία τους και να εντάσσονται στην πολιτική για τη διατήρηση, την ασφάλεια, τη διατήρηση δεδομένων για νομικούς σκοπούς (legal hold), την αποκάλυψη αποδεικτικών στοιχείων και τη νομικά υποστηρίξιμη διάθεση των αρχείων.

Το αρχείο χρειάζεται επίσης συμφραζόμενα: ποιος ή τι ξεκίνησε την αλληλεπίδραση, ποιο μοντέλο χρησιμοποιήθηκε, σε ποιες πηγές υπό διακυβέρνηση είχε πρόσβαση, ποια ενέργεια ακολούθησε και ποιες πολιτικές εφαρμόστηκαν. Χωρίς αυτά τα συμφραζόμενα, ένα αρχείο προτροπών και απαντήσεων μπορεί ακόμη να αποτύχει να εξηγήσει τι συνέβη.

Αυτοί οι έλεγχοι ξεκινούν με τα ίδια τα δεδομένα. Η ταξινόμηση, η διατήρηση, η διατήρηση δεδομένων για νομικούς σκοπούς (legal hold), τα δικαιώματα πρόσβασης, η προέλευση και η καταγραφή ελέγχου πρέπει να εφαρμόζονται καθώς οι πληροφορίες εισέρχονται στο περιβάλλον υπό διακυβέρνηση. Τα συστήματα AI θα πρέπει να λειτουργούν με δεδομένα που ελέγχονται από πολιτικές, αντί να λαμβάνουν ευρεία πρόσβαση σε ό,τι είναι διαθέσιμο.

Η διακυβέρνηση δεν μπορεί να προστεθεί κατά τη διάρκεια της αποκάλυψης αποδεικτικών στοιχείων

Μόλις ληφθεί μια κλήτευση, ρυθμιστική έρευνα ή καταγγελία, μια οργάνωση δεν μπορεί να ξαναδημιουργήσει τα ακριβή δικαιώματα, τις εκδόσεις δεδομένων και τις αλληλεπιδράσεις AI που υπήρχαν μήνες νωρίτερα. Οι νομικές και συμμορφωτικές ομάδες μπορούν να συλλέξουν θραύσματα από μεμονωμένα συστήματα, αλλά τα θραύσματα δεν αποτελούν πλήρες και νομικά υποστηρίξιμο αρχείο.

Τα προγράμματα AI δεν χρειάζεται να περιμένουν μέχρι να λυθεί κάθε ερώτημα διακυβέρνησης. Η βάση πρέπει να χτιστεί παράλληλα με την υλοποίηση. Τα ταξινομημένα, ελεγχόμενα με πρόσβαση δεδομένα μπορούν να χρησιμοποιηθούν χωρίς δημιουργία ανεπίβλεπτων αντιγράφων. Η συνεπής καταγραφή επιτρέπει στις νομικές και συμμορφωτικές ομάδες να εξετάζουν τη δραστηριότητα AI χωρίς να την αναδημιουργούν από στιγμιότυπα οθόνης, ιστορικά προγραμμάτων περιήγησης ή μεμονωμένους λογαριασμούς.

Αυτή η βάση υποστηρίζει επίσης το επιχειρηματικό επιχείρημα. Οι ηγέτες δεν μπορούν να κλιμακώσουν συστήματα που δεν μπορούν να εξηγήσουν ή να εμπιστευτούν. Τα ελεγχόμενα δεδομένα εισόδου ενισχύουν την εμπιστοσύνη, οι καταγεγραμμένες αλληλεπιδράσεις καθιστούν τα αποτελέσματα επανεξετάσιμα, και οι γραμμές ελέγχου δημιουργούν λογοδοσία για τις αποφάσεις.

Μια αγωγή δεν πρέπει να αναγκάσει έναν οργανισμό να καταγράψει για πρώτη φορά τη δραστηριότητά του AI. Καταγράψτε το αρχείο ενώ η αρχιτεκτονική και οι πολιτικές είναι ακόμη υπό τον έλεγχό σας. Όταν τα δεδομένα AI γίνουν αποδεικτικά στοιχεία, θα πρέπει ήδη να γνωρίζετε από πού προέρχονται, ποιος μπορούσε να έχει πρόσβαση, τι έκανε το σύστημα με αυτά και πώς τελούσαν υπό διακυβέρνηση.

Ο Jerry Caviston είναι Διευθύνων Σύμβουλος της Archive360, βοηθώντας τις επιχειρήσεις να προστατεύσουν, να διαχειριστούν και να αξιοποιήσουν την αξία των δεδομένων τους.