Όταν η «Γνώση» του AI είναι 50 Χρόνια Παλιά: Το Ρίσκο Συμμόρφωσης που Δεν Μπορείτε να Αγνοήσετε

Το ζήτημα των ψευδών επιταγών του AI είναι μια επείγουσα πρόκληση, καθώς οι επιχειρήσεις αυξάνουν τη χρήση των γεννητικών εργαλείων. Παρά την ευρεία ενθουσιασμό για την υιοθέτηση του AI, υπάρχει επίσης ένας ισχυρός ρεύμα κριτικής. Κριτικοί σχολιαστές συχνά επισημαίνουν τις προφανώς τυχαίες, απρόβλεπτες ανακρίβειες στην έξοδο του AI, οι οποίες υπονομεύουν την αξία του – και μπορεί ακόμη και να απειλήσουν πραγματική ζημία στους ανθρώπους, ιδιαίτερα σε τομείς όπως η υγεία και η μεταφορά, όπου οι ψευδείς εξόδους θα μπορούσαν θεωρητικά να οδηγήσουν σε όλα, από το λάθος φάρμακο έως τα τρένα σε πορεία σύγκρουσης.

Συχνά, αυτές οι ανακρίβειες έχουν αποδοθεί στις «οπτασιές» του AI – περιπτώσεις στις οποίες το AI γεννάει μια «καλύτερη» απάντηση, που μεταφέρεται με την ίδια ευθύνη όπως μια «αυθεντική» απάντηση, αντί να ενημερώνει τον χρήστη για ένα κενό στις γνώσεις του ή στην ικανότητά του. Οι οπτασιές possono είναι δύσκολο να ανιχνευτούν στην πρώτη ματιά – αλλά υπάρχει ένα πιο ήσυχο, εξίσου σοβαρό πρόβλημα που είναι ακόμη πιο δύσκολο να ανιχνευτεί.

Χρέος ποιότητας δεδομένων: Το Αχίλλειο Πτέρνα του AI

Όταν τα συστήματα AI αντλούν από παλαιά, непλήρη ή ανακριβή δεδομένα, συμβαίνουν ψευδείς εξόδους, αλλά είναι λιγότερο αμέσως ανιχνεύσιμες. Για παράδειγμα, μπορείτε να ζητήσετε από το AI να αναγνωρίσει τα συμπτώματα μιας ιατρικής κατάστασης και να λάβετε μια απάντηση που βασίζεται σε μια 50χρονη έρευνα αντί για τρέχουσα έρευνα. Το αποτέλεσμα είναι απίθανο να φαίνεται προφανώς, γελοία λάθος – αλλά αυτή η αρχική εμφάνιση πιθανοτήτα θέτει ένα πραγματικό ρίσκο τόσο για τον ασθενή όσο και για τον πάροχο υγείας.

Το ίδιο ισχύει και σε άλλους τομείς – αν τα δεδομένα που παρέχονται στο μοντέλο AI περιλαμβάνουν παλιά, πεπαλαιωμένα ή μερικά στοιχεία, υπάρχει υψηλό ρίσκο ψευδών εξόδων. Και καθώς περισσότερες εταιρείες ενσωματώνουν το AI σε επιχειρησιακές διαδικασίες, το ρίσκο λήψης ψευδών συμπερασμάτων από κακοδιαχειριζόμενα δεδομένα αυξάνεται.

Ακρίβεια για τον ρυθμιστή

Αυτό δεν είναι μόνο ένα πρόβλημα για τις ημερήσιες λειτουργίες – είναι επίσης μια σημαντική πρόκληση συμμόρφωσης. Οι ρυθμιστικές απαιτήσεις εξελίσσονται γρήγορα για να αντιμετωπίσουν τις ανησυχίες σχετικά με τις ανακρίβειες του AI. Για παράδειγμα,有一umber από τις πρώτες ρυθμιστικές ενέργειες για το AI έχουν λάβει χώρα. ιδιαίτερα όταν η Ιταλία προσωρινά απαγόρευσε το ChatGPT λόγω προβλημάτων ιδιωτικού απορρήτου και η Ευρωπαϊκή Επιτροπή Προστασίας Δεδομένων έλαβε μια ειδική ομάδα εργασίας για να συντονίσει πιθανές ενέργειες ενάντια στο ChatGPT.

Μια από τις πιο αποκαλυπτικές ρυθμιστικές αλλαγές ήταν η ψήφιση του Ευρωπαϊκού Νόμου για το AI, του πρώτου綜合ного νομικού πλαισίου για το AI. Ο Νόμος καθορίζει υποχρεώσεις με βάση το επίπεδο ρίσκου των συστημάτων AI, από «απαράδεκτο ρίσκο» συστήματα, τα οποία απαγορεύονται, σε «υψηλό ρίσκο» συστήματα, τα οποία αντιμετωπίζουν αυστηρές απαιτήσεις γύρω από τη διαφάνεια, την ποιότητα δεδομένων, τη διακυβέρνηση και τον ανθρώπινο έλεγχο.

Η σημασία του Ευρωπαϊκού Νόμου για το AI δεν лежει στο φιλόδοξο πεδίο του, αλλά σημαντικά στο προηγούμενο που θέτει. Οι ρυθμιστές καθιστούν σαφές ότι το AI θα υπόκειται σε δεσμευτικές, εκτελεστές κανόνες και ότι οι οργανισμοί πρέπει να αντιμετωπίσουν τη συμμόρφωση και τη διαφάνεια σχετικά με το πού και πώς χρησιμοποιείται το AI ως ουσιαστικό μέρος της υιοθέτησης του AI και όχι ως μια σκέψη μετά την υιοθέτηση.

Ο Νόμος έχει ένα ευρύ πεδίο, με το δυνατό να επηρεάσει ένα μεγάλο μέρος των αναπτύξεων του AI. Στην καρδιά του είναι να κάνει το AI ασφαλές, ενώ σέβεται τα θεμελιώδη δικαιώματα και τις αξίες. Μέσα σε αυτό το νέο πλαισιοδότημα έρχεται η διάγνωση των πιθανών πηγών για ανακρίβειες του AI, συμπεριλαμβανομένων των δεδομένων και των συνόλων δεδομένων που τροφοδοτούν τα μοντέλα, της αδιαφάνειας του μοντέλου και της πρόσβασης, και του σχεδιασμού και της χρήσης του συστήματος. Οι λύσεις του AI είναι ένα κατασκεύασμα όλων αυτών – προβλήματα με οποιοδήποτε από αυτά μπορεί να έχουν αρνητική έκβαση. Όχι μόνο αυτό, αλλά τα δεδομένα που χρησιμοποιούνται για το σχεδιασμό, την ανάπτυξη, την ανάπτυξη και τη λειτουργία του AI είναι πιθανό να αποτελούνται κυρίως από επιχειρηματικά αρχεία, τα οποία είναι euxα themselves υπόκεινται σε διάφορες απαιτήσεις συμμόρφωσης.

Σε άλλες λέξεις, το ρυθμιστικό περιβάλλον γύρω από το AI γίνεται ολοένα και πιο αυστηρό – και αυτό είναι εξίσου αληθινό για την είσοδο δεδομένων όσο και για την έξοδο δεδομένων, ακόμη και αν η τελευταία λαμβάνει περισσότερες επικεφαλίδες.

Πέντε βήματα για την τροφοδοσία του AI με συμμορφωμένα, τρέχοντα, σχετικά δεδομένα

Για να λύσει αυτή τη διπλή πρόκληση – να διασφαλίσει τόσο τη συμμόρφωση της διαχείρισης δεδομένων όσο και την υψηλή ποιότητα εισόδου που επιτρέπει υψηλής ποιότητας έξοδο – οι επιχειρήσεις χρειάζονται έλεγχο над τα δεδομένα εκπαίδευσης και συλλογής. Δυστυχώς, αυτό είναι κάτι που πολλές επιχειρήσεις ακόμη λείπουν.

Σε κάθε περίπτωση, οι οργανισμοί πρέπει να εφαρμόζουν τα ευρύτερα προγράμματα συμμόρφωσης και διακυβέρνησης στις πρωτοβουλίες του AI. Χρειάζεται να αρχίσουν να συλλέγουν και να διατηρούν κατάλληλες εγγραφές για τα δεδομένα που παρέχουν στα μοντέλα του AI, πώς τα μοντέλα και τα συστήματα σχεδιάζονται, καθώς και τις αποφάσεις και το περιεχόμενο που παράγεται μέσω του AI.

Ωστόσο, είναι επίσης γίνεται κρίσιμο για τους οργανισμούς να πάνε ένα βήμα πέρα από αυτό και να διασφαλίσουν ότι έχουν πλήρη έλεγχο над όλα τα δεδομένα που θα μπορούσαν να χρησιμοποιηθούν σε αναπτύξεις του AI, είτε για αρχική εκπαίδευση είτε για «ζωντανούς» εργασίες. Αυτό απαιτεί μια στρατηγική διαχείρισης και αποθήκευσης δεδομένων υψηλής ποιότητας, διασφαλίζοντας ότι όλα τα σχετικά δεδομένα συλλέγονται με ευφυΐα, καθαρίζονται, αποθηκεύονται, ταξινομούνται και εξουσιοδοτούνται. Για να επιτύχουν αυτό, οι οργανισμοί πρέπει να λάβουν υπόψη τέσσερις κρίσιμους παράγοντες:

1. Ιστορικό και προέλευση δεδομένων

Αυτό περιλαμβάνει τη διατήρηση ενός αρχείου της πηγής των δεδομένων, της προέλευσης, της ιδιοκτησίας και τυχόν αλλαγών στα μεταδεδομένα (εάν επιτρέπεται) καθ’ όλη τη διάρκεια του κύκλου ζωής τους. Επίσης, σημαίνει τη διατήρηση πλούσιων μεταδεδομένων και όλων των υποκείμενων εγγράφων ή τεκμηρίων από τα οποία προέρχεται.

2. Αυθεντικότητα δεδομένων

Αυτό απαιτεί τη διατήρηση μιας σαφούς αλυσίδας κατοχής για όλα τα δεδομένα, την αποθήκευση αντικειμένων στις φυσικές τους μορφές και τον υπολογισμό των αντικειμένων που λαμβάνονται για να αποδείξουν ότι τα δεδομένα παραμένουν αμετάβλητα. Επιπλέον, οι οργανισμοί πρέπει να διατηρούν πλήρη ιστορικό ελέγχου για κάθε αντικείμενο και για όλες τις ενέργειες και τα γεγονότα σχετικά με τυχόν αλλαγές.

3. Ταξινόμηση δεδομένων

Η καθιέρωση της φύσης ενός συνόλου ή τύπου δεδομένων είναι σημαντική. Οι οργανισμοί πρέπει να είναι σε θέση να κυβερνήσουν δομημένα δεδομένα, ημι-δομημένα δεδομένα και δομημένα σύνολα δεδομένων. Η δήλωση κάθε ταξινόμησης με ένα μοναδικό σχήμα μπορεί να επιτρέψει στους οργανισμούς να διαχειριστούν διαφορετικά σύνολα δεδομένων χωρίς μια σταθερή οντολογία – αποφεύγοντας τα δεδομένα να μην χρειαστεί να μεταβληθούν για να ταιριάξουν σε μια inflexible δομή δεδομένων.

4. Κανονικοποίηση δεδομένων

Η καθιέρωση κοινών ορισμών και μορφών μεταδεδομένων είναι σημαντική για χρήση σε αναλύσεις και λύσεις του AI. Καθορίσματα με σαφή σχήματα είναι ένα σημαντικό στοιχείο, μαζί με εργαλεία που μπορούν να μετατρέψουν ή να χαρτογραφήσουν δεδομένα για να διατηρήσουν συνεπείς, κανονικοποιημένες απόψεις των σχετικών δεδομένων.

5. Εξουσιοδοτήσεις δεδομένων

Οι επιχειρήσεις χρειάζονται λεπτομερείς ελέγχους εξουσιοδοτήσεων, συμπεριλαμβανομένων σε επίπεδο αντικειμένου ή πεδίου, με βάση τα προφίλ χρήστη ή συστήματος. Αυτό σημαίνει ότι τα σωστά δεδομένα είναι διαθέσιμα στους χρήστες και τα συστήματα που έχουν εξουσιοδοτηθεί να τα προσεγγίσουν, ενώ περιορίζουν ή liming πρόσβαση σε εκείνους που δεν είναι. Με αυτά τα κρίσιμα στοιχεία στη θέση τους, οι επιχειρήσεις θα είναι καλύτερα τοποθετημένες για να διασφαλίσουν ότι τα δεδομένα που παρέχονται στα μοντέλα του AI είναι και υψηλής ποιότητας και συμμορφωμένα. Το AI θα οδηγήσει σε βελτιώσεις και αποτελεσματικότητες σε διάφορους τομείς – αλλά για να συμβεί αυτό, μια ασφαλής βάση δεδομένων είναι απαραίτητη.