Όταν η ‘Γνώση’ του AI είναι 50 Χρόνια Παλιά: Ο Κίνδυνος Συμμόρφωσης που Δεν Μπορείτε να Αγνοήσετε

Το ζήτημα των ψευδών επιταγών του AI είναι μια επείγουσα πρόκληση καθώς οι επιχειρήσεις αυξάνουν τη χρήση εργαλείων γεννήτριας.尽管 υπάρχει ευρεία ενθουσιασμός για την υιοθέτηση του AI, υπάρχει επίσης ένας ισχυρός ρεύμα κριτικής. Κριτικοί σχολιαστές συχνά επισημαίνουν τις φαινομενικά τυχαίες, απρόβλεπτες ανακρίβειες στην έξοδο του AI, οι οποίες υπονομεύουν την αξία του – και μπορεί ακόμη και να απειλήσουν πραγματική ζημία στους ανθρώπους, ιδιαίτερα σε τομείς όπως η υγεία και η μεταφορά, όπου οι ψευδείς εξόδους θα μπορούσαν θεωρητικά να οδηγήσουν σε όλα, από λάθος συνταγή έως τρένα σε πορεία σύγκρουσης.

Συχνά, αυτές οι ανακρίβειες έχουν αποδοθεί στις “οπτασίες” του AI – περιπτώσεις στις οποίες το AI γεννάει μια “καλύτερη εκτίμηση” απάντηση, μεταφέροντας την με την ίδια ευθύνη όπως μια “αυθεντική” απάντηση, αντί να ενημερώνει τον χρήστη για ένα κενό στις γνώσεις του ή στην ικανότητά του. Οι οπτασίες μπορούν να είναι δύσκολο να ανιχνευτούν στην πρώτη ματιά – αλλά υπάρχει ένα ήσυχο, εξίσου σοβαρό πρόβλημα που είναι ακόμη πιο δύσκολο να ανιχνευτεί.

Χρέος ποιότητας δεδομένων: Το Αχίλλειο πτέρνα του AI

Όταν τα συστήματα AI αντλούν από ξεπερασμένα, непλήρη ή ανακριβή δεδομένα, συμβαίνουν ψευδείς εξόδους αλλά είναι λιγότερο αμέσως ανιχνεύσιμες. Για παράδειγμα, μπορείτε να ζητήσετε από το AI να αναγνωρίσει τα συμπτώματα μιας ιατρικής κατάστασης και να λάβετε μια απάντηση που βασίζεται σε μια 50χρονη έρευνα αντί για τρέχουσα έρευνα. Το αποτέλεσμα είναι απίθανο να εμφανιστεί αμέσως, γελοία λάθος – αλλά η αρχική επιφάνεια της πιθανοφάνειας συνιστά ένα πραγματικό κίνδυνο τόσο για τον ασθενή όσο και για τον πάροχο υγείας.

Το ίδιο ισχύει και σε άλλους τομείς – αν τα δεδομένα που τροφοδοτούν το μοντέλο AI περιλαμβάνουν παλιά, ξεπερασμένα ή μερικά στοιχεία, υπάρχει υψηλός κίνδυνος ψευδών εξόδων. Και καθώς περισσότερες εταιρείες ενσωματώνουν το AI σε διαδικασίες κρίσιμες για την επιχείρηση, ο κίνδυνος να βγάλουν ψευδείς συμπεράσματα από κακοδιατηρημένα δεδομένα αυξάνεται.

Ακρίβεια για τον ρυθμιστή

Αυτό δεν είναι μόνο ένα πρόβλημα για τις καθημερινές λειτουργίες – είναι επίσης μια σημαντική πρόκληση συμμόρφωσης. Οι ρυθμιστικές απαιτήσεις εξελίσσονται γρήγορα για να αντιμετωπίσουν τις ανησυχίες σχετικά με τις ανακριβείς AI. Για παράδειγμα,有一umber από τις πρώτες ρυθμιστικές ενέργειες για το AI έχουν λάβει χώρα. Notably, όταν η Ιταλία tạmorarily απαγόρευσε το ChatGPT λόγω ανησυχιών για την ιδιωτικότητα, και η ΕΕ Data Protection Board launched了一個 αφιερωμένο taskforce για να συντονίσει πιθανές ενέργειες επιβολής actions gegen το ChatGPT.

Μια από τις πιο εύστοχες ρυθμιστικές αλλαγές ήταν η ψήφιση του EU AI Act, του πρώτου綜合적인 νομικού πλαισίου για το AI. Ο νόμος καθορίζει υποχρεώσεις με βάση το επίπεδο κινδύνου των συστημάτων AI, από “απαράδεκτο κίνδυνο” συστήματα, τα οποία απαγορεύονται, σε “υψηλό κίνδυνο” συστήματα, τα οποία αντιμετωπίζουν αυστηρές απαιτήσεις γύρω από τη διαφάνεια, την ποιότητα δεδομένων, τη διακυβέρνηση και την ανθρώπινη εποπτεία.

Η σημασία του EU AI Act δεν лежει στο φιλόδοξο πεδίο του, αλλά σημαντικά στο προηγούμενο που θέτει. Οι ρυθμιστές κάνουν σαφές ότι το AI θα υπόκειται σε δεσμευτικές, επιβαλλόμενες κανόνες και ότι οι οργανισμοί πρέπει να αντιμετωπίζουν τη συμμόρφωση και τη διαφάνεια σχετικά με το πού και πώς χρησιμοποιείται το AI ως ουσιαστικό μέρος της υιοθέτησης του AI και όχι ως etwas μετάthought.

Ο νόμος έχει ένα ευρύ πεδίο, με το δυνατό να επηρεάσει ένα μεγάλο μέρος των αναπτύξεων του AI. Στο κέντρο του είναι να κάνει το AI ασφαλές, जबकαι να σεβαστεί τις θεμελιώδεις δικαιώματα και τις αξίες. Μέσα σε αυτό το νέο πλαισιοδότημα έρχεται η διάγνωση των πιθανών πηγών για ανακρίβειες του AI, συμπεριλαμβανομένων των δεδομένων και των συνόλων δεδομένων που τροφοδοτούν τα μοντέλα, της αδιαφάνειας του μοντέλου και της πρόσβασης, και του σχεδιασμού και της χρήσης του συστήματος. Οι λύσεις του AI είναι ένα κατασκεύασμα και των τριών – τα προβλήματα με οποιοδήποτε από αυτά μπορεί να έχουν αρνητική έκβαση. Όχι μόνο αυτό, αλλά τα δεδομένα που χρησιμοποιούνται για το σχεδιασμό, την ανάπτυξη, την ανάπτυξη και τη λειτουργία του AI είναι πιθανό να αποτελούνται κυρίως από επιχειρηματικά αρχεία, τα οποία είναι euxα themselves υπόκεινται σε διάφορες απαιτήσεις συμμόρφωσης.

Με άλλα λόγια, το ρυθμιστικό περιβάλλον γύρω από το AI γίνεται ολοένα και πιο αυστηρό – και αυτό ισχύει τόσο για την είσοδο δεδομένων όσο και για την έξοδο δεδομένων, ακόμη και αν η τελευταία λαμβάνει περισσότερες επικεφαλίδες.

Πέντε βήματα για την τροφοδοσία του AI με συμμορφωμένα, τρέχοντα, σχετικά δεδομένα

Για να λύσει αυτήν την διπλή πρόκληση – να διασφαλίσει τόσο τη συμμόρφωση της διαχείρισης δεδομένων όσο και την υψηλή ποιότητα εισόδου που επιτρέπει υψηλή ποιότητα εξόδου – οι επιχειρήσεις χρειάζονται έλεγχο над τα δεδομένα εκπαίδευσης και συλλογής. Δυστυχώς, αυτό είναι κάτι που πολλές επιχειρήσεις ακόμη λείπουν.

Αλλά τουλάχιστον, οι οργανισμοί πρέπει να εφαρμόζουν τα ευρύτερα προγράμματα συμμόρφωσης και διακυβέρνησης τους στα πρωτοβουλίες του AI. Χρειάζεται να αρχίσουν να καταγράφουν και να διατηρούν κατάλληλες εγγραφές για τα δεδομένα που τροφοδοτούν τα μοντέλα AI, πώς σχεδιάζονται τα μοντέλα και τα συστήματα, καθώς και τις αποφάσεις και το περιεχόμενο που παράγονται μέσω του AI.

Ωστόσο, είναι επίσης γίνεται κριτικά σημαντικό για τους οργανισμούς να πάνε ένα βήμα παραπέρα και να διασφαλίσουν ότι έχουν πλήρη έλεγχο над όλα τα δεδομένα που θα μπορούσαν να χρησιμοποιηθούν σε αναπτύξεις του AI, είτε για την αρχική εκπαίδευση είτε για “ζωντανούς” εργασίες. Αυτό απαιτεί μια στρατηγική διαχείρισης και αποθήκευσης δεδομένων υψηλής ποιότητας, διασφαλίζοντας ότι όλα τα σχετικά δεδομένα συλλέγονται, καθαρίζονται, αποθηκεύονται, ταξινομούνται και εξουσιοδοτούνται με ευφυΐα. Για να επιτύχουν αυτό, οι οργανισμοί πρέπει να λάβουν υπόψη τους τέσσερις κρίσιμους σταθμούς:

1. Γραμμή καταγωγής και προέλευση δεδομένων

Αυτό περιλαμβάνει τη διατήρηση ενός αρχείου της πηγής των δεδομένων, της προέλευσης, της ιδιοκτησίας και των αλλαγών στα μεταδεδομένα (εάν επιτρέπεται) καθ’ όλη τη διάρκεια του κύκλου ζωής τους. Επίσης, σημαίνει τη διατήρηση πλουσίων μεταδεδομένων και όλων των υποκείμενων εγγράφων ή τεχνουργημάτων από τα οποία προέρχονται.

2. Αυθεντικότητα δεδομένων

Αυτό απαιτεί τη διατήρηση einer σαφής αλυσίδας κτήσης για όλα τα δεδομένα, αποθήκευση αντικειμένων στις φυσικές μορφές τους και hashing αντικειμένων που λαμβάνονται για να αποδείξουν ότι τα δεδομένα παραμένουν αμετάβλητα. Επιπλέον, οι οργανισμοί πρέπει να διατηρούν πλήρη ιστορικό ελέγχου για κάθε αντικείμενο και για όλες τις ενέργειες και τα γεγονότα σχετικά με τις αλλαγές.

3. Ταξινόμηση δεδομένων

Η καθιέρωση της φύσης ενός συνόλου ή τύπου δεδομένων είναι σημαντική. Οι οργανισμοί πρέπει να είναι σε θέση να διακυβερνούν δομημένα δεδομένα, ημιδομημένα δεδομένα και δομημένα σύνολα δεδομένων. Δίνοντας σε κάθε τάξη ένα μοναδικό σχήμα μπορεί να επιτρέψει στους οργανισμούς να διαχειριστούν διαφορετικά σύνολα δεδομένων χωρίς ένα σχήμα που ταιριάζει σε όλα – αποφεύγοντας τα δεδομένα να χρειαστούν να τροποποιηθούν για να τακτοποιηθούν σε ένα inflexible δεδομένο σχήμα.

4. Κανονικοποίηση δεδομένων

Η καθιέρωση κοινών ορισμών και μορφών μεταδεδομένων είναι σημαντική για χρήση σε αναλύσεις και λύσεις AI. Σαφώς καθορισμένα σχήματα είναι ένα σημαντικό στοιχείο, μαζί με εργαλεία που μπορούν να μετατρέψουν ή να χαρτογραφήσουν δεδομένα για να διατηρήσουν συνεπείς, κανονικοποιημένες απόψεις σχετικών δεδομένων.

5. Εξουσιοδότηση δεδομένων

Οι επιχειρήσεις χρειάζονται λεπτομερείς ελέγχους εξουσιοδότησης, συμπεριλαμβανομένων σε επίπεδο αντικειμένου ή πεδίου, με βάση τα προφίλ χρηστών ή συστήματος. Αυτό σημαίνει ότι τα σωστά δεδομένα είναι διαθέσιμα στους χρήστες και τα συστήματα που έχουν εξουσιοδοτηθεί να τα προσεγγίσουν, ενώ περιορίζουν ή περιορίζουν την πρόσβαση σε εκείνους που δεν είναι.

Με αυτά τα κρίσιμα στοιχεία στη θέση τους, οι επιχειρήσεις θα είναι καλύτερα τοποθετημένες για να διασφαλίσουν ότι τα δεδομένα που παρέχονται στα μοντέλα AI είναι και υψηλής ποιότητας και συμμορφωμένα. Το AI θα οδηγήσει σε βελτιώσεις και αποτελεσματικότητες σε διάφορους τομείς – αλλά για να συμβεί αυτό, μια ασφαλής βάση δεδομένων είναι απαραίτητη.