Πώς να πραγματοποιήσετε ένα έλεγχο AI το 2023

Ο έλεγχος AI αναφέρεται στην αξιολόγηση των συστημάτων AI για να διασφαλιστεί ότι λειτουργούν όπως αναμένεται χωρίς προκατάληψη ή διακρίσεις και ότι συμμορφώνονται με τις ηθικές και νομικές προδιαγραφές. Το AI έχει καταγράψει εκθετική αύξηση την τελευταία δεκαετία. Κατά συνέπεια, τα рисks που σχετίζονται με το AI έχουν γίνει μια ανησυχία για τις οργανώσεις. Όπως είπε ο Elon Musk:

“Το AI είναι μια σπάνια περίπτωση όπου νομίζω ότι πρέπει να είμαστε προληπτικοί στη ρύθμιση παρά αντιδραστικοί.”

Οι οργανώσεις πρέπει να αναπτύξουν διακυβέρνηση, αξιολόγηση ρίσκου και στρατηγικές ελέγχου για τους υπαλλήλους που εργάζονται με το AI. Η ευθύνη του AI γίνεται κρίσιμη στη λήψη αποφάσεων όπου οι στοίχοι είναι υψηλοί, όπως η ανάπτυξη αστυνομικής δράσης σε μια περιοχή και όχι σε άλλη, η πρόσληψη και η απόρριψη υποψηφίων.

Αυτό το άρθρο θα παρουσιάσει μια επισκόπηση του ελέγχου AI, των πλαισίων και των κανονισμών για τους ελέγχους AI και μια λίστα ελέγχου για τον έλεγχο των εφαρμογών AI.

Παράγοντες που πρέπει να ληφθούν υπόψη

• Συμμόρφωση: Αξιολόγηση ρίσκου που σχετίζεται με τη συμμόρφωση ενός συστήματος AI με νομικές, κανονιστικές, ηθικές και κοινωνικές προδιαγραφές.
• Τεχνολογία: Αξιολόγηση ρίσκου που σχετίζεται με τις τεχνικές ικανότητες, συμπεριλαμβανομένης της μηχανικής μάθησης, των προτύπων ασφαλείας και της απόδοσης του μοντέλου.

Προκλήσεις για τον έλεγχο των συστημάτων AI

• Προκατάληψη: Τα συστήματα AI μπορούν να ενισχύσουν τις προκαταλήψεις στα δεδομένα στα οποία εκπαιδεύονται και να λάβουν άδικες αποφάσεις. Αναγνωρίζοντας αυτό το πρόβλημα, ένα ερευνητικό ινστιτούτο στο Πανεπιστήμιο του Στάνφορντ, το Human Centered AI (HAI), ξεκίνησε एक $71,000 Innovation Challenge to Design Better AI Audits. Ο σκοπός αυτής της πρόκλησης ήταν να απαγορεύσει τις διακρίσεις στα συστήματα AI.
• Συμπλοκότητα: Τα συστήματα AI, ιδίως αυτά που χρησιμοποιούν βαθιά μάθηση, είναι σύνθετα και λείπουν ερμηνευσιμότητας.

Υπάρχοντες κανονισμοί και πλαισια για τον έλεγχο AI

Κανονισμοί και πλαισια λειτουργούν ως ο βορέας για τον έλεγχο AI. Κάποια σημαντικά πλαισια και κανονισμοί ελέγχου αναφέρονται παρακάτω.

Πλαισια ελέγχου

1. Πλαισιο COBIT (Ελεγκτικά Αντικείμενα για τις Τεχνολογίες της Πληροφορίας και των Συναφών Τεχνολογιών): Είναι το πλαισιο για τη διακυβέρνηση και τη διαχείριση των ΤΠΕ μιας επιχείρησης.
2. Πλαισιο ελέγχου AI του IIA (Ινστιτούτο Εσωτερικών Ελεγκτών): Αυτό το πλαισιο AI στοχεύει στην αξιολόγηση του σχεδιασμού, της ανάπτυξης και της λειτουργίας των συστημάτων AI και της συμμόρφωσής τους με τους στόχους της οργάνωσης. Τρία κύρια στοιχεία του πλαισίου ελέγχου AI του IIA είναι η Στρατηγική, η Διακυβέρνηση και ο Ανθρώπινος Παράγοντας. Έχει επτά στοιχεία που είναι τα ακόλουθα:

• Κυβερνοαποκατάσταση
• Ικανότητες AI
• Ποιότητα δεδομένων
• Αρχιτεκτονική και υποδομή δεδομένων
• Μέτρηση απόδοσης
• Ηθική
• Η μαύρη θυρίδα

3. Πλαισιο COSO ERM: Αυτό το πλαισιο παρέχει ένα πλαίσιο αναφοράς για την αξιολόγηση των ρίσκων για τα συστήματα AI σε μια οργάνωση. Έχει πέντε στοιχεία για τον εσωτερικό έλεγχο:

• Εσωτερικό περιβάλλον: Διασφάλιση ότι η διακυβέρνηση και η διαχείριση της οργάνωσης διαχειρίζονται τα ρίσκα AI
• Καθορισμός στόχων: Συνεργασία με τους ενδιαφερόμενους για τη δημιουργία στρατηγικής ρίσκου
• Τυποποίηση γεγονότων: Αναγνώριση ρίσκων στα συστήματα AI, όπως απρόβλεπτες προκαταλήψεις, παραβιάσεις δεδομένων
• Αξιολόγηση ρίσκου: Ποια θα είναι η επίδραση του ρίσκου;
• Απάντηση στο ρίσκο: Πώς θα ανταποκριθεί η οργάνωση σε καταστάσεις ρίσκου, όπως η μη βέλτιστη ποιότητα δεδομένων;

Κανονισμοί

Ο κανονισμός για την προστασία των δεδομένων (GDPR) είναι ένας νόμος στην Ευρωπαϊκή Ένωση που επιβάλλει υποχρεώσεις στις οργανώσεις να χρησιμοποιούν προσωπικά δεδομένα. Έχει επτά αρχές:

• Νομιμότητα, δίκαιος και διαφάνεια: Η επεξεργασία προσωπικών δεδομένων πρέπει να τηρεί τον νόμο
• Περιορισμός σκοπού: Χρήση δεδομένων μόνο για einen συγκεκριμένο σκοπό
• Ελαχιστοποίηση δεδομένων: Τα προσωπικά δεδομένα πρέπει να είναι επαρκή και περιορισμένα
• Ακρίβεια: Τα δεδομένα πρέπει να είναι ακριβή και ενημερωμένα
• Περιορισμός αποθήκευσης: Μη αποθήκευση προσωπικών δεδομένων που δεν απαιτούνται πλέον
• Ακεραιότητα και εμπιστευτικότητα: Τα προσωπικά δεδομένα πρέπει να επεξεργάζονται ασφαλώς
• Ευθύνη: Ο υπεύθυνος επεξεργασίας δεδομένων να επεξεργάζεται δεδομένα με ευθύνη, τηρώντας τις συμμορφώσεις

Άλλοι κανονισμοί περιλαμβάνουν CCPA και PIPEDA.

Λίστα ελέγχου για τον έλεγχο AI

Πηγές δεδομένων

Η αναγνώριση και η επιλογή των πηγών δεδομένων είναι η πρωταρχική σκέψη στον έλεγχο των συστημάτων AI. Οι ελεγκτές ελέγχουν την ποιότητα των δεδομένων και αν η εταιρεία μπορεί να χρησιμοποιήσει τα δεδομένα.

Διασταύρωση

Η διασφάλιση ότι το μοντέλο είναι κατάλληλα διασταυρωμένο είναι ένας από τους ελέγχους των ελεγκτών. Τα δεδομένα επαλήθευσης δεν πρέπει να χρησιμοποιούνται για εκπαίδευση και οι τεχνικές επαλήθευσης πρέπει να διασφαλίσουν την γενικευσιμότητα του μοντέλου.

Ασφαλής φιλοξενία

Σε ορισμένες περιπτώσεις, τα συστήματα AI χρησιμοποιούν προσωπικά δεδομένα. Είναι σημαντικό να αξιολογηθεί ότι οι υπηρεσίες φιλοξενίας ή cloud πληρούν τις απαιτήσεις ασφαλείας της πληροφορίας, όπως οι οδηγίες του OWASP (Ανοιχτό Πρόγραμμα Ασφαλείας Ιστού).

Εξηγήσιμο AI

Εξηγήσιμο AI αναφέρεται στην ερμηνεία και την κατανόηση των αποφάσεων που λαμβάνει το σύστημα AI και των παραγόντων που την επηρεάζουν. Οι ελεγκτές ελέγχουν αν τα μοντέλα είναι επαρκώς εξηγήσιμα χρησιμοποιώντας τεχνικές όπως LIME και SHAP.

Εξόδους μοντέλου

Η δίκαιος είναι το πρώτο πράγμα που οι ελεγκτές διασφαλίζουν στα εξόδους του μοντέλου. Τα εξόδους του μοντέλου πρέπει να παραμένουν σταθερά όταν μεταβάλλονται μεταβλητές όπως το φύλο, η φυλή ή η θρησκεία. Επιπλέον, η ποιότητα των προβλέψεων χρησιμοποιώντας την κατάλληλη μέθοδο σκοράρισματος αξιολογείται επίσης.

Κοινωνική ανατροφοδότηση

Ο έλεγχος AI είναι μια συνεχής διαδικασία. Μόλις αναπτυχθεί, οι ελεγκτές πρέπει να δουν την κοινωνική επίδραση του συστήματος AI. Το σύστημα AI και η στρατηγική ρίσκου πρέπει να τροποποιηθούν και να ελεγχθούν ανάλογα με την ανατροφοδότηση, τη χρήση, τις συνέπειες και την επίδραση, είτε θετική είτε αρνητική.

Εταιρείες που ελέγχουν τις πipelines και τις εφαρμογές AI

Πέντε μεγάλες εταιρείες που ελέγχουν το AI είναι οι ακόλουθες:

• Deloitte: Η Deloitte είναι η μεγαλύτερη εταιρεία专业 υπηρεσιών στον κόσμο και παρέχει υπηρεσίες που σχετίζονται με τον έλεγχο, τη φορολογία και τις χρηματοοικονομικές συμβουλές. Η Deloitte χρησιμοποιεί RPA, AI και ανάλυση για να βοηθήσει τις οργανώσεις στην αξιολόγηση ρίσκου των συστημάτων AI.
• PwC: Η PwC είναι το δεύτερο μεγαλύτερο δίκτυο επαγγελματικών υπηρεσιών από έσοδο. Έχουν αναπτύξει μεθόδους ελέγχου για να βοηθήσουν τις οργανώσεις να διασφαλίσουν την ευθύνη, την αξιοπιστία και τη διαφάνεια.
• EY: Το 2022, η EY ανακοίνωσε μια επένδυση των 1 δισεκατομμυρίου δολαρίων σε μια πλατφόρμα τεχνολογίας που ενεργοποιείται από το AI για να παρέχει υψηλής ποιότητας υπηρεσίες ελέγχου. Οι εταιρείες που οδηγούνται από το AI είναι καλά ενημερωμένες για να ελέγχουν τα συστήματα AI.
• KPMG: Η KPMG είναι η τέταρτη μεγαλύτερη εταιρεία που παρέχει υπηρεσίες λογιστικής. Η KPMG παρέχει εξατομικευμένες υπηρεσίες στη διακυβέρνηση AI, την αξιολόγηση ρίσκου και τον έλεγχο.
• Grant Thronton: Βοηθούν τους πελάτες να διαχειρίζονται τα ρίσκα που σχετίζονται με την ανάπτυξη AI και τη συμμόρφωση με την ηθική και τους κανονισμούς AI.

Ωφέλη του ελέγχου AI

• Διαχείριση ρίσκου: Ο έλεγχος AI προλαμβάνει ή μειώνει τα ρίσκα που σχετίζονται με τα συστήματα AI.
• Διαφάνεια: Ο έλεγχος AI διασφαλίζει ότι οι εφαρμογές AI είναι ελεύθερες από προκατάληψη και διακρίσεις.
• Συμμόρφωση: Ο έλεγχος AI σημαίνει ότι το σύστημα ακολουθεί τις νομικές και κανονιστικές συμμορφώσεις.

Ο έλεγχος AI: Τι το μέλλον κρατά

Οι οργανώσεις, οι αρχές ρύθμισης και οι ελεγκτές πρέπει να παραμείνουν σε επαφή με τις προόδους του AI, να αναγνωρίσουν τις πιθανές απειλές και να αναθεωρήσουν συχνά τους κανονισμούς, τα πλαισια και τις στρατηγικές για να διασφαλίσουν τη δίκαιη, απαλλαγμένη από ρίσκα και ηθική χρήση.

Το 2021, 193 κράτη μέλη της UNESCO υιοθέτησαν μια παγκόσμια συμφωνία για την ηθική του AI. Το AI είναι ένα συνεχώς εξελισσόμενο οικοσύστημα.

Θέλετε περισσότερο περιεχόμενο που σχετίζεται με το AI; Επισκεφθείτε unite.ai.