5 Θεμελιώδεις Στυλοβάτες για την Εγγύηση της Ευθύνης του AI

Βλέπουμε μια κατακλυσμική αύξηση των συστημάτων AI/ML για την επεξεργασία ωκεανών δεδομένων που παράγονται στην νέα ψηφιακή οικονομία. Ωστόσο, με αυτή την αύξηση, υπάρχει ανάγκη να ληφθούν σοβαρά υπόψη οι ηθικές και νομικές επιπτώσεις του AI.

Όσο εμπιστεύομαστε όλο και πιο σύνθετα και σημαντικά καθήκοντα στα συστήματα AI, όπως για παράδειγμα την αυτόματη έγκριση δανείων, πρέπει να είμαστε απόλυτα βέβαιοι ότι αυτά τα συστήματα είναι υπεύθυνα και αξιόπιστα. Η μείωση του προκατασκευασμένου σφάλματος στο AI έχει γίνει ένα τεράστιο πεδίο εστίασης για πολλούς ερευνητές και έχει τεράστιες ηθικές επιπτώσεις, όπως και το ποσό αυτονομίας που δίνουμε σε αυτά τα συστήματα.

Η έννοια του Ευθύνη του AI είναι ένα σημαντικό πλαίσιο που μπορεί να βοηθήσει στην κατασκευή εμπιστοσύνης στις αναπτύξεις του AI. Υπάρχουν πέντε θεμελιώδεις στυλοβάτες για την Ευθύνη του AI. Αυτό το άρθρο θα εξερευνήσει αυτές τις στυλοβάτες για να σας βοηθήσει να κατασκευάσετε καλύτερα συστήματα.

1. Αναπαραγωγιμότητα

Υπάρχει ένα παλιό ρητό στον κόσμο της ανάπτυξης λογισμικού που λέει: «δουλεύει στο μηχάνημά μου» Στον ML και AI, η φράση θα μπορούσε να τροποποιηθεί για να είναι: «δουλεύει στο σύνολο δεδομένων μου». Αυτό σημαίνει ότι τα μοντέλα μηχανικής μάθησης μπορούν συχνά να είναι ένα μαύρο κουτί. Πολλά σύνολα δεδομένων εκπαίδευσης μπορούν να έχουν εγγενείς προκατασκευασμένα σφάλματα, όπως το σφάλμα δειγματοληψίας ή το σφάλμα επιβεβαίωσης, που μειώνουν την ακρίβεια του τελικού προϊόντος.

Για να βοηθήσετε να κάνετε τα συστήματα AI/ML πιο αναπαραγωγιμά, και επομένως ακριβή και αξιόπιστα, ο πρώτος βήμας είναι να τυποποιήσετε την πipeline MLOps. Ακόμη και οι πιο έξυπνοι επιστήμονες δεδομένων έχουν τις αγαπημένες τους τεχνολογίες και βιβλιοθήκες, που σημαίνει ότι η μηχανική χαρακτηριστικών και τα αποτελέσματα των μοντέλων δεν είναι ομοιόμορφα από άτομο σε άτομο. Με τη χρήση εργαλείων όπως το MLflow, μπορείτε να τυποποιήσετε την πipeline MLOps και να μειώσετε αυτές τις διαφορές.

Ένας άλλος τρόπος για να βοηθήσετε να κάνετε τα συστήματα AI/ML πιο αναπαραγωγιμά είναι μέσω της χρήσης του που ονομάζεται «χρυσοί dataset». Αυτά είναι αντιπροσωπευτικά σύνολα δεδομένων που λειτουργούν ουσιαστικά ως δοκιμές και επαλήθευση των νέων μοντέλων πριν από την κυκλοφορία τους στην παραγωγή.

2. Διαφάνεια

Όπως αναφέρθηκε νωρίτερα, πολλά μοντέλα ML, ιδιαίτερα τα νευρωνικά δίκτυα, είναι μαύρα κουτιά. Για να τα κάνουμε πιο υπεύθυνα, πρέπει να τα κάνουμε πιο ερμηνεύσιμα. Για απλά συστήματα όπως τα δέντρα απόφασης, είναι khá εύκολο να κατανοηθεί πώς και γιατί το σύστημα έκανε μια bestimmμένη απόφαση, αλλά καθώς η ακρίβεια και η复잡ικότητα του συστήματος AI αυξάνονται, η ερμηνευσιμότητά του συχνά μειώνεται.

Υπάρχει ένα νέο πεδίο έρευνας που ονομάζεται «ερμηνευσιμότητα» που προσπαθεί να φέρει διαφάνεια ακόμη και στα σύνθετα συστήματα AI όπως τα νευρωνικά δίκτυα και το βαθύ μάθημα. Αυτά τα μοντέλα χρησιμοποιούν proxy μοντέλα για να αντιγράψουν την απόδοση ενός νευρωνικού δικτύου, αλλά επίσης προσπαθούν να δώσουν έγκυρες εξηγήσεις για ποια χαρακτηριστικά είναι σημαντικά.

Αυτό οδηγεί στην ισότητα· θέλετε να γνωρίζετε γιατί μια bestimmμένη απόφαση έγινε και να βεβαιωθείτε ότι αυτή η απόφαση είναι δίκαιη. Θέλετε επίσης να διασφαλίσετε ότι ανάρμοστα χαρακτηριστικά δεν λαμβάνονται υπόψη, ώστε να μην εισέλθει προκατασκευασμένο σφάλμα στο μοντέλο σας.

3. Ευθύνη

Πιθανώς το πιο σημαντικό аспект της Ευθύνης του AI είναι η ευθύνη. Υπάρχει πολλή συζήτηση για αυτό το θέμα, ακόμη και στον κυβερνητικό τομέα, καθώς αφορά τις πολιτικές που θα οδηγήσουν τα αποτελέσματα του AI. Αυτή η πολιτική-οδηγούμενη προσέγγιση καθορίζει σε ποιο στάδιο οι άνθρωποι πρέπει να είναι στο βρόχο.

Η ευθύνη απαιτεί ρομπούς παρατηρητές και μετρητές για να βοηθήσουν τους πολιτικούς και να ελέγξουν τα συστήματα AI/ML. Η ευθύνη πραγματικά συνδέει την αναπαραγωγιμότητα και τη διαφάνεια, αλλά χρειάζεται αποτελεσματική εποπτεία με τη μορφή επιτροπών ηθικής AI. Αυτές οι επιτροπές μπορούν να χειριστούν αποφάσεις πολιτικής, να αποφασίσουν τι είναι σημαντικό να μετρηθεί και να διεξάγουν αναθεωρήσεις ισότητας.

4. Ασφάλεια

Η ασφάλεια του AI εστιάζει στην εμπιστευτικότητα και την ακεραιότητα των δεδομένων. Όταν τα συστήματα επεξεργάζονται δεδομένα, θέλετε να είναι σε ένα ασφαλές περιβάλλον. Θέλετε τα δεδομένα να είναι και κρυπτογραφημένα κατά την ηρεμία τους στη βάση δεδομένων σας και επίσης κατά τη διάρκεια της μεταφοράς τους μέσω της πipeline, αλλά υπάρχουν ακόμη ευπάθειες κατά τη διάρκεια της εισαγωγής τους σε ένα μοντέλο μηχανικής μάθησης ως απλό κείμενο. Τεχνολογίες όπως η ομομορφική κρυπτογράφηση λύνουν αυτό το πρόβλημα, επιτρέποντας την εκπαίδευση του μοντέλου μηχανικής μάθησης σε ένα κρυπτογραφημένο περιβάλλον.

Ένας άλλος аспект είναι η ασφάλεια του μοντέλου selbst. Για παράδειγμα, οι επιθέσεις αναστροφής μοντέλου επιτρέπουν στους hackers να μάθουν τα δεδομένα εκπαίδευσης που χρησιμοποιήθηκαν για την κατασκευή του μοντέλου. Υπάρχουν επίσης επιθέσεις δηλητηρίασης μοντέλου, οι οποίες εισάγουν κακά δεδομένα στο μοντέλο κατά τη διάρκεια της εκπαίδευσης και καταστρέφουν完全 την απόδοσή του. Η δοκιμή του μοντέλου σας για επιθέσεις όπως αυτές μπορεί να το giữσει ασφαλές και ασφαλές.

5. Ιδιωτικότητα

Η Google και η OpenMined είναι δύο οργανισμοί που έχουν προτεραιότητα την ιδιωτικότητα του AI, και η OpenMined φιλοξένησε μια πρόσφατη διάσκεψη σε αυτό το θέμα. Με νέες ρυθμίσεις όπως το GDPR και το CCPA, και πιθανώς περισσότερες να έρχονται, η ιδιωτικότητα θα παίξει κεντρικό ρόλο στο πώς εκπαιδεύουμε τα μοντέλα μηχανικής μάθησης.

Ένας τρόπος για να διασφαλίσετε ότι χειρίζεστε τα δεδομένα των πελατών σας με ιδιωτικότητα είναι να χρησιμοποιήσετε την ομοσπονδιακή μάθηση. Αυτή η αποκεντρωμένη μέθοδος μηχανικής μάθησης εκπαιδεύει διαφορετικά μοντέλα τοπικά και στη συνέχεια συνδυάζει κάθε μοντέλο σε einem κεντρικό hub, διατηρώντας τα δεδομένα ασφαλή, ασφαλή και ιδιωτικά. Ένας άλλος τρόπος είναι να εισαγάγετε στατιστικό θόρυβο, ώστε οι μεμονωμένες τιμές των πελατών να μην διαρρεύσουν. Αυτό σας επιτρέπει να εργάζεστε με το σύνολο, ώστε τα δεδομένα ενός ατόμου να παραμείνουν άθικτα και να μην είναι διαθέσιμα στο αλγόριθμο.

Διατήρηση της Ευθύνης του AI

 Τελικά, η διατήρηση της ευθύνης του AI είναι ευθύνη κάθε οργανισμού που σχεδιάζει συστήματα AI/ML. Με την εύδηλη διεκδίκηση των τεχνολογιών εντός κάθε μιας από αυτές τις πέντε πτυχές της Ευθύνης του AI, μπορείτε να ωφεληθείτε όχι μόνο από τη δύναμη της τεχνητής νοημοσύνης, αλλά και να το κάνετε με έναν αξιόπιστο και ευθύ τρόπο που θα διασφαλίσει την οργάνωση σας, τους πελάτες σας και τους ρυθμιστές σας.