Ερευνητές του AI Προτείνουν την Τοποθέτηση Επιδόματος για την Προκατάληψη του AI για να Κάνουν το AI Περισσότερο Ηθικό

Một ομάδα ερευνητών του AI από εταιρείες και εργαστήρια ανάπτυξης του AI όπως η Intel, η Google Brain και η OpenAI έχει προτείνει τη χρήση επιδότησης για να διασφαλιστεί η ηθική χρήση του AI. Η ομάδα των ερευνητών πρόσφατα δημοσίευσε了一umbero από προτάσεις σχετικά με την ηθική χρήση του AI και μεταξύ αυτών περιλαμβανόταν η πρόταση ότι η αμοιβή των ανθρώπων για την ανακάλυψη προκαταλήψεων στο AI θα μπορούσε να είναι ένας αποτελεσματικός τρόπος για να κάνει το AI πιο δίκαιο.

Όπως αναφέρει το VentureBeat, ερευνητές από διάφορες εταιρείες στις Ηνωμένες Πολιτείες και την Ευρώπη συνεργάστηκαν για να δημιουργήσουν ένα σύνολο ηθικών οδηγιών για την ανάπτυξη του AI, καθώς και προτάσεις για το πώς να τις εφαρμόσουν. Μια από τις προτάσεις που έκαναν οι ερευνητές ήταν η προσφορά επιδότησης στους dévelopτερς που ανακαλύπτουν προκατάληψη μέσα στα προγράμματα του AI. Η πρόταση αυτή έγινε σε ένα έγγραφο με τίτλο “Προς την Ανάπτυξη του AI με Αξιοπιστία: Μηχανισμοί για την Υποστήριξη των Επιβεβαιώσιμων Αναφορών“.

Ως παραδείγματα των προκαταλήψεων που η ομάδα των ερευνητών ελπίζει να αντιμετωπίσει, προκαταλήψεις στα δεδομένα και τους αλγόριθμους έχουν βρεθεί σε όλα, από τις εφαρμογές υγείας μέχρι τα συστήματα αναγνώρισης προσώπου που χρησιμοποιούνται από τις αρχές επιβολής του νόμου. Ένα τέτοιο περιστατικό προκατάληψης είναι το εργαλείο αξιολόγησης κινδύνου PATTERN που χρησιμοποιήθηκε πρόσφατα από το Υπουργείο Δικαιοσύνης των Ηνωμένων Πολιτειών για να κατηγοριοποιήσει τους κρατουμένους και να αποφασίσει ποιοι από αυτούς θα μπορούσαν να απελευθερωθούν όταν μειώνονταν οι πληθυσμοί των φυλακών ως απάντηση στην πανδημία του κοροναϊού.

Η πρακτική της αμοιβής των dévelopτερς για την ανακάλυψη ανεπιθύμητης συμπεριφοράς σε προγράμματα υπολογιστή είναι μια παλιά πρακτική, αλλά αυτό μπορεί να είναι η πρώτη φορά που μια επιτροπή ηθικής του AI έχει προωθήσει σοβαρά την ιδέα ως eine επιλογή για την καταπολέμηση της προκατάληψης του AI. Ενώ είναι απίθανο ότι υπάρχουν αρκετοί dévelopτερς του AI για να βρουν αρκετές προκαταλήψεις ώστε να διασφαλιστεί η ηθική του AI, θα βοηθούσε ακόμη τις εταιρείες να μειώσουν την συνολική προκατάληψη και να έχουν μια καλύτερη κατανόηση των τύπων προκατάληψης που διαρρέουν στα συστήματα του AI.

Οι συγγραφείς του εγγράφου εξήγησαν ότι η έννοια της επιδότησης για σφάλματα μπορεί να επεκταθεί στο AI με τη χρήση επιδότησης για προκατάληψη και ασφάλεια και ότι η σωστή χρήση αυτής της τεχνικής θα μπορούσε να οδηγήσει σε καλύτερα τεκμηριωμένα σύνολα δεδομένων και μοντέλα. Η τεκμηρίωση θα αντικατοπτρίζει καλύτερα τους περιορισμούς και του μοντέλου και των δεδομένων. Οι ερευνητές σημειώνουν ακόμη ότι η ίδια ιδέα θα μπορούσε να εφαρμοστεί σε άλλες ιδιότητες του AI, όπως η ερμηνευσιμότητα, η ασφάλεια και η προστασία της ιδιωτικής ζωής.

Όσο περισσότερη συζήτηση γίνεται γύρω από τις ηθικές αρχές του AI, πολλοί έχουν σημειώσει ότι οι αρχές μόνο δεν είναι αρκετές και ότι πρέπει να ληφθούν μέτρα για να διασφαλιστεί η ηθική χρήση του AI. Οι συγγραφείς του εγγράφου σημειώνουν ότι “οι υφιστάμενες κανονισμοί και νόρμες στη βιομηχανία και την ακαδημία είναι ανεπαρκείς για να διασφαλίσουν την υπεύθυνη ανάπτυξη του AI”. Ο συνιδρυτής της Google Brain και ηγέτης της βιομηχανίας του AI Andrew Ng επίσης έχουν εκφράσει ότι οι οδηγίες μόνο δεν έχουν τη δυνατότητα να διασφαλίσουν ότι το AI χρησιμοποιείται υπεύθυνα και δίκαια, λέγοντας ότι πολλές από αυτές τις οδηγίες χρειάζονται να είναι πιο σαφείς και να έχουν ενεργητικές ιδέες.

Η πρόταση για την κυνήγι προκατάληψης του AI από την ομάδα των ερευνητών είναι μια προσπάθεια να μεταβεί πέρα από τις ηθικές αρχές σε μια περιοχή ηθικής δράσης. Η ομάδα των ερευνητών έκανε επίσης μια σειρά από άλλες προτάσεις που θα μπορούσαν να προωθήσουν την ηθική δράση στον τομέα του AI.

Η ομάδα των ερευνητών έκανε μια σειρά από άλλες προτάσεις που οι εταιρείες μπορούν να ακολουθήσουν για να κάνουν την χρήση του AI πιο ηθική. Προτείνουν ότι πρέπει να δημιουργηθεί μια κεντρική βάση δεδομένων για τα περιστατικά του AI και να μοιραστεί με την ευρύτερη κοινότητα του AI. Παρόμοια, οι ερευνητές προτείνουν ότι πρέπει να δημιουργηθεί ένας ιχνηλάτης και ότι αυτοί οι ιχνηλάτες πρέπει να διατηρούν πληροφορίες σχετικά με τη δημιουργία και την ανάπτυξη των εφαρμογών κρίσιμης ασφάλειας στα πλαίσια του AI.

Για να διατηρηθεί η ιδιωτική ζωή των ανθρώπων, η ομάδα των ερευνητών πρότεινε ότι πρέπει να χρησιμοποιηθούν τεχνικές που επικεντρώνονται στην ιδιωτική ζωή, όπως κρυπτογραφημένες επικοινωνίες, ομοσπονδιακή μάθηση και διαφορική ιδιωτική ζωή. Πέρα από αυτό, η ομάδα των ερευνητών πρότεινε ότι πρέπει να υπάρχουν ανοιχτές πηγές εναλλακτικών και ότι τα εμπορικά μοντέλα του AI πρέπει να ελέγχονται σχολαστικά. Τέλος, η ομάδα των ερευνητών προτείνει ότι η κυβερνητική χρηματοδότηση πρέπει να αυξηθεί ώστε οι ακαδημαϊκοί ερευνητές να μπορέσουν να επιβεβαιώσουν τις αξίες απόδοσης του υλικού.