Ερευνητές του AI Προτείνουν την Χρήση Επιδόματος για την Προσάρτηση του Προκατασκευασμένου Σχεδιασμού του AI για την Καλύτερη Ηθική

Μια ομάδα ερευνητών του AI από εταιρείες και εργαστήρια ανάπτυξης του AI όπως η Intel (INTC ), η Google (GOOGL ) Brain και η OpenAI, συνιστά την उपयποίηση επιδόματος για την προώθηση της ηθικής χρήσης του AI. Η ομάδα των ερευνητών δημοσίευσε πρόσφατα μια σειρά προτάσεων σχετικά με την ηθική χρήση του AI και συμπεριέλαβαν μια πρόταση που η ανταμοιβή των ανθρώπων για την ανακάλυψη προκατασκευασμένων σχεδιασμών στο AI θα μπορούσε να είναι ένας αποτελεσματικός τρόπος για να κάνει το AI πιο δίκαιο.

Όπως αναφέρει η VentureBeat, ερευνητές από διάφορες εταιρείες στις Ηνωμένες Πολιτείες και την Ευρώπη συνεργάστηκαν για να δημιουργήσουν ένα σύνολο οδηγιών για την ηθική ανάπτυξη του AI, καθώς και προτάσεις για το πώς να τις εφαρμόσουν. Μια από τις προτάσεις που έκαναν οι ερευνητές ήταν η προσφορά επιδόματος στους dévelopτερς που ανακαλύπτουν προκατασκευασμένους σχεδιασμούς στο AI. Η πρόταση αυτή έγινε σε ένα έγγραφο με τίτλο “Προς την Ανάπτυξη του AI με Αξιοπιστία: Μηχανισμοί για την Υποστήριξη των Επιβεβαιώσιμων Αναφορών“.

Ως παραδείγματα των προκατασκευασμένων σχεδιασμών που η ομάδα των ερευνητών ελπίζει να αντιμετωπίσει, προκατασκευασμένα δεδομένα και αλγόριθμοι έχουν βρεθεί σε όλα, από εφαρμογές υγείας έως συστήματα αναγνώρισης προσώπου που χρησιμοποιούνται από τις αρχές επιβολής του νόμου. Ένα τέτοιο περιστατικό προκατασκευασμένου σχεδιασμού είναι το εργαλείο αξιολόγησης κινδύνου PATTERN που χρησιμοποιήθηκε πρόσφατα από το Υπουργείο Δικαιοσύνης των Ηνωμένων Πολιτειών για να ταξινομήσει τους κρατουμένους και να αποφασίσει ποιους μπορεί να στείλει στο σπίτι τους όταν μειώνεται ο πληθυσμός των φυλακών ως απάντηση στην πανδημία του κοροναϊού.

Η πρακτική της ανταμοιβής των dévelopτερς για την ανακάλυψη ανεπιθύμητης συμπεριφοράς σε προγράμματα υπολογιστή είναι παλιά, αλλά αυτό μπορεί να είναι η πρώτη φορά που μια επιτροπή ηθικής του AI έχει προωθήσει σοβαρά την ιδέα ως μια επιλογή για την καταπολέμηση των προκατασκευασμένων σχεδιασμών του AI. Αν και είναι απίθανο ότι υπάρχουν αρκετοί dévelopτερς του AI για να βρουν αρκετούς προκατασκευασμένους σχεδιασμούς ώστε να διασφαλιστεί η ηθική χρήση του AI, θα βοηθούσε ακόμα τις εταιρείες να μειώσουν τον συνολικό προκατασκευασμένο σχεδιασμό και να έχουν μια καλύτερη κατανόηση των τύπων προκατασκευασμένων σχεδιασμών που διαρρέουν στα συστήματα AI τους.

Οι συγγραφείς του εγγράφου εξήγησαν ότι η έννοια του bug-bounty μπορεί να επεκταθεί στο AI με την χρήση επιδόματος προκατασκευασμένων σχεδιασμών και ασφάλειας και ότι η σωστή χρήση αυτής της τεχνικής θα μπορούσε να οδηγήσει σε καλύτερα τεκμηριωμένα σύνολα δεδομένων και μοντέλα. Η τεκμηρίωση θα αντανακλούσε καλύτερα τους περιορισμούς και του μοντέλου και των δεδομένων. Οι ερευνητές σημείωσαν ακόμη ότι η ίδια ιδέα θα μπορούσε να εφαρμοστεί σε άλλες ιδιότητες του AI, όπως η ερμηνευσιμότητα, η ασφάλεια και η προστασία της ιδιωτικής ζωής.

Όσο περισσότερη συζήτηση γίνεται γύρω από τις ηθικές αρχές του AI, πολλοί έχουν σημειώσει ότι οι αρχές samot δεν είναι αρκετές και ότι πρέπει να ληφθούν μέτρα για να διασφαλιστεί η ηθική χρήση του AI. Οι συγγραφείς του εγγράφου σημείωσαν ότι “οι υφιστάμενες κανονισμοί και πρότυπα στη βιομηχανία και την ακαδημία είναι ανεπαρκή για να διασφαλίσουν την υπεύθυνη ανάπτυξη του AI”. Ο συνιδρυτής της Google Brain και ηγέτης της βιομηχανίας του AI Andrew Ng έκφρασε επίσης την άποψη ότι οι οδηγίες samot δεν έχουν τη δυνατότητα να διασφαλίσουν ότι το AI χρησιμοποιείται υπεύθυνα και δίκαια, λέγοντας ότι πολλές από αυτές τις οδηγίες χρειάζονται να είναι πιο σαφείς και να έχουν δράσεις.

Η πρόταση της ομάδας των ερευνητών για την κυνήγι των προκατασκευασμένων σχεδιασμών είναι μια προσπάθεια να μεταβεί πέρα από τις ηθικές αρχές σε μια περιοχή ηθικής δράσης. Η ομάδα των ερευνητών έκανε επίσης μια σειρά από άλλες προτάσεις που θα μπορούσαν να προωθήσουν την ηθική δράση στο πεδίο του AI.

Η ομάδα των ερευνητών έκανε μια σειρά από άλλες προτάσεις που οι εταιρείες μπορούν να ακολουθήσουν για να κάνουν την χρήση του AI πιο ηθική. Προτείνουν ότι θα πρέπει να δημιουργηθεί một κεντρική βάση δεδομένων για τα περιστατικά του AI και να μοιραστεί με την ευρύτερη κοινότητα του AI. Παρόμοια, οι ερευνητές προτείνουν ότι θα πρέπει να δημιουργηθεί ένα αρχείο ελέγχου και ότι αυτά τα αρχεία θα πρέπει να διατηρούν πληροφορίες σχετικά με τη δημιουργία και την ανάπτυξη των εφαρμογών ασφαλείας-κρίσιμων στο AI.

Για να διασφαλιστεί η προστασία της ιδιωτικής ζωής, η ομάδα των ερευνητών πρότεινε ότι θα πρέπει να χρησιμοποιηθούν τεχνικές που επικεντρώνονται στην ιδιωτική ζωή, όπως κρυπτογραφημένες επικοινωνίες, ομοιομορφική μάθηση και διαφορική ιδιωτική ζωή. Πέρα από αυτό, η ομάδα των ερευνητών πρότεινε ότι θα πρέπει να γίνουν διαθέσιμες εναλλακτικές λύσεις ανοιχτού κώδικα και ότι τα εμπορικά μοντέλα του AI θα πρέπει να ελέγχονται στενά. Τέλος, η ομάδα των ερευνητών προτείνει ότι η χρηματοδότηση της κυβέρνησης θα πρέπει να αυξηθεί ώστε οι ακαδημαϊκοί ερευνητές να μπορέσουν να ελέγξουν τις αξίες απόδοσης του υλικού.