Ερευνητές Προκλήσεις Μακροχρόνιας Υποθέσεων Μηχανικής Μάθησης

Ερευνητές στο Πανεπιστήμιο Carnegie Mellon προκλήσεις μια μακροχρόνια υποθέσεων μηχανικής μάθησης ότι υπάρχει μια συναλλαγή μεταξύ ακρίβειας και δικαιοσύνης σε αλγόριθμους που χρησιμοποιούνται για να ληφθούν δημόσιες πολιτικές αποφάσεις. 

Η χρήση της μηχανικής μάθησης αυξάνεται σε πολλές περιοχές όπως η ποινική δικαιοσύνη, η πρόσληψη, η παροχή υγειονομικής περίθαλψης και οι κοινωνικές υπηρεσίες. Με αυτήν την αύξηση έρχεται επίσης αυξημένες ανησυχίες σχετικά με το αν αυτές οι νέες εφαρμογές μπορούν να χειροτερέψουν τις υφιστάμενες ανισότητες. Μπορούν να είναι ιδιαίτερα επιζήμιες για τις φυλετικές μειονότητες ή άτομα με οικονομικές μειονεκτήματα. 

Προσαρμογή ενός Συστήματος

Υπάρχουν συνεχείς προσαρμογές στα δεδομένα, τις ετικέτες, την εκπαίδευση του μοντέλου, τα συστήματα σκορ και άλλες πτυχές του συστήματος για να φυλαχθούν ενάντια στις προκαταλήψεις. Ωστόσο, η θεωρητική υποθέσεων έχει sido ότι το σύστημα γίνεται λιγότερο ακριβές όταν υπάρχουν περισσότερες από αυτές τις προσαρμογές. 

Η ομάδα στο CMU έθεσε ως στόχο να προκλήσει αυτήν την θεωρία σε μια νέα μελέτη που δημοσιεύθηκε στο Nature Machine Intelligence.

Ο Rayid Ghani είναι καθηγητής στο Τμήμα Μηχανικής Μάθησης (MLD) και στο Κολλέγιο Πληροφοριών και Δημόσιων Πολιτικών. Συμμετείχε ο Kit Rodolfa, ερευνητικός επιστήμονας στο MLD και ο Hemank Lamba, μεταδιδάκτωρ ερευνητής στο SCS. 

Δοκιμή Πραγματικών Εφαρμογών

Οι ερευνητές δοκιμάζουν αυτήν την υποθέσεων σε πραγματικές εφαρμογές και αυτό που βρήκαν ήταν ότι η συναλλαγή είναι αμελητέα σε πολλές πολιτικές περιοχές. 

“Σας μπορείτε να πάρει και τα δύο. Δεν πρέπει να θυσιάσετε την ακρίβεια για να κατασκευάσετε συστήματα που είναι δίκαια και ισότιμα,” είπε ο Ghani. “Αλλά απαιτεί να σχεδιάσετε σκόπιμα συστήματα που είναι δίκαια και ισότιμα. Τα συστήματα off-the-shelf δεν θα δουλέψουν.”

Η ομάδα εστίασε σε καταστάσεις όπου οι ζητούμενες πόρων είναι περιορισμένες. Η κατανομή αυτών των πόρων βοηθάται από την μηχανική μάθηση.

Εστίασαν σε συστήματα σε τέσσερις περιοχές:

• προτεραιότητα περιορισμένης ψυχικής υγείας με βάση τον κίνδυνο επιστροφής στη φυλακή για να μειώσει την επανεγκλεισμό;
• προβλέψεις σοβαρών παραβάσεων ασφαλείας για να αναploy τους περιορισμένους επιθεωρητές σπιτιών της πόλης;
• μοντελοποίηση του κινδύνου των μαθητών να μην αποφοιτήσουν από το λύκειο εγκαίρως για να αναγνωρίσουν εκείνους που έχουν περισσότερη ανάγκη για πρόσθετη υποστήριξη;
• και βοηθώντας τους δασκάλους να φτάσουν τους στόχους crowdfunding για τις ανάγκες του ταμιευτηρίου.

Οι ερευνητές βρήκαν ότι τα μοντέλα που βελτιστοποιούνται για ακρίβεια μπορούσαν αποτελεσματικά να προβλέψουν τα αποτελέσματα ενδιαφέροντος. Ωστόσο, επίσης αποδείχθηκαν σημαντικές ανισότητες στις συστάσεις για παρεμβάσεις. 

Τα σημαντικά αποτελέσματα ήρθαν όταν οι ερευνητές εφαρμόστηκαν τις προσαρμογές στα αποτελέσματα των μοντέλων που στόχευαν στην βελτίωση της δικαιοσύνης. Ανακάλυψαν ότι δεν υπήρχε απώλεια ακρίβειας όταν οι ανισότητες που βασίζονται στη φυλή, ηλικία ή εισόδημα αφαιρέθηκαν. 

“Θέλουμε τις τεχνητές νοημοσύνες, την επιστήμη υπολογιστών και τις κοινότητες μηχανικής μάθησης να σταματήσουν να αποδέχονται αυτήν την υποθέσεων μιας συναλλαγής μεταξύ ακρίβειας και δικαιοσύνης και να αρχίσουν να σχεδιάζουν σκόπιμα συστήματα που μεγιστοποιούν και τα δύο,” είπε ο Rodolfa. “Ελπίζουμε ότι οι υπεύθυνοι λήψης αποφάσεων θα ενστερνιστούν τη μηχανική μάθηση ως einem εργαλείο στη λήψη αποφάσεων τους για να τους βοηθήσουν να επιτύχουν ισότιμα αποτελέσματα.”