Ο αλγόριθμος θα μπορούσε να αντιμετωπίσει τη φυλετική προκατάληψη στην υγειονομική περίθαλψη εάν εκπαιδευτεί σωστά

Μια ομάδα ερευνητών από το Πανεπιστήμιο του Στάνφορντ, το Πανεπιστήμιο του Χάρβαρντ και το Πανεπιστήμιο του Σικάγο εκπαιδεύτηκαν αλγόριθμους για τη διάγνωση της αρθρίτιδας σε ακτινογραφίες γονάτων. Αποδεικνύεται ότι όταν οι αναφορές των ασθενών χρησιμοποιούνται ως δεδομένα εκπαίδευσης για τον αλγόριθμο, ο αλγόριθμος ήταν πιο ακριβής από τους ακτινολόγους κατά την ανάλυση των αρχείων μαύρων ασθενών.

Πρόβλημα Αλγοριθμικής Προκατάληψης

Η χρήση αλγορίθμων μηχανικής μάθησης στον ιατρικό τομέα μπορεί ενδεχομένως να βελτιώσει τα αποτελέσματα για ασθενείς που πάσχουν από κάθε είδους ασθένεια, αλλά υπάρχουν επίσης καλά τεκμηριωμένα προβλήματα με τη χρήση αλγορίθμων τεχνητής νοημοσύνης για τη διάγνωση ασθενών. Μελέτες σχετικά με τις επιπτώσεις των αναπτυγμένων μοντέλων AI έχουν βρει έναν αριθμό αξιοσημείωτων περιστατικών που περιλαμβάνουν αλγοριθμική μεροληψία. Αυτά τα περιλαμβάνει αλγόριθμους που δίνουν στις μειονότητες λιγότερες παραπομπές σε καρδιολογικές μονάδες από τους λευκούς ασθενείς, παρόλο που όλα τα αναφερόμενα συμπτώματα ήταν τα ίδια.

Ένας από τους συγγραφείς του η μελέτη, ο καθηγητής Ziad Obermeyer στη Σχολή Δημόσιας Υγείας του Πανεπιστημίου της Καλιφόρνια Μπέρκλεϋ, αποφάσισε να χρησιμοποιήσει την τεχνητή νοημοσύνη για να διερευνήσει τις διαφορές μεταξύ των διαγνώσεων ακτινογραφιών από ακτινολόγους και της ποσότητας του πόνου που ανέφεραν οι ασθενείς. Παρόλο που οι μαύροι ασθενείς και οι ασθενείς με χαμηλό εισόδημα ανέφεραν υψηλότερα επίπεδα πόνου, οι ερμηνείες τους με ακτίνες Χ βαθμολογήθηκαν ίδια με τον γενικό πληθυσμό. Τα δεδομένα για τα αναφερόμενα επίπεδα πόνου προήλθαν από το NIH και οι ερευνητές ήθελαν να διερευνήσουν εάν οι άνθρωποι γιατροί έλειπαν κάτι στην ανάλυσή τους για τα δεδομένα.

Όπως αναφέρει το Wired, προκειμένου να εντοπιστούν οι πιθανές αιτίες αυτών των διαφορών, ο Obermeyer και άλλοι ερευνητές κατασκεύασαν ένα μοντέλο υπολογιστικής όρασης εκπαιδευμένο σε δεδομένα από το NIH. Οι αλγόριθμοι σχεδιάστηκαν για να αναλύουν τις ακτίνες Χ και να προβλέψουν τα επίπεδα πόνου του ασθενούς με βάση τις εικόνες. Το λογισμικό κατάφερε να βρει μοτίβα μέσα στις εικόνες που αποδείχθηκε ότι συσχετίζονται σε μεγάλο βαθμό με τα επίπεδα πόνου ενός ασθενούς.

Όταν ο αλγόριθμος παρουσιάζεται με μια αόρατη εικόνα, το μοντέλο επιστρέφει προβλέψεις για το επίπεδο του αναφερόμενου πόνου ενός ασθενούς. Οι προβλέψεις που επιστράφηκαν από το μοντέλο ευθυγραμμίστηκαν πιο στενά με τα πραγματικά αναφερόμενα επίπεδα πόνου των ασθενών από ό,τι οι βαθμολογίες που έδωσαν οι ακτινολόγοι. Αυτό ίσχυε ιδιαίτερα για τους μαύρους ασθενείς. Ο Obermeyer εξήγησε μέσω του Wired ότι ο αλγόριθμος όρασης υπολογιστή ήταν σε θέση να ανιχνεύσει φαινόμενα που συνδέονταν συχνότερα με τον πόνο σε μαύρους ασθενείς.

Σωστά Συστήματα Εκπαίδευσης

Σύμφωνα με πληροφορίες, τα κριτήρια που χρησιμοποιήθηκαν για την αξιολόγηση των ακτίνων Χ αναπτύχθηκαν αρχικά με βάση τα αποτελέσματα μιας μικρής μελέτης που πραγματοποιήθηκε στη βόρεια Αγγλία το 1957. Ο αρχικός πληθυσμός που χρησιμοποιήθηκε για την ανάπτυξη κριτηρίων αξιολόγησης της οστεοαρθρίτιδας ήταν πολύ διαφορετικός από τον πολύ διαφορετικό πληθυσμό των σύγχρονων Ηνωμένων Πολιτειών πολιτειών, επομένως δεν προκαλεί έκπληξη το γεγονός ότι γίνονται λάθη κατά τη διάγνωση αυτών των διαφορετικών ανθρώπων.

Η νέα μελέτη δείχνει ότι όταν οι αλγόριθμοι τεχνητής νοημοσύνης εκπαιδεύονται σωστά, μπορούν να μειώσουν την προκατάληψη. Η εκπαίδευση βασίστηκε στην ανατροφοδότηση των ίδιων των ασθενών αντί σε γνώμες ειδικών. Obermeyer και συνεργάτες αποδείχθηκε προηγουμένως ότι ένας ευρέως χρησιμοποιούμενος αλγόριθμος τεχνητής νοημοσύνης έδωσε προτίμηση στους λευκούς ασθενείς έναντι των μαύρων ασθενών, αλλά ο Obermeyer έδειξε επίσης ότι η εκπαίδευση ενός συστήματος μηχανικής μάθησης στα σωστά δεδομένα μπορεί να βοηθήσει στην αποφυγή μεροληψίας.

Μια αξιοσημείωτη προειδοποίηση στη μελέτη είναι γνωστή σε πολλούς ερευνητές μηχανικής μάθησης. Το μοντέλο τεχνητής νοημοσύνης που αναπτύχθηκε από την ερευνητική ομάδα είναι ένα μαύρο κουτί και η ίδια η ομάδα των ερευνητών δεν είναι βέβαιη τι είδους χαρακτηριστικά εντοπίζει ο αλγόριθμος στις ακτίνες Χ, πράγμα που σημαίνει ότι δεν μπορούν να πουν στους γιατρούς ποια χαρακτηριστικά τους λείπουν .

Άλλοι ακτινολόγοι και ερευνητές στοχεύουν να σκάψουν στο μαύρο κουτί και να αποκαλύψουν τα μοτίβα μέσα σε αυτά, ελπίζουμε να βοηθήσουν τους γιατρούς να καταλάβουν τι τους λείπει. Η ακτινολόγος και καθηγήτρια στο Πανεπιστήμιο Emory, Judy Gichoya, συλλέγει ένα πιο εκτεταμένο και ποικίλο σύνολο ακτίνων Χ για να εκπαιδεύσει το μοντέλο AI. Ο Gichoya θα ζητήσει από τους ακτινολόγους να δημιουργήσουν λεπτομερείς σημειώσεις για αυτές τις ακτίνες Χ. Αυτές οι σημειώσεις θα συγκριθούν με την έξοδο του μοντέλου για να δούμε εάν τα μοτίβα που ανιχνεύονται από τον αλγόριθμο μπορούν να αποκαλυφθούν.