Αλγόριθμος Μπορεί να Αντιμετωπίσει τις Ρατσιστικές Προκαταλήψεις στην Περίθαλψη Υγείας εάν Εκπαιδευτεί Σωστά

Μια ομάδα ερευνητών από το Πανεπιστήμιο του Στάνφορντ, το Πανεπιστήμιο Χάρβαρντ και το Πανεπιστήμιο του Σικάγου εκπαίδευσαν αλγόριθμους για να διαγνώσουν την αρθρίτιδα σε ακτینες Χ των γονάτων. Αποτελέσματα έδειξαν ότι όταν οι αναφορές των ασθενών χρησιμοποιούνται ως δεδομένα εκπαίδευσης για τον αλγόριθμο, ο αλγόριθμος ήταν πιο ακριβής από τους ακτινολόγους κατά την ανάλυση των αρχείων των μαύρων ασθενών.

Το Πρόβλημα της Προκατάληψης των Αλγορίθμων

Η χρήση αλγορίθμων μάθησης με τη βοήθεια μηχανής στο ιατρικό πεδίο μπορεί να βελτιώσει τους αποτελέσματα για τους ασθενείς που πάσχουν από όλων των ειδών τις ασθένειες, αλλά υπάρχουν επίσης καλά τεκμηριωμένα προβλήματα με τη χρήση αλγορίθμων τεχνητής νοημοσύνης για τη διάγνωση των ασθενών. Μελέτες σχετικά με τις επιπτώσεις των αλγορίθμων που έχουν αναπτυχθεί έχουν βρει eine σειρά από αξιοσημείωτα περιστατικά που αφορούν προκαταλήψεις των αλγορίθμων. Αυτά περιλαμβάνουν αλγόριθμους που δίνουν στους μειονοτικούς πληθυσμούς λιγότερες παραπομπές σε μονάδες καρδιολογίας από τους λευκούς ασθενείς, ακόμη και αν όλα τα συμπτώματα που αναφέρθηκαν ήταν τα ίδια.

Ένας από τους συγγραφείς της μελέτης, ο καθηγητής Ziad Obermeyer στο Σχολείο Δημόσιας Υγείας του Πανεπιστημίου της Καλιφόρνιας Μπέρκλεϊ, αποφάσισε να χρησιμοποιήσει τη τεχνητή νοημοσύνη για να διερευνήσει τις ανισότητες μεταξύ των διαγνώσεων των ακτίνων Χ από τους ακτινολόγους και του ποσοστού πόνου που ανέφεραν οι ασθενείς. Αν και οι μαύροι ασθενείς και οι ασθενείς χαμηλού εισοδήματος ανέφεραν υψηλότερα επίπεδα πόνου, οι ερμηνείες των ακτίνων Χ τους βαθμολογήθηκαν το ίδιο με τον γενικό πληθυσμό. Τα δεδομένα για τα αναφερόμενα επίπεδα πόνου προέρχονταν από το NIH, και οι ερευνητές ήθελαν να διερευνήσουν αν οι ανθρώπινοι γιατροί έχαναν κάτι στην ανάλυση των δεδομένων.

Όπως αναφέρθηκε από το Wired, για να αναγνωρίσουν τις πιθανές αιτίες αυτών των διαφορών, ο Obermeyer και άλλοι ερευνητές σχεδίασαν ένα μοντέλο υπολογιστικής όρασης που εκπαιδεύτηκε σε δεδομένα από το NIH. Οι αλγόριθμοι σχεδιάστηκαν για να αναλύσουν τις ακτίνες Χ και να προβλέψουν τα επίπεδα πόνου ενός ασθενή με βάση τις εικόνες. Το λογισμικό κατάφερε να βρει μοτίβα μέσα στις εικόνες που αποδείχθηκαν υψηλά συσχετισμένα με τα επίπεδα πόνου του ασθενή.

Όταν ο αλγόριθμος παρουσιάζεται με μια μη προηγουμένως αντικειμενική εικόνα, το μοντέλο επιστρέφει προβλέψεις για το επίπεδο του αναφερόμενου πόνου του ασθενή. Οι προβλέψεις που επέστρεψε το μοντέλο συσχετίστηκαν πιο στενά με τα πραγματικά αναφερόμενα επίπεδα πόνου των ασθενών από τις βαθμολογίες που ανατέθηκαν από τους ακτινολόγους. Αυτό ήταν ιδιαίτερα αληθινό για τους μαύρους ασθενείς. Ο Obermeyer εξήγησε μέσω του Wired ότι ο αλγόριθμος υπολογιστικής όρασης μπόρεσε να ανιχνεύσει φαινόμενα που συνδέονταν πιο συχνά με πόνους σε μαύρους ασθενείς.

Η Σωστή Εκπαίδευση των Συστημάτων

Όπως αναφέρθηκε, τα κριτήρια που χρησιμοποιούνται για την αξιολόγηση των ακτίνων Χ αναπτύχθηκαν αρχικά με βάση τα αποτελέσματα μιας μικρής μελέτης που διεξήχθη στη βόρεια Αγγλία το 1957. Ο αρχικός πληθυσμός που χρησιμοποιήθηκε για την ανάπτυξη των κριτηρίων αξιολόγησης της οστεοαρθρίτιδας ήταν πολύ διαφορετικός από τον πολύ διαφορετικό πληθυσμό των σύγχρονων Ηνωμένων Πολιτειών,所以 δεν είναι έκπληξη ότι υπάρχουν λάθη όταν διαγιγνώσκονται αυτοί οι διαφοροποιημένοι άνθρωποι.

Η νέα μελέτη δείχνει ότι όταν οι αλγόριθμοι της τεχνητής νοημοσύνης εκπαιδεύονται σωστά, μπορούν να μειώσουν τις προκαταλήψεις. Η εκπαίδευση βασίστηκε στις ανατροφοδοτήσεις των ασθενών euxαυτών αντί για τις γνώμες των εμπειρογνωμόνων. Ο Obermeyer και οι συνεργάτες του έδειξαν προηγουμένως ότι ένας κοινός αλγόριθμος της τεχνητής νοημοσύνης έδινε προτίμηση στους λευκούς ασθενείς έναντι των μαύρων ασθενών, αλλά ο Obermeyer έδειξε επίσης ότι η εκπαίδευση ενός συστήματος μάθησης με τη βοήθεια μηχανής στα σωστά δεδομένα μπορεί να βοηθήσει στην πρόληψη των προκαταλήψεων.

Μια αξιοσημείωτη παρατήρηση της μελέτης είναι μια οικεία στους περισσότερους ερευνητές της μάθησης με τη βοήθεια μηχανής. Το μοντέλο της τεχνητής νοημοσύνης που αναπτύχθηκε από την ομάδα ερευνών είναι ένα μαύρο κουτί, και η ομάδα των ερευνητών euxαυτών δεν ξέρουν ποια είδη χαρακτηριστικών ο αλγόριθμος ανιχνεύει στις ακτίνες Χ, που σημαίνει ότι δεν μπορούν να πούν στους γιατρούς ποια χαρακτηριστικά λείπουν.

Άλλοι ακτινολόγοι και ερευνητές στοχεύουν να διεισδύσουν στο μαύρο κουτί και να ανακαλύψουν τα μοτίβα μέσα σε αυτά, ελπίζοντας να βοηθήσουν τους γιατρούς να κατανοήσουν τι λείπει. Ο ακτινολόγος και καθηγητής στο Πανεπιστήμιο Emory, Judy Gichoya, συλλέγει ένα πιο εκτενές και ποικιλόμορφο σύνολο ακτίνων Χ για να εκπαιδεύσει το μοντέλο της τεχνητής νοημοσύνης. Ο Gichoya θα έχει τους ακτινολόγους να δημιουργούν λεπτομερείς σημειώσεις σε αυτές τις ακτίνες Χ. Αυτές οι σημειώσεις θα συγκριθούν με την έξοδο του μοντέλου για να δουν αν τα μοτίβα που ανιχνεύονται από τον αλγόριθμο μπορούν να ανακαλυφθούν.