Αλγόριθμος Μπορεί να Αντιμετωπίσει τον Ρατσιστικό Προσδιορισμό στη Φροντίδα Υγείας αν Εκπαιδευτεί Σωστά

Μια ομάδα ερευνητών από το Πανεπιστήμιο του Στάνφορντ, το Πανεπιστήμιο του Χάρβαρντ και το Πανεπιστήμιο του Σικάγου εκπαίδευσαν αλγόριθμους για να διαγνώσουν την αρθρίτιδα σε ακτίνες Χ των γονάτων. Αποδείχθηκε ότι όταν χρησιμοποιούνται οι αναφορές των ασθενών ως δεδομένα εκπαίδευσης για τον αλγόριθμο, ο αλγόριθμος ήταν πιο ακριβής από τους ραδιολόγους όταν αναλύονταν τα αρχεία των ασθενών μαύρης φυλής.

Πρόβλημα του Αλγοριθμικού Προσδιορισμού

Η χρήση αλγορίθμων μάθησης μηχανής στον ιατρικό τομέα μπορεί να βελτιώσει τους kết quả για τους ασθενείς που πάσχουν από διάφορες ασθένειες, αλλά υπάρχουν επίσης καλά τεκμηριωμένα προβλήματα με τη χρήση αλγορίθμων AI για τη διάγνωση των ασθενών. Μελέτες για τις επιπτώσεις των αλγορίθμων που έχουν αναπτυχθεί έχουν βρει कई αξιοσημείωτα περιστατικά που αφορούν αλγοριθμικό προσδιορισμό. Αυτά περιλαμβάνουν αλγόριθμους που δίνουν λιγότερες παραπομπές σε μονάδες καρδιολογίας σε μειονότητες από ότι σε ασθενείς λευκής φυλής, ακόμη και αν όλα τα αναφερόμενα συμπτώματα ήταν τα ίδια.

Ένας από τους συγγραφείς της μελέτης, ο καθηγητής Ziad Obermeyer στο Σχολείο Δημόσιας Υγείας του Πανεπιστημίου της Καλιφόρνιας Μπέρκλεϊ, αποφάσισε να χρησιμοποιήσει την τεχνητή νοημοσύνη για να διερευνήσει τις ανισότητες μεταξύ των διαγνώσεων των ακτινών Χ από τους ραδιολόγους και του ποσού του πόνου που ανέφεραν οι ασθενείς. Αν και οι ασθενείς μαύρης φυλής και οι ασθενείς χαμηλού εισοδήματος ανέφεραν υψηλότερα επίπεδα πόνου, οι ερμηνείες των ακτινών Χ τους ήταν βαθμολογημένες με τον ίδιο τρόπο με τον γενικό πληθυσμό. Τα δεδομένα για τα αναφερόμενα επίπεδα πόνου προέρχονταν από το NIH, και οι ερευνητές ήθελαν να διερευνήσουν αν οι ανθρώπινοι γιατροί έχαναν κάτι στην ανάλυση των δεδομένων.

Όπως αναφέρθηκε από το Wired, για να αναγνωρίσουν τις πιθανές αιτίες αυτών των διαφορών, ο Obermeyer και άλλοι ερευνητές σχεδίασαν ένα μοντέλο οπτικής ανίχνευσης υπολογιστή που εκπαιδεύτηκε σε δεδομένα από το NIH. Οι αλγόριθμοι σχεδιάστηκαν για να αναλύσουν τις ακτίνες Χ και να προβλέψουν το επίπεδο πόνου του ασθενούς με βάση τις εικόνες. Το λογισμικό κατάφερε να βρει μοτίβα μέσα στις εικόνες που αποδείχθηκαν υψηλά συσχετισμένα με το επίπεδο πόνου του ασθενούς.

Όταν ο αλγόριθμος παρουσιάζεται με μια μη προβλεπόμενη εικόνα, το μοντέλο επιστρέφει προβλέψεις για το επίπεδο πόνου που αναφέρει ο ασθενής. Οι προβλέψεις που επιστρέφονται από το μοντέλο συμφωνούν περισσότερο με τα πραγματικά αναφερόμενα επίπεδα πόνου των ασθενών από ότι οι βαθμολογίες που έχουν ανατεθεί από τους ραδιολόγους. Αυτό ήταν ιδιαίτερα αληθινό για τους ασθενείς μαύρης φυλής. Ο Obermeyer εξήγησε μέσω του Wired ότι ο αλγόριθμος οπτικής ανίχνευσης ήταν σε θέση να ανιχνεύσει φαινόμενα που συνδέονται περισσότερο με τον πόνο σε ασθενείς μαύρης φυλής.

Σωστή Εκπαίδευση Συστημάτων

Κατά αναφορά, τα κριτήρια που χρησιμοποιούνται για την αξιολόγηση των ακτινών Χ αναπτύχθηκαν αρχικά με βάση τα αποτελέσματα μιας μικρής μελέτης που διεξήχθη στο βόρειο τμήμα της Αγγλίας το 1957. Ο αρχικός πληθυσμός που χρησιμοποιήθηκε για την ανάπτυξη των κριτηρίων αξιολόγησης της οστεοαρθρίτιδας ήταν πολύ διαφορετικός από τον πολύ διαφορετικό πληθυσμό των Ηνωμένων Πολιτειών σήμερα, οπότε δεν είναι έκπληξη ότι υπάρχουν λάθη όταν διαγιγνώσκονται αυτοί οι διαφορετικοί άνθρωποι.

Η νέα μελέτη δείχνει ότι όταν οι αλγόριθμοι AI εκπαιδεύονται σωστά, μπορούν να μειώσουν τον προσδιορισμό. Η εκπαίδευση βασίστηκε στις ανατροφοδοτήσεις των ασθενών τους ίδιους και όχι στις γνώμες των εμπειρογνωμόνων. Ο Obermeyer και οι συνεργάτες του έδειξαν προηγουμένως ότι ένας συχνά χρησιμοποιούμενος αλγόριθμος AI έδινε προτίμηση στους ασθενείς λευκής φυλής έναντι των ασθενών μαύρης φυλής, αλλά ο Obermeyer έδειξε επίσης ότι η εκπαίδευση ενός συστήματος μάθησης μηχανής με τα σωστά δεδομένα μπορεί να βοηθήσει στην πρόληψη του προσδιορισμού.

Μια αξιοσημείωτη επιφύλαξη της μελέτης είναι ένα που είναι οικείο σε πολλούς ερευνητές της μάθησης μηχανής. Το μοντέλο AI που αναπτύχθηκε από την ομάδα ερευνών είναι ένα “μαύρο κουτί” και η ομάδα ερευνών δεν είναι βέβαιη για ποια χαρακτηριστικά ο αλγόριθμος ανιχνεύει στις ακτίνες Χ, που σημαίνει ότι δεν μπορούν να πούν στους γιατρούς ποια χαρακτηριστικά λείπουν.

Άλλοι ραδιολόγοι και ερευνητές προσπαθούν να διεισδύσουν στο “μαύρο κουτί” και να ανακαλύψουν τα μοτίβα μέσα σε αυτό, ελπίζοντας να βοηθήσουν τους γιατρούς να κατανοήσουν τι λείπει. Ο ραδιολόγος και καθηγητής στο Πανεπιστήμιο Emory, Judy Gichoya, συλλέγει ένα πιο εκτενές και ποικιλόμορφο σύνολο ακτινών Χ για να εκπαιδεύσει το μοντέλο AI. Η Gichoya θα έχει τους ραδιολόγους να δημιουργούν λεπτομερείς σημειώσεις για αυτές τις ακτίνες Χ. Αυτές οι σημειώσεις θα συγκριθούν με την έξοδο του μοντέλου για να δουν αν τα μοτίβα που ανιχνεύονται από τον αλγόριθμο μπορούν να ανακαλυφθούν.