Το AI μπορεί να είναι φίλος ή εχθρός στην βελτίωση της ισότητας στην υγεία. Πώς να διασφαλίσουμε ότι βοηθά και όχι ότι βλάπτει

Οι ανισότητες και οι διακρίσεις στην υγεία είναι πανταχού παρούσες σε κοινωνικοοικονομικές, φυλετικές και φυλοποιημένες διακρίσεις. Jako κοινωνία, έχουμε ηθική, đạo đứcική και οικονομική ευθύνη να κλείσουμε αυτές τις διακρίσεις και να διασφαλίσουμε συνεπή, δίκαιη και προσιτή πρόσβαση στην υγεία για όλους.

Το Artificial Intelligence (AI) βοηθά να αντιμετωπιστούν αυτές οι διακρίσεις, αλλά είναι επίσης ένα δίκοπο μαχαίρι. Βέβαια, το AI βοηθά ήδη να βελτιώσει την παροχή φροντίδας, να ενεργοποιήσει την ιατρική σε μεγάλη κλίμακα και να υποστηρίξει τις επαναστατικές ανακαλύψεις. Ωστόσο, η εγγενής προκατάληψη στα δεδομένα, τους αλγόριθμους και τους χρήστες μπορεί να χειροτερέψει το πρόβλημα αν δεν είμαστε προσεκτικοί.

Αυτό σημαίνει ότι όσοι αναπτύσσουμε και εφαρμόζουμε λύσεις υγείας που βασίζονται στο AI πρέπει να είμαστε προσεκτικοί για να αποτρέψουμε το AI από το να διευρύνει τις υφιστάμενες διακρίσεις και οι ρυθμιστικές αρχές και οι επαγγελματικές ενώσεις πρέπει να παίξουν ενεργό ρόλο στην καθοδήγηση για την αποφυγή ή την μείωση της προκατάληψης.

Αυτός είναι ο τρόπος με τον οποίο η αξιοποίηση του AI μπορεί να γεφυρώσει τις ανισότητες αντί να τις διευρύνει.

Απευθείας ισότητα στις κλινικές δοκιμές

Πολλές νέες δοκιμές φαρμάκων και θεραπειών έχουν ιστορικά διαμορφωθεί με προκατάληψη, είτε σκόπιμα είτε μη σκόπιμα. Για παράδειγμα, δεν ήταν μέχρι το 1993 που οι γυναίκες έπρεπε να συμμετάσχουν με νόμο στις κλινικές έρευνες που χρηματοδοτούνται από το NIH. Πιο πρόσφατα, τα εμβόλια COVID δεν δοκιμάστηκαν ποτέ σκόπιμα σε έγκυες γυναίκες — ήταν μόνο επειδή κάποιοι συμμετέχοντες στις δοκιμές ήταν άγνοια έγκυοι κατά τη στιγμή της εμβολιασμού που γνωρίζαμε ότι ήταν ασφαλές.

Μια πρόκληση με την έρευνα είναι ότι δεν ξέρουμε τι δεν ξέρουμε. Ωστόσο, το AI βοηθά να ανακαλύψει προκατειλημμένα σύνολα δεδομένων αναλύοντας δεδομένα πληθυσμού και σηματοδοτώντας την αναsymmetric ή τις lacunes στις δημογραφικές κάλυψης. Βεβαιώνοντας την ποικιλόμορφη αντιπροσώπευση και εκπαίδευση των μοντέλων AI με δεδομένα που αντιπροσωπεύουν με ακρίβεια τους στόχους πληθυσμούς, το AI βοηθά να διασφαλίσει την ενσωμάτωση, να μειώσει τον κίνδυνο και να βελτιώσει τα αποτελέσματα.

Διασφάλιση ισότιμων θεραπειών

Είναι καλά καθορισμένο ότι οι μαύρες μητέρες που βιώνουν πόνο και επιπλοκές κατά τη διάρκεια του τοκετού συχνά αγνοούνται, με αποτέλεσμα ένα ποσοστό θνησιμότητας μητέρων 3X υψηλότερο για μαύρες γυναίκες από τις μη-ισπανικές λευκές γυναίκες ανεξάρτητα από το εισόδημα ή την εκπαίδευση. Το πρόβλημα είναι σε μεγάλο βαθμό διευρυμένο από την εγγενή προκατάληψη: υπάρχει μια διαδεδομένη λανθασμένη αντίληψη μεταξύ των ιατρικών επαγγελματιών ότι οι μαύροι άνθρωποι έχουν υψηλότερη αντοχή στον πόνο από τους λευκούς.

Η προκατάληψη στους αλγόριθμους του AI μπορεί να χειροτερέψει το πρόβλημα: ερευνητές του Χάρβαρντ ανακάλυψαν ότι ένας κοινός αλγόριθμος προέβλεψε ότι οι μαύρες και λατίνας γυναίκες ήταν λιγότερο πιθανό να έχουν επιτυχημένες вагινικές γεννήσεις μετά από μια císaρεια (VBAC), το οποίο μπορεί να οδηγήσει τους γιατρούς να thực hiện περισσότερες císaρειες σε γυναίκες χρώματος. Ωστόσο, οι ερευνητές βρήκαν ότι “η συσχέτιση δεν υποστηρίζεται από βιολογική πιθανότητα,” υποδηλώνοντας ότι η φυλή είναι “ένας δείκτης για άλλες μεταβλητές που αντανακλούν την επίδραση ρατσισμού στην υγεία.” Ο αλγόριθμος ενημερώθηκε στη συνέχεια για να εξαιρέσει τη φυλή ή την εθνικότητα όταν υπολογίζει τον κίνδυνο.

Αυτή είναι μια ιδανική εφαρμογή για το AI να απομακρύνει την προκατειλημμένη προκατάληψη και να προτείνει (με στοιχεία) μονοπάτια φροντίδας που μπορεί να είχαν προηγουμένως παραλειφθεί. Αντί να συνεχίσουμε να ασκούμε “τυπική φροντίδα”, μπορούμε να χρησιμοποιήσουμε το AI για να καθορίσουμε αν αυτές οι besten πρακτικές βασίζονται στην εμπειρία όλων των γυναικών ή μόνο των λευκών γυναικών. Το AI βοηθά να διασφαλίσει ότι οι βάσεις δεδομένων μας περιλαμβάνουν τους ασθενείς που έχουν το περισσότερο να κερδίσουν από τις προόδους στην υγεία και την τεχνολογία.

Παροχή ισότιμων στρατηγικών πρόληψης

Οι λύσεις του AI μπορούν εύκολα να παραβλέψουν ορισμένες καταστάσεις στις περιθωριακές κοινότητες χωρίς προσεκτική σκέψη για την πιθανή προκατάληψη. Για παράδειγμα, η Υπηρεσία Βετεράνων εργάζεται σε πολλαπλούς αλγόριθμους για να προβλέψει και να ανιχνεύσει σημάδια καρδιακής νόσου και καρδιακών επεισοδίων. Αυτό έχει τεράστια ζωτική δυνατότητα, αλλά η πλειοψηφία των μελετών ιστορικά δεν περιελάμβανε πολλές γυναίκες, για τις οποίες η καρδιακή νόσος είναι η πρώτη αιτία θανάτου. Συνεπώς, είναι άγνωστο αν αυτά τα μοντέλα είναι τόσο αποτελεσματικά για τις γυναίκες, οι οποίες συχνά παρουσιάζουν πολύ διαφορετικά συμπτώματα από τους άνδρες.

Η συμπερίληψη ενός αναλογικού αριθμού γυναικών σε αυτό το σύνολο δεδομένων θα μπορούσε να βοηθήσει να προληφθούν ορισμένες από τις 3,2 εκατομμύρια καρδιακές προσβολές και μισό εκατομμύριο θανάτους που σχετίζονται με την καρδιά ετησίως στις γυναίκες μέσω της πρώιμης ανίχνευσης και παρέμβασης. Παρόμοια, νέα εργαλεία AI αφαιρούν τους αλγόριθμους που βασίζονται στη φυλή στη διάγνωση της νεφρικής νόσου, οι οποίοι ιστορικά εξαιρούσαν τους μαύρους, ισπανόφωνους και ινδικούς Αμερικανούς, με αποτέλεσμα την καθυστέρηση της φροντίδας και τις κακές κλινικές επιπτώσεις.

Συρρίκνωση των διοικητικών εργασιών

Εκτός από την άμεση επίδραση στα αποτελέσματα των ασθενών, το AI έχει απίστευτο δυναμικό να επιταχύνει τις ροές εργασιών πίσω από τις σκηνές για να μειώσει τις διακρίσεις. Για παράδειγμα, οι εταιρείες και οι πάροχοι ήδη χρησιμοποιούν το AI για να γεμίσουν τα κενά στις αιτήσεις και την κωδικοποίηση, να επικυρώσουν τους κωδικούς διάγνωσης έναντι των σημειώσεων του γιατρού και να αυτοματοποιήσουν τις διαδικασίες προ-εξουσιοδότησης για κοινές διαγνωστικές διαδικασίες.

Ο καθένας έχει ένα σημαντικό ρόλο να παίξει

Το γεγονός ότι έχουμε αυτά τα απίστευτα εργαλεία στη διάθεσή μας κάνει ακόμη πιο απαραίτητο να τα χρησιμοποιήσουμε για να απομακρύνουμε και να υπερβούμε τις προκαταλήψεις στην υγεία. Δυστυχώς, δεν υπάρχει πιστοποιητικό σώμα στις ΗΠΑ που να ρυθμίζει τις προσπάθειες να χρησιμοποιηθεί το AI για να “απενεργοποιήσει” την παροχή υγείας, και ακόμη και για τις οργανώσεις που έχουν θέσει οδηγίες, δεν υπάρχει ρυθμιστική ενθάρρυνση να συμμορφωθούν με αυτές.

Γι’ αυτό, η ευθύνη είναι σε μας ως πρακτικούς του AI, επιστήμονες δεδομένων, δημιουργούς αλγορίθμων και χρήστες να αναπτύξουμε μια συνειδητή στρατηγική για να διασφαλίσουμε την ενσωμάτωση, την ποικιλόμορφη αντιπροσώπευση των δεδομένων και την ισότιμη χρήση αυτών των εργαλείων και των επιblickών.

Για να το κάνουμε αυτό, η ακριβής ολοκλήρωση και η διαλειτουργικότητα είναι απαραίτητες. Με τόσες πολλές πηγές δεδομένων – από φορητές συσκευές και τρίτους παρόχους εργαστηρίων και απεικόνισης μέχρι πρωτοβάθμια φροντίδα, ανταλλαγές πληροφοριών υγείας και εγγραφές νοσοκομείων – πρέπει να ολοκληρώσουμε όλα αυτά τα δεδομένα ώστε να συμπεριλαμβάνονται τα βασικά κομμάτια, ανεξάρτητα από τη μορφοποίηση της πηγής μας. Η βιομηχανία χρειάζεται ομαλοποίηση δεδομένων, τυποποίηση και αντιστοίχηση ταυτοτήτων για να βεβαιωθεί ότι τα απαραίτητα δεδομένα ασθενών περιλαμβάνονται, ακόμη και με διαφορετικές ορθογραφίες ή ονομαστικές συμβάσεις που βασίζονται σε διάφορες κουλτούρες και γλώσσες.

Πρέπει επίσης να χτίσουμε αξιολογήσεις ποικιλότητας στην ανάπτυξη του AI και να παρακολουθούμε για “παρέκκλιση” στα μετρικά μας με την πάροδο του χρόνου. Οι πρακτικοί του AI έχουν την ευθύνη να ελέγξουν την απόδοση του μοντέλου σε δημογραφικές υποομάδες, να διεξάγουν ελέγχους προκατάληψης και να κατανοούν πώς το μοντέλο λαμβάνει αποφάσεις. Μπορεί να πρέπει να πάνε πέρα από τις φυλετικές υποθέσεις για να διασφαλίσουν ότι η ανάλυση μας αντιπροσωπεύει τον πληθυσμό για τον οποίο το χτίζουμε. Για παράδειγμα, τα μέλη της φυλής Pima που ζουν στην εφεδρεία Gila River στην Αριζόνα έχουν εξαιρετικά υψηλά ποσοστά παχυσαρκίας και διαβήτη τύπου 2, ενώ τα μέλη της ίδιας φυλής που ζουν ακριβώς过 την συνοριακή Sierra Madre του Μεξικού έχουν δραματικά χαμηλότερα ποσοστά παχυσαρκίας και διαβήτη, αποδεικνύοντας ότι η γενετική δεν είναι ο único παράγοντας.

Τέλος, χρειαζόμαστε οργανισμούς όπως η Αμερικανική Ιατρική Εταιρεία, το Γραφείο του Εθνικού Συντονιστή για την Τεχνολογία Πληροφοριών Υγείας, και ειδικές οργανώσεις όπως η Αμερικανική Κολλεγιακή Εταιρεία Μαιευτικής και Γυναικολογίας, Αμερικανική Ακαδημία Παιδιατρικής, Αμερικανικό Κολλεγίου Καρδιολογίας και πολλές άλλες να συνεργαστούν για να καθορίσουν προτύπων και πλαισίων για την ανταλλαγή δεδομένων και την οξύτητα για να προστατεύσουν από την προκατάληψη.

Με τη стандαρδποίηση της ανταλλαγής δεδομένων υγείας και την επέκταση του HTI-1 και HTI-2 για να απαιτήσουν από τους développers να συνεργαστούν με πιστοποιητικές αρχές, βοηθάμε να διασφαλίσουμε την συμμόρφωση και να διορθώσουμε τις προηγούμενες ανισότητες. Επιπλέον, με τη δημοκρατικοποίηση της πρόσβασης σε πλήρη, ακριβή δεδομένα ασθενών, μπορούμε να αφαιρέσουμε τις προκαταλήψεις που έχουν επηρεάσει την υγεία και να χρησιμοποιήσουμε το AI για να λύσουμε τις ανισότητες στην φροντίδα μέσω πιο ολοκληρωμένων, αντικειμενικών επιblickών.