L’AI può essere amica o nemica nel migliorare l’equità sanitaria. Ecco come assicurarsi che aiuti, non danneggi

Le disuguaglianze e le disparità nell’assistenza sanitaria sono diffuse attraverso le divisioni socioeconomiche, razziali e di genere. Come società, abbiamo una responsabilità morale, etica ed economica di colmare queste lacune e garantire un accesso costante, equo e accessibile all’assistenza sanitaria per tutti.

L’Intelligenza Artificiale (AI) aiuta a risolvere queste disparità, ma è anche una spada a doppio taglio. Certamente, l’AI sta già aiutando a razionalizzare la consegna dell’assistenza, a consentire la medicina personalizzata su larga scala e a sostenere scoperte innovative. Tuttavia, i pregiudizi intrinseci nei dati, negli algoritmi e negli utenti potrebbero peggiorare il problema se non siamo cauti.

Ciò significa che noi, che sviluppiamo e distribuiamo soluzioni di assistenza sanitaria basate sull’AI, dobbiamo essere cauti per evitare che l’AI inavvertitamente allarghi le lacune esistenti, e che gli organismi di controllo e le associazioni professionali debbano svolgere un ruolo attivo nell’istituire garanzie per evitare o mitigare i pregiudizi.

Ecco come l’utilizzo dell’AI può colmare le lacune di disuguaglianza invece di allargarle.

Conseguire l’equità nei trial clinici

Molti nuovi trial di farmaci e trattamenti sono stati storicamente distorti nel loro design, sia intenzionalmente che no. Ad esempio, non è stato fino al 1993 che le donne sono state obbligate per legge a essere incluse nella ricerca clinica finanziata dal NIH. Più di recente, i vaccini COVID non sono stati intenzionalmente testati su donne in gravidanza — è stato solo perché alcuni partecipanti ai trial erano inconsapevolmente in gravidanza al momento della vaccinazione che abbiamo saputo che era sicuro.

Una sfida con la ricerca è che non sappiamo cosa non sappiamo. Tuttavia, l’AI aiuta a scoprire set di dati distorti analizzando i dati di popolazione e segnalando rappresentazioni sproporzionate o lacune nella copertura demografica. Assicurandosi una rappresentanza diversificata e formando modelli di AI con dati che rappresentano accuratamente le popolazioni target, l’AI aiuta a garantire l’inclusività, ridurre i danni e ottimizzare i risultati.

Garantire trattamenti equi

È stabilito che le madri nere che sperimentano dolore e complicazioni durante il parto sono spesso ignorate, risultando in un tasso di mortalità materna 3 volte superiore per le donne nere rispetto alle donne bianche non ispaniche indipendentemente dal reddito o dall’istruzione. Il problema è in gran parte perpetuato da pregiudizi intrinseci: c’è una concezione diffusa tra i professionisti medici che le persone nere hanno una maggiore tolleranza al dolore rispetto alle persone bianche.

I pregiudizi negli algoritmi di AI possono peggiorare il problema: i ricercatori di Harvard hanno scoperto che un algoritmo comune prevedeva che le donne nere e ispaniche avessero meno probabilità di avere un parto vaginale dopo una cesarea (VBAC), il che potrebbe aver portato i medici a eseguire più cesaree su donne di colore. Tuttavia, i ricercatori hanno trovato che “l’associazione non è sostenuta dalla plausibilità biologica”, suggerendo che la razza è “un proxy per altre variabili che riflettono l’effetto del razzismo sulla salute”. L’algoritmo è stato successivamente aggiornato per escludere la razza o l’etnia quando si calcola il rischio.

Questo è un’applicazione perfetta per l’AI per estirpare i pregiudizi impliciti e suggerire (con prove) percorsi di cura che potrebbero essere stati precedentemente trascurati. Invece di continuare a praticare la “cura standard”, possiamo utilizzare l’AI per determinare se queste migliori pratiche si basano sull’esperienza di tutte le donne o solo delle donne bianche. L’AI aiuta a garantire che le nostre basi di dati includano i pazienti che hanno più da guadagnare dai progressi nell’assistenza sanitaria e nella tecnologia.

Anche se potrebbero esserci condizioni in cui la razza e l’etnia potrebbero essere fattori importanti, dobbiamo essere cauti nel sapere come e quando dovrebbero essere considerate e quando stiamo semplicemente facendo affidamento su pregiudizi storici per informare le nostre percezioni e gli algoritmi di AI.

Fornire strategie di prevenzione equi

Le soluzioni di AI possono facilmente trascurare determinate condizioni nelle comunità emarginate senza una attenta considerazione dei potenziali pregiudizi. Ad esempio, l’Amministrazione dei Veterani sta lavorando su più algoritmi per prevedere e rilevare segni di malattie cardiache e attacchi di cuore. Ciò ha un enorme potenziale di salvare vite, ma la maggior parte degli studi non ha storicamente incluso molte donne, per le quali le malattie cardiache sono la principale causa di morte. Pertanto, non è noto se questi modelli siano altrettanto efficaci per le donne, che spesso presentano sintomi molto diversi rispetto agli uomini.

Includere un numero proporzionato di donne in questo set di dati potrebbe aiutare a prevenire alcune delle 3,2 milioni di attacchi di cuore e mezzo milione di decessi cardiaci annuali nelle donne attraverso la rilevazione e l’intervento precoci. Allo stesso modo, nuovi strumenti di AI stanno rimuovendo gli algoritmi basati sulla razza nella valutazione della malattia renale, che storicamente hanno escluso i neri, gli ispanici e i nativi americani, risultando in ritardi di cura e cattivi esiti clinici.

Invece di escludere gli individui emarginati, l’AI può effettivamente aiutare a prevedere i rischi sanitari per le popolazioni sottoservite e abilitare valutazioni personalizzate dei rischi per bersagliare meglio gli interventi. I dati potrebbero già essere lì; si tratta semplicemente di “regolare” i modelli per determinare come la razza, il genere e altri fattori demografici influenzano i risultati — se lo fanno.

Snellire le attività amministrative

Oltre a influenzare direttamente i risultati dei pazienti, l’AI ha un incredibile potenziale per accelerare i flussi di lavoro dietro le quinte per ridurre le disparità. Ad esempio, le aziende e i fornitori stanno già utilizzando l’AI per colmare le lacune nella codifica delle richieste e nell’addebito, validare i codici di diagnosi contro le note dei medici e automatizzare i processi di pre-autorizzazione per procedure diagnostiche comuni.

Snellendo queste funzioni, possiamo drasticamente ridurre i costi operativi, aiutare gli uffici dei fornitori a funzionare in modo più efficiente e dare allo staff più tempo per trascorrere con i pazienti, rendendo così l’assistenza esponenzialmente più accessibile e conveniente.

Ognuno di noi ha un ruolo importante da svolgere

Il fatto che abbiamo questi strumenti incredibili a nostra disposizione rende ancora più imperativo che li utilizziamo per estirpare e superare i pregiudizi nell’assistenza sanitaria. Purtroppo, non esiste un organismo di certificazione negli Stati Uniti che regoli gli sforzi per utilizzare l’AI per “sbiasimare” la consegna dell’assistenza sanitaria, e anche per quelle organizzazioni che hanno stabilito linee guida, non esiste un incentivo regolatorio per conformarsi ad esse.

Pertanto, il peso è su di noi come praticanti di AI, scienziati dei dati, creatori di algoritmi e utenti per sviluppare una strategia consapevole per garantire l’inclusività, la diversità dei dati e l’uso equo di questi strumenti e informazioni.

Per farlo, l’integrazione e l’interoperabilità accurate sono essenziali. Con così tante fonti di dati — dai dispositivi indossabili e dai fornitori di laboratorio e di imaging di terze parti ai fornitori di assistenza primaria, agli scambi di informazioni sanitarie e ai registri ospedalieri — dobbiamo integrare tutti questi dati in modo che le informazioni chiave siano incluse, indipendentemente dalla formattazione della nostra fonte. L’industria necessita di normalizzazione dei dati, standardizzazione e corrispondenza dell’identità per essere sicuri che i dati essenziali dei pazienti siano inclusi, anche con ortografie dei nomi e convenzioni di denominazione diverse basate su culture e lingue diverse.

Dobbiamo anche costruire valutazioni della diversità nel nostro processo di sviluppo di AI e monitorare la “deriva” nelle nostre metriche nel tempo. I praticanti di AI hanno la responsabilità di testare le prestazioni del modello attraverso sottogruppi demografici, condurre audit dei pregiudizi e capire come il modello prende le decisioni. Potremmo dover andare oltre le ipotesi basate sulla razza per assicurarci che la nostra analisi rappresenti la popolazione per cui stiamo costruendola. Ad esempio, i membri della tribù indiana Pima che vivono nella Riserva del fiume Gila in Arizona hanno tassi estremamente alti di obesità e diabete di tipo 2, mentre i membri della stessa tribù che vivono appena oltre il confine nelle montagne di Sierra Madre in Messico hanno tassi di obesità e diabete drasticamente più bassi, dimostrando che la genetica non è l’unico fattore.

Infine, abbiamo bisogno che organizzazioni come l’American Medical Association, l’Office of the National Coordinator for Health Information Technology e organizzazioni specializzate come l’American College of Obstetrics and Gynecology, American Academy of Pediatrics, American College of Cardiology e molte altre lavorino insieme per stabilire standard e quadri per lo scambio di dati e l’acutezza per guardare contro i pregiudizi.

Standardizzando la condivisione dei dati sanitari e ampliando HTI-1 e HTI-2 per richiedere ai sviluppatori di lavorare con gli organismi di accreditamento, aiutiamo a garantire la conformità e a correggere gli errori di disuguaglianza passati. Inoltre, democratizzando l’accesso ai dati dei pazienti completi e accurati, possiamo rimuovere le lenti che hanno perpetuato i pregiudizi e utilizzare l’AI per risolvere le disparità nell’assistenza sanitaria attraverso informazioni più complete e obiettive.