Un algoritmo potrebbe affrontare i pregiudizi razziali nell’assistenza sanitaria se addestrato correttamente

Un team di ricercatori di Stanford University, Harvard University e della University of Chicago ha addestrato algoritmi per diagnosticare l’artrite nelle radiografie delle ginocchia. Risulta che quando vengono utilizzati i referti dei pazienti come dati di addestramento per l’algoritmo, l’algoritmo è più preciso dei radiologi nell’analizzare le cartelle cliniche dei pazienti neri.

Il problema della bias algortimica

L’utilizzo di algoritmi di apprendimento automatico nel campo medico può potenzialmente migliorare gli esiti per i pazienti affetti da tutte le malattie, ma ci sono anche problemi ben documentati nell’utilizzo di algoritmi di intelligenza artificiale per diagnosticare i pazienti. Gli studi sugli impatti dei modelli di intelligenza artificiale distribuiti hanno rilevato una serie di incidenti notevoli che coinvolgono la bias algortimica. Questi includono algoritmi che forniscono ai minoritari meno rimandi alle unità di cardiologia rispetto ai pazienti bianchi, anche se tutti i sintomi segnalati erano gli stessi.

Uno degli autori dello studio, il professore Ziad Obermeyer della School of Public Health della University of California Berkeley, ha deciso di utilizzare l’intelligenza artificiale per indagare sulle disparità tra le diagnosi delle radiografie dei radiologi e la quantità di dolore segnalato dai pazienti. Sebbene i pazienti neri e i pazienti a basso reddito abbiano segnalato livelli di dolore più alti, le loro interpretazioni delle radiografie sono state valutate allo stesso modo della popolazione generale. I dati sui livelli di dolore segnalati provenivano dal NIH e i ricercatori volevano indagare se i medici umani stavano perdendo qualcosa nella loro analisi dei dati.

Come riportato da Wired, per identificare le cause potenziali di queste differenze, Obermeyer e altri ricercatori hanno progettato un modello di visione computerizzata addestrato sui dati del NIH. Gli algoritmi sono stati progettati per analizzare le radiografie e prevedere i livelli di dolore dei pazienti in base alle immagini. Il software è riuscito a trovare modelli all’interno delle immagini che si sono rivelati altamente correlati con i livelli di dolore dei pazienti.

Quando l’algoritmo viene presentato con un’immagine non vista, il modello restituisce previsioni per il livello di dolore segnalato del paziente. Le previsioni restituite dal modello si allineano più da vicino con i livelli di dolore effettivi segnalati dai pazienti rispetto ai punteggi assegnati dai radiologi. Ciò è particolarmente vero per i pazienti neri. Obermeyer ha spiegato via Wired che l’algoritmo di visione computerizzata è riuscito a rilevare fenomeni che sono più comunemente collegati al dolore nei pazienti neri.

Addestramento corretto dei sistemi

Secondo quanto riferito, i criteri utilizzati per valutare le radiografie sono stati originariamente sviluppati in base ai risultati di uno studio condotto nel nord dell’Inghilterra nel 1957. La popolazione iniziale utilizzata per sviluppare i criteri di valutazione dell’osteoartrite era molto diversa dalla popolazione molto diversificata degli Stati Uniti moderni, quindi non è sorprendente che ci siano errori quando si diagnosticano queste persone diverse.

Lo studio dimostra che quando gli algoritmi di intelligenza artificiale sono addestrati correttamente, possono ridurre la bias. L’addestramento si basava sul feedback dei pazienti stessi invece che sulle opinioni degli esperti. Obermeyer e i suoi colleghi hanno precedentemente dimostrato che un algoritmo di intelligenza artificiale comunemente utilizzato dava la preferenza ai pazienti bianchi rispetto ai pazienti neri, ma Obermeyer ha anche mostrato che l’addestramento di un sistema di apprendimento automatico sui dati giusti può aiutare a prevenire la bias.

Un caveat notevole dello studio è uno familiare a molti ricercatori di apprendimento automatico. Il modello di intelligenza artificiale sviluppato dal team di ricerca è una scatola nera e il team di ricercatori stesso non sa quali caratteristiche l’algoritmo stia rilevando nelle radiografie, il che significa che non possono dire ai medici cosa stanno perdendo.

Altri radiologi e ricercatori stanno cercando di scavare nella scatola nera e scoprire i modelli all’interno, sperando di aiutare i medici a capire cosa stanno perdendo. La radiologa e professoressa dell’Università di Emory, Judy Gichoya, sta raccogliendo un set più ampio e vario di radiografie per addestrare il modello di intelligenza artificiale. Gichoya farà in modo che i radiologi creino note dettagliate su queste radiografie. Queste note saranno confrontate con l’output del modello per vedere se i modelli rilevati dall’algoritmo possono essere scoperti.