Un algoritmo potrebbe affrontare la discriminazione razziale nell’assistenza sanitaria se addestrato correttamente

Un team di ricercatori di Stanford University, Harvard University e University of Chicago ha addestrato algoritmi per diagnosticare l’artrite nelle radiografie delle ginocchia. Risulta che quando vengono utilizzati i referti dei pazienti come dati di addestramento per l’algoritmo, l’algoritmo è più preciso dei radiologi nell’analizzare i referti dei pazienti neri.

Problema della discriminazione algoritmica

L’utilizzo di algoritmi di apprendimento automatico nel campo medico può migliorare i risultati per i pazienti affetti da varie malattie, ma ci sono anche problemi ben documentati legati all’utilizzo di algoritmi di intelligenza artificiale per diagnosticare i pazienti. Gli studi sugli impatti dei modelli di intelligenza artificiale hanno rilevato diversi incidenti notevoli legati alla discriminazione algoritmica. Questi includono algoritmi che forniscono meno referenze alle unità di cardiologia per i pazienti di minoranze rispetto ai pazienti bianchi, anche se tutti i sintomi segnalati erano gli stessi.

Uno degli autori dello studio, il professor Ziad Obermeyer della School of Public Health dell’Università della California a Berkeley, ha deciso di utilizzare l’intelligenza artificiale per indagare sulle disparità tra le diagnosi delle radiografie dei radiologi e il livello di dolore segnalato dai pazienti. Sebbene i pazienti neri e a basso reddito abbiano segnalato livelli di dolore più elevati, le loro interpretazioni delle radiografie sono state valutate allo stesso modo della popolazione generale. I dati sui livelli di dolore segnalati provenivano dal NIH e i ricercatori volevano indagare se i medici umani stavano trascurando qualcosa nella loro analisi dei dati.

Come riportato da Wired, per identificare le cause potenziali di queste differenze, Obermeyer e altri ricercatori hanno progettato un modello di visione artificiale addestrato con dati del NIH. Gli algoritmi sono stati progettati per analizzare le radiografie e prevedere i livelli di dolore dei pazienti in base alle immagini. Il software è riuscito a trovare modelli all’interno delle immagini che si sono rivelati altamente correlati con i livelli di dolore dei pazienti.

Quando l’algoritmo viene presentato con un’immagine non vista, il modello restituisce previsioni per il livello di dolore segnalato dal paziente. Le previsioni restituite dal modello si allineano più da vicino con i livelli di dolore effettivi segnalati dai pazienti rispetto ai punteggi assegnati dai radiologi. Ciò è particolarmente vero per i pazienti neri. Obermeyer ha spiegato tramite Wired che l’algoritmo di visione artificiale è stato in grado di rilevare fenomeni più comunemente collegati al dolore nei pazienti neri.

Addestramento corretto dei sistemi

Secondo quanto riferito, i criteri utilizzati per valutare le radiografie sono stati originariamente sviluppati in base ai risultati di uno studio condotto nel nord dell’Inghilterra nel 1957. La popolazione iniziale utilizzata per sviluppare i criteri di valutazione dell’osteoartrite era molto diversa dalla popolazione molto diversificata degli Stati Uniti moderni, quindi non è sorprendente che ci siano errori di diagnosi quando si tratta di persone diverse.

Lo studio dimostra che quando gli algoritmi di intelligenza artificiale vengono addestrati correttamente, possono ridurre la discriminazione. L’addestramento si basava sul feedback dei pazienti stessi e non sulle opinioni degli esperti. Obermeyer e i suoi colleghi hanno precedentemente dimostrato che un algoritmo di intelligenza artificiale comunemente utilizzato favoriva i pazienti bianchi rispetto ai pazienti neri, ma Obermeyer ha anche mostrato che l’addestramento di un sistema di apprendimento automatico con i dati giusti può aiutare a prevenire la discriminazione.

Una nota importante dello studio è una cosa familiare a molti ricercatori di apprendimento automatico. Il modello di intelligenza artificiale sviluppato dal team di ricerca è una scatola nera e il team di ricercatori non sa quali caratteristiche l’algoritmo stia rilevando nelle radiografie, il che significa che non possono dire ai medici quali caratteristiche stanno trascurando.

Altri radiologi e ricercatori stanno cercando di analizzare la scatola nera e di scoprire i modelli all’interno, sperando di aiutare i medici a capire cosa stanno trascurando. La radiologa e professoressa dell’Università di Emory, Judy Gichoya, sta raccogliendo un set più ampio e vario di radiografie per addestrare il modello di intelligenza artificiale. Gichoya farà in modo che i radiologi creino note dettagliate su queste radiografie. Queste note saranno confrontate con l’output del modello per vedere se i modelli rilevati dall’algoritmo possono essere scoperti.