Sănătate
Venele retiniene dezvăluie rasa, lărgind sfera de aplicare a prejudecății rasiale a IA
Inspirat de revelațiile recente că imagistica medicală IA poate dezvălui rasa, un consorțiu de cercetare din SUA și Regatul Unit a efectuat un studiu pentru a determina dacă modelele de vene retiniene sunt indicative pentru rasa și a concluzionat că acest lucru este, într-adevăr, cazul, putând IA să prezică rasa raportată de părinți la sugari din imagini retiniene – imagini care nu ar dezvălui identitatea rasială unui medic care le studiază și care se credea anterior că nu conțin niciun potențial de divulgare rasială.
Grupul și-a exprimat îngrijorarea că acest vector suplimentar de stratificare rasială în imagistica medicală deschide posibilitatea unei creșteri a prejudecății în utilizarea sistemelor de inteligență artificială în sănătate.
Imagini retiniene de la un subiect negru și unul alb. Mai sus, o imagine retiniană complet colorată din fiecare rasă are deja caracteristici distinctive ale rasei legate de dispoziția culorilor. Mai jos, hărțile vasculare retiniene derivate din aceste imagini, care ar trebui să ‘niveleze’ aceste repere rasiale, conțin, de fapt, caracteristici care identifică rasa, conform noului raport. Source: https://arxiv.org/ftp/arxiv/papers/2109/2109.13845.pdf
Autorii notează, de asemenea, posibilitatea ca U-Net, cadrul de învățare automată care a definit acest sector al sănătății bazate pe IA, și care a fost antrenat pe subiecți predominant albi*, să aibă o influență asupra acestui fenomen observat. Cu toate acestea, autorii afirmă că, până în prezent, nu pot explica pe deplin aceste constatări pe baza ipotezei U-Net.
Comentând asupra constatărilor la depozitarul asociat GitHub, autorii spun:
‘IA poate detecta rasa din hărți vasculare retiniene în tonuri de gri [Hărți vasculare retiniene] care nu se credea că conțin informații rasiale. Două posibile explicații pentru aceste constatări sunt că vasele retiniene diferă fiziological între sugari negri și albi sau U-Net segmentează vasculatura retiniană diferit pentru diferite pigmentări ale fundului.
‘…În orice caz, implicațiile rămân aceleași: algoritmii IA au potențialul de a demonstra prejudecăți rasiale în practică, chiar și atunci când încercările preliminare de a elimina astfel de informații din imaginile subiacente par a fi reușite.’
Articolul este intitulat Not Color Blind: IA prezice identitatea rasială din segmentări ale vaselor retiniene alb-negru și este o colaborare egală între medici și cercetători de la cinci instituții și departamente de cercetare din SUA și una din Regatul Unit.
Medicii care participă la consorțiul de cercetare includ R.V. Paul Chan, MD, MSc, FACS, certificat în oftalmologie și fellow al Colegiului American al Chirurgilor; Michael F. Chiang, M.D., director al Institutului Național al Ochilor la Institutul Național al Sănătății din Bethesda, Maryland; și J. Peter Campbell M.D., M.P.H., profesor asociat de oftalmologie la Școala de Medicină a Universității de Științe ale Sănătății din Oregon, Portland.
Ochii au cheia
Articolul notează potențialul dovedit anterior pentru prejudecățile umane să se propage în sistemele medicale IA, nu în ultimul rând în studiul ochilor*. Imaginile retiniene complete (RFI, vezi comparația de imagini de mai sus), utilizate în evaluarea bolilor oculare, sunt imagini colorate care conțin suficiente informații de pigmentare pentru a identifica rasa.
Hărțile vasculare retiniene în tonuri de gri (RVM) elimină cea mai mare parte a acestor informații pentru a extrage modelul subiacent de capilare care este probabil să definească multe condiții de boală. S-a presupus întotdeauna că, la acest nivel de distilare, nu rămân caracteristici rasiale în astfel de imagini medicale reduse.
Autorii au testat această presupunere utilizând un set de date de RFI (imagini retiniene complete colorate) obținute de la sugari examinați pentru o boală care poate orbi. Examinarea pentru astfel de imagini, notează autorii, este din ce în ce mai frecventă în afara consultanților personali, în telemedicină și alte contexte de diagnosticare la distanță și este supusă din ce în ce mai mult analizei de învățare automată.
Noul studiu examinează dacă diversele versiuni reduse ale imaginilor complete colorate care identifică rasa conțin informații rasiale, așa cum sunt raportate de părinții sugarilor, și a constatat că, chiar și cele mai distructive distilări ale RFI (prag, scheletizate și binarizate) permit un anumit nivel de identificare rasială.
Date și metodologie
Datele de la 245 de sugari, colectate între ianuarie 2012 și iulie 2020, ca parte a unui studiu multicentric i-ROP, au fost împărțite în seturi de antrenament, validare și testare, pe o bază de 50/20/30, respectiv, cu o distribuție naturală a raselor păstrate cât mai bine posibil, conform datelor sursă.
Imaginile RFI colorate au fost reduse la cele trei stiluri de imagistică redusă menționate anterior, astfel încât ‘reperelor rasiale evidente’ să fi fost, în mod tehnic, eliminate din date.
Au fost antrenate multiple rețele neuronale convoluționale (CNN) pentru a realiza o clasificare binară (‘negru’/’alb’, pe baza rasei raportate de părinți) utilizând PyTorch. CNN-urile au rulat datele pe toate versiunile imaginilor, de la RFI la versiunile scheletizate, aplicând flip-uri și rotații aleatorii, cu imagini derivate având o rezoluție de 224×244 pixeli.
Modelele au fost antrenate cu gradient descendent stocastic timp de până la zece epoci, cu o rată de învățare constantă de 0,001, și s-a implementat oprimarea timpurie și antrenamentul a fost oprit atunci când s-a identificat o convergență percepută după cinci epoci (adică modelul nu avea să devină mai precis cu antrenamentul suplimentar).
Deoarece a existat un dezechilibru demografic natural între subiecții albi și negri, s-a aplicat o compensație pentru a se asigura că sursele minoritare nu au fost sistematic discreditate ca outlieri, iar rezultatele au fost verificate pentru a confirma că nu a avut loc nicio scurgere de date în timpul experimentelor.
[caption id="attachment_177992" align="alignnone" width="1126"]
Rezultate
Hărțile vasculare retiniene (RVM), care extrag venele și capilarele din imaginile RFI complete colorate, nu ar trebui, teoretic, să fie discernabile rasial de un CNN, conform autorilor. Cu toate acestea, rezultatele au arătat că un număr mai mare de artere principale sunt segmentate de U-Net pentru ochii albi decât pentru cei negri.
În remarci de închidere, cercetătorii observă ‘Am constatat că IA a putut prezice cu ușurință rasa sugarilor din segmentări ale vaselor retiniene care nu conțin informații vizibile privind pigmentarea‘, și că ‘chiar și imaginile care păreau lipsite de informații pentru ochiul uman au reținut informații predictive ale rasei sugarului original’. Cercetătorii oferă, de asemenea, posibilitatea ca vasele retiniene ale sugarilor negri versus albi să difere ‘într-un fel pe care IA îl poate aprecia, dar oamenii nu’.
Prioritatea prejudecății?
Autorii sugerează, de asemenea, că discriminarea ar putea fi o funcție a datelor predominant albe pe care U-Net a fost antrenat inițial. Deși descriu acest lucru ca fiind ‘teoria lor principală’, ei admit, de asemenea, că capacitățile senzorilor de captură ar putea fi un factor în fenomen, dacă se dovedește că prejudecata descoperită este o consecință a aspectelor tehnice ale practicilor de imagistică retiniană sau a prejudecății datelor în U-Net, care se perpetuează de-a lungul anilor. Abordând aceste posibilități, articolul conchide:
‘Cu toate acestea, U-Net a fost antrenat pe RFI care au fost convertite mai întâi în imagini în tonuri de gri și supuse unor ajustări de contrast — în special, egalizarea histogramelor cu limitare de contrast (CLAHE) — și, prin urmare, nu a fost niciodată antrenat pe RFI colorate. Prin urmare, suntem încă în incapacitatea de a explica pe deplin aceste constatări pe baza ipotezei U-Net.’
Cu toate acestea, autorii afirmă că cauza este mai puțin alarmantă decât efectul, afirmând că capacitatea algoritmilor IA de a discerne rasa implică un ‘risc de prejudecăție în algoritmii medicali IA care îi utilizează ca intrare’.
Autorii subliniază natura cu contrast ridicat a raselor studiate și postulează că ‘grupurile rasiale intermediare’ ar putea fi mai greu de identificat prin mijloace similare și că acesta este un aspect pe care intenționează să îl studieze în lucrări ulterioare și conexe.
* Toate linkurile de susținere furnizate de articol care sunt incluse în acest articol au fost convertite din linkuri PaperPile cu acces limitat în versiuni online disponibile public, acolo unde a fost posibil.
