Algoritmii ar putea aborda prejudecățile rasiale în îngrijirea sănătății, dacă sunt antrenați corespunzător

O echipă de cercetători de la Universitatea Stanford, Universitatea Harvard și Universitatea din Chicago a antrenat algoritmi pentru a diagnostica artrita pe baza radiografiilor genunchilor. S-a dovedit că, atunci când rapoartele pacienților sunt utilizate ca date de antrenament pentru algoritm, acesta a fost mai precis decât radiologii atunci când a analizat înregistrările pacienților afro-americani.

Problema prejudecății algoritmice

Utilizarea algoritmilor de învățare automată în domeniul medical poate îmbunătăți rezultatele pentru pacienții care suferă de diverse boli, dar există și probleme bine documentate legate de utilizarea algoritmilor de inteligență artificială pentru diagnosticarea pacienților. Studii privind impactul modelelor de inteligență artificială implementate au descoperit o serie de incidente notabile care implică prejudecăți algoritmice. Acestea includ algoritmi care oferă minorităților mai puține trimiteri către unitățile de cardiologie decât pacienților albi, chiar dacă toți simptomele raportate au fost aceleași.

Unul dintre autorii studiei, profesorul Ziad Obermeyer de la Școala de Sănătate Publică a Universității California Berkeley, a decis să utilizeze inteligența artificială pentru a investiga disparitățile dintre diagnosticele radiografiei efectuate de radiologi și nivelul de durere raportat de pacienți. Deși pacienții afro-americani și cei cu venituri mici au raportat niveluri mai ridicate de durere, interpretările radiografiei lor au fost evaluate la fel ca și populația generală. Datele privind nivelurile de durere raportate proveneau de la NIH, iar cercetătorii au dorit să investigheze dacă medicii umani au omis ceva în analiza datelor.

Conform Wired, pentru a identifica cauzele potențiale ale acestor diferențe, Obermeyer și alți cercetători au proiectat un model de viziune computațională antrenat pe date de la NIH. Algoritmii au fost concepuți pentru a analiza radiografii și a prezice nivelul de durere al unui pacient pe baza imaginilor. Software-ul a reușit să descopere modele în cadrul imaginilor care s-au dovedit a fi puternic corelate cu nivelul de durere al pacientului.

Atunci când algoritmul este prezentat cu o imagine nevizualizată, modelul returnează predicții pentru nivelul de durere raportat de pacient. Predicțiile returnate de model s-au aliniat mai îndeaproape cu nivelurile reale de durere raportate de pacienți decât scorurile atribuite de radiologi. Acest lucru a fost valabil în special pentru pacienții afro-americani. Obermeyer a explicat prin Wired că algoritmul de viziune computațională a putut detecta fenomene care erau mai frecvent asociate cu durerea la pacienții afro-americani.

Antrenarea corespunzătoare a sistemelor

Conform rapoartelor, criteriile utilizate pentru evaluarea radiografiei au fost inițial dezvoltate pe baza rezultatelor unui studiu mic efectuat în nordul Angliei în 1957. Populația inițială utilizată pentru a dezvolta criteriile de evaluare a osteoartritei a fost mult diferită de populația diversă a Statelor Unite moderne, astfel că nu este surprinzător că există greșeli atunci când se diagnostichează aceste persoane diverse.

Noua studiu demonstrează că, atunci când algoritmii de inteligență artificială sunt antrenați corespunzător, aceștia pot reduce prejudecățile. Antrenamentul s-a bazat pe feedback-ul pacienților înșiși, și nu pe opinii ale experților. Obermeyer și colegii săi au demonstrat anterior că un algoritm de inteligență artificială utilizat în mod obișnuit a acordat prioritate pacienților albi față de cei afro-americani, dar Obermeyer a arătat și că antrenarea unui sistem de învățare automată pe datele corecte poate preveni prejudecățile.

O notă importantă a studiului este una familiară multor cercetători în domeniul învățării automate. Modelul de inteligență artificială dezvoltat de echipa de cercetare este o cutie neagră, iar echipa de cercetare nu știe ce fel de caracteristici detectează algoritmul în radiografii, ceea ce înseamnă că nu pot spune medicilor ce caracteristici le lipsesc.

Alți radiologi și cercetători încearcă să descopere ce se află în cutia neagră și să descopere modelele din aceasta, sperând să ajute medicii să înțeleagă ce le lipsesc. Radiolog și profesor la Universitatea Emory, Judy Gichoya, colectează un set mai vast și mai variat de radiografii pentru a antrena modelul de inteligență artificială. Gichoya va avea radiologi care vor crea note detaliate despre aceste radiografii. Aceste note vor fi comparate cu ieșirile modelului pentru a vedea dacă modelele detectate de algoritm pot fi descoperite.