Algoritmul ar putea aborda prejudecățile rasiale în asistența medicală dacă este instruit corespunzător

O echipă de cercetători de la Universitatea Stanford, Universitatea Harvard și Universitatea din Chicago a antrenat algoritmi pentru a diagnostica artrita prin raze X ale genunchilor. Se pare că atunci când rapoartele pacienților sunt folosite ca date de antrenament pentru algoritm, algoritmul a fost mai precis decât radiologii atunci când au analizat înregistrările pacienților de culoare.

Problema părtinirii algoritmice

Utilizarea algoritmilor de învățare automată în domeniul medical poate îmbunătăți rezultatele pentru pacienții care suferă de toate tipurile de boli, dar există și probleme bine documentate cu utilizarea algoritmilor AI pentru a diagnostica pacienții. Studiile asupra impactului modelelor AI implementate au descoperit o serie de incidente notabile care implică prejudecăți algoritmice. Aceste include algoritmi care oferă minorităților mai puține trimiteri către unitățile de cardiologie decât pacienții albi, chiar dacă toate simptomele raportate au fost aceleași.

Unul dintre autorii studiul, profesorul Ziad Obermeyer de la Școala de Sănătate Publică a Universității din California Berkeley, a decis să folosească AI pentru a investiga diferențele dintre diagnosticele cu raze X de către radiologi și cantitatea de durere raportată de pacienți. Deși pacienții de culoare și pacienții cu venituri mici au raportat niveluri mai ridicate de durere, interpretările lor cu raze X au fost la fel ca și populația generală. Datele despre nivelurile raportate de durere au venit de la NIH, iar cercetătorii au vrut să investigheze dacă medicii umani lipseau ceva din analiza datelor.

După cum a raportat Wired, pentru a identifica cauzele potențiale ale acestor diferențe, Obermeyer și alți cercetători au conceput un model de viziune computerizată instruit pe date de la NIH. Algoritmii au fost proiectați pentru a analiza razele X și pentru a prezice nivelul durerii unui pacient pe baza imaginilor. Software-ul a reușit să găsească modele în imagini care s-au dovedit foarte corelate cu nivelurile de durere ale pacientului.

Când algoritmul este prezentat cu o imagine nevăzută, modelul returnează predicții pentru nivelul de durere raportat al pacientului. Predicțiile returnate de model s-au aliniat mai strâns cu nivelurile reale de durere raportate ale pacienților decât cu scorurile atribuite de radiologi. Acest lucru a fost valabil mai ales pentru pacienții de culoare. Obermeyer a explicat prin intermediul Wired că algoritmul de viziune computerizată a fost capabil să detecteze fenomene care au fost mai frecvent legate de durerea la pacienții de culoare.

Sisteme de instruire adecvate

Potrivit relatărilor, criteriile utilizate pentru evaluarea razelor X au fost dezvoltate inițial pe baza rezultatelor unui mic studiu efectuat în nordul Angliei în 1957. Populația inițială folosită pentru a dezvolta criteriile de evaluare a osteoartritei a fost mult diferită de populația foarte diversă din Statele Unite moderne. Statelor Unite, așa că nu este de mirare că există greșeli făcute atunci când diagnosticați acești oameni diverși.

Noul studiu demonstrează că, atunci când algoritmii AI sunt antrenați corespunzător, pot reduce părtinirea. Formarea sa bazat pe feedback-ul pacienților înșiși, nu pe opiniile experților. Obermeyer și colegii demonstrat anterior că un algoritm AI folosit în mod obișnuit a dat prioritate pacienților albi față de cei negri, dar Obermeyer a arătat, de asemenea, că antrenarea unui sistem de învățare automată pe datele potrivite poate ajuta la prevenirea părtinirii.

Un avertisment notabil pentru studiu este unul familiar pentru mulți cercetători în învățarea automată. Modelul AI dezvoltat de echipa de cercetare este o cutie neagră, iar echipa de cercetători nu este sigură ce fel de caracteristici detectează algoritmul în raze X, ceea ce înseamnă că nu le pot spune medicilor ce caracteristici le lipsesc. .

Alți radiologi și cercetători urmăresc să sape în cutia neagră și să descopere tiparele din interiorul lor, ajutând, sperăm, medicii să înțeleagă ce le lipsesc. Radiolog și profesor la Universitatea Emory, Judy Gichoya, colectează un set mai extins și mai variat de raze X pentru a antrena modelul AI. Gichoya va cere radiologilor să creeze note detaliate despre aceste raze X. Aceste note vor fi comparate cu rezultatul modelului pentru a vedea dacă modelele detectate de algoritm pot fi descoperite.