Modelele de inteligență artificială instruite pe date cu bias de sex funcționează mai prost la diagnosticarea bolilor

Recent, un studiu publicat în jurnalul PNAS și condus de cercetători din Argentina, a sugerat că prezența datelor de antrenare cu bias de sex conduce la o performanță mai slabă a modelului la diagnosticarea bolilor și a altor probleme medicale. Conform raportului Statnews, echipa de cercetători a experimentat cu modele de antrenare în care pacienții femei erau subreprezentați sau excluși complet, și a constatat că algoritmul a funcționat substanțial mai prost la diagnosticarea lor. Același lucru s-a aplicat și în cazurile în care pacienții bărbați erau excluși sau subreprezentați.

În ultimul deceniu și jumătate, pe măsură ce modelele de inteligență artificială și învățarea automată au devenit mai ubiquite, s-a acordat mai multă atenție problemelor legate de seturile de date biasate și de modelele de învățare automată biasate care rezultă din ele. Biasul în datele de învățare automată poate conduce la aplicații ale inteligenței artificiale awkwarde, socialmente dăunătoare și exclusive, dar atunci când vine vorba de aplicații medicale, viețile oamenilor pot fi în joc. Cu toate acestea, în ciuda cunoașterii problemei, puține studii au încercat să cuantifice cât de dăunător poate fi biasul în date. Studiul realizat de echipa de cercetare a constatat că biasul în date poate avea efecte mai extreme decât au estimat mulți experți anterior.

Una dintre cele mai populare utilizări ale inteligenței artificiale în ultimii ani, în contexte medicale, a fost utilizarea modelelor de inteligență artificială pentru a diagnostica pacienții pe baza imaginilor medicale. Echipa de cercetare a analizat modele utilizate pentru a detecta prezența unor afecțiuni medicale, cum ar fi pneumonia, cardiomegalia sau herniile, din radiografii. Echipele de cercetare au studiat trei arhitecturi de modele deschise: Inception-v3, ResNet și DenseNet-121. Modelele au fost instruite pe radiografii toracice extrase din două seturi de date deschise provenite de la Universitatea Stanford și Institutul Național de Sănătate. Deși seturile de date în sine sunt destul de echilibrate în ceea ce privește reprezentarea sexului, cercetătorii au creat artificial un bias în date, împărțindu-le în subseturi cu un dezechilibru de sex.

Echipa de cercetare a creat cinci seturi de date de antrenare diferite, fiecare compus din raporturi diferite de scanări de pacienți bărbați și femei. Cele cinci seturi de antrenare au fost împărțite astfel:

• Toate imaginile erau de pacienți bărbați
• Toate imaginile erau de pacienți femei
• 25% pacienți bărbați și 75% pacienți femei
• 75% pacienți femei și 25% pacienți bărbați
• Jumătate pacienți bărbați și jumătate pacienți femei

După ce modelul a fost instruit pe unul dintre subseturi, a fost testat pe o colecție de scanări de la pacienți bărbați și femei. A existat o tendință notabilă care a fost prezentă în diferitele afecțiuni medicale, acuratețea modelelor a fost mult mai slabă atunci când datele de antrenare erau semnificativ biasate din punct de vedere al sexului. Un lucru interesant de remarcat este că, dacă un sex era suprareprezentat în datele de antrenare, acel sex nu părea să beneficieze de suprareprezentare. Indiferent dacă modelul a fost instruit pe date biasate pentru un sex sau altul, nu a funcționat mai bine pe acel sex comparativ cu când a fost instruit pe un set de date incluziv.

Autorul principal al studiului, Enzo Ferrante, a fost citat de Statnews ca explicând că studiul subliniază cât de important este ca datele de antrenare să fie diverse și reprezentative pentru toate populațiile pe care intenționați să le testați modelul.

Nu este complet clar de ce modelele instruite pe un sex tind să funcționeze mai prost atunci când sunt implementate pe alt sex. Unele dintre discrepanțe ar putea fi cauzate de diferențe fiziologice, dar factorii sociali și culturali ar putea să contribuie și la unele dintre diferențe. De exemplu, femeile ar putea primi radiografii la o etapă diferită de progresie a bolii lor comparativ cu bărbații. Dacă acest lucru ar fi adevărat, ar putea afecta caracteristicile (și, prin urmare, modelele învățate de model) găsite în imaginile de antrenare. Dacă acesta este cazul, devine mult mai dificil pentru cercetători să debiasizeze seturile lor de date, deoarece biasul ar fi încorporat în setul de date prin mecanismele de colectare a datelor.

Chiar și cercetătorii care acordă atenție deosebită diversității datelor nu au întotdeauna posibilitatea de a lucra cu date care nu sunt biasate. Situațiile în care există o disparitate în ceea ce privește modul în care sunt diagnosticate bolile medicale vor conduce adesea la date dezechilibrate. De exemplu, datele despre pacienții cu cancer de sân sunt colectate aproape în întregime de la femei. Similar, autismul se manifestă diferit între femei și bărbați, și, ca urmare, afecțiunea este diagnosticată la un nivel mult mai ridicat la băieți decât la fete.

În ciuda acestor fapte, este extrem de important ca cercetătorii să controleze datele biasate și biasul în date în orice mod posibil. În acest scop, studii viitoare vor ajuta cercetătorii să cuantifice impactul datelor biasate.