Algoritme kan rassevooroordeel in gesondheidsorg aanspreek as dit behoorlik opgelei word

'n Span navorsers van Stanford Universiteit, Harvard Universiteit en die Universiteit van Chicago het algoritmes opgelei om artritis in x-strale van knieë te diagnoseer. Dit blyk dat wanneer pasiënte se verslae as die opleidingsdata vir die algoritme gebruik word, die algoritme meer akkuraat was as radioloë wanneer die rekords van Swart pasiënte ontleed is.

Probleem van Algortimiese vooroordeel

Die gebruik van masjienleeralgoritmes in die mediese veld kan moontlik uitkomste verbeter vir pasiënte wat aan allerhande siektes ly, maar daar is ook goed gedokumenteerde probleme met die gebruik van KI-algoritmes om pasiënte te diagnoseer. Studies oor die impak van ontplooide KI-modelle het 'n aantal noemenswaardige voorvalle gevind wat algoritmiese vooroordeel behels. Hierdie algoritmes insluit wat minderhede minder verwysings na kardiologie-eenhede gee as wit pasiënte, al was alle gerapporteerde simptome dieselfde.

Een van die skrywers van die studeerkamer, professor Ziad Obermeyer aan die Universiteit van Kalifornië Berkeley se Skool vir Openbare Gesondheid, het besluit om KI in diens te neem om verskille tussen diagnoses van X-strale deur radioloë en die hoeveelheid pyn wat die pasiënte gerapporteer het, te ondersoek. Alhoewel swart pasiënte en lae-inkomste pasiënte hoër vlakke van pyn gerapporteer het, is hul X-straal-interpretasies dieselfde as die algemene bevolking behaal. Die data oor die gerapporteerde pynvlakke het van die NIH gekom, en die navorsers wou ondersoek instel of menslike dokters iets ontbreek het in hul ontleding van die data.

Soos berig deur Wired, om die potensiële oorsake van hierdie verskille te identifiseer, het Obermeyer en ander navorsers 'n rekenaarvisiemodel ontwerp wat op data van die NIH opgelei is. Die algoritmes is ontwerp om X-strale te ontleed en 'n pasiënt se pynvlakke te voorspel op grond van die beelde. Die sagteware het daarin geslaag om patrone in die beelde te vind wat hoogs gekorreleer is met 'n pasiënt se pynvlakke.

Wanneer die algoritme met 'n onsigbare beeld aangebied word, gee die model voorspellings vir 'n pasiënt se vlak van gerapporteerde pyn. Die voorspellings wat deur die model teruggestuur is, was nouer in lyn met die werklike gerapporteerde pynvlakke van die pasiënte as die tellings wat deur die radioloë toegeken is. Dit was veral waar vir Swart pasiënte. Obermeyer het via Wired verduidelik dat die rekenaarvisie-algoritme in staat was om verskynsels op te spoor wat meer algemeen met pyn by swart pasiënte verband hou.

Behoorlike opleidingstelsels

Na berig word, is die kriteria wat gebruik is om X-strale te evalueer oorspronklik ontwikkel op grond van die resultate van 'n klein studie wat gedurende 1957 in Noord-Engeland uitgevoer is. Die aanvanklike bevolking wat gebruik is om osteoartritis assesseringskriteria te ontwikkel, was baie anders as die baie diverse bevolking van die moderne Verenigde State. State, so dit is nie verbasend dat daar foute gemaak word wanneer hierdie diverse mense gediagnoseer word nie.

Die nuwe studie toon dat wanneer KI-algoritmes behoorlik opgelei is, hulle vooroordeel kan verminder. Die opleiding was gebaseer op die terugvoer van pasiënte self in plaas van deskundige menings. Obermeyer en kollegas voorheen gedemonstreer dat 'n algemeen gebruikte KI-algoritme voorkeur gegee het aan wit pasiënte bo swart pasiënte, maar Obermeyer het ook gewys dat die opleiding van 'n masjienleerstelsel op die regte data kan help om vooroordeel te voorkom.

'n Opmerklike voorbehoud vir die studie is een wat aan baie masjienleernavorsers bekend is. Die KI-model wat deur die navorsingspan ontwikkel is, is 'n swart boks, en die span navorsers is self nie seker watter soort kenmerke die algoritme in die X-strale bespeur nie, wat beteken dat hulle nie dokters kan vertel watter kenmerke hulle mis nie .

Ander radioloë en navorsers poog om in die swart boks te delf en die patrone binne hulle te ontbloot, en hopelik help dokters om te verstaan ​​wat hulle mis. Radioloog en professor by Emory Universiteit, Judy Gichoya, is besig om 'n meer uitgebreide en gevarieerde stel x-strale in te samel om die KI-model op te lei. Gichoya sal radioloë laat gedetailleerde aantekeninge maak oor hierdie X-strale. Hierdie notas sal vergelyk word met die uitset van die model om te sien of die patrone wat deur die algoritme opgespoor word, ontbloot kan word.