Lekolînwan Amûrek Nû Pêşde Dixin da ku Di Vîzyona Komputerê de Biasê Têkoşîn

Yek ji mijarên dawîn ên ku di qada îstîxbarata sûnî (AI) de derketiye holê ew e ku di dîtina kompîturê de biaqil e. Pir pispor naha di nav pergalên AI-ê de neyartiyê kifş dikin, ku di serîlêdanên cihêreng de, wek bernameyên cezakirina salona dadgehê, dibe sedema encamên nezelal.

Hewldanek mezin heye ku hewl dide ku hin ji van pirsgirêkan rast bike, digel pêşkeftina herî nû ya ku ji Zanîngeha Princeton tê. Lekolînwanên li saziyê amûrek nû çêkirine ku bikaribe di dîmenên ku ji bo perwerdekirina pergalên AI-ê têne bikar anîn de pêşbaziyên potansiyel nîşan bide. 

Ew kar di 24ê Tebaxê de li Konferansa Ewropî ya virtual ya li ser Vîzyona Computerê hate pêşkêş kirin. 

Bias di Pergalên AI-ê de

Yek ji sedemên sereke yên bertengiya ku di pergalên AI-ya heyî de heye ev e ku ew bi gelemperî li ser komên mezin ên wêneyên ku ji çavkaniyên serhêl têne têne perwerde kirin. Van wêneyan dikarin stereotipîkî bin, û gava ku ew ber bi pêşkeftina dîtina komputerê ve diçin, encam dikare bibe modelên bêhemdî bandorkirî. Vîzyona kompîturê ew e ku kompîturan dihêle ku mirov, tişt û kiryaran nas bikin. 

Amûra ku ji hêla lêkolîneran ve hatî pêşve xistin çavkaniyek vekirî ye, û ew dikare bixweber pêşbaziyên potansiyel ên di daneyên daneyên dîtbar de eşkere bike. Berî ku komên wêneyan ji bo perwerdekirina modelên dîtina kompîturê werin bikar anîn, ew bi tevlêbûnê tevdigere, û pirsgirêkên li dora kêm temsîlkirin û stereotip dikarin werin çareser kirin berî ku ew bibin sedema bandorek. 

ŞÛNDEAVÊTIN

Amûra nû jê re REVISE tê gotin, û ew xwe dispêre rêbazên îstatîstîkî da ku di berhevokek daneyê de pêşbîniyên potansiyel nas bike. Ew li ser sê warên bingeh-obje, zayend-based û erdnîgarî-based disekine. 

REVISE bi tevahî otomatîk e û li ser rêbazên berê yên ku di nav wan de fîlterkirin û hevsengkirina wêneyên daneyên daneyê vedihewîne hate ava kirin da ku bikarhêner bikaribe bêtir kontrol bike. 

Amûra nû xwe dispêre şîrovekirin û pîvandinên wêneya heyî da ku naverokê di nav komek daneyê de analîz bike. Hin ji wan annotasyonên heyî ji bo wêneyan hejmartina tiştan û welatên jêderê vedihewînin. 

Di mînakek amûrê de xebitî, REVISE nîşan da ku wêneyên hem mirovan û hem jî kulîlkan li gorî zayendê cûda bûn. Di merasîm û civînan de nêr bêhtir bi kulîlkan xuya dibûn û di tabloyan an senaryoyên senaryoyê de jî mê bi kulîlkan xuya dibûn.

Olga Russaskovsky alîkarê profesorê zanistiya komputerê û lêkolînerê sereke yê Visual AI Lab e. Kaxez bi xwendekara mezûn Angelina Wang û profesorê zanistiya kompîturê, Arvind Narayanan re hevbeş hate nivîsandin.

Piştî ku amûr nakokiyan nas dike, "wê demê pirsek heye gelo ev rastiyek bi tevahî bêguneh e, an tiştek kûrtir diqewime, û ew pir dijwar e ku meriv bixweber bike," Russaskovsky got. 

Herêmên ku kêm têne temsîl kirin an xelet têne destnîşan kirin

Herêmên cûrbecûr li çaraliyê cîhanê di berhevokên daneya dîtina komputerê de kêm têne temsîl kirin, û ev dikare di pergalên AI-ê de rê li ber çavan bigire. Yek ji wan tesbîtan ev bû ku hejmareke mezin a wêneyan ji Dewletên Yekbûyî û welatên Ewropî têne. REVISE her weha eşkere kir ku wêneyên ji deverên din ên cîhanê bi gelemperî sernavên wêneyan bi zimanê herêmî nînin, yanî gelek dikarin ji nêrîna geştyaran a neteweyekê werin. 

"…ev analîza erdnîgariyê nîşan dide ku naskirina nesneyan hîn jî dikare bi tehlûk û veqetandî be, û dikare bi rengekî newekhev bandorê li herêm û mirovan cuda bike," Russaskovsky berdewam kir. 

Wang got, "Pêkanînên berhevkirina daneyan di zanistiya kompîturê de heya van demên dawî ew qas bi hûrgulî nehatine lêkolîn kirin." Dema ku dor tê berhevkirina wêneyan, ew "ji înternetê têne hilanîn, û mirov her gav fam nakin ku wêneyên wan [di berhevokên daneyê de] têne bikar anîn. Divê em wêneyan ji komên cihêrengtir ên mirovan berhev bikin, lê dema ku em dikin, divê em hişyar bin ku em wêneyan bi rengek rêzdar werdigirin."

Vicente Ordonez-Roman alîkarê profesorê zanistiya kompîturê ye li Zanîngeha Virginia. 

Ordonez-Roman got: "Amûr û pîvan gavek girîng in… ew rê didin me ku em van neyariyên berê di lûleyê de bigirin û ji nû ve li ser sazkirin û texmînên xwe yên pirsgirêkê û hem jî pratîkên berhevkirina daneyan bifikirin." "Di vîzyona kompîturê de di derbarê temsîlkirin û belavkirina stereotip de hin dijwariyên taybetî hene. Xebatên mîna yên ji hêla Princeton Visual AI Lab ve dibin alîkar ku hin ji van pirsgirêkan ronî bikin û bigihînin bala civata dîtina kompîturê û stratejiyên ji bo kêmkirina wan pêşkêş dikin.

Amûra nû ya ku ji hêla lêkolîneran ve hatî pêşve xistin gavek girîng e ku ji bo çareserkirina alikariya heyî ya di pergalên AI-ê de dibe alîkar. Naha dema rastkirina van pirsgirêkan e, ji ber ku her ku pergal pêşve diçin û tevlihevtir dibin ew ê pir dijwartir bibe.