Riċerkaturi tal-AI jipproponu li jitqiegħdu Bounties fuq il-preġudizzju tal-AI biex l-AI ssir aktar Etika

Tim ta’ riċerkaturi tal-AI minn kumpaniji u laboratorji tal-iżvilupp tal-AI bħal Intel, Google Brain u OpenAI rrakkomanda l-użu ta’ bounties biex jgħin jiżgura l-użu etiku tal-AI. It-tim ta’ riċerkaturi reċentement ħareġ għadd ta’ proposti dwar l-użu etiku tal-AI, u inkludew suġġeriment li l-ippremjar tan-nies talli jiskopru preġudizzji fl-AI jista’ jkun mod effettiv biex l-AI ssir aktar ġusta.

Kif tirrapporta VentureBeat, riċerkaturi minn varjetà ta' kumpaniji madwar l-Istati Uniti u l-Ewropa ngħaqdu flimkien biex idaħħlu flimkien sett ta' linji gwida etiċi għall-iżvilupp tal-AI, kif ukoll suġġerimenti dwar kif jintlaħqu l-linji gwida. Wieħed mis-suġġerimenti li għamlu r-riċerkaturi kien li joffri għotjiet lill-iżviluppaturi li jsibu preġudizzju fi ħdan il-programmi tal-AI. Is-suġġeriment sar f’karta bl-isem “Lejn Żvilupp Affidabbli ta' AI: Mekkaniżmi għall-Appoġġ ta' Talbiet Verifikabbli".

Bħala eżempji tal-preġudizzji li t-tim ta 'riċerkaturi jittama li jindirizza, instabu data u algoritmi preġudikati f'kollox minn applikazzjonijiet għall-kura tas-saħħa sa sistemi ta' rikonoxximent tal-wiċċ użati mill-infurzar tal-liġi. Waħda mill-okkorrenza ta 'preġudizzju bħal din hija l-għodda ta' valutazzjoni tar-riskju PATTERN li reċentement intużat mid-Dipartiment tal-Ġustizzja tal-Istati Uniti biex il-priġunieri jiġu trija u jiddeċiedi liema minnhom jistgħu jintbagħtu d-dar meta jitnaqqsu d-daqsijiet tal-popolazzjoni tal-ħabs bi tweġiba għall-pandemija tal-koronavirus.

Il-prattika li l-iżviluppaturi jiġu ppremjati biex isibu mġiba mhux mixtieqa fil-programmi tal-kompjuter hija wieħed antik, iżda din tista 'tkun l-ewwel darba li bord tal-etika tal-AI avvanza serjament l-idea bħala għażla għall-ġlieda kontra l-preġudizzju tal-AI. Filwaqt li huwa improbabbli li hemm biżżejjed żviluppaturi tal-AI biex isibu biżżejjed preġudizzji li l-AI tista 'tiġi żgurata etika, xorta tgħin lill-kumpaniji jnaqqsu l-preġudizzju ġenerali u jiksbu sens ta' x'tipi ta 'preġudizzji qed jnixxu fis-sistemi tal-AI tagħhom.

L-awturi tad-dokument spjegaw li l-kunċett tal-bug-bounty jista 'jiġi estiż għall-AI bl-użu ta' bias u bounties ta 'sikurezza u li l-użu xieraq ta' din it-teknika jista 'jwassal għal settijiet ta' data u mudelli dokumentati aħjar. Id-dokumentazzjoni tkun tirrifletti aħjar il-limitazzjonijiet kemm tal-mudell kif ukoll tad-dejta. Ir-riċerkaturi saħansitra jinnotaw li l-istess idea tista 'tiġi applikata għal proprjetajiet AI oħra bħall-interpretabilità, is-sigurtà u l-protezzjoni tal-privatezza.

Hekk kif issir aktar u aktar diskussjoni dwar il-prinċipji etiċi tal-IA, ħafna nnutaw li l-prinċipji waħedhom mhumiex biżżejjed u li jridu jittieħdu azzjonijiet biex l-AI tinżamm etika. L-awturi tad-dokument jinnotaw li "ir-regolamenti u n-normi eżistenti fl-industrija u l-akkademja mhumiex biżżejjed biex jiżguraw żvilupp responsabbli tal-AI." Il-ko-fundatur tal-Google Brain u l-mexxej tal-industrija tal-AI Andrew Ng ukoll opinat li l-prinċipji ta’ gwida waħedhom m’għandhomx il-kapaċità li jiżguraw li l-IA tintuża b’mod responsabbli u ġust, u jgħid li ħafna minnhom jeħtieġ li jkunu aktar espliċiti u jkollhom ideat azzjonabbli.

Ir-rakkomandazzjoni tal-kaċċa għall-għotjiet tal-preġudizzju tat-tim ta 'riċerka magħquda hija tentattiv biex nimxu lil hinn mill-prinċipji etiċi f'qasam ta' azzjoni etika. It-tim ta’ riċerka għamel ukoll għadd ta’ rakkomandazzjonijiet oħra li jistgħu jixprunaw azzjoni etika fil-qasam tal-IA.

It-tim ta’ riċerka għamel numru ta’ rakkomandazzjonijiet oħra li l-kumpaniji jistgħu jsegwu biex jagħmlu l-użu tal-AI tagħhom aktar etiku. Huma jissuġġerixxu li għandha tinħoloq database ċentralizzata ta' inċidenti ta' AI u kondiviża fost il-komunità usa' ta' AI. Bl-istess mod, ir-riċerkaturi jipproponu li għandha tiġi stabbilita traċċa tal-awditjar u li dawn it-traċċi għandhom jippreservaw informazzjoni dwar il-ħolqien u l-iskjerament ta' applikazzjonijiet kritiċi għas-sikurezza fil-pjattaformi tal-IA.

Sabiex tiġi ppreservata l-privatezza tan-nies, it-tim ta 'riċerka ssuġġerixxa li għandhom jintużaw tekniki ċċentrati fuq il-privatezza bħal komunikazzjonijiet kriptati, tagħlim federat u privatezza differenzjali. Lil hinn minn dan, it-tim ta’ riċerka ssuġġerixxa li alternattivi ta’ sors miftuħ għandhom ikunu disponibbli b’mod wiesa’ u li l-mudelli kummerċjali tal-IA għandhom jiġu skrutinizzati ħafna. Fl-aħħarnett, it-tim ta 'riċerka jissuġġerixxi li l-finanzjament tal-gvern jiżdied sabiex ir-riċerkaturi akkademiċi jkunu jistgħu jivverifikaw it-talbiet tal-prestazzjoni tal-ħardwer.