An tOllamh Julia Stoyanovich, Stiúrthóir an Ionaid um AI Freagrach – Sraith Agallaimh

Julia Stoyanovich, ina ollamh ag Scoil Innealtóireachta Tandon NYU agus ina Stiúrthóir bunaidh ar an Ionad um AI Freagrach. Thug sí fianaise le déanaí do Choiste Teicneolaíochta Chomhairle NYC faoi bille molta a rialódh úsáid AI le haghaidh fruiliú agus cinntí fostaíochta.

Is tusa Stiúrthóir bunaidh an Ionaid um AI Freagrach ag NYU. An bhféadfá roinnt de na tionscnaimh atá ar bun ag an eagraíocht seo a roinnt linn?

Comhstiúraim an tIonad um AI Freagrach (T/AI) ag NYU le Steven Kuyan. Tá suimeanna agus saineolas comhlántach ag Steven agus agamsa. Is acadúil mé, le cúlra ríomheolaíocht agus spéis láidir in obair spreagtha ag úsáid ag crosbhealach innealtóireacht sonraí, eolaíocht sonraí freagrach, agus polasaí. Is é Steven stiúrthóir bainistíochta an Saotharlanna Todhchaí NYU Tandon, líonra de ghorlanna agus luasairí tosaithe a raibh tionchar ollmhór eacnamaíoch acu cheana féin i NYC. Is í ár bhfís do R/AI cabhrú le “AI freagrach” a bheith comhchiallach le “AI”, trí mheascán de thaighde feidhmeach, oideachas poiblí agus rannpháirtíocht, agus trí chabhrú le cuideachtaí móra agus beaga – go háirithe beag – AI freagrach a fhorbairt.

Le cúpla mí anuas, tá R/AI i mbun comhráite faoi mhaoirseacht ADS (Uathchórais Cinnidh). Tá ár gcur chuige bunaithe ar mheascán de ghníomhaíochtaí oideachais agus rannpháirtíocht bheartais.

Tá dlí molta á bhreithniú ag Cathair Nua Eabhrac, slán 1894, a rialódh úsáid TSB le linn fruilithe trí mheascán d’iniúchadh agus nochtadh poiblí. Chuir R/AI tuairimí poiblí isteach ar an mbille, bunaithe ar ár dtaighde agus ar léargais a chruinníomar ó chuardaitheoirí poist trí roinnt mhaith díobh rannpháirtíocht phoiblí gníomhaíochtaí.

Chomhoibrigh muid freisin le An GovLab ag NYU agus leis an Institiúid Eitice in AI ag Ollscoil Theicniúil München ar chúrsa ar líne saor in aisce darb ainm “AI Eitic: Peirspictíochtaí Domhanda” a seoladh níos luaithe an mhí seo.

Tionscadal eile de chuid R/AI le déanaí a bhfuil go leor airde á fháil air ná ár sraith leabhar grinn “Sonraí, Freagrach”. Tugtar “Scáthán, Scáthán” ar an gcéad imleabhar den tsraith, tá sé ar fáil i mBéarla, i Spáinnis agus i bhFraincis, agus tá fáil air le léitheoir scáileáin i ngach ceann de na trí theanga. Fuair ​​​​an greann an Nuálaíocht na Míosa dámhachtain ó Metro Lab Network agus GovTech, agus clúdaíodh é ag an Toronto Star, i measc daoine eile.

Cad iad cuid de na saincheisteanna reatha nó féideartha a bhaineann le claonadh AI le haghaidh fruiliú agus cinntí fostaíochta?

Ceist chasta í seo a éilíonn orainn a bheith soiléir ar dtús cad atá i gceist againn le “claonadh”. Is é an rud is tábhachtaí le tabhairt faoi deara ná gur “anailís thuarthach” iad córais fruilithe uathoibrithe - déanann siad an todhchaí a thuar bunaithe ar an am atá thart. Léirítear an t-am atá caite ag sonraí stairiúla faoi dhaoine aonair a d'fhostaigh an chuideachta, agus faoin gcaoi ar éirigh leis na daoine sin. Cuirtear “oiliúint” ar an gcóras ansin ar na sonraí seo, rud a chiallaíonn go n-aithníonn sé patrúin staitistiúla agus go n-úsáideann sé iad seo chun tuartha a dhéanamh. Is iad na patrúin staitistiúla seo “draíocht” AI, sin an rud ar a bhfuil samhlacha réamh-mheastacháin bunaithe. Is léir, ach níos tábhachtaí fós, go bhfuil sonraí stairiúla ónar baineadh na patrúin seo ciúin faoi dhaoine aonair nár fostaíodh toisc nach bhfuil a fhios againn conas a d’éirigh leo sa phost nach bhfuair siad. Agus is é seo an áit a dtagann claonadh i bhfeidhm. Má fhostaíonn muid go córasach níos mó daoine ó shainghrúpaí déimeagrafacha agus socheacnamaíocha, ansin beidh ballraíocht sna grúpaí seo, agus na tréithe a ghabhann le ballraíocht an ghrúpa sin, mar chuid den tsamhail thuarthach. Mar shampla, mura bhfeicimid ach céimithe na n-ollscoileanna is fearr á bhfostú do róil feidhmiúcháin, ní féidir leis an gcóras a fháil amach go bhféadfadh go n-éireoidh go maith le daoine a chuaigh chuig scoil eile. Is furasta fadhb den chineál céanna a fheiceáil maidir le hinscne, cine agus stádas míchumais.

Tá an laofacht in AI i bhfad níos leithne ná an claonadh sna sonraí. Tarlaíonn sé nuair a dhéanaimid iarracht teicneolaíocht a úsáid nuair nach bhfuil réiteach teicniúil ach míchuí, nó nuair a shocraímid na spriocanna míchearta don AI - go minic toisc nach bhfuil sraith éagsúil guthanna againn ag an mbord dearaidh, nó nuair a thugaimid suas ár gcuid. idirghníomhaíochtaí gníomhaireachta daonna – AI tar éis an AI a imscaradh. Tá a phlé féin tuillte ag gach ceann de na cúiseanna seo le claonadh a mhairfidh níos faide ná mar a cheadaíonn an spás san Airteagal seo. Agus mar sin, ar mhaithe le fanacht dírithe, lig dom filleadh ar an gclaonadh sna sonraí.

Agus an claonadh sna sonraí á mhíniú agam, is maith liom meafar an fhrithchaiteachais scátháin a úsáid. Is íomhá den domhan é sonraí, a léiriú scátháin. Nuair a smaoinímid ar chlaonadh sna sonraí, déanaimid an machnamh seo a cheistiú. Léiriú amháin ar “laofacht sna sonraí” is ea go ndéantar an machnamh a shaobhadh – ní dhéanann ár scáthán ró-léiriú nó ró-léiriú ar chodanna áirithe den domhan, nó déanann sé na léamha a shaobhadh ar bhealach eile. Léiriú eile ar “laofacht sna sonraí” is ea, fiú dá mbeadh an machnamh 100% dílis, go mbeadh sé fós ina léiriú ar an domhan mar atá sé inniu, agus ní ar conas a d’fhéadfadh nó ar cheart dó a bheith. Rud atá tábhachtach, níl sé de dhualgas ar shonraí ná ar algartam a insint dúinn cé acu an léiriú foirfe é ar dhomhan briste, nó ar fhrithchaitheamh briste ar dhomhan foirfe, nó an bhfuil na saobhadh seo cumaisc. Tá sé de dhualgas ar dhaoine – daoine aonair, grúpaí, an tsochaí i gcoitinne – teacht ar chomhdhearcadh faoi cé acu an bhfuilimid ceart go leor leis an domhan mar atá sé, nó, mura bhfuil, conas ba cheart dúinn é a fheabhsú.

Ar ais go dtí an anailís thuarthach: Dá láidre na héagothromaíochtaí sna sonraí, mar léiriú ar an am atá thart, is amhlaidh is mó an seans go roghnófar iad sna samhlacha réamh-mheastacháin, agus go ndéanfar iad a mhacasamhlú – agus fiú níos measa – amach anseo.

Más é an sprioc atá againn ár gcleachtais earcaithe a fheabhsú le súil ar chothromas agus éagsúlacht, ní féidir linn an post seo a sheachfhoinsiú chuig meaisíní. Ní mór dúinn an dianobair a dhéanamh chun na fíorchúiseanna le claontacht i bhfostú agus i bhfostaíocht a aithint go ceannasach, agus chun réiteach teicniúil-soch-dlí-theicniúil a chaibidliú le hionchur ó na geallsealbhóirí go léir. Is cinnte go bhfuil ról ag an teicneolaíocht chun cabhrú linn feabhas a chur ar an status quo: is féidir leis cabhrú linn fanacht macánta maidir lenár spriocanna agus ár dtorthaí. Ach is é an rud is fearr a réiteoidh ligean ort ar nós na sonraí a dhíchlaonadh nó an anailís thuarthach na fadhbanna domhain idirdhealaithe a bhaineann le fruiliú.

Thug tú fianaise do Choiste Teicneolaíochta Chomhairle NYC le déanaí, agus ba é an méid seo a leanas trácht iontach: “Táimid ag fáil amach go gcuireann buiséad an fhógróra agus ábhar an fhógra araon go mór le sceabaireacht sheachadadh fógraí Facebook. Is é an rud is tábhachtaí ná go bhfeicimid sceabaireacht shuntasach i seachadadh de réir inscne agus línte ciníocha d’fhíorfhógraí maidir le deiseanna fostaíochta agus tithíochta in ainneoin spriocpharaiméadair neodracha.” Cad iad roinnt réitigh chun an cineál seo claonta a sheachaint?

Tá an trácht seo a rinne mé bunaithe ar thar cionn páipéar le Ali et al. ar a dtugtar “Idirdhealú trí Optamú: Conas is féidir Torthaí Claonta a Fháil mar thoradh ar Sheachadadh Fógraí Facebook.” Faigheann na húdair amach go bhfuil an mheicníocht seachadta fógraí féin freagrach as éifeachtaí idirdhealaitheacha a thabhairt isteach agus a mhéadú. Ní gá a rá, tá an-fhadhbanna ag baint leis an gcinneadh seo, go háirithe agus é ag imirt amach i gcomhthéacs na teimhneachta ar Facebook agus ar ardáin eile - Google agus Twitter. Tá an t-ualach ar na hardáin a léiriú go práinneach agus go diongbháilte gur féidir leo teacht i réim in éifeachtaí idirdhealaitheacha amhail iad siúd a fuair Ali et al. fearainn eile ina bhfuil saolta agus slite beatha daoine i gceist.

Conas is fearr is féidir le heolaithe sonraí agus le forbróirí AI cosc ​​​​a chur ar chlaonadh neamhbheartaithe eile ó shreapadh isteach ina gcórais?

 Ní faoi eolaithe sonraí, ná faoi aon ghrúpa geallsealbhóirí amháin, atá sé a chinntiú go bhfuil córais theicniúla ailínithe le luachanna sochaíocha. Ach tá eolaithe sonraí, go deimhin, ar thús cadhnaíochta sa chath seo. Mar eolaí ríomhaire mé féin, is féidir liom a fhianú le tarraingteacht an smaoineamh go bhfuil na córais a dhearaimid “oibiachtúil”, “optamach”, nó “ceart”. Beannacht agus mallacht is ea cé chomh rathúil is atá ríomheolaíocht agus eolaíocht sonraí — cé chomh tionchar agus a úsáidtear go forleathan. Níl an sólás againne ag teicneolaithe a thuilleadh dul i bhfolach taobh thiar de na spriocanna dosroichte a bhaineann le hoibiachtúlacht agus cirte. Tá an t-ualach orainn smaoineamh go cúramach ar ár n-áit sa domhan, agus sinn féin a oiliúint ar na próisis shóisialta agus pholaitiúla a bhfuil tionchar againn orthu. Ní féidir leis an tsochaí acmhainn a thabhairt dúinn gluaiseacht go tapa agus rudaí a bhriseadh, ní mór dúinn moilliú agus machnamh a dhéanamh.

Tá sé siombalach go raibh an fhealsúnacht tráth lárnach de gach dioscúrsa eolaíoch agus sochaíoch, tháinig ansin matamaitic, ansin eolaíocht ríomhaireachta. Anois, agus eolaíocht na sonraí i lár an aonaigh, tá ciorcal iomlán bainte amach againn agus tá gá againn le nascadh siar lenár bhfréamhacha fealsúnacha.

Moladh eile a rinne tú ná pobal eolasach a chruthú. Conas a chuirimid in iúl don phobal nach bhfuil eolach ar AI, nó a thuigeann na fadhbanna a bhaineann le claonadh AI?

Tá géarghá ann oideachas a chur ar dhaoine neamhtheicniúla faoin teicneolaíocht, agus oideachas a chur ar dhaoine teicniúla faoina himpleachtaí sóisialta. Teastóidh tiomantas láidir agus infheistíocht shuntasach ónár rialtas chun an dá sprioc seo a bhaint amach. Ní mór dúinn ábhair agus modheolaíochtaí oideachais a fhorbairt do na grúpaí seo go léir, agus bealaí a aimsiú chun rannpháirtíocht a spreagadh. Agus ní féidir linn an obair seo a fhágáil faoi aonáin tráchtála. Tá an tAontas Eorpach ar thús cadhnaíochta, le roinnt rialtas ag tabhairt tacaíochta do oideachas bunúsach AI dá shaoránaigh, agus curaclaim AI a ionchorprú i gcláir ardscoileanna. Táimid ag R/AI ag obair ar chúrsa atá ar fáil go poiblí agus a bhfuil rochtain fhorleathan air, a bhfuil sé mar aidhm aige pobal rannpháirteach a chruthú a chuideoidh le AI a dhéanamh mar is mian linn é a bheith. Tá an-chraic againn faoin obair seo, bígí ag súil le tuilleadh eolais a fháil sa mhí amach romhainn.

Go raibh maith agat as na freagraí mionsonraithe iontacha, ba chóir do léitheoirí ar mian leo níos mó a fhoghlaim cuairt a thabhairt ar an Ionad um AI Freagrach.