Forbraíonn Taighdeoirí Algartam atá Dírithe ar Droch-Iompar in AI a Chosc

Mar aon leis na dul chun cinn agus na buntáistí ar fad atá léirithe ag hintleachta saorga go dtí seo, bhí tuairiscí ann freisin ar fho-iarmhairtí neamh-inmhianaithe ar nós laofachta ciníoch agus inscne in AI. Mar sin mar sciencealert.com cuireann an cheist "conas is féidir le heolaithe a chinntiú gur féidir le córais ardsmaointeoireachta a bheith cothrom, nó fiú sábháilte?”

B'fhéidir gurb é an freagra a leagan ar an tuarascáil ag taighdeoirí ag Stanford agus an Ollscoil Massachusetts Amherst, dar teideal Cosc a chur ar iompar neamh-inmhianaithe meaisíní cliste. Mar a eurekaalert.org nótaí ina scéal faoin tuarascáil seo, tá AI ag tosú ar thascanna íogaire a láimhseáil, mar sin “tá lucht déanta beartas ag áitiú go dtugann ríomheolaithe dearbhuithe go bhfuil córais uathoibrithe deartha chun torthaí nach dteastaíonn a íoslaghdú, mura ndéantar iad a sheachaint go hiomlán, amhail riosca iomarcach nó ciníoch agus claonadh inscne.”

An tuarascáil a chuir an fhoireann taighdeoirí seo i láthair “tugtar breac-chuntas ar theicníc nua a aistríonn sprioc doiléir, mar shampla claontacht inscne a sheachaint, go critéir bheachta matamaitice a cheadódh algartam meaisínfhoghlama chun feidhmchlár AI a oiliúint chun an t-iompar sin a sheachaint.”

Ba é an cuspóir, mar Tugann Emma Brunskill, ollamh cúnta le ríomheolaíocht ag Stanford agus údar sinsearach an pháipéir le fios “táimid ag iarraidh AI a chur chun cinn a thugann meas ar luachanna a n-úsáideoirí daonna agus a thugann údar don mhuinín a chuirimid i gcórais uathrialaitheacha.”

Ba é an smaoineamh a shainiú Torthaí nó iompraíochtaí atá “neamhshábháilte” nó “éagórach” i dtéarmaí matamaitice. De réir na dtaighdeoirí, d’fhágfadh sé seo go bhféadfaí “halgartaim a chruthú a fhéadfaidh foghlaim ó shonraí maidir le conas na torthaí gan iarraidh seo a sheachaint go muiníneach”.

Ba é an dara sprioc ná “sraith teicníochtaí a fhorbairt a d’fhágfadh go mbeadh sé éasca d’úsáideoirí a shonrú cad iad na cineálacha iompair nach dteastaíonn uathu a shrianadh agus a chuirfeadh ar chumas dearthóirí meaisínfhoghlama a thuar go muiníneach gur féidir brath ar chóras atá oilte ag baint úsáide as sonraí ón am atá thart nuair a chuirtear i bhfeidhm é i bhfíor-am. cúinsí an domhain."

Deir ScienceAlert gur ainmnigh an fhoireann an córas nua seo  Algartaim 'Seldonian', tar éis carachtar lárnach Isaac Asimov cáiliúil Fondúireacht sraith úrscéalta eolaíochta saor in aisce,. philip Thomas, ollamh cúnta le ríomheolaíocht in Ollscoil Massachusetts Amherst agus céad údar na nótaí páipéir, “Má úsáidim algartam Seldonian le haghaidh diaibéiteas cóireáil, is féidir liom a shonrú go gciallaíonn iompar neamh-inmhianaithe siúcra fola atá contúirteach íseal nó hipoglycemia.” 

“Is féidir liom a rá leis an meaisín, 'Agus tú ag iarraidh an rialtóir sa chaidéal inslin a fheabhsú, ná déan athruithe a chuirfeadh le minicíocht an hipoglycemia.' Ní thugann formhór na n-algartam bealach duit leis an gcineál seo srianta a chur ar iompar; níor cuireadh san áireamh é sna dearaí luatha.”

deir Tomás leis “Déanfaidh an creat Seldonian seo é níos fusa do dhearthóirí meaisínfhoghlama treoracha seachanta iompraíochta a chur isteach i ngach cineál algartam, ar bhealach a chuirfidh ar a gcumas measúnú a dhéanamh ar an dóchúlacht go bhfeidhmeoidh córais oilte i gceart sa saol fíor.”

Maidir léi féin, tugann Emma Brunskill faoi deara é sin freisin “Tá sé ríthábhachtach smaoineamh ar conas is féidir linn algartaim a chruthú a thugann an meas is fearr ar luachanna amhail sábháilteacht agus cothroime agus an tsochaí ag brath níos mó ar AI.”