Cad is Meta-Fhoghlaim ann?

Cad is Meta-Fhoghlaim ann?

Ar cheann de na réimsí taighde is mó fáis i meaisínfhoghlama tá réimse na meitea-fhoghlaim. Is éard atá i meitea-fhoghlaim, i gcomhthéacs na meaisínfhoghlama, úsáid a bhaint as halgartaim meaisínfhoghlama chun cabhrú le hoiliúint agus leas iomlán a bhaint as samhlacha meaisínfhoghlama eile. De réir mar a bhíonn an meite-fhoghlaim ag éirí níos coitianta agus níos mó teicnící meite-fhoghlama á bhforbairt, tá sé tairbheach tuiscint a bheith agat ar cad is meitea-fhoghlaim ann agus tuiscint a bheith agat ar na bealaí éagsúla inar féidir í a chur i bhfeidhm. Déanaimis scrúdú ar na smaointe taobh thiar den mheifhoghlaim, cineálacha meitea-fhoghlama, chomh maith le roinnt de na bealaí inar féidir meitea-fhoghlaim a úsáid.

Ba é Donald Maudsley a chum an téarma meitea-fhoghlaim chun cur síos a dhéanamh ar phróiseas trína dtosaíonn daoine ag múnlú a bhfoghlaimíonn siad, ag éirí níos “rialaithe de réir a chéile ar nósanna braistintí, fiosrúcháin, foghlama agus fáis atá inmheánaithe acu”. Níos déanaí, chuirfeadh eolaithe cognaíocha agus síceolaithe síos ar an meiteafhoghlaim mar “foghlaim conas foghlaim”.

Maidir leis an leagan meaisínfhoghlama den mheiti-fhoghlaim, cuirtear an smaoineamh ginearálta “foghlaim conas foghlaim” i bhfeidhm ar chórais AI. Sa chiall AI, is é meitea-fhoghlaim an cumas atá ag meaisín atá cliste go saorga foghlaim conas tascanna casta éagsúla a dhéanamh, na prionsabail a d'úsáid sé chun tasc amháin a fhoghlaim agus é a chur i bhfeidhm ar thascanna eile. Go hiondúil ní mór córais AI a oiliúint chun tasc a chur i gcrích trí mháistreacht a dhéanamh ar go leor fothascanna beaga. Is féidir go dtógfaidh an oiliúint seo go leor ama agus ní aistríonn gníomhairí AI go héasca an t-eolas a foghlaimíodh le linn tasc amháin go tasc eile. Má chruthaítear samhlacha agus teicníochtaí meitea-fhoghlama is féidir cabhrú le AI modhanna foghlama a ghinearálú agus scileanna nua a fháil níos tapúla.

Cineálacha Meta-fhoghlama

Optimizer Meta-Fhoghlaim

Is minic a úsáidtear meitea-fhoghlaim chun feidhmíocht líonra néaraíoch atá ann cheana féin a bharrfheabhsú. Is gnách go bhfeidhmíonn modhanna meitea-fhoghlama optamaithe trí hipearpharaiméadair líonra néarúil eile a athrú chun feidhmíocht an bhunghréasáin néarachais a fheabhsú. Is é an toradh atá air sin gur cheart go n-éireodh níos fearr leis an spriocghréasán maidir leis an tasc a bhfuil sé á oiliúint air. Sampla amháin d’uasmhéadaitheoir meitea-fhoghlama is ea líonra a úsáid chun feabhsú shliocht grádán torthaí.

Few-Shots Meta-Fhoghlaim

Is éard atá i gcur chuige meitifhoghlama cúpla seat ná ceann ina ndéantar innealtóireacht ar líonra néarach domhain atá in ann ginearálú ó na tacair sonraí oiliúna go dtí tacair shonraí nach bhfacthas riamh cheana. Tá sampla d’aicmiú cúpla seat cosúil le gnáth-thasc aicmithe, ach ina ionad sin, is tacair shonraí iomlána iad na samplaí sonraí. Cuirtear oiliúint ar an tsamhail ar go leor tascanna foghlama/tacair sonraí éagsúla agus ansin déantar é a bharrfheabhsú le haghaidh buaicfheidhmíochta ar an iliomad tascanna oiliúna agus sonraí nach bhfuil feicthe. Sa chur chuige seo, roinntear sampla oiliúna amháin ina ilranganna. Ciallaíonn sé seo go bhféadfadh dhá rang a bheith i ngach sampla oiliúna/tacar sonraí, le haghaidh iomlán de 4 seat. Sa chás seo, d’fhéadfaí cur síos a dhéanamh ar thasc iomlán na hoiliúna mar thasc aicmithe 4 urchar.

I bhfoghlaim cúpla lámhaigh, is é an smaoineamh go bhfuil na samplaí oiliúna aonair íostach agus gur féidir leis an líonra a fhoghlaim chun rudaí a aithint tar éis ach cúpla pictiúr a fheiceáil. Tá sé seo i bhfad cosúil le conas a fhoghlaimíonn leanbh idirdhealú a dhéanamh idir rudaí tar éis dó ach cúpla pictiúr a fheiceáil. Baineadh úsáid as an gcur chuige seo chun teicníochtaí a chruthú cosúil le samhlacha giniúna aon-shot agus líonraí néaracha cuimhne méadaithe.

Meta-Fhoghlaim Mhéadrach

Is éard atá i gceist le meitefhoghlaim mhéadrach-bhunaithe ná líonraí néaracha a úsáid chun a fháil amach an bhfuil méadrach á húsáid go héifeachtach agus an bhfuil an líonra nó na líonraí ag bualadh an spriocmhéadrach. Tá meitea-fhoghlaim mhéadrach cosúil le foghlaim cúpla seat sa mhéid is nach n-úsáidtear ach roinnt samplaí chun an líonra a oiliúint agus chun an spás méadrach a fhoghlaim. Úsáidtear an mhéadracht chéanna ar fud an fhearainn ilghnéitheach agus má athraíonn na líonraí ón méadrach meastar go bhfuil ag teip orthu.

Meta-Fhoghlaim Mhúnla Athfhillteach

Is éard atá i meitea-fhoghlaim athfhillteach na samhla ná teicnící meitefhoghlama a chur i bhfeidhm ar Líonraí Néaracha Athfhillteacha agus ar na gréasáin Chuimhne Ghearrthéarmacha Chomhchosúla. Feidhmíonn an teicníocht seo trí mhúnla RNN/LSTM a oiliúint chun tacar sonraí a fhoghlaim go seicheamhach agus ansin an tsamhail oilte seo a úsáid mar bhonn d’fhoghlaimeoir eile. Cuireann an meitea-fhoghlaimeoir san áireamh an t-algartam optamaithe sainiúil a úsáideadh chun an tsamhail tosaigh a oiliúint. Cuireann paraiméadarú oidhreachtúil an mheitefhoghlaimeora ar a chumas tús a chur leis agus teacht le chéile go tapa, ach fós a bheith in ann nuashonrú a dhéanamh le haghaidh cásanna nua.

Conas a Oibríonn Meta-Fhoghlaim?

Braitheann an bealach cruinn a dhéantar meitea-fhoghlaim ar mhúnla agus ar nádúr an taisc atá idir lámha. Mar sin féin, go ginearálta, tasc meta-fhoghlama i gceist le cóipeáil thar na paraiméadair den chéad ghréasán isteach i bparaiméadar an dara líonra/an leas iomlán a bhaint as.

Tá dhá phróiseas oiliúna i meitea-fhoghlaim. Go hiondúil cuirtear oiliúint ar an múnla meitea-fhoghlama tar éis roinnt céimeanna oiliúna ar an mbunsamhail a dhéanamh. Tar éis na céimeanna ar aghaidh, ar gcúl, agus leas iomlán a bhaint a chuireann oiliúint ar an mbonn múnla, déantar an pas traenála chun cinn don mhúnla leas iomlán a bhaint. Mar shampla, tar éis trí nó ceithre chéim oiliúna ar an múnla bonn, ríomhtar meitea-chaillteanas. Tar éis an meitea-chaillteanas a ríomh, ríomhtar na grádáin do gach meitea-pharaiméadar. Tar éis dó seo a dhéanamh, déantar na meitea-pharaiméadair san optimizer a nuashonrú.

Féidearthacht amháin chun an meitea-chaillteanas a ríomh ná pas traenála an mhúnla tosaigh a chríochnú agus ansin na caillteanais a ríomhadh cheana a chomhcheangal. D’fhéadfadh an meitea-optimizer a bheith ina mheitea-fhoghlaimeoir fiú, ach ag pointe áirithe ní mór leas a bhaint as optimizer scoite cosúil le ADAM nó SGD.

Is féidir leis na céadta mílte nó fiú na milliúin paraiméadair a bheith ag go leor samhlacha foghlama domhain. Bheadh ​​sé costasach ó thaobh ríomhaireacht de meitea-fhoghlaimeoir a chruthú a mbeadh tacar iomlán nua de pharaiméadair aige, agus ar an gcúis sin, úsáidtear tactic ar a dtugtar comhroinnt go hiondúil. Is éard atá i gceist le comhroinnt comhordanáidí an meite-fhoghlaimeoir/optimizer a innealtóireacht ionas go bhfoghlaimíonn sé paraiméadar amháin ón mbunsamhail agus ansin go díreach clónálann sé an paraiméadar sin in ionad na bparaiméadar eile go léir. Is é an toradh atá air seo ná nach mbraitheann na paraiméadair atá ag an optimizer ar pharaiméadair an mhúnla.