Lìonraidhean Neural Liquid: Mìneachadh, Tagraidhean, & Dùbhlain

Tha lìonra neural (NN) a ionnsachadh innealan algorithm a tha ag atharrais air structar eanchainn an duine agus comasan obrachaidh gus pàtrain aithneachadh bho dhàta trèanaidh. Tron lìonra de neurons fuadain eadar-cheangailte a bhios a ’giullachd agus a’ sgaoileadh fiosrachadh, faodaidh lìonraidhean neural gnìomhan iom-fhillte leithid Facial Aithneachadh, Tuigse Cànain Nàdarra, agus mion-sgrùdadh ro-innseach gun chuideachadh daonna.

A dh’ aindeoin a bhith nan inneal AI cumhachdach, tha crìochan sònraichte aig lìonraidhean neural, leithid:

1. Feumaidh iad tòrr mòr de dhàta trèanaidh le bileagan.
2. Bidh iad a’ giullachd dàta ann an òrdugh, gan dèanamh neo-èifeachdach ann a bhith a’ làimhseachadh dàta fìor-ùine.

Mar sin, thug buidheann de luchd-rannsachaidh aig Saotharlann Saidheans Coimpiutaireachd agus Eòlas Artificial (CSAIL) a-steach "Lìonraidhean Neural Liquid no LNNn - seòrsa de lìonra neòil a bhios ag ionnsachadh san obair, chan ann a-mhàin tron ​​​​ìre trèanaidh." 

Bheir sinn sùil mhionaideach air LNNn gu h-ìosal.

Dè a th’ ann an Liquid Neural Networks (LNNn)? - Dàibheadh ​​​​domhainn

A Lìonra Neural Liquid tha ùine leantainneach Lìonra Neural Ath-chuairteach (RNN) a bhios a’ giullachd dàta ann an òrdugh, a chumas cuimhne air cuir a-steach san àm a dh’ fhalbh, ag atharrachadh a ghiùlan stèidhichte air cuir a-steach ùr, agus as urrainn làimhseachadh cuir a-steach fad caochlaideach gus comasan tuigse gnìomh NNn a neartachadh. 

Tha ailtireachd LNN eadar-dhealaichte bho lìonraidhean neural traidiseanta air sgàth a chomas air dàta sreath leantainneach no ùine a phròiseasadh gu h-èifeachdach. Ma tha dàta ùr ri fhaighinn, faodaidh LNNn an àireamh de neurons agus cheanglaichean gach sreath atharrachadh.

Na tùsairean aig Liquid Neural Network, Ramin Hasani, Mathias Lechner, agus ghabh cuid eile Brosnachadh bho nematode microscopach C.elegans, cnuimhe 1 mm a dh’ fhaid le siostam nearbhach làn structar, a’ leigeil leis gnìomhan iom-fhillte a choileanadh leithid lorg biadh, cadal, agus ionnsachadh bhon àrainneachd.

“Chan eil aige ach 302 neurons san t-siostam nearbhach aige," tha Hasani ag ràdh, “Ach faodaidh e daineamaigs iom-fhillte ris nach robh dùil a ghineadh.”  

Bidh LNNn a’ dèanamh atharrais air na ceanglaichean dealain eadar-cheangailte no gluasadan na cnuimhe gus ro-innse giùlan lìonra thar ùine. Bidh an lìonra a’ cur an cèill staid an t-siostaim aig àm sam bith. Tha seo a’ falbh bhon dòigh-obrach thraidiseanta NN a tha a’ taisbeanadh staid an t-siostaim aig àm sònraichte.

Mar sin, tha dà phrìomh fheart aig Liquid Neural Networks:

1. Ailtireachd fiùghantach: Tha na neurons aige nas brìoghmhoire na neurons lìonra neural cunbhalach, a’ dèanamh LNNn nas eadar-mhìneachaidh. Is urrainn dhaibh dàta sreathach fìor-ùine a làimhseachadh gu h-èifeachdach.
2. Ionnsachadh leantainneach & sùbailteachd: Bidh LNNn ag atharrachadh gu dàta ag atharrachadh eadhon às deidh trèanadh, a’ dèanamh atharrais air eanchainn fàs-bheairtean beò ann an dòigh nas cinntiche an taca ri NNn traidiseanta a stadas ag ionnsachadh fiosrachadh ùr às deidh an ìre trèanaidh modail. Mar sin, chan fheum LNNn mòran de dhàta trèanaidh le bileagan gus toraidhean ceart a ghineadh.

Leis gu bheil neurons LLM a ’tabhann ceanglaichean beairteach a dh’ fhaodas barrachd fiosrachaidh a chuir an cèill, tha iad nas lugha ann am meud an taca ri NNn àbhaisteach. Mar sin, bidh e nas fhasa do luchd-rannsachaidh mìneachadh mar a thàinig LNN gu co-dhùnadh. Cuideachd, faodaidh meud modail nas lugha agus àireamhachadh nas lugha an dèanamh scalable aig ìre iomairt. A bharrachd air an sin, tha na lìonraidhean sin nas seasmhaiche a thaobh fuaim agus buaireadh anns a’ chomharra cuir a-steach, an taca ri NNn.

3 Cùisean Cleachdaidh Mòr de Lìonraidhean Neural Liquid

Bidh Liquid Neural Networks a’ deàrrsadh ann an cùisean cleachdaidh anns a bheil dàta sreath leantainneach, leithid:

1. Time Series Data Processing & Forecasting

Bidh luchd-rannsachaidh an aghaidh grunn dùbhlain fhad ‘s a thathar a’ modaladh dàta sreath ùine, a’ toirt a-steach eisimeileachd ùineail, neo-sheasmhachd, agus fuaim ann an dàta sreath ùine.

Tha Liquid Neural Networks air an togail a dh’aona ghnothach airson giollachd dàta sreath ùine agus ro-innse. A rèir Hasani, tha dàta sreath ùine deatamach agus uile-làthaireach gus an saoghal a thuigsinn gu ceart. “Tha an saoghal fìor mu dheidhinn sreathan. Eadhon ar beachd -- chan eil thu a’ faicinn ìomhaighean, tha thu a’ faicinn sreath de dhealbhan, ” tha e ag ràdh.

2. Ìomhaigh & Video Giullachd

Faodaidh LNNn gnìomhan giullachd ìomhaighean agus lèirsinn a dhèanamh, leithid tracadh nithean, sgaradh ìomhaighean, agus aithneachadh. Tha an nàdar fiùghantach aca a’ leigeil leotha leasachadh leantainneach a dhèanamh stèidhichte air iom-fhillteachd àrainneachd, pàtrain, agus daineamaigs ùineail.

Mar eisimpleir, lorg luchd-rannsachaidh aig MIT sin faodaidh drones a bhith air an stiùireadh le modal LNN beag 20,000-parameter a bhios a’ coileanadh nas fheàrr ann a bhith a’ seòladh àrainneachdan nach fhacas roimhe na lìonraidhean neural eile. Faodar na comasan seòlaidh sàr-mhath sin a chleachdadh ann a bhith a’ togail charbadan fèin-riaghailteach nas cruinne.

3. Tuigse Cànain Nàdarra

Air sgàth an sùbailteachd, comasan ionnsachaidh fìor-ùine, agus topology fiùghantach, tha Liquid Neural Networks fìor mhath air tuigse fhaighinn air sreathan teacsa fada Cànan Nàdarra.

Beachdaich air mion-sgrùdadh faireachdainn, gnìomh NLP a tha ag amas air a’ bhunait a thuigsinn faireachdainn air cùl teacsa. Tha comas LNNn ionnsachadh bho dhàta fìor-ùine gan cuideachadh gus mion-sgrùdadh a dhèanamh air an dualchainnt a tha a’ fàs agus abairtean ùra a’ toirt cothrom airson mion-sgrùdadh faireachdainn nas cruinne. Faodaidh comasan co-chosmhail a bhith cuideachail ann an eadar-theangachadh inneal cuideachd.

Cuingeachaidhean & Dùbhlain de Lìonraidhean Neural Liquid

Ged a tha Liquid Neural Networks air crìoch a chuir air na lìonraidhean neural traidiseanta a bha neo-shùbailte, ag obair air pàtrain stèidhichte agus neo-eisimeileach co-theacsa. Ach tha cuid de chuingealachaidhean agus dhùbhlain aca cuideachd.

1. Duilgheadas caisead a' dol à bith

Coltach ri modalan eile le ùine, faodaidh LNNn eòlas fhaighinn air an duilgheadas caisead a tha a’ dol à bith nuair a bhios iad air an trèanadh le teàrnadh caisead. Ann an lìonraidhean neural domhainn, bidh an duilgheadas caisead a tha a’ dol à bith a’ tachairt nuair a dh’ fhàsas na caiseadan a chleachdar gus cuideaman lìonraidhean neural ùrachadh gu math beag. Tha a’ chùis seo a’ cur casg air lìonraidhean neural bho bhith a’ ruighinn na cuideaman as fheàrr. Faodaidh seo cuingealachadh a dhèanamh air an comas air eisimeileachd fad-ùine ionnsachadh gu h-èifeachdach.

2. Parameter Tuning

Coltach ri lìonraidhean neural eile, tha LNNn cuideachd a’ toirt a-steach dùbhlan gleusadh paramadair. Tha gleusadh paramadair a’ toirt ùine agus daor dha Liquid Neural Networks. Tha grunn pharaimearan aig LNNn, a’ gabhail a-steach roghainn de ODE (Co-aontaran eadar-dhealaichte àbhaisteach) fuasgladh, crìochan riaghlaidh, agus ailtireachd lìonra, a dh'fheumar atharrachadh gus an coileanadh as fheàrr a choileanadh.

Gu tric bidh feum air pròiseas ath-aithriseach gus suidheachaidhean paramadair iomchaidh a lorg, a bheir ùine. Ma tha gleusadh paramadair neo-èifeachdach no nach eil air a dhèanamh ceart, faodaidh e leantainn gu freagairt lìonra suboptimal agus coileanadh nas lugha. Ach, tha luchd-rannsachaidh a’ feuchainn ri faighinn seachad air an duilgheadas seo le bhith a’ faighinn a-mach mar a tha nas lugha de neurons a dhìth gus gnìomh sònraichte a choileanadh.

3. Cion Litreachais

Tha litreachas cuibhrichte aig Liquid Neural Networks mu bhuileachadh, cleachdadh, agus buannachdan. Tha rannsachadh cuibhrichte ga dhèanamh dùbhlanach a bhith a’ tuigsinn na comasan agus na crìochan as motha aig LNNn. Chan eil iad cho aithnichte ri Convolutional Neural Networks (CNNn), RNNn, no ailtireachd cruth-atharrachaidh. Tha luchd-rannsachaidh fhathast a’ feuchainn a-mach na cùisean cleachdaidh a dh’ fhaodadh a bhith aca.

Tha lìonraidhean neural air a thighinn air adhart bho MLP (Multi-Layer Perceptron) gu Liquid Neural Networks. Tha LNNn nas beothaile, nas freagarraiche, nas èifeachdaiche agus nas làidire na lìonraidhean neural traidiseanta agus tha mòran chùisean cleachdaidh aca.

Bidh sinn a 'togail air gualainn nam fuamhairean; mar a bhios AI a’ leantainn air adhart a’ fàs gu luath, chì sinn dòighean ùra as ùire a bhios a’ dèiligeadh ri dùbhlain agus cuingeadan dòighean gnàthach le buannachdan a bharrachd.

Airson barrachd susbaint co-cheangailte ri AI, tadhal air aonaich.ai