RAFT – He Tikanga Whakapaipai me te RAG ki te Whakautu Uiui Motu-a-Rohe

I te toronga atu o nga tauira reo nui ki roto i nga rohe motuhake, ka nui haere te hiahia mo nga tikanga urutau pai me te whai hua. Whakauruhia te RAFT (Retrieval Augmented Fine Tuning), he huarahi hou e whakakotahi ana i nga kaha o te whakatipuranga tiki-whakanuia (RAG) me te whakatikatika pai, he mea whakarite mo nga mahi whakautu patai mo te rohe.

Te Wero o te Whakaritenga Rohe

Ahakoa kua whakangungua nga LLM i mua i te maha o nga raraunga, ko to raatau kaha ki te mahi pai i roto i nga rohe motuhake, penei i te rangahau rongoa, tuhinga ture, me nga turanga matauranga motuhake mo te hinonga, he iti noa iho. Ka puta mai tenei here na te mea kaore pea nga raraunga whakangungu i mua i te whakaatu i nga ahuatanga me nga uaua o enei waahi motuhake. Hei whakatutuki i tenei wero, e rua nga tikanga matua i whakamahia e nga kairangahau: te whakatipu-whakanuia (RAG) me te whakatikatika pai.

Whakatupuranga Tiaki-Whakanuia (RAG)

tawhetawhe

tawhetawhe he tikanga e taea ai Nga LLM ki te uru me te whakamahi i nga puna matauranga o waho i te wa e whakatau ana.

Ka tutuki tenei ma te whakauru i te tikinga raraunga tuuturu ki roto i te mahi whakangao, na reira ka tino tika, ka hou ake nga putanga o te tauira. E toru nga waahanga matua o te RAG: te tiki, ka kohia nga tuhinga e tika ana; reanga, i reira te tauira ka whakaputa i te putanga i runga i nga raraunga i tikina ake; me te whakanui ake, e whakamahine ana i te putanga ake.

Ko te tukanga tiki i roto i te RAG ka timata i te patai a te kaiwhakamahi. Ka wetewetehia e nga LLM te patai me te tiki korero e tika ana mai i nga papaunga raraunga o waho, e whakaatu ana i te puna raraunga ka taea e te tauira te tuhi ki te whakatakoto i ana whakautu. Ka whakahiatohia e te wahanga whakatipuranga tenei whakauru ki roto i te korero, i te whakautu ranei. Ko te hikoi whakanui ake ka whakamahine i te whakatipuranga ma te taapiri i te horopaki, te whakatikatika ranei mo te hono me te whai take.

Ka taea te aromatawai i nga tauira RAG ma te whakamahi i nga momo inenga, te aromatawai i to raatau kaha ki te whakarato i nga korero tika, whai kiko, me nga korero hou.

Tuning-Pai

mataki-whakatikatika

Tuning-pai, i tetahi atu taha, ka uru ki te urutau i tetahi LLM kua oti te whakangungu ki tetahi mahi, rohe motuhake ranei ma te whakangungu ake i runga i tetahi huinga raraunga iti ake. Ma tenei huarahi ka taea e te tauira te ako i nga tauira me te whakahāngai i ona putanga ki te mahi me te rohe e hiahiatia ana. Ahakoa ka taea e te whakatikatika pai te whakapai ake i te mahinga o te tauira, karekau e pai te whakauru i nga puna matauranga o-waho, te korero ranei mo nga hapa o te tiki mai i te wa o te whakatau.

Ko te huarahi RAFT

TE HIKI

TE HIKI e tu ana mo Retrieval-Aware Fine-Tuning, he tikanga whakangungu auaha i whakakikoruatia mo nga tauira reo hei whakarei ake i o raatau mahi i roto i nga mahi motuhake, ina koa mo nga whakamatautau pukapuka tuwhera. Ka rereke te RAFT mai i te whakatikatika pai ma te whakarite i nga raraunga whakangungu e whakauru ana i nga paatai ​​​​me te ranunga o nga tuhinga e tika ana me nga tuhinga kore e whai kiko ana, me nga whakautu whakahiato-a-whakaaro i ahu mai i nga tuhinga e tika ana. Ko tenei tikanga he whakapai ake i te kaha o nga tauira ki te maumahara ki nga korero engari ki te whakaaro me te whakahoki whakautu mai i nga ihirangi kua whakaratohia.

Ko te tikanga, ko te RAFT ka whakakoi i nga tauira reo kia matatau ake ai ki nga mahi e whai waahi ana ki te maarama panui me te tango matauranga mai i te huinga tuhinga. Ma te whakangungu me nga tuhinga "oracle" e rua (kei roto te whakautu) me nga tuhinga "whakararuraru" (kare e pai ana), ka ako te tauira ki te mohio me te whakamahi tika i nga korero e tika ana.

Te Whakaritenga Raraunga Whakangungu

Ko te tukanga whakangungu i raro i te RAFT he wahanga o nga raraunga kei roto i nga tuhinga oracle e hono tika ana ki nga whakautu, engari ko nga toenga raraunga he tuhinga whakararuraru anake. Ko te whakatikatika pai e akiaki ana i te tauira ki te ako i te wa e whakawhirinaki ai ki ona matauranga o roto (he rite ki te maumahara) me te wa ki te tango korero mai i te horopaki kua whakaratohia.

Ko te tikanga whakangungu a te RAFT e whakanui ana i te whakatipuranga o nga tikanga whakaaro, ehara i te mea ka awhina noa i te whakautu engari ka whakahua ano hoki i nga puna korero, he rite ki te ahua o te tangata ki te whakatika i tana whakautu ma te tohutoro i nga korero kua panuitia e ia. Ko tenei huarahi ehara i te mea ka whakarite noa i te tauira mo te whakatakotoranga RAG (Retrieval Augmented Generation) me whai whakaaro ki nga tuhinga kua tikina ake engari ka whakarite kia noho motuhake te whakangungu o te tauira mai i te retriever e whakamahia ana, ka taea te whakamahi ngawari puta noa i nga punaha tango rereke.

He maha nga kaupapa o tenei huarahi:

1. Ka whakangunguhia te tauira ki te tautuhi me te whakamahi i nga korero e tika ana mai i te horopaki kua whakaratohia, me te whakatauira i te whakatakotoranga whakamatautau pukapuka tuwhera.
2. Ka whakanui ake i te kaha o te tauira ki te whakahawea ki nga korero koretake, he tino pukenga mo te RAG whai hua.
3. Ka whakaatuhia te tauira ki nga ahuatanga kaore i te kitea te whakautu i roto i te horopaki, me te akiaki ia ia ki te whakawhirinaki ki ona ake mohiotanga ina tika.

Ko tetahi atu waahanga nui o te RAFT ko te whakauru i nga whakaaro mekameka-a-whakaaro ki roto i te mahi whakangungu. Engari i te whakarato noa i nga patai me nga whakautu takirua, ka whakaputahia e te RAFT nga whakamaramatanga whai kiko me nga korero korero mai i nga tuhinga e tika ana. Ko enei whakamaramatanga, he mea whakatakoto i roto i te whakatakotoranga mekameka-a-whakaaro, ka arahi i te tauira ki nga huarahi arorau e tika ana kia tae ki te whakautu tika.

Ma te whakangungu i te tauira mo enei mekameka whakaaro, ka whakatenatena a RAFT i te whakawhanaketanga o nga pukenga whakaaro kaha me te whakarei ake i te maaramatanga o te tauira me pehea te whakamahi i nga puna matauranga o waho.

Te Aromātai me nga Hua

I whakahaerehia e nga kaituhi o te pepa RAFT nga arotakenga maha mo nga momo huingararaunga, tae atu ki te PubMed (te rangahau koiora), HotpotQA (whakautu patai rohe-tuwhera), me te Gorilla APIBench (whakaputa waehere). Ko o raatau hua i whakaatu ko te RAFT i kaha ake i nga raarangi tuuturu, penei i te whakahiato-a-rohe me te kore RAG me te kore RAG, tae atu ki nga tauira nui penei i te GPT-3.5 me te RAG.

Ko te RAFT te whakapai ake i te mahi RAG

Hei tauira, i runga i te huingararaunga HuggingFace, i eke te RAFT i te tika o te 74%, he tino pai ake o te 31.41% ki runga ake i te whakatikatika-a-rohe (DSF) me te 44.92% mo te GPT-3.5 me te RAG. Waihoki, i runga i te huingararaunga HotpotQA, i whakaatu a RAFT i te 28.9% te tika o te whiwhinga ki te DSF.

Ko tetahi o nga painga nui o te RAFT ko tona pakari ki te whakahoki mai i nga hapa. Ma te whakangungu i te tauira me te ranunga o nga tuhinga e tika ana me nga tuhinga kore, ka whakanuia e te RAFT te kaha o te tauira ki te mohio me te whakarite i nga korero e tika ana, ahakoa ka whakahoki mai te waahanga tango i nga hua iti.

I whakaatuhia e nga kaituhi ko te whakatikatika me nga tuhinga oracle anake ka iti ake te mahi ka whakaritea ki nga whirihoranga kei roto nga tuhinga whakararuraru. Ko tenei kitenga e whakaatu ana i te hiranga o te whakaatu i te tauira ki nga ahuatanga whakahokinga rereke i te wa e whakangungu ana, me te whakarite kia rite mo nga tono o te ao.

Nga Tono Mahi me nga Arahanga Ake

He nui nga paanga o te tikanga RAFT mo te whānuitanga o nga mahi whaihua, tae atu ki:

1. Pūnaha Whakautu Uiui: Ka taea te whakamahi RAFT ki te hanga i nga punaha whakautu patai tino tika me te rohe-motuhake, ma te whakamahi i nga matauranga ako o te tauira me nga puna matauranga o waho.
2. Whakahaere Matauranga Hinengaro: Ka taea e nga whakahaere whai turanga matauranga nui te whakamahi i te RAFT ki te whakawhanake i nga punaha whakautu patai, e taea ai e nga kaimahi te uru tere me te whakamahi i nga korero e tika ana.
3. Te Rangahau Hauora me te Rangahau Putaiao: Ka tino whai hua te RAFT ki nga waahi penei i te rangahau rongoa koiora, he mea tino nui te uru ki nga kitenga hou me nga tuhinga mo te ahu whakamua i te maaramatanga putaiao.
4. Ratonga Ture me te Putea: Ka taea e te RAFT te awhina i nga tohunga ngaio i roto i enei mara ma te tuku whakautu tika me te mohio ki te horopaki i runga i nga tuhinga ture e tika ana, i nga purongo putea ranei.

I te wa e haere tonu ana te rangahau i tenei wahanga, ka taea e tatou te tumanako kia nui ake nga ahunga whakamua me nga whakapainga ki te tikanga RAFT. Ko nga huarahi pea kei te heke mai ko:

1. Te torotoro i nga waahanga tangohanga pai ake, whai hua hoki, he mea whakarite mo nga waahi motuhake, mo nga hanganga tuhinga ranei.
2. Te tuitui o nga korero-maha, penei i nga whakaahua, i nga ripanga ranei, ki roto i te anga RAFT kia pai ake te maarama ki te horopaki.
3. Te whakawhanaketanga o nga hoahoanga whakaaro motuhake e pai ake ai te whakamahi i nga whakamaarama o nga mekameka-whakaaro i hangaia i te wa whakangungu.
4. Te urutaunga o te RAFT ki etahi atu mahi reo maori i tua atu i te whakautu patai, penei i te whakarāpopototanga, te whakamaori, me nga punaha korero.

Opaniraa

Ko te RAFT e tohu ana i te tino pekepeke whakamua i roto i te waahi o te whakautu patai mo te rohe me nga tauira reo. Ma te whakakotahi pai i nga kaha o te whakatipuranga tiki-whakanui me te whakatikatika pai, ka whakakiia e te RAFT nga LLM me te kaha ki te whai hua i nga puna matauranga o waho me te whakahāngai i o raatau putanga ki nga tauira me nga manakohanga motuhake.

Na roto i tana whakamaaramatanga raraunga whakangungu auaha, te whakaurunga o nga whakaaro mekameka-a-whakaaro, me te pakari ki te whakahoki mai i nga ngoikoretanga, ka tukuna e te RAFT tetahi otinga kaha mo nga whakahaere me nga kairangahau e whai ana ki te whakatuwhera i te kaha o nga LLM ki nga rohe motuhake.

I te mea kei te tipu haere tonu te hiahia mo nga kaha tukatuka reo maori motuhake mo nga rohe, ka whai waahi nui nga tikanga penei i te RAFT ki te whakaahei i nga tauira reo tika ake, te mohio ki te horopaki, me te urutau, te para i te huarahi mo te wa kei te heke mai ka tino pono te whakawhitiwhiti korero a te tangata-miihini. korekore me te rohe-agnostic.