AI-ն սովորում է AI-ից. սոցիալական ուսուցման առաջացումը մեծ լեզուների մոդելների մեջ

OpenAI-ի բացահայտումից ի վեր ChatGPT3.5 2022-ի վերջին դերը հիմն մեծ լեզվի մոդելներ (LLMs) ավելի ու ավելի հայտնի է դարձել արհեստական ​​ինտելեկտի (AI) ոլորտում, մասնավորապես բնական լեզվով մշակման գործընթացը (NLP): Այս LLM-ները, որոնք նախատեսված են մարդու նման տեքստ մշակելու և գեներացնելու համար, սովորում են ինտերնետից տեքստերի լայն տեսականիից՝ սկսած գրքերից մինչև կայքեր: Այս ուսուցման գործընթացը թույլ է տալիս նրանց ընկալել մարդկային լեզվի էությունը, ինչը թույլ է տալիս LLM-ներին թվալ որպես ընդհանուր նպատակի խնդիրներ լուծողներ:

Թեև LLM-ների զարգացումը նոր դռներ է բացել, այս մոդելները հատուկ կիրառությունների համար հարմարեցնելու մեթոդը, որը հայտնի է որպես. նուրբ կարգավորում- բերում է իր մարտահրավերների շարքը: Մոդելի ճշգրտումը պահանջում է լրացուցիչ ուսուցում ավելի կենտրոնացված տվյալների հավաքածուների վերաբերյալ, ինչը կարող է հանգեցնել այնպիսի դժվարությունների, ինչպիսիք են պիտակավորված տվյալների պահանջը, ռիսկը: մոդելի շեղում և գերհարմարեցում, և զգալի ռեսուրսների անհրաժեշտությունը։

Անդրադառնալով այս մարտահրավերներին՝ Google-ի հետազոտողները վերջերս որդեգրել են «sսոցիալական ուսուցումօգնելու AI-ին սովորել AI-ից: Հիմնական գաղափարն այն է, որ երբ LLM-ները վերածվում են չաթ-բոտերի, նրանք կարող են փոխազդել և սովորել միմյանցից այնպես, ինչպես մարդկային սոցիալական ուսուցումը: Այս փոխազդեցությունը նրանց հնարավորություն է տալիս սովորել միմյանցից՝ դրանով իսկ բարելավելով դրանց արդյունավետությունը:

Ի՞նչ է սոցիալական ուսուցումը:

Սոցիալական ուսուցումը նոր գաղափար չէ: Այն հիմնված է 1970-ականների տեսության վրա Ալբերտ Բանդուրա, որն առաջարկում է մարդկանց սովորել ուրիշներին դիտելուց: Այս հայեցակարգը, որը կիրառվում է AI-ի նկատմամբ, նշանակում է, որ AI համակարգերը կարող են կատարելագործվել՝ փոխազդելով միմյանց հետ՝ սովորելով ոչ միայն անմիջական փորձից, այլև հասակակիցների գործողություններից: Այս մեթոդը խոստանում է ավելի արագ հմտություններ ձեռք բերել և նույնիսկ կարող է թույլ տալ, որ AI համակարգերը զարգացնեն իրենց «մշակույթը»՝ կիսելով գիտելիքները:

Ի տարբերություն AI-ի ուսուցման այլ մեթոդների, ինչպիսիք են փորձարկումներն ու սխալները ամրապնդման ուսուցում or իմիտացիոն ուսուցում ուղղակի օրինակներից սոցիալական ուսուցումը շեշտը դնում է փոխազդեցության միջոցով սովորելու վրա: Այն առաջարկում է արհեստական ​​ինտելեկտի համար նոր հմտություններ ձեռք բերելու ավելի գործնական և ընդհանուր եղանակ:

Սոցիալական ուսուցում LLM-ներում

Սոցիալական ուսուցման կարևոր ասպեկտը գիտելիքների փոխանակումն է՝ առանց օրիգինալ և զգայուն տեղեկատվության փոխանակման: Որպես այդպիսին, հետազոտողները կիրառել են ուսուցիչ-աշակերտ դինամիկա, որտեղ ուսուցչի մոդելները հեշտացնում են աշակերտի մոդելների ուսուցման գործընթացը՝ առանց որևէ գաղտնի մանրամասներ բացահայտելու: Այս նպատակին հասնելու համար ուսուցչի մոդելները ստեղծում են սինթետիկ օրինակներ կամ ուղղություններ, որոնցից աշակերտների մոդելները կարող են սովորել՝ առանց իրական տվյալների փոխանակման: Օրինակ՝ դիտարկեք ուսուցչի մոդել, որը վերապատրաստվել է սպամ և ոչ սպամ տեքստային հաղորդագրությունների տարբերակման վերաբերյալ՝ օգտագործելով օգտվողների կողմից նշված տվյալները: Եթե ​​մենք ցանկանում ենք, որ մեկ այլ մոդել յուրացնի այս առաջադրանքը` առանց դիպչելու բնօրինակ, մասնավոր տվյալներին, գործի է դրվում սոցիալական ուսուցումը: Ուսուցչի մոդելը կարող է ստեղծել սինթետիկ օրինակներ կամ տրամադրել պատկերացումներ՝ հիմնված իր գիտելիքների վրա՝ հնարավորություն տալով ուսանողի մոդելին ճշգրիտ նույնականացնել սպամ հաղորդագրությունները՝ առանց զգայուն տվյալների անմիջական ազդեցության: Այս ռազմավարությունը ոչ միայն բարձրացնում է ուսուցման արդյունավետությունը, այլև ցույց է տալիս LLM-ների համար դինամիկ, հարմարվողական ձևերով սովորելու ներուժը՝ պոտենցիալ ձևավորելով կոլեկտիվ գիտելիքների մշակույթ: Այս մոտեցման կարևոր առանձնահատկությունն այն է, որ նա ապավինում է սինթետիկ օրինակներին և մշակված հրահանգներին: Ստեղծելով նոր, տեղեկատվական օրինակներ, որոնք տարբերվում են սկզբնական տվյալներից՝ ուսուցչի մոդելները կարող են պահպանել գաղտնիությունը՝ միևնույն ժամանակ ուղղորդելով ուսանողների մոդելները դեպի արդյունավետ ուսուցում: Այս մոտեցումը արդյունավետ է եղել՝ հասնելով փաստացի տվյալների հիման վրա ստացված արդյունքների:

Ինչպե՞ս է սոցիալական ուսուցումը լուծում ճշգրտման մարտահրավերներին:

Սոցիալական ուսուցումն առաջարկում է հատուկ առաջադրանքների համար LLM-ները կատարելագործելու նոր միջոց: Այն օգնում է հաղթահարել ճշգրտման մարտահրավերները հետևյալ եղանակներով.

1. Պիտակավորված տվյալների ավելի քիչ կարիք. Սովորելով մոդելների միջև համօգտագործվող սինթետիկ օրինակներից՝ սոցիալական ուսուցումը նվազեցնում է կախվածությունը դժվար հասանելի պիտակավորված տվյալների վրա:
2. Չափից ավելի մասնագիտացումից խուսափելը. Այն մոդելները դարձնում է բազմակողմանի՝ դրանք ներկայացնելով օրինակների ավելի լայն շրջանակի, քան փոքր, հատուկ տվյալների հավաքածուներում:
3. Չափազանցման նվազեցում. Սոցիալական ուսուցումն ընդլայնում է ուսուցման փորձը՝ օգնելով մոդելներին ավելի լավ ընդհանրացնել և խուսափել չափից ավելի հարմարեցումից:
4. Ռեսուրսների խնայողություն. Այս մոտեցումը թույլ է տալիս ավելի արդյունավետ օգտագործել ռեսուրսները, քանի որ մոդելները սովորում են միմյանց փորձից՝ առանց տվյալների մեծ հավաքածուների անմիջական մուտքի կարիք ունենալու:

Ապագա ուղղությունները

Սոցիալական ուսուցման ներուժը LLM-ներում առաջարկում է տարբեր հետաքրքիր և բովանդակալից ուղիներ ապագա AI հետազոտության համար.

1. Հիբրիդ AI մշակույթներՔանի որ LLM-ները մասնակցում են սոցիալական ուսուցմանը, նրանք կարող են սկսել ձևավորել ընդհանուր մեթոդաբանություններ: Հետազոտություններ կարող են իրականացվել՝ ուսումնասիրելու արհեստական ​​ինտելեկտի այս ձևավորվող «մշակույթների» ազդեցությունը՝ ուսումնասիրելով դրանց ազդեցությունը մարդկային փոխազդեցությունների և առնչվող էթիկական խնդիրների վրա:
2. Cross-Modality LearningՍոցիալական ուսուցման ընդլայնումը տեքստից դուրս՝ ներառելով պատկերներ, ձայներ և այլն, կարող է հանգեցնել արհեստական ​​ինտելեկտի համակարգերի՝ աշխարհի մասին ավելի հարուստ ըմբռնմամբ, ինչպես որ մարդիկ սովորում են բազմաթիվ զգայարանների միջոցով:
3. Ապակենտրոն ուսուցումAI մոդելների գաղափարը, որոնք սովորում են միմյանցից ապակենտրոնացված ցանցում, ներկայացնում է գիտելիքների փոխանակումը մեծացնելու նոր միջոց: Սա կպահանջի լուծել համակարգման, գաղտնիության և անվտանգության զգալի մարտահրավերները:
4. Մարդ-AI փոխազդեցություն. Հնարավորություն կա ուսումնասիրելու, թե ինչպես մարդիկ և արհեստական ​​ինտելեկտը կարող են փոխադարձաբար օգուտ քաղել սոցիալական ուսուցումից, հատկապես կրթական և համագործակցային միջավայրերում: Սա կարող է վերասահմանել, թե ինչպես են տեղի ունենում գիտելիքի փոխանցումը և նորարարությունը:
5. Էթիկական AI զարգացումAI-ին սոցիալական ուսուցման միջոցով լուծելու էթիկական երկընտրանքների ուսուցումը կարող է քայլ լինել դեպի ավելի պատասխանատու AI: Ուշադրության կենտրոնում կլինի արհեստական ​​ինտելեկտի այնպիսի համակարգերի մշակումը, որոնք կարող են էթիկորեն տրամաբանել և համապատասխանեցնել հասարակության արժեքներին:
6. Ինքնակատարելագործվող համակարգերԷկոհամակարգը, որտեղ AI մոդելները շարունակաբար սովորում և կատարելագործվում են միմյանց փորձից, կարող է արագացնել AI-ի նորարարությունը: Սա հուշում է ապագա, որտեղ AI-ն կարող է ավելի ինքնավար կերպով հարմարվել նոր մարտահրավերներին:
7. Գաղտնիություն ուսուցման մեջAI մոդելների միջոցով, որոնք կիսում են գիտելիքները, հիմքում ընկած տվյալների գաղտնիության ապահովումը շատ կարևոր է: Ապագա ջանքերը կարող են ուսումնասիրել ավելի բարդ մեթոդներ՝ առանց տվյալների անվտանգության վտանգի ենթարկելու գիտելիքի փոխանցումը հնարավոր դարձնելու համար:

The Bottom Line

Google-ի հետազոտողները առաջ են քաշել նորարարական մոտեցում, որը կոչվում է սոցիալական ուսուցում Լեզուների խոշոր մոդելների (LLMs) շրջանում, որը ոգեշնչված է ուրիշներին դիտելուց սովորելու մարդկային կարողությունից: Այս շրջանակը թույլ է տալիս LLM-ներին կիսվել գիտելիքներով և բարելավել հնարավորությունները՝ առանց զգայուն տվյալների մուտք գործելու կամ բացահայտելու: Սինթետիկ օրինակներ և հրահանգներ ստեղծելով, LLM-ները կարող են արդյունավետորեն սովորել՝ լուծելով արհեստական ​​ինտելեկտի զարգացման հիմնական մարտահրավերները, ինչպիսիք են պիտակավորված տվյալների, գերմասնագիտացման, չափից ավելի հարմարեցման և ռեսուրսների սպառման անհրաժեշտությունը: Սոցիալական ուսուցումը ոչ միայն բարձրացնում է AI-ի արդյունավետությունն ու հարմարվողականությունը, այլև AI-ի համար հնարավորություններ է բացում զարգացնելու ընդհանուր «մշակույթներ», ներգրավվելու միջմոդալ ուսուցման մեջ, մասնակցելու ապակենտրոնացված ցանցերին, մարդկանց հետ նոր ձևերով շփվելու, էթիկական երկընտրանքների նավարկելու և գաղտնիություն ապահովելու համար: Սա նշանակալի տեղաշարժ է դեպի ավելի համագործակցային, բազմակողմանի և էթիկական AI համակարգեր՝ խոստանալով վերաիմաստավորել արհեստական ​​ինտելեկտի հետազոտության և կիրառման լանդշաֆտը: