Արդյո՞ք GPT-4-ը մեզ կմոտեցնի AI-ի իրական հեղափոխությանը:

GPT-3-ի ներդրումից գրեթե երեք տարի է անցել՝ դեռևս 2020 թվականի մայիսին: Այդ ժամանակից ի վեր, AI տեքստի ստեղծման մոդելը մեծ հետաքրքրություն է առաջացրել իր ունակության համար՝ ստեղծելու այնպիսի տեքստ, որը կարծես թե գրված է մարդու կողմից: Այժմ թվում է, թե ծրագրաշարի հաջորդ կրկնությունը՝ GPT-4-ը, հենց անկյունում է, որի թողարկման մոտավոր ամսաթիվը կլինի 2023 թվականի սկզբին:

Չնայած այս AI նորությունների խիստ սպասված բնույթին, GPT-4-ի ճշգրիտ մանրամասները բավականին ուրվագծային են: OpenAI-ը՝ GPT-4-ի ետևում գտնվող ընկերությունը, հրապարակայնորեն չի հրապարակել նոր մոդելի մասին շատ տեղեկություններ, ինչպիսիք են դրա առանձնահատկությունները կամ կարողությունները: Այնուամենայնիվ, AI-ի ոլորտում վերջին առաջընթացը, հատկապես բնական լեզվի մշակման (NLP) հետ կապված, կարող է որոշ հուշումներ առաջարկել այն մասին, թե ինչ կարող ենք ակնկալել GPT-4-ից:

Ի՞նչ է GPT-ն:

Նախքան մանրամասներին անցնելը, օգտակար է նախ հիմնավորել այն, թե ինչ է GPT-ն: GPT-ն նշանակում է Generative Pre-trained Transformer և վերաբերում է խորը ուսուցման նեյրոնային ցանցի մոդելին, որը վերապատրաստվում է ինտերնետից հասանելի տվյալների վրա՝ մեքենայով ստեղծվող տեքստի մեծ ծավալներ ստեղծելու համար: GPT-3-ը այս տեխնոլոգիայի երրորդ սերունդն է և ներկայումս հասանելի AI-ի տեքստային սերնդի ամենաառաջադեմ մոդելներից մեկն է:

Մտածեք GPT-3-ի մասին, քանի որ այն աշխատում է մի փոքր, ինչպես ձայնային օգնականները, ինչպիսիք են Siri-ն կամ Alexa-ն, միայն շատ ավելի մեծ մասշտաբով: Alexa-ին խնդրելու՝ նվագել ձեր սիրած երգը կամ Siri-ին մուտքագրել ձեր տեքստը, կարող եք խնդրել GPT-3-ին գրել մի ամբողջ էլեկտրոնային գիրք ընդամենը մի քանի րոպեում կամ ստեղծել 100 սոցիալական ցանցերում գրառման գաղափարներ մեկ րոպեի ընթացքում: Այն ամենը, ինչ օգտատերը պետք է անի, այն է, որ տրամադրի այնպիսի հուշում, ինչպիսին է՝ «Գրիր ինձ 500 բառանոց հոդված ստեղծագործականության կարևորության մասին»: Քանի դեռ հուշումը պարզ է և կոնկրետ, GPT-3-ը կարող է գրել այն ամենի մասին, ինչ խնդրում եք:

Լայն հանրության համար թողարկվելուց ի վեր GPT-3-ը գտել է բազմաթիվ բիզնես հավելվածներ: Ընկերությունները օգտագործում են այն տեքստի ամփոփման, լեզվի թարգմանության, կոդերի ստեղծման և գրեթե ցանկացած գրավոր առաջադրանքի լայնածավալ ավտոմատացման համար:

Ասել է թե, թեև GPT-3-ը, անկասկած, շատ տպավորիչ է մարդուն նման շատ ընթեռնելի տեքստ ստեղծելու ունակությամբ, այն հեռու է կատարյալ լինելուց: Խնդիրները սովորաբար ի հայտ են գալիս, երբ հուշում են գրել ավելի երկար կտորներ, հատկապես, երբ խոսքը վերաբերում է բարդ թեմաներին, որոնք խորաթափանցություն են պահանջում: Օրինակ, վեբկայքի համար համակարգչային կոդ ստեղծելու հուշումը կարող է վերադարձնել ճիշտ, բայց ոչ օպտիմալ կոդ, ուստի մարդկային կոդավորիչը դեռ պետք է մտնի և բարելավումներ կատարի: Նման խնդիր է տեքստային մեծ փաստաթղթերի դեպքում. որքան մեծ է տեքստի ծավալը, այնքան ավելի հավանական է, որ սխալները, երբեմն զվարթ, հայտնվեն, որոնք պետք է ուղղվեն մարդու կողմից:

Պարզ ասած, GPT-3-ը մարդու գրողների կամ կոդավորողների ամբողջական փոխարինումը չէ, և այն չպետք է ընկալվի որպես մեկը: Փոխարենը, GPT-3-ը պետք է դիտարկվի որպես գրավոր օգնական, որը կարող է մարդկանց շատ ժամանակ խնայել, երբ նրանք պետք է գեներացնեն բլոգային գրառումների գաղափարներ կամ կոպիտ ուրվագծեր գովազդային պատճենների կամ մամուլի հաղորդագրությունների համար:

Ավելի շատ պարամետրեր = ավելի լավ:

AI մոդելների մասին հասկանալի մի բան այն է, թե ինչպես են նրանք օգտագործում պարամետրերը կանխատեսումներ անելու համար: AI մոդելի պարամետրերը սահմանում են ուսուցման գործընթացը և ապահովում են արդյունքի կառուցվածքը: Արհեստական ​​ինտելեկտի մոդելի պարամետրերի քանակը սովորաբար օգտագործվում է որպես կատարողականության չափանիշ: Որքան շատ են պարամետրերը, այնքան ավելի հզոր, սահուն և կանխատեսելի է մոդելը, համենայն դեպս, համաձայն մասշտաբային վարկած.

Օրինակ, երբ GPT-1-ը թողարկվեց 2018 թվականին, այն ուներ 117 միլիոն պարամետր։ Մեկ տարի անց թողարկված GPT-2-ն ուներ 1.2 միլիարդ պարամետր, մինչդեռ GPT-3-ը այդ թիվը նույնիսկ ավելի բարձրացրեց մինչև 175 միլիարդ պարամետր: Համաձայն 2021 թվականի օգոստոսի հարցազրույցի WiredԷնդրյու Ֆելդմանը, Cerebras ընկերության հիմնադիրն ու գործադիր տնօրենը, որը համագործակցում է OpenAI-ի հետ, նշեց, որ GPT-4-ը կունենա մոտ 100 տրիլիոն պարամետր։ Սա GPT-4-ը կդարձնի 100 անգամ ավելի հզոր, քան GPT-3-ը, պարամետրի չափի քվանտային թռիչք, որը, հասկանալի է, շատ մարդկանց շատ հուզել է:

Այնուամենայնիվ, չնայած Ֆելդմանի բարձր պնդումներին, կան հիմնավոր պատճառներ մտածելու, որ GPT-4-ը իրականում չի ունենա 100 տրիլիոն պարամետր: Որքան մեծ է պարամետրերի թիվը, այնքան ավելի թանկ է դառնում մոդելի վերապատրաստումը և ճշգրտումը, քանի որ պահանջվում է հաշվողական հզորության հսկայական քանակություն:

Բացի այդ, կան ավելի շատ գործոններ, քան մոդելի արդյունավետությունը որոշող պարամետրերի քանակը: Օրինակ վերցրեք Megatron-Turing NLGNvidia-ի և Microsoft-ի կողմից ստեղծված տեքստային սերնդի մոդել, որն ունի ավելի քան 500 միլիարդ պարամետր։ Չնայած իր չափսերին, MT-NLG-ն արդյունավետությամբ չի մոտենում GPT-3-ին: Մի խոսքով, ավելի մեծը չի նշանակում, որ ավելի լավ է:

Հավանականությունը մեծ է, որ GPT-4-ն իսկապես կունենա ավելի շատ պարամետրեր, քան GPT-3-ը, բայց դեռ պետք է պարզել, թե արդյոք այդ թիվը մի կարգով ավելի մեծ կլինի: Փոխարենը, կան այլ ինտրիգային հնարավորություններ, որոնք ամենայն հավանականությամբ հետապնդում է OpenAI-ն, օրինակ՝ ավելի նիհար մոդելը, որը կենտրոնանում է ալգորիթմական ձևավորման և հավասարեցման որակական բարելավումների վրա: Նման բարելավումների ճշգրիտ ազդեցությունը դժվար է կանխատեսել, բայց հայտնի է, որ նոսր մոդելը կարող է նվազեցնել հաշվողական ծախսերը պայմանական հաշվարկի միջոցով, այսինքն՝ արհեստական ​​ինտելեկտի մոդելի ոչ բոլոր պարամետրերն են անընդհատ աշխատում, ինչը նման է. ինչպես են գործում նեյրոնները մարդու ուղեղում:

Այսպիսով, ի՞նչ կկարողանա անել GPT-4-ը:

Քանի դեռ OpenAI-ը հանդես չի եկել նոր հայտարարությամբ կամ նույնիսկ թողարկել GPT-4-ը, մենք մնում ենք ենթադրելու, թե ինչպես է այն տարբերվելու GPT-3-ից: Անկախ նրանից, մենք կարող ենք որոշ կանխատեսումներ անել

Չնայած AI խորը ուսուցման զարգացման ապագան բազմամոդալ է, GPT-4-ը, հավանաբար, կմնա միայն տեքստային: Որպես մարդիկ՝ մենք ապրում ենք բազմազգայական աշխարհում, որը լցված է տարբեր ձայնային, վիզուալ և տեքստային մուտքերով: Հետևաբար, անխուսափելի է, որ AI-ի զարգացումը ի վերջո կստեղծի մուլտիմոդալ մոդել, որը կարող է ներառել տարբեր մուտքեր:

Այնուամենայնիվ, լավ մուլտիմոդալ մոդելը զգալիորեն ավելի դժվար է նախագծել, քան միայն տեքստային մոդելը: Տեխնոլոգիան պարզապես դեռ չկա, և հիմնվելով այն ամենի վրա, ինչ մենք գիտենք պարամետրի չափի սահմանափակումների մասին, հավանական է, որ OpenAI-ը կենտրոնացած է միայն տեքստային մոդելի ընդլայնման և կատարելագործման վրա:

Հավանական է նաև, որ GPT-4-ը ավելի քիչ կախված կլինի ճշգրիտ հուշումներից: GPT-3-ի թերություններից մեկն այն է, որ տեքստային հուշումները պետք է ուշադիր գրվեն՝ ձեր ուզած արդյունքը ստանալու համար: Երբ հուշումները խնամքով գրված չեն, դուք կարող եք ելքեր ստանալ, որոնք չեն համապատասխանում իրականությանը, թունավոր կամ նույնիսկ արտացոլում են ծայրահեղական հայացքները: Սա «հավասարեցման խնդիր» կոչվողի մի մասն է և վերաբերում է AI մոդելի ստեղծման մարտահրավերներին, որը լիովին հասկանում է օգտագործողի մտադրությունները: Այլ կերպ ասած, AI մոդելը չի ​​համապատասխանում օգտատիրոջ նպատակներին կամ մտադրություններին: Քանի որ արհեստական ​​ինտելեկտի մոդելները ուսուցանվում են ինտերնետից տեքստային տվյալների հավաքածուների միջոցով, մարդկային կողմնակալությունների, կեղծիքների և նախապաշարմունքների համար շատ հեշտ է գտնել իրենց ճանապարհը դեպի տեքստային արդյունքներ:

Ասել է թե՝ լավ պատճառներ կան ենթադրելու, որ մշակողները առաջընթաց են գրանցում հավասարեցման խնդրի շուրջ: Այս լավատեսությունը գալիս է InstructGPT-ի մշակման որոշ առաջընթացներից՝ GPT-3-ի ավելի առաջադեմ տարբերակով, որը պատրաստված է մարդկային արձագանքների վրա՝ ավելի ուշադիր հետևելու հրահանգներին և օգտվողի մտադրություններին: Մարդկային դատավորները պարզեցին, որ InstructGPT-ն շատ ավելի քիչ է կախված, քան GPT-3-ը լավ հուշումներից:

Այնուամենայնիվ, հարկ է նշել, որ այս թեստերն անցկացվել են միայն OpenAI-ի աշխատակիցների հետ, բավականին միատարր խումբ, որը կարող է շատ չտարբերվել սեռով, կրոնական կամ քաղաքական հայացքներով: Հավանաբար անվտանգ խաղադրույք է, որ GPT-4-ը կանցնի ավելի բազմազան ուսուցում, որը կբարելավի դասավորվածությունը տարբեր խմբերի համար, թեև որքանով դեռ պետք է պարզել:

GPT-4-ը կփոխարինի մարդկանց?

Չնայած GPT-4-ի խոստմանը, քիչ հավանական է, որ այն ամբողջությամբ փոխարինի մարդկային գրողների և կոդավորողների կարիքը: Դեռ շատ աշխատանք կա անելու ամեն ինչի վրա՝ պարամետրերի օպտիմալացումից մինչև բազմամոդալություն և հավասարեցում: Հնարավոր է, որ շատ տարիներ անցնեն, մինչև մենք տեսնենք տեքստի գեներատոր, որը կարող է հասնել իրական կյանքի փորձի բարդությունների և նրբությունների իրական մարդկային ըմբռնմանը:

Չնայած դրան, դեռևս կան լավ պատճառներ GPT-4-ի գալուստով ոգևորվելու համար: Պարամետրերի օպտիմիզացումը, այլ ոչ թե պարամետրերի զուտ աճը, հավանաբար կհանգեցնի արհեստական ​​ինտելեկտի մոդելի, որն ունի շատ ավելի մեծ հաշվողական հզորություն, քան իր նախորդը: Եվ բարելավված հավասարեցումը, ամենայն հավանականությամբ, GPT-4-ը կդարձնի շատ ավելի հարմար օգտագործողի համար:

Բացի այդ, մենք դեռ միայն AI գործիքների մշակման և ընդունման սկզբում ենք: Անընդհատ հայտնաբերվում են տեխնոլոգիայի օգտագործման ավելի շատ դեպքեր, և քանի որ մարդիկ ավելի շատ վստահություն և հարմարավետություն են ձեռք բերում աշխատավայրում արհեստական ​​ինտելեկտի օգտագործման հետ կապված, մոտակա տարիներին մենք ականատես կլինենք AI գործիքների լայն կիրառմանը գրեթե բոլոր բիզնես ոլորտում: