Ar GPT-4 yra žingsnis į priekį siekiant AGI?

„Microsoft“ neseniai išleido mokslinį darbą pavadinimu: Bendrojo dirbtinio intelekto kibirkštys: ankstyvieji eksperimentai su GPT-4. Kaip apibūdino „Microsoft“:

Šis popierius praneša apie mūsų tyrimą dėl ankstyvos GPT-4 versijos, kai ji vis dar buvo aktyviai kuriama OpenAI. Mes tvirtiname, kad (ši ankstyvoji GPT-4 versija) yra naujos LLM grupės dalis (kartu, pavyzdžiui, „ChatGPT“ ir „Google“ PaLM), kurios pasižymi bendresniu intelektu nei ankstesni AI modeliai.

Šiame dokumente yra įtikinamų įrodymų, kad GPT-4 yra daug daugiau nei įsiminimas ir kad jis turi gilų ir lankstų sąvokų, įgūdžių ir sričių supratimą. Tiesą sakant, jo gebėjimas apibendrinti gerokai pranoksta bet kurio šiandien gyvenančio žmogaus gebėjimą.

Nors anksčiau aptarėme AGI pranašumai, turėtume greitai apibendrinti bendrą sutarimą, kas yra AGI sistema. Iš esmės AGI yra pažangaus AI tipas, kuris gali būti apibendrintas keliose srityse ir nėra siauras. Siauros AI pavyzdžiai yra autonominė transporto priemonė, pokalbių robotas, šachmatų robotas arba bet koks kitas DI, sukurtas vienam tikslui.

Palyginimui, AGI galėtų lanksčiai kaitalioti bet kurią iš aukščiau išvardytų ar bet kurią kitą kompetencijos sritį. Tai AI, kuris pasinaudotų atsirandančiais algoritmais, tokiais kaip perduoti mokymąsi, ir evoliucinis mokymasis, taip pat naudojant senus algoritmus, tokius kaip gilaus sustiprinimo mokymasis.

Aukščiau pateiktas AGI aprašymas atitinka mano asmeninę patirtį naudojant GPT-4, taip pat įrodymus, kuriais dalijamasi tyrimo dokumente, kurį išleido Microsoft.

Vienas iš straipsnyje nurodytų raginimų yra GPT-4 eilėraščio pavidalu parašyti pirminių skaičių begalybės įrodymą.

Analizuodami tokio eilėraščio kūrimo reikalavimus suprastume, kad tam reikia matematinio samprotavimo, poetinės raiškos ir natūralios kalbos generavimo. Tai iššūkis, kuris viršytų vidutines daugumos žmonių galimybes.

Straipsnyje norėta suprasti, ar GPT-4 paprasčiausiai kuria turinį, pagrįstą bendru įsiminimu, o ne konteksto supratimu ir gebėjimu samprotauti. Kai buvo paprašyta atkurti eilėraštį Šekspyro stiliumi, jis sugebėjo tai padaryti. Tam reikalingas daugialypis supratimo lygis, kuris gerokai viršija bendrosios populiacijos gebėjimus ir apima proto teoriją bei matematinį genialumą.

Kaip apskaičiuoti GPT-4 intelektą?

Tada kyla klausimas, kaip galime išmatuoti LLM intelektą? Ir ar GPT-4 rodo tikro mokymosi elgseną ar tik įsiminimą?

Dabartinis AI sistemos testavimo būdas yra įvertinti sistemą pagal standartinių etaloninių duomenų rinkinių rinkinį ir užtikrinti, kad jie būtų nepriklausomi nuo mokymo duomenų ir apimtų įvairias užduotis bei sritis. Šio tipo bandymai yra beveik neįmanomi dėl beveik neriboto duomenų kiekio, kurį apmokė GPT-4.

Straipsnyje aptariamas naujų ir sudėtingų užduočių/klausimų kūrimas, kurie įtikinamai parodo, kad GPT-4 yra daug daugiau nei įsiminimas ir kad jis turi gilų ir lankstų sąvokų, įgūdžių ir sričių supratimą.

Kalbant apie intelektą, GPT-4 gali generuoti trumpas istorijas, scenarijus ir apskaičiuoti sudėtingiausias formules.

GPT-4 taip pat gali koduoti labai aukštu lygiu, tiek rašant kodą iš instrukcijų, tiek suprantant esamą kodą. GPT-4 gali atlikti daugybę kodavimo užduočių, nuo
kodavimo iššūkiai realaus pasaulio programoms, nuo žemo lygio surinkimo iki aukšto lygio sistemų, nuo paprastų duomenų struktūrų iki sudėtingų programų, tokių kaip žaidimai. GPT-4 taip pat gali motyvuoti kodo vykdymą, imituoti instrukcijų poveikį ir paaiškinti rezultatus natūralia kalba. GPT-4 netgi gali vykdyti pseudokodą,

GPT-4 gali pasiūlyti racionalius atsakymus į beveik bet kurį pateiktą raginimą. Tiesą sakant, jo intelektas yra beveik nenugalimas dėl savo sudėtingumo.

GPT-4 apribojimai

Straipsnyje toliau aprašoma, kaip jie tyrė GPT-4 atsakymus ir elgesį, kad patikrintų jo nuoseklumą, nuoseklumą ir teisingumą bei atskleistų jo apribojimus ir šališkumą.

Akivaizdžiausias apribojimas yra jo polinkis į haliucinacijas. Štai haliucinacijos pavyzdys, pateiktas straipsnyje, kur GPT-4 buvo įsitikinęs savo atsakymu, kuris buvo visiškai klaidingas.

Atrodo, kad net GPT-4 supranta šį dabartinį haliucinacijų apribojimą, nes tai buvo atsakymas, kai paklausiau, kas yra GPT haliucinacijos:

GPT haliucinacija reiškia reiškinį, kai generatyvaus iš anksto apmokyto transformatoriaus (GPT) modelis, kaip ir tas, su kuriuo šiuo metu bendraujate, sukuria atsakymą, kuris nėra pagrįstas faktine informacija arba nesuderinamas su pateiktu kontekstu. Šios haliucinacijos atsiranda, kai modelis generuoja tekstą, kuris gali atrodyti tikėtinas, bet iš tikrųjų yra neteisingas, klaidinantis arba beprasmis.

Kitaip tariant, kai mokote LLM AI naudotis pasaulio duomenimis, kaip išvengti, kad sistema mokytųsi neteisingų duomenų? Didelis kalbų modelis, besimokantis ir pritraukiantis dezinformaciją bei sąmokslo teorijas, iš tikrųjų gali būti viena didžiausių spąstų ir grėsmių, su kuriomis susiduria žmonija, plačiai pritaikant LLM. Tai iš tikrųjų gali būti viena iš didesnių AGI grėsmių, kurios stebėtinai nepastebima aptariant AGI pavojus.

GPT-4 intelekto įrodymai

Straipsnyje iliustruojama, kad nesvarbu, kokio tipo sudėtingi raginimai buvo nukreipti į jį, GPT-4 viršys lūkesčius. Kaip rašoma popieriuje:

Jo neprilygstamas natūralios kalbos įvaldymas. Jis gali ne tik sukurti sklandų ir nuoseklų tekstą, bet ir suprasti bei įvairiais būdais juo manipuliuoti, pavyzdžiui, apibendrinti, išversti ar atsakyti į itin platų klausimų rinkinį. Be to, verčiant turime omenyje ne tik tarp skirtingų natūralių kalbų, bet ir vertimus tonu bei stiliumi, taip pat įvairiose srityse, tokiose kaip medicina, teisė, apskaita, kompiuterių programavimas, muzika ir kt.

GPT-4 buvo pateiktos netikros techninės apžvalgos, todėl šiame kontekste, jei tai būtų žmogus, jis būtų iš karto pasamdytas programinės įrangos inžinieriumi. Panašus preliminarus GPT-4 kompetencijos testas daugiašalio baro egzamino metu parodė, kad tikslumas viršija 70%. Tai reiškia, kad ateityje galėtume automatizuoti daugelį užduočių, kurios šiuo metu teikiamos teisininkams. Tiesą sakant, yra keletas startuolių, kurie dabar kuria robotus teisininkus naudojant GPT-4.

Naujų žinių kūrimas

Vienas iš dokumente pateiktų argumentų yra tai, kad vienintelis dalykas, kurį GPT-4 turi įrodyti tikrąjį supratimo lygį, yra sukurti naujas žinias, pavyzdžiui, įrodyti naujas matematines teoremas, o tai šiuo metu LLM nepasiekiama.

Vėlgi, tai yra AGI šventasis gralis. Nors AGI yra valdomas netinkamose rankose, kyla pavojus, kad AGI gali greitai išanalizuoti visus istorinius duomenis ir atrasti naujų teoremų, gydymo būdų ir gydymo būdų yra beveik begalinė.

AGI galėtų būti trūkstama grandis ieškant vaistų nuo retų genetinių ligų, kurioms šiuo metu trūksta privačios pramonės finansavimo, siekiant išgydyti vėžį kartą ir visiems laikams ir maksimaliai padidinti atsinaujinančios energijos efektyvumą, kad būtų pašalinta mūsų priklausomybė nuo netvarios energijos. Tiesą sakant, tai gali išspręsti bet kokią iš to kylančią problemą, kuri yra įtraukta į AGI sistemą. Tai supranta Samas Altmanas ir OpenAI komanda AGI tikrai yra paskutinis išradimas to reikia norint išspręsti daugumą problemų ir gauti naudos žmonijai.

Žinoma, tai neišsprendžia branduolinio mygtuko problemos, kas valdo AGI ir kokie jų ketinimai. Nepriklausomai nuo to popierius atlieka fenomenalų darbą teigdamas, kad GPT-4 yra šuolis į priekį siekiant svajonės, kurią turėjo dirbtinio intelekto tyrinėtojai nuo 1956, kai pirmą kartą buvo pradėtas pradinis Dartmuto vasaros tyrimų projektas dėl dirbtinio intelekto vasaros seminaras.

Nors ginčytina, ar GPT-4 yra AGI, galima nesunkiai teigti, kad pirmą kartą žmonijos istorijoje tai yra dirbtinio intelekto sistema, galinti išlaikyti Tiuringo testas.