Vai GPT-4 ir solis uz priekšu, lai sasniegtu AGI?

Microsoft nesen izlaida pētījumu ar nosaukumu: Mākslīgā vispārējā intelekta dzirksteles: agrīnie eksperimenti ar GPT-4. Kā aprakstījis Microsoft:

Šis dokuments ziņo par mūsu izmeklēšanu par GPT-4 agrīno versiju, kad OpenAI to vēl aktīvi izstrādāja. Mēs apgalvojam, ka (šī agrīnā versija) GPT-4 ir daļa no jaunas LLM grupas (kopā ar, piemēram, ChatGPT un Google PaLM), kas demonstrē vispārīgāku informāciju nekā iepriekšējie AI modeļi.

Šajā rakstā ir pārliecinoši pierādījumi, kas pierāda, ka GPT-4 sniedzas daudz tālāk par iegaumēšanu un ka tam ir dziļa un elastīga izpratne par jēdzieniem, prasmēm un jomām. Faktiski tās spēja vispārināt daudz pārsniedz jebkura mūsdienās dzīvojoša cilvēka spējas.

Kamēr mēs iepriekš apspriedām AGI priekšrocības, mums vajadzētu ātri apkopot vispārējo vienprātību par to, kas ir AGI sistēma. Būtībā AGI ir uzlabotas AI veids, ko var vispārināt vairākos domēnos un kura darbības joma nav šaura. Šaura AI piemēri ir autonoms transportlīdzeklis, tērzēšanas robots, šaha robots vai jebkurš cits AI, kas ir paredzēts vienam mērķim.

Salīdzinājumam AGI varētu elastīgi mainīt jebkuru no iepriekšminētajām vai citām kompetences jomām. Tas ir AI, kas izmantotu topošos algoritmus, piemēram, pārneses mācības, un evolucionāro mācīšanos, vienlaikus izmantojot arī mantotos algoritmus, piemēram, dziļa pastiprināšanas mācīšanās.

Iepriekš minētais AGI apraksts atbilst manai personīgajai pieredzei ar GPT-4 izmantošanu, kā arī pierādījumiem, kas ir kopīgoti Microsoft izdotajā pētnieciskajā dokumentā.

Viens no dokumentā izklāstītajiem norādījumiem ir GPT-4 dzejoļa veidā uzrakstīt pirmskaitļu bezgalības pierādījumu.

Ja analizējam prasības šāda dzejoļa radīšanai, mēs saprotam, ka tas prasa matemātisku spriešanu, poētisku izteiksmi un dabiskas valodas ģenerēšanu. Tas ir izaicinājums, kas pārsniegtu vairuma cilvēku vidējo spēju.

Raksts vēlējās saprast, vai GPT-4 vienkārši veido saturu, pamatojoties uz vispārēju iegaumēšanu, nevis konteksta izpratni un spēju pamatot. Kad viņam lūdza atjaunot dzejoli Šekspīra stilā, tas to varēja izdarīt. Tas prasa daudzšķautņainu izpratnes līmeni, kas ievērojami pārsniedz vispārējās populācijas spējas un ietver prāta teoriju un matemātisko ģēniju.

Kā aprēķināt GPT-4 intelektu?

Tad rodas jautājums, kā mēs varam izmērīt LLM intelektu? Un vai GPT-4 parāda patiesu mācīšanos vai tikai iegaumēšanu?

Pašreizējais mākslīgā intelekta sistēmas testēšanas veids ir sistēmas novērtēšana, izmantojot standarta etalondatu kopas, un nodrošināt, ka tās ir neatkarīgas no apmācības datiem un aptver virkni uzdevumu un jomu. Šāda veida testēšana ir gandrīz neiespējama, jo GPT-4 tika apmācīts gandrīz neierobežots datu daudzums.

Rakstā aplūkota jaunu un sarežģītu uzdevumu/jautājumu ģenerēšana, kas pārliecinoši parāda, ka GPT-4 sniedzas daudz tālāk par iegaumēšanu un ka tam ir dziļa un elastīga izpratne par jēdzieniem, prasmēm un jomām.

Runājot par izlūkošanu, GPT-4 var ģenerēt īsus stāstus, scenārijus un aprēķināt vissarežģītākās formulas.

GPT-4 spēj arī kodēt ļoti augstā līmenī gan koda rakstīšanas no instrukcijām, gan esošā koda izpratnes ziņā. GPT-4 var veikt plašu kodēšanas uzdevumu klāstu, sākot no
kodēšanas izaicinājumi reālās pasaules lietojumprogrammām, no zema līmeņa montāžas līdz augsta līmeņa ietvariem, no vienkāršām datu struktūrām līdz sarežģītām programmām, piemēram, spēlēm. GPT-4 var arī apsvērt koda izpildi, simulēt instrukciju efektus un izskaidrot rezultātus dabiskā valodā. GPT-4 var pat izpildīt pseidokodu,

GPT-4 var piedāvāt racionālas atbildes uz gandrīz jebkuru uzvedni. Faktiski tā inteliģence ir gandrīz neuzvarama savā sarežģītībā.

GPT-4 ierobežojumi

Pēc tam rakstā turpina aprakstīt, kā viņi pārbaudīja GPT-4 atbildes un uzvedību, lai pārbaudītu tā konsekvenci, saskaņotību un pareizību un atklātu tās ierobežojumus un novirzes.

Acīmredzamākais ierobežojums ir tā tendence uz halucinācijām. Šeit ir halucinācijas piemērs, kas sniegts rakstā, kur GPT-4 bija pārliecināts par atbildi, kas bija pilnīgi nepatiesa.

Šķiet, ka pat GPT-4 saprot šo pašreizējo halucināciju ierobežojumu, jo tā sniedza atbildi, kad jautāju, kas ir GPT halucinācijas:

GPT halucinācijas attiecas uz parādību, kad ģeneratīvā iepriekš apmācīta transformatora (GPT) modelis, tāpat kā tas, ar kuru jūs pašlaik mijiedarbojaties, rada reakciju, kas nav balstīta uz faktisku informāciju vai nav saskanīga ar sniegto kontekstu. Šīs halucinācijas rodas, kad modelis ģenerē tekstu, kas var šķist ticams, bet patiesībā ir nepareizs, maldinošs vai muļķīgs.

Citiem vārdiem sakot, apmācot LLM AI par pasaules datiem, kā izvairīties no tā, ka sistēma mācās nepareizus datus? Liela valodas modeļa apguve un dezinformācijas un sazvērestības teoriju uzkrāšanās patiesībā varētu būt viens no lielākajiem slazdiem un draudiem, ar ko cilvēce saskaras, plaši izmantojot LLM. Tas patiesībā varētu būt viens no lielākajiem AGI draudiem, kas pārsteidzoši tiek palaists garām, apspriežot AGI briesmas.

GPT-4 Intelekta pierādījumi

Raksts parāda, ka nav svarīgi, kāda veida sarežģītas uzvednes tika vērstas uz to, GPT-4 pārsniegs cerības. Kā teikts avīzē:

Tā nepārspējamā dabiskās valodas meistarība. Tas var ne tikai ģenerēt raitu un sakarīgu tekstu, bet arī saprast un dažādi ar to manipulēt, piemēram, apkopot, tulkot vai atbildēt uz ārkārtīgi plašu jautājumu kopumu. Turklāt ar tulkošanu mēs domājam ne tikai starp dažādām dabiskajām valodām, bet arī tulkojumus toņos un stilā, kā arī dažādās jomās, piemēram, medicīnā, jurisprudencē, grāmatvedībā, datorprogrammēšanā, mūzikā un citās jomās.

GPT-4 tika sniegtas fiktīvas tehniskās apskates, un šajā kontekstā, ja tas ir cilvēks no otras puses, tas nekavējoties tika pieņemts darbā par programmatūras inženieri. Līdzīgs sākotnējais GPT-4 kompetences tests daudzstāvu juristu eksāmenā uzrādīja precizitāti virs 70%. Tas nozīmē, ka nākotnē mēs varētu automatizēt daudzus uzdevumus, kas šobrīd tiek doti juristiem. Patiesībā ir daži jaunuzņēmumi, kas tagad strādā pie robotu juristu izveides izmantojot GPT-4.

Jaunu zināšanu radīšana

Viens no dokumentā minētajiem argumentiem ir tāds, ka vienīgais, kas GPT-4 var pierādīt patiesos izpratnes līmeņus, ir radīt jaunas zināšanas, piemēram, pierādīt jaunas matemātiskas teorēmas, kas pašlaik LLM nav sasniedzams.

Tad atkal šis ir AGI svētais grāls. Lai gan pastāv briesmas, ja AGI tiek kontrolēta nepareizās rokās, AGI priekšrocības, kas var ātri analizēt visus vēsturiskos datus, lai atklātu jaunas teorēmas, zāles un ārstēšanas metodes, ir gandrīz bezgalīgas.

AGI varētu būt trūkstošais posms, lai atrastu zāles retām ģenētiskām slimībām, kurām pašlaik trūkst privātā sektora finansējuma, lai vienreiz un uz visiem laikiem izārstētu vēzi un maksimāli palielinātu atjaunojamās enerģijas efektivitāti, lai novērstu mūsu atkarību no neilgtspējīgas enerģijas. Faktiski tas varētu atrisināt jebkuru no tā izrietošo problēmu, kas tiek ievadīta AGI sistēmā. To saprot Sems Altmens un OpenAI komanda AGI patiešām ir pēdējais izgudrojums tas ir nepieciešams, lai atrisinātu lielāko daļu problēmu un sniegtu labumu cilvēcei.

Protams, tas neatrisina kodolpogu problēmu, kas kontrolē AGI un kādi ir viņu nodomi. Neatkarīgi no šī papīrs veic fenomenālu darbu, apgalvojot, ka GPT-4 ir lēciens uz priekšu, lai sasniegtu AI pētnieku sapņus kopš 1956, kad pirmo reizi tika uzsākts sākotnējais Dartmutas vasaras pētniecības projekts par mākslīgo intelektu vasaras seminārā.

Lai gan ir apstrīdams, vai GPT-4 ir AGI, var viegli apgalvot, ka pirmo reizi cilvēces vēsturē tā ir AI sistēma, kas spēj izturēt Tjūringa tests.