Да ли је ГПТ-4 корак напред ка достизању АГИ?

Мицрософт је недавно објавио истраживачки рад под насловом: Искре вештачке опште интелигенције: рани експерименти са ГПТ-4. Како је Мицрософт описао:

Овај папир извештава о нашој истрази ране верзије ГПТ-4, када је ОпенАИ још увек био у активном развоју. Тврдимо да је (ова рана верзија) ГПТ-4 део нове групе ЛЛМ (заједно са ЦхатГПТ-ом и Гоогле-овим ПаЛМ-ом, на пример) који показују општију интелигенцију од претходних АИ модела.

У овом раду постоје убедљиви докази који показују да ГПТ-4 превазилази памћење и да има дубоко и флексибилно разумевање концепата, вештина и домена. У ствари, његова способност генерализације далеко превазилази способност било ког човека који живи данас.

Док смо раније разговарали о предности АГИ, требало би брзо да сумирамо општи консензус о томе шта је АГИ систем. У суштини, АГИ је врста напредне АИ која се може генерализовати на више домена и није уског обима. Примери уске вештачке интелигенције укључују аутономно возило, цхатбот, шах бот или било коју другу вештачку интелигенцију која је дизајнирана за једну сврху.

АГИ у поређењу би могао флексибилно да мења било коју од горе наведених или било коју другу област стручности. То је вештачка интелигенција која би искористила новонастале алгоритме као што су трансфер учење, и еволуционо учење, уз истовремено искоришћавање старих алгоритама као што су учење са дубоким појачањем.

Горњи опис АГИ се поклапа са мојим личним искуством са коришћењем ГПТ-4, као и са доказима подељеним у истраживачком раду који је објавио Мицрософт.

Један од захтева наведених у раду је да ГПТ-4 напише доказ бесконачности простих бројева у облику песме.

Ако анализирамо захтеве за стварање такве песме, схватамо да она захтева математичко резоновање, поетски израз и генерисање природног језика. Ово је изазов који би премашио просечну способност већине људи.

Рад је желео да разуме да ли ГПТ-4 једноставно производи садржај заснован на општем памћењу у односу на разумевање контекста и способност расуђивања. Када су га замолили да поново створи песму у стилу Шекспира, успео је то да уради. Ово захтева вишеструки ниво разумевања који далеко превазилази способности опште популације и укључује теорију ума и математичку генијалност.

Како израчунати ГПТ-4 интелигенцију?

Поставља се питање како можемо измерити интелигенцију ЛЛМ? И да ли ГПТ-4 показује понашање истинског учења или пуког памћења?

Тренутни начин тестирања АИ система је процена система на скупу стандардних референтних скупова података и да се осигура да су они независни од података о обуци и да покривају низ задатака и домена. Ова врста тестирања је скоро немогућа због скоро неограничене количине података на којима је ГПТ-4 обучен.

У раду се говори о генерисању нових и тешких задатака/питања која убедљиво показују да ГПТ-4 превазилази памћење и да има дубоко и флексибилно разумевање концепата, вештина и домена.

Када је у питању интелигенција, ГПТ-4 може да генерише кратке приче, сценарије и може да израчуна најкомпликованије формуле.

ГПТ-4 је такође у стању да кодира на веома високом нивоу, како у смислу писања кода из упутстава, тако и у смислу разумевања постојећег кода. ГПТ-4 може да се носи са широким спектром задатака кодирања, од
изазови кодирања за апликације у стварном свету, од склапања ниског нивоа до оквира високог нивоа, од једноставних структура података до сложених програма као што су игре. ГПТ-4 такође може да размишља о извршавању кода, да симулира ефекте инструкција и објасни резултате на природном језику. ГПТ-4 може чак и да изврши псеудокод,

ГПТ-4 може понудити рационалне одговоре на скоро сваки упит. У ствари, његова интелигенција је скоро непобедива у својој сложености.

ГПТ-4 ограничења

Рад затим наставља да описује како су испитали одговоре и понашања ГПТ-4, да би потврдили његову доследност, кохерентност и исправност, и да би открили његова ограничења и пристрасности.

Најочигледније ограничење је његово склоност ка халуцинацији. Ево примера халуцинације која је дата у раду где је ГПТ-4 био сигуран у свој одговор који је био потпуно лажан.

Чини се да чак и ГПТ-4 разуме ово тренутно ограничење са халуцинацијама јер је ово био одговор који је дао када сам га питао шта је ГПТ халуцинација:

ГПТ халуцинација се односи на феномен где модел генеративног унапред обученог трансформатора (ГПТ), попут оног са којим тренутно комуницирате, производи одговор који није заснован на чињеничним информацијама или није кохерентан са датим контекстом. Ове халуцинације се јављају када модел генерише текст који може изгледати уверљиво, али је заправо нетачан, обмањујући или бесмислен.

Другим речима, када обучавате ЛЛМ АИ на светским подацима, како да избегнете да систем учи нетачне податке? Велики језички модел учења и повратне дезинформације и теорије завере заправо могу бити једна од највећих замки и претњи са којима се човечанство суочава са усвајањем ЛЛМ-а у великим размерама. Ово би заправо могла бити једна од већих претњи АГИ-ја, она која се изненађујуће промаши када се говори о опасностима АГИ-ја.

ГПТ-4 докази интелигенције

У раду се илуструје да није било важно која врста сложених промптова је усмерена ка њему, ГПТ-4 би превазишао очекивања. Како је наведено у раду:

Његово неупоредиво владање природним језиком. Не само да може да генерише течан и кохерентан текст, већ и да разуме и да њиме манипулише на различите начине, као што је сумирање, превођење или одговарање на изузетно широк скуп питања. Штавише, под превођењем не мислимо само на различите природне језике, већ и на преводе у тону и стилу, као и на различите домене као што су медицина, право, рачуноводство, компјутерско програмирање, музика и још много тога.

Лажни технички прегледи су дати ГПТ-4, у овом контексту је лако прешло на значење да је ово човек са друге стране да би одмах били ангажовани као софтверски инжењер. Сличан прелиминарни тест компетенције ГПТ-4 на вишедржавном правосудном испиту показао је тачност изнад 70%. То значи да бисмо у будућности могли да аутоматизујемо многе задатке који се тренутно дају адвокатима. У ствари, има их стартапи који сада раде на стварању адвоката робота користећи ГПТ-4.

Производња новог знања

Један од аргумената у раду је да једино што је ГПТ-4 преостало да докаже праве нивое разумевања јесте да произведе нова знања, као што је доказивање нових математичких теорема, што је подвиг који тренутно остаје ван домашаја ЛЛМ.

Онда опет ово је свети грал АГИ. Иако постоје опасности да се АГИ контролише у погрешним рукама, предности које АГИ може брзо анализирати све историјске податке како би откриле нове теореме, лекове и третмане су скоро бесконачне.

АГИ би могао бити карика која недостаје у проналажењу лекова за ретке генетске болести којима тренутно недостаје финансирање приватне индустрије, ка излечењу рака једном заувек, и да се максимизира ефикасност обновљиве енергије како би се уклонила наша зависност од неодрживе енергије. У ствари, то би могло да реши било који последични проблем који се уноси у АГИ систем. Ово разумеју Сем Алтман и тим у ОпенАИ-у, а АГИ је заиста последњи изум који је потребан за решавање већине проблема и за добробит човечанства.

Наравно, то не решава проблем нуклеарног дугмета ко контролише АГИ и које су њихове намере. Без обзира на ово папир ради феноменалан посао тврдећи да је ГПТ-4 корак напред ка постизању снова који су истраживачи вештачке интелигенције имали Од КСНУМКС, када је први пут покренута летња радионица о вештачкој интелигенцији у Дартмуту.

Иако је дискутабилно да ли је ГПТ-4 АГИ, лако би се могло тврдити да је по први пут у људској историји то АИ систем који може проћи туринг тест.