Charles Simon, Autor al Brain Simulator II – Seria de Interviuri

Charles Simon este autorul Brain Simulator II, o carte însoțitoare a proiectului software Brain Simulator II, un proiect software gratuit, open source, care urmărește crearea unui sistem de inteligență artificială generală (AGI) de la capăt la capăt

Software-ul original Brain Simulator a fost lansat în 1988, o enormitate de timp în lumea software-ului. Cât de mult este o săritură înainte Brain Simulator II comparativ cu predecesorul său?

Sistemul de astăzi este de peste un milion de ori mai rapid. Software-ul original a fost scris în FORTRAN, rulează pe un clone IBM AT, suportă un tablou fix de 1.200 de neuroni și calculează aproximativ două cicluri pe secundă. Programul de astăzi poate rule pe o rețea și procesa 2,5 miliarde de sinapse pe secundă pe un procesor desktop puternic.

Cartea aceasta este despre Brain Simulator II, un proiect software open-source care urmărește crearea inteligenței artificiale de la capăt la capăt, ce fel de experiență de programare este necesară pentru a rula acest software?

Nu este necesară nicio experiență. Dacă nu sunteți programator, puteți petrece timp cu Brain Simulator și puteți pleca cu o înțelegere a capacităților și limitărilor neuronilor, un pic despre reprezentarea cunoștințelor și chiar puteți construi rețele limitate proprii. Dacă sunteți programator, veți urma explicațiile tehnice mai detaliate și veți construi module proprii pentru a extinde sistemul la strategii AGI mai avansate.

De ce este important să ne întoarcem la rădăcinile biologice ale inteligenței artificiale pentru a atinge AGI?

În anii 1980, se credea că, dacă am putea construi o rețea neurală suficient de mare, aceasta va deveni spontan inteligentă. În ultimii patruzeci de ani, acest scenariu a devenit din ce în ce mai puțin plauzibil. Așadar, dacă abordările clasice de inteligență artificială nu au funcționat pentru AGI, să examinăm unele abordări diferite, și singurul model AGI funcțional pe care îl avem este creierul uman.

În același timp, nu există niciun motiv pentru a adera în mod sclav la plauzibilitatea biologică. De exemplu, știm că creierul nostru poate estima distanțele la obiecte pe baza unor diferențe minore în imaginile primite de cele două ochi, baza pentru filmele 3D. Nu știm cum funcționează acest lucru în creier, așa că, în schimb, am programat această funcționalitate într-un modul care estimează distanțele utilizând câteva linii de trigonometrie. Putem fi destul de siguri că creierul dvs. nu funcționează în acest fel, dar abordarea trigonometrică este probabil mai rapidă și mai precisă.

Afirmăți în cartea dvs. că AGI necesită robotică, de ce este acest lucru atât de important?

Încercați să explicați culoarea unei persoane orb sau muzica unei persoane surde. Dacă un AGI prospectiv este doar un program pe un computer, cum poate obține o înțelegere de bază a lucrurilor pe care orice copil de trei ani le știe? Copilul are un punct de vedere și este înconjurat de realitate. Copilul știe că obiectele există în acea realitate și că multe dintre ele pot fi manipulate. Prin joacă cu cuburi, un copil poate învăța despre formă, dimensiune, soliditate, gravitație, occluzie vizuală, distanță și multe altele. Cu mișcare autonomă, viziune și manipulatoare, un AGI poate învăța despre realitate la un nivel mai fundamental decât orice program care se bazează doar pe cantități mari de texte și imagini.

După ce un AGI robotic a dobândit o înțelegere fundamentală a obiectelor din realitate, acea cunoaștere poate fi clonată în mașini de gândire nerobotice și înțelegerea va persista. La fel cum o persoană care își pierde simțurile văzului sau auzului poate înțelege lucruri într-un mod diferit decât o persoană care nu a avut niciodată aceste simțuri.

O parte importantă a Brain Simulator II este că nu utilizează backpropagation, ce este rațiunea pentru care nu adoptați această metodologie?

Creierul dvs. funcționează fără backpropagation, deci AGI trebuie să fie posibil fără aceasta. De fapt, backpropagation este fundamental incompatibil cu un model biologic, deoarece se bazează pe capacitatea de a simți și modifica greutățile sinapselor cu o precizie considerabilă. După un timp cu Brain Simulator, veți concluziona că setarea greutăților sinapselor cu orice grad de precizie este foarte dificilă și detectarea precisă a greutăților sinapselor este imposibilă. Problema fundamentală este că neuronii care se activează modifică greutățile sinapselor, dar nu există nicio modalitate de a detecta o greutate a sinapselor fără a activa neuronii, deci o greutate a sinapselor nu poate fi detectată fără a fi modificată.

Backpropagation nu are un analog biologic și îl consider o metodă statistică extrem de puternică. Mulți oameni lucrează cu aceasta, unii cu rezultate excelente. Punctul meu este să încercăm abordări diferite. Prin utilizarea neuronilor care se activează combinați cu module software plug-in, examinez problemele AGI dintr-o perspectivă diferită.

Când creierul este investigat, pare a fi dezordine și întâmplare, este acest lucru ceva ce trebuie introdus într-un sistem software pentru a face ca AGI să apară?

Nu cred. Când examinați neuronii și sinapsele individuale, funcția lor este destul de deterministă, la fel ca și tranzistorul. În creier, lucrurile par aleatorii pentru că nivelurile de zgomot sunt destul de ridicate și componentele informaționale nu sunt în niciun fel aparent ordonate. Dar considerați-vă vederea, puteți citi text cu claritate și nu există niciun fel de dezordine sau întâmplare în procesul de citire. Așadar, conchidem că, cel puțin, cortexul vizual este destul de fiabil și repetabil. Însă, atunci când este investigat, pare la fel de dezordonat ca și restul creierului. Așadar, restul creierului este probabil la fel de fiabil și repetabil ca și cortexul vizual, doar că nu vedem încă organizarea și ordinea. Este un pic ca și cum ați citi chineză, pentru mine este o serie de marcaje dezordonate și semi-aleatorii, dar pentru cineva care poate citi limba, există o organizare absolută. Nu putem încă citi limba internă a creierului.

Introduceți un concept numit Universal Knowledge Store (UKS), puteți discuta pe scurt ce este acesta și de ce este important?

Gândindu-ne la întrebarea anterioară despre robotică, puteți vedea că o fațetă a inteligenței generale este capacitatea de a integra cunoștințe din diverse simțuri. Știți despre un cub pentru că îl puteți vedea, atinge și auzi cuvinte despre el. Toate acestea reprezintă informații despre un cub. Așadar, pentru ca un AGI să aibă capacități similare, trebuie să aibă un mecanism general de stocare care să poată gestiona o varietate largă de informații disparate și să creeze relații utile între diversele elemente. UKS este un grafic de cunoaștere într-un mod foarte general, astfel încât să poată gestiona orice fel de informații și orice fel de relații.

UKS poate stoca informațiile spațiale necesare pentru aplicația labirintului, împreună cu arborele de decizie și rezultat utilizat pentru a traversa labirintul și a atinge un obiectiv. Aceeași structură este utilizată pentru a asocia cuvinte cu culori. Acest fel de generalitate este fundamental pentru AGI.

Care este orizontul dvs. de timp pentru ca AGI să apară?

Este dificil de spus. Deja avem hardware-ul necesar pentru AGI și văd că o singură descoperire este tot ce este necesar, și aceasta poate apărea în orice moment. Încerc să descriu acea descoperire:

Considerați că, dacă tot ce știți este că roșu este-o culoare și albastru este-o culoare, vă pot întreba să numiți câteva culori și puteți spune roșu și albastru. Întrebarea este, cum poate un AGI învăța că relația “este-o” este ceva. Aș putea programa o astfel de relație cu ușurință, dar atunci AGI-ul meu nu va putea învăța noi relații pe măsură ce sunt întâlnite. Un copil poate învăța despre relații de mai aproape/mai departe, mai mare/mai mic, mai devreme/mai târziu, înainte/după și multe altele. Dar acestea se bazează pe concepte și mai fundamentale de dimensiune, distanță, timp și multe altele.

Cum poate un creier plin de neuroni învăța toate aceste lucruri fundamental? Acest lucru se leagă de nevoia de robotică. Cum poate un AGI învăța conceptul de distanță dacă nu poate merge nicăieri sau atinge nimic? Acest lucru se leagă și de nevoia de stocare universală. Cum poate un AGI înțelege ce înseamnă a merge undeva, care combină conceptele de locație și timp? A merge undeva este relativ ușor. A înțelege ce înseamnă a merge undeva este mult mai dificil. Cred că toate aceste întrebări fundamentale sunt manifestări ale aceleiași probleme subiacente și soluția la acea problemă este descoperirea necesară.

Nu prea multe persoane lucrează la această întrebare, în mare parte pentru că este atât de greu de a prezenta un proiect care, dacă este cu adevărat de succes, va avea capacitățile unui copil de trei ani după trei ani și capacitățile unui copil de zece ani după un deceniu. Așadar, soluția va veni probabil de la cercetători independenți mai mici, care au timpul și energia de a se dedica unor probleme cu randament pe termen lung.

Există altceva pe care ați dori să îl împărtășiți despre Brain Simulator II sau AGI în general?

Când încercați să utilizați neuroni și sinapse pentru a proiecta circuite care abordează aceste probleme fundamentale, conchideți că, în loc de a reprezenta un concept prin câteva zeci de sinapse, fiecare necesită câteva zeci de neuroni. Acest lucru înseamnă că, în loc de capacitatea creierului de a cuprinde miliarde de lucruri, așa cum se crede în mod obișnuit, aceasta este limitată la a înțelege zeci sau sute de milioane de lucruri. Având în vedere acest lucru, un AGI nascent care ar putea înțelege doar zece milioane de lucruri ar trebui să poată cuprinde unele dintre aceste concepte fundamentale. Și un sistem computerizat care reprezintă zece milioane de lucruri este deja în domeniul de aplicare al hardware-ului de astăzi, poate chiar al calculatorului de birou de astăzi.

Lansarea V1.0 a Brain Simulator este, de fapt, “majoratul” acestuia. Acum are capacitatea și interfața de utilizator lustruită care îl fac mult mai util pentru o audiență de cercetare mai largă. Este un proiect comunitar cu o echipă de dezvoltare în creștere și un corp mai mare de utilizatori finali. Împreună, vom încerca multe idei noi și vom face progrese în unele dintre problemele fundamentale ale inteligenței și AGI.

Mulțumim pentru acest interviu minunat, este întotdeauna interesant să discutăm despre AGI cu dvs. Citiitorii care doresc să afle mai multe ar trebui să citească cartea Brain Simulator II.