Charles Simon, auteur van Brain Simulator II – Interviewreeks

Charles Simon is de auteur van Brain Simulator II, een companionboek voor de Brain Simulator II, een gratis, open-source softwareproject dat gericht is op het creëren van een end-to-end Artificial General Intelligence (AGI)-systeem

Het originele Brain Simulator-software werd in 1988 uitgebracht, een enormiteit in de softwarewereld. Hoe groot is de sprong voorwaarts van Brain Simulator II in vergelijking met zijn voorganger?

Het huidige systeem is meer dan een miljoen keer sneller. Het origineel was geschreven in FORTRAN, draaide op een IBM AT-kloner, ondersteunde een vaste array van 1.200 neuronen en berekende ongeveer twee cycli per seconde. Het huidige programma kan op een netwerk draaien en 2,5 miljard synapsen per seconde verwerken op een krachtige desktop-CPU.

Dit boek gaat over de Brain Simulator II, een open-source softwareproject dat gericht is op het creëren van end-to-end kunstmatige intelligentie, wat voor soort programmeerervaring is nodig om deze software te gebruiken?

Geen ervaring nodig. Als je geen programmeur bent, kun je tijd doorbrengen met de Brain Simulator en een begrip krijgen van de mogelijkheden en beperkingen van neuronen, een beetje over kennisrepresentatie en zelfs je eigen beperkte netwerken bouwen. Als je een programmeur bent, volg je de meer diepgaande technische verklaringen en bouw je je eigen modules om het systeem uit te breiden tot geavanceerdere AGI-strategieën.

Waarom is het terugkeren naar de biologisch geïnspireerde wortels van AI belangrijk voor het bereiken van AGI?

In de jaren tachtig was de gedachte dat als we alleen maar een groot genoeg neurale netwerk konden bouwen, het spontaan intelligent zou worden. In de afgelopen veertig jaar is deze scenario steeds minder waarschijnlijk geworden. Dus, als klassieke AI-benaderingen niet hebben gewerkt voor AGI, laten we dan eens kijken naar andere benaderingen, en het enige werkende AGI-model dat we hebben is de menselijke hersenen.

Er is geen reden om slaafse gehoorzaamheid te betrachten aan biologische plausibiliteit. Bijvoorbeeld, we weten dat onze hersenen afstanden tot objecten kunnen schatten op basis van kleine verschillen in de beelden die onze twee ogen ontvangen, de basis voor 3D-films. We weten niet hoe dit in de hersenen werkt, dus in plaats daarvan heb ik deze functionaliteit geprogrammeerd in een module die afstanden schat met behulp van een paar regels trigonometrie. We kunnen redelijkerwijs aannemen dat uw hersenen niet op deze manier werken, maar de trigonometrische aanpak is waarschijnlijk sneller en nauwkeuriger.

U stelt in het boek dat een AGI robotics nodig heeft, waarom is dit zo belangrijk?

Denk aan het proberen om kleur uit te leggen aan een blinde persoon of muziek aan een dove persoon. Als een potentiële AGI alleen een programma op een computer is, hoe kan het dan een basisbegrip krijgen van dingen die elk driejarig kind weet? Het kind heeft een standpunt en wordt omringd door realiteit. Het kind weet dat objecten bestaan in die realiteit en dat veel ervan gemanipuleerd kunnen worden. Door met blokken te spelen kan een kind leren over vorm, grootte, soliditeit, zwaartekracht, visuele occlusie, afstand en ga zo maar door. Met autonome beweging, visie en manipulatoren kan een AGI leren over realiteit op een fundamenteler niveau dan enig programma dat alleen afhankelijk is van bergen tekst- en beeldgegevens.

Naarmate een robot-AGI een fundamenteler begrip van objecten in realiteit heeft verworven, kan die kennis worden gekloond in niet-robotische denkmachines en het begrip zal blijven bestaan. Net zoals iemand die zijn zintuigen van gezichtsvermogen of gehoor verliest, dingen op een andere manier kan begrijpen dan iemand die nooit deze zintuigen heeft gehad.

Een belangrijk aspect van de Brain Simulator II is dat het geen backpropagation gebruikt, wat is de redenering achter het niet gebruiken van deze methode?

Uw hersenen werken zonder backpropagation, dus AGI moet mogelijk zijn zonder het. In feite is backpropagation fundamenteel onverenigbaar met een biologisch model, omdat het afhankelijk is van het vermogen om synapsgewichten te meten en te modificeren met aanzienlijke precisie. Na enige tijd met de Brain Simulator, zult u concluderen dat het instellen van synapsgewichten met enige mate van precisie zeer moeilijk is en het nauwkeurig meten van wat die synapsgewichten zijn onmogelijk is. Het fundamentele probleem is dat vuurende neuronen synapsgewichten modificeren, maar er is geen manier om een synapsgewicht te detecteren zonder vuurende neuronen, dus een synapsgewicht kan niet worden gedetecteerd zonder het te modificeren.

Backpropagation heeft geen biologisch equivalent en ik beschouw het als een uiterst krachtige statistische methode. Veel mensen werken ermee, sommigen met uitstekende resultaten. Mijn punt is om eens andere benaderingen uit te proberen. Door gebruik te maken van spikende neuronen in combinatie met plug-in softwaremodules, kijk ik naar de problemen van AGI vanuit een ander perspectief.

Wanneer de hersenen worden onderzocht, lijkt er wanorde en toeval te zijn, is dit iets dat we moeten introduceren in een software-systeem om echte AGI te laten ontstaan?

Ik denk het niet. Wanneer je naar de individuele neuronen en synapsen kijkt, is hun functie heel deterministisch, net als de transistor. In de hersenen lijken dingen willekeurig omdat de ruisniveaus heel hoog zijn en de informatiecomponenten niet in enige volgorde zijn. Maar denk aan uw visie, u kunt tekst lezen met duidelijkheid en er is geen wanorde of toeval in het leesproces. Dus concluderen we dat, ten minste, uw visuele cortex redelijkerwijs betrouwbaar en herhaalbaar is. Toch, wanneer onderzocht, lijkt het net zo willekeurig als de rest van de hersenen. Dus de rest van de hersenen is waarschijnlijk net zo betrouwbaar en herhaalbaar als de visuele cortex, we zien alleen de organisatie en orde nog niet. Het is een beetje zoals het lezen van Chinees, voor mij zijn het willekeurige, halfwillekeurige markeringen, maar voor iemand die de taal kan lezen, is er absolute organisatie. We kunnen alleen de interne taal van de hersenen nog niet lezen.

U introduceert een concept genaamd de Universele Kennisopslag (UKS), kunt u dit kort bespreken en waarom het belangrijk is?

Terugdenkend aan de vraag over robotics, kunt u zien dat een facet van algemene intelligentie de mogelijkheid is om kennis te integreren uit verschillende zintuigen. U weet over een blok omdat u het kunt zien, aanraken en woorden over horen. Al deze informatie vertegenwoordigt kennis over een blok. Dus voor een AGI om soortgelijke mogelijkheden te hebben, moet het een algemene opslagmechanisme hebben dat een grote variëteit aan uiteenlopende informatie kan verwerken en nuttige relaties tussen de verschillende items kan creëren. De UKS is een kennisgrafiek op een heel algemene manier, zodat het elke soort informatie en elke soort relaties kan verwerken.

De UKS kan de ruimtelijke informatie opslaan die nodig is voor de doolhofapplicatie, samen met de beslissingen- en resultatenboom die wordt gebruikt om de doolhof te doorlopen om een doel te bereiken. Dezelfde structuur wordt gebruikt om woorden te koppelen aan kleuren. Deze soort algemeenheid is fundamenteel voor AGI.

Wat is uw tijdsbestek voor AGI om te ontstaan?

Het is moeilijk te zeggen. We hebben al de benodigde hardware voor AGI en ik zie dat één doorbraak nodig is, en dat kan op elk moment komen. Laat me proberen die doorbraak te beschrijven:

Stel dat alles wat u weet is dat rood een kleur is en blauw een kleur is, ik kan u vragen om enkele kleuren te noemen en u kunt rood en blauw zeggen. De vraag is, hoe kan een AGI leren dat de “is-a”-relatie iets is. Ik kan zo’n relatie gemakkelijk programmeren, maar dan zal mijn AGI niet in staat zijn om nieuwe relaties te leren wanneer ze worden ontmoet. Een kind kan leren over relaties van dichterbij/verder, groter/kleiner, eerder/later, voor/na en ga zo maar door. Maar deze zijn afhankelijk van nog fundamentelere concepten van grootte, afstand, tijd en meer.

Hoe kan een hoofd vol neuronen al deze echt fundamentele dingen leren? Dit hangt samen met de behoefte aan robotics. Hoe kan een AGI het concept van afstand leren als het nergens naartoe kan gaan of niets kan bereiken? Het hangt ook samen met de behoefte aan universele opslag. Hoe kan een AGI begrijpen dat het ergens naartoe gaat, wat de combinatie is van locatie en tijd? Naar een plaats gaan is relatief eenvoudig. Begrijpen wat het betekent om naar een plaats te gaan is veel moeilijker. Ik geloof dat deze echt fundamentele vragen allemaal manifestaties zijn van hetzelfde onderliggende probleem en de oplossing voor dat probleem is de noodzakelijke doorbraak.

Niet veel mensen werken aan deze vraag, grotendeels omdat het zo moeilijk is om een project te pitchen dat, als het echt succesvol is, de capaciteiten van een driejarige zal hebben na drie jaar, en de capaciteiten van een tienjarige na een decennium. Dus de oplossing zal waarschijnlijk komen van kleinere, onafhankelijke onderzoekers die de tijd en energie hebben om problemen aan te pakken zonder korte-termijnresultaat.

Is er nog iets anders dat u zou willen delen over Brain Simulator II of AGI in het algemeen?

Wanneer u probeert om neuronen en synapsen te gebruiken om circuits te ontwerpen die deze fundamentele problemen aanpakken, concludeert u dat in plaats van een concept dat wordt vertegenwoordigd door een paar tientallen synapsen, elk een paar tientallen neuronen vereist. Dit betekent dat in plaats van de capaciteit van de hersenen, die vele miljarden dingen zijn zoals algemeen wordt aangenomen, het beperkt is tot het begrijpen van tientallen of honderden miljoenen dingen. Met dit in gedachten, zou een beginnende AGI die tien miljoen dingen kan begrijpen, ten minste enkele van deze fundamentele concepten moeten kunnen begrijpen. En een computersysteem dat tien miljoen dingen kan vertegenwoordigen, is binnen het bereik van de huidige hardware, misschien zelfs de huidige desktopcomputer.

De V1.0-release van de Brain Simulator is echt zijn “coming of age”. Het heeft nu de capaciteit en de gepolijste gebruikersinterface die het veel nuttiger maken voor een bredere onderzoeksdoelgroep. Het is een communityproject met een groeiend ontwikkelteam en een grotere groep eindgebruikers. Samen zullen we veel nieuwe ideeën uitproberen en vooruitgang boeken op enkele van de fundamentele vragen van intelligentie en AGI.

Bedankt voor het geweldige interview, het is altijd verhelderend om over AGI te praten met u. Lezers die meer willen leren, moeten het boek Brain Simulator II lezen.