Charles Simon, Författare till Brain Simulator II – Intervjuserie

Charles Simon är författare till Brain Simulator II, en kompanjonsbok till Brain Simulator II, ett fritt, öppen källkodsprojekt som syftar till att skapa ett slutgiltigt system för artificiell allmän intelligens (AGI)

Den ursprungliga Brain Simulator-mjukvaran släpptes 1988, en enorm tid i mjukvaruvärlden. Hur stor är språngframåt är Brain Simulator II jämfört med sin föregångare?

Dagens system är över en miljon gånger snabbare. Den ursprungliga versionen var skriven i FORTRAN, körde på en IBM AT-klon, stödde en fast array med 1 200 neuroner och beräknade cirka två cykler per sekund. Dagens program kan köras på ett nätverk och bearbeta 2,5 miljarder synapser per sekund på en kraftfull stationär CPU.

Denna bok handlar om Brain Simulator II, ett öppen källkodsprojekt som syftar till att skapa artificiell intelligens från början till slut, vilken typ av kodningsupplevelse behövs för att köra denna mjukvara?

Ingen erfarenhet behövs. Om du inte är programmerare kan du tillbringa tid med Brain Simulator och få en förståelse för neuronernas förmågor och begränsningar, en aning om kunskapsrepresentation och till och med bygga dina egna begränsade nätverk. Om du är programmerare kommer du att följa de mer ingående tekniska förklaringarna och bygga dina egna moduler för att utöka systemet till mer avancerade AGI-strategier.

Varför är det viktigt att återvända till de biologiskt inspirerade rötterna av AI för att uppnå AGI?

På 1980-talet var tanken att om vi kunde bygga ett tillräckligt stort neuronnät, skulle det spontant bli intelligent. Under de följande fyrtio åren har denna scenario blivit alltmer osannolik. Så, om klassiska AI-ansatser inte har fungerat för AGI, låt oss titta på några olika ansatser, och det enda fungerande AGI-modellen vi har är den mänskliga hjärnan.

På samma sätt finns det ingen anledning att slaviskt följa biologisk trovärdighet. Till exempel vet vi att vår hjärna kan uppskatta avstånd till föremål baserat på små skillnader i bilderna som tas emot av våra två ögon, grunden för 3D-filmer. Vi vet inte hur detta fungerar i hjärnan, så jag har programmerat denna funktion i en modul som uppskattar avstånd med hjälp av några rader trigonometri. Vi kan vara ganska säkra på att din hjärna inte fungerar på detta sätt, men trigonometrimetoden är troligen snabbare och mer exakt.

Du påstår i boken att en AGI kräver robotik, varför är detta så viktigt?

Tänk på att försöka förklara färg för en blind person eller musik för en döv person. Om en potentiell AGI bara är ett program på en dator, hur kan den få en grundläggande förståelse för saker som varje treåring känner till? Barnet har en synvinkel och omges av verkligheten. Barnet vet att föremål existerar i den verkligheten och att många av dem kan manipuleras. Genom att leka med block kan ett barn lära sig om form, storlek, fasthet, tyngdkraft, visuell occlusion, avstånd och så vidare. Med autonom rörelse, syn och manipulatorer kan en AGI lära sig om verkligheten på en mer grundläggande nivå än något program som bara förlitar sig på berg av text- och bilddata.

Efter att en robot-AGI har förvärvat en grundläggande förståelse för föremål i verkligheten, kan den kunskapen klonas till icke-robotiska tänkande maskiner och förståelsen kommer att bestå. Liksom någon som förlorar sina sinnen för syn eller hörsel kan förstå saker på ett annat sätt än en person som aldrig har haft dessa sinnen.

En viktig aspekt av Brain Simulator II är att den använder ingen bakpropagation, vad är resonemanget för att inte anta denna metod?

Din hjärna fungerar utan bakpropagation, så AGI måste vara möjlig utan det. I själva verket är bakpropagation grundläggande oförenlig med en biologisk modell eftersom den förlitar sig på att kunna känna och modifiera synapsvikt med betydande precision. Efter en tid med Brain Simulator kommer du att dra slutsatsen att inställning av synapsvikt med någon grad av precision är mycket svårt och att exakt känna vad synapsvikt är är omöjligt. Det grundläggande problemet är att avfyrande neuroner modifierar synapsvikt, men det finns inget sätt att upptäcka en synapsvikt utan att avfyra neuroner, så en synapsvikt kan inte upptäckas utan att modifieras.

Bakpropagation har ingen biologisk analog och jag anser att det är en extremt kraftfull statistisk metod. Många människor arbetar med det, vissa med utmärkta resultat. Min poäng är att prova ut några olika ansatser. Genom att använda spikande neuroner i kombination med inkopplade programmoduler tittar jag på AGI-problemen från ett annat perspektiv.

När hjärnan undersöks verkar det finnas oordning och slumpmässighet, är detta något som vi behöver införa i ett mjukvarusystem för att sann AGI ska uppstå?

Jag tror inte det. När du tittar på enskilda neuroner och synapser är deras funktion ganska deterministisk, liksom transistorer. I hjärnan verkar saker slumpmässiga eftersom brusnivåerna är ganska höga och informationskomponenterna inte är i någon uppenbar ordning. Men tänk på din syn, du kan läsa text med tydlighet och det finns ingen oordning eller slumpmässighet i läsprocessen. Så vi drar slutsatsen att, åtminstone, din visuella cortex är ganska tillförlitlig och upprepningsbar. Ändå, när den undersöks, ser den ut att vara lika oordnad som resten av hjärnan. Så resten av hjärnan är troligen lika tillförlitlig och upprepningsbar som den visuella cortexen, vi ser bara inte organisationen och ordningen ännu. Det är lite som att läsa kinesiska, för mig är det oordnade, slumpmässiga markeringar, men för någon som kan läsa språket, finns det en absolut organisation. Vi kan bara inte läsa hjärnans inre språk ännu.

Du introducerar ett koncept som kallas Universal Knowledge Store (UKS), kan du kort diskutera vad detta är och varför det är viktigt?

Tänk tillbaka på frågan om robotik, du kan se att en aspekt av allmän intelligens är förmågan att integrera kunskap från olika sinnen. Du vet om en kloss eftersom du kan se den, röra vid den och höra ord om den. All denna information representerar kunskap om en kloss. Så för en AGI att ha liknande förmågor, måste den ha ett allmänt lagringsmekanism som kan hantera en stor mängd olika typer av information och skapa användbara relationer mellan olika föremål. UKS är en kunskapsgraf i en mycket allmän bemärkelse så att den kan hantera ALL slags information och ALLA slags relationer.

UKS kan lagra den rumsliga information som behövs för labyrintapplikationen tillsammans med besluts- och resultatträdet som används för att navigera i labyrinten för att uppnå ett mål. Samma struktur används för att associera ord med färger. Denna typ av allmänhet är grundläggande för AGI.

Vad är din tidsram för att AGI ska uppstå?

Det är svårt att säga. Vi har redan den hårdvara som behövs för AGI och jag ser att en enda genombrott är allt som behövs, och det kan komma när som helst. Låt mig försöka beskriva det genombrottet:

Tänk på att om allt du vet är att röd är en färg och blå är en färg, kan jag be dig att namnge några färger och du kan säga röd och blå. Frågan är, hur kan en AGI lära sig att “är en”-relationen är något. Jag kunde programmera en sådan relation lätt, men då kommer min AGI inte att kunna lära sig nya relationer när de möts. Ett barn kan lära sig om relationer som närmare/längre, större/mindre, tidigare/senare, före/efter och så vidare. Men dessa bygger på ännu mer grundläggande begrepp som storlek, avstånd, tid och mer.

Hur kan en hjärna full av neuroner lära sig allt detta grundläggande? Detta hänger samman med behovet av robotik. Hur kan en AGI lära sig begreppet avstånd om den inte kan gå någonstans eller sträcka sig efter något? Det hänger också samman med behovet av universell lagring. Hur kan en AGI förstå vad det innebär att gå någonstans, som kombinerar begreppen plats och tid? Att gå någonstans är relativt enkelt. Att förstå vad det innebär att gå någonstans är mycket svårare. Jag tror att dessa grundläggande frågor alla är manifestationer av samma underliggande problem och lösningen på det problemet är det nödvändiga genombrottet.

Inte så många människor arbetar med den här frågan, till stor del eftersom det är så svårt att presentera ett projekt som, om det verkligen är framgångsrikt, kommer att ha förmågor som en treåring efter tre år, och förmågor som en tioåring efter ett decennium. Så lösningen kommer troligen från mindre oberoende forskare som har tid och energi att ägna åt problem som inte har någon kortvarig avkastning.

Finns det något annat du vill dela om Brain Simulator II eller AGI i allmänhet?

När du försöker använda neuroner och synapser för att designa kretsar som hanterar dessa grundläggande problem, drar du slutsatsen att snarare än att ett begrepp representeras av några dussin synapser, kräver varje begrepp några dussin neuroner. Detta innebär att istället för att hjärnans kapacitet är många miljarder saker, som det ofta hävdas, är den begränsad till att förstå tiotals eller hundratals miljoner saker. Med detta i åtanke bör en embryonisk AGI som kan förstå tio miljoner saker åtminstone kunna förstå några av dessa grundläggande begrepp. Och ett datorsystem som representerar tio miljoner saker ligger inom ramen för dagens hårdvara, kanske till och med dagens stationära dator.

V1.0-utgåvan av Brain Simulator är verkligen dess “inträde i vuxen ålder”. Den har nu kapacitet och en polerad användargränssnitt som gör den mycket mer användbar för en mer allmän forskningspublik. Det är ett communityprojekt med en växande utvecklingsteam och en större grupp av slutanvändare. Tillsammans kommer vi att prova många nya idéer och göra framsteg på några av de grundläggande frågorna om intelligens och AGI.

Tack för den utmärkta intervjun, det är alltid givande att diskutera AGI med dig. Läsare som vill lära sig mer bör läsa boken Brain Simulator II.