Charles Simon, Författare till Brain Simulator II – Intervjuserie

Charles Simon är författare till Brain Simulator II, en kompanjonsbok till Brain Simulator II, ett fritt, öppen källkodsprojekt som syftar till att skapa ett slutgiltigt artificiellt allmänt intelligenssystem (AGI)

Den ursprungliga Brain Simulator-programvaran släpptes 1988, en enorm tid i mjukvaruvärlden. Hur stor är språngframåt är Brain Simulator II jämfört med sin föregångare?

Dagens system är över en miljon gånger snabbare. Den ursprungliga versionen skrevs i FORTRAN, kördes på en IBM AT-klon, stödde en fast array av 1 200 neuroner och beräknade cirka två cykler per sekund. Dagens program kan köras på ett nätverk och bearbeta 2,5 miljarder synapser per sekund på en kraftfull desktop-CPU.

Denna bok handlar om Brain Simulator II, ett öppen källkodsprojekt som syftar till att skapa artificiell allmän intelligens, vilken typ av programmeringserfarenhet behövs för att köra denna programvara?

Ingen erfarenhet behövs. Om du inte är programmerare kan du tillbringa tid med Brain Simulator och få en förståelse för neuronernas förmågor och begränsningar, lite om kunskapsrepresentation och till och med bygga dina egna begränsade nätverk. Om du är programmerare kommer du att följa de mer ingående tekniska förklaringarna och bygga dina egna moduler för att utöka systemet till mer avancerade AGI-strategier.

Varför är det viktigt att återvända till de biologiskt inspirerade rötterna av AI för att uppnå AGI?

På 1980-talet trodde man att om man bara kunde bygga ett tillräckligt stort neuronnät, skulle det spontant bli intelligent. Under de följande fyrtio åren har denna scenario blivit alltmer osannolikt. Så, om klassiska AI-ansatser inte har fungerat för AGI, låt oss titta på några olika ansatser, och det enda fungerande AGI-modellen vi har är den mänskliga hjärnan.

Samtidigt finns det ingen anledning att följa biologisk trovärdighet slaviskt. Till exempel vet vi att vår hjärna kan uppskatta avstånd till föremål baserat på små skillnader i de bilder som tas emot av våra två ögon, grunden för 3D-filmer. Vi vet inte hur detta fungerar i hjärnan, så istället har jag programmerat denna funktion i en modul som uppskattar avstånd med hjälp av några rader trigonometri. Vi kan vara ganska säkra på att din hjärna inte fungerar på detta sätt, men trigonometrimetoden är troligen snabbare och mer exakt.

Du påstår i boken att AGI kräver robotik, varför är detta så viktigt?

Överväg att försöka förklara färg för en blind person eller musik för en döv person. Om en prospektiv AGI bara är ett program på en dator, hur kan den få en grundläggande förståelse för saker som varje treåring vet? Barnet har en synvinkel och omges av verkligheten. Barnet vet att föremål existerar i den verkligheten och att många av dem kan manipuleras. Genom att leka med block kan ett barn lära sig om form, storlek, fasthet, tyngdkraft, visuell occlusion, avstånd och så vidare. Med autonom rörelse, syn och manipulatorer kan en AGI lära sig om verkligheten på en mer grundläggande nivå än något program som enbart förlitar sig på berg av text- och bilddata.

Efter att en robot-AGI har förvärvat en grundläggande förståelse för föremål i verkligheten, kan den kunskapen klonas till icke-robotiska tänkande maskiner och förståelsen kommer att bestå. Precis som någon som förlorar sina sinnen för syn eller hörsel kan förstå saker på ett annat sätt än en person som aldrig har haft dessa sinnen.

En viktig aspekt av Brain Simulator II är att den inte använder sig av backpropagation, vad är rationalet för att inte anta denna metod?

Din hjärna fungerar utan backpropagation, så AGI måste vara möjligt utan det. I själva verket är backpropagation grundläggande oförenligt med en biologisk modell eftersom den förlitar sig på att kunna känna och modifiera synapsvikter med betydande precision. Efter en tid med Brain Simulator kommer du att dra slutsatsen att att ställa in synapsvikter med någon grad av precision är mycket svårt och att exakt känna vad dessa synapsvikter är är omöjligt. Det grundläggande problemet är att avfyrande neuroner modifierar synapsvikter, men det finns ingen möjlighet att upptäcka en synapsvikt utan att avfyra neuroner, så en synapsvikt kan inte upptäckas utan att modifieras.

Backpropagation har ingen biologisk analog och jag anser att det är en extremt kraftfull statistisk metod. Många människor arbetar med det, vissa med utmärkta resultat. Min poäng är att prova olika ansatser. Genom att använda spikande neuroner i kombination med plug-in-programvarumoduler tittar jag på AGI-problemen från ett annat perspektiv.

När hjärnan undersöks verkar det finnas oordning och slumpmässighet, är detta något som vi behöver införa i ett mjukvarusystem för att verklig AGI ska uppstå?

Jag tror inte det. När du tittar på enskilda neuroner och synapser är deras funktion ganska deterministisk, liksom transistorer. I hjärnan verkar det slumpmässigt eftersom brusnivåerna är ganska höga och informationskomponenterna inte är i någon tydlig ordning. Men överväg din syn, du kan läsa text med tydlighet och det finns ingen oordning eller slumpmässighet i läsprocessen. Så vi drar slutsatsen att, åtminstone, din visuella cortex är ganska tillförlitlig och upprepningsbar. Ändå, när den undersöks, verkar den lika oordnad som resten av hjärnan. Så resten av hjärnan är troligen lika tillförlitlig och upprepningsbar som den visuella cortex, vi ser bara inte organisationen och ordningen ännu. Det är lite som att läsa kinesiska, för mig är det oordnade, slumpmässiga tecken, men för någon som kan läsa språket finns det en absolut organisation. Vi kan bara inte läsa hjärnans inre språk ännu.

Du introducerar ett koncept som kallas Universal Knowledge Store (UKS), kan du kort diskutera vad detta är och varför det är viktigt?

När du tänker tillbaka på frågan om robotik kan du se att en aspekt av allmän intelligens är förmågan att integrera kunskap från olika sinnen. Du vet om en kloss eftersom du kan se den, röra vid den och höra ord om den. All denna information representerar kunskap om en kloss. Så för en AGI att ha liknande förmågor, måste den ha ett allmänt lagringsmekanism som kan hantera en stor mängd olika information och skapa användbara relationer mellan de olika objekten. UKS är en kunskapsgraf i en mycket allmän mening, så att den kan hantera ALL slags information och ALLA slags relationer.

UKS kan lagra den rumsliga information som behövs för labyrintapplikationen tillsammans med besluts- och resultatträdet som används för att nå ett mål. Samma struktur används för att associera ord med färger. Denna typ av allmänhet är grundläggande för AGI.

Vad är din tidsram för AGI att uppstå?

Det är svårt att säga. Vi har redan den hårdvara som behövs för AGI och jag ser att en enda genombrott är allt som behövs, och det kan komma när som helst. Låt mig försöka beskriva det genombrottet:

Överväg att om allt du vet är att röd är en färg och blå är en färg, kan jag be dig att namnge några färger och du kan säga röd och blå. Frågan är, hur kan en AGI lära sig att “är en” relationen är något. Jag kunde programmera en sådan relation lätt, men då skulle min AGI inte kunna lära sig nya relationer när de möts. Ett barn kan lära sig om relationer som närmare/längre, större/mindre, tidigare/senare, före/efter och så vidare. Men dessa bygger på ännu mer grundläggande koncept som storlek, avstånd, tid och mer.

Hur kan en hjärna full av neuroner lära sig all denna grundläggande information? Detta hänger samman med behovet av robotik. Hur kan en AGI lära sig konceptet avstånd om den inte kan gå någonstans eller något? Det hänger också samman med behovet av universell lagring. Hur kan en AGI förstå att gå någonstans, som kombinerar koncepten plats och tid? Att gå någonstans är relativt enkelt. Att förstå vad det innebär att gå någonstans är mycket svårare. Jag tror att dessa grundläggande frågor alla är manifestationer av samma underliggande problem och lösningen på det problemet är det nödvändiga genombrottet.

Inte många människor arbetar med den här frågan, främst för att det är så svårt att presentera ett projekt som, om det verkligen lyckas, kommer att ha förmågor som en treåring efter tre år, och förmågor som en tioåring efter ett decennium. Så lösningen kommer troligen från mindre oberoende forskare som har tid och energi att ägna åt problem med ingen kortvarig avkastning.

Finns det något annat du vill dela om Brain Simulator II eller AGI i allmänhet?

När du försöker använda neuroner och synapser för att designa kretsar som hanterar dessa grundläggande problem, drar du slutsatsen att snarare än att ett koncept representeras av några dussin synapser, kräver varje koncept några dussin neuroner. Detta innebär att snarare än att hjärnans kapacitet är många miljarder saker, som ofta hävdas, är den begränsad till att förstå tiotals eller hundratals miljoner saker. Med detta i åtanke bör en ny AGI som kan förstå tio miljoner saker åtminstone kunna greppa några av dessa grundläggande koncept. Och ett datorsystem som representerar tio miljoner saker är väl inom ramen för dagens hårdvara, kanske till och med dagens desktop-dator.

V1.0-utgåvan av Brain Simulator är verkligen dess “komma av ålder”. Den har nu kapacitet och en polerad användargränssnitt som gör den mycket mer användbar för en mer allmän forskningspublik. Det är ett communityprojekt med en växande utvecklingsteam och en större grupp slutanvändare. Tillsammans kommer vi att prova många nya idéer och göra framsteg på några av de grundläggande frågorna om intelligens och AGI.

Tack för den utmärkta intervjun, det är alltid givande att diskutera AGI med dig. Läsare som vill lära sig mer bör läsa boken Brain Simulator II.