Charles Simon, forfatter af Brain Simulator II – Interviewserie

Charles Simon er forfatter af Brain Simulator II, en ledsagende bog til Brain Simulator II, et gratis, open source-softwareprojekt, der har til formål at skabe et end-to-end Artificial General Intelligence (AGI)-system

Det originale Brain Simulator-software blev udgivet i 1988, en enormhed i tid i softwareverdenen. Hvor stor en spring er Brain Simulator II i forhold til sin forgænger?

I dag er systemet over en million gange hurtigere. Det originale blev skrevet i FORTRAN, kørte på en IBM AT-klon, understøttede en fast array af 1.200 neuroner og beregnede omkring to cykler per sekund. I dag kan programmet køre på et netværk og behandle 2,5 milliarder synapser per sekund på en kraftfuld desktop-CPU.

Denne bog handler om Brain Simulator II, et open-source-softwareprojekt, der har til formål at skabe end-to-end kunstig intelligens, hvilken type kodningserfaring er nødvendig for at køre dette software?

Ingen erfaring nødvendig. Hvis du ikke er programmør, kan du bruge tid med Brain Simulator og gå væk med en forståelse af neuronernes muligheder og begrænsninger, lidt om videnrepræsentation og endda bygge dine egne begrænsede netværk. Hvis du er programmør, vil du følge de mere dybtgående tekniske forklaringer og bygge dine egne moduler for at udvide systemet til mere avancerede AGI-strategier.

Hvorfor er det vigtigt at vende tilbage til de biologisk inspirerede rødder af AI for at opnå AGI?

I 1980’erne var tanken, at hvis vi bare kunne bygge et stort nok neuralt netværk, ville det spontant blive intelligent. Over de følgende fyrre år er dette scenario blevet stadig mere utroværdigt. Så hvis klassisk AI-tilgange ikke har fungeret for AGI, lad os se på nogle forskellige tilgange, og det eneste fungerende AGI-model, vi har, er det menneskelige hjerte.

På samme tid er der ingen grund til at være slavesk over for biologisk plausibilitet. For eksempel ved vi, at vores hjerner kan estimerer afstande til objekter baseret på små forskelle i billederne, der modtages af vores to øjne, grundlaget for 3D-film. Vi ved ikke, hvordan dette fungerer i hjernen, så i stedet har jeg programmeret denne funktionalitet i en modul, der estimerer afstande ved hjælp af nogle få linjer trigonometri. Vi kan være ret sikre på, at din hjerne ikke fungerer på denne måde, men trigonometri-tilgange er sandsynligvis hurtigere og mere præcis.

Du siger i bogen, at en AGI kræver robotteknologi, hvorfor er dette så vigtigt?

Betragt forsøget på at forklare farve til en blind person eller musik til en døv person. Hvis en prospektiv AGI kun er et program på en computer, hvordan kan det få en grundlæggende forståelse af ting, som enhver tre-årig ved? Barnet har et synspunkt og er omgivet af virkelighed. Barnet ved, at objekter eksisterer i denne virkelighed og at mange af dem kan manipuleres. Ved at lege med blokke kan et barn lære om form, størrelse, fasthed, tyngdekraft, visuel occlusion, afstand og så videre. Med autonom bevægelse, syn og manipulatorer kan en AGI lære om virkelighed på en mere grundlæggende niveau end noget program, der kun afhænger af bjerge af tekst- og billeddata.

Efter at en robot-AGI har erhvervet en grundlæggende forståelse af objekter i virkeligheden, kan denne viden kopieres til ikke-robotiske tænketank og forståelsen vil bestå. Ligesom en person, der mister sine sanser for syn eller hørelse, kan forstå ting på en anden måde end en person, der aldrig har haft disse sanser.

En vigtig aspekt af Brain Simulator II er, at det ikke bruger backpropagation, hvad er rationalet bag ikke at antage denne metode?

Din hjerne fungerer uden backpropagation, så AGI må være mulig uden det. I virkeligheden er backpropagation fundamentalt uforeneligt med en biologisk model, fordi det afhænger af at kunne fornemme og modificere synapsevægte med betydelig præcision. Efter nogen tid med Brain Simulator vil du konkludere, at det at sætte synapsevægte med nogen grad af præcision er meget svært og at fornemme, hvad disse synapsevægte er, er umuligt. Det fundamentale problem er, at affyring af neuroner ændrer synapsevægte, men der er ingen måde at fornemme en synapsevægt uden at affyre neuroner, så en synapsevægt kan ikke fornemmes uden at ændre den.

Backpropagation har ingen biologisk analog og jeg betragter det som en ekstremt kraftfuld statistisk metode. Mange mennesker arbejder med det, nogle med fremragende resultater. Mit punkt er at prøve nogle forskellige tilgange. Ved at bruge spiking neuroner kombineret med plug-in software-moduler, ser jeg på AGI-problemerne fra en anden synsvinkel.

Når hjernen undersøges, ser det ud til at være uorden og tilfældighed, er dette noget, vi skal introducere i et software-system for at få sand AGI til at opstå?

Jeg tror ikke det. Når du ser på de enkelte neuroner og synapser, er deres funktion ret deterministisk, ligesom transistorer. I hjernen ser det ud til at være tilfældigt, fordi støjniveauerne er ret høje og informationskomponenterne ikke er i nogen tydelig orden. Men betragt din syn, du kan læse tekst med klarhed og der er ingen uorden eller tilfældighed i læseprocessen. Så vi konkluderer, at i hvert fald din visuelle cortex er ret pålidelig og gentagelig. Alligevel, når den undersøges, ser det ud til at være lige så uordentligt som resten af hjernen. Så resten af hjernen er sandsynligvis lige så pålidelig og gentagelig som den visuelle cortex, vi kan bare ikke se organisationen og ordenen endnu. Det er lidt som at læse kinesisk, for mig er det uordnede, tilfældige tegn, men for nogen, der kan læse sproget, er der en absolut organisation. Vi kan bare ikke læse hjernens interne sprog endnu.

Du introducerer et begreb kaldet Universal Knowledge Store (UKS), kunne du kort diskutere, hvad dette er og hvorfor det er vigtigt?

Tænk tilbage til spørgsmålet om robotteknologi, du kan se, at en facet af generel intelligens er evnen til at integrere viden fra forskellige sanser. Du ved om en blok, fordi du kan se den, røre den og høre ord om den. Alt dette repræsenterer information om en blok. Så for en AGI at have lignende evner, må den have en generel lagringsmekanisme, der kan håndtere en bred vifte af forskellige informationer og skabe nyttige relationer mellem de forskellige elementer. UKS er en viden graf i en meget generel måde, så den kan håndtere enhver type information og enhver type relationer.

UKS kan lagre den rumlige information, der er nødvendig for labyrint-applikationen sammen med beslutnings- og resultattræet, der bruges til at navigere i labyrinten for at opnå et mål. Den samme struktur bruges til at associerer ord med farver. Denne type generalitet er fundamental for AGI.

Hvad er din tidsramme for, at AGI skal opstå?

Det er svært at sige. Vi har allerede den nødvendige hardware til AGI, og jeg ser, at en enkelt gennembrud er alt, der er nødvendigt, og det kan ske når som helst. Lad mig prøve at beskrive dette gennembrud:

Betragt, at hvis alt, du ved, er, at rød er-en farve og blå er-en farve, kan jeg bede dig om at navngive nogle farver, og du kan sige rød og blå. Spørgsmålet er, hvordan en AGI kan lære, at “er-en”-relationen er noget. Jeg kunne programmere en sådan relation let, men så ville min AGI ikke være i stand til at lære nye relationer, når de mødes. Et barn kan lære om relationer af nærmere/fjernere, større/længere, tidligere/senere, før/efter og så videre. Men disse afhænger af endnu mere grundlæggende begreber som størrelse, afstand, tid og mere.

Hvor kan en hjernes fuld af neuroner lære alt dette virkelig grundlæggende? Dette hænger sammen med behovet for robotteknologi. Hvor kan en AGI lære begrebet afstand, hvis den ikke kan gå noget sted eller række ud efter noget? Det hænger også sammen med behovet for universal lagring. Hvor kan en AGI forstå, hvad det vil sige at gå et sted, der kombinerer begreberne om lokalitet og tid? At gå et sted er ret enkelt. At forstå, hvad det vil sige at gå et sted, er meget sværere. Jeg tror, at disse virkelig grundlæggende spørgsmål alle er manifestationer af det samme underliggende problem, og løsningen på dette problem er det nødvendige gennembrud.

Ikke mange mennesker arbejder på dette spørgsmål, primært fordi det er så svært at præsentere et projekt, der, hvis det virkelig er succesfuldt, vil have evnerne af en tre-årig efter tre år, og evnerne af en ti-årig efter et årti. Så løsningen er sandsynligvis at komme fra mindre, uafhængige forskere, der har tid og energi til at dedikere til problemer med ingen kortvarig afkast.

Er der noget andet, du gerne vil dele om Brain Simulator II eller AGI generelt?

Når du prøver at bruge neuroner og synapser til at designe kredsløb, der løser disse grundlæggende problemer, konkluderer du, at i stedet for, at et begreb repræsenteres af nogle få dusin synapser, kræver det nogle få dusin neuroner. Dette betyder, at i stedet for, at hjernens kapacitet er mange milliarder ting, som det ofte siges, er det begrænset til at forstå ti eller hundrede millioner ting. Med dette i mente burde en ny AGI, der kun kan forstå ti millioner ting, i hvert fald være i stand til at forstå nogle af disse grundlæggende begreber. Og et computersystem, der repræsenterer ti millioner ting, er godt inden for rækkevidde af i dagens hardware, måske endda i dagens desktop-computer.

V1.0-udgivelsen af Brain Simulator er virkelig dens “komme af alder”. Den har nu kapaciteten og den polerede brugerflade, der gør den langt mere nyttig for et bredere forskningspublikum. Det er et fællesskabsprojekt med en voksende udviklerhold og en større korps af slutbrugere. Sammen vil vi prøve mange nye idéer og gøre fremskridt på nogle af de grundlæggende spørgsmål om intelligens og AGI.

Tak for det gode interview, det er altid indsigtfuldt at diskutere AGI med dig. Læsere, der ønsker at lære mere, bør læse bogen Brain Simulator II.