Charles Simon, forfatter av Brain Simulator II – Intervju-serie

Charles Simon er forfatter av Brain Simulator II, en kompanjongbok til Brain Simulator II, et fritt, åpent kildekode-prosjekt som har som mål å skape et end-to-end Artificial General Intelligence (AGI)-system

Den opprinnelige Brain Simulator-programvaren ble lansert i 1988, en enorm tid i programvareverdenen. Hvor stort er Brain Simulator II sammenlignet med sin forgjenger?

I dag er systemet over en million ganger raskere. Den opprinnelige ble skrevet i FORTRAN, kjørte på en IBM AT-klone, støttet en fast array av 1 200 neuroner og beregnede omtrent to sykluser per sekund. I dag kan programmet kjøre på et nettverk og prosessere 2,5 milliarder synapser per sekund på en kraftig desktop-CPU.

Dette boken handler om Brain Simulator II, et åpent kildekode-prosjekt som har som mål å skape end-to-end kunstig intelligens, hva slags kodings erfaring er nødvendig for å kjøre denne programvaren?

Ingen erfaring nødvendig. Hvis du ikke er en programmerer, kan du tilbringe tid med Brain Simulator og komme bort med en forståelse av evnene og begrensningene til neuroner, litt om kunnskapsrepresentasjon og sogar bygge dine egne begrensede nettverk. Hvis du er en programmerer, vil du følge de mer dyptgående tekniske forklaringene og bygge dine egne moduler for å utvide systemet til mer avanserte AGI-strategier.

Hvorfor er det viktig å vende tilbake til de biologisk inspirerte røttene til AI for å oppnå AGI?

På 1980-tallet var tanken at hvis vi bare kunne bygge et stort nok neuralt nettverk, ville det spontant bli intelligent. Over de følgende førti årene har denne scenariet blitt stadig mer usannsynlig. Så, hvis klassisk AI-tilnærming ikke har fungert for AGI, la oss se på noen andre tilnærminger, og det eneste fungerende AGI-modellen vi har er menneskehjernen.

Samtidig er det ingen grunn til å være slavisk til biologisk plausibilitet. For eksempel vet vi at våre hjerner kan anslå avstander til objekter basert på små forskjeller i bildene mottatt av våre to øyne, grunnlaget for 3D-filmer. Vi vet ikke hvordan dette fungerer i hjernen, så i stedet har jeg programmert denne funksjonaliteten i en modul som anslår avstander ved hjelp av noen linjer med trigonometri. Vi kan være ganske sikre på at din hjerne ikke fungerer på denne måten, men trig-tilnærmingen er sannsynligvis raskere og mer nøyaktig.

Du påstår i boken at en AGI krever robotikk, hvorfor er dette så viktig?

Tenk på å forsøke å forklare farge til en blind person eller musikk til en døv person. Hvis en prospektiv AGI bare er et program på en datamaskin, hvordan kan det få en grunnleggende forståelse av ting som ethvert treåring vet? Barnet har et perspektiv og er omgitt av virkeligheten. Barnet vet at objekter eksisterer i denne virkeligheten og at mange av dem kan manipuleres. Ved å leke med blokker kan et barn lære om form, størrelse, soliditet, tyngdekraft, visuell okklusjon, avstand og så videre. Med autonom bevegelse, syn og manipulatorer kan en AGI lære om virkeligheten på et mer grunnleggende nivå enn noe program som bare er avhengig av fjell av tekst- og bilde-data.

Etter at en robotisk AGI har tilegnet seg en grunnleggende forståelse av objekter i virkeligheten, kan denne kunnskapen kopieres inn i ikke-robotiske tenkemaskiner og forståelsen vil bestå. Like som noen som mister sansene sine, kan forstå ting på en annen måte enn en person som aldri har hatt disse sansene.

En viktig aspekt ved Brain Simulator II er at den ikke bruker backpropagation, hva er grunnene for ikke å bruke denne metoden?

Din hjerne opererer uten backpropagation, så AGI må være mulig uten det. I virkeligheten er backpropagation fundamentalt uforenlig med en biologisk modell fordi det avhenger av å kunne sanse og modifisere synapse-vekt med betydelig nøyaktighet. Etter en stund med Brain Simulator, vil du konkludere med at å sette synapse-vekt med noen grad av nøyaktighet er svært vanskelig og å sanse hva disse synapse-vektene er, er umulig. Det grunnleggende problemet er at fyrende neuroner modifiserer synapse-vekt, men det er ingen måte å detektere en synapse-vekt uten å fyre neuroner, så en synapse-vekt kan ikke sanses uten å modifisere den.

Backpropagation har ingen biologisk analog og jeg regner det som en ekstremt kraftig statistisk metode. Mange mennesker jobber med det, noen med utmerkede resultater. Min poeng er å prøve ut noen andre tilnærminger. Ved å bruke spikende neuroner kombinert med innpluggingsprogrammoduler, ser jeg på problemene med AGI fra et annet perspektiv.

Når hjernen blir undersøkt, ser det ut til å være uorden og tilfeldighet, er dette noe vi må introdusere i et programvare-system for å få virkelig AGI til å oppstå?

Jeg tror ikke det. Når du ser på de enkelte neuronene og synapsene, er deres funksjon ganske deterministisk, likeså transistorer. I hjernen ser ting ut til å være tilfeldige fordi støynivåene er ganske høye og informasjonskomponentene ikke er i noen åpenbar rekkefølge. Men tenk på din visjon, du kan lese tekst med klarhet og det er ingen uorden eller tilfeldighet i leseprosessen. Så vi konkluderer med at, i det minste, din visuelle cortex er ganske pålitelig og repeterbar. Likevel, når den blir undersøkt, ser det ut til å være like uordentlig som resten av hjernen. Så resten av hjernen er sannsynligvis like pålitelig og repeterbar som den visuelle cortexen, vi ser bare ikke organiseringen og rekkefølgen ennå. Det er litt som å lese kinesisk, for meg er det uordentlige, tilfeldige markeringer, men for noen som kan lese språket, er det en absolutt organisering. Vi kan bare ikke lese hjernens indre språk ennå.

Du introduserer et konsept kalt Universal Knowledge Store (UKS), kunne du kort diskutere hva dette er og hvorfor det er viktig?

Tenk tilbake på spørsmålet om robotikk, du kan se at en fasette av generell intelligens er evnen til å integrere kunnskap fra ulike sanser. Du vet om en blokk fordi du kan se den, berøre den og høre ord om den. Alt dette representerer informasjon om en blokk. Så for en AGI å ha lignende evner, må det ha et generelt lagringsmekanisme som kan håndtere en bred variasjon av ulike informasjon og skape nyttige relasjoner mellom de ulike elementene. UKS er en kunnskapsgraf i en svært generell måte så den kan håndtere enhver type informasjon og enhver type relasjoner.

UKS kan lagre den romlige informasjonen som er nødvendig for labyrint-applikasjonen sammen med beslutnings- og resultattreet som brukes til å navigere i labyrinten for å oppnå et mål. Samme struktur brukes til å assosiere ord med farger. Denne typen generalitet er grunnleggende for AGI.

Hva er din tidsramme for når AGI kan oppstå?

Det er vanskelig å si. Vi har allerede hårdwaren nødvendig for AGI og jeg ser at bare ett gjennombrudd er nødvendig, og det kan komme når som helst. La meg prøve å beskrive dette gjennombruddet:

Tenk på at hvis alt du vet er at rød er-en farge og blå er-en farge, kan jeg spørre deg om å navngi noen farger og du kan si rød og blå. Spørsmålet er, hvordan kan en AGI lære at “er-en” relasjonen er noe. Jeg kunne programmere en slik relasjon lett, men så ville min AGI ikke være i stand til å lære nye relasjoner når de oppstår. Et barn kan lære om relasjoner som nærmere/fjernere, større/mindre, tidligere/senere, før/etter og så videre. Men disse avhenger av enda mer grunnleggende konsepter som størrelse, avstand, tid og mer.

Hvordan kan en hjerne full av neuroner lære all denne virkelig grunnleggende informasjonen? Dette knytter seg tilbake til behovet for robotikk. Hvordan kan en AGI lære konseptet avstand hvis den ikke kan gå noen steder eller nå ut etter noe? Det knytter seg også tilbake til behovet for universell lagring. Hvordan kan en AGI forstå å gå noen steder som kombinerer konseptene om plassering og tid? Å gå noen steder er relativt enkelt. Å forstå hva det betyr å gå noen steder er mye mer vanskelig. Jeg tror disse virkelig grunnleggende spørsmålene er alle manifestasjoner av samme underliggende problem og løsningen på dette problemet er det nødvendige gjennombruddet.

Veldig få mennesker jobber med dette spørsmålet, hovedsakelig fordi det er så vanskelig å presentere et prosjekt som, hvis det virkelig er suksessfullt, vil ha evnene til en treåring etter tre år, og evnene til en tiåring etter et tiår. Så løsningen er sannsynligvis å komme fra mindre, uavhengige forskere som har tid og energi til å deviere til problemer uten kortvarig avkastning.

Er det noe annet du ville like å dele om Brain Simulator II eller AGI generelt?

Når du prøver å bruke neuroner og synapser til å designe kretser som håndterer disse grunnleggende problemene, konkluderer du med at i stedet for at et konsept representeres av noen dusin synapser, krever hvert noen dusin neuroner. Dette betyr at i stedet for at hjernens kapasitet er mange milliarder ting, som ofte hevdes, er det begrenset til å forstå titall eller hundre millioner ting. Med dette i mente, en AGI som kunne forstå bare ti millioner ting, burde i det minste kunne fange noen av disse grunnleggende konseptene. Og et dataprogram som representerer ti millioner ting, er innenfor rammene av dagens hårdware, kanskje sogar dagens desktop-datamaskin.

V1.0-utgaven av Brain Simulator er virkelig dens “komme til alder”. Den har nå kapasiteten og den polerte brukergrensesnittet som gjør den mye mer nyttig for et bredere forskningspublikum. Det er et fellesskapsprosjekt med en voksende utviklingsgruppe og en større gruppe sluttbrukere. Sammen, vil vi prøve ut mange nye ideer og gjøre fremgang på noen av de grunnleggende spørsmålene om intelligens og AGI.

Takk for det flotte intervjuet, det er alltid interessant å diskutere AGI med deg. Lesere som ønsker å lære mer, bør lese boken Brain Simulator II.