Charles Simon, forfatter av Brain Simulator II – Intervju-serie

Charles Simon er forfatter av Brain Simulator II, en kompanjongbok til Brain Simulator II, et fritt, åpent kildekode-prosjekt som har som mål å skape et end-to-end kunstig intelligenssystem (AGI)

Det opprinnelige Brain Simulator-programmet ble utgitt i 1988, en enorm tid i programvareverdenen. Hvor stort er spranget fremover for Brain Simulator II sammenlignet med sin forgjenger?

I dag er systemet over en million ganger raskere. Det opprinnelige programmet var skrevet i FORTRAN, kjørte på en IBM AT-kopi, støttet en fast matrise av 1 200 neuroner og beregnede omtrent to sykluser per sekund. I dag kan programmet kjøre på et nettverk og prosessere 2,5 milliarder synapser per sekund på en kraftig desktop-CPU.

Dette boken handler om Brain Simulator II, et åpent kildekode-prosjekt som har som mål å skape kunstig intelligens, hva slags kode-erfaring er nødvendig for å kjøre denne programvaren?

Ingen erfaring nødvendig. Hvis du ikke er en programmerer, kan du bruke tid med Brain Simulator og komme bort med en forståelse av evnene og begrensningene til neuroner, en del om kunnskapsrepresentasjon og selv bygge dine egne begrensede nettverk. Hvis du er en programmerer, vil du følge de mer dyptgående tekniske forklaringene og bygge dine egne moduler for å utvide systemet til mer avanserte AGI-strategier.

Hvorfor er det viktig å vende tilbake til de biologisk inspirerte røttene til AI for å oppnå AGI?

På 1980-tallet var tanken at hvis vi bare kunne bygge et stort nok neuralt nettverk, ville det spontant bli intelligent. Over de følgende førti årene har denne scenariet blitt stadig mer usannsynlig. Så, hvis klassiske AI-tilnærminger ikke har fungert for AGI, la oss se på noen andre tilnærminger, og det eneste fungerende AGI-modellen vi har er det menneskelige hjernen.

På samme tid er det ingen grunn til å være forutinntatt mot biologisk plausibilitet. For eksempel vet vi at våre hjerner kan anslå avstander til objekter basert på små forskjeller i bildene mottatt av våre to øyne, grunnlaget for 3D-filmer. Vi vet ikke hvordan dette fungerer i hjernen, så i stedet har jeg programmert denne funksjonaliteten i en modul som anslår avstander ved hjelp av noen linjer med trigonometri. Vi kan være ganske sikre på at din hjerne ikke fungerer på denne måten, men trigonometri-tilnærmingen er sannsynligvis raskere og mer nøyaktig.

Du sier i boken at en AGI krever robotikk, hvorfor er dette så viktig?

Overveur å forklare farge til en blind person eller musikk til en døv person. Hvis et prospektivt AGI bare er et program på en datamaskin, hvordan kan det få en grunnleggende forståelse av ting som ethvert treåring vet? Barnet har et perspektiv og er omgitt av virkeligheten. Barnet vet at objekter eksisterer i denne virkeligheten og at mange av dem kan manipuleres. Ved å leke med blokker kan et barn lære om form, størrelse, soliditet, tyngdekraft, visuell okklusjon, avstand og så videre. Med autonom bevegelse, syn og manipulatorer kan en AGI lære om virkeligheten på en mer grunnleggende måte enn noe program som bare avhenger av store mengder tekst- og bilde-data.

Efter at en robotisk AGI har tilegnet seg en grunnleggende forståelse av objekter i virkeligheten, kan denne kunnskapen kopieres til ikke-robotiske tenkemaskiner og forståelsen vil bestå. Like som noen som mister sansene for syn eller hørsel kan forstå ting på en annen måte enn en person som aldri har hatt disse sansene.

En viktig del av Brain Simulator II er at den ikke bruker tilbakepropagering, hva er grunnene for ikke å bruke denne metoden?

Din hjerne opererer uten tilbakepropagering, så AGI må være mulig uten det. I virkeligheten er tilbakepropagering fundamentalt uforenlig med en biologisk modell fordi den avhenger av å kunne sanse og modifisere synapse-vekt med betydelig nøyaktighet. Etter en stund med Brain Simulator vil du konkludere med at å sette synapse-vekt med noen grad av nøyaktighet er svært vanskelig og å sanse hva disse synapse-vektene er er umulig. Det grunnleggende problemet er at fyrende neuroner modifiserer synapse-vekt, men det er ingen måte å detektere en synapse-vekt uten å fyre neuroner, så en synapse-vekt kan ikke sanses uten å modifiseres.

Tilbakepropagering har ingen biologisk analog og jeg betrakter det som en ekstremt kraftig statistisk metode. Mange mennesker jobber med det, noen med utmerkede resultater. Min poeng er å prøve ut noen andre tilnærminger. Ved å bruke spikende neuroner kombinert med innpluggbare programmoduler, ser jeg på problemene med AGI fra et annet perspektiv.

Når hjernen undersøkes, ser det ut til å være uorden og tilfeldighet, er dette noe vi må innføre i et programvaresystem for å få virkelig AGI til å oppstå?

Jeg tror ikke det. Når du ser på de enkelte neuronene og synapsene, er deres funksjon ganske deterministisk, likeså transistorer. I hjernen ser ting ut til å være tilfeldige fordi støy-nivåene er ganske høye og informasjonskomponentene ikke er i noen åpenbar rekkefølge. Men overveur din visjon, du kan lese tekst med klarhet og det er ingen uorden eller tilfeldighet i leseprosessen. Så vi konkluderer med at, i det minste, din visuelle cortex er rimelig pålitelig og gjentakende. Likevel, når den undersøkes, ser den like tilfeldig ut som resten av hjernen. Så resten av hjernen er sannsynligvis like pålitelig og gjentakende som den visuelle cortex, vi ser bare ikke organiseringen og rekkefølgen ennå. Det er litt som å lese kinesisk, for meg er det uordnede, tilfeldige markeringer, men for noen som kan lese språket, er det en absolutt organisering. Vi kan bare ikke lese hjernens indre språk ennå.

Du innfører et konsept kalt det universelle kunnskapslager (UKS), kunne du kort diskutere hva dette er og hvorfor det er viktig?

Tenker tilbake til spørsmålet om robotikk, kan du se at en del av generell intelligens er evnen til å integrere kunnskap fra ulike sanser. Du vet om en blokk fordi du kan se den, berøre den og høre ord om den. All denne informasjonen representerer kunnskap om en blokk. Så for en AGI å ha lignende evner, må den ha en generell lagringsmekanisme som kan håndtere en vid rekke av ulike informasjon og skape nyttige relasjoner mellom de ulike elementene. UKS er en kunnskapsgraf i en svært generell måte så den kan håndtere enhver type informasjon og enhver type relasjoner.

UKS kan lagre den romlige informasjonen som er nødvendig for labyrint-applikasjonen sammen med beslutnings- og resultat-treet som brukes til å navigere gjennom labyrinten for å oppnå et mål. Samme struktur brukes til å assosiere ord med farger. Denne typen generalitet er grunnleggende for AGI.

Hva er din tidshorisont for AGI å oppstå?

Det er vanskelig å si. Vi har allerede hårdvareren nødvendig for AGI og jeg ser at ett enkelt gjennombrudd er alt som er nødvendig, og det kan komme når som helst. La meg prøve å beskrive dette gjennombruddet:

Overveur at hvis alt du vet er at rød er-en farge og blå er-en farge, kan jeg spørre deg om å navngi noen farger og du kan si rød og blå. Spørsmålet er, hvordan kan en AGI lære at “er-en” relasjonen er noe. Jeg kunne programmere en slik relasjon lett, men da vil min AGI ikke være i stand til å lære nye relasjoner når de møter dem. Et barn kan lære om relasjoner som nærmere/fjernere, større/mindre, tidligere/senere, før/etter og så videre. Men disse avhenger av enda mer grunnleggende konsepter som størrelse, avstand, tid og mer.

Hvor kan en hjerne full av neuroner lære all denne grunnleggende informasjonen? Dette knytter seg tilbake til behovet for robotikk. Hvor kan en AGI lære konseptet om avstand hvis den ikke kan gå noen steder eller rekke etter noe? Det knytter seg også tilbake til behovet for universell lagring. Hvor kan en AGI forstå å gå noen steder som kombinerer konseptene om plassering og tid? Å gå noen steder er relativt enkelt. Å forstå hva det betyr å gå noen steder er mye mer vanskelig. Jeg tror disse grunnleggende spørsmålene alle er manifestasjoner av samme underliggende problem og løsningen på dette problemet er det nødvendige gjennombruddet.

Ikke mange mennesker jobber med dette spørsmålet, hovedsakelig fordi det er så vanskelig å presentere et prosjekt som, hvis det virkelig er vellykket, vil ha evnene til et treåring etter tre år, og evnene til en tiåring etter en tiår. Så løsningen kommer sannsynligvis fra mindre, uavhengige forskere som har tid og energi til å vie til problemer uten kortvarig avkastning.

Er det noe annet du ønsker å dele om Brain Simulator II eller AGI generelt?

Når du prøver å bruke neuroner og synapser til å designe kretser som håndterer disse grunnleggende problemene, konkluderer du med at i stedet for at et konsept representeres av noen dusin synapser, krever hver noen dusin neuroner. Dette betyr at i stedet for at hjernens kapasitet er mange milliarder ting, som vanligvis hevdes, er det begrenset til å forstå titall millioner ting. Med dette i mente, en AGI som kunne forstå bare ti millioner ting, burde i det minste være i stand til å fange noen av disse grunnleggende konseptene. Og et dataprogram som representerer ti millioner ting, er godt innenfor rekkevidde av i dagens hårdvar, kanskje sogar i dagens desktop-datamaskin.

V1.0-utgaven av Brain Simulator er virkelig dens “komme til alder”. Den har nå kapasiteten og den polerte brukergrensesnittet som gjør den mye mer nyttig for et bredere forskningspublikum. Det er et fellesskapsprosjekt med en voksende utviklingsgruppe og en større skare av sluttbrukere. Sammen skal vi prøve ut mange nye ideer og gjøre fremgang på noen av de grunnleggende spørsmålene om intelligens og AGI.

Takk for det flotte intervjuet, det er alltid interessant å diskutere AGI med deg. Lesere som ønsker å lære mer, bør lese boken Brain Simulator II.