Charles Simon, autor Brain Simulator II – série rozhovorů

Autorem je Charles Simon Simulátor mozku II, doprovodná kniha k Brain Simulator II, bezplatnému softwarovému projektu s otevřeným zdrojovým kódem, jehož cílem je vytvořit komplexní systém umělé obecné inteligence (AGI).

Původní software Brain Simulator byl vydán v roce 1988, což je ohromné ​​množství času ve světě softwaru. Jak velký skok vpřed je Brain Simulator II ve srovnání se svým předchůdcem?

Dnešní systém je více než milionkrát rychlejší. Originál byl napsán ve FORTRANu, běžel na klonu IBM AT, podporoval pevné pole 1,200 neuronů a počítal asi dva cykly za sekundu. Dnešní program může běžet na síti a zpracovat 2.5 miliardy synapsí za sekundu na výkonném desktopovém CPU.

Tato kniha je o Brain Simulator II, open-source softwarovém projektu zaměřeném na vytvoření end-to-end umělé inteligence. Jaký typ zkušeností s kódováním je potřeba ke spuštění tohoto softwaru?

Nejsou potřeba žádné zkušenosti. Pokud nejste programátor, můžete strávit čas s Brain Simulator a přijít s pochopením možností a omezení neuronů, trochu o reprezentaci znalostí a dokonce si vytvořit vlastní omezené sítě. Pokud jste programátor, budete se řídit podrobnějšími technickými vysvětleními a sestavíte si vlastní moduly, které rozšíří systém o pokročilejší strategie AGI.

Proč je návrat k biologicky inspirovaným kořenům AI důležitý pro dosažení AGI?

V 1980. letech XNUMX. století se uvažovalo o tom, že pokud dokážeme vybudovat dostatečně velkou neuronovou síť, stane se spontánně inteligentní. Během uplynulých čtyřiceti let se tento scénář stal stále nepravděpodobnějším. Pokud se tedy klasické přístupy AI pro AGI neprosadily, podívejme se na několik různých přístupů a jediný fungující model AGI, který máme, je lidský mozek.

Zároveň není důvod pro otrocké lpění na biologické věrohodnosti. Například víme, že náš mozek dokáže odhadnout vzdálenosti objektů na základě nepatrných rozdílů v obrazech přijímaných našimi dvěma očima, což je základ pro 3D filmy. Nevíme, jak to funguje v mozku, takže místo toho jsem tuto funkci naprogramoval v modulu, který odhaduje vzdálenosti pomocí několika řádků trigonometrie. Můžeme si být docela jisti, že váš mozek takto nefunguje, ale přístup trig je pravděpodobně rychlejší a přesnější.

V knize uvádíte, že AGI vyžaduje robotiku, proč je to tak důležité?

Zvažte pokus vysvětlit barvy nevidomému nebo hudbu neslyšícímu. Pokud je potenciální AGI jen program na počítači, jak může získat základní pochopení věcí, které zná každé tříleté dítě? Dítě má úhel pohledu a je obklopeno realitou. Dítě ví, že předměty v této realitě existují a že s mnoha z nich lze manipulovat. Při hře s bloky se dítě může dozvědět o tvaru, velikosti, pevnosti, gravitaci, zrakové okluzi, vzdálenosti a dále a dále. S autonomním pohybem, viděním a manipulátory se AGI může dozvědět o realitě na mnohem fundamentálnější úrovni než jakýkoli program, který se spoléhá pouze na hory textových a obrazových dat.

Poté, co robotická AGI získá základní pochopení objektů ve skutečnosti, lze tyto znalosti naklonovat do nerobotických myslících strojů a porozumění přetrvá. Stejně jako někdo, kdo ztratí zrak nebo sluch, může chápat věci jiným způsobem než člověk, který tyto smysly nikdy neměl.

Jedním z důležitých aspektů Brain Simulatoru II je, že nepoužívá žádné zpětné šíření. Jaký je důvod nepřijetí této metodiky?

Váš mozek funguje bez zpětného šíření, takže AGI musí být možné bez něj. Ve skutečnosti je zpětné šíření zásadně neslučitelné s biologickým modelem, protože se spoléhá na schopnost snímat a modifikovat váhy synapse se značnou přesností. Po nějaké době s Brain Simulatorem dojdete k závěru, že nastavení vah synapsí s jakoukoli mírou přesnosti je velmi obtížné a přesné snímání, co tyto váhy synapsí jsou, je nemožné. Základním problémem je, že aktivující neurony upravují váhy synapse, ale neexistuje způsob, jak detekovat váhu synapse bez spouštění neuronů, takže váhu synapse nelze snímat bez její modifikace.

Backpropagation nemá žádnou biologickou analogii a považuji ji za extrémně silnou statistickou metodu. Pracuje s tím spousta lidí, někteří s vynikajícími výsledky. Jde mi o to vyzkoušet různé přístupy. Použitím spiking neuronů v kombinaci se zásuvnými softwarovými moduly se dívám na problémy AGI z jiné perspektivy.

Když je mozek zkoumán, zdá se, že existuje nepořádek a náhoda, je to něco, co musíme zavést do softwarového systému, aby se objevilo skutečné AGI?

Myslím, že ne. Když se podíváte na jednotlivé neurony a synapse, jejich funkce je dost deterministická, stejně jako tranzistor. V mozku věci vypadají náhodně, protože hladiny hluku jsou poměrně vysoké a informační složky nejsou v žádném zjevném pořadí. Zvažte však svou vizi, text můžete číst srozumitelně a v procesu čtení není žádný nepořádek ani náhodnost. Došli jsme tedy k závěru, že alespoň vaše zraková kůra je přiměřeně spolehlivá a opakovatelná. Přesto při sondování vypadá stejně neuspořádaně jako zbytek mozku. Zbytek mozku je tedy pravděpodobně stejně spolehlivý a opakovatelný jako zraková kůra, jen ještě nevidíme organizaci a řád. Je to trochu jako čtení čínštiny, pro mě jsou to neuspořádané polonáhodné znaky, ale pro někoho, kdo umí číst jazyk, existuje absolutní organizace. Jen ještě neumíme číst vnitřní řeč mozku.

Představujete koncept zvaný Universal Knowledge Store (UKS), mohl byste stručně probrat, co to je a proč na tom záleží?

Když se vrátíme k otázce robotiky, můžete vidět, že jedním z aspektů obecné inteligence je schopnost integrovat znalosti z různých smyslů. O bloku víte, protože ho můžete vidět, dotknout se ho a slyšet o něm slova. To vše představuje informaci o bloku. Aby tedy AGI mělo podobné schopnosti, musí mít obecný mechanismus ukládání, který dokáže zpracovat širokou škálu různorodých informací a vytvářet užitečné vztahy mezi různými položkami. UKS je znalostní graf velmi obecným způsobem, takže dokáže zpracovat JAKÝKOLI druh informací a JAKÉKOLI druhy vztahů.

UKS může ukládat prostorové informace potřebné pro aplikaci bludiště spolu s rozhodovacím a výsledným stromem používaným k procházení bludištěm k dosažení cíle. Stejná struktura se používá pro spojování slov s barvami. Tento druh obecnosti je pro AGI zásadní.

Jaký je váš časový horizont pro vznik AGI?

Těžko říct. Už máme hardware nezbytný pro AGI a vidím, že stačí jediný průlom, který může přijít kdykoli. Pokusím se popsat ten průlom:

Zvažte, že pokud vše, co víte, je, že červená je barva a modrá je barva, mohu vás požádat, abyste pojmenovali některé barvy a můžete říci červená a modrá. Otázkou je, jak se může AGI naučit, že vztah „je-a“ je něco. Mohl bych takový vztah snadno naprogramovat, ale pak se moje AGI nebude moci naučit novým vztahům, jak se s nimi setká. Dítě se může učit o vztazích bližší/vzdálenější, větší/menší, dříve/později, před/po a dále a dále. Ty však spoléhají na ještě zásadnější pojmy velikosti, vzdálenosti, času a dalších.

Jak se může hlava plná neuronů naučit všechny tyto skutečně zásadní věci? To souvisí s potřebou robotizace. Jak se může AGI naučit koncept vzdálenosti, když nemůže nikam jít nebo na nic dosáhnout? To také souvisí s potřebou univerzálního úložiště. Jak může AGI pochopit jít někam, kde se snoubí pojmy místa a času? Jít někam je poměrně jednoduché. Pochopit, co to znamená někam jít, je mnohem obtížnější. Věřím, že všechny tyto skutečně základní otázky jsou projevem stejného základního problému a řešení tohoto problému je nezbytným průlomem.

Na této otázce se nezabývá příliš mnoho lidí, především proto, že je tak obtížné představit projekt, který, pokud bude skutečně úspěšný, bude mít schopnosti tříletého dítěte po třech letech a schopnosti desetiletého dítěte. po deseti letech. Řešení tedy pravděpodobně přijdou od menších nezávislých výzkumníků, kteří mají čas a energii věnovat se problémům bez krátkodobé návratnosti.

Je ještě něco, o co byste se chtěli podělit o Brain Simulator II nebo AGI obecně?

Když se pokusíte použít neurony a synapse k návrhu obvodů, které řeší tyto základní problémy, dojdete k závěru, že spíše než koncept reprezentovaný několika desítkami synapsí, každý vyžaduje několik desítek neuronů. To znamená, že místo toho, aby kapacita mozku byla mnoha miliardami věcí, jak se běžně tvrdí, je omezena na pochopení desítek nebo stovek milionů věcí. S ohledem na to by rodící se AGI, které by mohlo porozumět pouze deseti milionům věcí, mělo být alespoň schopné pochopit některé z těchto základních pojmů. A počítačový systém představující deset milionů věcí je dobře v rámci možností dnešního hardwaru, možná i dnešního stolního počítače.

Vydání Brain Simulatoru V1.0 je skutečně jeho „dospíváním“. Nyní má kapacitu a vylepšené uživatelské rozhraní, díky kterým je mnohem užitečnější pro obecnější výzkumné publikum. Jde o komunitní projekt s rostoucím vývojovým týmem a větším souborem koncových uživatelů. Společně vyzkoušíme spoustu nových nápadů a pokročíme v některých základních otázkách inteligence a AGI.

Děkuji za skvělý rozhovor, je vždy užitečné s vámi diskutovat o AGI. Čtenáři, kteří se chtějí dozvědět více, by si měli knihu přečíst Simulátor mozku II.