Charles Simon, autor knihy Brain Simulator II – rozhovor

Charles Simon je autorem knihy Brain Simulator II, která je doprovodnou knihou k softwarovému projektu Brain Simulator II, který je zdarma, open-source a zaměřený na vytvoření systému umělé obecné inteligence (AGI)

Původní software Brain Simulator byl vydán v roce 1988, což je enormní časový rozdílný v softwarovém světě. Jak velký skok dopředu je Brain Simulator II ve srovnání se svými předchůdci?

Dnešní systém je více než milionkrát rychlejší. Původní software byl napsán v jazyce FORTRAN, běžel na klonu IBM AT, podporoval pevnou matici 1 200 neuronů a počítal asi dvě cykly za sekundu. Dnešní program může běžet na síti a zpracovávat 2,5 miliardy synapsí za sekundu na výkonném desktopovém procesoru.

Tato kniha je o Brain Simulatoru II, open-source softwarovém projektu zaměřeném na vytvoření umělé inteligence, jaký druh programovacího经验u je potřebný pro spuštění tohoto softwaru?

Žádný programovací zkušeností není potřeba. Pokud nejste programátor, můžete strávit čas s Brain Simulatorem a získat porozumění pro schopnosti a omezení neuronů, trochu o reprezentaci znalostí a dokonce vytvořit své vlastní omezené sítě. Pokud jste programátor, budete následovat více technické vysvětlení a vytvářet své vlastní moduly pro rozšíření systému o pokročilejší strategie AGI.

Proč je návrat k biologicky inspirovaným kořenům umělé inteligence důležitý pro dosažení AGI?

V 80. letech se myslelo, že pokud postavíme dostatečně velký neuronový network, bude spontánně inteligentní. Během následujících čtyřiceti let se tato představa stala stále méně pravděpodobnou. Pokud tedy klasické přístupy k umělé inteligenci nevyvedly k AGI, měli bychom se podívat na jiné přístupy, a jediný fungující model AGI, který máme, je lidský mozek.

Současně není důvod pro slepé lpění na biologické věrohodnosti. Například víme, že náš mozek může odhadnout vzdálenosti k objektům na základě malých rozdílů ve snímcích přijatých našimi dvěma očima, což je základ pro 3D filmy. Nevíme, jak to funguje v mozku, takže místo toho jsem naprogramoval tuto funkčnost v modulu, který odhaduje vzdálenosti pomocí několika řádků trigonometrie. Můžeme být poměrně jistí, že váš mozek nefunguje tímto způsobem, ale trigonometrický přístup je pravděpodobně rychlejší a přesnější.

Vy jste ve své knize uvedl, že AGI vyžaduje robotiku, proč je to tak důležité?

Představte si, že vysvětluje barvu slepé osobě nebo hudbu neslyšící osobě. Pokud je potenciální AGI pouze programem na počítači, jak může získat základní porozumění pro věci, které zná každé tříleté dítě? Dítě má bod pohledu a je obklopeno realitou. Dítě ví, že objekty existují v této realitě a že mnoho z nich lze manipulovat. Hrající si s bloky může dítě naučit se o tvaru, velikosti, pevnosti, gravitaci, vizuální okluzi, vzdálenosti a mnoho dalších věcí. S autonomním pohybem, viděním a manipulátory může AGI naučit se o realitě na fundamentálnější úrovni než jakýkoli program, který se spoléhá pouze na velké množství textu a obrazových dat.

Po získání základního porozumění pro realitu robotickým AGI může být toto znalosti duplikováno do ne-robotických myslících strojů a porozumění bude přetrvávat. Stejně jako někdo, kdo ztratí smysly zraku nebo sluchu, může porozumět věcem jiným způsobem než osoba, která tyto smysly nikdy neměla.

Jedním důležitým aspektem Brain Simulatoru II je, že nepoužívá zpětnou propagaci, jaký je důvod pro nezavedení této metody?

Váš mozek funguje bez zpětné propagace, takže AGI musí být možné bez ní. Ve skutečnosti je zpětná propagace fundamentálně neslučitelná s biologickým modelem, protože se spoléhá na schopnost přesně měřit a upravovat synaptické váhy. Po nějaké době strávené s Brain Simulatorem budete dospět k závěru, že nastavení synaptických váhy s určitou přesností je velmi obtížné a přesně měřit, co tyto synaptické váhy jsou, je nemožné. Základní problém spočívá v tom, že aktivní neurony mění synaptické váhy, ale není žádný způsob, jak tyto synaptické váhy detekovat bez aktivace neuronů, takže synaptická váha nemůže být detekována bez změny.

Zpětná propagace nemá biologickou analogii a považuji ji za velmi silnou statistickou metodu. Mnoho lidí s ní pracuje, někteří s vynikajícími výsledky. Můj bod je pokusit se o jiné přístupy. Používáním vybuchujících neuronů v kombinaci s pluginovými softwarovými moduly se dívám na problémy AGI z jiného úhlu.

Když je mozek probed, zdá se, že je v něm nepořádek a náhoda, je toto něco, co bychom měli zavést do softwarového systému pro skutečné AGI?

Nezdá se mi to. Když se podíváte na jednotlivé neurony a synapsy, jejich funkce je bastante deterministická, stejně jako tranzistor. V mozku vypadají věci náhodně, protože úrovně šumu jsou bastante vysoké a informační komponenty nejsou v žádném zjevném pořádku. Ale přemýšlejte o svém zraku, můžete číst text jasně a není v něm žádný nepořádek nebo náhoda. Takže můžeme uzavřít, že alespoň vaše vizuální kůra je bastante spolehlivá a opakovaná. Ale když je probed, vypadá stejně náhodně jako zbytek mozku. Takže zbytek mozku je pravděpodobně stejně spolehlivý a opakovaný jako vizuální kůra, my jen nevidíme organizaci a pořádek zatím. Je to trochu jako čtení čínštiny, pro mě to jsou náhodné značky, ale pro někoho, kdo ji umí číst, je v ní absolutní organizace. My jen neumíme číst vnitřní jazyk mozku zatím.

Vy jste zavedl koncept nazvaný Univerzální znalostní úložiště (UKS), můžete stručně diskutovat, co to je a proč je to důležité?

Přemýšlejte zpět na otázku robotiky, můžete vidět, že jednou z facett obecné inteligence je schopnost integrovat znalosti z různých smyslů. Víte o bloku, protože ho můžete vidět, dotknout se ho a slyšet slova o něm. Všechny tyto informace představují znalosti o bloku. Takže pro AGI, aby mělo podobné schopnosti, musí mít obecný mechanismus ukládání, který může zpracovat širokou škálu různých informací a vytvořit užitečné vztahy mezi nimi. UKS je znalostní graf ve velmi obecném smyslu, takže může zpracovat jakýkoli druh informací a jakýkoli druh vztahů.

UKS může uložit prostorové informace potřebné pro aplikaci bludiště spolu s rozhodovacím a výsledkovým stromem, který se používá k dosažení cíle. Stejná struktura se používá k asociaci slov s barvami. Tato obecnost je fundamentální pro AGI.

Jaký je váš časový horizont pro vznik AGI?

Je obtížné říci. Už máme hardwarové vybavení potřebné pro AGI a vidím, že jediný průlom je vše, co je potřeba, a může přijít kdykoli. Pokusím se popsat ten průlom:

Představte si, že pokud vše, co víte, je, že červená je barva a modrá je barva, můžete mi říci, jaké barvy můžete jmenovat, a můžete říci červenou a modrou. Otázka je, jak může AGI naučit se, že vztah “je-a” je něco. Mohl bych snadno naprogramovat takový vztah, ale pak by můj AGI nebyl schopen naučit se nové vztahy, jakmile jsou objeveny. Dítě může naučit se o vztazích bližší/dálší, větší/menší, dříve/později, před/po a mnoho dalších. Ale tyto se spoléhají na ještě fundamentálnější koncepty velikosti, vzdálenosti, času a mnoho dalších.

Jak může hlava plná neuronů naučit se všechny tyto fundamentální věci? To se váže k potřebě robotiky. Jak může AGI naučit se koncept vzdálenosti, pokud nemůže jít nikam nebo dosáhnout nic? To se také váže k potřebě univerzálního úložiště. Jak může AGI porozumět, kam jít, což kombinuje koncepty umístění a času? Jít někam je relativně přímé. Porozumět, co to znamená jít někam, je mnohem obtížnější. Věřím, že tyto fundamentální otázky jsou všechny manifestacemi stejného základního problému a řešení tohoto problému je nutný průlom.

Ne mnoho lidí pracuje na této otázce, částečně protože je to tak obtížné představit projekt, který, pokud je skutečně úspěšný, bude mít schopnosti tříletého dítěte po třech letech, a schopnosti desetiletého dítěte po deseti letech. Takže řešení pravděpodobně přijde od menších nezávislých výzkumníků, kteří mají čas a energii, aby se věnovali problémům bez krátkodobého návratu.

Je něco jiného, co byste chtěl sdílet o Brain Simulatoru II nebo AGI obecně?

Když se snažíte použít neurony a synapsy k navržení obvodů, které řeší tyto fundamentální problémy, dospějete k závěru, že místo toho, aby koncept byl reprezentován několika desítkami synapsí, každý vyžaduje několik desítek neuronů. To znamená, že místo toho, aby kapacita mozku byla mnoha miliardami věcí, je omezena na pochopení desítek nebo stovek milionů věcí. S tímto na paměti by se nasazená AGI, která by mohla pochopit pouze deset milionů věcí, měla alespoň schopnost pochopit některé z těchto fundamentálních konceptů. A počítačový systém reprezentující deset milionů věcí je dobře v dosahu dnešního hardwaru, možná dokonce dnešního desktopového počítače.

Verze 1.0 Brain Simulatoru je vlastně jeho “příchod do dospělosti”. Nyní má kapacitu a vyleštěné uživatelské rozhraní, které z něj dělají mnohem užitečnější nástroj pro širší výzkumnou obec. Je to komunitní projekt s rostoucím vývojářským týmem a větším sborem koncových uživatelů. Společně budeme zkoušet spoustu nových nápadů a budeme dělat pokroky v některých z fundamentálních otázek inteligence a AGI.

Děkuji vám za skvělý rozhovor, je vždy inspirativní diskutovat o AGI s vámi. Čtenáři, kteří chtějí se dozvědět více, by měli přečíst knihu Brain Simulator II.