Charles Simon, Autor Brain Simulator II – Seria Wywiadów

Charles Simon jest autorem Brain Simulator II, książki towarzyszącej oprogramowaniu Brain Simulator II, wolnemu i otwartemu projektowi oprogramowania, którego celem jest stworzenie systemu sztucznej inteligencji ogólnej (AGI) od podstaw.

Oryginalne oprogramowanie Brain Simulator zostało wydane w 1988 roku, co stanowi ogromną różnicę w świecie oprogramowania. Jak duży postęp odnotowuje Brain Simulator II w porównaniu z poprzednią wersją?

Dzisiejszy system jest ponad milion razy szybszy. Oryginalna wersja była napisana w języku FORTRAN, działała na klonie IBM AT, obsługiwała stałą tablicę 1200 neuronów i wykonywała około dwóch cykli na sekundę. Dzisiejszy program może działać w sieci i przetwarzać 2,5 miliarda synaps na sekundę na potężnym procesorze desktopowym.

Ta książka dotyczy Brain Simulator II, otwartego projektu oprogramowania, którego celem jest stworzenie sztucznej inteligencji od podstaw. Jaki rodzaj doświadczenia programistycznego jest potrzebny do uruchomienia tego oprogramowania?

Żadne doświadczenie nie jest potrzebne. Jeśli nie jesteś programistą, możesz spędzić czas z Brain Simulatorem i zdobyć zrozumienie możliwości i ograniczeń neuronów, trochę o reprezentacji wiedzy i nawet zbudować własne ograniczone sieci. Jeśli jesteś programistą, będziesz śledził bardziej szczegółowe wyjaśnienia techniczne i zbudujesz własne moduły, aby rozszerzyć system o bardziej zaawansowane strategie AGI.

Dlaczego powrót do biologicznie zainspirowanych korzeni sztucznej inteligencji jest ważny dla osiągnięcia AGI?

W latach 80. myślano, że jeśli tylko zbudujemy wystarczająco duży sieć neuronową, stanie się ona spontanicznie inteligentna. W ciągu ostatnich czterdziestu lat ten scenariusz stał się coraz mniej prawdopodobny. Jeśli therefore klasyczne podejścia do sztucznej inteligencji nie sprawdziły się w przypadku AGI, powinniśmy rozważyć inne podejścia, a jedynym działającym modelem AGI, jaki mamy, jest ludzki mózg.

Jednocześnie nie ma powodu, aby bezwzględnie przestrzegać biologicznej wiarygodności. Na przykład wiemy, że nasz mózg może szacować odległości do obiektów na podstawie niewielkich różnic w obrazach otrzymywanych przez nasze dwa oczy, co jest podstawą filmów 3D. Nie wiemy, jak to działa w mózgu, więc zamiast tego napisałem tę funkcjonalność w module, który szacuje odległości za pomocą kilku linii trygonometrii. Możemy być dość pewni, że twój mózg nie działa w ten sposób, ale podejście trygonometryczne jest prawdopodobnie szybsze i bardziej dokładne.

Twierdzisz w książce, że AGI wymaga robotyki, dlaczego jest to takie ważne?

Rozważ próbę wyjaśnienia koloru osobie niewidomej lub muzyki osobie głuchiej. Jeśli potencjalna AGI jest tylko programem na komputerze, jak może uzyskać podstawowe zrozumienie rzeczy, które każde trzyletnie dziecko wie? Dziecko ma punkt widzenia i jest otoczone rzeczywistością. Dziecko wie, że obiekty istnieją w tej rzeczywistości i że wiele z nich można manipulować. Bawiąc się bloczkiem, dziecko może nauczyć się o kształcie, rozmiarze, stałości, grawitacji, wizualnym zakryciu, odległości itd. Z autonomicznym ruchem, wzrokiem i manipulatorami AGI może nauczyć się o rzeczywistości na bardziej fundamentalnym poziomie niż jakikolwiek program, który opiera się tylko na ogromnych ilościach danych tekstowych i obrazowych.

Po tym, jak AGI z robotyką zdobędzie podstawowe zrozumienie obiektów w rzeczywistości, ta wiedza może być sklonowana do nie-robotycznych maszyn myślących, a zrozumienie będzie się utrzymywać. Tak jak osoba, która traci zmysły wzroku lub słuchu, może zrozumieć rzeczy w inny sposób niż osoba, która nigdy nie miała tych zmysłów.

Jednym z ważnych aspektów Brain Simulator II jest to, że nie używa propagacji wstecznej, jaka jest racja dla nieprzyjęcia tego podejścia?

Twój mózg działa bez propagacji wstecznej, więc AGI musi być możliwa bez niej. W rzeczywistości propagacja wsteczna jest fundamentalnie niezgodna z modelem biologicznym, ponieważ opiera się na możliwości precyzyjnego modyfikowania wag synaps i ich wrażliwości. Po pewnym czasie spędzonym z Brain Simulatorem, dasz się przekonać, że ustawienie wag synaps z pewnym stopniem precyzji jest bardzo trudne, a dokładne wrażenie, jakie mają te wagi synaptyczne, jest niemożliwe. Podstawowym problemem jest to, że neurony, które się aktywują, modyfikują wagi synaps, ale nie ma sposobu, aby wykryć wagę synapsy bez modyfikowania jej, więc waga synapsy nie może być wrażona bez jej modyfikacji.

Propagacja wsteczna nie ma biologicznego odpowiednika i uważam ją za niezwykle potężną statystyczną metodę. Wiele osób pracuje z nią, niektórzy z doskonałymi wynikami. Mój punkt widzenia jest taki, aby wypróbować różne podejścia. Używając neuronów sygnałowych w połączeniu z modułami oprogramowania, patrzę na problemy AGI z innego punktu widzenia.

Gdy mózg jest badany, wydaje się, że jest w nim nieporządek i losowość, czy to coś, co musimy wprowadzić do systemu oprogramowania, aby prawdziwa AGI mogła się pojawić?

Nie myślę, że tak. Gdy spoglądasz na poszczególne neurony i synapsy, ich funkcja jest dość deterministyczna, tak jak tranzystor. W mózgu wszystko wygląda na losowe, ponieważ poziomy szumu są dość wysokie, a składniki informacji nie są w żadnym widocznym porządku. Ale rozważ swoje zdolności wzrokowe, możesz czytać tekst z wyraźnością, a nie ma żadnego nieporządku ani losowości w procesie czytania. Więc dochodzimy do wniosku, że przynajmniej twoja korowa wzrokowa jest dość niezawodna i powtarzalna. A jednak, gdy jest badana, wygląda na równie nieporządkową jak reszta mózgu. Więc reszta mózgu jest prawdopodobnie równie niezawodna i powtarzalna jak korowa wzrokowa, tylko nie widzimy jeszcze organizacji i porządku. To trochę jak czytanie chińskiego, dla mnie to nieporządane, półlosowe znaki, ale dla kogoś, kto potrafi czytać ten język, jest absolutna organizacja. Po prostu jeszcze nie potrafimy odczytać wewnętrznego języka mózgu.

Wprowadzasz pojęcie Uniwersalnego Magazynu Wiedzy (UKS), mogłbyś krótko omówić, co to jest i dlaczego jest ważne?

Wracając do pytania o robotykę, możesz zobaczyć, że jednym z aspektów ogólnej inteligencji jest zdolność do integrowania wiedzy z różnych zmysłów. Wiesz o bloczku, bo możesz go zobaczyć, dotknąć i usłyszeć słowa o nim. Wszystko to reprezentuje informację o bloczku. Dlatego AGI musi mieć ogólny mechanizm przechowywania, który może obsłużyć różnorodne informacje i tworzyć użyteczne relacje między nimi. UKS jest grafem wiedzy w bardzo ogólny sposób, aby mógł obsłużyć każdy rodzaj informacji i każdego rodzaju relacje.

UKS może przechowywać informacje przestrzenne potrzebne do aplikacji labiryntu wraz z drzewem decyzji i wyników używanym do pokonania labiryntu w celu osiągnięcia celu. Ta sama struktura jest używana do skojarzenia słów z kolorami. Ten rodzaj ogólności jest fundamentalny dla AGI.

Jaki jest twój horyzont czasowy dla pojawienia się AGI?

Trudno powiedzieć. Już mamy niezbędne sprzęty dla AGI i widzę, że jeden przełom jest wszystkim, czego potrzebujemy, i może nastąpić w każdej chwili. Niech spróbuję opisać ten przełom:

Rozważ, że jeśli wszystko, co wiesz, to to, że czerwony jest kolorem i niebieski jest kolorem, mogę poprosić cię o podanie kilku kolorów, a ty możesz powiedzieć czerwony i niebieski. Pytanie brzmi, jak AGI może nauczyć się, że relacja „jest” jest czymś. Mogę łatwo zaprogramować taką relację, ale wtedy mój AGI nie będzie mógł nauczyć się nowych relacji, gdy tylko je spotka. Dziecko może nauczyć się o relacjach bliższych/dalszych, większych/mniejszych, wcześniejszych/późniejszych, przed/po i tak dalej. Ale te opierają się na jeszcze bardziej fundamentalnych pojęciach rozmiaru, odległości, czasu itd.

Jak głowa pełna neuronów może nauczyć się wszystkich tych fundamentalnych rzeczy? To wiąże się z potrzebą robotyki. Jak AGI może nauczyć się pojęcia odległości, jeśli nie może iść nigdzie ani niczego dotknąć? To również wiąże się z potrzebą uniwersalnego przechowywania. Jak AGI może zrozumieć, że idzie gdzieś, co łączy pojęcia lokalizacji i czasu? Iść gdzieś jest dość proste. Zrozumienie, co to znaczy iść gdzieś, jest o wiele trudniejsze. Uważam, że te fundamentalne pytania są wszystkie przejawami tego samego podstawowego problemu, a rozwiązanie tego problemu jest niezbędnym przełomem.

Nie wielu ludzi pracuje nad tym pytaniem, głównie dlatego, że jest to tak trudne, aby przedstawić projekt, który, jeśli byłby naprawdę udany, miałby możliwości trzylatka po trzech latach, a możliwości dziesięciolatka po dziesięciu latach. Więc rozwiązanie prawdopodobnie przyjdzie od mniejszych, niezależnych badaczy, którzy mają czas i energię, aby poświęcić się problemom bez krótkoterminowej zwrotu.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Brain Simulator II lub AGI w ogóle?

Gdy próbujesz użyć neuronów i synaps do zaprojektowania obwodów, które rozwiązują te fundamentalne problemy, dochodzisz do wniosku, że zamiast reprezentowania pojęcia przez kilkadziesiąt synaps, każde z nich wymaga kilkudziesięciu neuronów. To oznacza, że zamiast tego, że pojemność mózgu jest wieloma miliardami rzeczy, jak powszechnie się uważa, jest ograniczona do zrozumienia dziesiątek lub setek milionów rzeczy. Z tym na uwadze, AGI, która mogłaby zrozumieć tylko dziesięć milionów rzeczy, powinna być w stanie zrozumieć niektóre z tych fundamentalnych pojęć. A system komputerowy reprezentujący dziesięć milionów rzeczy jest już w zasięgu dzisiejszego sprzętu, być może nawet dzisiejszego komputera desktopowego.

Wersja V1.0 Brain Simulatora to tak naprawdę jego „dojrzewanie”. Teraz ma pojemność i wygładzony interfejs użytkownika, co czyni go o wiele bardziej przydatnym dla szerszej grupy badawczej. Jest to projekt społecznościowy z rosnącym zespołem programistów i większym korpusem użytkowników końcowych. Razem będziemy wypróbować wiele nowych pomysłów i zrobimy postępy w niektórych z fundamentalnych pytań dotyczących inteligencji i AGI.

Dziękuję za wspaniały wywiad, zawsze jest interesująco dyskutować o AGI z tobą. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni przeczytać książkę Brain Simulator II.