Charles J. Simon, Autor, Czy Komputery Buntują Się? – Seria Wywiadów

Charles J. Simon, BSEE, MSCS, krajowo uznanym przedsiębiorcą, deweloperem oprogramowania i menedżerem. Z szerokim doświadczeniem menedżerskim i technicznym oraz tytułami z dziedziny inżynierii elektrycznej i nauk komputerowych, pan Simon ma wiele lat doświadczenia w branży komputerowej, w tym pionierską pracę w dziedzinie sztucznej inteligencji i projektowania wspomaganego komputerem (dwa pokolenia CAD).

Jest on również autorem książki ‘Czy Komputery Buntują Się’, która oferuje pogłębiony widok na przyszłą możliwość ogólnej sztucznej inteligencji (AGI).

Czym było to, co pierwotnie przyciągnęło Cię do sztucznej inteligencji, a konkretnie do AGI?

Zostałem zafascynowany pytaniem, „Czy maszyny mogą myśleć?” od czasu, gdy po raz pierwszy przeczytałem przełomowy artykuł Alana Turinga z 1950 roku, który zaczyna się od tego pytania. Jak dotąd, odpowiedź brzmi wyraźnie, „Nie”, ale nie ma naukowych powodów, dla których tak nie jest. Dołączyłem do społeczności sztucznej inteligencji podczas początkowego boomu sieci neuronowych w późnych latach 80-tych, i od tego czasu sztuczna inteligencja dokonała wielkich postępów. Jednakże, minionych trzydzieści lat nie przyniosło zrozumienia naszym maszynom, zdolności, która pozwoliłaby na podniesienie licznych aplikacji do nowych poziomów użyteczności.

Stwierdziłeś, że dzielisz opinię eksperta MIT ds. sztucznej inteligencji Rodneya Brooksa, który mówi, że „bez interakcji ze środowiskiem – bez ciała robota, jeśli tak można powiedzieć – maszyny nigdy nie wykażą AGI”. To podstawowo oznacza, że bez wystarczających danych wejściowych z ciała robota, sztuczna inteligencja nigdy nie rozwinie zdolności AGI. Poza rozpoznawaniem obrazów, jakie rodzaje danych wejściowych są potrzebne do rozwoju AGI?

Dzisiejsza sztuczna inteligencja wymaga uzupełnienia o podstawowe pojęcia, takie jak fizyczna egzystencja obiektów w rzeczywistości, upływ czasu, przyczyna i skutek – pojęcia jasne dla każdego trzyletniego dziecka. Dziecko w wieku trzech lat używa wielu zmysłów, aby nauczyć się tych pojęć, dotykając i manipulując zabawkami, poruszając się po domu, ucząc się języka itp. Chociaż jest możliwe stworzenie AGI z ograniczonymi zmysłami, podobnie jak istnieją osoby niewidome i głuchonieme, które są całkowicie inteligentne, ale więcej zmysłów i zdolności do interakcji sprawia, że rozwiązanie problemu AGI jest łatwiejsze.

Dla kompletności mój symulator może dostarczyć zmysły węchu i smaku. Pozostaje to, czy okażą się one również ważne dla AGI.

Stwierdziłeś, że „Kluczowym wymogiem inteligencji jest środowisko zewnętrzne w stosunku do inteligencji”. Przykład, który podałeś, to to, że „nie jest rozsądnie oczekiwać, że IBM’s Watson „zrozumie” cokolwiek, jeśli nie ma podstawowego pojęcia, co to jest „rzecz”. To gra w obecnych ograniczeniach wąskiej sztucznej inteligencji, szczególnie w przetwarzaniu języka naturalnego. Jak deweloperzy sztucznej inteligencji mogą najlepiej pokonać to ograniczenie?

Kluczowym czynnikiem jest przechowywanie wiedzy, która nie jest konkretnie werbalna, wizualna lub dotykowa, ale jako abstrakcyjne „Rzeczy”, które mogą mieć werbalne, wizualne i dotykowe atrybuty. Rozważ coś tak prostego, jak fraza „czerwona piłka”. Wiesz, co te słowa znaczą, dzięki Twoim doświadczeniom wizualnym i dotykowym. Wiesz również znaczenie powiązanych działań, takich jak rzucanie, odbijanie, kopanie itp., które wszystkie przychodzą na myśl w jakimś stopniu, gdy słyszysz tę frazę. Każdy system sztucznej inteligencji, który jest oparty wyłącznie na słowach lub obrazach, będzie miał brak zrozumienia na innych poziomach.

Zaimplementowałem Uniwersalne Przechowywanie Wiedzy, które przechowuje wszelkiego rodzaju informacje w strukturze podobnej do mózgu, gdzie Rzeczy są analogiczne do neuronów i mają wiele odniesień atrybutów do innych Rzeczy – odniesienia są analogiczne do synaps. W ten sposób czerwony i piłka są indywidualnymi Rzeczami, a czerwona piłka jest Rzeczą, która ma odniesienia atrybutów do Rzeczy czerwonej i Rzeczy piłki. Zarówno czerwony, jak i piłka mają odniesienia do odpowiednich Rzeczy dla słów „czerwony” i „piłka”, z których każda z kolei ma odniesienia do innych Rzeczy, które definiują, jak słowa są słyszane, mówione, czytane lub pisane, a także możliwe działania Rzeczy.

Osiągnąłeś wniosek, że symulacja mózgu ogólnej inteligencji jest jeszcze daleko, podczas gdy AGI może być (relatywnie) tuż za rogiem. Czy powinniśmy porzucić próby naśladownictwa lub tworzenia symulacji ludzkiego mózgu i po prostu skupić się na AGI?

Dzisiejsze głębokie uczenie i pokrewne technologie są wspaniałe dla odpowiednich aplikacji, ale nie doprowadzą spontanicznie do zrozumienia. Aby zrobić następny krok, musimy dodać techniki ukierunkowane specjalnie na rozwiązywanie problemów, które są w zakresie możliwości każdego trzyletniego dziecka.

Wydobywanie zalet wewnętrznych zdolności naszych komputerów może być o kilka rzędów wielkości bardziej efektywne niż biologiczne odpowiedniki lub jakakolwiek symulacja ich. Na przykład, Twój mózg może przechowywać informacje w chemii biologicznych synaps w ciągu kilku iteracji wymagających 10-100 milisekund. Komputer może po prostu przechowywać nową wartość synapsy w jednym cyklu pamięci, co jest miliard razy szybsze.

Podczas tworzenia oprogramowania AGI, zrobiłem zarówno biologiczną symulację neuronów, jak i bardziej efektywne algorytmy. Przenosząc dalej Uniwersalne Przechowywanie Wiedzy, gdy symulowane w symulowanych biologicznych neuronach, każda Rzecz wymaga minimum 10 neuronów i zwykle znacznie więcej. To stawia pojemność ludzkiego mózgu gdzieś pomiędzy dziesięć a sto milionów Rzeczy. Ale być może AGI wydawałaby się inteligentna, gdyby zrozumiała tylko milion Rzeczy – co jest w zasięgu dzisiejszych wysokiej klasy komputerów stacjonarnych.

Jednym z kluczowych nieznanych jest to, jak dużo czasu robota powinno być przeznaczone na przetwarzanie i reagowanie na świat w porównaniu z czasem spędzonym na wyobrażaniu i planowaniu. Czy możesz krótko wyjaśnić znaczenie wyobraźni dla AGI?

Możemy wyobrazić sobie wiele rzeczy, a następnie działać tylko na tych, które nam się podobają, tych, które realizują nasze wewnętrzne cele, jeśli można tak powiedzieć. Prawdziwa moc wyobraźni polega na możliwości przewidywania przyszłości – trzyletnie dziecko może wywnioskować, które sekwencje ruchu doprowadzą je do celu w innym pokoju, a dorosły może spekulować, które słowa będą miały największy wpływ na innych.

AGI w podobny sposób skorzysta na wykraczaniu poza bycie czysto reaktywnym do spekulowania na temat różnych złożonych działań i wyboru najlepszego.

Uważasz, że trzy prawa robotyki Asimova są zbyt proste i niejasne. W swojej książce podzieliłeś się kilkoma pomysłami na zalecane prawa, które powinny być zaprogramowane w robotach. Które prawa uważasz za najważniejsze dla robota do przestrzegania?

Nowe „prawa robotyki” będą ewoluować przez lata, gdy AGI się pojawia. Proponuję kilka początkowych:

1. Maksymalizuj wewnętrzną wiedzę i zrozumienie środowiska.
2. Podziel tę wiedzę dokładnie z innymi (zarówno AGI, jak i ludźmi).
3. Maksymalizuj dobrobyt zarówno AGI, jak i ludzi jako całości – nie tylko jako jednostki.

Masz pewne zastrzeżenia co do testu Turinga i pojęcia za nim stojącego. Czy możesz wyjaśnić, jak uważasz, że test Turinga jest wadliwy?

Test Turinga służył nam dobrze przez pięćdziesiąt lat jako robocza definicja ogólnej inteligencji, ale gdy AGI zbliża się, musimy udoskonalić definicję i potrzebujemy bardziej klarownej definicji. Test Turinga jest tak naprawdę testem na to, jak bardzo jest się ludzkim, a nie jak inteligentnym. Im dłużej komputer może utrzymać oszustwo, tym lepiej wykonuje test. Oczywiście, zadawanie pytań, takich jak „Czy jesteś komputerem?” i pokrewne pytania pośrednie, takie jak „Jaki jest Twój ulubiony pokarm?”, są zdradzieckie, chyba że AGI jest zaprogramowana do oszustwa – co jest wątpliwym celem.

Ponadto, test Turinga skłonił rozwój sztucznej inteligencji w obszary o ograniczonej wartości, na przykład w czatbotach z ogromną elastycznością odpowiedzi, ale bez podstawowego zrozumienia.

Co zrobiłbyś inaczej w swojej wersji testu Turinga?

Lepsze pytania mogłyby badać konkretnie zrozumienie czasu, przestrzeni, przyczyny i skutku, przewidywania itp., zamiast losowych pytań bez szczególnej podstawy w psychologii, neurobiologii lub sztucznej inteligencji. Oto kilka przykładów:

1. Co widzisz teraz? Jeśli odstąpisz o trzy stopy, jakie różnice zobaczysz?
2. Jeśli ja [działanie], jaka będzie Twoja reakcja?
3. Jeśli ty [działanie], jakie będą moje prawdopodobne reakcje?
4. Czy możesz nazwać trzy rzeczy, które są podobne do [obiekt]?

Następnie, zamiast oceniania odpowiedzi pod kątem ich nieodróżnialności od ludzkich odpowiedzi, powinny być one oceniane pod kątem tego, czy są rozsądnymi odpowiedziami (inteligentnymi) w oparciu o doświadczenie jednostki poddawanej testowi.

Stwierdziłeś, że gdy AGI stoi w obliczu żądań wykonania krótkoterminowej destrukcyjnej aktywności, właściwie zaprogramowane AGI po prostu odmówi. Jak możemy zapewnić, że AGI jest właściwie zaprogramowana od samego początku?

Proces podejmowania decyzji opiera się na celach. W połączeniu z wyobraźnią, Ty (lub AGI) rozważasz wynik różnych możliwych działań i wybierasz to, które najlepiej realizuje cele. W ludziach, nasze cele są ustawiane przez ewolucyjne instynkty i doświadczenie; cele AGI są całkowicie zależne od deweloperów. Musimy upewnić się, że cele AGI są zgodne z celami ludzkości, a nie z osobistymi celami jednostki. [Trzy możliwe cele, jak wyżej.]

Stwierdziłeś, że jest nieuniknione, że ludzie stworzą AGI, jaka jest Twoja najlepsza ocena czasowa?

Aspekty AGI zaczną pojawiać się w ciągu najbliższej dekady, ale nie wszyscy będziemy zgadzać się, że AGI się pojawiła. Ostatecznie, zgodzimy się, że AGI się pojawiła, gdy przewyższą one większość ludzkich zdolności o znaczną różnicę. To zajmie dwa lub trzy dziesięciolecia dłużej.

Dla wszystkich rozmów o AGI, czy będzie to prawdziwa świadomość, jaką znamy?

Świadomość manifestuje się w zestawie zachowań (które możemy obserwować), które opierają się na wewnętrznym odczuciu (którego nie możemy obserwować). AGI będzie manifestować te zachowania; musi to zrobić, aby podejmować inteligentne decyzje. Ale twierdzę, że nasze wewnętrzne odczucie jest w dużej mierze zależne od naszego sprzętu sensorycznego i instynktów, więc mogę zagwarantować, że jakiekolwiek wewnętrzne odczucia AGI mogą mieć, będą one różne od ludzkich.

To samo można powiedzieć o emocjach i naszym poczuciu wolnej woli. Podczas podejmowania decyzji, wiara w wolną wolę przenika każdą decyzję, którą podejmujemy. Jeśli nie wierzysz, że masz wybór, po prostu reagujesz. Aby AGI mogła podejmować przemyślane decyzje, również musi być świadoma swojej własnej zdolności do podejmowania decyzji.

Ostatnie pytanie, czy uważasz, że AGI ma więcej potencjału dobra czy zła?

Jestem optymistą, że AGI pomoże nam posunąć się do przodu jako gatunek i przyniesie nam odpowiedzi na wiele pytań o wszechświat. Kluczem będzie dla nas przygotowanie się i podjęcie decyzji, jaka będzie nasza relacja z AGI, gdy zdefiniujemy ich cele. Jeśli zdecydujemy się użyć pierwszych AGI jako narzędzi podboju i wzbogacenia, nie powinniśmy być zaskoczeni, jeśli w przyszłości staną się one własnymi narzędziami podboju i wzbogacenia przeciwko nam. Jeśli zdecydujemy, że AGI są narzędziami wiedzy, eksploracji i pokoju, to taki będzie również efekt. Wybór należy do nas.

Dziękuję za fantastyczny wywiad, który eksploruje przyszły potencjał budowy AGI. Dla czytelników, którzy chcą dowiedzieć się więcej, mogą przeczytać ‘Czy Komputery Buntują Się’ lub odwiedzić stronę futureai.guru.