Charles J. Simon, Autor, Will Computers Revolt? – Wywiad

Charles J. Simon, BSEE, MSCS, krajowy przedsiębiorca, deweloper oprogramowania i menedżer. Z szerokim doświadczeniem w zarządzaniu i technice oraz stopniami w dziedzinie inżynierii elektrycznej i informatyki, Pan Simon ma wiele lat doświadczenia w branży komputerowej, w tym pionierską pracę w dziedzinie sztucznej inteligencji i projektowania wspomaganego komputerowo (dwie generacje CAD).

Jest również autorem książki ‘Will Computers Revolt’, która oferuje pogłębiony widok na przyszłą możliwość sztucznej inteligencji ogólnej (AGI).

Co było tym, co pierwotnie przyciągnęło Cię do sztucznej inteligencji, a konkretnie do AGI?

Zainteresowałem się pytaniem, „Czy maszyny mogą myśleć?” od czasu, gdy po raz pierwszy przeczytałem pionierską pracę Alana Turinga z 1950 roku, która zaczyna się od tego pytania. Jak dotąd, odpowiedź jest wyraźnie, „Nie”, ale nie ma naukowych powodów, dla których tak nie miałoby być. Dołączyłem do społeczności sztucznej inteligencji podczas początkowego boomu sieci neuronowych w końcu lat 80. i od tego czasu sztuczna inteligencja dokonała wielkich postępów. Ale minione trzydzieści lat nie przyniosły zrozumienia naszym maszynom, zdolności, która pozwoliłaby na nowe poziomy użyteczności.

Powiedziałeś, że dzielisz opinię eksperta MIT Rodneya Brooksa, który mówi, że „bez interakcji ze środowiskiem – bez ciała robota, jeśli tak można powiedzieć – maszyny nigdy nie wykażą AGI”. To podstawowo oznacza, że bez wystarczających danych wejściowych z ciała robota, sztuczna inteligencja nigdy nie rozwinie zdolności AGI. Poza komputerowym widzeniem, jakie rodzaje danych wejściowych są potrzebne do rozwoju AGI?

Dzisiejsza sztuczna inteligencja musi być uzupełniona o podstawowe pojęcia, takie jak fizyczna egzystencja obiektów w rzeczywistości, upływ czasu, przyczyna i skutek – pojęcia jasne dla każdego trzyletniego dziecka. Dziecko w wieku trzech lat używa wielu zmysłów, aby nauczyć się tych pojęć, dotykając i manipulując zabawkami, poruszając się po domu, ucząc się języka itp. Chociaż jest możliwe stworzenie AGI z ograniczonymi zmysłami, tak jak istnieją osoby głuche i niewidome, które są całkowicie inteligentne, ale więcej zmysłów i zdolności do interakcji sprawia, że rozwiązanie problemu AGI jest łatwiejsze.

W celu kompletności mój symulator może dostarczyć zmysły węchu i smaku. Pozostaje to, czy okażą się one również ważne dla AGI.

Powiedziałeś, że „Kluczowym wymogiem inteligencji jest środowisko zewnętrzne wobec inteligencji”. Przykład, który podałeś, to to, że „nie jest rozsądnie oczekiwać, że IBM’s Watson „zrozumie” cokolwiek, jeśli nie ma podstawowego pojęcia, co to jest „rzecz”. To wyraźnie odnosi się do obecnych ograniczeń wąskiej sztucznej inteligencji, szczególnie przetwarzania języka naturalnego. Jak programiści sztucznej inteligencji mogą najlepiej pokonać to ograniczenie?

Kluczowym czynnikiem jest przechowywanie wiedzy, która nie jest specyficznie werbalna, wizualna lub dotykowa, ale jako abstrakcyjne „Rzeczy”, które mogą mieć werbalne, wizualne i dotykowe atrybuty. Rozważ coś tak prostego, jak fraza „czerwona piłka”. Wiecie, co te słowa znaczą, dzięki waszym doświadczeniom wizualnym i dotykowym. Wiecie również znaczenie powiązanych działań, takich jak rzucanie, odbijanie, kopanie itp., które wszystkie przychodzą na myśl w jakimś stopniu, gdy słyszycie tę frazę. Każdy system sztucznej inteligencji, który jest specyficznie oparty na słowach lub specyficznie na obrazach, będzie pomijał inne poziomy zrozumienia.

Zaimplementowałem Uniwersalne Przechowywanie Wiedzy, które przechowuje każdy rodzaj informacji w strukturze podobnej do mózgu, gdzie Rzeczy są analogiczne do neuronów i mają wiele odniesień atrybutów do innych Rzeczy – odniesienia są analogiczne do synaps. Tak więc, czerwony i piłka są indywidualnymi Rzeczami, a czerwona piłka jest Rzeczą, która ma odniesienia atrybutów do Rzeczy czerwonej i piłki. Zarówno czerwony, jak i piłka mają odniesienia do odpowiednich Rzeczy dla słów „czerwony” i „piłka”, z których każda z kolei ma odniesienia do innych Rzeczy, które definiują, jak słowa są słyszane, wypowiadane, czytane lub pisane, a także możliwe działania Rzeczy.

Dojść do wniosku, że symulacja mózgu ogólnej inteligencji jest jeszcze daleko, podczas gdy AGI może być (relatywnie) tuż za rogiem. Czy powinniśmy porzucić próby emulacji lub stworzenia symulacji ludzkiego mózgu i po prostu skupić się na AGI?

Dzisiejsze głębokie uczenie i pokrewne technologie są wspaniałe dla odpowiednich aplikacji, ale nie doprowadzą spontanicznie do zrozumienia. Aby zrobić następny krok, musimy dodać techniki specyficznie ukierunkowane na rozwiązanie problemów, które są w zasięgu każdego trzyletniego dziecka.

Wykorzystanie wewnętrznych zdolności naszych komputerów może być o kilka rzędów wielkości bardziej efektywne niż biologiczny odpowiednik lub jakakolwiek symulacja. Na przykład, wasz mózg może przechowywać informacje w chemii biologicznych synaps w ciągu kilku iteracji, wymagając 10-100 milisekund. Komputer może po prostu przechowywać nową wartość synapsy w jednym cyklu pamięci, miliard razy szybciej.

Podczas tworzenia oprogramowania AGI, zrobiłem zarówno symulację biologicznych neuronów, jak i bardziej efektywne algorytmy. Przechodząc dalej z Uniwersalnym Przechowywaniem Wiedzy, gdy symulowany w symulowanych biologicznych neuronach, każda Rzecz wymaga minimum 10 neuronów i zwykle znacznie więcej. To stawia pojemność ludzkiego mózgu gdzieś pomiędzy dziesięć a sto milionów Rzeczy. Ale być może AGI wydawałoby się inteligentne, gdyby zrozumiało tylko milion Rzeczy – dobrze w granicach dzisiejszych komputerów typu desktop.

Jeden z kluczowych nieznanych jest to, jak dużo czasu robota powinno być alokowane na przetwarzanie i reagowanie na świat w porównaniu z czasem spędzonym na wyobrażaniu i planowaniu. Czy możesz krótko wyjaśnić znaczenie wyobraźni dla AGI?

Możemy wyobrazić sobie wiele rzeczy, a następnie działać tylko na tych, które nam się podobają, tych, które realizują nasze wewnętrzne cele, jeśli tak można powiedzieć. Prawdziwa siła wyobraźni polega na tym, że możemy przewidywać przyszłość – trzyletnie dziecko może się dowiedzieć, które sekwencje ruchu doprowadzą je do celu w innym pokoju, a dorosły może spekulować, które słowa będą miały największy wpływ na innych.

AGI w podobny sposób skorzysta na tym, że będzie mogło wyjść poza bycie czysto reaktywnym i spekulować na temat różnych złożonych działań i wybrać najlepsze.

Uważasz, że trzy prawa robotyki Asimova są zbyt proste i niejasne. W swojej książce podzieliłeś się kilkoma pomysłami na zalecane prawa do zaprogramowania w robotach. Które prawa uważasz za najważniejsze dla robota do naśladowania?

Nowe „prawa robotyki” będą ewoluować w ciągu lat, gdy AGI pojawi się. Proponuję kilka początkowych:

1. Maksymalizuj wewnętrzną wiedzę i zrozumienie środowiska.
2. Podziel się tą wiedzą dokładnie z innymi (zarówno AGI, jak i ludźmi).
3. Maksymalizuj dobrobyt zarówno AGI, jak i ludzi jako całości – nie tylko jako jednostki.

Masz pewne zastrzeżenia co do testu Turinga i pojęcia za nim stojącego. Czy możesz wyjaśnić, jak uważasz, że test Turinga jest wadliwy?

Test Turinga służył nam dobrze przez pięćdziesiąt lat jako ad-hoc definicja ogólnej inteligencji, ale gdy AGI zbliża się, musimy udoskonalić definicję i potrzebujemy bardziej klarownej definicji. Test Turinga jest tak naprawdę testem, jak bardzo jest się ludzkim, a nie jak inteligentnym. Im dłużej komputer może utrzymać oszustwo, tym lepiej wykonuje test. Oczywiście, zadawanie pytań, takich jak „Czy jesteś komputerem?” i pokrewne pytania, takie jak „Jaki jest twój ulubiony pokarm?”, są martwymi giveaways, chyba że AGI jest zaprogramowana do oszustwa – co jest wątpliwym celem.

Dalej, test Turinga zmotywował rozwój sztucznej inteligencji w dziedzinach o ograniczonej wartości, takich jak czatboty z ogromną elastycznością w odpowiedziach, ale bez żadnego podstawowego zrozumienia.

Co zrobiłbyś inaczej w swojej wersji testu Turinga?

Lepsze pytania mogłyby badać specyficznie zrozumienie czasu, przestrzeni, przyczyny i skutku, przewidywania itp., zamiast losowych pytań bez żadnej podstawy w psychologii, neurologii czy sztucznej inteligencji. Oto kilka przykładów:

1. Co widzisz teraz? Jeśli odstąpisz o trzy stopy, jakie różnice zobaczysz?
2. Jeśli [działanie], jaka będzie twoja reakcja?
3. Jeśli [działanie], jaka będzie moja prawdopodobna reakcja?
4. Czy możesz nazwać trzy rzeczy, które są podobne do [obiektu]?

Następnie, zamiast oceniania odpowiedzi pod kątem ich nieodróżnialności od ludzkich odpowiedzi, powinny być one oceniane pod kątem ich rozsądku (inteligencji) na podstawie doświadczenia jednostki poddawanej testowi.

Powiedziałeś, że gdy AGI jest konfrontowany z żądaniem wykonania krótkoterminowej destrukcyjnej akcji, odpowiednio zaprogramowana AGI po prostu odmówi. Jak możemy zagwarantować, że AGI jest odpowiednio zaprogramowana od samego początku?

Proces podejmowania decyzji oparty jest na celach. W połączeniu z wyobraźnią, ty (lub AGI) rozważasz wynik różnych możliwych działań i wybierasz to, które najlepiej osiąga cele. U ludzi nasze cele są ustawiane przez ewolucyjne instynkty i doświadczenie; cele AGI są całkowicie uzależnione od deweloperów. Musimy upewnić się, że cele AGI są zgodne z celami ludzkości, a nie z osobistymi celami jednostki. [Trzy możliwe cele, jak wymieniono powyżej.]

Powiedziałeś, że jest nieuniknione, że ludzie stworzą AGI, jaka jest twoja najlepsza szacunkowa ramy czasowej?

Części AGI zaczną pojawiać się w ciągu najbliższej dekady, ale nie wszyscy będziemy zgadzać się, że AGI przybyła. Ostatecznie zgodzimy się, że AGI przybyła, gdy przewyższą one większość ludzkich zdolności o znaczną różnicę. To zajmie dwa lub trzy dziesięciolecia dłużej.

Czy AGI będzie prawdziwie świadoma, jak my ją rozumiemy?

Świadomość manifestuje się w zestawie zachowań (które możemy obserwować), które opierają się na wewnętrznym poczuciu (które nie możemy obserwować). AGI będzie manifestować te zachowania; musi to zrobić, aby podejmować inteligentne decyzje. Ale twierdzę, że nasze wewnętrzne poczucie jest w dużej mierze zależne od naszego sprzętu zmysłowego i instynktów, więc mogę zagwarantować, że jakiekolwiek wewnętrzne poczucia AGI mogą mieć, będą one różne od ludzkich.

To samo można powiedzieć o emocjach i naszym poczuciu wolnej woli. Podczas podejmowania decyzji wiara w wolną wolę przenika każdą decyzję, którą podejmujemy. Jeśli nie wierzysz, że masz wybór, po prostu reagujesz. Dla AGI, aby podejmować przemyślane decyzje, również musi być świadoma swojej własnej zdolności do podejmowania decyzji.

Ostatnie pytanie, czy uważasz, że AGI ma większy potencjał dobra czy zła?

Jestem optymistą, że AGI pomoże nam posunąć się do przodu jako gatunek i przyniesie nam odpowiedzi na wiele pytań o wszechświat. Kluczem będzie to, abyśmy przygotowali się i zdecydowali, jaka będzie nasza relacja z AGI, gdy zdefiniujemy ich cele. Jeśli zdecydujemy się użyć pierwszych AGI jako narzędzi podboju i wzbogacenia, nie powinniśmy być zaskoczeni, jeśli w przyszłości staną się one własnymi narzędziami podboju i wzbogacenia przeciwko nam. Jeśli zdecydujemy, że AGI są narzędziami wiedzy, eksploracji i pokoju, to właśnie to otrzymamy w zamian. Wybór należy do nas.

Dziękuję za fantastyczny wywiad, który eksplorował przyszły potencjał budowy AGI. Dla czytelników, którzy chcą dowiedzieć się więcej, mogą przeczytać ‘Will Computers Revolt’ lub odwiedzić stronę internetową Charle’a futureai.guru.