Ronald T. Kneusel, Autor książki “How AI Works: From Sorcery to Science” – Seria wywiadów

Otrzymaliśmy zaawansowaną kopię książki „How AI Work: From Sorcery to Science” autorstwa Ronalda T. Kneusela. Przeczytałem dotąd ponad 60 książek o sztucznej inteligencji, a chociaż niektóre z nich są powtarzalne, ta książka zaoferowała świeży punkt widzenia, wystarczająco interesujący, aby dodać ją do mojej osobistej listy Najlepszych książek o machine learning i sztucznej inteligencji wszech czasów.

„How AI Works: From Sorcery to Science” to zwięzła i klarowna książka, która ma na celu wyjaśnić podstawowe fundamenty machine learning. Poniżej znajdują się pytania, które zostały zadane autorowi Ronaldowi T. Kneuselowi.

To twoja trzecia książka o sztucznej inteligencji, poprzednie to: “Practical Deep Learning: A Python-Base Introduction” i “Math for Deep Learning: What You Need to Know to Understand Neural Networks”. Jaki był twój pierwotny zamiar, gdy zdecydowałeś się napisać tę książkę?

Inna grupa docelowa. Moje poprzednie książki są przeznaczone jako wprowadzenie dla osób zainteresowanych zostaniem praktykami sztucznej inteligencji. Ta książka jest dla czytelników ogólnych, osób, które słyszą wiele o sztucznej inteligencji w wiadomościach, ale nie mają żadnego tła w tej dziedzinie. Chcę pokazać czytelnikom, skąd się wzięła sztuczna inteligencja, że nie jest magią i że każdy może zrozumieć, co robi.

Podczas gdy wiele książek o sztucznej inteligencji ma tendencję do generalizowania, ty zdecydowałeś się na odwrotny podejście, będąc bardzo szczegółowym w nauczaniu znaczenia różnych terminów i wyjaśnianiu relacji między sztuczną inteligencją, machine learningiem i głębokim uczeniem. Dlaczego uważasz, że istnieje tak wiele społecznych nieporozumień między tymi terminami?

Aby zrozumieć historię sztucznej inteligencji i dlaczego jest wszędzie, musimy zrozumieć różnicę między tymi terminami, ale w popularnym użyciu jest fair, aby używać „sztucznej inteligencji”, wiedząc, że odnosi się ona głównie do systemów sztucznej inteligencji, które transformują świat w tak szybkim tempie. Współczesne systemy sztucznej inteligencji wyłoniły się z głębokiego uczenia, które wyłoniło się z machine learningu i podejścia connectionistycznego do sztucznej inteligencji.

Drugi rozdział głęboko wnika w historię sztucznej inteligencji, od mitycznego Talosa, olbrzymiego robota, który miał strzec fenickiej księżniczki, do artykułu Alana Turinga z 1950 roku, “Computing Machinery and Intelligence”, do pojawienia się rewolucji głębokiego uczenia w 2012 roku. Dlaczego zrozumienie historii sztucznej inteligencji i machine learningu jest tak istotne, aby w pełni zrozumieć, jak daleko sztuczna inteligencja się rozwinęła?

Mój zamiar był taki, aby pokazać, że sztuczna inteligencja nie spadła z nieba. Ma historię, pochodzenie i ewolucję. Chociaż zdolności językowe dużych modeli językowych są zaskakujące, droga do nich nie jest. Jest to kwestia dziesięcioleci myśli, badań i eksperymentów.

Poświęciłeś cały rozdział, aby wyjaśnić starsze systemy sztucznej inteligencji, takie jak maszyny wektorowe, drzewa decyzyjne i lasy losowe. Dlaczego uważasz, że pełne zrozumienie tych klasycznych modeli sztucznej inteligencji jest takie istotne?

Sztuczna inteligencja jako sieci neuronowe jest po prostu innym podejściem do tego samego rodzaju modelowania opartego na optymalizacji, co wiele wcześniejszych modeli machine learningu. Jest to inny sposób myślenia o tym, co oznacza rozwój modelu pewnego procesu, pewnej funkcji, która mapuje dane wejściowe na dane wyjściowe. Zrozumienie wcześniejszych typów modeli pomaga zrozumieć, skąd pochodzą obecne modele.

Twierdzisz, że model LLM OpenAI ChatGPT to początek prawdziwej sztucznej inteligencji. Co twoim zdaniem było największym przełomem między tym a poprzednimi metodami podejścia do sztucznej inteligencji?

Ostatnio obejrzałem film z późnych lat 80-tych, na którym Richard Feynman próbował odpowiedzieć na pytanie o inteligentne maszyny. Stwierdził, że nie wie, jaki program mógłby działać inteligentnie. W pewnym sensie mówił o symbolicznej sztucznej inteligencji, gdzie tajemnica inteligencji polega na znalezieniu magicznej sekwencji operacji logicznych, itp., które umożliwiają inteligentne zachowanie. Zastanawiałem się, jak to zrobić.

Uważam, że tak naprawdę nie można. Inteligencja pojawia się z wystarczająco złożonych systemów, które mogą implementować to, co nazywamy inteligencją (tj. nas). Nasze mózgi są ogromnie złożonymi sieciami podstawowych jednostek. To samo dotyczy sieci neuronowej. Uważam, że architektura transformatora, zaimplementowana w LLM, przypadkowo natrafiła na podobne ustawienie podstawowych jednostek, które mogą współpracować, aby umożliwić pojawienie się inteligentnego zachowania.

Ze jednej strony, jest to ostateczny „happy accident” Boba Rossa, z drugiej strony nie powinno to być zaskakujące, gdy ustawienie i interakcje między podstawowymi jednostkami, które umożliwiają pojawienie się inteligentnego zachowania, się pojawią. Wydaje się teraz jasne, że modele transformatora są jednym z takich ustawień. Oczywiście, to rodzi pytanie: jakie inne ustawienia mogą istnieć?

Twoim przesłaniem jest, że nowoczesna sztuczna inteligencja (LLM) jest w swojej istocie po prostu siecią neuronową, która jest szkolona przez backpropagation i gradient descent. Czy osobiscie jesteś zaskoczony, jak skuteczne są LLM?

Tak i nie. Jestem ciągle zaskoczony ich odpowiedziami i zdolnościami, gdy je używam, ale odnosząc się do poprzedniego pytania, pojawiająca się inteligencja jest realna, więc dlaczego nie miałaby się pojawić w wystarczająco dużym modelu z odpowiednią architekturą? Uważam, że badacze, tacy jak Frank Rosenblatt, jeśli nie wcześniej, prawdopodobnie myśleli podobnie.

Misją OpenAI jest „zapewnienie, że ogólna sztuczna inteligencja – systemy sztucznej inteligencji, które są ogólnie bardziej inteligentne niż ludzie – będą korzystne dla całej ludzkości”. Czy osobiscie wierzysz, że ogólna sztuczna inteligencja jest osiągalna?

Nie wiem, co oznacza ogólna sztuczna inteligencja, tak jak nie wiem, co oznacza świadomość, więc trudno mi odpowiedzieć. Jak stwierdzam w książce, może dojść do momentu, bardzo szybko, kiedy będzie bezcelowe dbanie o takie rozróżnienia – jeśli chodź jak kaczka i kwacze jak kaczka, po prostu nazwij ją kaczką i idź dalej.

Cheeky odpowiedzi na bok, jest całkowicie możliwe, że system sztucznej inteligencji może, wkrótce, spełnić wiele teorii świadomości. Czy chcemy w pełni świadomych (cokolwiek to naprawdę oznacza) systemów sztucznej inteligencji? Być może nie. Jeśli są świadome, to są jak my i są osobami z prawami – i nie myślę, że świat jest gotowy na sztuczne osoby. Mamy już wystarczająco dużo kłopotów z poszanowaniem praw naszych współczłowieków, nie mówiąc już o prawach jakichkolwiek innych istot.

Czy było coś, czego nauczyłeś się podczas pisania tej książki, co cię zaskoczyło?

Poza tym samym poziomem zaskoczenia, jakim cieszą się wszyscy inni, z powodu pojawiających się zdolności LLM, nie vraiment. Uczyłem się o sztucznej inteligencji jako student w latach 80-tych. Zacząłem pracować z machine learningiem na początku lat 2000-tych i był zaangażowany w głębokie uczenie, gdy pojawiło się na początku lat 2010-tych. Świadkiem byłem rozwoju ostatniej dekady na własne oczy, wraz z tysiącami innych, gdy ta dziedzina rosła dramatycznie z konferencji na konferencję.

Dziękuję za wspaniały wywiad, czytelnicy mogą również chcieć przeczytać moją recenzję tej książki. Książka jest dostępna we wszystkich głównych sklepach, w tym Amazon.