Роналд Т. Кнюсел, автор на „Как работи изкуственият интелект: от магьосничеството до науката“ – поредица от интервюта

Наскоро получихме разширено копие на книгата „Как работи AI: От магьосничеството до науката“ от Роналд Т. Кнюсел. Досега съм прочел над 60 книги за AI и въпреки че някои от тях се повтарят, тази книга успя да предложи нова гледна точка, харесах тази книга достатъчно, за да я добавя към моя личен списък на Най-добрите книги за машинно обучение и AI на всички времена.

„Как работи AI: От магьосничеството до науката“ е кратка и ясна книга, предназначена да очертае основните основи на машинно обучение. По-долу са някои въпроси, зададени на автора Роналд Т. Кнюсел.

Това е третата ви книга за изкуствен интелект, като първите две са: „Практическо задълбочено обучение: Въведение в основата на Python“ и „Математика за задълбочено обучение: Какво трябва да знаете, за да разберете невронните мрежи“. Какво беше първоначалното ви намерение, когато се заехте да напишете тази книга?

Различна целева аудитория. Предишните ми книги са предназначени като въведение за хора, които се интересуват да станат практикуващи AI. Тази книга е за обикновени читатели, хора, които чуват много за ИИ в новините, но нямат предистория в това. Искам да покажа на читателите откъде идва AI, че това не е магия и че всеки може да разбере какво прави.

Въпреки че много книги за AI са склонни да обобщават, вие сте възприели обратния подход, като сте много специфични в преподаването на значението на различни терминологии и дори обяснявате връзката между AI, машинно обучение и дълбоко обучение. Защо смятате, че има толкова много обществено объркване между тези термини?

За да разберем историята на AI и защо е навсякъде, където погледнем сега, трябва да разберем разликата между термините, но в популярната употреба е честно да използваме „AI“, като знаем, че се отнася предимно за AI системите, които трансформират света толкова бързо. Съвременните AI системи се появиха от дълбокото обучение, което се появи от машинното обучение и подхода на свързване към AI.

Втората глава се гмурка дълбоко в историята на ИИ, от мита за Талос, гигантски робот, предназначен да пази принцеса от Феоникия, до статията на Алън Тюринг от 1950-те години на миналия век, „Компютърни машини и интелект“, до появата на революцията на дълбокото обучение през 2012 г. , Защо разбирането на историята на AI и машинното обучение е инструмент за пълното разбиране докъде е еволюирал AI?

Намерението ми е да покажа, че ИИ не е паднал просто от небето. Има история, произход и еволюция. Въпреки че възникващите способности на големите езикови модели са изненада, пътят, водещ до тях, не е такъв. Това е едно от десетилетия на мислене, изследвания и експерименти.

Вие посветихте цяла глава на разбирането на наследени системи за изкуствен интелект, като машини за поддържащи вектори, дървета на решения и произволни гори. Защо смятате, че пълното разбиране на тези класически AI модели е толкова важно?

AI като невронни мрежи е просто (!) алтернативен подход към същия вид базирано на оптимизация моделиране, което се среща в много по-ранни модели на машинно обучение. Това е различен поглед върху това какво означава да се разработи модел на някакъв процес, някаква функция, която преобразува входовете към изходите. Познаването на по-ранни типове модели помага да се определи откъде идват настоящите модели.

Вие заявявате своето убеждение, че LLM моделът на ChatGPT на OpenAI е зората на истинския AI. Кое според вас беше най-голямата разлика между този и предишните методи за справяне с ИИ?

Наскоро гледах видео от края на 1980-те години на Ричард Файнман, който се опитва да отговори на въпрос относно интелигентните машини. Той каза, че не знае каква програма може да действа интелигентно. В известен смисъл той говореше за символичен ИИ, където мистерията на интелигентността е намирането на магическата последователност от логически операции и т.н., които позволяват интелигентно поведение. Преди се чудех, като мнозина, за едно и също нещо – как програмираш интелекта?

Вярвам, че наистина не можете. По-скоро интелигентността възниква от достатъчно сложни системи, способни да реализират това, което наричаме интелигентност (т.е. нас). Нашите мозъци са изключително сложни мрежи от основни единици. Това е и невронната мрежа. Мисля, че трансформаторната архитектура, както е внедрена в LLMs, донякъде случайно се е натъкнала на подобна подредба на основни единици, които могат да работят заедно, за да позволят появата на интелигентно поведение.

От една страна, това е най-голямата „щастлива случайност“ на Боб Рос, докато от друга, не би трябвало да е твърде изненадващо, след като са се случили подредбата и разрешените взаимодействия между основните единици, способни да позволят възникващо интелигентно поведение. Сега изглежда ясно, че трансформаторните модели са едно такова устройство. Разбира се, това повдига въпроса: какви други подобни договорености може да има?

Вашето послание за вкъщи е, че съвременният AI (LLMS) е в основата, просто една невронна мрежа, която се обучава чрез обратно разпространение и градиентно спускане. Вие лично изненадани ли сте колко ефективни са LLM?

Да и не. Непрекъснато съм изумен от отговорите и способностите им, докато ги използвам, но като се върна към предишния въпрос, възникващият интелект е реален, така че защо да не се появи в достатъчно голям модел с подходяща архитектура? Мисля, че изследователи още като Франк Розенблат, ако не и по-рано, вероятно са мислили почти същото.

Мисията на OpenAI е „да гарантира, че изкуственият общ интелект – AI системи, които като цяло са по-умни от хората – е от полза за цялото човечество“. Вие лично вярвате ли, че AGI е постижимо?

Не знам какво означава AGI повече, отколкото знам какво означава съзнание, така че ми е трудно да отговоря. Както заявявам в книгата, съвсем скоро може да дойде момент, в който е безсмислено да се интересуваме от подобни разграничения – ако ходи като патица и кряка като патица, просто го наречете патица и се заемете с това.

Като оставим настрана нахалните отговори, напълно е възможно една AI система някой ден да задоволи много теории за съзнанието. Искаме ли напълно съзнателни (каквото и да означава това) AI системи? Може би не. Ако е съзнателно, значи е като нас и следователно е човек с права – и не мисля, че светът е готов за изкуствени личности. Имаме достатъчно проблеми със зачитането на правата на нашите събратя, да не говорим за тези на всеки друг вид същества.

Имаше ли нещо, което научихте по време на писането на тази книга, което ви изненада?

Отвъд същото ниво на изненада, което всички останали се чувстват при възникващите способности на LLMs, не наистина. Научих за AI като студент през 1980-те години. Започнах да работя с машинно обучение в началото на 2000-те години и се занимавах с дълбокото обучение, както се появи в началото на 2010-те. Бях свидетел на събитията от последното десетилетие от първа ръка, заедно с хиляди други, докато полето се разрастваше драматично от конференция на конференция.

Благодаря ви за страхотното интервю, читателите също може да искат да погледнат моето преглед на тази книга. Книгата се предлага във всички големи търговци на дребно, включително Амазонка.