Рональд Т. Кнеусел, автор книги “Как работает ИИ: от колдовства к науке” – Серия интервью

Мы недавно получили предварительную копию книги «Как работает ИИ: от колдовства к науке» Рональда Т. Кнеусела. Я прочитал более 60 книг об ИИ, и хотя некоторые из них могут показаться повторяющимися, эта книга смогла предложить свежий взгляд, я достаточно наслаждался этой книгой, чтобы добавить ее в мой личный список лучших книг по машинному обучению и ИИ всех времен.

«Как работает ИИ: от колдовства к науке» – это краткая и ясная книга, предназначенная для определения основных фундаментальных концепций машинного обучения. Ниже приведены вопросы, которые были заданы автору Рональду Т. Кнеуселу.

Это ваша третья книга об ИИ, первые две – “Практическое глубокое обучение: введение на основе Python” и “Математика для глубокого обучения: что вам нужно знать, чтобы понять нейронные сети”. Какова была ваша первоначальная цель, когда вы начали писать эту книгу?

Различная целевая аудитория. Мои предыдущие книги предназначены как введение для людей, интересующихся становлением практиками ИИ. Эта книга предназначена для широкой аудитории, людей, которые много слышат об ИИ в новостях, но не имеют опыта в этой области. Я хочу показать читателям, откуда появился ИИ, что он не является магией, и что любой может понять, что он делает.

Хотя многие книги об ИИ склонны к общности, вы выбрали противоположный подход, будучи очень конкретными в обучении значению различных терминов и даже объясняя связь между ИИ, машинным обучением и глубоким обучением. Почему вы считаете, что существует так много социальной путаницы между этими терминами?

Чтобы понять историю ИИ и почему он везде вокруг нас, нам нужно понять различие между терминами, но в популярном использованииfair использовать «ИИ», зная, что он в основном относится к ИИ-системам, которые так быстро меняют мир. Современные ИИ-системы возникли из глубокого обучения, которое возникло из машинного обучения и связного подхода к ИИ.

Вторая глава глубоко погружается в историю ИИ, от мифа о Талосе, гигантском роботе, предназначенном для охраны финикийской принцессы, до статьи Алана Тьюринга 1950-х годов «Машины и интеллект», а также о начале глубокого обучения в 2012 году. Почему понимание истории ИИ и машинного обучения важно для полного понимания того, как далеко ИИ продвинулся?

Моя цель – показать, что ИИ не упал с неба. У него есть история, происхождение и эволюция. Хотя эмерджентные способности больших языковых моделей являются сюрпризом, путь, ведущий к ним, не является таковым. Это результат десятилетий размышлений, исследований и экспериментов.

Вы посвятили целую главу пониманию устаревших ИИ-систем, таких как машины опорных векторов, деревья решений и случайные леса. Почему вы считаете, что полное понимание этих классических моделей ИИ так важно?

ИИ как нейронные сети – это просто (!) альтернативный подход к тому же виду оптимизационного моделирования, найденного во многих ранних моделях машинного обучения. Это другой взгляд на то, что значит разработать модель некоторого процесса, некоторой функции, которая сопоставляет входы с выходами. Знание о более ранних типах моделей помогает понять, откуда возникли современные модели.

Вы заявляете, что модель LLM ChatGPT от OpenAI – это заря истинного ИИ. Что, по вашему мнению, было самым большим изменением между этим и предыдущими методами решения ИИ?

Я недавно просмотрел видео из конца 1980-х годов, на котором Ричард Фейнман пытается ответить на вопрос об интеллектуальных машинах. Он заявил, что не знает, какой программой можно создать интеллектуальную машину. В某ком смысле, он говорил о символическом ИИ, где загадка интеллекта заключается в нахождении магической последовательности логических операций и т. д., которые позволяют проявлять интеллектуальное поведение. Я раньше задавался вопросом, как и многие другие, о том же – как запрограммировать интеллект?

Мое мнение заключается в том, что это действительно невозможно. Скорее, интеллект возникает из достаточно сложных систем, способных реализовывать то, что мы называем интеллектом (т. е. нас). Наши мозги являются чрезвычайно сложными сетями из базовых единиц. То же самое относится и к нейронной сети. Я думаю, что архитектура трансформера, реализованная в LLM, случайно наткнулась на подобную расстановку базовых единиц, которые могут работать вместе, чтобы позволить возникнуть интеллектуальному поведению.

С одной стороны, это идеальный «счастливый случай» Боба Росса, а с другой – не должно быть слишком удивительным, когда расстановка и разрешенные взаимодействия между базовыми единицами, способными позволить возникнуть эмерджентному интеллекту, произошли. Похоже, теперь ясно, что модели трансформера – это один из таких расстановок. Конечно, это вызывает вопрос: какие еще расстановки могут быть?

Ваше основное сообщение заключается в том, что современный ИИ (LLM) в своей основе является просто нейронной сетью, обученной обратным распространением и градиентным спуском. Вы лично удивлены тем, насколько эффективны LLM?

Да и нет. Я постоянно поражаюсь их ответами и способностями, когда использую их, но, обращаясь к предыдущему вопросу, эмерджентный интеллект реален, поэтому почему бы ему не возникнуть в достаточно большой модели с подходящей архитектурой? Я думаю, что исследователи, такие как Фрэнк Розенблатт, если не раньше, вероятно, думали примерно то же самое.

Девиз OpenAI – «обеспечить, чтобы искусственный общий интеллект – ИИ-системы, которые в целом умнее людей – принесли пользу всему человечеству». Вы лично считаете, что AGI достижимо?

Я не знаю, что значит AGI, не более, чем знаю, что значит сознание, поэтому трудно ответить. Как я заявляю в книге, может наступить момент, очень скоро, когда станет бессмысленным заботиться о таких различиях – если это ходит как утка и квакает как утка, просто назовите это уткой и продолжайте.

Шутливые ответы в сторону, вполне возможно, что ИИ-система может когда-нибудь удовлетворить многие теории сознания. Хотим ли мы полностью сознательных (что бы это ни значило) ИИ-систем? Возможно, нет. Если это сознательно, то оно подобно нам и, следовательно, является человеком с правами – и я не думаю, что мир готов к искусственным людям. У нас уже достаточно проблем с уважением прав наших собратьев-людей, не говоря уже о правах любого другого существа.

Было ли что-то, что вы узнали во время написания этой книги, что вас удивило?

За пределами того же уровня удивления, который чувствуют все остальные, от эмерджентных способностей LLM, нет. Я узнал об ИИ как студент в 1980-х годах. Я начал работать с машинным обучением в начале 2000-х годов и был вовлечен в глубокое обучение, когда оно возникло в начале 2010-х годов. Я стал свидетелем развития последнего десятилетия лично, вместе с тысячами других, когда эта область выросла драматически от конференции к конференции.

Спасибо за отличный интервью, читателям также может быть интересно посмотреть мою рецензию на эту книгу. Книга доступна во всех крупных магазинах, включая Amazon.