Рональд Т. Кнеусел, автор книги “Как работает ИИ: от магии к науке” – Интервью

Недавно мы получили предварительную копию книги «Как работает ИИ: от магии к науке» Рональда Т. Кнеусела. Я прочитал более 60 книг об ИИ, и хотя некоторые из них повторяются, эта книга смогла предложить свежий взгляд, мне она понравилась enough, чтобы добавить ее в мой личный список лучших книг о машинном обучении и ИИ всех времен.

«Как работает ИИ: от магии к науке» – это краткая и ясная книга, предназначенная для объяснения основных фундаментальных концепций машинного обучения. Ниже приведены некоторые вопросы, которые были заданы автору Рональду Т. Кнеуселу.

Это ваша третья книга об ИИ, первые две – “Практическое глубокое обучение: введение на основе Python” и “Математика для глубокого обучения: что вам нужно знать, чтобы понять нейронные сети”. Какова была ваша первоначальная цель, когда вы начали писать эту книгу?

Различная целевая аудитория. Мои предыдущие книги предназначены как введение для людей, интересующихся становлением практиками ИИ. Эта книга предназначена для широкой аудитории, людей, которые много слышат об ИИ в новостях, но не имеют никакого опыта в этой области. Я хочу показать читателям, откуда появился ИИ, что он не является магией и что любой может понять, что он делает.

Хотя многие книги об ИИ склонны обобщать, вы выбрали противоположный подход, будучи очень конкретными в объяснении значения различных терминов и даже объясняя связь между ИИ, машинным обучением и глубоким обучением. Почему, по вашему мнению, существует так много социальной путаницы между этими терминами?

Чтобы понять историю ИИ и почему он сейчас везде, нам нужно понять различие между этими терминами, но в популярном использовании вполне допустимо использовать термин “ИИ”, зная, что он в основном относится к ИИ-системам, которые так быстро трансформируют мир. Современные ИИ-системы возникли из глубокого обучения, которое, в свою очередь, возникло из машинного обучения и связного подхода к ИИ.

Вторая глава глубоко погружается в историю ИИ, от мифа о Талосе, гигантском роботе, предназначенном для охраны финикийской принцессы, до статьи Алана Тьюринга 1950-х годов “Машины и интеллект”, и до появления революции глубокого обучения в 2012 году. Почему понимание истории ИИ и машинного обучения так важно для полного понимания того, как далеко продвинулся ИИ?

Моя цель – показать, что ИИ не упал с неба. У него есть история, происхождение и эволюция. Хотя появление способностей больших языковых моделей является сюрпризом, путь, ведущий к ним, не является таковым. Это результат десятилетий размышлений, исследований и экспериментов.

Вы посвятили целую главу пониманию классических ИИ-систем, таких как машины опорных векторов, деревья решений и случайные леса. Почему, по вашему мнению, полное понимание этих классических моделей ИИ так важно?

ИИ как нейронные сети – это всего лишь альтернативный подход к тому же типу оптимизационного моделирования, который встречается во многих ранних моделях машинного обучения. Это другой взгляд на то, что значит разработать модель некоторого процесса, некоторую функцию, которая сопоставляет входы с выходами. Знание о более ранних типах моделей помогает понять, откуда возникли современные модели.

Вы заявляете, что модель LLM от ChatGPT является началом истинного ИИ. Что, по вашему мнению, было самым большим прорывом между этим и предыдущими методами решения задач ИИ?

Я недавно смотрел видео конца 1980-х годов, на котором Ричард Фейнман пытался ответить на вопрос об интеллектуальных машинах. Он заявил, что не знает, какой программой можно сделать машину, способную действовать интеллектуально. В некотором смысле он говорил о символическом ИИ, где загадка интеллекта заключается в нахождении магической последовательности логических операций и т. д., которые позволяют проявлять интеллектуальное поведение. Я раньше задавался вопросом, как и многие другие, о том же – как запрограммировать интеллект?

Мое мнение заключается в том, что это невозможно. Скорее, интеллект возникает из достаточно сложных систем, способных реализовывать то, что мы называем интеллектом (т. е. нас). Наши мозги – это огромные сети базовых единиц. То же самое относится и к нейронным сетям. Я думаю, что архитектура трансформера, реализованная в LLM, случайно наткнулась на подобную структуру базовых единиц, которые могут работать вместе, чтобы позволить возникнуть интеллектуальному поведению.

С одной стороны, это идеальный “счастливый случай” в стиле Боба Росса, а с другой – не должно быть слишком удивительным, когда структура и взаимодействия между базовыми единицами, способными позволить возникнуть интеллектуальному поведению, произошли. Казалось бы, теперь ясно, что модели трансформера – это одна из таких структур. Конечно, это вызывает вопрос: какие еще такие структуры могут существовать?

Ваше основное сообщение заключается в том, что современный ИИ (LLM) в своей основе является просто нейронной сетью, обученной обратным распространением ошибки и градиентным спуском. Вы лично удивлены тем, насколько эффективны LLM?

Да и нет. Меня постоянно поражают их ответы и способности, когда я использую их, но, обращаясь к предыдущему вопросу, возникающий интеллект реален, поэтому почему бы ему не возникнуть в достаточно большой модели с подходящей архитектурой? Я думаю, что исследователи, такие как Фрэнк Розенблатт, если не раньше, вероятно, думали примерно то же самое.

Девиз OpenAI – “обеспечить, чтобы искусственный общий интеллект – ИИ-системы, которые в целом умнее человека – принесли пользу всему человечеству”. Вы лично верите, что достижение ИОИ возможно?

Я не знаю, что значит ИОИ, не более, чем знаю, что значит сознание, поэтому трудно ответить. Как я заявляю в книге, может наступить момент, очень скоро, когда станет бессмысленно заботиться о таких различиях – если это ходит как утка и квакает как утка, просто назовите это уткой и продолжайте.

Шутливые ответы в сторону, вполне возможно, что ИИ-система может когда-нибудь удовлетворить многие теории сознания. Хотим ли мы полностью сознательных (что бы это ни значило) ИИ-систем? Возможно, нет. Если это сознательно, то оно подобно нам и, следовательно, является человеком с правами – и я не думаю, что мир готов к искусственным людям. У нас уже достаточно проблем с уважением прав наших собратьев-людей, не говоря уже о правах любого другого вида существ.

Было ли что-то, что вы узнали во время написания этой книги, что вас удивило?

Помимо того же уровня удивления, который испытывают все остальные от возникающих способностей LLM, нет. Я узнал об ИИ как студент в 1980-х годах. Я начал работать с машинным обучением в начале 2000-х годов и был вовлечен в глубокое обучение, когда оно возникло в начале 2010-х годов. Я стал свидетелем развития последнего десятилетия вместе с тысячами других, когда эта область выросла драматически с конференции на конференцию.

Спасибо за отличное интервью, читатели также могут захотеть прочитать мою рецензию на эту книгу. Книга доступна во всех крупных магазинах, включая Amazon.