Рональд Т. Нюзель, автор книги «Как работает ИИ: от магии к науке» — серия интервью

Недавно мы получили расширенный экземпляр книги Рональда Т. Кнезеля «Как работает искусственный интеллект: от магии к науке». На данный момент я прочитал более 60 книг об искусственном интеллекте, и, хотя некоторые из них действительно повторяются, эта книга сумела предложить свежий взгляд, и мне настолько понравилась эта книга, что я добавил ее в свой личный список лучших книг. Лучшие книги по машинному обучению и искусственному интеллекту всех времен.

«Как работает искусственный интеллект: от магии к науке» — это краткая и четкая книга, призванная изложить основные основы обучение с помощью машины. Ниже приведены некоторые вопросы, которые были заданы автору Рональду Т. Кнезелю.

Это ваша третья книга по искусственному интеллекту, первые две: «Практическое глубокое обучение: введение в основу Python» и «Математика для глубокого обучения: что вам нужно знать, чтобы понять нейронные сети». Каковы были ваши первоначальные намерения, когда вы решили написать эту книгу?

Разная целевая аудитория. Мои предыдущие книги предназначены для людей, заинтересованных в том, чтобы стать практиками ИИ. Эта книга предназначена для обычных читателей, людей, которые много слышат об ИИ в новостях, но не имеют в этом никакого опыта. Я хочу показать читателям, откуда появился ИИ, что это не волшебство и что каждый может понять, что он делает.

Хотя многие книги по искусственному интеллекту склонны к обобщениям, вы придерживаетесь противоположного подхода: очень конкретно объясняете значение различной терминологии и даже объясняете взаимосвязь между искусственным интеллектом, машинным обучением и глубоким обучением. Как вы думаете, почему в обществе так много путаницы между этими терминами?

Чтобы понять историю ИИ и то, почему он повсюду, куда бы мы ни посмотрели сейчас, нам нужно понять разницу между этими терминами, но в популярном использовании справедливо использовать «ИИ», зная, что оно относится в первую очередь к системам ИИ, которые преобразуют мир. так очень быстро. Современные системы искусственного интеллекта возникли в результате глубокого обучения, возникшего в результате машинного обучения и коннекционистского подхода к искусственному интеллекту.

Вторая глава глубоко погружается в историю искусственного интеллекта: от мифа о Талосе, гигантском роботе, призванном охранять феонекскую принцессу, до статьи Алана Тьюринга 1950-х годов «Вычислительная техника и интеллект» и до появления революции глубокого обучения в 2012 году. Почему понимание истории искусственного интеллекта и машинного обучения важно для полного понимания того, как далеко развился искусственный интеллект?

Мое намерение показать, что ИИ не просто упал с неба. У него есть история, происхождение и эволюция. Хотя новые возможности больших языковых моделей вызывают удивление, путь, ведущий к ним, не является сюрпризом. Это одно из десятилетий размышлений, исследований и экспериментов.

Вы посвятили целую главу пониманию устаревших систем искусственного интеллекта, таких как машины опорных векторов, деревья решений и случайные леса. Почему вы считаете, что полное понимание этих классических моделей ИИ так важно?

ИИ в качестве нейронных сетей — это просто (!) Альтернативный подход к тому же типу моделирования на основе оптимизации, который использовался во многих более ранних моделях машинного обучения. Это другой взгляд на то, что значит разработать модель какого-то процесса, какой-то функции, которая сопоставляет входные данные с выходными данными. Знание о более ранних типах моделей помогает понять, откуда взялись нынешние модели.

Вы заявляете, что верите, что модель LLM OpenAI ChatGPT — это заря настоящего ИИ. Что, по вашему мнению, больше всего изменило правила игры между этим и предыдущими методами борьбы с ИИ?

Недавно я просмотрел видео конца 1980-х годов, где Ричард Фейнман пытается ответить на вопрос об интеллектуальных машинах. Он заявил, что не знает, какая программа может действовать разумно. В каком-то смысле он говорил о символическом ИИ, где тайна интеллекта заключается в нахождении магической последовательности логических операций и т. д., обеспечивающих разумное поведение. Раньше я, как и многие, задавался одним и тем же вопросом – как программировать интеллект?

Я убежден, что вы действительно не можете. Скорее, интеллект возникает из достаточно сложных систем, способных реализовать то, что мы называем интеллектом (т. е. мы сами). Наш мозг представляет собой чрезвычайно сложную сеть основных единиц. Это также то, что представляет собой нейронная сеть. Я думаю, что архитектура преобразователя, реализованная в LLM, несколько случайно наткнулась на подобную компоновку базовых блоков, которые могут работать вместе, обеспечивая появление разумного поведения.

С одной стороны, это в конечном итоге «счастливая случайность» Боба Росса, а с другой, это не должно вызывать большого удивления, когда произойдет расположение и разрешенные взаимодействия между базовыми единицами, способными обеспечить возникающее разумное поведение. Теперь кажется очевидным, что модели-трансформеры являются одним из таких устройств. Конечно, возникает вопрос: какие еще могут быть подобные механизмы?

Вывод: в основе современного искусственного интеллекта (LLMS) лежит просто нейронная сеть, обучаемая методом обратного распространения ошибки и градиентного спуска. Вы лично удивлены тем, насколько эффективны программы LLM?

Да и нет. Я постоянно поражаюсь их реакции и способностям, когда использую их, но, возвращаясь к предыдущему вопросу, возникающий интеллект реален, так почему бы ему не проявиться в достаточно большой модели с подходящей архитектурой? Я думаю, что исследователи, ещё Фрэнк Розенблатт, если не раньше, вероятно, думали примерно так же.

Миссия OpenAI заключается в том, чтобы «гарантировать, что общий искусственный интеллект — системы искусственного интеллекта, которые, как правило, умнее людей — приносят пользу всему человечеству». Вы лично верите, что AGI достижим?

Я знаю, что такое ОИИ, не больше, чем знаю, что такое сознание, поэтому ответить сложно. Как я заявляю в книге, вполне может наступить момент, очень скоро, когда станет бессмысленно заботиться о таких различиях — если он ходит, как утка, и крякает, как утка, просто назовите его уткой и продолжайте в том же духе.

Если оставить в стороне дерзкие ответы, вполне возможно, что система ИИ когда-нибудь сможет удовлетворить многие теории сознания. Хотим ли мы полностью сознательных (что бы это на самом деле ни значило) систем искусственного интеллекта? Возможно нет. Если оно сознательное, то оно похоже на нас и, следовательно, на человека с правами – и я не думаю, что мир готов к искусственным личностям. У нас достаточно проблем с уважением прав наших собратьев, не говоря уже о правах любого другого существа.

Было ли что-нибудь из того, что вы узнали во время написания этой книги, что застало вас врасплох?

Помимо того же уровня удивления, которое испытывают все остальные по поводу новых способностей LLM, не совсем так. Я узнал об искусственном интеллекте, будучи студентом, в 1980-х годах. Я начал работать с машинным обучением в начале 2000-х и занимался глубоким обучением, появившимся в начале 2010-х. Я, как и тысячи других, был свидетелем событий последнего десятилетия воочию, поскольку эта область резко развивалась от конференции к конференции.

Спасибо за отличное интервью, читатели, возможно, захотят взглянуть и на мое обзор этой книги. Книга доступна во всех крупных розничных магазинах, включая Amazon.