Что такое закон ускоряющихся возвратов? Как он приводит к AGI

В недавнем интервью, когда его спросили, когда он ожидает появления искусственного общего интеллекта (AGI), Илон Маск ответил “3-6 лет”. Генеральный директор Google DeepMind Демис Хассабис теперь считает, что AGI “через несколько лет, может быть, в течение десяти лет” как заявил на фестивале The Wall Street Journal’s Future of Everything.

Эти цифры считаются оптимистичными по сравнению с большинством экспертов отрасли искусственного интеллекта, которые считают, что AGI часто находится на расстоянии десятилетия, если не века. Некоторый пессимизм обусловлен страхом обязательств перед более коротким сроком, чтобы в конечном итоге оказаться неправым. Ведь в 1956 году на летней исследовательской программе в Дартмуте был придуман термин “искусственный интеллект” и началась работа в этой области, с ожиданием, что машина, столь же умная, как человек, будет существовать не более чем через поколение (25 лет).

Другие, такие как Джеффри Хинтон, известный как отец искусственного интеллекта, имеют немного более тонкую точку зрения. “До недавнего времени я думал, что это будет через 20-50 лет, прежде чем у нас будет общий искусственный интеллект. А теперь я думаю, что это может быть через 20 лет или меньше.”

Отрасль искусственного интеллекта продвинулась вперед быстро за последние несколько лет благодаря быстрому развитию алгоритмов глубокого обучения с подкреплением, многие из которых сейчас используются в больших языковых моделях (LLM).

Тем не менее, все эти прорывы привели только к узким приложениям искусственного интеллекта, таким как чат-боты и языковый перевод. Это в сравнении с AGI, типом искусственного интеллекта, который обладает способностью понимать, учиться и применять знания в широком диапазоне задач на уровне, сопоставимом с человеческим.

Отсутствие связи с AGI для многих кажется недостижимым, но для некоторых, кто верит в то, что называется “законом ускоряющихся возвратов”, это неизбежно, что мы в конечном итоге построим AGI.

Закон ускоряющихся возвратов был концептуализирован ни кем иным, как Рэем Курцвейлом, автором, изобретателем и футурологом. Он участвует в таких областях, как оптическое распознавание символов (OCR), синтез речи, технология распознавания речи, и он был нанят Google после публикации своей книги об искусственном интеллекте “Как создать разум”. Эта фундаментальная книга показывает, как нам нужно понять человеческий мозг, чтобы обратно инженерить его и создать идеальную мыслящую машину. Эта книга была настолько важна для будущего искусственного интеллекта, что Эрик Шмидт привлек Рэя Курцвейла для работы над проектами искусственного интеллекта после того, как прочитал эту фундаментальную книгу.

Самая релевантная книга Рэя Курцвейла – это “Близкая сингулярность“, поскольку после ее публикации в 2005 году ее прогнозы отражали технологический рост за последние два десятилетия. Самое главное, что Рэй Курцвейл предсказывает, что мы достигнем AGI к 2029 году, срок, который соответствует недавнему мнению Илона Маска и Демиса Хассабиса.

Закон гласит, что скорость изменения в широком диапазоне эволюционных систем (включая, но не ограничиваясь ростом технологий) имеет тенденцию увеличиваться экспоненциально.

В контексте технологического роста закон подразумевает, что мы можем ожидать быстрые технологические достижения в будущем, поскольку темп технологических инноваций сам по себе ускоряется. Рэй Курцвейл утверждает, что каждое новое поколение технологий строится на предыдущем, увеличивая потенциал для инноваций с экспоненциальной скоростью.

Этот закон демонстрирует, как взрывной рост ускоряющихся технологий, который в настоящее время возглавляется генеративным искусственным интеллектом, будет использовать другие волны сходимости экспоненциальных технологий, таких как производство микросхем и 3D-печать. Эта сходимость является катапультой для искусственного интеллекта, чтобы стать самым мощным приложением, когда-либо построенным.

В 2001 году Рэй Курцвейл предсказал следующее:

Анализ истории технологий показывает, что технологические изменения являются экспоненциальными, вопреки общепринятому “интуитивному линейному” взгляду. Итак, мы не испытаем 100 лет прогресса в 21 веке – это будет больше похоже на 20 000 лет прогресса (по текущей скорости). “Возвраты”, такие как скорость микросхем и эффективность затрат, также увеличиваются экспоненциально. Есть даже экспоненциальный рост в скорости экспоненциального роста. В течение нескольких десятилетий машинный интеллект превзойдет человеческий интеллект, что приведет к Сингулярности – технологическим изменениям, столь быстрым и глубоким, что они представляют собой разрыв в ткани человеческой истории. Последствия включают слияние биологического и небиологического интеллекта, программных людей с бессмертной возможностью, и сверхвысокие уровни интеллекта, которые распространяются во Вселенной со скоростью света.

Этот технологический взрыв обусловлен законом Мура, который предсказал, что количество транзисторов на данной микросхеме будет удваиваться примерно каждые два года. Это в сочетании с другими технологическими прорывами иллюстрирует, что закон ускоряющихся возвратов процветает. Это наблюдения Рэя Курцвейла о том, что это будет означать для будущего человечества:

• Эволюция применяет положительную обратную связь, поскольку более способные методы, полученные в результате одного этапа эволюционного прогресса, используются для создания следующего этапа. В результате
• скорость прогресса эволюционного процесса увеличивается экспоненциально во времени. Со временем “порядок” информации, встроенной в эволюционный процесс (т. е. мера того, насколько хорошо информация соответствует цели, которая в эволюции является выживанием), увеличивается.
• Связанная с вышеуказанным наблюдением является то, что “возвраты” эволюционного процесса (например, скорость, эффективность затрат или общая “мощность” процесса) увеличиваются экспоненциально во времени.
• В другой положительной обратной связи, поскольку определенный эволюционный процесс (например, вычисления) становится более эффективным (например, экономически эффективным), больше ресурсов выделяется на дальнейший прогресс этого процесса. Это приводит к второму уровню экспоненциального роста (т. е. скорость экспоненциального роста сама по себе увеличивается экспоненциально).
• Биологическая эволюция – это один из таких эволюционных процессов.
• Технологическая эволюция – это другой такой эволюционный процесс. Действительно, возникновение первого технологического вида, создающего технологии, привело к новому эволюционному процессу технологий. Следовательно, технологическая эволюция является продолжением биологической эволюции.
• Конкретная парадигма (метод или подход к решению проблемы, например, уменьшение транзисторов на интегральной схеме как подход к созданию более мощных компьютеров) обеспечивает экспоненциальный рост до тех пор, пока метод не исчерпает свой потенциал. Когда это происходит, происходит сдвиг парадигмы (т. е. фундаментальное изменение подхода), который позволяет экспоненциальному росту продолжаться.

Читателям следует прочитать блог Рэя Курцвейла, а затем они должны подумать о последствиях этого экспоненциального роста и о том, как он соответствует и отличается от того, что они лично испытали с момента первоначальной публикации блога.

Закон ускоряющихся возвратов, хотя и не так популярен, как закон Мура, остается столь же актуальным сегодня, как и когда он был впервые опубликован.