Что такое закон ускоряющихся возвращений? Как он приводит к AGI

В недавнем интервью, когда его спросили, когда он ожидает появления искусственного общего интеллекта (AGI), Илон Маск ответил “3-6 лет”. Генеральный директор Google DeepMind Демис Хассабис теперь считает, что AGI – это “несколько лет, может быть, в течение десятилетия” как заявил на фестивале The Wall Street Journal’s Future of Everything.

Эти цифры считаются оптимистичными по сравнению с большинством экспертов отрасли искусственного интеллекта, которые считают, что AGI часто находится на расстоянии десятилетия, если не столетия. Некоторый из этого пессимизма вызван страхом обязательств перед более коротким сроком, чтобы в конечном итоге оказаться неправильным. После всего, в 1956 году, на летнем исследовательском проекте в Дартмуте было придумано понятие “Искусственный интеллект” и начата как область, с ожиданием, что машина, столь же умная, как человек будет существовать в течение не более чем одного поколения (25 лет).

Другие, такие как Джеффри Хинтон, известный как крестный отец искусственного интеллекта, имеют немного более тонкую точку зрения. “До недавнего времени я думал, что это будет как 20-50 лет, прежде чем мы получим общий искусственный интеллект. А теперь я думаю, что это может быть 20 лет или меньше.”

Отрасль искусственного интеллекта развивалась быстро за последние несколько лет благодаря быстрому развитию алгоритмов глубокого обучения с подкреплением, многие из которых обеспечивают работу современных больших языковых моделей (LLM).

Тем не менее, все эти прорывы привели только к узким приложениям искусственного интеллекта, таким как чат-боты и языковая перевод. Это в сравнении с AGI, типом искусственного интеллекта, который обладает способностью понимать, учиться и применять знания в широком диапазоне задач на уровне, сопоставимом с уровнем человека.

Недостающая связь с AGI для многих кажется недостижимой, но для некоторых, кто верит в то, что называется “Закон ускоряющихся возвращений”, это неизбежно, что мы в конечном итоге построим AGI.

Закон ускоряющихся возвращений был концептуализирован никем иным, как Рэем Курцвейлом, автором, изобретателем и футурологом. Он участвует в областях, таких как оптическое распознавание символов (OCR), синтез речи, технология распознавания речи, и он был нанят Google после публикации его книги об искусственном интеллекте “Как создать разум”. Эта новаторская книга иллюстрирует, как нам нужно понять человеческий мозг, чтобы обратно инженерить его и создать окончательную думающую машину. Эта книга была настолько важна для будущего искусственного интеллекта, что Эрик Шмидт пригласил Рэя Курцвейла работать над проектами искусственного интеллекта после того, как прочитал эту фундаментальную книгу.

Самая актуальная книга Рэя Курцвейла – это “Близкая сингулярность“, поскольку ее публикация в 2005 году, ее прогнозы отражали технологический рост за последние 2 десятилетия. Самое главное, Рэй Курцвейл предсказывает, что мы достигнем AGI к 2029 году, срок, который соответствует недавнему мнению Илона Маска и Демиса Хассабиса.

Закон утверждает, что скорость изменения в широком диапазоне эволюционных систем (включая, но не ограничиваясь ростом технологий) имеет тенденцию к увеличению экспоненциально.

В контексте технологического роста закон подразумевает, что мы можем ожидать быстрые технологические достижения в будущем, потому что темп технологических инноваций сам ускоряется. Рэй Курцвейл утверждает, что каждое новое поколение технологий строится на предыдущем, увеличивая потенциал для инноваций с экспоненциальной скоростью.

Этот закон демонстрирует, как взрывной рост ускоряющихся технологий, который в настоящее время возглавляется генеративным искусственным интеллектом, будет использовать другие волны других сходящихся экспоненциальных технологий, таких как производство микросхем и 3D-печать. Эта конвергенция является катапультой для искусственного интеллекта, чтобы стать самым мощным приложением, когда-либо построенным.

В 2001 году Рэй Курцвейл предсказал следующее:

Анализ истории технологий показывает, что технологические изменения являются экспоненциальными, в отличие от общепринятого “интуитивного линейного” взгляда. Итак, мы не будем испытывать 100 лет прогресса в 21 веке – это будет больше похоже на 20 000 лет прогресса (по текущей скорости). “Возвращения”, такие как скорость микросхем и их эффективность, также увеличиваются экспоненциально. Есть даже экспоненциальный рост в скорости экспоненциального роста. В течение нескольких десятилетий машинный интеллект превзойдет человеческий интеллект, что приведет к Сингулярности – технологическим изменениям, столь быстрым и глубоким, что они представляют собой разрыв в ткани человеческой истории. Последствия включают слияние биологического и небиологического интеллекта, программных людей с бессмертной основой, и сверхвысокие уровни интеллекта, которые распространяются во Вселенной со скоростью света.

Этот технологический взрыв вызван законом Мура, который предсказал, что количество транзисторов на данной микросхеме будет удваиваться примерно каждые два года. Это, в сочетании с другими технологическими прорывами, иллюстрирует, что закон ускоряющихся возвращений процветает. Это наблюдения Рэя Курцвейла за тем, что это будет означать для будущего человечества:

• Эволюция применяет положительную обратную связь в том, что более способные методы, полученные из одного этапа эволюционного прогресса, используются для создания следующего этапа. В результате скорость прогресса эволюционного процесса увеличивается экспоненциально со временем. Со временем “порядок” информации, встроенной в эволюционный процесс (т.е. мера того, насколько хорошо информация подходит для цели, которая в эволюции является выживанием), увеличивается.
• Связанная с вышеуказанным наблюдением является то, что “возвращения” эволюционного процесса (например, скорость, эффективность или общая “мощность” процесса) увеличиваются экспоненциально со временем.
• В другой положительной обратной связи, когда определенный эволюционный процесс (например, вычисления) становится более эффективным (например, экономически эффективным), больше ресурсов направляется на дальнейший прогресс этого процесса. Это приводит к второму уровню экспоненциального роста (т.е. скорость экспоненциального роста сама увеличивается экспоненциально).
• Биологическая эволюция – это один из таких эволюционных процессов.
• Технологическая эволюция – это другой такой эволюционный процесс. Действительно, возникновение первого технологического вида, создающего технологию, привело к новому эволюционному процессу технологии. Следовательно, технологическая эволюция является производным и продолжением биологической эволюции.
• Конкретная парадигма (метод или подход к решению проблемы, например, уменьшение транзисторов на интегральной схеме как подход к созданию более мощных компьютеров) обеспечивает экспоненциальный рост до тех пор, пока метод не исчерпает свой потенциал. Когда это происходит, происходит сдвиг парадигмы (т.е. фундаментальное изменение подхода), который позволяет продолжать экспоненциальный рост.

Читатели должны прочитать блог Рэя Курцвейла, а затем они должны подумать о последствиях этого экспоненциального роста и о том, как он соответствует и отличается от того, что они лично испытали с момента первоначальной публикации блога.

Закон ускоряющихся возвращений, хотя и не так популярен, как закон Мура, остается столь же актуальным сегодня, как и когда он был впервые опубликован.